CN111380534A - 用于自动驾驶车辆的基于st图学习的决策 - Google Patents

用于自动驾驶车辆的基于st图学习的决策 Download PDF

Info

Publication number
CN111380534A
CN111380534A CN201910858148.1A CN201910858148A CN111380534A CN 111380534 A CN111380534 A CN 111380534A CN 201910858148 A CN201910858148 A CN 201910858148A CN 111380534 A CN111380534 A CN 111380534A
Authority
CN
China
Prior art keywords
autonomous vehicle
path
tensor
processor
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910858148.1A
Other languages
English (en)
Other versions
CN111380534B (zh
Inventor
许珂诚
樊昊阳
张雅嘉
罗琦
潘嘉诚
缪景皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN111380534A publication Critical patent/CN111380534A/zh
Application granted granted Critical
Publication of CN111380534B publication Critical patent/CN111380534B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20—Instruments for performing navigational calculations
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0221—Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory involving a learning process
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0011—Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/02—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to ambient conditions
    • B60W40/06—Road conditions
    • B60W40/072—Curvature of the road
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/046—Forward inferencing; Production systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0014—Adaptive controllers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0001—Details of the control system
    • B60W2050/0002—Automatic control, details of type of controller or control system architecture
    • B60W2050/0016—State machine analysis
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2554/00—Input parameters relating to objects
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2555/00—Input parameters relating to exterior conditions, not covered by groups B60W2552/00, B60W2554/00
    • B60W2555/60—Traffic rules, e.g. speed limits or right of way
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00—Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units, or advanced driver assistance systems for ensuring comfort, stability and safety or drive control systems for propelling or retarding the vehicle
    • B60W30/08—Active safety systems predicting or avoiding probable or impending collision or attempting to minimise its consequences
    • B60W30/095—Predicting travel path or likelihood of collision
    • B60W30/0956—Predicting travel path or likelihood of collision the prediction being responsive to traffic or environmental parameters

Abstract

在一个实施方式中，用于自动驾驶车辆(ADV)的数据处理系统包括处理器和联接至处理器以存储指令的存储器，所述指令在由处理器运行时致使处理器执行操作。所述操作包括：基于从ADV的一个或多个传感器获得的感知数据来生成距离‑时间(ST)图，ST图表示障碍物在不同时间点时的位置；基于ST图获取张量，所述张量包括多个层，多个层包括第一层，第一层具有表示位于ADV正在其中移动的路径上的一个或多个障碍物的数据；将机器学习模型应用于张量的多个层来生成多个数值，所述多个数值限定ADV的可能的路径轨迹；以及基于多个数值确定ADV的路径轨迹。

Description

用于自动驾驶车辆的基于ST图学习的决策
技术领域
本公开的实施方式总体涉及操作自动驾驶车辆。更具体地，本公 开的实施方式涉及使用基于学习的ST图决策的自动驾驶决策。
背景技术
以自动驾驶模式运行(例如，无人驾驶)的车辆可以将乘客(尤 其是驾驶员)从一些驾驶相关的职责中解放出来。当以自动驾驶模式 运行时，车辆可以使用车载传感器导航到各个位置，从而允许车辆在 最少人机交互的情况下或在没有任何乘客的一些情况下驾驶。
运动规划和控制是自动驾驶中的关键操作。然而，传统的运动规 划操作主要根据其曲率和速度来估计完成给定路径的难度，而不考虑 不同类型车辆的特征差异。相同的运动规划和控制应用于所有类型的 车辆，这在某些情况下可能不准确且不平滑。
决策是自动驾驶中非常重要的部分，其用于根据安全性和舒适性 参数来引导自动驾驶车辆的运动。在一个平台中，自动驾驶决策基于 利用基于规则的编程方法(例如，动态编程和二次编程方法)的ST 图进行。这种方法需要大量的实验和参数调整。此外，该方法没有利 用大量的道路测试数据，并且需要许多实验来手动调整参数。
发明内容
根据本申请的一个方面，提供了一种用于确定自动驾驶车辆的路 径轨迹的计算机实施方法。所述方法包括：基于从所述自动驾驶车辆 的一个或多个传感器获得的感知数据生成距离-时间(ST)图，所述距 离-时间图表示障碍物在不同时间点的可能位置；基于所述距离-时间 图获取张量，所述张量包括多个层，所述多个层包括第一层，所述第 一层具有表示位于所述自动驾驶车辆正在其中移动的路径上的一个或 多个障碍物的数据；将机器学习模型应用于所述张量的多个层以生成 多个数值，所述多个数值限定所述自动驾驶车辆的可能的路径轨迹； 以及基于所述多个数值确定所述自动驾驶车辆的路径轨迹。
根据本申请的另一方面，提供了一种存储有指令的非暂时性机器 可读介质，所述指令在由处理器运行时使得所述处理器执行操作。所 述操作包括：基于从自动驾驶车辆的一个或多个传感器获得的感知数 据生成距离-时间(ST)图，所述距离-时间图表示障碍物在不同时间 点的位置；基于所述距离-时间图获取张量，所述张量包括多个层，所 述多个层包括第一层，所述第一层具有表示位于自动驾驶车辆正在其 中移动的路径上的一个或多个障碍物的数据；将机器学习模型应用于 所述张量的多个层以生成多个数值，所述多个数值限定所述自动驾驶 车辆的可能的路径轨迹；以及基于所述多个数值确定所述自动驾驶车 辆的路径轨迹。
根据本申请的又一方面，提供了用于自动驾驶车辆的数据处理系 统。所述数据处理系统包括处理器以及存储器。所述存储器联接至所 述处理器以存储指令，所述指令在由所述处理器运行时使得所述处理 器执行操作。所述操作包括：基于从所述自动驾驶车辆的一个或多个 传感器获得的感知数据生成距离-时间(ST)图，所述距离-时间图表 示障碍物在不同时间点的可能的位置；基于所述距离-时间图获取张 量，所述张量包括多个层，所述多个层包括第一层，所述第一层具有 表示位于所述自动驾驶车辆正在其中移动的路径上的一个或多个障碍 物的数据；将机器学习模型应用于所述张量的多个层以生成多个数值，所述多个数值限定所述自动驾驶车辆的可能的路径轨迹；以及基于所 述多个数值确定所述自动驾驶车辆的路径轨迹。
附图说明
本公开的实施方式在附图的各图中以示例而非限制的方式示出， 附图中相似的附图标记指示相似的元件。
图1是示出根据一个实施方式的网络化系统的框图。
图2是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图3A至图3B是示出根据一个实施方式的与自动驾驶车辆一起使 用的感知与规划系统的示例的框图。
图4是根据一个实施方式的确定自动驾驶车辆的路径轨迹的流程 图。
图5A示出了具有面向自动驾驶车辆的障碍物的道路场景的示例。
图5B是图5A中所示的道路场景的ST图。
图6示出了根据一个实施方式的多层张量。
图7示出了根据一个实施方式的离散化概率分布。
图8是根据一个实施方式的卷积神经网络的框图。
图9是示出根据一个实施方式的数据处理系统的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面， 附图将示出所述各种实施方式。下列描述和附图是对本公开的说明， 而不应当解释为限制本公开。描述了许多特定细节以提供对本公开各 种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的 或常规的细节以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的引述意味着结合该 实施方式所描述的特定特征、结构或特性可包括在本公开的至少一个 实施方式中。短语“在一个实施方式中”在本说明书中各处的记载不必 全部指同一实施方式。
根据一些实施方式，自动驾驶车辆(ADV)包括决策与规划系统， 其基于从ADV中的一个或多个传感器获得的感知数据生成距离-时间 (ST)图。ST图包括道路上的障碍物(例如，其他车辆和停车线)的 表示。停车线可以包括交通规则，诸如交通灯和停止标志。使用ST 图来获得多层张量，多层张量包括第一层，所述第一层具有表示位于 ADV正在其中移动的路径上的一个或多个障碍物的数据。将机器学习 模型应用于多层张量以生成对ADV的可能的路径轨迹进行限定的数 值。使用这些数值来通过决策与规划系统确定ADV的路径轨迹。在 一个方面，机器学习模型包括卷积神经网络(CNN)以对所有(t，s) 对的离散化概率分布进行学习，然后由决策与规划系统使用该离散化 概率分布来确定ADV的路径轨迹。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置 的框图。参照图1，网络配置100包括可以通过网络102通信地联接 到一个或多个服务器103至104的自主车辆或自动驾驶车辆(ADV) 101。尽管示出一个自动驾驶车辆，但多个自动驾驶车辆可以通过网络 102联接到彼此和/或联接到服务器103至104。网络102可以是任何 类型的网络，例如，有线或无线的局域网(LAN)、诸如互联网的广域 网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以 是任何类型的服务器或服务器群集，诸如，网络或云服务器、应用服 务器、后端服务器或其组合。服务器103至104可以是数据分析服务 器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或 者位置服务器等。
自动驾驶车辆是指可以被配置成处于自动驾驶模式下的车辆，在 所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导 航通过环境。这种自动驾驶车辆可包括传感器系统，所述传感器系统 具有被配置成检测与车辆运行环境有关的信息的一个或多个传感器。 所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可以在手动模式下、在全自动驾驶模式下或者 在部分自动驾驶模式下运行。
在一个实施方式中，自动驾驶车辆101包括，但不限于，感知与 规划系统110、车辆控制系统111、无线通信系统112、用户接口系统 113、信息娱乐系统114和传感器系统115。自动驾驶车辆101还可包 括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可以由车辆控制系统111和/或感知与规划系统110 使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例 如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号 或命令等。
部件110至115可以经由互连件、总线、网络或其组合通信地联 接到彼此。例如，部件110至115可以经由控制器局域网(CAN)总 线通信地联接到彼此。CAN总线是被设计成允许微控制器和装置在没 有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的 复用电气布线设计的基于消息的协议，但也用于许多其它环境。
现在参照图2，在一个实施方式中，传感器系统115包括但不限 于一个或多个相机211、全球定位系统(GPS)单元212、惯性测量单 元(IMU)213、雷达单元214以及光探测和测距(LIDAR)单元215。 GPS系统212可包括收发器，所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元213可以基于惯性加速度来感测自动驾 驶车辆的位置和定向变化。雷达单元214可以表示利用无线电信号来 感测自动驾驶车辆的本地环境内的对象的系统。在一些实施方式中， 除感测对象之外，雷达单元214可以另外感测对象的速度和/或前进方 向。LIDAR单元215可以使用激光来感测自动驾驶车辆所处环境中的 对象。除其它系统部件之外，LIDAR单元215还可包括一个或多个激 光源、激光扫描器以及一个或多个检测器。相机211可包括用来收集 自动驾驶车辆周围环境的图像的一个或多个装置。相机211可以是静 物相机和/或视频相机。相机可以是可机械地移动的，例如，通过将相 机安装在旋转和/或倾斜平台上。
传感器系统115还可包括其它传感器，诸如：声纳传感器、红外 传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例 如，麦克风)。音频传感器可以被配置成从自动驾驶车辆周围的环境中 收集声音。转向传感器可以被配置成感测方向盘、车辆的车轮或其组 合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和 制动位置。在一些情形下，油门传感器和制动传感器可以集成为集成 式油门/制动传感器。
在一个实施方式中，车辆控制系统111包括但不限于转向单元 201、油门单元202(也被称为加速单元)和制动单元203。转向单元 201用来调整车辆的方向或前进方向。油门单元202用来控制电动机 或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速 度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减 速。应注意，如图2所示的部件可以以硬件、软件或其组合实施。
回到图1，无线通信系统112允许自动驾驶车辆101与诸如装置、 传感器、其它车辆等外部系统之间的通信。例如，无线通信系统112 可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通 信，诸如，通过网络102与服务器103至104通信。无线通信系统112 可以使用任何蜂窝通信网络或无线局域网(WLAN)，例如，使用WiFi， 以与另一部件或系统通信。无线通信系统112可以例如使用红外链路、 蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆101内的扬 声器)直接通信。用户接口系统113可以是在车辆101内实施的外围 装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可以由感知与规划系统 110控制或管理，尤其当在自动驾驶模式下操作时。感知与规划系统 110包括必要的硬件(例如，处理器、存储器、存储设备)和软件(例 如，操作系统、规划和路线安排程序)，以从传感器系统115、控制系 统111、无线通信系统112和/或用户接口系统113接收信息，处理所 接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划 和控制信息来驾驶车辆101。替代地，感知与规划系统110可以与车 辆控制系统111集成在一起。
例如，作为乘客的用户可以例如经由用户接口来指定行程的起始 位置和目的地。感知与规划系统110获得行程相关数据。例如，感知 与规划系统110可以从MPOI服务器中获得位置和路线信息，所述 MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI。替代地， 此类位置和MPOI信息可以本地高速缓存在感知与规划系统110的永 久性存储装置中。
当自动驾驶车辆101沿着路线移动时，感知与规划系统110也可 以从交通信息系统或服务器(TIS)获得实时交通信息。应注意，服务 器103至104可以由第三方实体进行操作。替代地，服务器103至104 的功能可以与感知与规划系统110集成在一起。基于实时交通信息、 MPOI信息和位置信息以及由传感器系统115检测或感测的实时本地 环境数据(例如，障碍物、对象、附近车辆)，感知与规划系统110可 以规划最佳路线并且根据所规划的路线例如经由控制系统111来驾驶 车辆101，以安全且高效到达指定目的地。
服务器103可以是为各种客户端执行数据分析服务的数据分析系 统。在一个实施方式中，数据分析系统103包括数据收集器121和机 器学习引擎122。数据收集器121从各种车辆(自动驾驶车辆或由人 类驾驶员所驾驶的常规车辆)收集驾驶统计数据123。驾驶统计数据 123包括表示在不同的时间点处发出的驾驶命令(例如，油门命令、 制动命令、转向命令)以及车辆的传感器所捕获的车辆的响应(例如 速度、加速、减速、方向)的信息。驾驶统计数据123还可包括描述 在不同的时间点处的驾驶环境的信息，诸如，例如路线(包括起始位 置和目的地位置)、MPOI、道路状况、天气状况等。
基于驾驶统计数据123，机器学习引擎122生成或训练规则、算 法和/或预测模型124的集合，以用于各种目的。
然后，算法124可被上传到ADV上以在自动驾驶期间实时使用。
图3A和图3B是示出根据一个实施方式的与自动驾驶车辆一起使 用的感知与规划系统的示例的框图。系统300可以被实施为图1的自 动驾驶车辆101的一部分，包括但不限于感知与规划系统110、控制 系统111和传感器系统115。参照图3A至图3B，感知与规划系统110 包括但不限于定位模块301、感知模块302、预测模块303、决策模块 304、规划模块305、控制模块306以及路线安排模块307。
模块301至307中的一些或全部可以以软件、硬件或其组合实施。 例如，这些模块可以安装在永久性存储装置352中、加载到存储器351 中，并且由一个或多个处理器(未示出)执行。应注意，这些模块中 的一些或全部可以通信地联接到图2的车辆控制系统111的一些或全 部模块或者与它们集成在一起。模块301至307中的一些可以一起集 成为集成模块。
定位模块301(例如，利用GPS单元212)确定自动驾驶车辆300 的当前位置，并管理与用户的行程或路线相关的任何数据。定位模块 301(也被称为地图与路线模块)管理与用户的行程或路线相关的任何 数据。用户可以例如经由用户接口登录并且指定行程的起始位置和目 的地。定位模块301与自动驾驶车辆300的诸如地图和路线信息311 的其它部件通信，以获得行程相关数据。例如，定位模块301可以从 位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置 服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的 POI，从而可以作为地图和路线信息311的一部分高速缓存。当自动驾 驶车辆300沿着路线移动时，定位模块301也可以从交通信息系统或 服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和由定位模块301获得 的定位信息，感知模块302确定对周围环境的感知。感知信息可以表 示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可包 括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、 行人、建筑物、人行横道或其它交通相关标志(例如，停止标志、让 行标志)等。车道配置包括描述一条车道或多条车道的信息，例如， 车道的形状(例如，直线或弯曲)、车道的宽度、道路中的车道数目、 单向车道或双向车道、合流车道或分流车道、出口车道等。
感知模块302可包括计算机视觉系统或计算机视觉系统的功能， 以处理并分析由一个或多个相机收集的图像，从而识别自动驾驶车辆 环境中的对象和/或特征。所述对象可包括交通信号、道路边界、其它 车辆、行人和/或障碍物等。计算机视觉系统可以使用对象识别算法、 视频跟踪以及其它计算机视觉技术。在一些实施方式中，计算机视觉 系统可以绘制环境地图，跟踪对象，以及估算对象的速度等。感知模 块302也可以基于由诸如雷达和/或LIDAR的其它传感器提供的其它 传感器数据来检测对象。
针对每个对象，预测模块303预测所述对象在所述情况下将作出 什么行为。基于在某时间点感知的驾驶环境的感知数据根据地图/路线 信息311与交通规则312的集合来执行所述预测。例如，如果对象是 相反方向处的车辆且当前驾驶环境包括十字路口，预测模块303则将 预测该车辆是可能向前直行还是可能转弯。如果感知数据表明十字路 口没有交通灯，则预测模块303可预测该车辆可能在进入十字路口之 前必须完全停下。如果感知数据表明该车辆当前处于左转专用车道或 右转专用车道，则预测模块303可分别预测该车辆更可能进行左转或 右转。
针对每个对象，决策模块304作出关于如何处置对象的决定。例 如，针对特定对象(例如，交叉路线中的另一车辆)以及描述对象的 元数据(例如，速度、方向、转弯角度)，决策模块304决定如何与所 述对象相遇(例如，超车、让行、停止、经过)。决策模块304可以根据诸如交通规则或驾驶规则312的规则集来作出此类决定，所述规则 集可以存储在永久性存储装置352中。
路线安排模块307配置成提供从起始点到终点的一个或多个路线 或路径。对于例如从用户处接收到的从起始位置到目的地位置的给定 行程，路线安排模块307获取地图和路线信息311，并确定从起始位 置到达目的地位置的所有可能的路线或路径。对于确定了从起始位置 到达目的地位置的路线中的每一个，路线安排模块307可以以地形图 的形式生成参考线路。参考线路表示没有诸如其它车辆、障碍物或交 通状况的其它干扰的理想路线或理想路径。即，如果道路上没有其它 车辆、行人或障碍物，则ADV应精确地或严密地遵循参考线路。随 后可向决策模块304和/或规划模块305提供地形图。根据由其它模块 提供的其它数据(诸如，来自定位模块301的交通状况、感知模块302 感知的驾驶环境和预测模块303预测的交通状况)，决策模块304和/ 或规划模块305检验所有可能的路线，以选择并修正最佳路线中的一 个。取决于在某时间点处的特定的驾驶环境，用于控制ADV的实际 路径或路线可接近于或不同于由路线安排模块307提供的参考线路。
基于针对所感知到的对象中的每个的决定，规划模块305使用由 路线安排模块307提供的参考线路作为基础，为自动驾驶车辆规划路 径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。即，针 对给定的对象，决策模块304决定对该对象做什么，而规划模块305 确定如何去做。例如，针对给定的对象，决策模块304可以决定超过 所述对象，而规划模块305可以确定在所述对象的左侧还是右侧经过。 规划和控制数据由规划模块305生成，包括描述车辆300在下一移动 周期(例如，下一路线/路径段)中将如何移动的信息。例如，规划和 控制数据可以指示车辆300以30英里每小时(mph)的速度移动10 米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块306根据由规划和控制数据限定 的路线或路径通过将适当的命令或信号发送到车辆控制系统111来控 制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息，以沿 着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如， 油门、制动和转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，规划阶段在多个规划周期(也称为驾驶周期) 中执行，诸如，以例如每100毫秒(ms)的时间间隔执行。针对每个 规划周期或驾驶周期，将基于规划和控制数据发出一个或多个控制命 令。即，对于每100ms，规划模块305规划下一路线段或路径段，例 如，包括目标位置和ADV到达该目标位置所需的时间。替代地，规 划模块305还可指定具体速度、方向和/或转向角度等。在一个实施方 式中，规划模块305为下一预定的时间段(诸如5秒)规划路线段或 路径段。对于每个规划周期，规划模块305基于先前周期中所规划的 目标位置为当前周期(例如，下个5秒)规划目标位置。控制模块306 随后基于当前周期的规划和控制数据生成一个或多个控制命令(例如， 油门控制命令、制动控制命令、转向控制命令)。
应注意，决策模块304和规划模块305可以集成为集成模块。决 策模块304/规划模块305可包括导航系统或导航系统的功能，以确定 自动驾驶车辆的驾驶路径。例如，导航系统可以确定用于实现自动驾 驶车辆沿着以下路径移动的一系列速度和前进方向：所述路径在使自 动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时，基 本上避免感知到的障碍物。目的地可以根据经由用户接口系统113进 行的用户输入来设定。导航系统可以在自动驾驶车辆正在运行的同时 动态地更新驾驶路径。导航系统可以将来自GPS系统和一个或多个地 图的数据合并，以确定用于自动驾驶车辆的驾驶路径。
术语多项式优化或多项式拟合是指对由多项式函数(例如，五次 或四次多项式函数)表示的曲线(在该示例中，轨迹)的形状的优化， 使得该曲线沿着曲线连续(例如，在两个相邻区段的连接处的导数是 可获得的)。在自动驾驶领域中，从起点到终点的多项式曲线被划分成 多个区段(或段)，每个区段与控制点(或参考点)对应。这种分段多 项式曲线称为分段多项式。当对分段多项式进行优化时，除了初始状 态约束和结束状态约束的集合之外，两个相邻区段之间还必须满足共 同约束集和边界约束集。
共同约束集包括相邻区段的必须相同的位置(x，y)、速度、前进 方向以及加速度。例如，第一区段(例如，前一区段)的结束位置和 第二区段(例如，后一区段)的起始位置必须相同或处于预定接近度 内。第一区段的结束位置的速度、前进方向和加速度以及第二区段的 相应速度、前进方向和起始位置的加速度必须相同或处于预定范围内。 另外，每个控制点与预定边界相关(例如，在控制点附近的左右0.2 米)。多项式曲线必须经过其相应边界内的每个控制点。当在优化期间 满足这两个约束集时，表示轨迹的多项式曲线应该是平滑且连续的。
应注意，如上文示出和描述的部件中的一些或全部可以在软件、 硬件或其组合中实施。例如，此类部件可以实施为安装并存储在永久 性存储装置中的软件，所述软件可以通过处理器(未示出)加载在存 储器中并在存储器中执行以实施本申请全文中所述的过程或操作。替 代地，此类部件可以实施为编程或嵌入到专用硬件(诸如，集成电路 (例如，专用集成电路或ASIC)、数字信号处理器(DSP)或现场可 编程门阵列(FPGA))中的可执行代码，所述可执行代码可以经由来 自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可以实 施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过 一个或多个特定指令访问的指令集的一部分。
图4是根据一个实施方式的确定自动驾驶车辆的路径轨迹的流程 图400。图4中所示的过程可以通过图1和图3A至图3B的感知与规 划系统110进行实施，并且具体地，通过图3A至3B中所示的决策模 块304进行实施。流程图400包括：在402处，基于从ADV的一个 或多个传感器获得的感知数据生成距离-时间(ST)图(参见图5B的 514)，所述ST图表示障碍物在不同时间点时的位置；在404处，基 于ST图获取张量(参见图6的600)，所述张量包括多个层，所述多 个层包括第一层602(参见图6)，第一层602具有表示处于ADV在 其中移动的路径上的一个或多个障碍物的数据；在406处，将机器学 习模型应用于张量的多个层以生成多个数值(参见图7)，多个数值对 ADV的可能的路径轨迹进行限定；以及在408处，基于多个数值确定 ADV的路径轨迹。感知数据可以从ADV的如上所述的一个或多个传 感器获取，例如，从包括在图2的传感器系统115中的一个或多个传 感器获取。
图5A示出了具有自动驾驶车辆遇到的障碍物的道路场景的示例。 如图5A所示，ADV 506在路径500(例如，具有多个车道的道路) 上移动。ADV 506可以是图1中所示的ADV。ADV 506遇到多种障 碍物，诸如车辆V1(504)和车辆V2(502)以及包括可能导致ADV 停止的对象的停止线508。例如，停车线可以通过诸如交通灯、停止 标志或人行道的一个或多个交通规则进行限定。如图5A所示，第二 车辆502在ADV前方移动，并且第一车辆504正移动至ADV所占据 的车道中。基于该道路场景，ADV生成将在待在下文描述的ST图。
图5B是图5A中所示的道路场景的ST图。水平轴T表示以秒为 单位的时间，并且竖直轴S表示以米为单位的距离或位置。图5B中 所示的示例包括8秒的时间间隔和100米的距离。ST图514包括针对 第一车辆V1的绘图512、针对第二车辆的绘图510和停止线508。每 个绘图的斜率表示每个车辆的速度，并且每个绘图在S方向上的长度 表示每个车辆的长度。ST图514包括障碍物(例如，第一车辆V1或 第二车辆V2)在不同时间点相对于通常定位在ST图的原点处的ADV 的位置的表示。例如，可以使用0.1秒的时间分辨率和0.5米的距离分 辨率来生成ST图的200×80像素图像，以用于获取待在下文描述的 多层张量。
图6示出了根据一个实施方式的多层张量600。在一个实施方式 中，多层张量600可以包括三层张量，所述三层张量包括多维数据阵 列。在图6中所示的实施方式中，张量600分别包括多个第一层602、 第二层604和第三层606中。第一层602具有数据608、610，数据608、 610表示位于ADV正在其中移动的路径上的一个或多个障碍物(参见 图5B)。如所示出的，三个层中的每个均是200×80像素图像，并且 这些层共同限定了类似于对象618的立方体。第二层604包括数据 612，数据612限定表示一个或多个交通规则的一个或多个停止线(参 见图5B)。数据612可以用颜色进行标记以表示诸如交通灯、停止标 志或人行道的一个或多个交通规则。例如，红色可以表示红色交通灯。 第三层606包括数据614、616，数据614、616表示ADV正在其中移 动的路径的一个或多个曲率。路径(例如，道路)的曲率是S或距离/ 位置的函数。第三层606包括数据614，数据614具有ADV正在其中 移动的给定路径的多个曲率值C1、C2......CN。对于直道，曲率值C1、 C2...CN可以处于0.0与0.05之间，并且对于弯道，曲率值可以处于0.1 和0.3之间。曲率值越大，道路转弯越尖锐。机器学习模型可以应用 于多层张量600，以生成对待在下文描述的ADV的可能的路径轨迹进 行限定的多个数值。3×200×80像素图像张量可被输入至机器学习模 型来生成多个数值。
对于图7和图8，示出了根据一个实施方式的离散化概率分布700， 其形成机器学习模型800的输出。在一个实施方式中，机器学习模型 800包括卷积神经网络，该卷积神经网络接收诸如张量600(参见图6) 的张量作为输入802，并且输出816上文描述的多个数值。卷积神经 网络对输入张量进行多次张量乘法运算。在每次乘法运算之后，张量 的大小变小，直至最终张量将具有预期的输出大小的大小。机器学习 模型800包括输入层804、卷积层808、810和812以及输出层814。 每个机器学习层包括多个节点806，N1、N2、......NN。这些节点如箭 头所示进行连接，为了简化对机器学习模型的描述并没有示出所有的 节点。机器学习模型可以通过使用合适的权重和其他参数进行适当训 练，以提高输出的准确性。机器学习模型的输出816在图7中示出为 离散化概率分布700，其包括如上所述的多个数值702、704。概率分 布700包括多个单元(cell)706，每个单元表示ADV随着时间(T) 的函数移动或驾驶到位置(S)的概率。在一个示例中，使用1秒的时 间分辨率和10米的距离分辨率来生成图7中所示的具有20行和8列 的二维20×8像素图像。作为一个示例，数值702、704在每个单元中 均包括概率(例如，为0.9的概率)，其表示ADV 506(参见图5A、 图5B)随着时间(T)的函数移动或驾驶到该位置(S)的概率。概率 值可以处于从0到1的范围。因此，数值702、704限定了ADV 506 的可能的路径轨迹。然后，数值702、704用于确定ADV 506的路径轨迹。
图9是示出可以与本公开的一个实施方式一起使用的数据处理系 统1500的示例的框图。例如，系统1500可以表示以上所述的执行上 述过程或方法中的任一个的任何数据处理系统，例如，图1的感知与 规划系统110或者服务器103至104中的任一个。系统1500可包括许 多不同的部件。这些部件可以实施为集成电路(IC)、集成电路的部分、 分立电子装置或适用于电路板(诸如，计算机系统的主板或插入卡) 的其它模块或者实施为以其它方式并入计算机系统的机架内的部件。
还应注意，系统1500旨在示出计算机系统的许多部件的高阶视 图。然而，应当理解的是，某些实施方式中可以具有附加的部件，此 外，其它实施方式中可以具有所示部件的不同布置。系统1500可以表 示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒 体播放器、个人数字助理(PDA)、智能手表、个人通信器、游戏装置、 网络路由器或集线器、无线接入点(AP)或中继器、机顶盒或其组合。 此外，虽然仅示出单个机器或系统，但是术语“机器”或“系统”还应当 被理解为包括单独地或共同地执行一个(或多个)指令集以执行本文 所讨论的任何一种或多种方法的机器或系统的任何集合。
在一个实施方式中，系统1500包括通过总线或互连件1510连接 的处理器1501、存储器1503以及装置1505至1508。处理器1501可 以表示其中包括单个处理器内核或多个处理器内核的单个处理器或多 个处理器。处理器1501可以表示一个或多个通用处理器，诸如，微处 理器、中央处理单元(CPU)等。更具体地，处理器1501可以是复杂 指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、 超长指令字(VLIW)微处理器、或实施其它指令集的处理器、或实施 指令集组合的处理器。处理器1501还可以是一个或多个专用处理器， 诸如，专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵 列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通 信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指 令的任何其它类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口，诸如超低电压 处理器)可以用作用于与所述系统的各种部件通信的主处理单元和中 央集线器。这种处理器可以实施为片上系统(SoC)。处理器1501被 配置成执行用于执行本文所讨论的操作和步骤的指令。系统1500还可 包括与可选的图形子系统1504通信的图形接口，图形子系统1504可 包括显示控制器、图形处理器和/或显示装置。
处理器1501可以与存储器1503通信，存储器1503在一个实施方 式中可以经由多个存储器装置实施以提供给定的系统存储量。在一个 实施方式中，存储器1503联接至处理器1501以存储指令(例如，由 图4的流程图400表示的指令)，这些指令在由处理器1501运行时， 致使处理器1501执行操作，所述操作包括基于从ADV的一个或多个 传感器获得的感知数据来生成距离-时间(ST)图，所述ST图包括表 示障碍物在不同时间点的位置，以及基于ST图获得张量。张量包括 多个层，多个层包括第一层，第一层具有表示位于ADV正在其中移动的路径上的一个或多个障碍物的数据。操作还包括将机器学习模型 应用于张量的多个层以生成多个数值，所述多个数值限定ADV的可 能的路径轨迹，以及基于多个数值确定ADV的路径轨迹。
存储器1503可包括一个或多个易失性存储(或存储器)装置，诸 如，随机存取存储器(RAM)、动态RAM(DRAM)、同步DRAM (SDRAM)、静态RAM(SRAM)或者其它类型的存储装置。存储器 1503可以存储包括由处理器1501或任何其它装置执行的指令序列的 信息。例如，各种操作系统、装置驱动程序、固件(例如，输入输出 基本系统或BIOS)和/或应用的可执行代码和/或数据可以加载到存储 器1503中并由处理器1501执行。操作系统可以是任何类型的操作系 统，例如，机器人操作系统(ROS)、来自
Figure BDA0002198848310000151
公司的
Figure BDA0002198848310000152
操作系统、来自苹果公司的Mac
Figure BDA0002198848310000153
来自
Figure BDA0002198848310000154
公司的
Figure BDA0002198848310000155
LINUX、UNIX，或者其它实时或嵌入式操作系统。
系统1500还可包括IO装置，诸如装置1505至1508，包括网络 接口装置1505、可选的输入装置1506，以及其它可选的IO装置1507。 网络接口装置1505可包括无线收发器和/或网络接口卡(NIC)。所述 无线收发器可以是WiFi收发器、红外收发器、蓝牙收发器、WiMax收发器、无线蜂窝电话收发器、卫星收发器(例如，全球定位系统(GPS) 收发器)或其它射频(RF)收发器或者它们的组合。NIC可以是以太 网卡。
输入装置1506可包括鼠标、触摸板、触敏屏幕(其可以与显示装 置1504集成在一起)、指针装置(诸如，手写笔)和/或键盘(例如， 物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如，输入装置 1506可包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例 如可以使用多种触敏技术(包括但不限于电容、电阻、红外和表面声 波技术)中的任一种，以及其它接近传感器阵列或用于确定与触摸屏 接触的一个或多个点的其它元件来检测其接触和移动或间断。
IO装置1507可包括音频装置。音频装置可包括扬声器和/或麦克 风，以促进支持语音的功能，诸如语音识别、语音复制、数字记录和/ 或电话功能。其它IO装置1507还可包括通用串行总线(USB)端口、 并行端口、串行端口、打印机、网络接口、总线桥(例如，PCI-PCI 桥)、传感器(例如，诸如加速度计运动传感器、陀螺仪、磁强计、光 传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可包括 成像处理子系统(例如，相机)，所述成像处理子系统可包括用于促进 相机功能(诸如，记录照片和视频片段)的光学传感器，诸如电荷耦 合装置(CCD)或互补金属氧化物半导体(CMOS)光学传感器。某 些传感器可以经由传感器集线器(未示出)联接到互连件1510，而诸 如键盘或热传感器的其它装置可以根据系统1500的具体配置或设计 由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作系统等信息的永久 性存储，大容量存储设备(未示出)也可以联接到处理器1501。在各 种实施方式中，为了实现更薄且更轻的系统设计并且改进系统响应性， 这种大容量存储设备可以经由固态装置(SSD)来实施。然而，在其 它实施方式中，大容量存储设备可以主要使用硬盘驱动器(HDD)来 实施，其中较小量的SSD存储设备充当SSD高速缓存以在断电事件 期间实现上下文状态以及其它此类信息的非易失性存储，从而使得在 系统活动重新启动时能够实现快速通电。另外，闪存装置可以例如经 由串行外围接口(SPI)联接到处理器1501。这种闪存装置可以提供 系统软件的非易失性存储，所述系统软件包括所述系统的BIOS以及 其它固件。
存储装置1508可包括计算机可访问的存储介质1509(也被称为 机器可读存储介质或计算机可读介质)，其上存储有体现本文所述的任 何一种或多种方法或功能的一个或多个指令集或软件(例如，模块、 单元和/或逻辑1528)。存储介质1509可以包括在其中存储有指令的非 暂时性机器可读介质，这些指令在由处理器运行时致使处理器执行操 作，所述操作包括：基于从自动驾驶车辆(ADV)的一个或多个传感 器获取的感知数据生成距离-时间(ST)图，所述ST图表示障碍物在 不同时间点的位置；基于ST图获得张量，所述张量包括多个层，多 个层包括第一层，所述第一层具有表示位于ADV正在其中移动的路 径上的一个或多个障碍物的数据；将机器学习模型应用于张量的多个 层以生成多个数值，所述多个数值限定ADV的可能的路径轨迹；以 及基于多个数值确定ADV的路径轨迹。
处理模块/单元/逻辑1528可以表示上述部件中的任一个，例如决 策模块304、规划模块305或控制模块306。处理模块/单元/逻辑1528 还可以在其由数据处理系统1500、存储器1503和处理器1501执行期 间完全地或至少部分地驻留在存储器1503内和/或处理器1501内，数 据处理系统1500、存储器1503和处理器1501也构成机器可访问的存 储介质。处理模块/单元/逻辑1528还可以通过网络经由网络接口装置 1505进行传输或接收。
计算机可读存储介质1509也可以用来永久性地存储以上描述的 一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被 示为单个介质，但是术语“计算机可读存储介质”应当被认为包括存储 所述一个或多个指令集的单个介质或多个介质(例如，集中式或分布 式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介 质”还应当被认为包括能够存储或编码指令集的任何介质，所述指令集 用于由机器执行并且使得所述机器执行本公开的任何一种或多种方 法。因此，术语“计算机可读存储介质”应当被认为包括但不限于固态 存储器以及光学介质和磁性介质，或者任何其它非暂时性机器可读介 质。
本文所述的处理模块/单元/逻辑1528、部件以及其它特征可以实 施为分立硬件部件或集成在硬件部件(诸如，ASICS、FPGA、DSP或 相似装置)的功能中。此外，处理模块/单元/逻辑1528可以实施为硬 件装置内的固件或功能电路。此外，处理模块/单元/逻辑1528可以以 硬件装置和软件部件的任何组合来实施。
应注意，虽然系统1500被示出为具有数据处理系统的各种部件， 但是并不旨在表示使部件互连的任何特定架构或方式；因为此类细节 和本公开的实施方式没有密切关系。还应当认识到，具有更少部件或 可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/ 或其它数据处理系统也可以与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位 的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领 域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给 本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结 果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和相似的术语均旨在与适当的物理量 关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其 它方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸 如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或相 似电子计算装置的动作和处理，所述计算机系统或电子计算装置操控 计算机系统的寄存器和存储器内的表示为物理(电子)量的数据，并 将所述数据变换成计算机系统存储器或寄存器或者其它此类信息存储 设备、传输或显示装置内相似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计 算机程序被存储在非暂时性计算机可读介质中。机器可读介质包括用 于以机器(例如，计算机)可读的形式存储信息的任何机构。例如， 机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读 存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、 磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可以由处理逻辑来执行，所述处 理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非 暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上 文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些 可以按不同的顺序执行。此外，一些操作可以并行地执行而不是顺序 地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认 识到，可以使用多种编程语言来实施如本文描述的本公开的实施方式 的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本 发明的实施方式进行了描述。将显而易见的是，在不脱离所附权利要 求书中阐述的本发明的更宽泛精神和范围的情况下，可以对本公开作 出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本 说明书和附图。

Claims (20)

1.用于确定自动驾驶车辆的路径轨迹的计算机实施方法，所述方法包括：
基于从所述自动驾驶车辆的一个或多个传感器获得的感知数据生成距离-时间(ST)图，所述距离-时间图表示障碍物在不同时间点的可能位置；
基于所述距离-时间图获取张量，所述张量包括多个层，所述多个层包括第一层，所述第一层具有表示位于所述自动驾驶车辆正在其中移动的路径上的一个或多个障碍物的数据；
将机器学习模型应用于所述张量的多个层以生成多个数值，所述多个数值限定所述自动驾驶车辆的可能的路径轨迹；以及
基于所述多个数值确定所述自动驾驶车辆的路径轨迹。
2.根据权利要求1所述的方法，其中，所述多个层包括第二层，所述第二层具有表示一个或多个交通规则的数据。
3.根据权利要求2所述的方法，其中，所述多个层包括第三层，所述第三层具有表示所述自动驾驶车辆正在其中移动的路径的一个或多个曲率的数据。
4.根据权利要求1所述的方法，其中，所述多个数值包括概率分布。
5.根据权利要求4所述的方法，其中，所述概率分布包括多个单元，每个单元表示所述自动驾驶车辆根据时间的函数移动至位置的概率。
6.根据权利要求3所述的方法，其中，所述机器学习模型包括卷积神经网络。
7.根据权利要求6所述的方法，其中，所述卷积神经网络输出所述多个数值。
8.一种存储有指令的非暂时性机器可读介质，所述指令在由处理器运行时使得所述处理器执行操作，所述操作包括：
基于从自动驾驶车辆的一个或多个传感器获得的感知数据生成距离-时间(ST)图，所述距离-时间图表示障碍物在不同时间点的位置；
基于所述距离-时间图获取张量，所述张量包括多个层，所述多个层包括第一层，所述第一层具有表示位于自动驾驶车辆正在其中移动的路径上的一个或多个障碍物的数据；
将机器学习模型应用于所述张量的多个层以生成多个数值，所述多个数值限定所述自动驾驶车辆的可能的路径轨迹；以及
基于所述多个数值确定所述自动驾驶车辆的路径轨迹。
9.根据权利要求8所述的非暂时性机器可读介质，其中，所述多个层包括第二层，所述第二层具有表示一个或多个交通规则的数据。
10.根据权利要求9所述的非暂时性机器可读介质，其中，所述多个层包括第三层，所述第三层具有表示所述自动驾驶车辆正在其中移动的路径的一个或多个曲率的数据。
11.根据权利要求8所述的非暂时性机器可读介质，其中，所述多个数值包括概率分布。
12.根据权利要求11所述的非暂时性机器可读介质，其中，所述概率分布包括多个单元，每个单元表示所述自动驾驶车辆根据时间的函数移动至位置的概率。
13.根据权利要求10所述的非暂时性机器可读介质，其中，所述机器学习模型包括卷积神经网络。
14.根据权利要求13所述的非暂时性机器可读介质，所述卷积神经网络输出所述多个数值。
15.用于自动驾驶车辆的数据处理系统，所述数据处理系统包括：
处理器；以及
存储器，所述存储器联接至所述处理器以存储指令，所述指令在由所述处理器运行时使得所述处理器执行操作，所述操作包括：
基于从所述自动驾驶车辆的一个或多个传感器获得的感知数据生成距离-时间(ST)图，所述距离-时间图表示障碍物在不同时间点的可能的位置；
基于所述距离-时间图获取张量，所述张量包括多个层，所述多个层包括第一层，所述第一层具有表示位于所述自动驾驶车辆正在其中移动的路径上的一个或多个障碍物的数据；
将机器学习模型应用于所述张量的多个层以生成多个数值，所述多个数值限定所述自动驾驶车辆的可能的路径轨迹；以及
基于所述多个数值确定所述自动驾驶车辆的路径轨迹。
16.根据权利要求15所述的数据处理系统，其中，所述多个层包括第二层，所述第二层具有表示一个或多个交通规则的数据。
17.根据权利要求16所述的数据处理系统，其中，所述多个层包括第三层，所述第三层具有表示所述自动驾驶车辆正在其中移动的路径的一个或多个曲率的数据。
18.根据权利要求15所述的数据处理系统，其中，所述多个数值包括概率分布。
19.根据权利要求18所述的数据处理系统，其中，所述概率分布包括多个单元，每个单元表示所述自动驾驶车辆根据时间的函数移动至位置的概率。
20.根据权利要求17所述的数据处理系统，其中，所述机器学习模型包括卷积神经网络，并且所述卷积神经网络输出所述多个数值。
CN201910858148.1A 2018-12-27 2019-09-11 用于自动驾驶车辆的基于st图学习的方法 Active CN111380534B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/233,494 US10809736B2 (en) 2018-12-27 2018-12-27 ST-graph learning based decision for autonomous driving vehicle
US16/233,494 2018-12-27

Publications (2)

Publication Number Publication Date
CN111380534A true CN111380534A (zh) 2020-07-07
CN111380534B CN111380534B (zh) 2023-08-01

Family

ID=71122018

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910858148.1A Active CN111380534B (zh) 2018-12-27 2019-09-11 用于自动驾驶车辆的基于st图学习的方法

Country Status (2)

Country Link
US (1) US10809736B2 (zh)
CN (1) CN111380534B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112455445A (zh) * 2020-12-04 2021-03-09 苏州挚途科技有限公司 自动驾驶的变道决策方法、装置和车辆
CN114019971A (zh) * 2021-11-04 2022-02-08 北京三快在线科技有限公司 一种无人设备控制方法、装置、存储介质及电子设备

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11562251B2 (en) * 2019-05-16 2023-01-24 Salesforce.Com, Inc. Learning world graphs to accelerate hierarchical reinforcement learning
US11408746B2 (en) * 2019-12-04 2022-08-09 Toyota Connected North America, Inc. Systems and methods for generating attributes-based recommendations
US11390301B2 (en) * 2020-06-10 2022-07-19 Nvidia Corp. Tensor-based driving scenario characterization
US11550325B2 (en) 2020-06-10 2023-01-10 Nvidia Corp. Adversarial scenarios for safety testing of autonomous vehicles
CN112540365B (zh) * 2020-12-10 2022-07-12 中国第一汽车股份有限公司 一种评估方法、装置、设备及存储介质
CN112937605B (zh) * 2021-03-22 2023-03-10 京东鲲鹏(江苏)科技有限公司 无人车行驶数据确定方法、装置、无人车及存储介质
CN113306573B (zh) * 2021-06-23 2022-08-16 湖南大学 一种自动驾驶车辆学习型路径跟踪预测控制方法
CN113844463B (zh) * 2021-09-26 2023-06-13 国汽智控(北京)科技有限公司 基于自动驾驶系统的车辆控制方法、装置及车辆
US20230121913A1 (en) * 2021-10-19 2023-04-20 Volvo Car Corporation Intelligent messaging framework for vehicle ecosystem communication

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120286991A1 (en) * 2010-02-14 2012-11-15 Trimble Navigation Limited GNSS Signal Processing with Regional Augmentation Positioning
WO2016011433A2 (en) * 2014-07-17 2016-01-21 Origin Wireless, Inc. Wireless positioning systems
CN105810002A (zh) * 2016-04-20 2016-07-27 浙江大学 一种基于物联网和神经网络的可自我优化的高效公共交通系统
US9761036B2 (en) * 2014-04-24 2017-09-12 Carnegie Mellon University Methods and software for visualizing data by applying physics-based tools to data objectifications
CN107862864A (zh) * 2017-10-18 2018-03-30 南京航空航天大学 基于驾驶习惯和交通路况的行驶工况智能预测估计方法
EP3340115A1 (en) * 2016-12-21 2018-06-27 Fujitsu Limited A system and method to predict the path of moving objects
CN108399218A (zh) * 2017-02-08 2018-08-14 百度（美国）有限责任公司 基于Walsh内核投影技术的自动驾驶车辆定位
CN108458716A (zh) * 2018-02-02 2018-08-28 北京交通大学 一种基于充电桩动态占用率预测的电动汽车充电导航方法
US20180307984A1 (en) * 2017-04-24 2018-10-25 Intel Corporation Dynamic distributed training of machine learning models
CN108981730A (zh) * 2017-05-31 2018-12-11 百度（美国）有限责任公司 用于为操作自动驾驶车辆生成参考路径的方法和系统

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7881217B2 (en) * 2006-12-20 2011-02-01 The Boeing Company Remote gateway selection in an interplanetary communications network and method of selecting and handing over remote gateways
WO2011034624A2 (en) * 2009-09-19 2011-03-24 Trimble Navigation Limited Gnss signal processing to estimate orbits
US10515321B2 (en) * 2017-09-11 2019-12-24 Baidu Usa Llc Cost based path planning for autonomous driving vehicles
US10948919B2 (en) * 2017-09-11 2021-03-16 Baidu Usa Llc Dynamic programming and gradient descent based decision and planning for autonomous driving vehicles
US10754339B2 (en) * 2017-09-11 2020-08-25 Baidu Usa Llc Dynamic programming and quadratic programming based decision and planning for autonomous driving vehicles
US10606277B2 (en) * 2017-09-18 2020-03-31 Baidu Usa Llc Speed optimization based on constrained smoothing spline for autonomous driving vehicles
US10571921B2 (en) * 2017-09-18 2020-02-25 Baidu Usa Llc Path optimization based on constrained smoothing spline for autonomous driving vehicles
US10591926B2 (en) * 2017-09-18 2020-03-17 Baidu Usa Llc Smooth road reference for autonomous driving vehicles based on 2D constrained smoothing spline
US10816990B2 (en) * 2017-12-21 2020-10-27 Baidu Usa Llc Non-blocking boundary for autonomous vehicle planning
US10816977B2 (en) * 2018-01-26 2020-10-27 Baidu Usa Llc Path and speed optimization fallback mechanism for autonomous vehicles
US10754341B2 (en) * 2018-02-07 2020-08-25 Baidu Usa Llc Systems and methods for accelerated curve projection
US10775801B2 (en) * 2018-03-08 2020-09-15 Baidu Usa Llc Determining speeds along a path for autonomous driving vehicles
US10983522B2 (en) * 2018-03-09 2021-04-20 Baidu Usa Llc Emergency stop speed profile for autonomous vehicles
US10521913B2 (en) * 2018-03-29 2019-12-31 Aurora Innovation, Inc. Relative atlas for autonomous vehicle and generation thereof
US10503760B2 (en) * 2018-03-29 2019-12-10 Aurora Innovation, Inc. Use of relative atlas in an autonomous vehicle
US11126199B2 (en) * 2018-04-16 2021-09-21 Baidu Usa Llc Learning based speed planner for autonomous driving vehicles
US10884422B2 (en) * 2018-04-16 2021-01-05 Baidu Usa Llc Method for generating trajectories for autonomous driving vehicles (ADVS)
US20190315357A1 (en) * 2018-04-17 2019-10-17 Baidu Usa Llc Novel method for speed adjustment of autonomous driving vehicles prior to lane change
US10996679B2 (en) * 2018-04-17 2021-05-04 Baidu Usa Llc Method to evaluate trajectory candidates for autonomous driving vehicles (ADVs)
US10816985B2 (en) * 2018-04-17 2020-10-27 Baidu Usa Llc Method on moving obstacle representation for trajectory planning
US11427211B2 (en) * 2018-06-18 2022-08-30 Baidu Usa Llc Methods for handling sensor failures in autonomous driving vehicles
US11199842B2 (en) * 2018-06-26 2021-12-14 Baidu Usa Llc Determining driving paths for autonomous driving using parallel processing
US11186276B2 (en) * 2018-07-27 2021-11-30 Baidu Usa Llc Adjusting speeds along a path for autonomous driving vehicles

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120286991A1 (en) * 2010-02-14 2012-11-15 Trimble Navigation Limited GNSS Signal Processing with Regional Augmentation Positioning
US9761036B2 (en) * 2014-04-24 2017-09-12 Carnegie Mellon University Methods and software for visualizing data by applying physics-based tools to data objectifications
WO2016011433A2 (en) * 2014-07-17 2016-01-21 Origin Wireless, Inc. Wireless positioning systems
CN105810002A (zh) * 2016-04-20 2016-07-27 浙江大学 一种基于物联网和神经网络的可自我优化的高效公共交通系统
EP3340115A1 (en) * 2016-12-21 2018-06-27 Fujitsu Limited A system and method to predict the path of moving objects
CN108399218A (zh) * 2017-02-08 2018-08-14 百度（美国）有限责任公司 基于Walsh内核投影技术的自动驾驶车辆定位
US20180307984A1 (en) * 2017-04-24 2018-10-25 Intel Corporation Dynamic distributed training of machine learning models
CN108981730A (zh) * 2017-05-31 2018-12-11 百度（美国）有限责任公司 用于为操作自动驾驶车辆生成参考路径的方法和系统
CN107862864A (zh) * 2017-10-18 2018-03-30 南京航空航天大学 基于驾驶习惯和交通路况的行驶工况智能预测估计方法
CN108458716A (zh) * 2018-02-02 2018-08-28 北京交通大学 一种基于充电桩动态占用率预测的电动汽车充电导航方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112455445A (zh) * 2020-12-04 2021-03-09 苏州挚途科技有限公司 自动驾驶的变道决策方法、装置和车辆
CN114019971A (zh) * 2021-11-04 2022-02-08 北京三快在线科技有限公司 一种无人设备控制方法、装置、存储介质及电子设备
CN114019971B (zh) * 2021-11-04 2024-03-26 北京三快在线科技有限公司 一种无人设备控制方法、装置、存储介质及电子设备

Also Published As

Publication number Publication date
CN111380534B (zh) 2023-08-01
US20200209872A1 (en) 2020-07-02
US10809736B2 (en) 2020-10-20

Similar Documents

Publication Publication Date Title
US20210208597A1 (en) Sensor aggregation framework for autonomous driving vehicles
CN109947090B (zh) 用于自动驾驶车辆规划的非阻塞边界
US11328219B2 (en) System and method for training a machine learning model deployed on a simulation platform
CN108475057B (zh) 基于车辆周围的情境预测车辆的一个或多个轨迹的方法和系统
CN110389585B (zh) 用于自动驾驶车辆的基于学习的速度规划器
CN109429518B (zh) 基于地图图像的自动驾驶交通预测
US11545033B2 (en) Evaluation framework for predicted trajectories in autonomous driving vehicle traffic prediction
CN111380534B (zh) 用于自动驾驶车辆的基于st图学习的方法
CN108604095B (zh) 确定操作自动驾驶车辆的转向率的方法、介质及处理系统
CN110621541B (zh) 用于生成轨迹以操作自动驾驶车辆的方法和系统
CN110597243B (zh) 自动驾驶车辆的基于v2x通信的车辆车道系统
CN111076732A (zh) 基于车辆行驶的轨迹标记和生成高清地图的标记方案
CN110667591A (zh) 用于自动驾驶车辆的规划驾驶感知系统
CN111328411B (zh) 用于自动驾驶车辆的行人概率预测系统
CN108733046B (zh) 用于自动驾驶车辆的轨迹重新规划的系统和方法
CN111824139A (zh) 用于预测与自动驾驶车辆相关的运动对象的运动的方法
CN111176268A (zh) 用于自动驾驶车辆的模仿人类驾驶行为的两步参考线平滑方法
CN111044992A (zh) 用于自动驾驶的基于交叉验证的自动lidar校准
US11731612B2 (en) Neural network approach for parameter learning to speed up planning for complex driving scenarios
CN111259712B (zh) 用于车辆行为预测的压缩环境特征的表示
CN111615476A (zh) 用于自动驾驶车辆的基于螺旋曲线的竖直停车规划系统
CN111328385A (zh) 用于自动驾驶车辆的基于螺旋路径的三点转弯规划
CN111328313A (zh) 用于自动驾驶车辆的控制占主导的三点转弯规划
CN111649751A (zh) 一种用于参考线平滑的超自由缝合方法
CN112272805A (zh) 连接两条平滑参考线的基于多点增强的拼接方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant