CN115848416A - 针对用于自主车辆的邻近车辆意图预测的系统和方法 - Google Patents
针对用于自主车辆的邻近车辆意图预测的系统和方法 Download PDFInfo
- Publication number
- CN115848416A CN115848416A CN202310052438.3A CN202310052438A CN115848416A CN 115848416 A CN115848416 A CN 115848416A CN 202310052438 A CN202310052438 A CN 202310052438A CN 115848416 A CN115848416 A CN 115848416A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- neighboring vehicle
- detected
- intent
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W60/00—Drive control systems specially adapted for autonomous road vehicles
- B60W60/001—Planning or execution of driving tasks
- B60W60/0027—Planning or execution of driving tasks using trajectory prediction for other traffic participants
- B60W60/00272—Planning or execution of driving tasks using trajectory prediction for other traffic participants relying on extrapolation of current movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/34—Smoothing or thinning of the pattern; Morphological operations; Skeletonisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/84—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using probabilistic graphical models from image or video features, e.g. Markov models or Bayesian networks
- G06V10/85—Markov-related models; Markov random fields
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W2050/0001—Details of the control system
- B60W2050/0002—Automatic control, details of type of controller or control system architecture
- B60W2050/0014—Adaptive controllers
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
- B60W2554/404—Characteristics
- B60W2554/4045—Intention, e.g. lane change or imminent movement
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Probability & Statistics with Applications (AREA)
- Automation & Control Theory (AREA)
- Human Computer Interaction (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Traffic Control Systems (AREA)
Abstract
公开了针对用于自主车辆的邻近车辆意图预测的系统和方法。特定实施例被配置为:接收与主车辆相关联的感知数据;从感知数据提取特征以检测在主车辆附近的邻近车辆;基于感知数据生成所检测的邻近车辆的轨迹;使用经训练的意图预测模型,基于感知数据和所检测的邻近车辆的轨迹,来生成所检测的邻近车辆的预测意图;使用所检测的邻近车辆的预测意图,生成所检测的邻近车辆的预测轨迹;以及将针对所检测的邻近车辆的预测意图和预测轨迹输出至另一子系统。
Description
分案申请说明
本申请是国际申请号为PCT/US2019/034882、国际申请日为2019年05月31日、于2020年11月27日进入中国国家阶段、国家申请号为201980036132.0、发明名称为“针对用于自主车辆的邻近车辆意图预测的系统和方法”的中国发明专利申请的分案申请。
相关申请的交叉引用
本专利文献要求于2018年5月31日提交的题目为"SYSTEM AND METHOD FORPROXIMATE VEHICLE INTENTION PREDICTION FOR AUTONOMOUS VEHICLES"的美国专利申请No.15/994,138的优先权和权利,该申请以整体内容通过引用并入本文。本专利文献还要求于2018年5月31日提交的题目为"SYSTEM AND METHOD FOR PROXIMATE VEHICLE INTENTIONPREDICTION FOR AUTONOMOUS VEHICLES"的美国专利申请No.15/994,103的优先权和权利。所引用的专利申请的公开内容被认为是本申请的公开内容的一部分,并且以整体引用方式并入本文。
技术领域
本专利文献总体上涉及用于运动规划、轨迹规划、车辆控制系统和自主驾驶系统的工具(系统、设备、方法、计算机程序产品等),并且更特别地但非限制性地涉及针对用于自主车辆的邻近车辆意图预测的系统和方法。
背景技术
自主车辆通常被配置为遵循基于计算驾驶路径的轨迹。然而,当驾驶路径上存在诸如障碍物的变量时,自主车辆必须执行控制操作,使得车辆可以通过改变驾驶路径以避开障碍物安全地行驶。
在相关技术中,为了避开静止障碍物,已经通过将驾驶路径的空间信息(例如坐标、航向角、曲率等)表示为移动距离的多项式或数学函数来确定自主车辆控制操作。然而,当驾驶路径上存在动态障碍物时,根据相关技术的自主车辆可能无法准确地预测车辆是否会与动态障碍物碰撞。特别地,相关技术没有考虑自主车辆与其它动态车辆之间的交互。因此,传统的自主车辆控制系统无法准确地预测其它邻近动态车辆的未来动作或位置。结果,无法实现传统自主车辆的最佳行为。例如,邻近动态障碍物的非期望的行为可能导致与传统自主车辆的碰撞。
因此,用于预测自主车辆邻近车辆意图的高效系统将解决当今自主车辆技术所面临的技术问题。
发明内容
本文公开了针对用于自主车辆的邻近车辆意图预测的系统和方法。具体地,本公开涉及使用基于预测的方法的自主车辆的设计、配置和/或控制。在一个方面,本文的系统可以包括被配置为收集感知数据的各种传感器、计算设备和意图预测模块,意图预测模块用于预测主自主车辆附近(邻近主自主车辆)的其它车辆和/或动态对象的意图和行为。本文公开的示例实施例提供了一种用于在自主驾驶架构中的意图预测的系统和方法。意图预测为自主车辆提供预测周围邻近车辆的近期行为的能力,并且例如,提供改进主车辆的运动规划和规划执行的能力。示例实施例的系统接收感知数据图像特征,并且映射信息以生成与邻近目标车辆的速度、姿态和意图相关联的一系列预测。在特定实施例中,系统可以将这些预测提供给主车辆的运动规划模块。在其它实施例中,邻近车辆意图预测可以用于设计、配置和/或控制自主车辆或相关模拟环境。示例实施例的系统还可以被配置为用于感知特征选择。
在一个示例方面,一种系统,包括数据处理器和邻近车辆意图预测模块,邻近车辆意图预测模块能够由数据处理器执行,邻近车辆意图预测模块被配置为执行针对自主车辆的邻近车辆意图预测操作,邻近车辆意图预测操作被配置为:接收与主车辆相关联的感知数据;从感知数据提取特征以检测在主车辆附近的邻近车辆;基于感知数据生成所检测的邻近车辆的轨迹;使用经训练的意图预测模型,基于感知数据和所检测的邻近车辆的轨迹,来生成所检测的邻近车辆的预测意图;使用所检测的邻近车辆的预测意图,生成所检测的邻近车辆的预测轨迹;以及将针对所检测的邻近车辆的预测意图和预测轨迹输出至另一子系统。
在一些实施例中,其中邻近车辆意图预测操被配置为还包括:通过对所检测的邻近车辆的轨迹进行平滑来生成所检测的邻近车辆的平滑轨迹,其中,生成所检测的邻近车辆的预测轨迹,包括:使用感知数据和所检测的邻近车辆的平滑轨迹生成与所检测的邻近车辆相关联的概率短期操纵分布;通过将贝叶斯滤波器应用于与所检测的邻近车辆相关的概率短期操纵分布,获得与所检测的邻近车辆相关联的过滤过的概率操纵的分布;以及使用隐马尔可夫模型修改与所检测的邻近车辆相关联的过滤过的概率短期操纵分布。
在另一示例方面,公开了一种方法,包括接收与主车辆相关联的感知数据;从感知数据提取特征以检测在主车辆附近的邻近车辆;基于感知数据生成所检测的邻近车辆的轨迹;使用经训练的意图预测模型,基于感知数据和所检测的邻近车辆的轨迹,来生成所检测的邻近车辆的预测意图;使用所检测的邻近车辆的预测意图,生成所检测的邻近车辆的预测轨迹;以及将针对所检测的邻近车辆的预测意图和预测轨迹输出至另一子系统。
在一些实施例中,方法还包括:通过对所检测的邻近车辆的轨迹进行平滑来生成所检测的邻近车辆的平滑轨迹,其中,生成所检测的邻近车辆的预测轨迹,包括:使用感知数据和所检测的邻近车辆的平滑轨迹生成与所检测的邻近车辆相关联的概率短期操纵分布;通过将贝叶斯滤波器应用于与所检测的邻近车辆相关的概率短期操纵分布,获得与所检测的邻近车辆相关联的过滤过的概率操纵的分布;以及使用隐马尔可夫模型修改与所检测的邻近车辆相关联的过滤过的概率短期操纵分布。
在另一示例方面,一种包含指令的非瞬时机器可用存储介质,指令在由机器执行时,使机器以:接收与主车辆相关联的感知数据;从感知数据提取特征以检测在主车辆附近的邻近车辆;基于感知数据生成所检测的邻近车辆的轨迹;使用经训练的意图预测模型,基于感知数据和所检测的邻近车辆的轨迹,来生成所检测的邻近车辆的预测意图;使用所检测的邻近车辆的预测意图,生成所检测的邻近车辆的预测轨迹;以及将针对所检测的邻近车辆的预测意图和预测轨迹输出至另一子系统。
在一些实施例中,指令在由机器执行时使机器还执行:通过对所检测的邻近车辆的轨迹进行平滑来生成所检测的邻近车辆的平滑轨迹,其中,生成所检测的邻近车辆的预测轨迹,包括:使用感知数据和所检测的邻近车辆的平滑轨迹生成与所检测的邻近车辆相关联的概率短期操纵分布;通过将贝叶斯滤波器应用于与所检测的邻近车辆相关的概率短期操纵分布,获得与所检测的邻近车辆相关联的过滤过的概率操纵的分布;以及使用隐马尔可夫模型修改与所检测的邻近车辆相关联的过滤过的概率短期操纵分布。
这些及其它方面在本文献中公开。
附图说明
在附图中,通过示例而非限制性方式示出各种实施例,其中:
图1示出示例生态系统的框图,示例实施例的邻近车辆意图预测模块可以在该生态系统中实现;
图2示出离线训练阶段中的邻近车辆意图预测系统的部件的示例实施例,用于在示例实施例中训练和构建意图预测模型;
图3示出示例实施例中的针对意图预测模型的离线训练的处理工作流程;
图4示出在其中具有意图预测模块和经训练的意图预测模型的邻近车辆意图预测系统的操作阶段部件的示例实施例;
图5示出示例实施例中的针对邻近车辆意图预测系统的操作阶段使用的处理工作流程;
图6示出示例实施例中的针对意图预测过程的操作阶段使用的处理工作流程的细节;
图7A示出示例实施例中的针对预测意图生成过程的操作阶段的处理工作流程的细节;
图7B示出另一示例实施例中的针对预测意图生成过程的操作阶段的处理工作流程的细节;
图8示出图示针对用于自主车辆的邻近车辆意图预测的方法的示例实施例的过程流程图;以及
图9示出计算机系统的示例形式的机器图示,其中当指令集被执行时,可以使机器执行本文所讨论的任何一种或多种方法。
在可能的情况下,使用相同附图标记来表示附图中共同的相同元件。可以预期的是,在一个实施方式中公开的元件可以有益地用于其它实施方式,而不需要具体叙述。
具体实施方式
在以下描述中,出于解释的目的阐述了许多具体细节,以便提供对各种实施例的透彻理解。然而,对于本领域普通技术人员来说,显然可以在没有这些具体细节的情况下实践各种实施例。
在说明书中,共同或相似特征可以用共同的附图标记表示。如本文所使用的“示例性”可以指示示例、实现或方面,并且不应该被解释为限制或指示偏好或优选实施方式。
如在各种示例实施例中所描述的,本文描述了针对用于自主车辆的邻近车辆意图预测的系统和方法。本文公开的示例实施例可以在图1所示的车辆生态系统101中的车载控制系统150的背景下使用。在示例实施例中,在示例实施例中,具有驻留在车辆105中的邻近车辆意图预测模块200的车载控制系统150可以被配置为类似于图1所示的架构和生态系统101。
现在参考图1,框图示出示例生态系统101,示例实施例的车载控制系统150和邻近车辆意图预测模块200可以在该生态系统101中实现。这些部件将在下面更详细地描述。生态系统101包括各种系统和部件,这些系统和部件能够生成一个或多个信息/数据源和相关服务,和/或将一个或多个信息/数据源和相关服务传递至可以安装在车辆105(本文中称为“自主车辆”或“主车辆”)中的车载控制系统150和邻近车辆意图预测模块200。例如,作为车辆子系统140的设备之一,安装在车辆105中的相机可以生成可以由车载控制系统150接收的图像和定时数据。车载控制系统150和在车载控制系统中执行的图像处理模块可以接收该图像和定时数据输入。图像处理模块可以从图像和定时数据提取对象数据,以标识自主车辆或主车辆附近的对象(例如其它车辆)。如下面更详细描述的,邻近车辆意图预测模块200可以处理对象数据,并且生成指示主车辆附近的邻近车辆的预测意图的信息。邻近车辆的预测意图可以用于推断邻近车辆的预测行为和轨迹。在特定实施例中,邻近车辆意图预测模块200可以处理对象数据,并且使用指示邻近车辆的预测意图的信息,基于所检测的对象和预测意图生成主车辆运动规划数据、路线和用于主车辆的执行计划。运动规划数据、路线数据和执行计划可以由自主车辆控制子系统用作车辆子系统140的另一子系统中,或其它车辆系统。自主车辆控制子系统例如可以使用实时生成的运动规划数据、路线数据和执行计划,安全并且高效地导航主车辆105通过真实世界的驾驶环境,同时避开障碍物并且安全地控制主车辆。鉴于本文的公开内容,本领域普通技术人员将清楚,由邻近车辆意图预测模块200生成的指示邻近车辆的预测意图的信息可以由各种其它子系统使用以及用于其它目的。
在如本文所述的示例实施例中,车载控制系统150可以与多个车辆子系统140进行数据通信,所有这些车辆子系统都可以驻留在用户的车辆105中。提供车辆子系统接口141,以促进车载控制系统150与多个车辆子系统140之间的数据通信。车载控制系统150可以被配置为包括数据处理器171,用于执行邻近车辆意图预测模块200用于处理从车辆子系统140中的一个或多个车辆子系统接收的对象数据。数据处理器171可以与作为车载控制系统150中的计算系统170一部分的数据存储设备172进行组合。数据存储设备172可以用于存储数据、处理参数和数据处理指令。可以提供处理模块接口165,以促进数据处理器171与邻近车辆意图预测模块200之间的数据通信。在各种示例实施例中,可以提供与邻近车辆意图预测模块200类似地被配置的多个处理模块,以由数据处理器171执行。如图1中的虚线所示,邻近车辆意图预测模块200可以集成到车载控制系统150中,可选地被下载到车载控制系统150,或者与车载控制系统150分开部署。
车载控制系统150可以被配置为从/向广域网120和与广域网120连接的网络资源122接收或发送数据。车载网络使能设备130和/或用户移动设备132可以被用于经由网络120通信。网络使能设备接口131可以由车载控制系统150使用,以促进车载控制系统150与网络120之间经由车载网络使能设备130的数据通信。类似地,用户移动设备接口133可以由车载控制系统150使用,以促进车载控制系统150与网络120之间经由用户移动设备132的数据通信。以这种方式,车载控制系统150可以经由网络120获得对网络资源122的实时访问。网络资源122可以被用于获得由数据处理器171执行的处理模块、训练内部神经网络的数据内容、系统参数或其它数据。
生态系统101可以包括广域数据网络120。网络120表示一个或多个传统广域数据网络,诸如因特网、蜂窝电话网络、卫星网络、寻呼机网络、无线广播网络、游戏网络、WiFi网络、对等网络、IP语音(VoIP)网络等。这些网络120中的一个或多个可以用于将用户或客户端系统与诸如网站、服务器、中央控制站等网络资源122连接。网络资源122可以生成和/或分发数据,该数据可以经由车载网络使能设备130或用户移动设备132在车辆105中被接收。网络资源122还可以托管网络云服务,这可以支持被用于计算或辅助处理对象输入或对象输出分析的功能。天线可以用于经由蜂窝、卫星、无线电或其它传统信号接收机制,将车载控制系统150和邻近车辆意图预测模块200与数据网络120连接。此类蜂窝数据网络是目前可获得的(例如VerizonTM、AT&TTM、T-MobileTM等)。此类基于卫星的数据或内容网络也是目前可获得的(例如SiriusXMTM、HughesNetTM等)。传统的广播网络,诸如AM/FM无线电网络、寻呼机网络、UHF网络、游戏网络、WiFi网络、对等网络、IP语音(VoIP)网络等也是公知的。因此,如下文中更详细描述的,车载控制系统150和邻近车辆意图预测模块200可以经由车载网络使能设备接口131接收基于网络的数据或内容,车载网络使能设备接口131可以被用于与车载网络使能设备接收器130和网络120连接。以这种方式,车载控制系统150和邻近车辆意图预测模块200可以支持来自车辆105内的各种可网络连接车载设备和系统。
如图1所示,车载控制系统150和邻近车辆意图预测模块200还可以从用户移动设备132接收数据、对象处理控制参数和训练内容,用户移动设备132可以位于车辆105的内部或附近。用户移动设备132可以表示标准移动设备,诸如蜂窝电话、智能电话、个人数字助理、MP3播放器、平板计算设备、膝上型计算机、CD播放器及其它移动设备,这些设备可以产生、接收和/或传递用于车载控制系统150和邻近车辆意图预测模块200的数据、对象处理控制参数和内容。如图1所示,移动设备132还可以与网络云120进行数据通信。移动设备132可以从移动设备132自身的内部存储器部件或经由网络120从网络资源122获得数据和内容。附加地,移动设备132本身可以包括GPS数据接收器、加速度计、WiFi三角测量或移动设备中的其它地理位置传感器或部件,这些传感器或部件可以用于确定用户在任何时刻(经由移动设备)的实时地理位置。在任何情况下,车载控制系统150和邻近车辆意图预测模块200均可以从如图1所示的移动设备132接收数据。
仍然参考图1,生态系统101的示例实施例可以包括车辆操作子系统140。对于在车辆105中实施的实施例,许多标准车辆包括操作子系统,诸如电子控制单元(ECU),用于发动机、制动器、变速器、电气系统、排放系统、内部环境等的辅助监测/控制子系统。例如,经由车辆子系统接口141从车辆操作子系统140(例如车辆105的ECU)通信至车载控制系统150的数据信号可以包括关于车辆105的一个或多个部件或子系统状态的信息。特别地,可以从车辆操作子系统140通信至车辆105的控制器局域网(CAN)总线的数据信号可以经由车辆子系统接口141由车载控制系统150接收和处理。本文描述的系统和方法的实施例可以与使用本文所定义的CAN总线或类似数据通信总线的基本上任何机械化系统一起使用,包括但不限于工业设备、船、卡车、机械或机动车;因此,本文所使用的术语“车辆”可以包括任何此类机械化系统。本文描述的系统和方法的实施例也可以与采用某种形式的网络数据通信的任何系统一起使用;然而,这种网络通信不是必需的。
仍然参考图1,生态系统101的示例实施例,以及生态系统101中的车辆操作子系统140,可以包括支持车辆105操作的各种车辆子系统。一般地,车辆105可以采用例如汽车、卡车、摩托车、公共汽车、船、飞机、直升机、割草机、推土机、雪地车、飞行器、休闲车、游乐园车辆、农场设备、建筑设备、有轨电车、高尔夫球车、火车和手推车的形式。其它车辆也是可能的。车辆105可以被配置为完全或部分地以自主模式操作。例如,当在自主模式下时,车辆105可以控制其自身,并且可以可操作地确定车辆的当前状态和车辆的环境中的背景,确定环境的背景中至少一个其它车辆的预测行为,确定可以对应于至少一个其它车辆执行预测行为的可能性的置信水平,并且基于所确定的信息控制车辆105。当在自主模式下时,车辆105可以被配置为在没有人类交互的情况下操作。
车辆105可以包括具有各种车辆子系统的车辆系统。诸如车辆驱动子系统142、车辆传感器子系统144、车辆控制子系统146和乘员接口子系统148。如上所述,车辆105还可以包括车载控制系统150、计算系统170和邻近车辆意图预测模块200。车辆105可以包括更多或更少的子系统,并且每个子系统可以包括多个元件。此外,车辆105的子系统和元件中的每个子系统和元件可以互连。因此,车辆105所描述功能中的的一个或多个功能可以被分割为附加功能部件或物理部件,或者被组合为更少的功能部件或物理部件。在一些进一步示例中,附加功能部件和物理部件可以添加至图1所示的示例。
车辆驱动子系统142可以包括可操作为提供车辆105的动力运动的部件。在示例实施例中,车辆驱动子系统142可以包括发动机或马达、车轮/轮胎、变速器、电气子系统和电源。发动机或马达可以是内燃机、电动机、蒸汽机、燃料电池发动机、丙烷发动机或其它类型的发动机或马达的任意组合。在一些示例实施例中,发动机可以被配置为将动力源转换为机械能。在一些示例实施例中,车辆驱动子系统142可以包括多种类型的发动机或马达。例如,气电混合动力汽车可以包括汽油发动机和电动马达。其它示例也是可能的。
车辆105的车轮可以是标准轮胎。车辆105的车轮可以被配置为各种形式,包括独轮车、自行车、三轮车或四轮车,诸如在小汽车或卡车上。其它车轮几何构造也是可能的,诸如那些包括六个或更多个车轮的车轮几何构造。车辆105的车轮的任意组合可以可操作为相对于其它车轮差动地旋转。车轮可以表示被固定地附接至变速器的至少一个车轮和被耦接至车轮的轮辋的至少一个轮胎,该轮胎可以与行驶表面接触。车轮可以包括金属和橡胶的组合或其它材料的组合。变速器可以包括可操作为将机械动力从发动机传递至车轮的元件。为此目的,变速器可以包括齿轮箱、离合器、差速器和驱动轴。变速器也可以包括其它元件。驱动轴可以包括一个或多个轴,一个或多个轴可以耦接至一个或多个车轮。电气系统可以包括可操作为传送和控制车辆105中的电信号的元件。这些电信号可以用于激活车辆105的灯、伺服系统、电动马达和其它电驱动或控制设备。动力源可以表示可以全部或部分地为发动机或马达提供动力的能量源。也就是说,发动机或马达可以被配置为将动力源转换为机械能。动力源的示例包括汽油、柴油、其它基于石油的燃料、丙烷、其它基于压缩气体的燃料、乙醇、燃料电池、太阳能电池板、电池和其它电力源。动力源可以附加地或替代地包括燃料箱、电池、电容器或飞轮的任意组合。动力源还可以为车辆105的其它子系统提供能量。
车辆传感器子系统144可以包括多个传感器,这些传感器被配置为感测关于车辆105的环境或状况的信息。例如,车辆传感器子系统144可以包括惯性测量单元(IMU)、全球定位系统(GPS)收发器、RADAR单元、激光测距仪/LIDAR单元以及一个或多个相机或图像捕捉设备。车辆传感器子系统144还可以包括被配置为监测车辆105的内部系统的传感器(例如O2监测器、燃料表、发动机油温)。其它传感器也是可能的。被包括在车辆传感器子系统144中的一个或多个传感器可以被配置为单独地或共同地被激活,以修改一个或多个传感器的位置、朝向或位置和朝向两者。
IMU可以包括被配置为基于惯性加速度感测车辆105的位置和朝向变化的传感器(例如加速度计和陀螺仪)的任意组合。GPS收发器可以是被配置为估计车辆105的地理位置的任何传感器。为此,GPS收发器可以包括接收器/发射器,接收器/发射器可操作为提供关于车辆105相对于地球的位置的信息。RADAR单元可以表示利用无线电信号来感测车辆105的本地环境中的对象的系统。在一些实施例中,除了感测对象之外,RADAR单元可以附加地被配置为感测邻近车辆105的对象的速度和行进方向。激光测距仪或LIDAR单元可以是被配置为使用激光来感测车辆105所处环境中的对象的任何传感器。在示例实施例中,激光测距仪/LIDAR单元可以包括一个或多个激光源、激光扫描仪以及一个或多个检测器和其它系统部件。激光测距仪/LIDAR单元可以被配置为在相干(例如使用外差检测)或非相干检测模式下操作。相机可以包括被配置为捕捉车辆105的环境的多个图像的一个或多个设备。相机可以是静止图像相机或运动视频相机。
车辆控制系统146可以被配置为控制车辆105及其部件的操作。相应地,车辆控制系统146可以包括各种元件,诸如转向单元、油门、制动单元、导航单元和自主控制单元。
转向单元可以表示可操作为调整车辆105的行进方向的机构的任意组合。油门可以被配置为控制例如发动机的运行速度,并且进而控制车辆105的速度。制动单元可以包括被配置为使车辆105减速的机构的任意组合。制动单元可以利用摩擦以标准方式使车轮降速。在其它实施例中,制动单元可以将车轮的动能转换为电流。制动单元也可以采用其它形式。导航单元可以是被配置为确定车辆105的驾驶路径或路线的任何系统。导航单元可以附加地被配置为在车辆105运行时动态地更新驾驶路径。在一些实施例中,导航单元可以被配置为合并来自邻近车辆意图预测模块200、GPS收发器和一个或多个预定地图的数据,以确定车辆105的驾驶路径。自主控制单元可以表示被配置为标识、评估和避免或以其它方式协商车辆105的环境中的潜在障碍物的控制系统。一般地,自主控制单元可以被配置为控制车辆105以在没有驾驶员的情况下操作,或者在控制车辆105时提供驾驶员辅助。在一些实施例中,自主控制单元可以被配置为结合来自邻近车辆意图预测模块200、GPS收发器、RADAR、LIDAR、相机和其它车辆子系统的数据,以确定针对车辆105的驾驶路径或轨迹。车辆控制系统146可以附加地或备选地包括除所示和所描述的那些部件之外的部件。
乘员接口子系统148可以被配置为允许车辆105与外部传感器、其它车辆、其它计算机系统和/或车辆105的乘员或用户之间的交互。例如,乘员接口子系统148可以包括标准视觉显示设备(例如等离子显示器、液晶显示器(LCD)、触摸屏显示器、平视显示器等)、扬声器或其它音频输出设备、麦克风或其它音频输入设备、导航接口和用于控制车辆105的内部环境(例如温度、风扇等)的接口。
在示例实施例中,乘员接口子系统148可以提供例如用于车辆105的用户/乘员与其它车辆子系统交互的手段。视觉显示设备可以向车辆105的用户提供信息。用户接口设备还可以可操作为经由触摸屏接受来自用户的输入。触摸屏可以被配置为经由电容感测、电阻感测或表面声波处理以及其它可能方式,感测用户手指的位置和移动中的至少一个。触摸屏可以能够感测与触摸屏表面平行或共面的方向上、与触摸屏表面正交的方向上或者这两个方向上的手指移动,并且还可以能够感测施加至触摸屏表面的压力水平。触摸屏可以由一个或多个半透明或透明的绝缘层和一个或多个半透明或透明的导电层形成。触摸屏也可采用其它形式。
在其它实例中,乘员接口子系统148可以提供用于车辆105与其环境内的设备通信的装置。麦克风可以被配置为从车辆105的用户接收音频(例如语音命令或其它音频输入)。类似地,扬声器可以被配置为向车辆105的用户输出音频。在示例实施例中,乘员接口子系统148可以被配置为直接或经由通信网络与一个或多个设备无线地通信。例如,无线通信系统可以使用3G蜂窝通信,诸如CDMA、EVDO、GSM/GPRS,或者4G蜂窝通信(诸如WiMAX或LTE)。备选地,无线通信系统可以例如使用与无线局域网(WLAN)通信。在一些实施例中,无线通信系统可以例如使用红外链路、/>或/>直接地与设备通信。在本公开的背景内,诸如各种车辆通信系统等其它无线协议也是可能的。例如,无线通信系统可以包括一个或多个专用短程通信(DSRC)设备,这些DSRC设备可以包括车辆和/或路边站之间的公共或私人数据通信。
车辆105的许多或所有功能可以由计算系统170控制。计算系统170可以包括至少一个数据处理器171(可以包括至少一个微处理器),数据处理器171执行存储在非瞬时计算机可读介质(诸如数据存储设备172)中的处理指令。计算系统170还可以表示多个计算设备,多个计算设备可以服务以分布式方式控制车辆105的单独部件或子系统。在一些实施例中,数据存储设备172可以包含可由数据处理器171执行的处理指令(例如程序逻辑),以执行车辆105的各种功能,包括本文结合附图所描述的那些功能。数据存储设备172也可以包含附加指令,包括向车辆驱动子系统140、车辆传感器子系统144、车辆控制子系统146、乘员接口子系统148或其它车辆系统中的一个或多个传送数据、从车辆驱动子系统140、车辆传感器子系统144、车辆控制子系统146、乘员接口子系统148或其它车辆系统中的一个或多个接收数据、与车辆驱动子系统140、车辆传感器子系统144、车辆控制子系统146、乘员接口子系统148或其它车辆系统中的一个或多个交互或控制车辆驱动子系统140、车辆传感器子系统144、车辆控制子系统146、乘员接口子系统148或其它车辆系统中的一个或多个的指令。
除了处理指令之外,数据存储设备172还可以存储诸如对象处理参数、训练数据、道路地图和路径信息等数据。在车辆105以自主、半自主和/或手动模式操作期间,这些信息可以由车辆105和计算系统170使用。
车辆105可以包括用户接口,用于向车辆105的用户或乘员提供信息或从车辆105的用户或乘员接收输入。用户接口可以控制可以在显示设备上显示的交互式图像的内容和布局,或者可以实现这种控制。此外,用户接口可以包括乘员接口子系统148的组内的一个或多个输入/输出设备,诸如显示设备、扬声器、麦克风或无线通信系统。
计算系统170可以基于从各种车辆子系统(例如车辆驱动子系统140、车辆传感器子系统144和车辆控制子系统146)以及乘员接口子系统148或其它车辆系统接收的输入,来控制车辆105的功能。例如,计算系统170可以使用来自车辆控制系统146的输入以控制转向单元避开由车辆传感器子系统144所检测的障碍物,并且遵循由邻近车辆意图预测模块200生成的路径或轨迹。在示例实施例中,计算系统170可以可操作为提供对车辆105及车辆105的子系统的许多方面的控制。
虽然图1示出了车辆105的各种部件,例如集成在车辆105中的车辆子系统140、计算系统170、数据存储设备172和邻近车辆意图预测模块200,但这些部件中的一个或多个部件可以与车辆105分开安装或关联。例如,数据存储设备172可以部分地或全部地与车辆105分开存在。因此,车辆105可以设置为可以分开定位或一起定位的设备元件的形式。构成车辆105的设备元件可以以有线或无线方式被通信地耦接在一起。
另外,如上所述,其它数据和/或内容(在此表示为辅助数据)可以通过车载控制系统150从本地和/或远程源获得。如本文所述,辅助数据可以用于基于各种因素来增强、修改或训练邻近车辆意图预测模块200的操作,这些因素包括用户操作车辆的背景(例如车辆的位置、特定目的地、行驶方向、速度、时刻、车辆状态等)以及可从本地和远程的各种源获得的各种其它数据。
在特定实施例中,车载控制系统150和邻近车辆意图预测模块200可以实现为车辆105的车载部件。在各种示例实施例中,车载控制系统150和与车载控制系统150进行数据通信的邻近车辆意图预测模块200可以实现为集成部件或分离部件。在示例实施例中,车载控制系统150和/或邻近车辆意图预测模块200的软件部件可以通过使用经由网络120与移动设备132和/或网络资源122的数据连接而被动态地升级、修改和/或增强。车载控制系统150可以周期性地向移动设备132或网络资源122查询更新,或者可以将更新推送给车载控制系统150。
用于自主车辆的邻近车辆意图预测系统和方法
本文公开了针对用于自主车辆的邻近车辆意图预测的系统和方法。具体地,本公开涉及使用基于预测的方法的自主车辆的设计、配置和/或控制。在一个方面,本文的系统可以包括被配置为收集感知数据的各种传感器、计算设备和意图预测模块,意图预测模块用于预测主自主车辆附近(邻近主自主车辆)的其它车辆和/或动态对象的意图和行为。本文公开的示例实施例提供了一种用于在自主驾驶架构中的意图预测的系统和方法。意图预测为自主车辆提供预测周围邻近车辆的近期行为的能力,并且例如,提供改进主车辆的运动规划和规划执行的能力。示例实施例的系统接收感知数据图像特征,并且映射信息以生成与邻近目标车辆的速度、姿态和意图相关联的一系列预测。车辆姿态可以包括车辆航向、朝向、速度、加速度等。在特定实施例中,系统可以将这些预测提供给主车辆的运动规划模块。在其它实施例中,邻近车辆意图预测可以用于设计、配置和/或控制自主车辆或相关模拟环境。示例实施例的系统还可以被配置为用于感知特征选择。下面将更详细地描述示例实施例的系统和方法。
所公开的实施例利用包括来自主自主车辆的传感器数据、状态和背景信息的感知信息来预测可能对主车辆具有影响的邻近车辆的意图和行为。感知信息可以包括来自主车辆相机的图像帧序列、LIDAR数据、IMU数据、GPS数据,以及如上所述的其它传感器和感知数据。示例实施例可以对来自感知数据的图像帧序列执行图像分析,诸如语义分割,以标识主车辆附近的对象,诸如车辆。
示例实施例使用机器学习技术来分析从真实世界交通环境中的车辆和驾驶员的行为记录的大量的感知和背景数据。感知和背景数据的这种分析使得实施例能够准确地训练机器学习模型以针对主车辆在其中操作的背景预测邻近车辆和对象的意图和行为。
现在参考图2,本文公开的示例实施例可以在自主车辆的邻近车辆意图预测系统202的背景下使用。在示例实施例中,邻近车辆意图预测系统202可以包括意图预测模型173(如下文更详细描述的),意图预测模型173可以实现为机器学习系统、神经网络等。因此,示例实施例可以被分两个阶段实现:离线训练阶段和实时操作阶段。训练阶段用于训练和配置意图预测模型173的机器学习系统或神经网络的参数,或用机器学习系统或神经网络实现的邻近车辆意图预测系统202的任何其它部件的参数。如下面更详细地描述的,实时操作阶段在机器学习部件经过训练并且准备好实时支持生成预测车辆或对象意图和轨迹的后使用。
再次参考图2,图中示出示例实施例中用于训练和构建邻近车辆意图预测系统202的离线训练阶段的部件。在训练阶段,训练数据收集系统201可以被用于生成、训练和/或配置意图预测模型173或邻近车辆意图预测系统202的任何其它机器学习部件。如下面针对示例实施例更详细描述的,邻近车辆意图预测系统202可以在操作阶段期间使用经训练和经配置的意图预测模型173,以基于提供给邻近车辆意图预测系统202的感知数据,并且基于训练阶段期间意图预测模型173从训练数据收集系统201接收的训练来生成预测车辆或对象意图和轨迹。
训练数据收集系统201可以包括多个训练数据采集机构,包括从库或人类驾驶数据库获得训练数据或训练图像,以及从感知信息采集设备或传感器阵列获得训练数据或训练图像,感知信息采集设备或传感器可以包括图像生成设备(例如相机)、辐射受激发射光放大(激光)设备、光检测和测距(LIDAR)设备、全球定位系统(GPS)设备、声音导航和测距(SONAR)设备、无线电检测和测距(RADAR)设备等。由信息采集设备在各种交通位置处收集的感知信息可以包括交通或车辆图像数据、道路数据、环境数据、来自LIDAR或RADAR设备的距离数据,以及从被定位在特定道路(例如监测位置)附近的训练数据收集系统201的信息采集设备接收的其它传感器信息。另外,训练数据收集系统201可以包括安装在移动测试车辆中的信息采集设备,移动测试车辆被导航通过感兴趣环境或位置的预定义路线。感知信息可以包括从中可以获得或计算自主车辆或主车辆附近的或邻近自主车辆或主车辆的邻近车辆的位置和速率的数据。对应的地面实况数据也可以由训练数据收集系统201采集。结果,可以获得、处理感知信息、地面实况数据及其它可用信息,并且将其用于构建用于训练和配置邻近车辆意图预测系统202的机器学习部件的训练数据集。
训练数据收集系统201可以由此在不同情境和不同驾驶员动作和意图的背景下收集车辆的实际轨迹和对应的地面实况数据。不同情境可以对应于不同的位置、不同的交通模式、不同的环境条件等。情境可以例如由占用网格、地图上车辆状态的集合或图形表达来表示,诸如一个或多个感兴趣区域的自上而下的图像。驾驶员动作、行为和意图可以对应于驾驶员的短期驾驶目标,诸如左转或右转、加速或减速、汇入、通过、在交叉路口处转弯、进行U形转弯等。驾驶员动作、行为和意图还可以对应于一组驾驶员或车辆控制动作以实现特定短期驾驶目标。
由训练数据收集系统201收集的图像数据及其它感知数据、地面实况数据、背景数据和其它训练数据反映了与被监测位置或路线、情境和驾驶员动作、行为和意图相关联的真正现实的真实世界的交通信息。利用公知数据收集设备的标准能力,所采集的交通和车辆图像数据以及其它感知或传感器数据可以被无线传送(或以其它方式传送)至标准计算系统的数据处理器,在该标准计算系统的数据处理器上可以执行训练数据收集系统201。备选地,所采集的交通和车辆图像数据以及其它感知或传感器数据可以被存储在所监测的位置处或测试车辆中的存储设备中,并且稍后被传送至标准计算系统的数据处理器。由训练数据收集系统201收集或计算的交通和车辆图像数据和其它感知或传感器数据、地面实况数据、驾驶员动作和意图数据、以及其它相关数据可以用于生成训练数据,该训练数据可以用于在训练阶段构建、训练和/或配置意图预测模型173。例如,众所周知,神经网络或其它机器学习系统可以经过训练以基于在训练阶段提供给神经网络或其它机器学习系统的训练数据来产生经配置的输出。由训练数据收集系统201提供的训练数据可以用于构建、训练和/或配置意图预测模型173或邻近车辆意图预测系统202的任何其它机器学习部件,以在给定当前背景和训练阶段期间接收的训练的情况下,生成预测车辆或对象意图及其相关联的预测车辆行为和轨迹。结果,邻近车辆意图预测系统202可以在操作阶段使用经训练的意图预测模型173和真实世界感知数据210(图4中所示),生成邻近车辆或对象意图、行为和轨迹的预测。因此,基于人类驾驶行为,示例实施例使用训练数据收集系统201来收集与人类驾驶行为相对应的训练感知数据、人类驾驶数据和背景数据,然后使用邻近车辆意图预测系统202和其中的经训练的意图预测模型173生成预测车辆意图、行为和轨迹。附加地,在训练阶段期间,示例实施例可以使用损失函数来检查和校正由训练数据收集系统201提供给意图预测模型173的训练的结果。因为在训练阶段中使用真实世界的人类行为数据来训练意图预测模型173,所以由意图预测模型173产生的车辆或对象的预测意图、行为和轨迹与具有人类驾驶员的真实世界环境中的车辆的实际意图、行为和轨迹紧密相关,并且基于由训练数据收集系统201实现的人类驾驶员行为模型。
图3示出示例实施例中针对意图预测模型173的离线训练的处理工作流程500。如上所述,在操作框501中,邻近车辆意图预测系统202可以从训练数据收集系统201接收包括人类驾驶数据的训练数据。然后,邻近车辆意图预测系统202可以执行训练数据的过滤和平滑(操作框503)。平滑可以包括去除伪数据或离群数据。然后在操作框505中,从训练数据执行背景提取,包括车辆或对象统计和标记(例如具有方向的车辆或对象行为)的提取。示例实施例可以使用回归来预测加速度(操作框505)。最后,训练数据收集系统201可以使用训练数据和背景数据来训练意图预测模型173,以执行相对于邻近车辆的意图、行为和轨迹预测(操作框507)。
现在参考图4,如上所述,当邻近车辆意图预测系统202的意图预测模型173在离线训练阶段经过训练之后,意图预测模型173可以在邻近车辆意图预测系统202的操作阶段进行部署。在操作阶段,邻近车辆意图预测系统202可以使用经训练的意图预测模型173来基于如上所述的人类驾驶员行为模型生成预测的邻近车辆或对象意图和轨迹。下面将更详细地描述邻近车辆意图预测系统202的操作阶段。
再次参考图4,图中示出邻近车辆意图预测系统202和其中的邻近车辆意图预测模块200的操作阶段部件的示例实施例。在该示例实施例中,邻近车辆意图预测模块200可以被配置为包括意图预测模块175和经训练的意图预测模型173。如下面更详细描述的,基于感知数据210和如上所述的人类驾驶员行为模型,意图预测模块175可以使用实时感知数据210和经训练的意图预测模型173生成预测的邻近车辆或对象意图和轨迹。预测的邻近车辆意图和轨迹可以基于从包括一个或多个相机的一个或多个主车辆传感器子系统144接收的输入感知数据210生成,并且由图像处理模块处理以标识邻近代理(agents)(例如主车辆附近的移动车辆、动态对象或其它对象)。所生成的预测的邻近车辆意图、行为和轨迹也是基于如上所述的训练数据收集系统201对意图预测模型173的训练。在特定实施例中,运动规划器可以使用预测的邻近车辆或对象意图、行为和轨迹,来生成用于主车辆(例如自主车辆)的运动规划数据、路线数据和执行计划。在其它实施例中,所生成的预测的邻近车辆意图、行为和轨迹也可以用于各种其它目的。
意图预测模块175和经训练的意图预测模型173可以被配置为由车载控制系统150的数据处理器171执行的软件模块。邻近车辆意图预测模块200的意图预测模块175可以接收输入感知数据210并且产生用于主车辆的预测的邻近车辆意图信息220,该信息可以由车辆控制子系统146的自主控制子系统或其它车辆系统使用,以更有效并且更安全地控制主车辆105。在各种实施例中,预测的邻近车辆意图信息220也可以用于各种其它目的。作为其邻近车辆意图预测处理的一部分,意图预测模块175和意图预测模型173可以被配置为以邻近车辆意图预测配置参数174运行,邻近车辆意图预测配置参数174可以用于定制和微调邻近车辆意图预测模块200的操作。邻近车辆意图预测配置参数174可以存储在车载控制系统150的数据存储设备172中。
在该示例实施例中,如图1所示,如本文所述的邻近车辆意图预测模块200可以被配置为包括与车载控制系统150的接口通过该接口,邻近车辆意图预测模块200可以发送和接收数据。附加地,邻近车辆意图预测模块200可以被被配置为包括与车载控制系统150和/或其它生态系统101子系统的接口,通过该接口,邻近车辆意图预测模块200可从上述各种数据源接收辅助数据。邻近车辆意图预测模块200还可以在未部署在车辆中并且不一定在车辆中使用或与车辆一起使用的系统和平台中实现。
在示例实施例中,如图4所示,邻近车辆意图预测模块200可以被配置为包括意图预测模块175和经训练的意图预测模型173,以及为了清楚起见未示出的其它处理模块。这些模块中的每个模块可以实现为在邻近车辆意图预测模块200的可执行环境中执行或激活的软件、固件或其它逻辑部件,邻近车辆意图预测模块200在车载控制系统150内操作或与车载控制系统150进行数据通信。下面结合本文提供的附图更详细地描述示例实施例的这些模块中的每个模块。
再次参考图4,邻近车辆意图预测模块200以及邻近车辆意图预测模块200中的意图预测模块175可以在操作阶段接收来自包括一个或多个相机的车辆传感器子系统144中的一个或多个车辆传感器子系统的输入感知数据210。来自车辆传感器子系统144的图像数据可以由图像处理模块处理以标识邻近代理或其它对象(例如车辆105附近的移动车辆、动态对象或其它对象)。语义分割的过程可以用于该目的。与所标识的邻近代理或其它对象相关联的信息可以由邻近车辆意图预测模块200和邻近车辆意图预测模块200中的意图预测模块175接收作为输入感知数据210。意图预测模块175可以使用输入感知数据210作为邻近车辆意图和轨迹预测过程的一部分。特别地,意图预测模块175可以使用经训练的意图预测模型173来预见或预测主车辆附近的邻近代理(例如车辆)的意图或可能的动作或反应。意图预测模块175可以生成指示邻近代理可能的意图、行为和轨迹或者可能的轨迹分布的信息,该信息被预测为从主车辆105的背景和相关感知数据210产生。邻近代理这些可能的或预测的意图和轨迹可以基于机器学习技术来确定,机器学习技术根据从使用如上所述的训练数据收集系统201采集并且融入训练数据中的先前真实世界人类驾驶员行为模型数据集产生的训练情境来配置。这些可能的或预测的意图、行为和轨迹也可以使用邻近车辆意图预测配置参数174来配置或调整。在从许多人类驾驶员行为模型驾驶情境和训练机器数据集和规则集(或神经网络等)收集数据的过程中,邻近代理可能的或预测的意图、行为和轨迹可以以可变水平的置信或概率来确定。与特定预测轨迹相关联的置信水平或概率值可以被保留或与特定时间点所检测的主车辆105附近的每个邻近代理的预测轨迹相关联。意图预测模块175可以生成指示这些预测的意图、行为和轨迹以及相对于主车辆105的背景的每个邻近代理的置信水平的信息。在特定实施例中,运动规划器可以使用由意图预测模块175生成的指示每个邻近代理的预测意图、行为和轨迹以及对应的置信水平的信息来确定邻近代理的预测意图、行为和轨迹中的任意一个是否可能与主车辆105的轨迹或运动规划冲突。最终,意图预测模块175可以生成预测的邻近车辆意图信息220,该信息可以被提供给包括运动规划器的各种下游子系统。
图5至图8示出示例实施例中针对邻近车辆意图预测系统202的操作阶段使用的操作或处理工作流程600。参考图5,意图预测模块175可以从包括一个或多个相机的车辆传感器子系统144中的一个或多个车辆传感器子系统周期性地接收具有时间戳的实时输入感知数据210(图5所示的操作框601)。在操作阶段期间,所公开的实施例可以使用从主车辆采集的实时传感器和感知信息。该实时感知信息可以包括与主自主车辆相关联的传感器数据、状态和背景信息,这被用于预测可能对主车辆具有影响的邻近车辆的实时意图和行为。再次,实时感知信息可以包括来自主车辆相机的图像帧序列、LIDAR数据、IMU数据、GPS数据,以及如上所述的其它传感器和感知数据。在实施驾驶情境期间,示例实施例可以对来自感知数据的图像帧序列执行实时图像分析,诸如语义分割,以标识主车辆附近的对象,诸如车辆。结果,示例实施例可以在操作阶段使用实时感知信息以检测主车辆附近的邻近车辆,并且映射包括道路车道的主车辆的环境(图5所示的操作框603)。在特定实施例中,可以确定每个邻近车辆相对于主车辆的位置。结果,来自主车辆的感知数据可以用于确定主车辆的背景以及主车辆附近的邻近车辆中的每个邻近车辆。附加地,示例实施例可以使用对象跟踪标识符跨多个图像帧聚合所检测的邻近车辆的感知数据,以获得或生成针对每个所检测的邻近车辆的实际轨迹和预测轨迹(图5所示的操作框605)。此时,意图预测模块175可以使用经训练的意图预测模型173来预测所检测的邻近车辆中的每个邻近车辆的意图。通过使用感知和背景数据以及利用经训练的意图预测模型173的所检测的邻近车辆轨迹,意图预测模块175可以在图6中详细示出的意图预测过程610中为所检测的邻近车辆中的每个邻近车辆生成意图和轨迹预测数据。
现在参考图6,操作或处理工作流程600继续进行至意图预测过程610的细节。在图6所示的操作框612中,意图预测模块175可以使用针对每个所检测的邻近车辆获得的或生成的轨迹,并且移除或过滤与不影响主车辆的邻近车辆轨迹相对应的离群数据。在操作框614中,意图预测模块175可以进一步处理每个所检测的邻近车辆的剩余轨迹以平滑轨迹数据。数据平滑可以包括去除噪声和伪数据。一旦邻近车辆的轨迹数据被过滤和平滑,意图预测模块175就可以在图7A和图7B详细描述的预测意图生成过程616中使用经训练的意图预测模型173和邻近车辆的过滤和平滑轨迹中的每个轨迹,以生成针对邻近车辆中的每个邻近车辆的预测意图。
现在参考图7A,操作或处理工作流程600继续进行至预测意图生成过程616的细节。在图7A所示的操作框6162中,意图预测模块175可以使用经训练的意图预测模型173和邻近车辆的过滤和平滑轨迹中的每个轨迹,以生成与每个邻近车辆相关联的概率短期操纵分布。给定嵌入经训练的意图预测模型173中的诸如加速、变道、制动等的普通驾驶操纵的典型模式,经训练的意图预测模型173可以评估特定邻近车辆符合普通驾驶操纵模式之一的可能性大小。结果,经训练的意图预测模型173可以基于那些具有高可能性的模式的历史数据来进行预测,并且产生每个邻近车辆的概率操纵的分布。在操作框6164中,意图预测模块175可以将贝叶斯(Bayesian)滤波器应用于与每个邻近车辆相关联的概率操纵分布,以基于观察结果调整概率操纵分布(如图7A所示的操作框6164)。在示例实施例中,贝叶斯滤波器是概率理论和统计中使用的贝叶斯定理的应用,并且基于可能与事件相关联的条件的先验知识描述事件的概率。在示例实施例中,贝叶斯滤波器可以使用驾驶操纵模式分布来参数化,然后参数化的贝叶斯滤波器可以用于细化经训练的意图预测模型173的输出。在操作框6166,意图预测模块175可以使用过滤后的与每个邻近车辆相关联的概率操纵分布,以生成针对邻近车辆中的每个邻近车辆的预测意图。
现在参考图7B,图中示出备选实施例,其中可以考虑车辆和驾驶员行为的较大时间帧或延长时间范围。利用这种方法,可以检测诸如驾驶员的驾驶风格的长期行为模式,并且将其用于增强或修改本文描述的意图预测过程的性能。操作或处理工作流600继续进行至预测意图生成过程616的细节。在图7B所示的操作框6162中,意图预测模块175可以使用经训练的意图预测模型173和邻近车辆的过滤和平滑轨迹中的每个轨迹,以生成与每个邻近车辆相关联的概率短期操纵分布。给定嵌入经训练的意图预测模型173中的诸如加速、变道、制动等的普通驾驶操纵的典型模式,经训练的意图预测模型173可以评估特定邻近车辆符合普通驾驶操纵模式之一的可能性大小。结果,经训练的意图预测模型173可以基于那些具有高可能性的模式的历史数据来进行预测,并且产生每个邻近车辆的概率操纵的分布。在操作框6164中,意图预测模块175可以将贝叶斯滤波器应用于与每个邻近车辆相关联的概率操纵分布,以基于观察结果调整概率操纵分布(图7B所示的操作框6164)。在示例实施例中,贝叶斯滤波器是概率理论和统计中使用的贝叶斯定理的应用,并且基于可能与事件相关联的条件的先验知识描述事件的概率。在示例实施例中,贝叶斯滤波器可以使用驾驶操纵模式分布来参数化,然后参数化的贝叶斯滤波器可以用于细化经训练的意图预测模型173的输出。在操作框6166,意图预测模块175可以使用过滤后的与每个邻近车辆相关联的概率操纵分布,以生成每个邻近车辆的预测意图。
该备选实施例可以将意图预测过程公式化为隐马尔可夫模型(Hidden MarkovModel,HMM),其中长期车辆和驾驶员行为模式被隐含地定义为HMM的隐藏状态,并且操纵被作为观察结果。如上所述并且如图7B所示,在每个时间戳处,给定HMM的当前状态,备选实施例可以首先生成过滤后的与每个邻近车辆相关联的概率操纵的过滤分布,以及针对邻近车辆中每个邻近车辆的预测意图。然后,如图7B中的框6167所示,备选实施例可以基于HMM的当前状态使用HMM以修改邻近车辆中的每个车辆过滤后的概率操纵分布和/或预测意图。HMM的隐藏状态捕捉长期车辆和驾驶员行为模式。结果,长期车辆和驾驶员行为模式存储在HMM状态中,以帮助增强和提高意图预测的准确性,并且反过来,预测结果可以用于更新隐藏状态。因此,HMM提供了意图可预测性的扩展时间范围,这提高了邻近车辆意图预测的准确性,并且使得能够在较早的时间点进行准确的预测。在完成了图7A和图7B所示的预测意图生成过程616之后,处理可以返回图6所示的框618。
再次参考图6,在框618处,预测意图生成过程616已经使用经训练的意图预测模型173,并且针对邻近车辆中的每个邻近车辆产生了预测意图。在框618处,针对邻近车辆中的每个邻近车辆的预测意图被用于生成针对邻近车辆中每个邻近车辆的预测轨迹,该轨迹对应于邻近车辆的预测意图。在框619处,针对所检测的邻近车辆中的每个邻近车辆的预测意图和预测轨迹可以作为以预测的邻近车辆意图信息220为形式的输出数据被提供,并且可以被提供给运动规划器或其它车辆或模拟子系统。在完成了图6所示的意图预测过程610之后,处理可以返回图5所示的框607。
再次参考图5,在框607处,意图预测过程610已经针对所检测的邻近车辆中的每个邻近车辆生成预测意图和预测轨迹。在框607处,该数据可以作为预测的邻近车辆意图信息输出至其它车辆子系统,例如运动规划器或其它系统。在完成了图5的示例实施例中所示的意图预测处理工作流程600之后,处理可以如图5所示返回或结束。因此,由示例实施例的意图预测和邻近车辆意图预测系统202执行的处理完成。
本文描述的各种示例实施例使用车辆行为训练数据和普通驾驶行为的历史模式来预期邻近车辆的意图和轨迹,并且相应地修改主车辆的轨迹。结果,主车辆的轨迹可以被修改以避免与邻近车辆的潜在冲突。各种示例实施例中的邻近车辆意图预测系统的目的在于,避免主车辆与道路上的其它邻近车辆和对象碰撞。其它传统的避免碰撞的方法仅使用来自主车辆自身的历史信息。如本文详细描述的,各实施例使用主车辆和邻近车辆的背景信息,基于训练数据来预测其它邻近车辆的意图、行为和轨迹。结果,示例实施例中的邻近车辆意图预测系统可以有效地控制交通中的自主车辆。
现在参考图8,流程图示出用于为自主车辆提供邻近车辆意图预测的系统和方法1000的示例实施例。该示例实施例可以被配置为:接收与主车辆相关联的感知数据(处理框1010);从感知数据提取特征以检测在主车辆附近的邻近车辆(处理框1020);基于感知数据生成所检测的邻近车辆的轨迹(处理框1030);使用经训练的意图预测模型,基于感知数据和所检测的邻近车辆的轨迹,来生成所检测的邻近车辆的预测意图(处理框1040);使用所检测的邻近车辆的预测意图,生成所检测的邻近车辆的预测轨迹(处理框1050);以及将针对所检测的邻近车辆的预测意图和预测轨迹输出至另一子系统(处理框1060)。
如本文所使用的,除非另外指定,否则术语“移动设备”包括可以与本文描述的车载控制系统150和/或邻近车辆意图预测模块200通信,以获得对经由任何模式的数据通信传输的数据信号、信息或内容的读或写访问的任何计算或通信设备。在许多情况下,移动设备130是手持式便携设备,诸如智能电话、移动电话、蜂窝电话、平板计算机、膝上型计算机、显示寻呼机、射频(RF)设备、红外(IR)设备、全球定位设备(GPS)、个人数字助理(PDA)、手持式计算机、可穿戴计算机、便携式游戏控制台、其它移动通信和/或计算设备,或组合了前述设备中一个或多个设备的集成设备等。附加地,移动设备130可以是计算设备、个人计算机(PC)、多处理器系统、基于微处理器的或可编程的消费电子设备、网络PC、诊断设备、由车辆105制造商或服务技术人员操作的系统等,并且不限于便携式设备。移动设备130可以接收并且处理各种数据格式中的任何一种数据格式的数据。数据格式可以包括任何编程格式、协议或语言,或被配置为以任何编程格式、协议或语言操作,包括但不限于JavaScript、C++、iOS、Android等。
如本文所使用的,除非另外指定,否则术语“网络资源”包括可以与本文描述的车载控制系统150和/或邻近车辆意图预测模块200通信,以获得对经由任何模式的进程间或网络数据通信传输的数据信号、信息或内容的读或写访问的任何设备、系统或服务。在许多情况下,网络资源122是数据网络可访问计算平台,包括客户端或服务器计算机、网站、移动设备、对等(P2P)网络节点等。另外,网络资源122可以是网络设备、网络路由器、交换机、网桥、网关、诊断设备、由车辆105制造商或服务技术人员操作的系统,或能够执行指定该机器要采取的动作的指令集(顺序的或其它)的任何机器。此外,虽然仅示出了单个机器,但是术语“机器”也可以被认为包括单独地或联合地执行一组(或多组)指令,以执行本文所讨论的方法中的任何一个或多个方法的机器的任何集合。网络资源122可以包括网络可传输数字内容的各种提供商或处理器中的任何一种提供商或处理器。通常,所采用的文件格式是可扩展标记语言(XML),然而,各个实施例不限于此,也可以使用其它文件格式。例如,各种实施例可以支持除超文本标记语言(HTML)/XML之外的数据格式或除开放/标准数据格式之外的格式。本文描述的各种实施例可以支持任何电子文件格式,诸如便携式文档格式(PDF)、音频(例如运动图像专家组音频层3-MP3等)、视频(例如MP4等)和由特定内容站点界定的任何专有互换格式。
与网络资源122一起使用的广域数据网络120(也称为网络云)可以被配置为将一个计算或通信设备与另一计算或通信设备耦接。网络可以使得能够采用任何形式的计算机可读数据或介质从一个电子设备向另一电子设备传送信息。除了其它广域网(WAN)、蜂窝电话网络、城域网、局域网(LAN)、其它分组交换网络、电路交换网络、诸如通过通用串行总线(USB)或以太网端口的直接数据连接、其它形式的计算机可读介质或其任意组合之外,网络120还可以包括因特网。除了其它广域网(WAN)、蜂窝电话网络、卫星网络、无线广播网络、AM/FM无线电网络、寻呼机网络、UHF网络、其它广播网络、游戏网络、WiFi网络、对等网络、IP语音(VoIP)网络、城域网、局域网(LAN)、其它分组交换网络、电路交换网络、诸如通过通用串行总线(USB)或以太网端口的直接数据连接、其它形式的计算机可读介质或其任意组合之外,网络120还可以包括因特网。在包括那些基于不同架构和协议的网络在内的一组互连网络上,路由器或网关可以作为网络之间的链路,使得消息能够在不同网络的计算设备之间发送。此外,网络内的通信链路通常可以包括双绞线电缆、USB、火线、以太网或同轴电缆,而网络之间的通信链路可以利用模拟或数字电话线、包括T1、T2、T3和T4的全部或部分专用数字线、综合服务数字网络(ISDN)、数字用户线(DSL)、包括卫星链路的无线链路、蜂窝电话链路或本领域普通技术人员已知的其它通信链路。此外,远程计算机和其它相关电子设备可以经由调制解调器和临时电话链路远程连接至网络。
网络120还可以包括多种无线子网络中的任何一种无线子网络,这些无线子网络还可以覆盖独立的自组织网络等,以提供面向基础设施的连接。这种子网络可以包括网状网络、无线LAN(WLAN)网络、蜂窝网络等。网络还可以包括由无线无线电链路或无线收发器连接的终端、网关、路由器等的自治系统。这些连接器可以被配置为自由和随机地移动并且任意地组织其自身,使得网络拓扑可以快速改变。网络120还可以采用多个标准无线和/或蜂窝协议或接入技术中的一个或多个标准无线和/或蜂窝协议或接入技术,包括本文结合附图中所描述的网络接口712和网络714所阐述的那些。
在特定实施例中,移动设备132和/或网络资源122可以用作客户端设备,使得用户能够访问和使用车载控制系统150和/或邻近车辆意图预测模块200,以与车辆子系统的一个或多个部件交互。这些客户端设备132或122实际上可以包括被配置为通过网络(诸如本文所述的网络120)发送和接收信息的任何计算设备。此类客户端设备可以包括移动设备,诸如蜂窝式电话、智能电话、平板计算机、显示寻呼机、射频(RF)设备、红外(IR)设备、全球定位设备(GPS)、个人数字助理(PDA)、手持式计算机、可穿戴计算机、游戏控制台、组合了前述设备中的一个或多个设备的集成设备等。客户端设备还可以包括其它计算设备,诸如个人计算机(PC)、多处理器系统、基于微处理器的或可编程的消费电子产品、网络PC等。这样,客户端设备在能力和特征方面可以有很大的范围。例如,被配置为蜂窝电话的客户端设备可以具有数字键盘和仅可以显示文本的几行单色LCD显示器。在另一示例中,网络使能客户端设备可以具有触敏屏、指示笔,以及可以显示文本和图形两者的彩色LCD显示屏。此外,该网络使能客户端设备可以包括能够接收和发送无线应用协议消息(WAP)和/或有线应用消息等的浏览器应用。在实施例中,浏览器应用实现为能够采用超文本标记语言(HTML)、动态HTML、手持设备标记语言(HDML)、无线标记语言(WML)、WMLScript、JavaScriptrm、可扩展HTML(xHTML)、紧凑HTML(CHTML)等来显示和发送具有相关信息的消息。
客户端设备还可以包括至少一个客户端应用,该至少一个客户端应用被配置为经由网络传输从另一计算设备接收内容或消息。客户端应用可以包括提供和接收文本内容、图形内容、视频内容、音频内容、警报、消息、通知等的能力。此外,客户端设备还可以被配置为与另一计算设备等之间诸如通过短消息服务(SMS)、直接消息收发(例如Twitter)、电子邮件、多媒体消息服务(MMS)、即时消息收发(IM)、因特网中继聊天(IRC)、mIRC、Jabber、增强型消息收发服务(EMS)、文本消息收发、智能消息收发、空中(OTA)消息收发等来通信和/或接收消息。客户端设备还可以包括无线应用设备,在该无线应用设备上,客户端应用被配置为使得设备的用户能够经由网络向/从网络资源无线地发送和接收信息。
车载控制系统150和/或邻近车辆意图预测模块200可以使用增强执行环境安全性的系统来实现,从而提高安全性并且降低车载控制系统150和/或邻近车辆意图预测模块200及相关服务可能被病毒或恶意软件危害的可能性。例如,车载控制系统150和/或邻近车辆意图预测模块200可以使用可信执行环境(Trusted Execution Environment)来实现,从而可以确保敏感数据以安全的方式存储、处理和传送。
图9示出计算系统700的示例形式的机器的图示,其中当指令集被执行和/或处理逻辑被激活时,可以使得机器执行本文所描述和/或要求保护的方法中的任何一种或多种方法。在备选实施例中,机器作为独立设备操作,或者可以被连接(例如联网)至其它机器。在联网部署中,机器可以在服务器-客户端网络环境下以服务器或客户端机器的能力操作,或者作为对等(或分布式)网络环境中的对等机器操作。该机器可以是个人计算机(PC)、膝上型计算机、平板计算系统、个人数字助理(PDA)、蜂窝电话、智能电话、web设备、机顶盒(STB)、网络路由器、交换机或网桥,或者能够执行指令集(顺序的或其它)或激活指定该机器要采取的动作的处理逻辑的任何机器。此外,虽然仅示出了单个机器,但是术语“机器”也可以被认为包括单独地或联合地执行一组(或多组)指令或处理逻辑,以执行本文所描述的和/或要求保护的方法中的任何一个或多个方法的机器的任何集合。
示例计算系统700可以包括数据处理器702(例如片上系统(SoC)、通用处理核、图形核以及可选地其它处理逻辑)和存储器704,这两个部件可以经由总线或其它数据传输系统706彼此通信。移动计算和/或通信系统700还可以包括各种输入/输出(I/O)设备和/或接口710,诸如触摸屏显示器、音频插孔、语音接口,并且可选地包括网络接口712。在示例实施例中,网络接口712可以包括一个或多个无线电收发器,一个或多个无线电收发器被配置为用于兼容任何一个或多个标准无线和/或蜂窝协议或接入技术(例如第2代(2G)、2.5、第3代(3G)、第4代(4G)和下一代蜂窝系统无线电接入、全球移动通信系统(GSM)、通用分组无线电服务(GPRS)、增强数据GSM环境(EDGE)、宽带码分多址(WCDMA)、LTE、CDMA2000、WLAN、无线路由器(WR)网格等)。网络接口712还可以被配置为用于与各种其它有线和/或无线通信协议一起使用,包括TCP/IP、UDP、SIP、SMS、RTP、WAP、CDMA、TDMA、UMTS、UWB、WiFi、WiMax、BluetoothTM、IEEE802.11x等。实质上,网络接口712可以包括或支持几乎任何有线和/或无线通信和数据处理机制,通过这些机制,信息/数据可以经由网络714在计算系统700与另一计算或通信系统之间传播。
存储器704可以表示机器可读介质,上面存储有体现本文所描述和/或要求保护的方法或功能中的任意一个或多个方法或功能的指令集、软件、固件或其它处理逻辑(例如逻辑708)中的一个或多个。逻辑708或逻辑708的一部分也可以在由移动计算和/或通信系统700执行期间完全或至少部分地驻留在处理器702内。这样,存储器704和处理器702还可以构成机器可读介质。逻辑708或逻辑708的一部分还可以被配置为处理逻辑或逻辑,并且至少部分地以硬件实现。逻辑708或逻辑708的一部分还可以经由网络接口712通过网络714来传送或接收。虽然示例实施例中的机器可读介质可以是单个介质,但是术语“机器可读介质”应当被理解为包括存储指令集中的一个或多个指令集的单个或多个非瞬时介质(例如集中式或分布式数据库和/或相关联的高速缓存和计算系统)。术语“机器可读介质”还应当被理解为包括能够存储、编码或承载用于由机器执行并且使得机器执行各种实施例的方法中的任何一个或多个方法的指令集,或者能够存储、编码或承载由此类指令集利用或与此类指令集相关联的数据结构的任何非瞬时介质。因此,术语“机器可读介质”可以被认为包括但不限于固态存储器、光介质和磁介质。
本文描述的一些实施例可以使用以下基于条款的描述来获得。
条款1:一种系统,包括数据处理器和邻近车辆意图预测模块,所述邻近车辆意图预测模块能够由所述数据处理器执行,所述邻近车辆意图预测模块被配置为执行针对自主车辆的邻近车辆意图预测操作,所述邻近车辆意图预测操作被配置为:接收与主车辆相关联的感知数据;从所述感知数据提取特征以检测所述在主车辆附近的邻近车辆;基于所述感知数据生成所检测的所述邻近车辆的轨迹;使用经训练的意图预测模型,基于所述感知数据和所检测的所述邻近车辆的轨迹,来生成所检测的所述邻近车辆的预测意图;使用所检测的所述邻近车辆的预测意图,生成所检测的所述邻近车辆的预测轨迹;以及将针对所检测的所述邻近车辆的预测意图和预测轨迹输出至另一子系统。
条款2:根据条款1所述的系统,其中所述感知数据包括从相机或图像捕捉设备、惯性测量单元(IMU)、全球定位系统(GPS)收发器、RADAR单元和激光测距仪/LIDAR单元中的至少一个的传感器接收的数据。
条款3:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为使用语义分割从所述感知数据提取特征。
条款4:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为用离线训练阶段期间采集的训练数据来训练所述意图预测模型。
条款5:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为通过使用对象跟踪标识符跨多个图像帧聚合所检测的所述邻近车辆的感知数据,生成所检测的所述邻近车辆的轨迹。
条款6:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为过滤和平滑所检测的所述邻近车辆的所述轨迹。
条款7:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为生成所检测的所述邻近车辆的预测意图和对应的概率短期操纵分布,并且将贝叶斯滤波器应用于与所检测的所述邻近车辆相关联的所述对应的概率短期操纵分布,以基于观察结果调整所述分布。
条款8:根据条款1所述的系统,其中所述邻近车辆意图预测操作还被配置为生成所检测的所述邻近车辆的预测意图和对应的概率短期操纵分布,并且使用隐马尔可夫模型(HMM)修改和保留与所检测的所述邻近车辆相关联的对应的所述概率短期操纵分布。
条款9:根据权利要求1所述的系统,其中所检测的所述邻近车辆的所述预测意图和所述预测轨迹被输出至运动规划器。
条款10:根据条款1所述的系统,其中所检测的所述邻近车辆的所述预测意图和所述预测轨迹被输出至与所述主车辆相关联的车辆系统,使所述主车辆针对所检测的所述邻近车辆的所述预测意图和所述预测轨迹做出反应。
条款11:在另一方面,公开了一种方法,包括:接收与主车辆相关联的感知数据;从所述感知数据提取特征以检测在所述主车辆附近的邻近车辆;基于所述感知数据生成所检测的所述邻近车辆的轨迹;使用经训练的意图预测模型,基于所述感知数据和所检测的所述邻近车辆的轨迹,来生成所检测的所述邻近车辆的预测意图;使用所检测的所述邻近车辆的所述预测意图,生成所检测的所述邻近车辆的预测轨迹;以及将针对所检测的所述邻近车辆的所述预测意图和所述预测轨迹输出至另一子系统。
条款12:根据条款11所述的方法,其中所述感知数据包括从相机或图像捕捉设备、惯性测量单元(IMU)、全球定位系统(GPS)收发器、RADAR单元和激光测距仪/LIDAR单元中的至少一个的传感器接收的数据。
条款13:根据条款11所述的方法,还包括使用语义分割从所述感知数据提取特征。
条款14:根据条款11所述的方法,还包括利用在离线训练阶段期间采集的训练数据来训练所述意图预测模型。
条款15:根据条款11所述的方法,还包括通过使用对象跟踪标识符跨多个图像帧聚合针对所检测的所述邻近车辆的感知数据,生成所检测的所述邻近车辆的轨迹。
条款16:根据条款11所述的方法,还包括过滤和平滑所检测的所述邻近车辆的轨迹。
条款17:根据条款11所述的方法,还包括生成所检测的所述邻近车辆的预测意图和对应的概率短期操纵分布,并且将贝叶斯滤波器应用于与所检测的所述邻近车辆相关联的所述对应的概率短期操纵分布,以基于观察结果调整所述分布。
条款18:根据条款11所述的方法,还包括生成所检测的所述邻近车辆的预测意图和对应的概率短期操纵分布,并且使用隐马尔可夫模型(HMM)修改和保留与所检测的所述邻近车辆相关联的所述对应的概率短期操纵分布。
条款19:根据权利要求11所述的方法,其中所检测的所述邻近车辆的所述预测意图和所述预测轨迹被输出至运动规划器。
条款20:根据条款11所述的方法,其中所检测的所述邻近车辆的所述预测意图和所述预测轨迹被输出至与所述主车辆相关联的车辆系统,使所述主车辆针对所检测的所述邻近车辆的所述预测意图和所述预测轨迹做出反应。
条款21:在另一方面,一种包含指令的非瞬时机器可用存储介质,所述指令在由机器执行时使所述机器以:接收与主车辆相关联的感知数据;从所述感知数据提取特征以检测在所述主车辆附近的邻近车辆;基于所述感知数据生成所检测的所述邻近车辆的轨迹;使用经训练的意图预测模型,基于所述感知数据和所检测的所述邻近车辆的轨迹,来生成所检测的所述邻近车辆的预测意图;使用所检测的所述邻近车辆的所述预测意图,生成所检测的所述邻近车辆的所述预测轨迹;以及将针对所检测的所述邻近车辆的所述预测意图和所述预测轨迹输出至另一子系统。
条款22:根据条款21所述的非瞬时机器可用存储介质,其中所述指令还被配置为生成所检测的所述邻近车辆的所述预测意图和对应的概率短期操纵分布,并且使用隐马尔可夫模型(HMM)修改和保留与所检测的所述邻近车辆相关联的对应的所述概率短期操纵分布。
本文档中所公开的实施例及其它的实施例、模块和功能操作可以在数字电子电路中实现,或者在计算机软件、固件或硬件中实现,包括本文档中所公开的结构及其结构等效物,或其中一个或多个的组合。所公开的及其它的实施例可以实现为一个或多个计算机程序产品,即在计算机可读介质上编码的计算机程序指令的一个或多个模块,以由数据处理装置执行或控制数据处理装置的操作。计算机可读介质可以是机器可读存储设备、机器可读存储基板、存储设备、实现机器可读传播信号的物质组合物或其中一个或多个的组合。术语“数据处理装置”包括用于处理数据的所有装置、设备和机器,包括例如可编程处理器、计算机,或多个处理器或计算机。除了硬件之外,该装置可以包括为所讨论的计算机程序创建执行环境的代码,例如构成处理器固件、协议栈、数据库管理系统、操作系统或其中一个或多个的组合的代码。传播信号是人工生成的信号,例如机器生成的电、光或电磁信号,这些信号被生成以编码信息,从而传输至适当的接收器装置。
计算机程序(也称程序、软件、软件应用、脚本或代码)可以以任何形式的编程语言编写,包括编译或解释语言,并且计算机程序可以以任何形式部署,包括作为独立程序或作为模块、部件、子例程或适合在计算环境中使用的其它单元。计算机程序不一定与文件系统中的文件相对应。程序可以存储在保存其它程序或数据的文件的一部分中(例如存储在标记语言文档中的一个或多个脚本)、存储在专用于所讨论程序的单个文件中,或者存储在多个协同文件中(例如存储一个或多个模块、子程序或部分代码的文件)。计算机程序可以被部署为在一个计算机上执行,或者在位于一个地点或分布在多个地点并通过通信网络互连的多个计算机上执行。
本文档中描述的过程和逻辑流程可以由一个或多个可编程处理器执行,该可编程处理器执行一个或多个计算机程序,以通过对输入数据进行操作并生成输出来执行功能。这些过程和逻辑流程还可以由专用逻辑电路来执行,并且装置也可以实现为专用逻辑电路,例如FPGA(现场可编程门阵列)或ASIC(专用集成电路)。
适用于执行计算机程序的处理器包括,例如通用和专用微处理器,以及任何类型的数字计算机的任何一个或多个处理器。一般地,处理器从只读存储器或随机存取存储器或两者接收指令和数据。计算机的基本元件是处理器,用于执行指令,以及一个或多个存储设备,用于存储指令和数据。一般地,计算机还包括用于存储数据的一个或多个大容量存储设备,例如磁盘、磁光盘或光盘,或者可操作地耦接至一个或多个大容量存储设备,以从其接收数据或向其传送数据,或者从其接收数据或向其传送数据两者。然而,计算机不一定具有这些设备。适用于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、介质和存储设备,包括例如半导体存储设备,例如EPROM、EEPROM和闪存设备;磁盘,例如内部硬盘或可移动磁盘;磁光盘;以及CDROM和DVD-ROM盘。处理器和存储器可以由专用逻辑电路补充或并入专用逻辑电路中。
虽然本专利文档包含许多细节,但这些细节不应解释为对任何发明的范围或可能要求保护的范围的限制,而应解释为对可能特定于特定发明的特定实施例的特征的描述。本专利文档中在单独实施例的背景中描述的某些特征也可以在单个实施例中组合实现。相反地,在单个实施例的背景中描述的各种特征也可以在多个实施例中单独地或以任何适当的子组合来实现。此外,虽然特征可能在上文中被描述为在某些组合中起作用并且甚至最初被这样要求保护,但来自所要求保护的组合的一个或多个特征在一些情况下可以从该组合中去除,并且所要求保护的组合可以是针对子组合或子组合的变型。
类似地,虽然在附图中以特定顺序描绘了操作,但是这不应理解为要求以所示的特定顺序或以连续顺序执行这些操作,或者要求执行所有示出的操作以达到期望结果。此外,本专利文档中描述的实施例中的各种系统部件的分离不应理解为在所有实施例中都需要这种分离。
仅描述了一些实施方式和示例,并且基于本专利文档中所描述和示出的内容,可以做出其它实施方式、增强和变型。
本文所描述的实施例的说明示旨在提供对各种实施例的结构的一般理解,并且不旨在用作可能利用本文所描述结构的部件和系统的所有元件和特征的完整描述。在阅读了本文提供的描述之后,许多其它实施例对于本领域普通技术人员来说将是明显的。可以利用和导出其它实施例,使得可以在不脱离本公开范围的情况下进行结构和逻辑替换和改变。本文的附图仅仅是代表性的,并且可以不按比例绘制。附图中的某些比例可能被夸大,而其它比例可能被最小化。因此,说明书和附图应视为是说明性的而非限制性的。
一些实施例在两个或更多个特定互连硬件模块或设备中实现功能,其中相关控制和数据信号在模块之间和通过模块传送,或者作为专用集成电路的部分。因此,示例系统可应用于软件、固件和硬件实施方式。
提供摘要以允许读者快速确定本技术公开的实质。应当理解的是,摘要并非用于解释或限制权利要求的范围或含义。另外,在前述具体实施方式中,可以看出为了使本公开流畅,各种特征被一起分组在单个实施例中。这种公开方法不应解释为反映了所要求保护的实施例需要比每个权利要求中明确记载的特征更多特征的意图。相反地,如所附权利要求所反映的,发明主题在于少于单个公开实施例的所有特征。因此,以下权利要求于此并入具体实施方式中,其中每个权利要求本身独立地作为单独实施例。提供摘要以允许读者快速确定本技术公开的实质。应当理解的是,摘要并非用于解释或限制权利要求的范围或含义。另外,在前述具体实施方式中,可以看出为了使本公开流畅,各种特征被一起分组在单个实施例中。这种公开方法不应解释为反映了所要求保护的实施例需要比每个权利要求中明确记载的特征更多特征的意图。相反地,如所附权利要求所反映的,发明主题在于少于单个公开实施例的所有特征。因此,以下权利要求于此并入具体实施方式中,其中每个权利要求本身独立地作为单独实施例。
虽然前述内容针对本公开的实施方式,但是在不脱离本公开的基本范围的情况下,可以设计本公开的其它和进一步的实施方式,并且本公开的范围由所附权利要求确定。
Claims (20)
1.一种系统,包括:
处理器;以及
存储器,用于存储邻近车辆意图预测模块,其中所述邻近车辆意图预测模块在由所述处理器执行时,使所述系统:
接收与主车辆相关联的感知数据;
从所述感知数据提取特征;
使用所提取的所述特征检测在所述主车辆附近的邻近车辆;
基于所述感知数据生成所检测的所述邻近车辆的轨迹;
使用所述感知数据、所检测的所述邻近车辆的所述轨迹以及意图预测模型,来生成所检测的所述邻近车辆的预测意图;
修改所检测的所述邻近车辆的所述预测意图;以及
使用经修改的所述预测意图,生成所检测的所述邻近车辆的预测轨迹。
2.根据权利要求1所述的系统,其中所述邻近车辆意图预测模块还被配置为:
将经修改的所述预测意图和所检测的所述邻近车辆的所述预测轨迹输出给所述主车辆的运动规划器。
3.根据权利要求1所述的系统,其中所述感知数据包括从以下至少一项接收的数据:相机、图像捕捉设备、惯性测量单元IMU、全球定位系统GPS收发器、无线电检测和测距RADAR设备、激光测距仪、光检测和测距LIDAR设备或者声音导航和测距SONAR设备。
4.根据权利要求1所述的系统,其中所述系统被配置为使用训练数据训练所述意图预测模型。
5.根据权利要求1所述的系统,其中所述邻近车辆意图预测模块被配置为:使用对来自所述感知数据的图像帧序列的语义分割,来检测所述邻近车辆。
6.根据权利要求1所述的系统,其中所述邻近车辆意图预测模块被配置为:使用跨多个图像帧的针对所检测的所述邻近车辆的聚合感知数据,来生成所检测的所述邻近车辆的所述轨迹。
7.一种方法,包括:
接收与主车辆相关联的感知数据;
从所述感知数据提取特征;
使用所提取的所述特征检测在所述主车辆附近的邻近车辆;
基于所述感知数据生成所检测的所述邻近车辆的轨迹;
使用所述感知数据、所检测的所述邻近车辆的所述轨迹以及意图预测模型,来生成所检测的所述邻近车辆的预测意图;
修改所检测的所述邻近车辆的所述预测意图;以及
使用经修改的所述预测意图,生成所检测的所述邻近车辆的预测轨迹。
8.根据权利要求7所述的方法,还包括:
将经修改的所述预测意图和所检测的所述邻近车辆的所述预测轨迹输出给所述主车辆的车辆子系统。
9.根据权利要求7所述的方法,其中生成所检测的所述邻近车辆的所述预测意图包括:
使用所述感知数据和所检测的所述邻近车辆的所述轨迹生成与所检测的所述邻近车辆相关联的概率操纵分布。
10.根据权利要求9所述的方法,还包括:
通过将贝叶斯滤波器应用于与所检测的所述邻近车辆相关联的所述概率操纵分布,获得与所检测的所述邻近车辆相关联的经过滤的概率操纵分布。
11.根据权利要求10所述的方法,其中所述贝叶斯滤波器使用驾驶操纵模式分布而被参数化。
12.根据权利要求10所述的方法,还包括:
使用隐马尔可夫模型修改与所检测的所述邻近车辆相关联的所述经过滤的概率操纵分布。
13.根据权利要求7所述的方法,还包括:
使用与所检测的所述邻近车辆相关联的所观察的操纵,更新所检测的所述邻近车辆的所述预测意图。
14.根据权利要求7所述的方法,其中所检测的所述邻近车辆的所述轨迹是所检测的所述邻近车辆的平滑轨迹。
15.根据权利要求14所述的方法,其中所述平滑轨迹使用所检测的所述邻近车辆的轨迹的时间平滑来获得。
16.一种非瞬态计算机可读存储介质,包括可执行指令,所述可执行指令在由至少一个处理器执行时,使所述至少一个处理器执行操作,所述操作包括:
接收与主车辆相关联的感知数据;
从所述感知数据提取特征;
使用所提取的所述特征检测在所述主车辆附近的邻近车辆;
基于所述感知数据生成所检测的所述邻近车辆的轨迹;
使用所述感知数据、所检测的所述邻近车辆的所述轨迹以及意图预测模型,来生成所检测的所述邻近车辆的预测意图;
修改所检测的所述邻近车辆的所述预测意图;以及
使用经修改的所述预测意图,生成所检测的所述邻近车辆的预测轨迹。
17.根据权利要求16所述的非瞬态计算机可读存储介质,其中所述指令在由所述至少一个处理器执行时,使所述至少一个处理器执行操作,所述操作包括:
将经修改的所述预测意图和所检测的所述邻近车辆的所述预测轨迹输出给仿真系统。
18.根据权利要求16所述的非瞬态计算机可读存储介质,其中从所述感知数据提取特征是使用语义分割来执行的。
19.根据权利要求16所述的非瞬态计算机可读存储介质,其中所述指令在由所述至少一个处理器执行时,使所述至少一个处理器执行操作,所述操作包括:从所检测的所述邻近车辆的所述轨迹中移除噪声和伪数据。
20.根据权利要求16所述的非瞬态计算机可读存储介质,其中修改所检测的所述邻近车辆的所述预测意图包括使用隐马尔可夫模型,并且其中所述指令在由所述至少一个处理器执行时,使所述至少一个处理器执行操作,所述操作包括:
使用所检测的所述邻近车辆的所述预测轨迹,更新所述隐马尔可夫模型的隐藏状态。
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/994,138 US11104334B2 (en) | 2018-05-31 | 2018-05-31 | System and method for proximate vehicle intention prediction for autonomous vehicles |
US15/994,103 US20190367019A1 (en) | 2018-05-31 | 2018-05-31 | System and method for proximate vehicle intention prediction for autonomous vehicles |
US15/994,138 | 2018-05-31 | ||
US15/994,103 | 2018-05-31 | ||
CN201980036132.0A CN112272844B (zh) | 2018-05-31 | 2019-05-31 | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
PCT/US2019/034882 WO2019232355A1 (en) | 2018-05-31 | 2019-05-31 | System and method for proximate vehicle intention prediction for autonomous vehicles |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980036132.0A Division CN112272844B (zh) | 2018-05-31 | 2019-05-31 | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115848416A true CN115848416A (zh) | 2023-03-28 |
Family
ID=68697246
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310052438.3A Pending CN115848416A (zh) | 2018-05-31 | 2019-05-31 | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
CN201980036132.0A Active CN112272844B (zh) | 2018-05-31 | 2019-05-31 | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201980036132.0A Active CN112272844B (zh) | 2018-05-31 | 2019-05-31 | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
Country Status (4)
Country | Link |
---|---|
EP (1) | EP3803833A4 (zh) |
CN (2) | CN115848416A (zh) |
AU (1) | AU2019278974A1 (zh) |
WO (1) | WO2019232355A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
DE102020200183A1 (de) * | 2020-01-09 | 2021-07-15 | Continental Automotive Gmbh | Verfahren zum Erstellen einer probabilistischen Freiraumkarte mit statischen und dynamischen Objekten |
CN113206786B (zh) * | 2020-01-31 | 2022-12-27 | 华为技术有限公司 | 训练智能体的方法和装置 |
US11312373B2 (en) | 2020-03-05 | 2022-04-26 | Ford Global Technologies, Llc | Vehicle detection and response |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8605947B2 (en) * | 2008-04-24 | 2013-12-10 | GM Global Technology Operations LLC | Method for detecting a clear path of travel for a vehicle enhanced by object detection |
FR3020616B1 (fr) * | 2014-04-30 | 2017-10-27 | Renault Sas | Dispositif de signalisation d'objets a un module de navigation de vehicule equipe de ce dispositif |
DE102014009253B4 (de) * | 2014-06-20 | 2022-10-27 | Audi Ag | Verfahren zum Steuern einer Lichtverteilung eines Scheinwerfers eines Kraftfahrzeugs |
EP3193303B1 (en) * | 2014-09-11 | 2024-01-31 | Sony Group Corporation | System and method for generating a relationship graphs |
US9248834B1 (en) * | 2014-10-02 | 2016-02-02 | Google Inc. | Predicting trajectories of objects based on contextual information |
-
2019
- 2019-05-31 WO PCT/US2019/034882 patent/WO2019232355A1/en unknown
- 2019-05-31 CN CN202310052438.3A patent/CN115848416A/zh active Pending
- 2019-05-31 CN CN201980036132.0A patent/CN112272844B/zh active Active
- 2019-05-31 EP EP19810795.5A patent/EP3803833A4/en active Pending
- 2019-05-31 AU AU2019278974A patent/AU2019278974A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
EP3803833A1 (en) | 2021-04-14 |
AU2019278974A1 (en) | 2021-01-07 |
EP3803833A4 (en) | 2022-03-09 |
CN112272844B (zh) | 2023-02-03 |
WO2019232355A1 (en) | 2019-12-05 |
CN112272844A (zh) | 2021-01-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11948082B2 (en) | System and method for proximate vehicle intention prediction for autonomous vehicles | |
CN111344646B (zh) | 用于自主车辆的轨迹规划的基于数据驱动的预测的系统和方法 | |
US11892846B2 (en) | Prediction-based system and method for trajectory planning of autonomous vehicles | |
US10782693B2 (en) | Prediction-based system and method for trajectory planning of autonomous vehicles | |
US10685244B2 (en) | System and method for online real-time multi-object tracking | |
US20190367019A1 (en) | System and method for proximate vehicle intention prediction for autonomous vehicles | |
CN111373458B (zh) | 用于自主车辆的轨迹规划的基于预测的系统和方法 | |
US10953880B2 (en) | System and method for automated lane change control for autonomous vehicles | |
US11983008B2 (en) | System and method for using human driving patterns to manage speed control for autonomous vehicles | |
CN112154088B (zh) | 用于自主车辆的自动车道变更控制的系统和方法 | |
CN112272844B (zh) | 针对用于自主车辆的邻近车辆意图预测的系统和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |