CN110249204A - 用于自主车辆的解决方案路径叠加界面 - Google Patents

用于自主车辆的解决方案路径叠加界面 Download PDF

Info

Publication number
CN110249204A
CN110249204A CN201780074840.4A CN201780074840A CN110249204A CN 110249204 A CN110249204 A CN 110249204A CN 201780074840 A CN201780074840 A CN 201780074840A CN 110249204 A CN110249204 A CN 110249204A
Authority
CN
China
Prior art keywords
vehicle
solution path
data
external object
path
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201780074840.4A
Other languages
English (en)
Other versions
CN110249204B (zh
Inventor
L.佩德森
M.西尔休伊斯
H.乌茨
M.D.彭纳
T.方
M.阿兰
M.布拉特
E.谢弗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
National Aeronautics and Space Administration NASA
Original Assignee
Nissan North America Inc
National Aeronautics and Space Administration NASA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan North America Inc, National Aeronautics and Space Administration NASA filed Critical Nissan North America Inc
Publication of CN110249204A publication Critical patent/CN110249204A/zh
Application granted granted Critical
Publication of CN110249204B publication Critical patent/CN110249204B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3407Route searching; Route guidance specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers
    • G01C21/3667Display of a road map
    • G01C21/3676Overview of the route on the road map
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0044Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement by providing the operator with a computer generated representation of the environment of the vehicle, e.g. virtual reality, maps
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/36Input/output arrangements for on-board computers

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • General Engineering & Computer Science (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)

Abstract

描述了用于生成解决方案路径叠加界面以传输解决方案路径的方法和系统。所公开的技术包括从车辆接收车辆数据和外部数据。车辆数据包括车辆位置和车辆目的地,并且外部数据包括多个外部对象中的每个外部对象的位置和移动路径。在车辆位置和车辆目的地之间确定解决方案路径,其中,解决方案路径不与多个外部对象相交。生成解决方案路径叠加界面,该解决方案路径叠加界面包括沿解决方案路径行驶的车辆并且包括多个外部对象中的至少一些外部对象。输出解决方案路径叠加界面以供显示,该解决方案路径叠加界面被配置为接收来自操作员的命令,该命令引起经更新的解决方案路径,该经更新的解决方案路径被传输到车辆以供执行。

Description

用于自主车辆的解决方案路径叠加界面
技术领域
本申请总体上涉及自主(autonomous,自动驾驶)车辆(vehicle,交通工具),并且更具体地涉及用于自主车辆操作的解决方案路径叠加界面。
背景技术
自主车辆的使用尚未消除可能延误或阻碍车辆的运输的情况(例如,施工区域)的发生。通过利用人类车辆操作员可以加快这种情况的解决,该人类车辆操作员可以通过使用他们对车辆正在操作的环境的理解来引导车辆。这种理解取决于关于环境的信息,其可以以各种方式传达给人类操作员,包括口头描述(例如,来自寻求援助的滞留驾驶员的电话),或者取决于位置信息(例如,用以确定车辆位置的地理坐标)。然而,这些信息并未充分反映可能对车辆的有效和安全操作有影响的许多因素。
发明内容
本文公开了用于生成解决方案路径叠加(overlay,覆盖、叠映)界面的方面、特征、元件、实现和实现方式。
所公开的实现的方面包括一种用于生成解决方案路径叠加界面以将解决方案路径传输到车辆的方法。该方法包括:通过解决方案路径叠加系统从车辆的车辆控制系统接收车辆数据和外部数据,车辆数据与车辆相关联并且包括车辆位置和车辆目的地,外部数据包括多个外部对象中的每个外部对象的位置和移动路径;通过解决方案路径叠加系统使用车辆数据和外部数据来确定车辆位置和车辆目的地之间的解决方案路径,解决方案路径不与多个外部对象相交;通过解决方案路径叠加系统生成解决方案路径叠加界面,该解决方案路径叠加界面包括沿着解决方案路径行进(traverse,行进通过、穿过、通过)的车辆的表示以及多个外部对象中的至少一些外部对象的表示;通过解决方案路径叠加系统输出解决方案路径叠加界面以供显示,该解决方案路径叠加界面被配置为接收来自解决方案路径叠加界面的操作员的命令;响应于接收到来自解决方案路径叠加界面的操作员的命令,通过解决方案路径叠加系统根据所接收的命令更新解决方案路径叠加界面,以提供经更新的解决方案路径;以及通过解决方案路径叠加系统将经更新的解决方案路径传输到车辆以供执行。
所公开的实现的方面包括一种解决方案路径叠加系统,该系统包括存储器和处理器,该处理器被配置为执行存储在存储器中的指令以:从车辆的车辆控制系统接收车辆数据和外部数据,车辆数据与车辆相关联并且包括车辆位置和车辆目的地,外部数据包括多个外部对象中的每个外部对象的位置和移动路径;使用车辆数据和外部数据来确定车辆位置和车辆目的地之间的解决方案路径,解决方案路径不与多个外部对象相交;生成解决方案路径叠加界面,该解决方案路径叠加界面包括沿着解决方案路径行进的车辆的表示以及多个外部对象中的至少一些外部对象的表示;输出解决方案路径叠加界面以供显示,该解决方案路径叠加界面被配置为接收来自解决方案路径叠加界面的操作员的命令;响应于接收到来自解决方案路径叠加界面的操作员的命令,根据所接收的命令更新解决方案路径叠加界面,以提供经更新的解决方案路径;以及将经更新的解决方案路径传输到车辆以供执行。
所公开的实现的方面包括一种非暂时性计算机可读存储介质,该非暂时性计算机可读存储介质包括能够通过解决方案路径叠加系统的一个或多个处理器执行的程序指令,该程序指令在被执行时使得一个或多个处理器执行操作,该操作包括:从车辆的车辆控制系统接收车辆数据和外部数据,车辆数据与车辆相关联并且包括车辆位置和车辆目的地,并且外部数据包括多个外部对象中的每个外部对象的位置和移动路径;使用车辆数据和外部数据来确定车辆位置和车辆目的地之间的解决方案路径,解决方案路径不与多个外部对象相交;生成解决方案路径叠加界面,该解决方案路径叠加界面包括沿着解决方案路径行进的车辆的表示以及多个外部对象中的至少一些外部对象的表示;输出解决方案路径叠加界面以供显示,该解决方案路径叠加界面被配置为接收来自解决方案路径叠加界面的操作员的命令;响应于接收到来自解决方案路径叠加界面的操作员的命令,根据所接收的命令更新解决方案路径叠加界面,以提供经更新的解决方案路径;以及将经更新的解决方案路径传输到车辆以供执行。
在以下对实施方式、所附权利要求和附图的详细描述中公开了本公开内容的这些和其他方面。
附图说明
当结合附图阅读时,从以下详细描述中可以最好地理解所公开的技术。要强调的是,根据惯例,附图的各种特征不是按比例的。相反,为了清楚起见,各种特征的尺寸被任意扩大或缩小。
图1是其中可以实现本文公开的方面、特征和元素的车辆的一部分的示例的图。
图2是其中可以实现本文公开的方面、特征和元素的车辆运输和通信系统的一部分的示例的图。
图3是示出根据本公开内容的解决方案路径叠加界面的示例的图。
图4是示出根据本公开内容的解决方案路径叠加界面的示例的图。
图5是根据本公开内容的用于生成解决方案路径叠加界面的技术的流程图。
图6是根据本公开内容的用于生成解决方案路径叠加界面的技术的流程图。
图7是根据本公开内容的用于生成解决方案路径叠加界面的技术的流程图。
图8是根据本公开内容的用于生成解决方案路径叠加界面的方法的流程图。
图9是示出根据本公开内容的用于经由控制器装置控制自主车辆的自主车辆的车辆控制系统的示例的图。
图10是示出根据本公开内容的控制器装置的示例的图。
具体实施方式
表示车辆(例如,自主车辆、人类驾驶的车辆和半自主车辆)及其周围环境的方式可以影响诸如由车辆内的人类驾驶员、由人类远程操作员、或甚至由非人类远程操作员操作车辆的有效性。容易理解的是,对车辆及其周围环境的表示可以增强所提供的辅助的有效性,尤其是当车辆受到外部对象(例如,施工区域、失速的车辆、倒下的树木等)的阻碍或延误时。
本公开内容和所公开的技术提供了一种通过生成解决方案路径叠加界面来解决车辆和外部对象的无效表示问题以辅助车辆的操作员的方式。通过提供用于车辆行进通过环境——诸如具有挑战性道路状况包括但不限于道路迂回的环境——的解决方案路径的指示,向本地或远程的人类或非人类操作员提供有用信息以辅助车辆的有效操作(诸如遥控操作)。
所公开的技术通过识别外部对象并区分不可移动的对象(例如,建筑物)和可移动的对象(例如,行人、车辆)来促进对车辆行进通过环境的安全导航。此外,所公开的技术可以确定受管控的交通流模式(例如,根据交通规则和当前状况的交通流),其可以用于确定具有受管控的交通流的道路是受限的或不可用的环境中的解决方案路径(例如,临时将交通流重新定路线到逆受管控的交通流模式的相反方向车道的施工区域)。以这种方式,可以通过使用解决方案路径叠加界面来改进车辆操作员的情况意识,从而得到更有效和安全的车辆操作。
如本文所使用的,术语“驾驶员”或“操作员”可以互换使用。如本文所使用的,术语“制动”或“减速”可以互换使用。如本文所使用的,术语“计算机”或“计算设备”包括能够执行本文公开的任何方法或其任何一个或多个部分的任何单元或单元的组合。
如本文所使用的,术语“处理器”指示一个或多个处理器,诸如一个或多个专用处理器、一个或多个数字信号处理器、一个或多个微处理器、一个或多个控制器、一个或多个微控制器、一个或多个应用处理器、一个或多个专用集成电路、一个或多个特定于应用的标准产品;一个或多个现场可编程门阵列、集成电路的任何其他类型或组合、一个或多个状态机、或它们的任何组合。
如本文所使用的,术语“存储器”指示任何计算机可用或计算机可读介质或设备,其可以有形地包含、存储、传达或传送可以由任何处理器使用或与任何处理器结合使用的任何信号或信息。例如,存储器可以是一个或多个只读存储器(ROM)、一个或多个随机存取存储器(RAM)、一个或多个寄存器、低功率双倍数据速率(LPDDR)存储器、一个或多个高速缓冲存储器、一个或多个半导体存储设备、一个或多个磁介质、一个或多个光学介质、一个或多个磁光介质或它们的任何组合。
如本文所使用的,术语“指令”可以包括用于执行本文公开的任何方法或其任何一个或多个部分的指示或表达,并且可以以硬件、软件或它们的任何组合来实现。例如,指令可以被实现为存储在存储器中的信息,诸如计算机程序,其可以由处理器执行以执行如本文中所描述的相应方法、算法、方面或它们的组合中的任何一种。在一些实现中,指令或其一部分可以被实现为专用处理器或电路,其可以包括用于执行如本文中所描述的方法、算法、方面或它们的组合中的任何一种的专用硬件。在一些实现中,指令的部分可以分布在单个设备上的多个处理器上、分布在多个设备上或者分布在上述两者的组合上,所述多个设备可以直接通信或跨网络诸如局域网、广域网、因特网通信。
如本文所使用的,术语“示例”、“实施方式”、“实现”、“方面”、“特征”或“元素”指示用作示例、实例或说明。除非明确指示,否则任何示例、实施方式、实现、方面、特征或元素独立于每个其他示例、实施方式、实现、方面、特征或元素,并且可以与任何其他示例、实施方式、实现、方面、特征或元素组合使用。
如本文所使用的,术语“确定”和“识别”或它们的任何变型包括以无论什么的任何方式使用本文所示出和描述的一个或多个设备进行的选择、查明、计算、查找、接收、确定、建立、获得或以其他方式的识别或确定。
如本文所使用的,术语“或”意图意味着包含性的“或”而不是排他性的“或”。即,除非另有指定或从上下文中明确,否则“X包括A或B”意图指示自然的包含性排列中的任何排列。如果X包括A;X包括B;或者X包括A和B,则在前述实例中的任何实例下都满足“X包括A或B”。另外,如在本申请和所附权利要求中使用的冠词“一”和“一个”通常应理解为意味着“一个或多个”,除非另有指定或从上下文明确地指向单数形式。
此外,为了简化说明,尽管本文中的附图和描述可以包括连续的或一系列步骤或阶段,但是本文公开的方法的元素可以以各种顺序或同时发生。另外,本文公开的方法的元素可以与本文未明确呈现和描述的其他元素一起发生。此外,可能并非需要本文中所描述的方法的全部元素来实现根据本公开内容的方法。虽然本文以特定组合描述了方面、特征和元素,但是每个方面、特征或元素可以独立使用或者与或不与其他方面、特征和元素以各种组合使用。
本公开内容的实现提供了特定于解决方案路径界面的生成的技术改进,例如,涉及计算机网络部件的扩展以远程地监测和遥控操作自主车辆的技术改进。用以监测自主车辆网络资源以例如识别系统或车辆损害并指示需要管理或关注以及在监测设备和车辆之间传达指令或信息的新方式的开发从根本上与同自主车辆有关的计算机网络有关。
本公开内容的实现至少提供用于生成解决方案路径叠加界面的系统,装置、非暂时性计算机可读介质和方法。该系统包括例如通过车辆中的通信系统从远程数据源(例如,远程车辆监测服务器)接收车辆数据和与车辆相关联的外部数据。车辆数据可以涉及车辆的状态,包括车辆的位置、计划的目的地和操作状态。外部数据可以涉及外部对象的状态,包括外部对象的位置和外部对象的移动路径(例如,外部对象已行经的路线以及预计行经的路线)。系统确定车辆的位置(车辆位置)与车辆的目的地(车辆目的地)之间的路径,诸如解决方案路径,该路径不与外部对象相交或接近外部对象(例如,车辆避免与外部对象的物理接触,或者车辆避免进入预定区域或避免与外部对象接近,上述外部对象包括行人和路边障碍物)。此外,系统生成向车辆的操作员显示解决方案路径的解决方案路径叠加界面。例如,系统可以生成车辆的图形表示、车辆的预定区域内的外部对象的图像表示、以及从当前车辆位置到目的地的确定的解决方案路径的图像表示,作为解决方案路径叠加界面。
为了更详细地描述一些实现,参考以下附图。
图1是其中可以实现本文公开的方面、特征和元素的车辆1000的示例的图。车辆1000包括底盘1100、动力总成1200、控制器1300、车轮1400/1410/1420/1430、或车辆的任何其他元件或元件的组合。尽管为了简单起见,车辆1000被示出为包括四个车轮1400/1410/1420/1430,但是可以使用任何其他一个或多个推进设备,诸如推进器或踏板。在图1中,使元件诸如动力总成1200、控制器1300和车轮1400/1410/1420/1430互相连接的线指示信息诸如数据或控制信号、动力诸如电力或扭矩、或者信息与动力两者可以在相应元件之间传送。例如,控制器1300可以从动力总成1200接收动力并且与动力总成1200、车轮1400/1410/1420/1430或两者通信以控制车辆1000,其可以包括加速、减速、转向或以其他方式控制车辆1000。
动力总成1200包括动力源1210、传动装置1220、转向单元1230、车辆致动器1240、或动力总成的任何其他元件或元件的组合,诸如悬架、驱动轴、轴或排气系统。尽管单独示出,但是车轮1400/1410/1420/1430可以被包括在动力总成1200中。
动力源1210可以是可操作以提供能量诸如电能、热能或动能的任何设备或设备的组合。例如,动力源1210包括发动机诸如内燃发动机、电动机、或内燃发动机和电动机的组合,并且可操作以向车轮1400/1410/1420/1430中的一个或多个车轮提供动能作为原动力。在一些实施方式中,动力源1210包括势能单元,诸如一个或多个干电池组,诸如镍镉(NiCd)、镍锌(NiZn)、镍金属氢化物(NiMH)、锂离子(Li离子);太阳能电池;燃料电池;或任何其他能够提供能量的设备。
传动装置1220从动力源1210接收能量诸如动能,并将能量传输到车轮1400/1410/1420/1430以提供原动力。传动装置1220可以由控制器1300、车辆致动器1240或两者控制。转向单元1230可以由控制器1300、车辆致动器1240或两者控制,并控制车轮1400/1410/1420/1430以使车辆转向。车辆致动器1240可以从控制器1300接收信号,并且可以致动或控制动力源1210、传动装置1220、转向单元1230或它们的任何组合以操作车辆1000。
在一些实施方式中,控制器1300包括位置单元1310、电子通信单元1320、处理器1330、存储器1340、用户接口1350、传感器1360、电子通信接口1370或它们的任何组合。尽管被示出为单个单元,但是控制器1300的任何一个或多个元件可以集成到任何数量的单独物理单元中。例如,用户接口1350和处理器1330可以集成在第一物理单元中,并且存储器1340可以集成在第二物理单元中。尽管未在图1中示出,但是控制器1300可以包括电源,诸如电池。尽管被示出为单独的元件,但是位置单元1310、电子通信单元1320、处理器1330、存储器1340、用户接口1350、传感器1360、电子通信接口1370或它们的任何组合可以集成在一个或者多个电子单元、电路或芯片中。
在一些实施方式中,处理器1330包括能够操纵或处理现存或此后开发的信号或其他信息的任何设备或设备的组合,包括光学处理器、量子处理器、分子处理器或它们的组合。例如,处理器1330可以包括一个或多个专用处理器、一个或多个数字信号处理器、一个或多个微处理器、一个或多个控制器、一个或多个微控制器、一个或多个集成电路、一个或多个特定于应用的集成电路、一个或多个现场可编程门阵列、一个或多个可编程逻辑阵列、一个或多个可编程逻辑控制器、一个或多个状态机、或它们的任何组合。处理器1330可以与位置单元1310、存储器1340、电子通信接口1370、电子通信单元1320、用户接口1350、传感器1360、动力系统1200或它们的任何组合可操作地耦接。例如,处理器可以经由通信总线1380与存储器1340可操作地耦接。
在一些实施方式中,处理器1330可以被配置为执行包括用于远程操作的指令的指令,这可以用于从包括操作中心的远程位置操作车辆1000。用于远程操作的指令可以存储在车辆1000中,或者从外部源诸如交通管理中心或服务器计算设备接收,该服务器计算设备可以包括基于云的服务器计算设备。
存储器1340可以包括任何有形的非暂时性计算机可用或计算机可读介质,该介质能够例如包含、存储、传达或传送机器可读指令或与其相关联的任何信息,供处理器1330使用或与处理器结合使用。存储器1340是例如:一个或多个固态驱动器;一个或多个存储卡;一个或多个可移动介质;一个或多个只读存储器;一个或多个随机存取存储器;一个或多个磁盘,包括硬盘、软盘、光盘、磁卡或光卡;或适用于存储电子信息的任何类型的非暂时性介质;或它们的任何组合。
电子通信接口1370可以是如图所示的无线天线、有线通信端口、光通信端口、或能够与有线或无线电子通信介质1500连接的任何其他有线或无线单元。
电子通信单元1320可以被配置为经由有线或无线电子通信介质1500传输或接收信号,例如经由电子通信接口1370。虽然未在图1中明确示出,但是电子通信单元1320被配置为经由任何有线或无线通信介质诸如无线电频率(RF)、紫外线辐射(UV)、可见光、光纤、有线线路或它们的组合来进行传输、接收或两者兼具。尽管图1示出了电子通信单元1320中的单个电子通信单元和电子通信接口1370中的单个电子通信接口,但是可以使用任何数量的通信单元和任何数量的通信接口。在一些实施方式中,电子通信单元1320可以包括专用短程通信(DSRC)单元、无线安全单元(WSU)、IEEE 802.11p(Wifi-P)或它们的组合。
位置单元1310可以确定地理位置信息,包括但不限于车辆1000的经度、纬度、高程、行驶方向或速度。例如,位置单元包括全球定位系统(GPS)单元,诸如广域增强系统(WAAS)启用的国家海洋电子协会(NMEA)单元、无线电三角测量单元或它们的组合。位置单元1310可以用于获得表示例如下述项的信息:车辆1000的当前行进方向、车辆1000在二维或三维中的当前位置、车辆1000的当前角度定向、或者它们的组合。
用户接口1350可以包括能够被人用作接口的任何单元,包括虚拟键盘、物理键盘、触摸板、显示器、触摸屏、扬声器、麦克风、摄像机、传感器和打印机中的任意项。用户接口1350可以如图所示与处理器1330可操作地耦接,或者与控制器1300的任何其他元件可操作地耦接。尽管被示出为单个单元,但是用户接口1350可以包括一个或多个物理单元。例如,用户接口1350包括用于与人进行音频通信的音频接口,以及用于与人进行基于视觉和触摸的通信的触摸显示器。
传感器1360可以包括一个或多个传感器,诸如传感器阵列,其可以可操作以提供可用于控制车辆的信息。传感器1360可以提供关于车辆或其周围环境的当前操作特性的信息。传感器1360包括例如速度传感器、加速度传感器、转向角传感器、牵引有关的传感器、制动有关的传感器或可操作以报告关于车辆1000的当前动态情况的一些方面的信息的任何传感器或传感器的组合。
在一些实施方式中,传感器1360可以包括可操作以获得关于车辆1000周围的物理环境的信息的传感器。例如,一个或多个传感器检测道路几何结构和障碍物,诸如固定的障碍物、车辆、骑车者和行人。在一些实施方式中,传感器1360可以是或包括现在已知或以后开发的一个或多个摄像机、激光传感系统、红外传感系统、声学传感系统或任何其他合适类型的车载环境传感设备或设备的组合。在一些实施方式中,传感器1360和位置单元1310被组合。
虽然没有单独示出,但是车辆1000可以包括轨迹控制器。例如,控制器1300可以包括轨迹控制器。轨迹控制器可操作以获得描述车辆1000的当前状态和为车辆1000计划的路线的信息,并且基于该信息来确定并优化用于车辆1000的轨迹。在一些实施方式中,轨迹控制器输出信号,该信号可操作以控制车辆1000,使得车辆1000遵循由轨迹控制器确定的轨迹。例如,轨迹控制器的输出可以是优化的轨迹,其可以被提供给动力系统1200、车轮1400/1410/1420/1430或两者。在一些实施方式中,优化的轨迹可以是控制输入,诸如一组转向角,其中每个转向角对应于时间或位置上的点。在一些实施方式中,优化的轨迹可以是一个或多个路径、线、曲线或它们的组合。
车轮1400/1410/1420/1430中的一个或多个车轮可以是在转向单元1230的控制下枢转到转向角的转向轮、在传动装置1220的控制下被扭转以推进车辆1000的推进轮、或转向和推进车辆1000的转向和推进轮。
车辆可以包括图1中未示出的单元或元件,诸如外壳、蓝牙模块、调频(FM)无线电单元、近场通信(NFC)模块、液晶显示器(LCD)显示单元、有机发光二极管(OLED)显示单元、扬声器或它们的任何组合。
图2是其中可以实现本文公开的方面、特征和元素的车辆运输和通信系统2000的一部分的示例的图。车辆运输和通信系统2000包括:车辆2100,诸如图1所示的车辆1000;以及一个或多个外部对象,诸如外部对象2110,其可以包括任何形式的交通工具诸如图1所示的车辆1000、行人、骑车者以及任何形式的结构诸如建筑物。车辆2100可以经由运输网络2200的一个或多个部分行驶,并且可以经由电子通信网络2300中的一种或多种与外部对象2110通信。虽然未在图2中明确示出,但是车辆可以行进通过没有明确或完全包括在运输网络中的区域,诸如越野区域。在一些实施方式中,运输网络2200可以包括一个或多个车辆检测传感器2202,诸如感应回路传感器,其可以用于检测车辆在运输网络2200上的移动。
电子通信网络2300可以是多路接入系统,其在车辆2100、外部对象2110和操作中心2400之间提供通信,诸如语音通信、数据通信、视频通信、消息通信或它们的组合。例如,车辆2100或外部对象2110可以经由电子通信网络2300从操作中心2400接收信息,诸如表示运输网络2200的信息。
操作中心2400包括控制器装置2410,其包括图1所示的控制器1300的特征中的一些或全部特征。控制器装置2410可以监测和协调车辆包括自主车辆的移动。控制器装置2410可以监测车辆诸如车辆2100和外部对象诸如外部对象2110的状态或状况。控制器装置2410可以接收车辆数据和基础设施数据,包括下述中的任意项:车辆速度;车辆位置;车辆操作状态;车辆目的地;车辆路线;车辆传感器数据;外部对象速度;外部对象位置;外部对象操作状态;外部对象目的地;外部对象路线;以及外部对象传感器数据。
此外,控制器装置2410可以建立对一个或多个车辆诸如车辆2100或外部对象诸如外部对象2110的远程控制。以这种方式,控制器装置2410可以从远程位置遥控操作车辆或外部对象。控制器装置2410可以经由无线通信链路诸如无线通信链路2380或有线通信链路诸如有线通信链路2390与车辆、外部对象或计算设备诸如车辆2100、外部对象2110或服务器计算设备2500交换(发送或接收)状态数据。
服务器计算设备2500可以包括一个或多个服务器计算设备,其可以经由电子通信网络2300与一个或多个车辆或计算设备,包括车辆2100、外部对象2110或操作中心2400,交换(发送或接收)状态信号数据。
在一些实施方式中,车辆2100或外部对象2110经由有线通信链路2390、无线通信链路2310/2320/2370或任何数量或类型的有线或无线通信链路的组合进行通信。例如,如图所示,车辆2100或外部对象2110经由地面无线通信链路2310、经由非地面无线通信链路2320或者经由它们的组合进行通信。在一些实现中,地面无线通信链路2310包括以太网链路、串行链路、蓝牙链路、红外(IR)链路、紫外(UV)链路或能够提供电子通信的任何链路。
车辆诸如车辆2100或外部对象诸如外部对象2110可以与另一车辆、外部对象或操作中心2400通信。例如,主机或主体车辆2100可以经由直接通信链路2370或经由电子通信网络2300从操作中心2400接收一个或多个自动式车辆间消息,诸如基本安全消息(BSM)。例如,操作中心2400可以将消息广播到在限定的广播范围诸如三百米内的主机车辆,或者广播到限定的地理区域。在一些实施方式中,车辆2100经由第三方诸如信号中继器(未示出)或另一远程车辆(未示出)接收消息。在一些实施方式中,车辆2100或外部对象2110基于限定的间隔诸如一百毫秒周期性地传输一个或多个自动式车辆间消息。
自动式车辆间消息可以包括:车辆识别信息;地理空间状态信息,诸如经度、纬度或高程信息;地理空间位置准确度信息;运动学状态信息,诸如车辆加速度信息、偏航率信息、速度信息、车辆行进方向信息、制动系统状态数据、油门信息、转向轮角度信息或车辆路线信息;或车辆操作状态信息,诸如车辆大小信息、前灯状态信息、方向灯信息、雨刷状态数据、传动装置信息;或者与传动中的车辆状态有关的任何其他信息或信息的组合。例如,传动装置状态信息指示传动中的车辆的传动装置是处于空档状态、停车状态、前进状态还是倒车状态。
在一些实施方式中,车辆2100经由接入点2330与电子通信网络2300通信。可以包括计算设备的接入点2330可以被配置为经由有线或无线通信链路2310/2340与车辆2100、与电子通信网络2300、与操作中心2400或它们的组合通信。例如,接入点2330是基站、基站收发台(BTS)、Node-B、增强型Node-B(eNode-B)、Home Node-B(HNode-B)、无线路由器、有线路由器、集线器、中继器、交换机或任何类似的有线或无线设备。虽然被示出为单个单元,但是接入点可以包括任何数量的互相连接的元件。
车辆2100可以经由卫星2350或其他非地面通信设备与电子通信网络2300通信。可以包括计算设备的卫星2350可以被配置为经由一个或多个通信链路2320/2360与车辆2100、与电子通信网络2300、与操作中心2400或它们的组合通信。虽然被示出为单个单元,但是卫星可以包括任何数量的互相连接的元件。
电子通信网络2300可以是被配置为提供语音、数据或任何其他类型的电子通信的任何类型的网络。例如,电子通信网络2300包括局域网(LAN)、广域网(WAN)、虚拟私人网络(VPN)、移动或蜂窝电话网络、因特网或任何其他电子通信系统。电子通信网络2300可以使用通信协议,诸如传输控制协议(TCP)、用户数据报协议(UDP)、互联网协议(IP)、实时传输协议(RTP)、超文本传输协议(HTTP)或者它们的组合。虽然被示出为单个单元,但是电子通信网络可以包括任何数量的互相连接的元件。
在一些实施方式中,车辆2100经由电子通信网络2300、接入点2330或卫星2350与操作中心2400通信。操作中心2400可以包括一个或多个计算设备,该一个或多个计算设备能够交换(发送或接收)来自下述的数据:车辆,诸如车辆2100;外部对象,包括外部对象2110;或者计算设备,诸如服务器计算设备2500。
在一些实施方式中,车辆2100识别运输网络2200的一部分或状况。例如,车辆2100可以包括一个或多个车载传感器2102,诸如图1所示的传感器1360,其包括速度传感器、车轮速度传感器、摄像机、陀螺仪、光学传感器、激光传感器、雷达传感器、声波传感器或能够确定或识别运输网络2200的一部分或状况的任何其他传感器或设备或者它们的组合。
车辆2100可以使用经由电子通信网络2300传达的信息诸如表示运输网络2200的信息、由一个或多个车载传感器2102识别的信息或者它们的组合来行进通过运输网络2200的一个或多个部分。外部对象2110可以能够进行上面关于车辆2100所描述的通信和动作中的全部或一些通信和动作。
为简单起见,图2示出了作为主机车辆的车辆2100、外部对象2110、运输网络2200、电子通信网络2300和操作中心2400。然而,可以使用任何数量的车辆、网络或计算设备。在一些实施方式中,车辆运输和通信系统2000包括图2中未示出的设备、单元或元件。虽然车辆2100或外部对象2110被示出为单个单元,但是车辆可以包括任何数量的互相连接的元件。
尽管车辆2100被示出为经由电子通信网络2300与操作中心2400通信,但是车辆2100(和外部对象2110)可以经由任何数量的直接或间接通信链路与操作中心2400通信。例如,车辆2100或外部对象2110可以经由直接通信链路诸如蓝牙通信链路与操作中心2400通信。尽管为简单起见图2示出了运输网络2200中的一个运输网络以及电子通信网络2300中的一个电子通信网络,但是可以使用任何数量的网络或通信设备。
图3是示出根据本公开内容的解决方案路径叠加界面3000的示例的图。可以基于可以在包括图2所示的控制器装置2410的计算装置上执行的一个或多个指令来生成解决方案路径叠加界面3000,并且该一个或多个指令可以存储在包括控制器装置2410的计算装置的存储器中。例如,解决方案路径叠加界面3000可以由控制器装置2410基于由客户端计算设备解译的指令来生成,所述客户端计算设备通过计算机网络访问控制器装置2410。然后,客户端计算设备可以在显示设备上生成解决方案路径叠加界面3000的表示。
在实现中,解决方案路径叠加界面3000包括:环境表示3010;未铺设的表面指示符3012;人行道指示符3014;车行道部分指示符3016;车行道部分指示符3018;可以表示将遵循解决方案路径的车辆的车辆指示符3020;解决方案路径指示符3022(也称为解决方案路径);解决方案路径叠加指示符3024(也称为解决方案路径叠加);缓冲距离3026;外部对象指示符3030,其在该实现中表示另一车辆,但可以是另一外部对象,包括但不限于倒下的树;表示行人的外部对象指示符3040/3050/3060;分别表示外部对象指示符3040/3050/3060的移动路径的移动路径指示符3042/3052/3062;表示施工区域的外部对象指示符3070;以及表示车道划分标记的车道标记指示符3080。
环境表示3010包括多个对象的表示,包括车辆指示符3020和多个外部对象的外部对象指示符3040/3050/3060/3070。对象的表示可以基于与实际地理区域内的实际对象的状态或状况(例如,外观、移动方向、身份)有关的数据。例如,对象可以包括车辆,包括图2所示的车辆2100。对象可以被表示为指示符诸如车辆指示符3020,其可以被生成为各种图像,包括但不限于静态图像、动态图像、移动图像、图像或视频的实时流、或它们的任何组合。此外,由环境表示3010表示的地理区域内的对象的特征和特性可以基于可以从远程数据源或传感器获得或接收的对象的实际外观(例如,卫星图像、车辆传感器图像、交通信号摄像机图像)。此外,对象可以在环境表示3010中被表示为图像,包括指示符或其他符号表示,所述其他符号表示包括图标、文本、象形图或它们的任何组合。
环境表示3010可以接收输入,包括触摸输入(例如,触摸触摸屏诸如电容显示器)、语音输入(例如,对着麦克风说话)和来自输入设备(例如,键盘或手写笔)的输入中的任何输入。基于输入,环境表示3010可以修改环境表示3010内的图像显现的方式,包括但不限于:放大图像中的一些或全部图像(例如,增大多个外部对象的子集的大小或者放大在环境表示3010内显示的区域);缩小对象中的一些或全部对象,包括从所表示的区域缩小;改变视角,包括改变到俯视图(例如,地图视图)。
解决方案路径指示符3022可以包括车辆诸如由车辆指示符3020表示的车辆可以从当前位置行驶到目的地的解决方案路径的表示。例如,解决方案路径指示符3022可以包括由车辆指示符3020表示的车辆将行进而不与由外部对象指示符3030表示的其他车辆或任何其他外部对象(一些示出并且其他可能未示出)中的任何外部对象进行物理接触的路径。在另一实现中,解决方案路径指示符3022基于除物理接触之外的其他预定约束来确定路径,包括但不限于确保车辆不在外部对象的某个接近度内。
解决方案路径叠加指示符3024可以表示解决方案路径(诸如解决方案路径指示符3022)的外边缘,其基于由车辆指示符诸如车辆指示符3020表示的车辆的宽度,或者其基于另一个预定距离。缓冲距离3026可以表示解决方案路径叠加指示符3024的外边缘与车辆(例如,由车辆指示符3020表示的车辆)之间的距离,或者可以基于预定的偏好和操作员选择来确定缓冲距离3026。在一些实施方式中,缓冲距离3026可以合并到解决方案路径叠加指示符3024中,使得解决方案路径叠加指示符3024的宽度(例如,车辆的宽度)增加关于缓冲距离的大小。
可以在环境表示3010内表示不同类型的表面,包括但不限于:未铺设的表面,包括由未铺设的表面指示符3012表示的未铺设的表面(例如,表示草带或污垢部分);以及铺设的表面,包括由人行道指示符3014(表示行人道)和车行道部分指示符3016(表示道路中的车道)表示的铺设表面。此外,可以通过道路指示诸如表示车道划分标记的车道标记指示符3080划分表面。车道划分标记可以帮助区分车行道部分指示符3016中的行驶方向与车行道部分指示符3018中的(相反的)行驶方向,或者车道划分标记可以帮助区分用于转弯的车道与用于直行的车道。
此外,环境表示3010可以包括与表面的状态或状况有关的各种指示(未示出),包括但不限于:环境状况指示符(例如,车行道上的雪或雨的指示);与地理区域中的破碎、不均匀或有凹痕的(例如,洞坑)的部分相关联的道路状况指示符;基于表面危险的危险指示符,所述表面危险包括油类或其他湿滑材料;基于松散表面(例如,松散的砾石、沙子)的松散表面指示符。在一些实现中,环境表示3010可以包括标牌的表示(例如,停止标志、让路标志、限速标志)。
外部对象指示符,包括外部对象指示符3040/3050/3060/3070,可以用于表示任何类型的对象,包括但不限于:有生命的对象,包括行人、野生动物或家养动物;以及无生命的对象,包括可移动的对象诸如车辆和自行车,以及不可移动的对象诸如建筑物。包括可移动的外部对象指示符3040/3050/3060的指示符还可以与路径指示符诸如与外部对象指示符3040/3050/3060对应的移动路径指示符3042/3052/3062相关联。路径指示符可以指示外部对象的过去的或预测的行驶路线。例如,两个或更多个路径指示符的交点可以用于指示:如果路径不改变,则两个或更多个外部对象将在未来时间彼此接触或将进入彼此足够近的危险距离。路径指示符可用于指示不同的运动模式,包括但不限于线性运动(例如,对象的直线运动)、圆形或椭圆运动(例如,对象绕环道行驶)或往复运动(例如,对象的来回移动)。
外部对象指示符3070可以表示施工区域,该施工区域的边界可以由外部对象诸如塔架或锥体或用于指示施工区域的标牌的集合形成。在一些实施方式中,可移动对象诸如塑料塔架可以与不可移动对象诸如大型混凝土柱相同的方式表示。因此,安全区域可以表示在可能发现行人的区域周围。外部对象指示符3070还可以表示其他道路问题,诸如需要整治的大洞坑。
在一些实现中,解决方案路径叠加界面3000中的视觉表示可以与其他传感输出相关联,所述其他传感输出包括但不限于音频输出(例如,通过扬声器的声音输出)和触感输出(例如,通过触觉输出设备的振动或其他触觉输出)。例如,被表示为阻碍车辆指示符3020的路径的外部对象诸如外部对象指示符3030可以由具有伴随适时发声的音频音调(例如,钟声)的脉动红色或者替代性地具有脉动的红色的车辆的图片来表示。因此,可以立即将操作员的注意力吸引到由外部对象指示符3030表示的阻碍对象,以使得由车辆指示符3020表示的车辆能够被重新定路线以避免潜在的问题。
图4是示出根据本公开内容的解决方案路径叠加界面4000的示例的图。解决方案路径叠加界面4000包括车辆和外部对象的三维表示。可以基于可以在计算装置上执行的一个或多个指令来生成解决方案路径叠加界面4000,这样的计算装置包括图2所示的控制器装置2410,并且该一个或多个指令可以存储在包括控制器装置2410的计算装置的存储器中。例如,解决方案路径叠加界面4000可以由控制器装置2410基于由客户端计算设备解译的指令来生成,所述客户端计算设备通过计算机网络访问该控制器装置2410。然后,客户端计算设备可以在显示设备上生成解决方案路径叠加界面4000的表示。
解决方案路径叠加界面4000包括环境表示4010、车行道部分指示符4012、可以表示将遵循解决方案路径的车辆的车辆指示符4020、解决方案路径指示符4022(也称为解决方案路径)、可以表示另一车辆的外部对象指示符4030、外部对象边界指示符4032、可以表示行人的外部对象指示符4040、可以表示障碍的外部对象指示符4050、以及可以表示建筑物的外部对象指示符4060。在另一实现中,外部对象指示符4030/4040/4050/4060可以是不同的外部对象或前述外部对象的组合。
环境表示4010包括:车辆的表示,诸如车辆指示符4020;或者车辆周围预定区域(例如,基于距车辆的预定半径)或车辆的预定距离(例如,基于远离车辆至少10英尺)内的外部对象的表示。环境表示4010可以使用车辆和外部对象的三维模型,其可以是象征性的(例如,立方体表示车辆或圆柱体表示行人)或者可以基于包括静止图像(例如,照片)或移动图像(例如,视频,诸如直播视频流)的实际图像或者与实际图像结合使用。
例如,车辆指示符4020可以基于汽车的三维模型,而不使用任何静止或移动图像,并且表示车行道的车行道部分指示符4012可以基于车行道的三维模型,其中表面纹理基于车行道在对应的实际地理位置处的静止图像(例如,车道标记将匹配实际地理位置处的车道标记)。此外,外部对象指示符4060可以基于建筑物的三维模型,其中表面纹理基于建筑物在不同地理位置处的静止图像,并且表示路边障碍(例如,混凝土防撞栏)的外部对象指示符4050可以基于路边障碍的实时静止或视频影像。
解决方案路径指示符,诸如解决方案路径指示符4022,可用于表示解决方案路径中的车辆先前已行经或车辆将行经的部分。解决方案路径指示符可以包括车辆位置和目的地之间的一个或多个解决方案路径。例如,解决方案路径可以用于以避免物理接触外部对象的方式将车辆诸如由车辆指示符4020表示的车辆指导或引导到目的地。例如,解决方案路径指示符4022可以用于辅助引导与车辆指示符4020对应的车辆绕过阻碍或延误车辆指示符4020沿到目的地的路径的移动的外部对象,诸如外部对象指示符4030、外部对象指示符4040和外部对象指示符4050。
外部对象边界指示符,诸如绕外部对象指示符4030生成的外部对象边界指示符4032,可以用于指示绕外部对象的区域,该区域虽然不表示有形物理对象,但是可以用于表示车辆指示符4020不应与之相交或紧密接近的区域(例如,由车辆指示符4020表示的车辆不应行驶通过由外部对象边界限定的区域)。
结合本文中所公开的技术的实现描述的任何方法、过程、技术或算法的步骤或操作可以以硬件、固件、由硬件执行的软件、电路或它们的任何组合来实现。为了便于说明,图5至图8所示的技术5000至8000被描绘和描述为一系列操作。然而,根据本公开内容的操作可以以各种顺序发生或同时发生。另外,根据本公开内容的操作可以与本文未呈现和描述的其他操作一起发生。
图5是根据本公开内容的用于生成解决方案路径叠加界面的技术5000的流程图。系统使用技术5000来生成解决方案路径叠加界面。用于生成解决方案路径叠加界面的技术5000中的一些或全部方面可以在车辆中实现,所述车辆包括图1所示的车辆1000、图2所示的车辆2100或包括图2所示的控制器装置2410的计算装置。在实现中,用于生成解决方案路径叠加界面的技术5000的一些或全部方面可以在组合本公开内容中描述的一些或全部特征的系统中实现。
在操作5010,通过例如通信系统或系统的其他设备接收车辆数据和外部数据中的任何数据,以用于生成解决方案路径叠加界面。例如,可以从包括设备或装置(例如,运输工具)的一个或多个车辆接收车辆数据,该一个或多个车辆可以从一个位置行驶到另一个位置并且运输包括乘客和货物中的任意者的对象。一个或多个车辆可以包括自主车辆、由人类驾驶员驾驶的车辆或半自主车辆。
车辆数据可以与车辆或周围车辆(例如,被遥控操作的车辆周围的车辆)的状况或状态相关联,并且可以包括但不限于:与车辆的速度和加速度中的任何项有关的动力学数据;位置数据,包括车辆的位置诸如车辆的地理位置(例如,车辆的纬度和经度)、车辆关于另一对象的位置、或车辆关于某类区域(例如学校区域、消防车道、停车场)的位置;车辆定位数据,包括车辆的取向和倾斜度(例如,车辆在斜坡上的斜度);与车辆的操作状态有关的操作数据,包括车辆的电气状态或机械状态(例如,电动车辆系统、机械车辆系统、轮胎压力等的健康状况);与车辆的持续维护相关联的维护数据,包括计划的调整;车辆能源状态数据,包括剩余的燃料量或剩余的电池充电量;基于传感器的输出的传感器数据,包括车辆传感器数据,所述传感器包括光学传感器(例如,光检测和测距传感器)、音频传感器和运动传感器,传感器数据可以用于生成车辆中和车辆周围的物理环境的表示;内部状态数据,包括车辆的客舱内部的温度和湿度;与车辆的当前任务(例如,使乘客下车)相关联的当前任务数据,包括用于完成当前任务的估计时间;以及与车辆的目的地相关联的目的地数据,包括车辆可以行进通过以到达目的地的一个或多个路线。
在一些实现中,车辆数据可用于确定交通状况,包括外部对象在预定区域(例如,车辆周围的区域或指定的地理区域)内的移动。基于交通状况,可以确定和/或调整与目的地相关联的车辆路线。例如,如果下车位置的目的地在高交通量拥堵区域中,则也可以改变目的地本身。例如,到目的地的车辆路线可以避免与其中交通状况(例如,外部对象的高度拥挤)将延误或阻碍车辆到目的地的运输的区域相交。
外部数据可以与车辆外部的对象的状况或状态相关联,该对象可以包括但不限于下述中的任意项:建筑物、车行路、人行道、水路、车辆、骑车者和行人。外部数据可以包括但不限于:外部对象移动路径数据,包括外部对象先前行经的路径和外部对象的预测路径,其中任何一个路径都可以基于外部对象速度、取向、位置、或以外部数据形式传输的外部对象移动路径;外部对象取向数据,包括外部对象相对于车辆的取向和诸如指南针取向的取向中的任何取向;外部对象位置,包括外部对象的地理位置(例如,外部对象的纬度和经度);用以识别外部对象(即,将外部对象与其他外部对象区分开)的外部对象身份简档数据;基于传感器的输出的传感器数据,包括外部对象传感器数据,所述传感器包括光学传感器、音频传感器和运动传感器,该光学传感器包括光检测和测距传感器(LIDAR),传感器数据可以用于生成外部对象中和外部对象周围的物理环境的表示;表面状态数据,包括预定区域(例如,车辆周围的预定区域)内的表面(例如,道路)的状态;指示交通信号灯的状态(例如,绿灯、红灯、黄灯)的交通信号数据;道路封闭数据,包括当前和预期的道路封闭和绕路;建筑数据,包括当前和预期建筑工地的位置和状态;紧急车辆路线数据,包括紧急车辆诸如救护车和警车的路线;基础设施数据,包括建筑物的位置;环境数据,包括当前和即将到来的天气状况(例如,降雪或降雨预报)的状态;以及分区数据,包括企业、学校或居民区的位置。
在操作5020,对于解决方案路径的每个部分或整个解决方案路径,确定车辆与外部对象之间的缓冲距离。换言之,缓冲距离可以基于解决方案路径的部分动态地改变,或者可以在整个解决方案路径中是相同的距离。为了适应车辆经过外部对象的通道,解决方案路径的宽度可以基于车辆两侧上的对象之间的距离。车辆与外部对象之间的缓冲距离可以包括除了允许车辆在车辆两侧上的对象之间通过的最小距离之外的距离,并且可以在包括x、y和z轴的任何方向上。例如,在解决方案路径的两侧上的三米的缓冲距离可以为车辆经过外部对象的移动提供安全裕度,使得车辆可以有更多时间来对外部对象的意外移动作出反应。
缓冲距离可以用于增加车辆的表面周围的距离。以这种方式,车辆能够更好地避免与外部对象的物理接触(例如,碰撞)。在一些实施方式中,默认缓冲距离可以包括预定缓冲距离,该预定缓冲距离被加到解决方案路径的宽度、车辆的表面或外部对象的表面中的任何项。可以基于机器学习技术动态地更新缓冲距离,该机器学习技术聚合与用以安全地经过类似的外部对象所需的距离相关联的数据。
例如,当车辆从开放空间(例如,室外车行道)移动到封闭空间(例如,有顶停车库或隧道)时,车辆位置(例如,在车行道上)与目的地(例如,有顶停车库中的停车位)之间的路径将使用缓冲距离来确保车辆(或由车辆运载的货物)的顶部表面不接触有顶停车库天花板的下边缘。
在一些实施方式中,可以为外部对象中的每个外部对象确定预定的缓冲距离。例如,如果外部对象诸如卡车的尺寸包括1.4米的高度、2.8米的宽度、以及4.8米的长度,则可以向这些尺寸中的一些或全部尺寸加0.5米的缓冲距离,使得可以保持与其他外部对象的额外距离。通过确定缓冲距离,车辆被提供额外的距离以适应车辆或外部对象的意外或偏心移动。缓冲距离可以是预定的(例如,总是设置为至少0.5米)或者可以被动态调整。
在操作5030,确定一个或多个路径,包括外部对象的移动路径和车辆位置与目的地之间的至少一个解决方案路径。车辆的解决方案路径包括车辆可以行驶通过而不与外部对象中的任何外部对象相交(例如,物理接触)或紧密接近外部对象中的任何外部对象的路径,并且可以基于车辆数据和外部数据中的任何数据来进行确定。
外部数据可以用于确定可移动且当前正在移动的外部对象(例如,运动中的车辆)、可移动且当前未移动的外部对象(例如,停在红灯交通信号处的车辆)、以及不可移动的外部对象(例如建筑物)。可以基于外部数据来确定移动路径,包括外部对象的当前移动路径和预期移动路径,该外部数据包括外部对象的可以用于确定外部对象在一段时间内的位置的速度和轨迹。基于外部对象的当前移动路径和预期移动路径,可以确定不与当前移动路径和预期移动路径相交或紧密接近(例如,在被定义为“紧密”的预定距离内)的解决方案路径。在一些实施方式中,解决方案路径可以基于路径寻找算法,该路径寻找算法用于计算车辆位置与目的地之间不与外部对象的移动路径相交或紧密接近外部对象的移动路径的最短路径。
例如,在使用车辆的位置和外部对象的移动路径的情况下,车辆的位置和目的地之间的解决方案路径可以与地理坐标相关联,并且可以基于车辆和外部对象的位置随时间的变化,确定解决方案路径。
在一些实现中,基于在车辆的预定距离或车辆周围的区域内的交通流数据和交通流指示符中的任何来确定受管控的交通流的方向。交通流数据可以包括用于外部对象的授权交通流模式。例如,交通流数据可以包括:交通模式数据,包括针对车行道的一部分的交通流的管控方向(例如,车辆可以沿特定方向在其上行驶的道路的合法限定的一侧);交通信号灯状态数据,包括交通信号灯的状态的指示(例如,交通信号灯是红色、绿色还是黄色的指示);以及交通速度管控数据,包括针对区域内交通的速度限制的指示。受管控的交通流的方向可以用作生成解决方案路径的约束(例如,解决方案路径可以部分或完全避免与车行道的违反受管控的交通流的部分相交)。
在操作5040,生成包括或显示解决方案路径的解决方案路径叠加界面。解决方案路径叠加界面包括车辆的当前位置和目的地之间的解决方案路径,并且可以包括车辆的预定距离内的区域、车辆、以及车辆与目的地之间的解决方案路径的表示。
解决方案路径叠加界面可以在显示设备上生成,并且可以包括车辆、外部对象和地理区域(例如,指定区域,诸如车辆周围的区域或一半径范围)的表示,作为与状态或状况(例如,外观、行驶方向、外部对象身份)相关联的图像。对象可以被表示为图像,包括指示符或其他符号表示,所述其他符号表示包括图标、文本、象形图或它们的任何组合。此外,图像可以包括图像静止非移动图像、移动图像、先前记录的图像、以及包括图像流的实时图像或它们的任何组合。先前已在图3和图4中示出了解决方案路径叠加界面的示例。
在一些实现中,解决方案路径叠加界面可以包括基于来自车辆数据或外部数据(例如,视频图像)的传感器输出的图像以及基于传感器输出叠映在上述图像上的图像的组合。例如,车辆中或外部对象中的光学传感器可以输出视频流,该视频流可以被包括在相应的车辆数据或外部数据中。视频流可以用作解决方案路径叠加界面的背景,其可以与解决方案路径叠加界面的生成部分组合。
在一些实现中,生成解决方案路径叠加界面包括生成表面图像,该表面图像包括基于表面状态的表面状态指示(其可以基于外部对象数据中的表面状态数据或基于传感器数据确定)。
图6是根据本公开内容的用于生成解决方案路径叠加界面的技术6000的流程图。技术6000由用于生成解决方案路径叠加界面的系统利用。用于生成解决方案路径叠加界面的技术6000中的一些或全部方面可以在车辆中实现,所述车辆包括图1所示的车辆1000、图2所示的车辆2100或包括图2所示的控制器装置2410的计算装置。在实现中,用于生成解决方案路径叠加界面的技术6000的一些或全部方面可以在组合本公开中描述的特征中的一些或全部特征的系统中实现。
在操作6010,基于包括在车辆数据或外部数据中的传感器数据(例如,来自传感器的传感器输出,该传感器包括光学传感器、音频传感器、光检测和测距传感器和运动传感器)以及地图数据中的任何数据确定车辆的位置。地图数据可以包括在车辆数据或外部对象数据中的任何数据中,并且可以包括车辆所在的地理区域(例如,车辆所在的城市或地区的地图)的状态(例如,地形状态、车行道、人行道、水道)。
地图数据可以包括预定区域的表示,该预定区域包括车辆和外部对象中的任意项,并且该地图数据从不包括车辆或外部对象的源接收。例如,地图数据可以本地存储或从远程计算设备(例如,地理地图服务器)接收,该远程计算设备可以存储和交换(发送或接收)与地理区域有关的地图数据。
在操作6020,基于车辆位置确定车辆布置(disposition,部署)。车辆布置可以基于地图数据和传感器数据中的任何数据。车辆布置可以包括与车辆相对于外部对象的位置有关的数据,包括但不限于:车辆关于车辆下方的表面的倾斜角度;车辆的车轮关于车轮下方的表面的牵引力水平的指示;以及车辆是否根据受管控的交通流的方向定位(例如,车辆是否在行车道的相反方向上移动)的指示。
在一些实现中,解决方案路径叠加可以基于车辆布置并且可以包括车辆布置的指示符。例如,在车辆在泥泞斜坡上的情况下,简单视频图像可能无法完全传达斜坡的角度或泥浆减小车辆车轮的牵引力的程度。以这种方式,车辆布置可以用作解决方案路径叠加界面的一部分,以提供包括斜坡和减少牵引力的泥浆的路面状态的视觉指示。
图7是根据本公开内容的用于生成解决方案路径叠加界面的技术7000的流程图。技术7000由用于生成解决方案路径叠加界面的系统利用。用于生成解决方案路径叠加界面的技术7000中的一些或全部方面可以在车辆中实现,所述车辆包括图1所示的车辆1000、图2所示的车辆2100或包括图2所示的控制器装置2410的计算装置。在实现中,用于生成解决方案路径叠加界面的技术7000的一些或全部方面可以在组合本公开中描述的特征中的一些或全部特征的系统中实现。
在操作7010,可以基于车辆数据和外部对象数据中的任何数据来确定与外部对象中的每个外部对象对应的身份(或识别数据/信息)。可以通过将车辆数据或外部对象数据与可能包括相应外部对象的特性的多个外部对象身份简档进行比较和匹配来执行对外部对象的身份的确定。外部对象的特性可以基于视觉特性(例如,其可以基于光学传感器确定)、声音特性、运动特性或它们的组合,上述声音特性可以基于声音传感器(例如,麦克风)的输出而确定,运动特性可以由运动传感器确定。
例如,来自光学传感器的视觉数据可以用于将包括外部对象的颜色、形状、大小或移动模式的特性与多个外部对象简档的对应特性进行比较。外部对象的身份可以被确定成与最紧密地匹配外部对象的特性的外部对象简档对应。
此外,确定外部对象的身份可以包括但不限于将外部对象识别为下述中的任意项:行人,包括各种类型的行人,诸如儿童或身体残疾的人;车辆,包括不同类型的车辆,诸如紧急车辆或特殊用途车辆诸如校车;交通灯信号,包括交通灯状态(例如,红灯、绿灯、黄灯)的指示;交通标牌,包括停车标志、让车标志或交通限速指示符;路面标记,包括人行横道和车道分隔指示;建筑物,包括商业结构、住宅结构和临时结构;公共设施结构,包括电线杆、输电线、水电杆或蜂窝电话塔;主要车行道,包括主要铺设的车行道,诸如街道、马路或高速公路);辅助铺设的车行道,包括小巷、停车场或车道;以及未铺设的表面,包括水道、林地和田地。
在一些实现中,外部对象的身份的确定可以基于不同类型的数据,包括但不限于:源自与相应的外部对象(例如,发送与其相应的身份有关的数据的外部对象,诸如其他车辆)有关的外部对象的子集的数据;源自与其他外部对象(例如,发送与其他外部对象的身份有关的数据的外部对象,诸如交通信号摄像机)有关的外部对象的子集的数据;以及源自不包括外部对象的远程数据源的、与外部对象的状态有关的数据(例如,与外部对象有关的卫星影像或交通控制中心数据)。
在操作7020,确定移动性状态(外部对象中的每个外部对象的移动性状态)。外部对象的移动性状态可以基于外部对象的身份,并且可以包括对外部对象的可移动状态和不可移动状态中的任何状态的确定。移动性状态可以基于相应的外部对象是有生命的(例如,行人)、无生命且可移动的(例如,车辆)还是无生命且不可移动的(例如,建筑物)。基于外部对象的移动性状态,可以对外部对象移动路径进行更准确的预测。例如,停在指示红色(例如,交通信号前方的车辆停止的指示)的交通信号处的外部对象诸如车辆是静止的,但是当交通信号指示绿色(例如,交通灯前方的车辆继续行驶的指示)时可能移动。因此,基于外部对象的身份或识别数据确定,解决方案路径将包括停在交通信号处的车辆的移动的预测路径和定时。
在操作7030,基于所确定的外部对象的移动性状态来修改或更新或进一步生成解决方案路径叠加界面。对解决方案路径叠加界面的修改可以包括指示外部对象的移动性状态的指示,诸如移动性指示。移动性指示可以包括:方向指示符,包括箭头和外部对象的方向的其他指示符;与外部对象移动性状态相关联的移动性状态指示符(例如,可以基于单独的颜色编码诸如用于有生命的对象的红色、用于无生命不可移动对象的蓝色、用于无生命可移动对象的黄色来区分不可移动对象和可移动对象);以及指示相应外部对象的速度的速度指示符(例如,车辆以每小时20公里的速度行驶的指示符)。
图8示出了根据本公开内容的用于生成解决方案路径叠加界面的方法8000。方法8000包括经由步骤8010通过控制器装置(例如,图2的控制器装置2410)的解决方案路径叠加系统从车辆的车辆控制系统接收车辆数据和外部数据,其中,车辆数据包括车辆位置和车辆目的地(即被监测车辆的位置和目的地)。外部数据包括与车辆相关联或在车辆的预定区域内的多个外部对象中的每个外部对象的位置和移动路径。方法8000包括经由步骤8020通过解决方案路径叠加系统使用车辆数据和外部数据来在车辆位置和车辆目的地之间确定解决方案路径,其中,解决方案路径不与多个外部对象相交。方法8000包括经由步骤8030通过解决方案路径叠加系统生成解决方案路径叠加界面,该解决方案路径叠加界面包括沿着解决方案路径行进的车辆的表示和多个外部对象中的至少一些外部对象的表示(例如,虚拟模型)。方法8000包括经由步骤8040通过解决方案路径叠加系统输出解决方案路径叠加界面以供显示,该解决方案路径叠加界面被配置为接收来自解决方案路径叠加界面的操作员的命令。命令可以包括操作员拒绝、确认和更新/调整与显示的解决方案路径叠加界面相关联的解决方案路径中的任意项。方法8000包括:经由步骤8050,响应于接收到来自解决方案路径叠加界面的操作员的命令,通过解决方案路径叠加系统根据接收到的命令来更新解决方案路径叠加界面,以提供经更新的解决方案路径;以及经由步骤8060,通过解决方案路径叠加系统将经更新的解决方案路径传输到车辆以供执行。
在实现中,车辆数据和外部数据中的任一种数据都包括来自光学传感器、光检测和测距传感器(LIDAR)、运动传感器和音频传感器中的任何传感器的传感器数据。方法8000包括通过解决方案路径叠加系统基于传感器数据确定车辆的预定距离内的表面状态,以及通过解决方案路径叠加系统基于表面状态生成包括表面状态指示的表面图像,其中,解决方案路径叠加界面包括表面状态指示。
在实现中,方法8000包括通过解决方案路径叠加系统使用传感器数据和多个外部对象在预定区域内的移动路径来确定交通状况,其中,使用交通状况确定车辆的车辆路线,其中,车辆路线提供车辆在车辆位置和车辆目的地之间的导航数据。车辆位置基于包括车辆和多个外部对象的地理区域的地图数据,此外,其中,解决方案路径被显示给车辆的操作员。
在实现中,方法8000包括:通过解决方案路径叠加系统基于车辆数据和外部数据中的任何数据来确定多个外部对象的识别数据;通过解决方案路径叠加系统确定多个外部对象的移动性状态,其中,移动性状态包括可移动状态和不可移动状态;以及,通过解决方案路径叠加系统并基于移动性状态更新解决方案路径叠加界面,以指示多个外部对象中的可移动的外部对象和不可移动的外部对象。识别数据包括行人、车辆、交通灯信号、交通标牌、路面标记、建筑物、主要车行道和辅助车行道中的任意项。
在实现中,方法8000包括通过解决方案路径叠加系统基于预定区域内的交通流数据和交通流指示符中的任何来确定受管控的交通流的方向,其中,交通流数据包括针对多个外部对象的授权的交通流模式,其中,解决方案路径叠加界面包括受管控的交通流的方向的指示;以及,通过解决方案路径叠加系统对解决方案路径的每个部分确定车辆与多个外部对象中的每个外部对象之间的缓冲距离,其中,确定解决方案路径包括保持车辆与多个外部对象中的每个外部对象之间的缓冲距离。
图9示出了用于经由控制器装置(例如,图2的控制器装置2410)控制自主车辆(例如,图1的车辆1000)的自主车辆的车辆控制系统9000。在车辆的操作期间,车辆控制系统9000可以以自主模式或以受控模式操作。当在自主模式下操作时,车辆控制系统9000基于车辆收集的数据(例如,车辆数据和/或外部数据)确定车辆的动作。车辆数据和外部数据还可以包括由第三方诸如其他车辆或计算机系统(例如,IoT网络)收集的、经由通信网络传输到车辆的数据。当在受控模式下操作时,车辆控制系统9000经由通信网络(例如,图2的电子通信网络2300)将车辆收集的数据传输到控制器装置。响应于该数据,控制器装置生成解决方案路径叠加界面并将解决方案路径传输到车辆。在接收到解决方案路径之后,车辆控制系统9000指示车辆的各种系统(例如,图1的动力源1210、转向单元1230、车辆致动器1240和/或传动装置1220)根据解决方案路径行进通过运输网络。
当车辆沿着解决方案路径行进通过运输网络时,车辆继续用车辆收集的数据更新控制器装置,使得控制器装置可以确定是否需要根据状况变化调整解决方案路径。例如,当车辆行进通过解决方案路径时,可能先前被遮挡的对象可能出现在车辆的视野中,这可能促使解决方案路径改变。下面更详细地描述车辆控制系统9000。
如图9所示,车辆控制系统9000包括自主模式模块9010、受控模式模块9020和车辆控制模块9030。在操作中,自主模式模块9010确定车辆在自主模式下操作时要执行的动作,而受控模式模块9020确定车辆在受控模式下操作时要执行的动作。
在正常操作状况下,自主模式模块9010从传感器系统9040接收传感器数据以确定要采取的一个或多个动作。传感器系统9040可以包括任何合适类型的传感器,包括但不限于光学传感器诸如摄影机传感器以及光检测和测距(LIDAR)传感器、音频传感器、位置传感器诸如全球定位系统(GPS)传感器、运动传感器诸如陀螺仪和加速度计、温度传感器以及任何其他合适的传感器。自主模式模块9010从传感器系统9040接收传感器数据,并基于此确定车辆数据和外部数据。自主模式模块9010可以以任何合适的方式操作。
在一些实现中,自主模式模块9010可以实现一个或多个机器学习模型以确定动作。机器学习模型可以包括神经网络、Markov模型或其他合适的模型。模型接收传感器数据并基于此确定动作。可以使用训练数据训练这些模型,使得由模型确定的动作基于训练模型的训练数据。因此,每个动作可以具有与动作相关联的置信度分数,其指示模型在所确定的动作中具有的置信度的程度。自主模式模块9010将动作输出到车辆控制模块9030,该车辆控制模块向各种车辆系统(未示出)输出指令以控制车辆。
然而,在一些情况下,自主模式模块9010确定车辆正在遇到自主模式模块9010不能确定具有与其相关联的必要置信度分数的动作的场景。在这种情况下,车辆可能已经接近自主模式模块9010未被训练处理的涉及一个或多个外部对象的场景。例如,车辆可能接近施工区域,其中视频传感器不能捕获施工区域后面的东西。当自主模式模块9010确定其不能输出具有必要置信度分数的动作时,自主模式模块9010可以通知受控模式模块9020。在这样做时,自主模式模块9010可以将传感器数据提供给被引进未知情景的受控模式模块9020。
在从自主模式模块9010接收到通知时,受控模式模块9020可以发起与操作中心(例如,图2的操作中心2400)的通信会话。在一些实现中,受控模式模块9020通过发起与操作中心的控制器装置(例如,图2的控制器装置2410)的通信会话来发起与操作中心的通信会话。在发起通信会话时,受控模式模块9020可以传输对解决方案路径的请求,并且可以另外传输由传感器系统9040收集的传感器数据和/或由车辆收集的任何其他数据。由受控模式模块9020提供的数据可以包括车辆数据和/或外部数据。
响应于提供由受控模式模块9020收集的数据,控制器装置向受控模式模块9020提供解决方案路径。解决方案路径可以沿着车辆要行进通过的运输网络限定路径。响应于接收到解决方案路径,受控模式模块9020可以确定要执行的一个或多个动作以便根据解决方案路径行进通过运输网络。例如,受控模式模块9020可以确定车辆必须加速并转向某个方向。受控模式模块9020可以将动作输出到车辆控制模块9030。
响应于从自主模式模块9010或受控模式模块9020接收到一个或多个动作,车辆控制模块9030执行动作。在执行动作时,车辆控制模块9030确定要发布给车辆系统中的一个或多个车辆系统的一个或多个命令。例如,响应于使车辆前进并转向右的动作,车辆控制模块9030可以向车辆的动力系统发布第一命令以加速并且可以向转向系统发布第二命令以向右转。
图10示出了示例控制器装置10000。控制器装置10000可以是图2的控制器装置2410或经由通信网络(例如,图2的电子通信网络2300)向车辆传达解决方案路径的任何其他合适的设备。在所示示例中,控制器装置10000可以包括解决方案路径叠加系统10100和通信单元10200。解决方案路径叠加系统10100可以包括叠加生成模块10300、叠加图形用户界面10400(叠加GUI)和运输网络数据存储10500。叠加生成模块10300和叠加图形用户界面10400可以由控制器装置10000的一个或多个处理器执行。运输网络数据存储10500可以存储在控制器装置的存储系统(即,存储器)中。存储系统可以是控制器装置中的物理存储设备或经由通信网络访问的网络存储设备。
运输网络数据存储10500存储运输网络数据。运输网络数据可以是描述运输网络的特征的任何数据。运输网络数据可以限定车行道(例如,街道、高速公路、双向路、小巷等)、沿着车行道的行进方向、车行道上的路的权限、交通标牌(例如,让路标志、停车标志等)、交通灯数据、车道数据(例如、车道数、合并点等)、沿着车行道的速度限制、已知障碍物、外部对象和其他合适的数据。在一些实现中,运输网络数据可以被组织在以地理位置为键的数据库中。以这种方式,车辆生成模块10300可以基于车辆的位置检索与车辆的路径有关的运输网络数据。
叠加生成模块10300从车辆接收对解决方案路径的请求。对解决方案路径的请求可以包括车辆收集的车辆数据和/或外部数据。例如,该请求可以包括车辆的地理位置、车辆的路线、车辆的方向、车辆的速度、车辆收集的光学数据(例如,视频和LIDAR数据)、音频数据和任何其他合适的数据。替代性地,叠加生成模块10300可以响应于接收到车辆收集的数据自动确定车辆需要用于继续操作的解决方案路径。响应于车辆需要解决方案路径的请求或确定,叠加生成模块10300使用车辆数据和/或外部数据来确定解决方案路径(例如,图3的解决方案路径指示符3022)和对应的解决方案路径叠加(例如,图3的解决方案路径叠加指示符3024)。
然后,叠加生成模块10300使用包括但不限于所确定的解决方案路径、对应的解决方案路径叠加以及车辆数据和/或外部数据的信息来生成解决方案路径叠加界面(例如,图3的解决方案路径叠加界面3000或图4的解决方案路径叠加界面4000)。所生成的解决方案路径叠加界面通过叠加生成模块10300输出或传输到叠加GUI 10400以供显示(例如,以供显示的、被配置为接收来自解决方案路径叠加系统10100的操作员的至少一个输入或命令的叠加界面)。解决方案路径叠加界面可以是行进通过解决方案路径的车辆关于车辆附近的运输网络的三维模型(如图4所示)。三维模型还可以包括车辆周围环境的其他外部对象(例如,树木、建筑物等)。叠加生成模块10300可以利用运输网络数据来生成车辆的已知环境(例如,车行道、交通方向和已知障碍物)。叠加生成模块10300可以利用车辆数据和/或外部数据来包括车辆和由车辆的传感器系统检测到的任何障碍物。
在一些实现中,叠加生成模块10300基于车辆的地理位置从运输网络数据存储10500中检索运输网络数据。叠加生成模块10300可以检索与车辆的当前地理位置有关的运输网络数据、与车辆的即将到来的路线有关的地理位置(例如,接下来的1000英尺)以及该路线的最近行进通过的部分的地理位置(例如,前50英尺)。在这些实现中,叠加生成模块10300获得与车辆正在其上行驶的车行道有关的数据。例如,叠加生成模块10300可以获得描述车辆正在其上行驶的车行道的运输网络数据、车行道上的车道数量、车行道上的速度限制、车行道上的已知障碍物、车行道上的交通灯以及沿着车行道的交通标志。
叠加GUI 10400经由图形用户界面显示解决方案路径叠加界面,该解决方案路径叠加界面可以包括确定的解决方案路径和对应的解决方案路径叠加。解决方案路径叠加界面还可以显示在车辆的一般性附近的运输网络。解决方案路径叠加界面可以允许操作员(或计算机)在给定车辆的当前情况的情况下分析和/或更新车辆的解决方案路径。此外,当车辆沿着解决方案路径行进通过运输网络时,叠加生成模块10300可以更新解决方案路径叠加界面以示出车辆关于解决方案路径的新位置,以及在车辆数据/外部数据中新检测到的任何对象。在这样做时,操作员可以通过经由叠加GUI10400与解决方案路径叠加界面交互或向其提供输入或命令来更新解决方案路径。
叠加GUI 10400可以向操作员(例如,监测车辆的远程操作员)显示解决方案路径叠加界面。解决方案路径叠加界面可以显示与运输网络有关的车辆。另外,解决方案路径叠加界面可以沿着运输网络呈现在车辆附近的任何外部对象。例如,解决方案路径叠加界面可以包括任何车辆(移动的或停放的)、行人、障碍物、路障或可能需要车辆导航绕过的任何其他潜在对象。还可以向操作员呈现附加信息,诸如车辆附近的环境温度和任何表面状态信息(例如,路面湿润或路面结冰)。
一旦经由叠加GUI 10400呈现包括确定的解决方案路径和对应的解决方案路径叠加的解决方案路径叠加界面,操作员就可以生成新的/更新的解决方案路径(例如,通过向叠加生成模块10300提供命令)。在生成新的解决方案路径时,叠加生成模块10300可以限制解决方案路径,以便确保与运输网络中的任何检测到的对象的缓冲距离(例如,3英尺)。此外,解决方案路径可以具有固定的尺寸,因为车辆的宽度是恒定值。在一些实现中,操作员可以使用解决方案路径叠加界面绘制解决方案路径。在其他实现中,操作员可以指示一个或多个停止点,并且叠加生成模块10300可以基于停止点生成解决方案路径。例如,叠加生成模块10300可以生成通过每个停止点的解决方案路径。叠加生成模块10300还可以允许操作员执行解决方案路径。在操作员选择执行解决方案路径时,解决方案路径叠加系统10100可以经由通信单元10200将解决方案路径传输到车辆以供执行。
响应于接收到解决方案路径,车辆(例如,图1的车辆1000)的车辆控制系统(例如,图9的车辆控制系统9000)可以通过确定要执行的一个或多个动作来执行解决方案路径,以便根据解决方案路径行进通过运输网络。所确定的动作可以由车辆控制系统(例如,自主模式模块9010、受控模式模块9020或图9中未示出的另一模块中的任意者)传输到车辆控制模块(例如,图9的车辆控制模块9030)以供执行,其提供发布或传输到车辆的一个或多个车辆系统的一个或多个命令。例如,响应于使车辆前进并转向右的动作,车辆控制模块可以向车辆的动力系统发布第一命令以加速并且可以向转向系统发布第二命令以向右转。
所公开的技术提供了一种解决方案路径叠加生成系统,其更有效地生成包括车辆诸如自主车辆在其中操作的环境的图像的解决方案路径表示。解决方案路径叠加生成系统可以包含各种数据,包括先前生成的数据和与车辆的本地环境中的状况有关的实时数据,包括传感器输入、交通流模式和天气状况。因此,解决方案路径叠加生成系统可以更有效地表示车辆将行进通过的环境,从而提供包括便利的车辆操作、增强的情况意识和改进的车辆安全性的益处。
虽然已经结合某些实施方式描述了所公开的技术,但是要理解的是,所公开的技术不限于所公开的实施方式,而是相反,意图涵盖包括在所附权利要求的范围内的各种修改和等同布置,该范围应被赋予最广泛的解释,以包含法律之下允许的全部这些修改和等同结构。

Claims (20)

1.一种方法,包括:
通过解决方案路径叠加系统从车辆的车辆控制系统接收车辆数据和外部数据,其中,所述车辆数据与所述车辆相关联并且包括车辆位置和车辆目的地,并且所述外部数据包括多个外部对象中的每个外部对象的位置和移动路径;
通过所述解决方案路径叠加系统使用所述车辆数据和所述外部数据来确定所述车辆位置与所述车辆目的地之间的解决方案路径,其中,所述解决方案路径不与所述多个外部对象相交;
通过所述解决方案路径叠加系统生成解决方案路径叠加界面,所述解决方案路径叠加界面包括沿着所述解决方案路径行进的所述车辆的表示以及所述多个外部对象中的至少一些外部对象的表示;
通过所述解决方案路径叠加系统输出解决方案路径叠加界面以供显示,所述解决方案路径叠加界面被配置为接收来自所述解决方案路径叠加界面的操作员的命令;
响应于接收到来自所述解决方案路径叠加界面的所述操作员的所述命令,通过所述解决方案路径叠加系统根据所接收的命令更新所述解决方案路径叠加界面,以提供经更新的解决方案路径;以及
通过所述解决方案路径叠加系统将所述经更新的解决方案路径传输到所述车辆以供执行。
2.根据权利要求1所述的方法,其中,所述车辆数据和所述外部数据中的任何数据都包括来自光学传感器、光检测和测距传感器(LIDAR)、运动传感器和音频传感器中的任何传感器的传感器数据。
3.根据权利要求2所述的方法,还包括:
通过所述解决方案路径叠加系统基于所述传感器数据确定所述车辆的预定距离内的表面状态;以及
通过所述解决方案路径叠加系统基于所述表面状态生成包括表面状态指示的表面图像,其中,所述解决方案路径叠加界面包括所述表面状态指示。
4.根据权利要求2所述的方法,还包括:
通过所述解决方案路径叠加系统使用所述传感器数据和所述多个外部对象在预定区域内的移动路径来确定交通状况,其中,使用所述交通状况确定所述车辆的车辆路线,其中,所述车辆路线提供用于所述车辆的在所述车辆位置和所述车辆目的地之间的导航数据。
5.根据权利要求4所述的方法,还包括:
通过解决方案路径叠加系统基于所述预定区域内的交通流数据和交通流指示符中的任何来确定受管控的交通流的方向,其中,所述交通流数据包括针对所述多个外部对象的授权的交通流模式,其中,所述解决方案路径叠加界面包括所述受管控的交通流的方向的指示。
6.根据权利要求1所述的方法,其中,所述车辆位置基于地图数据,所述地图数据包括所述车辆的地理区域和所述多个外部对象的地理区域,另外,其中,所述经更新的解决方案路径被显示给所述车辆的操作员。
7.根据权利要求1所述的方法,还包括:
通过所述解决方案路径叠加系统基于所述车辆数据和所述外部数据中的任何数据来确定所述多个外部对象的识别数据;
通过所述解决方案路径叠加系统确定所述多个外部对象的移动性状态,其中,所述移动性状态包括可移动状态和不可移动状态;以及
通过所述解决方案路径叠加系统并基于所述移动性状态来更新所述解决方案路径叠加界面,以指示所述多个外部对象中的可移动的外部对象和不可移动的外部对象。
8.根据权利要求7所述的方法,其中,所述识别数据包括下述项中的任何项:行人、车辆、交通灯信号、交通标牌、路面标记、建筑物、主要车行道和辅助车行道。
9.根据权利要求7所述的方法,还包括:
通过所述解决方案路径叠加系统对所述解决方案路径的每个部分确定所述车辆与所述多个外部对象中的每个外部对象之间的缓冲距离,其中,对所述解决方案路径的确定包括保持所述车辆与所述多个外部对象中的每个外部对象之间的缓冲距离。
10.一种解决方案路径叠加系统,包括:
存储器;以及
处理器,所述处理器被配置为执行存储在所述存储器中的指令以:
从车辆的车辆控制系统接收车辆数据和外部数据,其中,
所述车辆数据与所述车辆相关联并且包括车辆位置和车辆目的地,并且所述外部数据包括多个外部对象中的每个外部对象的位置和移动路径;
使用所述车辆数据和所述外部数据确定所述车辆位置与所述车辆目的地之间的解决方案路径,其中,所述解决方案路径不与所述多个外部对象相交;
生成解决方案路径叠加界面,所述解决方案路径叠加界面包括沿着所述解决方案路径行进的所述车辆的表示以及所述多个外部对象中的至少一些外部对象的表示;
输出解决方案路径叠加界面以供显示,所述解决方案路径叠加界面被配置为接收来自所述解决方案路径叠加界面的操作员的命令;
响应于接收到来自所述解决方案路径叠加界面的所述操作员的所述命令,根据所接收的命令更新所述解决方案路径叠加界面,以提供经更新的解决方案路径;以及
将所述经更新的解决方案路径传输到所述车辆以供执行。
11.根据权利要求10所述的解决方案路径叠加系统,其中,所述车辆数据和所述外部数据中的任何数据都包括来自光学传感器、光检测和测距传感器(LIDAR)、运动传感器和音频传感器中的任何传感器的传感器数据。
12.根据权利要求11所述的解决方案路径叠加系统,其中,所述处理器还被配置为执行存储在所述存储器中的指令以:
基于所述传感器数据确定所述车辆的预定距离内的表面状态;以及
基于所述表面状态生成包括表面状态指示的表面图像,其中,所述解决方案路径叠加界面包括所述表面状态指示。
13.根据权利要求11所述的解决方案路径叠加系统,其中,所述处理器还被配置为执行存储在所述存储器中的指令以:
使用所述传感器数据和所述多个外部对象在预定区域内的移动路径来确定交通状况,其中,使用所述交通状况确定车辆路线,其中,
所述车辆路线提供用于所述车辆的在所述车辆位置和所述车辆目的地之间的导航数据。
14.根据权利要求11所述的解决方案路径叠加系统,其中,所述车辆位置基于地图数据,所述地图数据包括所述车辆的地理区域和所述多个外部对象的地理区域,另外,其中,所述经更新的解决方案路径被显示给所述车辆的操作员。
15.根据权利要求11所述的解决方案路径叠加系统,其中,所述处理器还被配置为执行存储在所述存储器中的指令以:
基于所述车辆数据和所述外部数据中的任何数据确定所述多个外部对象的识别数据;
确定所述多个外部对象的移动性状态,其中,所述移动性状态包括可移动状态和不可移动状态;以及
基于所述移动性状态更新所述解决方案路径叠加界面,以指示所述多个外部对象中的可移动的外部对象和不可移动的外部对象。
16.一种非暂时性计算机可读存储介质,包括能够通过解决方案路径叠加系统的一个或多个处理器执行的程序指令,所述程序指令在被执行时使所述一个或多个处理器执行操作,所述操作包括:
从车辆的车辆控制系统接收车辆数据和外部数据,其中,所述车辆数据与所述车辆相关联并且包括车辆位置和车辆目的地,并且所述外部数据包括多个外部对象中的每个外部对象的位置和移动路径;
使用所述车辆数据和所述外部数据确定所述车辆位置与所述车辆目的地之间的解决方案路径,其中,所述解决方案路径不与所述多个外部对象相交;
生成解决方案路径叠加界面,所述解决方案路径叠加界面包括沿着所述解决方案路径行进的所述车辆的表示以及所述多个外部对象中的至少一些外部对象的表示;
输出所述解决方案路径叠加界面以供显示,所述解决方案路径叠加界面被配置为接收来自所述解决方案路径叠加界面的操作员的命令;
响应于接收到来自所述解决方案路径叠加界面的所述操作员的所述命令,根据所接收的命令更新所述解决方案路径叠加界面,以提供经更新的解决方案路径;以及
将所述经更新的解决方案路径传输到所述车辆以供执行。
17.根据权利要求16所述的非暂时性计算机可读存储介质,其中,所述车辆数据和所述外部数据中的任何数据都包括来自光学传感器、光检测和测距传感器(LIDAR)、运动传感器和音频传感器中的任何传感器的传感器数据。
18.根据权利要求17所述的非暂时性计算机可读存储介质,所述操作还包括:
基于所述传感器数据确定所述车辆的预定距离内的表面状态;以及
基于所述表面状态生成包括表面状态指示的表面图像,其中,所述解决方案路径叠加界面包括所述表面状态指示。
19.根据权利要求17所述的非暂时性计算机可读存储介质,所述操作还包括:
使用所述传感器数据和所述多个外部对象在预定区域内的移动路径来确定交通状况,其中,使用所述交通状况确定车辆路线,其中,所述车辆路线提供用于所述车辆的在所述车辆位置和所述车辆目的地之间的导航数据。
20.根据权利要求17所述的非暂时性计算机可读存储介质,所述操作还包括:
基于所述车辆数据和所述外部数据中的任何数据确定所述多个外部对象的识别数据;
确定所述多个外部对象的移动性状态,其中,所述移动性状态包括可移动状态和不可移动状态;以及
基于所述移动性状态更新所述解决方案路径叠加界面,以指示所述多个外部对象中的可移动的外部对象和不可移动的外部对象。
CN201780074840.4A 2016-12-06 2017-12-06 用于自主车辆的解决方案路径叠加界面 Active CN110249204B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201662430864P 2016-12-06 2016-12-06
US62/430,864 2016-12-06
PCT/US2017/064835 WO2018106763A1 (en) 2016-12-06 2017-12-06 Solution path overlay interfaces for autonomous vehicles

Publications (2)

Publication Number Publication Date
CN110249204A true CN110249204A (zh) 2019-09-17
CN110249204B CN110249204B (zh) 2021-11-09

Family

ID=62491346

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780074840.4A Active CN110249204B (zh) 2016-12-06 2017-12-06 用于自主车辆的解决方案路径叠加界面

Country Status (6)

Country Link
US (2) US10890915B2 (zh)
EP (1) EP3551966B1 (zh)
JP (1) JP6741871B2 (zh)
CN (1) CN110249204B (zh)
BR (1) BR112019011381A2 (zh)
WO (1) WO2018106763A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113903184A (zh) * 2020-06-22 2022-01-07 奥迪股份公司 车辆状态显示方法、装置、车载电子设备及车辆

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6307383B2 (ja) * 2014-08-07 2018-04-04 日立オートモティブシステムズ株式会社 行動計画装置
EP3343172B1 (en) * 2017-01-03 2024-03-13 iOnRoad Technologies Ltd. Creation and use of enhanced maps
JP6958243B2 (ja) * 2017-11-01 2021-11-02 トヨタ自動車株式会社 自動運転車両
US11365976B2 (en) * 2018-03-02 2022-06-21 Nvidia Corporation Semantic label based filtering of objects in an image generated from high definition map data
WO2020056197A1 (en) * 2018-09-14 2020-03-19 Agjunction Llc Integrated gnss and steering for agricultural guidance systems
US11144055B2 (en) * 2018-09-19 2021-10-12 Caterpillar Paving Products Inc. Construction site planning for autonomous construction vehicles
KR102480417B1 (ko) * 2018-09-21 2022-12-22 삼성전자주식회사 전자 장치 및 전자 장치의 차량 제어 방법, 서버 및 서버의 정밀 지도 데이터 제공 방법
US11910468B2 (en) 2018-10-05 2024-02-20 Kt Corporation Method for performing communication by using non-terrestrial network and apparatus thereof
US11827241B2 (en) * 2018-10-29 2023-11-28 Motional Ad Llc Adjusting lateral clearance for a vehicle using a multi-dimensional envelope
JP7243524B2 (ja) 2019-08-23 2023-03-22 トヨタ自動車株式会社 自動運転システム
DE102019219017A1 (de) * 2019-12-05 2021-06-10 Robert Bosch Gmbh Anzeigeverfahren zur Darstellung eines Umgebungsmodells eines Fahrzeugs, Computerprogramm, Steuergerät und Fahrzeug
WO2022162657A1 (en) * 2021-01-28 2022-08-04 Trailze Ltd Automatically creating a terrain mapping database
CN113916247B (zh) * 2021-10-13 2023-10-13 苏州科技大学 智能网联游览车辆道路选择及路径规划装置和方法
CN115660520B (zh) * 2022-12-14 2023-03-28 昆明理工大学 一种基于交通运输物流的数据分析方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090088966A1 (en) * 2007-09-27 2009-04-02 Hitachi, Ltd. Driving support system
CN102393967A (zh) * 2011-06-27 2012-03-28 中国科学院软件研究所 基于虚拟驾驶的线形要素矢量化作业方法
US20140067206A1 (en) * 2012-09-04 2014-03-06 Magna Electronics Inc. Driver assistant system using influence mapping for conflict avoidance path determination
CN105242673A (zh) * 2015-11-20 2016-01-13 南车株洲电力机车研究所有限公司 一种基于超宽带定位系统的道路车辆自动驾驶控制系统

Family Cites Families (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4032253B2 (ja) * 2003-12-17 2008-01-16 ソニー株式会社 光通信装置及び車両制御方法
JP4515130B2 (ja) * 2004-03-30 2010-07-28 クラリオン株式会社 テレマティクスシステムおよび車載用ナビゲーション装置
US8532862B2 (en) * 2006-11-29 2013-09-10 Ryan A. Neff Driverless vehicle
JP4345832B2 (ja) * 2007-03-12 2009-10-14 トヨタ自動車株式会社 道路状況検出システム
JP4716139B2 (ja) * 2008-05-14 2011-07-06 アイシン精機株式会社 周辺監視装置
US8989972B2 (en) * 2008-09-11 2015-03-24 Deere & Company Leader-follower fully-autonomous vehicle with operator on side
KR20100037487A (ko) * 2008-10-01 2010-04-09 엘지전자 주식회사 차량 네비게이션 방법 및 그 장치
US8874317B2 (en) * 2009-07-27 2014-10-28 Magna Electronics Inc. Parking assist system
US9691281B2 (en) 2010-03-24 2017-06-27 Telenav, Inc. Navigation system with image assisted navigation mechanism and method of operation thereof
US20110288695A1 (en) * 2010-05-18 2011-11-24 Clearpath Robotics, Inc. Control interface for unmanned vehicles
JP5503419B2 (ja) * 2010-06-03 2014-05-28 株式会社日立製作所 無人搬送車および走行制御方法
JP5721980B2 (ja) * 2010-09-03 2015-05-20 株式会社日立製作所 無人搬送車および走行制御方法
JP5660938B2 (ja) * 2011-03-11 2015-01-28 株式会社ゼンリン 経路設定装置
US8466807B2 (en) * 2011-06-01 2013-06-18 GM Global Technology Operations LLC Fast collision detection technique for connected autonomous and manual vehicles
US9269263B2 (en) * 2012-02-24 2016-02-23 Magna Electronics Inc. Vehicle top clearance alert system
JP5757900B2 (ja) * 2012-03-07 2015-08-05 日立オートモティブシステムズ株式会社 車両走行制御装置
DE102012103669A1 (de) * 2012-04-26 2013-10-31 Continental Teves Ag & Co. Ohg Verfahren zur Darstellung einer Fahrzeugumgebung
US8676431B1 (en) 2013-03-12 2014-03-18 Google Inc. User interface for displaying object-based indications in an autonomous driving system
US9174672B2 (en) * 2013-10-28 2015-11-03 GM Global Technology Operations LLC Path planning for evasive steering maneuver in presence of target vehicle and surrounding objects
US9212926B2 (en) 2013-11-22 2015-12-15 Ford Global Technologies, Llc In-vehicle path verification
US9798322B2 (en) * 2014-06-19 2017-10-24 Skydio, Inc. Virtual camera interface and other user interaction paradigms for a flying digital assistant
US9731713B2 (en) 2014-09-10 2017-08-15 Volkswagen Ag Modifying autonomous vehicle driving by recognizing vehicle characteristics
US9494935B2 (en) * 2014-11-13 2016-11-15 Toyota Motor Engineering & Manufacturing North America, Inc. Remote operation of autonomous vehicle in unexpected environment
US9506771B2 (en) * 2015-03-04 2016-11-29 United Parcel Service Of America, Inc. Viewing, modifying, and/or creating routes
US10696414B2 (en) * 2015-04-21 2020-06-30 Gopro, Inc. Aerial capture platform
JP5910904B1 (ja) * 2015-07-31 2016-04-27 パナソニックIpマネジメント株式会社 運転支援装置、運転支援システム、運転支援方法、運転支援プログラム及び自動運転車両
JP6613795B2 (ja) * 2015-10-16 2019-12-04 株式会社デンソー 表示制御装置および車両制御装置
US9707961B1 (en) * 2016-01-29 2017-07-18 Ford Global Technologies, Llc Tracking objects within a dynamic environment for improved localization
US9952595B2 (en) * 2016-03-01 2018-04-24 Brunswick Corporation Vessel maneuvering methods and systems
WO2017154566A1 (ja) * 2016-03-11 2017-09-14 パナソニックIpマネジメント株式会社 自動車両配車システム及びサーバ装置
US10093355B1 (en) * 2016-04-18 2018-10-09 Robo Industries, Inc. Vehicle automatic power and driving control
US9988046B2 (en) * 2016-07-26 2018-06-05 Ford Global Technologies, Llc Enhanced collision avoidance
EP3498554B1 (en) * 2016-08-09 2020-06-24 JVC KENWOOD Corporation Display control device, display device, display control method, and program
US10627248B2 (en) * 2016-09-21 2020-04-21 Apple Inc. Cognitive load routing metric for vehicle guidance
CN109804223A (zh) * 2016-10-11 2019-05-24 御眼视觉技术有限公司 基于检测到的障碍物导航车辆
KR102581779B1 (ko) * 2016-10-11 2023-09-25 주식회사 에이치엘클레무브 교차로충돌방지시스템 및 교차로충돌방지방법
CN107223199A (zh) * 2016-11-15 2017-09-29 深圳市大疆创新科技有限公司 基于三维地图的导航方法和设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090088966A1 (en) * 2007-09-27 2009-04-02 Hitachi, Ltd. Driving support system
CN102393967A (zh) * 2011-06-27 2012-03-28 中国科学院软件研究所 基于虚拟驾驶的线形要素矢量化作业方法
US20140067206A1 (en) * 2012-09-04 2014-03-06 Magna Electronics Inc. Driver assistant system using influence mapping for conflict avoidance path determination
CN105242673A (zh) * 2015-11-20 2016-01-13 南车株洲电力机车研究所有限公司 一种基于超宽带定位系统的道路车辆自动驾驶控制系统

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113903184A (zh) * 2020-06-22 2022-01-07 奥迪股份公司 车辆状态显示方法、装置、车载电子设备及车辆

Also Published As

Publication number Publication date
US20190339701A1 (en) 2019-11-07
BR112019011381A2 (pt) 2019-10-15
EP3551966B1 (en) 2021-03-03
JP2019536175A (ja) 2019-12-12
JP6741871B2 (ja) 2020-08-19
CN110249204B (zh) 2021-11-09
EP3551966A4 (en) 2019-12-18
US20210072756A1 (en) 2021-03-11
WO2018106763A1 (en) 2018-06-14
US10890915B2 (en) 2021-01-12
EP3551966A1 (en) 2019-10-16

Similar Documents

Publication Publication Date Title
CN110249204A (zh) 用于自主车辆的解决方案路径叠加界面
US11377123B2 (en) Solution path overlay interfaces for autonomous vehicles
CN110325928B (zh) 自主车辆运行管理
CA3052952C (en) Autonomous vehicle operational management control
RU2734744C1 (ru) Оперативное управление автономным транспортным средством, включающее в себя работу экземпляра модели частично наблюдаемого марковского процесса принятия решений
CA3052953C (en) Autonomous vehicle operational management blocking monitoring
CN108292475A (zh) 车辆道路网的行驶中使用的预测车辆信息的生成方法以及装置
CN110291362A (zh) 生成用于自主车辆的解决方案数据以克服问题状况
BR112019016266B1 (pt) Método para uso ao atravessar uma rede de transporte de veículos e veículo autônomo

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20230526

Address after: Kanagawa

Patentee after: NISSAN MOTOR Co.,Ltd.

Patentee after: NASA Represents the U.S. Government

Address before: Tennessee,USA

Patentee before: NISSAN NORTH AMERICA, Inc.

Patentee before: NASA Represents the U.S. Government