CN115666996A - 用于半自主车辆的基于手势的控制 - Google Patents

用于半自主车辆的基于手势的控制 Download PDF

Info

Publication number
CN115666996A
CN115666996A CN202180038707.XA CN202180038707A CN115666996A CN 115666996 A CN115666996 A CN 115666996A CN 202180038707 A CN202180038707 A CN 202180038707A CN 115666996 A CN115666996 A CN 115666996A
Authority
CN
China
Prior art keywords
vehicle
passenger
processor
action
vehicle control
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180038707.XA
Other languages
English (en)
Inventor
M.F.塔维拉
J.A.多尔蒂
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of CN115666996A publication Critical patent/CN115666996A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0025Planning or execution of driving tasks specially adapted for specific operations
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • B60W60/0016Planning or execution of driving tasks specially adapted for safety of the vehicle or its occupants
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/05Underwater scenes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/146Instrument input by gesture
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/175Autonomous driving
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0809Driver authorisation; Driver identity check
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/215Selection or confirmation of options

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Automation & Control Theory (AREA)
  • Multimedia (AREA)
  • Mathematical Physics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Health & Medical Sciences (AREA)
  • User Interface Of Digital Computer (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Traffic Control Systems (AREA)

Abstract

各种实施例包括用于基于由乘员做出的车辆控制手势来安全地操作车辆的方法和车辆,诸如半自主车辆。示例性实施可以包括:通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作;确定执行第一车辆动作是否安全;以及响应于确定第一车辆动作对于车辆和乘员是安全的,操作车辆以实施第一车辆动作。第一乘客简档可以从多个乘客简档中被选择以规范化从第一乘客接收的车辆控制手势。响应于确定第一车辆动作对于车辆或乘员不安全,可以忽略车辆控制手势,或者可以实施与第一车辆动作不同但类似的车辆动作。

Description

用于半自主车辆的基于手势的控制
相关申请
本申请要求于2020年6月4日提交的题为“Gesture-Based Control For Semi-Autonomous Vehicle”的序列号为16/893,112的美国专利申请的优先权的权益,其全部内容通过引用并入本文以用于所有目的。
背景技术
随着工业朝向部署自主和半自主车辆的方向发展,汽车和卡车变得更加智能。随着全自主和半自主车辆的出现,乘客可能不再需要使用常规的方向盘来进行车辆控制。事实上,常规的方向盘价格昂贵,并且在发生碰撞时对乘客构成危险。然而,乘客可能仍然偶尔想要转向或以其它方式控制导航。
发明内容
各个方面包括实施用于基于乘客的车辆控制手势安全地操作车辆方法的方法和车辆,诸如半自主车辆。各个方面可以包括:通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作,其中该第一乘客简档从多个乘客简档中被选择以规范化从该第一乘客接收的车辆控制手势;以及响应于确定该第一车辆动作对于该车辆和乘员是安全的,操作该车辆以实施该第一车辆动作。在一些方面中,该多个乘客简档可以包括为第二乘客指定的第二乘客简档,其中该第二乘客简档与该第一乘客简档不同地规范化车辆控制手势。一些方面还可以包括:基于该第一乘客在该车辆中的位置、该第一乘客的输入或该第一乘客的识别中的至少一者来标识该第一乘客;以及基于该第一乘客的身份来选择该第一乘客档案。在一些方面,该第一乘客简档可以是根据先前从该第一乘客接收的训练输入为该第一乘客定制的。一些方面还可以包括:从远程计算设备接收用于应用于车辆控制手势的该第一乘客简档。
一些方面还可以包括:确定与该检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆运行是否安全;响应于确定该第一车辆动作对于该车辆运行是不安全的,确定作为该第一车辆动作的更安全替代方案的第二车辆动作;以及操作该车辆以实施该第二车辆动作。一些方面还可以包括:确定与该检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆在确定的延迟时段之后运行是否安全;以及响应于确定与该检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆在该确定的延迟时段之后运行是安全的,操作该车辆以在该确定的延迟时段之后实施该第一车辆动作。
一些方面还可以包括:确定该第一车辆动作是否包括非寻常车辆操作;以及响应于确定该第一车辆动作可以包括该非寻常车辆操作,确定该检测到的第一车辆控制手势是否可以包括对该第一乘客预期该非寻常车辆操作的附加指示,其中操作该车辆以实施该第一车辆动作是进一步响应于确定该检测到的第一车辆控制手势可以包括对该第一乘客预期该非寻常车辆操作的附加指示。在一些方面,该附加指示可以包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势,或结合该检测到的第一车辆控制手势接收的非视觉输入。一些方面还可以包括:确定该非寻常车辆操作对于该车辆或乘员是否安全;以及响应于确定该非寻常车辆操作对于该车辆或乘员不安全,操作该车辆以实施作为该第一车辆动作的更安全替代方案的第二车辆动作。
其它方面包括一种车辆控制系统,该车辆控制系统具有处理器,该处理器被配置为检测并实施车辆控制手势并执行上文概述的任何方法的操作。其它方面包括一种非暂时性处理器可读存储介质,其上存储有被配置为使处理器执行上文概述的方法中的任一者的操作的处理器可执行软件指令。其它方面包括一种车辆控制系统,该车辆控制系统具有用于执行上文概述的任何方法的功能的部件。其它方面包括一种用于在车辆中使用的车辆控制手势系统,该车辆包括处理器,该处理器被配置有处理器可执行指令以执行上文概述的任何方法的操作。其它方面包括一种处理设备,该处理设备被配置用于在车辆控制系统中使用并且被配置为执行上文概述的任何方法的操作。
附图说明
并入本文并构成本说明书的一部分的附图示出了示例性实施例,并且与上文给出的一般描述和下文给出的详细描述一起用于解释各种实施例的特征。
图1A和图2B是示出适用于实施各种实施例的车辆手势检测系统的示意图。
图2A和2B是示出适于实施各种实施例的车辆的组件框图。
图3是示出适于实施各种实施例的车辆的组件的组件框图。
图4A是示出根据各种实施例的示例车辆管理系统的组件的组件框图。
图4B是示出根据各种实施例的另一个示例车辆管理系统的组件的组件框图。
图5是示出根据各种实施例的用于在车辆中使用的示例片上系统的组件的框图,该片上系统可以被配置为基于乘客的车辆控制手势进行操作。
图6是根据各种实施例的示例车辆计算系统的组件框图,该车辆计算系统被配置用于基于乘客的车辆控制手势来操作车辆。
图7A、图7B和图7C示出了根据各种实施例的基于乘客的车辆控制手势的车辆操作的示例。
图8A和图8B示出了根据各种实施例的基于车辆控制手势的车辆操作的示例。
图9A、图9B、图9C和图9D是根据各种实施例的用于车辆基于乘客的车辆控制手势进行操作的示例方法的过程流程图。
具体实施方式
将参考附图详细描述各个方面。尽可能地,在整个附图中将使用相同的附图标记来指代相同或相似的部分。对特定示例和实施例的参考是出于说明性目的,而不意图限制各个方面或权利要求书的范围。
各种实施例提供了由半自主车辆的处理器执行的用于识别乘客的车辆控制手势的方法,该车辆控制手势意图用于自主车辆的转向和速度控制。处理器可以从多个乘客简档中选择乘客简档以规范化从乘客接收的车辆控制手势。处理器可以通过将乘客简档或使用可以应用于任何人的通用参数来应用于检测到的由乘客执行的车辆控制手势来确定车辆动作,并确认检测到的车辆控制手势对于车辆运行是安全的。处理器可以以安全的方式执行安全的车辆命令,而不管乘客在做出车辆控制手势时使用的重点为何。
各种实施例包括一种车辆系统,该车辆系统被配置为识别由乘客做出的用于控制半自主车辆的手势。车辆系统可以包括传感器(该传感器包括一个或多相机)以及传感器处理能力(例如,运动和/或图像处理)以将某些乘客运动(即,手势)识别为由乘客做出的车辆控制手势。例如,车辆乘员在半空中从左到右挥动她的手、假装向右转动车轮、指向车辆的右侧、和/或给出预定义的其它手信号/移动可能被指定并被识别为用于右转的车辆控制手势。一旦传感器处理能力识别指定的车辆控制手势,对表示车辆动作的这种识别的车辆控制手势的转换可以由用于控制车辆的操作的车辆控制单元处理。
识别车辆控制手势的过程可以考虑乘客输入的历史记录。历史记录可以用作一个或多个乘客简档的基础,该一个或多个乘客简档反映乘客如何实际执行给定的车辆控制手势的特性,包括与模型手势的一致偏差。每个乘客简档可以特定于特定乘客,与车辆内的一个或多个特定座椅(例如,传统的驾驶员座椅)相关联,或者可以通用于任何乘客和/或任何就座位置。乘客简档可以用于确认检测到的手势与乘客的典型或先前输入一致。此外,乘客简档可以用于更好地识别有效输入并减少错误手势检测的机会。
如本文所使用的,术语“乘客,,是指车辆、特别是半自主车辆的乘员,该乘员可以包括车辆的一个或多个驾驶员和一个或多个其它乘员。
如本文所使用的,术语“乘客简档”是指反映一个或多个乘客做出车辆控制手势或特定车辆控制手势的方式的重要特征的一组数据。
如本文所使用的,术语“手势”是指使用身体的部位、尤其是手和/或手臂来表达想法或含义的移动或姿势。更具体地,术语“车辆控制手势”是指被配置为控制半自主或自主车辆的一个或多个动作的移动或姿势。
如本文所使用的,术语“安全的”或“安全”同义使用并且是指被保护免受或不显著暴露于危险的状况/情况。在各种实施例中,当对一个或多个乘客、车辆和/或车辆的部分的损坏或伤害的发生概率小于阈值时,可以认为状况/情况是安全的。虽然操作车辆可能总是涉及某种级别或风险,但是预定的低风险级别(即,安全阈值)可以被认为是安全的(即,可接受的)。另外,处理器可以计算对多于一种事物(例如,乘客、车辆和/或车辆的部分)的损坏或伤害以及对这些事物的多于一种类型的损坏或伤害的单独发生概率。此外,可以将相同或不同的安全阈值应用于计算这些事物中的每一者的风险。
如本文所使用的,术语“计算设备”是指被配备有至少一个处理器、通信系统和被配置有联系人数据库的存储器的电子设备。例如,计算设备可以包括以下任一者或全部:蜂窝电话、智能手机、便携式计算设备、个人或移动多媒体播放器、膝上型计算机、平板计算机、2合1膝上型/台式计算机、智能本、超极本、掌上型计算机、无线电子邮件接收器、支持多媒体互联网的蜂窝电话、包括智能手表的可穿戴设备、娱乐设备(例如,无线游戏控制器、音乐和视频播放器、卫星无线电等)以及包括存储器、无线通信组件和可编程处理器的类似电子设备。在各种实施例中,计算设备可以被配置有存储器和/或存储装置。另外,在各种示例实施例中提及的计算设备可以耦合到或包括实施各种实施例的有线或无线通信能力,诸如被配置为与无线通信网络进行通信的网络收发器和天线。
术语“片上系统”(SOC)在本文中用于指代一组互连电子电路,通常但不排他地包括一个或多个处理器、存储器和通信接口。SOC可以包括多种不同类型的处理器和处理器内核,诸如通用处理器、中央处理单元(CPU)、数字信号处理器(DSP)、图形处理单元(GPU)、加速处理单元(APU)、子系统处理器、辅助处理器、单核处理器和多核处理器。SOC可以进一步体现其它硬件和硬件组合,诸如现场可编程门阵列(FPGA)、配置和状态寄存器(CSR)、专用集成电路(ASIC)、其它可编程逻辑器件、离散门逻辑、晶体管逻辑、寄存器、性能监测硬件、看门狗硬件、计数器和时间参考。SOC可以是集成电路(IC),其被配置为使得IC的组件驻留在相同衬底上,诸如单片半导体材料(例如,硅等)上。
诸如汽车和卡车、公共汽车等的自主和半自主车辆正在道路上成为现实。此外,自主和半自主车辆通常包括多个传感器,该多个传感器包括收集关于车辆周围的环境的信息的相机、雷达和激光雷达。例如,如此收集的信息可以使得车辆能够识别道路,标识要避开的对象,以及跟踪其它车辆的移动和未来位置以实现部分或完全地自主导航。根据各种实施例,此类传感器的使用可以被扩展到车辆内部以检测车辆控制手势,以供乘客控制车辆的动作,而无需使用传统的方向盘、操纵杆或类似的直接机械控件。
各种实施例可以在包括手势检测系统的各种半自主车辆内实施,其中示例车辆手势检测系统50在图1A和图1B中示出。参考图1A和图1B,车辆手势检测系统50可以包括一个或多个传感器101、简档数据库142和手势识别引擎144,它们耦合到车辆100的控制单元140和/或与控制单元一起工作。车辆手势检测系统50可以被配置为检测由车辆100内的乘客11、12执行的预定义手势61、62。
通过使用手势,一个或多个乘客可以向车辆100的处理器提供控制输入,而不必物理地触摸方向盘或其它机械控制器。传感器101可以包括运动传感器、接近传感器、相机、麦克风、冲击传感器、雷达、激光雷达、卫星地理定位系统接收器、轮胎压力传感器等,它们可以被配置为捕获由乘客执行的运动和/或姿势的图像或其它特性。运动和/或姿势可以包括所有运动和/或姿势,其包括与一个或多个车辆控制手势相关联的预定义手势,以及与车辆控制无关的其它运动或姿势。这样,传感器101不需要区分运动或姿势的类型,而是可以将关于捕获的图像或其它特性的数据传达到手势识别引擎144以在其中进行分析。
简档数据库142可以维护多个乘客简档,该多个乘客简档被定制以规范化车辆100内的特定乘客、乘客组和/或特定座椅上的乘客的车辆控制手势。简档数据库142可以被配置为将关于多个乘客简档中的一者或多者的数据传达到手势识别引擎144以在其中进行分析。
乘客简档可以包括与特定人员如何做出手势和/或该人员选择使用的特定手势有关的数据。因此,简档数据库142可以包括为不同人指定的不同乘客简档。可以基于来自乘客的输入或通过传感器101对乘客身份的识别来标识每个特定人员。这样,来自乘客的输入可以提供身份和/或个性化的乘客简档,其可以在简档数据库142中添加或更新。来自乘客的输入可以来自与车辆100相关联的用户界面、乘客的个人计算设备(例如,智能手机)和/或另一个输入设备。因此,乘客简档可以基于乘客的身份来选择和/或可以特定于唯一个人。此外,可以根据先前从乘客接收的训练输入为所标识的乘客定制乘客简档。此外,多于一个乘客档案可能与单个唯一个人相关联。因此,人员可以选择特定的乘客简档以适合他们的情绪(例如,疲倦、激动、兴奋等)、当日时间和/或其它标准。
另外或替代地,可以定制多个乘客简档以规范化车辆内的一个或多个特定座椅上的乘客的车辆控制手势。例如,可以为坐在指定“驾驶员座椅,,上的任何个人指定一个乘客简档,并为坐在其它座椅上的任何个人指定一个或多个其它乘客简档。作为另一替代方案,可以为所有乘客指定一个乘客档案,而不管他们是谁或他们坐在哪里。类似地,简档数据库142可以维护一个或多个默认乘客简档以供在未标识乘客或没有为该乘客设置定制乘客简档的情况下使用。
在一些实施方式中,手势识别引擎144可以使用神经网络处理和/或人工智能方法来确定由传感器101捕获的移动和/或姿势是否和与车辆控制相关联的预定义手势匹配。另外,手势识别引擎144可以使用来自从简档数据库142接收的乘客简档的数据来确定由传感器101捕获的运动和/或姿势预期的车辆动作。因此,考虑到由传感器101捕获的移动或姿势以及从简档数据库142传达的乘客简档,手势识别引擎144可以向控制单元140传达指令或数据,以使控制单元140以实施指定车辆动作的方式操作车辆100。在各种实施方式中,在发起任何车辆动作之前,控制单元140可以确保指定的车辆动作对于车辆100和乘员(例如,乘客11、12)是安全的。
诸如加速、减速和车道变换的一些车辆动作可以在变化的量或幅度上变化。在一些实施方式中,除了将捕捉到的移动和/或姿势与和车辆控制相关联的预定义手势匹配之外,手势识别引擎144还可以评估捕捉的移动的可测量参数(例如,角度、距离等)以解译预期的车辆控制输入。为了便于描述,手势的旋转角度或度数、距离或扫掠、手势的移动速度、手势期间的加速度和观察到的手势的其它可测量参数在本文中被称为捕获的移动的“程度”。手势识别引擎144可以解译捕捉到的移动的程度以确定由做出手势的人员预期的车辆移动的幅度。例如,乘客可以将她的手以15度的弧度在空中挥动,以传达用于车道变换的命令,但是沿挥动方向只能改变一个车道。跨越45度或更多的类似挥动可能表示用于沿挥动方向改变两个车道的命令。这样,捕获的移动和/或姿势的程度可以对应于所得车辆动作的量或幅度。在一些实施例中,由手势识别引擎144考虑的捕捉的移动和/或姿势的程度可以根据动作的类型而变化。例如,用于车辆转弯的手势的程度(例如,移动的度或量)可以不同于用于使车辆停止或减速的手势的移动的度或量。
在一些实施例中,将乘客移动解译为车辆控制手势、特别是解译用于确定预期车辆动作或命令的检测到的手势的程度可能因乘客而异,并且可以保存在乘客档案或历史数据中,反映在训练数据等中。例如,手势的程度可能随着个人的体型而变化。此外,手势的程度可能会因个性而异,因为一些人的手势可能更具表现力或夸张,而另一些人可能会做出小手势。
在一些实施例中,与乘客手势相对应的车辆重定向或速度变化的量可以线性或非线性地取决于捕获的移动的程度。例如,手指、手或手臂的5度移动可能导致车辆做出(即,对应于)单车道变换,15度移动可以对应于双车道变换(即,因为这是更剧烈的操纵),而60度移动可以对应于三车道变换(即,甚至更剧烈)。
在一些实施例中,为了确定对应的命令车辆重定向或速度变化,可以限制捕获的移动的所确定的程度(即,不被解译为延伸超过最大程度、距离或速度)。在一些实施例中,在某些情况下,或仅针对某些类型的手势,这种限制或最大值总是施加于解译。例如,虽然5度、10度和15度移动可以分别对应于单车道变换、双车道变换和三车道变换,但是如果车道变换手势被限制为15度移动,则手势识别引擎144可能不会将20度转弯解译为四车道变换。
在考虑捕获的移动和/或姿势的程度的一些实施例中,测量的移动可以被(向下/向上)四舍五入成适合特定手势的特定程度增量。例如,如果5度手部移动与单车道变换相关联,而10度手部移动与双车道变换相关联,则7度手部移动可能仅与单车道变换相关联。在一些实施例中,将选择单车道变换或双车道变换的更安全的选择。替代地或另外,乘客可以提供对预期部分车道变换(即,因此车辆最终跨越两个车道)的一些附加的指示,诸如指示7度手部移动应当被解译为一个半车道变换。
在一些实施例中,除了移动之外的乘客输入可以作为移动手势的替代或补充被手势识别引擎144解译为车辆控制手势。例如,手势识别引擎144可以识别(但不限于)语音命令、任何触敏表面上(例如,方向盘、触摸屏、扶手、安全带等上)的触摸控制,和/或远程控制器输入,诸如移动设备应用程序、游戏手柄控制器、可拆卸方向盘或可以被传递给任何想要输入命令的乘客的其它远程控制器上的输入。
在一些实施例中,可以从车辆外部的一方(例如,经由无线电模块172)接收手势或其它命令。因此,手势识别引擎144可以识别用于控制车辆的这种远程命令。替代地,设备(例如,无线通信设备190)可以被配置有手势识别引擎144以用于识别用于控制车辆的手势或命令,然后将对应的命令发送到车辆以供执行。例如,车主(远离车辆的人)可以提供手势或命令以使车辆改变车道、改变速度等。作为另一个示例,乘客可以通过可拆卸的方向盘(或其它输入设备)离开车辆以从车辆外部控制车辆(例如,在狭窄空间停车时提供不同的视野)。
在一些实施例中,乘客可以执行一系列车辆控制手势以使车辆执行一系列对应的操纵。在一些实施例中,手势识别引擎144可以(例如,用音调、光、振动等)指示手势已经被识别,并且乘客可以在执行下一个手势之前等待一个手势被确认或执行。在一些实施例中,手势识别引擎144或控制单元140可以使车辆按照该系列操纵被呈现的顺序来执行该系列操纵。替代地,手势识别引擎144或控制单元140可以使车辆在每个操纵变得安全时或在接收到进一步的乘客输入之后(例如,在提示之后)执行每个操纵。另外或作为进一步的替代方案,如果在执行车辆动作之前,车辆动作的执行变得不安全,则手势识别引擎144可以在执行诸如一系列动作中的一者的车辆动作之前提示用户。例如,如果乘客执行被设计为减速然后转弯的一系列车辆控制手势,则如果在减速之后车辆被阻止转弯,则车辆控制单元140可以不执行转弯。
参考图1A和图1B,分别地,第一乘客11被示为执行第一车辆控制手势61并且第二乘客12被示为执行第二车辆控制手势62。第一车辆控制手势61涉及第一乘客11在空中遵循拱形移动角度从左向右移动或挥动张开的手掌的手。在这种情况下,传感器101检测从左到右的三十度(30°)挥动(即,“30°向右挥动,,)。第二车辆控制手势62涉及第二乘客12在空中遵循拱形移动角度从左向右移动或挥动手指指向的手。与使用张开的手并且仅延伸跨过30度角的第一车辆控制手势61相比,第二车辆控制手势62使用具有延伸跨过90度角的指向手指的部分闭合的手。然而,手势识别引擎144在使用第一乘客简档A和第二乘客简档B规范化第一车辆控制手势61和第二车辆控制手势62中的每一者之后,可以确定乘客11、12都希望车辆向右车道变换。因此,在这两个实例中,手势识别引擎144可以向控制单元140输出相同的车辆动作以车道变换;改变为右车道。
手势识别引擎144可以将许多不同类型和程度的车辆动作输出到控制单元140以操作车辆100以实施与识别的手势61、62相关联的车辆动作。
各种实施例可以在各种车辆内实施,在图2A和图2B中示出了其示例车辆100。参考图2A和图2B,车辆100可以包括控制单元140和多个传感器。在图2A和图2B中,单独地描述了关于图1总体描述的多个传感器。具体地,多个传感器可以包括占用传感器102、104、106、108、110(例如,运动和/或接近传感器)、相机112、114、麦克风116、118、冲击传感器120、雷达122、激光雷达124、卫星地理定位系统接收器126、轮胎压力传感器128。设置在车辆中或车辆上的多个传感器102至128可以用于各种目的,诸如车辆手势检测和/或自主和半自主导航和控制、碰撞避免、位置确定、车辆控制手势检测等,以及提供关于车辆100中或附近的对象和人的传感器数据。传感器102至128可以包括多种传感器中的一者或多者,这些传感器能够检测有用于接收关于车辆100内部和外部环境的输入以及导航控制和碰撞避免的各种信息。传感器102至128中的每一者可以与控制单元140或彼此之间进行有线或无线通信。具体地,传感器102至128可以包括一个或多个相机112、114,它们包括其它光学、光电和/或运动传感器或由其它光学、光电和/或运动传感器组成。传感器102至128还可以包括其它类型的对象检测和测距传感器,诸如雷达122、激光雷达124、IR传感器和超声波传感器。传感器102至128还可以包括轮胎压力传感器128、湿度传感器、温度传感器、卫星地理定位系统接收器126、加速度计、振动传感器、陀螺仪、重力仪、冲击传感器120、测力计、应力计、应变传感器、麦克风116、118、占用传感器102、104、106、108、110,它们可以包括运动和/或接近传感器,以及各种环境传感器。
根据各种实施例,车辆控制单元140可以被配置为基于从一个或多个乘客11、12、13的车辆控制手势和乘客简档解译的车辆动作来操作车辆100。另外,控制单元140可以具有用于一个或多个乘客简档的默认设置。例如,基于当前加载的乘客简档,默认设置可以使车辆或多或少地平稳、高效、快速、缓慢地等操作。例如,当控制单元140不识别乘客(即,没有乘客简档匹配)时,可以遵循默认设置。替代地,当控制单元140没有识别出乘客时,可以例如基于该人员的动作(例如,手势/姿势)为该未知人员创建新的简档。
车辆控制单元140可以被配置有处理器可执行指令以使用从各种传感器(特别是相机112、114、麦克风116、118、占用传感器102、104、106、108、110)接收的信息执行各种实施例。在一些实施例中,控制单元140可以使用可以从雷达122、激光雷达124和/或其它传感器获得的距离和相对位置(例如,相对方位角)来补充对相机图像的处理。控制单元140还可以被配置为在以自主或半自主模式操作时使用关于其它车辆和/或使用各种实施例确定的来自乘客的车辆控制手势的信息来控制车辆100的方向、制动、速度、加速/减速等。
图3是示出适于实施各种实施例的组件和支持系统的系统300的组件框图。参考图1A至图3,车辆100可以包括控制单元140,该控制单元可以包括用于控制对车辆100的操作的各种电路和设备。在图3所示的示例中,控制单元140包括处理器164、存储器166、输入模块168、输出模块170和无线电模块172。控制单元140可以耦合到车辆100的驾驶控制组件154、导航组件156和一个或多个传感器101并且被配置为控制车辆100的驾驶控制组件154、导航组件156和一个或多个传感器101。
如本文所使用的,术语“组件”、“系统”、“单元”、“模块”等包括计算机相关实体,诸如但不限于:被配置为执行特定操作或功能的硬件、固件、硬件和软件的结合、软件或者执行中的软件。例如,组件可以是但不限于在处理器上执行的过程、处理器、对象、可执行文件、执行线程、程序和/或计算机。通过说明方式,在通信设备上运行的应用和通信设备两者可以被称为组件。一个或多个组件可以驻留在过程和/或执行线程内,并且组件可以位于一个处理器或核心上和/或分布于两个或更多个处理器或核心之间。另外,这些组件可以从具有存储在其上的各种指令和/或数据结构的各种非暂时性计算机可读取介质执行。组件可以通过本端和/或远程过程、函数或过程调用、电子信号、数据分组、存储器读取/写入以及其它已知的计算机、处理器和/或过程相关通信方法的方式来进行通信。
控制单元140可以包括处理器164,该处理器可以被配置有处理器可执行指令以确定车辆控制手势和/或其替代方案,以及控制车辆100的操纵、导航和/或其它操作,包括各种实施例的操作。处理器164可以耦合到存储器166。控制单元162可以包括输入模块168、输出模块170和无线电模块172。
无线电模块172可以被配置用于无线通信。无线电模块172可以与通信网络180交换信号182(例如,用于控制操纵的命令信号、来自导航设施的信号等)。无线电模块172可以将信号182提供给处理器164和/或导航组件156。在一些实施例中,无线电模块172可以使得车辆100能够通过无线通信链路187与无线通信设备190通信。无线通信链路187可以是双向或单向通信链路。无线通信链路187可以使用一种或多种通信协议。在一些实施例中,无线电模块172可以使得车辆100能够通过无线通信链路192与另一车辆进行通信。无线通信链路192可以是双向或单向通信链路,并且无线通信链路192可以使用一种或多种通信协议。
输入模块168可以从一个或多个车辆传感器101接收传感器数据,以及从包括驾驶控制组件154和导航组件156的其它组件接收电子信号。输出模块170可以用于与车辆100的各种组件(包括驾驶控制组件154、导航组件156和传感器101)进行通信或者激活该各种组件。
控制单元140可以耦合到驾驶控制组件154以控制与车辆100的操纵和导航相关的车辆的物理元件,诸如(但不限于)发动机、马达、节流阀(throttle)、引导元件、飞行控制元件、制动或减速元件等。驾驶控制组件154还可以或者替代地包括控制车辆的其它设备的组件,包括(但不限于)环境控件(例如,空调和加热)、外部和/或内部照明、内部和/或外部信息显示器(其可以包括显示屏或用于显示信息的其它设备)、安全设备(例如,触觉设备、听觉警报等)和其它类似设备。
控制单元140可以耦合到导航组件156,并且可以从导航组件156接收数据并且被配置为使用此数据来确定车辆100的当前位置和取向。在各个实施例中,导航组件156可以包括或耦合到全球旱航卫星系统(GNSS)接收器系统(例如,一个或多个全球定位系统(GPS)接收器),使得车辆100能够使用GNSS信号来确定其当前位置。替代地或另外,导航组件156可以包括无线电导航接收器以用于从诸如Wi-Fi接入点、蜂窝网络站点、无线电站、远程计算设备、其它车辆等的无线电节点接收导航信标或其它信号。通过对驾驶控制组件154的控制,处理器164可以控制车辆100进行导航和操纵。处理器164和/或导航组件156可以被配置为使用与蜂窝数据通信网络180的无线连接信号182在网络186(例如,互联网)上与服务器184进行通信,以接收用于控制操纵的命令,接收在导航时有用的数据,提供实时位置报告,以及评估其它数据。控制单元140可以耦合到一个或多个传感器101,该一个或多个传感器可以被配置为向处理器164提供各种数据。
尽管控制单元140被描述为包括单独的组件,但是在一些实施例中,一些或所有组件(例如,处理器164、存储器166、输入模块168、输出模块170和无线电模块172)可以集成在单个设备或模块中,诸如片上系统(SOC)处理设备。这样的SOC处理设备可以被配置用于车辆中并且被配置为诸如具有在处理器164中执行的处理器可执行指令,以在安装到车辆中时执行各种实施例的操作。
图4A示出了可以在车辆(例如,100)内利用的车辆管理系统400内的子系统、计算元件、计算设备或单元的示例。参考图1A至图4A,在一些实施例中,车辆管理系统400内的各种计算元件、计算设备或单元可以在互连计算设备(即,子系统)的系统内实施,该互连计算设备向彼此传送数据和命令(例如,由图4A中的箭头指示)。在其它实施例中,车辆管理系统400内的各种计算元件、计算设备或单元可以在单个计算设备(诸如单独的线程、进程、算法或计算元件)内实施。因此,图4A中所示的每个子系统/计算元件在本文中也通常被称为构成车辆管理系统400的计算“堆栈”内的“层”。然而,在描述各种实施例时使用术语层和堆栈并不意图暗示或要求在单个自主(或半自主)车辆管理系统计算设备内实施对应的功能性,但是这是潜在实施例。相反,术语“层”的使用意图涵盖具有独立处理器的子系统、在一个或多个计算设备中运行的计算元件(例如,线程、算法、子例程等),以及子系统与计算元件的组合。
在各种实施例中,车辆管理系统400可以包括雷达感知层402、相机感知层404、定位引擎层406、地图融合和仲裁层408、路线规划层410、传感器融合和道路世界模型(RWM)管理层412、运动规划和控制层414、以及行为规划和预测层416。层402至416仅仅是车辆管理系统400的一种示例配置中的一些层的示例。在与各种实施例一致的其它配置中,可以包括一个或多个其它层,诸如(但不限于)用于其它感知传感器的附加层(例如,相机感知层等)、用于规划和/或控制的附加层、用于建模等的附加层等,和/或层402至416中的某些层可以从车辆管理系统400中排除。
层402至416中的每一者可以交换数据、计算结果和命令(如图4A中的箭头所示)。此外,车辆管理系统400可以接收和处理来自传感器(例如,雷达、激光雷达、相机、惯性测量单元(IMU)等)、导航系统(例如,GPS接收器、IMU等)、车辆网络(例如,控制器局域网(CAN)总线)和存储器中的数据库的数据(例如,数字地图数据)。车辆管理系统400可以将车辆控制命令或信号输出到线控驱动(DBW)系统/控制单元420,其是直接与车辆方向、节流阀和制动控制对接的系统、子系统或计算设备。图4A中所示的车辆管理系统400和DBW系统/控制单元420的配置仅仅是示例配置,并且车辆管理系统的其它配置和其它车辆组件可以用于各种实施例中。作为示例,图4A中所示的车辆管理系统400和DBW系统/控制单元420的配置可以用在被配置用于自主或半自主操作的车辆中,而不同配置可以用在非自主车辆中。
雷达感知层402可以从一个或多个检测和测距传感器(诸如雷达(例如,122)和/或激光雷达(例如,124))接收数据。雷达感知层402可以处理数据以识别和确定车辆100附近的其它车辆和对象的位置。在一些实施方式中,雷达感知层402可以包括使用神经网络处理和人工智能方法来识别对象和车辆。雷达感知层402可以将这样的信息传递给传感器融合和RWM管理层412。
相机感知层404可以从一个或多个相机(诸如相机(例如,112、114))接收数据,并处理该数据以检测车辆控制手势,以及识别和确定车辆100附近的其它车辆和对象的位置。在一些实施方式中,相机感知层404可以包括使用神经网络处理和人工智能方法来识别对象和车辆,并将这样的信息传递到传感器融合和RWM管理层412。
定位引擎层406可以从各种传感器接收数据并处理数据以确定车辆100的位置。各种传感器可以包括但不限于GPS传感器、IMU和/或经由CAN总线连接的其它传感器。定位引擎层406还可以利用来自一个或多个相机(诸如相机(例如,112、114))和/或任何其它可用传感器(诸如雷达(例如,122)、激光雷达(例如,124))等的输入。
地图融合和仲裁层408可以访问高清晰度(HD)地图数据库内的数据并接收从定位引擎层406接收的输出并且处理数据以进一步确定车辆在地图内的位置,诸如在交通车道内的位置、街道地图内的位置等。HD地图数据库可以存储在存储器(例如,存储器166)中。例如,地图融合和仲裁层408可以将来自GPS的纬度和经度信息转换为包含在HD地图数据库中的道路的表面地图内的位置。GPS位置定位包括误差,因此地图融合和仲裁层408可以用于基于GPS坐标与HD地图数据之间的仲裁来确定车辆在道路内的最佳猜测位置。例如,虽然GPS坐标可以将车辆放置在HD地图中的两车道道路的中间附近,但是地图融合和仲裁层408可以根据行驶方向来确定车辆最有可能与和行驶方向一致的行驶车道对准。地图融合和仲裁层408可以将基于地图的位置信息传递给传感器融合和RWM管理层412。
路线规划层410可以利用HD地图以及来自操作员或调度员的输入来规划车辆要遵循的到特定目的地的路线。路线规划层410可以将基于地图的位置信息传递给传感器融合和RWM管理层412。然而,其它层(诸如传感器融合和RWM管理层412等)使用先前地图不是必需的。例如,其他堆栈可以仅基于感知数据来操作和/或控制车辆,而无需提供的地图,当接收到感知数据时,构建车道、边界和本地地图的概念。
传感器融合和RWM管理层412可以接收由雷达感知层402、相机感知层404、地图融合和仲裁层408以及路线规划层410产生的数据和输出,并且使用此类输入中的一些或全部输入来估计或细化车辆相对于道路、道路上的其它车辆以及车辆附近的其它对象的位置和状态。例如,传感器融合和RWM管理层412可以将来自相机感知层404的图像数据与来自地图融合和仲裁层408的仲裁地图位置信息相结合,以细化车辆在交通车道内的确定的位置。
作为另一个示例,传感器融合和RWM管理层412可以将来自相机感知层404的对象识别和图像数据与来自雷达感知层402的对象检测和测距数据相结合,以确定和细化其它车辆和车辆附近的对象的相对位置。作为另一个示例,传感器融合和RWM管理层412可以从车辆对车辆(V2V)通信(诸如经由CAN总线)接收关于其它车辆位置和行驶方向的信息,并将该信息与来自雷达感知层402和相机感知层404的信息相结合以细化其它车辆的位置和运动。传感器融合和RWM管理层412可以将车辆的细化的位置和状态信息以及车辆附近的其它车辆和对象的细化的位置和状态信息输出到运动规划和控制层414和/或行为规划和预测层416。
作为另一示例,传感器融合和RWM管理层412可以使用引导车辆改变速度、车道、行驶方向或其它导航元素的动态交通控制指令,并将该信息与其它接收到的信息相结合以确定细化的位置和状态信息。传感器融合和RWM管理层412可以经由无线通信(诸如通过C-V2X连接、其它无线连接等)将车辆的细化的位置和状态信息以及车辆附近的其它车辆和对象的细化的位置和状态信息输出到运动规划和控制层414、行为规划和预测层416和/或远离车辆的设备,诸如数据服务器、其它车辆等。
作为又一示例,传感器融合和RWM管理层412可以监测来自各种传感器的感知数据,诸如来自雷达感知层402、相机感知层404、其它感知层等的感知数据,和/或来自一个或多个传感器本身的信息,以分析车辆传感器数据中的状况。传感器融合和RWM管理层412可以被配置为检测传感器数据中的状况,诸如传感器测量值等于、高于或低于阈值、发生某些类型的传感器测量值等,并且可以将传感器数据输出作为经由无线通信(诸如通过C-V2X连接、其它无线连接等)提供给行为规划和预测层416和/或远离车辆的设备(诸如数据服务器、其它车辆等)的车辆的细化的位置和状态信息的一部分。
细化的位置和状态信息可以包括与车辆和车主和/或操作员相关联的车辆描述符,诸如:车辆规格(例如,大小、重量、颜色、车载传感器类型等);车辆位置、速度、加速度、行驶方向、姿态、取向、目的地、燃料/功率水平和其它状态信息;车辆紧急状态(例如,车辆是紧急情况下的应急车辆还是私人个人);车辆限制(例如,重载/宽载、转弯限制、高占用车辆(HOV)授权等);车辆的能力(例如,全轮驱动、四轮驱动、雪地轮胎、链条、所支持的连接类型、车载传感器操作状态、车载传感器分辨率级别等);装备问题(例如,低轮胎压力、弱制动、传感器故障等);车主/操作员行驶偏好(例如,优选车道、道路、路线和/或目的地、避开通行费或高速公路的偏好、对最快路线的偏好等);向数据代理服务器(例如,184)提供传感器数据的许可;和/或车主/操作员标识信息。
自主车辆管理系统400的行为规划和预测层416可以使用车辆的细化的位置和状态信息以及从传感器融合和RWM管理层412输出的其它车辆和对象的位置和状态信息来预测其它车辆和/或对象的未来行为。例如,行为规划和预测层416可以使用这样的信息来基于自己的车辆位置和速度以及其它车辆位置和速度来预测车辆附近的其它车辆的未来相对位置。这种预测可以考虑来自HD地图和路线规划的信息,以预测当主车辆和其它车辆遵循道路时相对车辆位置的变化。行为规划和预测层416可以将其它车辆和对象行为和位置预测输出到运动规划和控制层414。
另外,行为规划和预测层416可以结合位置预测使用对象行为来规划和生成用于控制车辆运动的控制信号。例如,基于路线规划信息、道路信息中的细化的位置以及其它车辆的相对位置和运动,行为规划和预测层416可以确定车辆需要变换车道和加速,诸如维持或实现与其它车辆的最小间距,和/或准备转弯或离开。结果,行为规划和预测层416可以计算或以其它方式确定车轮的转向角和要向运动规划和控制层414以及DBW系统/控制单元420命令的节流阀设置的改变以及实现这种车道变换和加速所需的各种参数。一个这样的参数可以是计算的方向盘命令角。
运动规划和控制层414可以接收从传感器融合和RWM管理层412输出的数据和信息以及来自行为规划和预测层416的其它车辆和对象行为以及位置预测。运动规划和控制层414可以使用该信息中的(至少一些信息)来规划和生成用于控制车辆运动的控制信号,并验证此类控制信号是否满足车辆的安全要求。例如,基于路线规划信息、道路信息中的细化的位置以及其它车辆的相对位置和运动,运动规划和控制层414可以验证各种控制命令或指令并将其传递给DBW系统/控制单元420。
DBW系统/控制单元420可以接收来自运动规划和控制层414的命令或指令,并将这种信息转译为用于控制车辆的车轮角度、制动器和节流阀的机械控制信号。例如,DBW系统/控制单元420可以通过向方向盘控制器发送对应的控制信号来响应计算的方向盘命令角。
在各种实施例中,车辆管理系统400可以包括对可能影响车辆和乘员安全的各个层的各种命令、规划或其它决策执行安全检查或监督的功能性。这样的安全检查或监督功能性可以在专用层内实施或分布在各个层之间并作为功能性的一部分被包括在内。
在一些实施例中,各种安全参数可以存储在存储器中,并且安全检查或监督功能性可以将确定的值(例如,与附近车辆的相对间距、距道路中线的距离等)与对应的安全参数进行比较,并在违反或将违反安全参数的情况下发出警告或命令。例如,行为规划和预测层416(或单独的层)中的安全或监督功能可以(例如,基于由传感器融合和RWM管理层412细化的世界模型)确定另一车辆(由传感器融合和RWM管理层412定义)与车辆之间的当前或未来间隔距离,将该间隔距离与存储在存储器中的安全间隔距离参数进行比较,并且如果当前或预测的间隔距离违反安全间隔距离参数,则向运动规划和控制层414发出加速、减速或转弯的指令。作为另一个示例,运动规划和控制层414(或单独层)中的安全或监督功能可以将确定的或命令的方向盘命令角度与安全车轮角度限制或参数进行比较,并响应于命令的角超过安全车轮角度限制而发出超驰(override)命令和/或警报。
根据各种实施方式,存储在存储器中的一些安全参数可以是静态的(即,不随时间改变),诸如最大车辆速度。例如,以超过120mph(或可能由制造商、车主等设定的一些其它值)操作车辆可能被认为是危险的,因此车辆(例如,手势识别引擎144和/或控制单元140)将施加与速度相关的最大安全参数。对于自主车辆,以超过120mph的速度操作可能仍然是安全的,因此可以使用更高的值。替代地,一些安全参数(例如,最大速度)可以是动态的并且取决于位置、驾驶状况(例如,交通量)和/或外部输入(例如,来自智能运输系统的信号)而变化。例如,最大速度对于在人口稠密的地区或更受限的道路中的驾驶(即,城市驾驶)可以具有一个值,而对于在人口较少的地区或具有许多车道的道路中的驾驶(即,高速公路驾驶)可以具有另一个值。可以使用其它安全参数,诸如与对象(例如,其它车辆)、人、生物或其它元素的接近度。另外,存储在存储器中的其它安全参数可以是动态的,因为该参数是基于车辆状态信息和/或环境状况连续或周期性地确定或更新的。安全参数的非限制性示例可以包括最大速度、最小速度、最大减速度(例如,制动速度)、最大加速度和最大车轮角度限制。这些中的任何一者或所有可能是乘员、道路和/或天气状况的函数。例如,如果乘员正在睡觉、已喝醉或分心(例如,阅读、不面向前方/向前看等),则与例如乘员保持警觉并且没有分心的其它时间相比,乘员可能不太可能给出适当的命令和/或不能正确地导航车辆。
图4B示出了可以在车辆(例如,100)内利用的车辆管理系统450内的子系统、计算元件、计算设备或单元的示例。参考图1A至图4B,在一些实施例中,车辆管理系统400的层402、404、406、408、410、412和416可以类似于参考图4A描述的那些层。车辆管理系统450可以与车辆管理系统400类似地操作,不同的是车辆管理系统450可以将各种数据或指令传递给车辆安全和碰撞避免系统452而不是DBW系统/控制单元420。例如,图4B中所示的车辆管理系统450和车辆安全和碰撞避免系统452的配置可以用在非自主、半自主或完全自主车辆中。另外,车辆管理系统450和/或车辆安全和碰撞避免系统452的功能可以被减少或禁用(例如,关闭)。
在各种实施例中,行为规划和预测层416和/或传感器融合和RWM管理层412可以将数据输出到车辆安全和碰撞避免系统452。例如,传感器融合和RWM管理层412可以输出传感器数据作为提供给车辆安全和碰撞避免系统452的车辆100的细化的位置和状态信息的一部分。车辆安全和碰撞避免系统452可以使用车辆100的细化的位置和状态信息来做出关于车辆100和/或车辆100的乘员的安全确定。作为另一个示例,行为规划和预测层416可以将与其它车辆的运动相关的行为模型和/或预测输出到车辆安全和碰撞避免系统452。车辆安全和碰撞避免系统452可以使用与其它车辆的运动相关的行为模型和/或预测来做出关于车辆100和/或车辆100的乘员(例如,11、12、13)的安全确定。
在各种实施例中,车辆安全和碰撞避免系统452可以包括执行对各个层的各种命令、规划或其它决策以及可能影响车辆和乘员安全的人类驾驶员动作和/或车辆控制手势的安全检查或监督的功能。在一些实施例中,各种安全参数可以存储在存储器中,并且车辆安全和碰撞避免系统452可以将确定的值(例如,与附近车辆的相对间距、距道路中线的距离等)与对应的安全参数进行比较,并且如果违反或将要违反安全参数,则发出警告、命令或安全替代车辆动作。
例如,车辆安全和碰撞避免系统452可以(例如,基于由传感器融合和RWM管理层412细化的道路世界模型)确定另一车辆(由传感器融合和RWM管理层412定义)与车辆之间的当前或未来间隔距离,将该间隔距离与存储在存储器中的安全间隔距离参数进行比较,并且如果当前或预测的间隔距离违反安全间隔距离参数,则向驾驶员发出指令和/或提出安全替代车辆动作以加速、减速或转弯。作为另一个示例,车辆安全和碰撞避免系统452可以将确定的第一车辆动作(例如,通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势)与安全车辆动作限制或参数进行比较,并且响应于提出的车辆动作超过安全车辆动作限制或参数而发出超驰命令和/或警报。
图5示出了车辆中的适于实施各个实施例的处理设备SOC 500的示例片上系统(SOC)架构。参考图1A至图5,处理设备SOC 500可以包括数个异构处理器,诸如数字信号处理器(DSP)503、调制解调器处理器504、图像和对象识别处理器506、移动显示处理器507、应用处理器508以及资源和功率管理(RPM)处理器517。处理设备SOC 500也可以包括连接到异构处理器503、504、506、507、508、517中的一者或多者的一个或多个协处理器510(例如,向量协处理器)。该处理器中的每一者可以包括一个或多个核心和独立/内部时钟。每个处理器/核心可以独立于其它处理器/核心来执行操作。例如,处理设备SOC 500可以包括执行第一类型的操作系统(例如,FreeBSD、LINUX、OS X等)的处理器和执行第二类型的操作系统(例如,Microsoft Windows)的处理器。在一些实施例中,应用处理器508可以是SOC 500的主处理器、中央处理单元(CPU)、微处理器单元(MPU)、算术逻辑单元(ALU)、图形处理单元(GPU)等。
处理设备SOC 500可以包括模拟电路和定制电路514,以用于管理传感器数据、模数转换、无线数据传输,以及用于执行其它专门操作(诸如处理经编码的音频和视频信号以用于在网页浏览器中进行渲染)。处理设备SOC500还可以包括系统组件和资源516,诸如电压调节器、振荡器、锁相回路、外围网桥、数据控制器、存储器控制器、系统控制器、存取端口、定时器,以及用于支持在计算设备上运行的处理器和软件客户端(例如,网页浏览器)的其它类似组件。
处理设备SOC 500还包括用于相机致动和管理(CAM)505的专用电路,该CAM包括、提供、控制和/或管理一个或多个相机(例如,101、112、114;主相机、网络相机、3D相机等)的操作、来自相机固件的视频显示数据、图像处理、视频预处理、视频前端(VFE)、内嵌(in-line)JPEG、高清晰度视频编码器等。CAM 505可以是独立的处理单元和/或包括独立时钟或内部时钟。
在一些实施例中,图像和对象识别处理器506可以被配置有处理器可执行指令和/或被配置为执行各个实施例中涉及的图像处理和对象识别分析的专用硬件。例如,图像和对象识别处理器506可以被配置为执行处理经由CAM505从相机(例如,136)接收的图像的操作,以识别和/或标识车辆控制手势、其它车辆,并且以其它方式执行如图描述的相机感知层404的功能。在一些实施例中,处理器506可以被配置为处理雷达或激光雷达数据并执行如图描述的雷达感知层402的功能。
系统组件和资源516、模拟和定制电路系统514和/或CAM 505可以包括与外围设备(诸如相机136、雷达122、激光雷达124、电子显示器、无线通信设备、外部存储器芯片等)对接的电路。处理器503、504、506、507、508可以经由互连/总线模块524互连到一个或多个存储器元件512、系统组件和资源516、模拟和定制电路系统514、CAM 505和RPM处理器517,该互连/总线模块可以包括可重新配置逻辑门的阵列和/或实施总线架构(例如,CoreConnect、AMBA等)。可以通过诸如高性能片上网络(networks-on chip,NoC)的高级互连来提供通信。
处理设备SOC 500还可以包括用于与SOC外部的资源(诸如时钟518和电压调节器520)进行通信的输入/输出模块(未示出)。SOC外部的资源(例如,时钟518、电压调节器520)可以被内部SOC处理器/核心(例如,DSP 503、调制解调器处理器504、图像和对象识别处理器506、MDP、应用处理器508等)中的两者或更多者共享。
在一些实施例中,处理设备SOC 500可以被包括在控制单元(例如,140)中以在车辆(例如,100)中使用。如所描述的,控制单元可以包括用于与通信网络(例如,180)、互联网和/或网络服务器(例如,184)进行通信的通信链路。
处理设备SOC 500也可以包括适于从包括以下各项的传感器收集传感器数据的附加硬件和/或软件组件:运动传感器(例如,IMU的加速度计和陀螺仪)、用户界面元件(例如,输入按钮、触摸屏显示器等)、麦克风阵列、用于监测物理状况(例如,位置、方向、运动、取向、振动、压力等)的传感器、相机、指南针、GPS接收器、通信电路(例如,
Figure BDA0003966698410000211
WLAN、WiFi等),以及其它众所周知的现代电子设备的组件。
图6示出了组件框图,该组件框图示出了根据各种实施例的被配置为基于乘客的车辆控制手势协同地操作车辆(例如,100)的系统600。在一些实施例中,系统600可以包括经由无线网络进行通信的一个或多个车辆计算系统602和一个或多个其它车辆计算系统其它车辆计算系统604。参考图1A至图6,车辆计算系统602可以包括车辆(例如,100)的处理器(例如,164)、处理设备(例如,500)和/或控制单元(例如,140)(不同地称为“处理器”)。其它车辆计算系统604可以包括车辆(例如,100)的处理器(例如,164)、处理设备(例如,500)和/或控制单元(例如,140)(不同地称为“处理器”)。
车辆计算系统602可以由机器可执行指令606配置。机器可执行指令606可以包括一个或多个指令模块。指令模块可以包括计算机程序模块。指令模块可以包括(但不限于)以下一者或多者:乘客标识模块607、乘客简档确定模块608、车辆控制手势确定模块610、车辆动作确定模块612、乘客简档接收模块616、车辆动作安全确定模块618、替代车辆动作确定模块620、延迟时段评估模块622、非寻常操作确定模块624、附加指示确定模块626、非寻常操作安全评估模块628、车辆操作模块629和/或其它指令模块。
乘客标识模块607可以被配置为标识乘客(即,车辆的一个或多个乘员)。在一些实施例中,乘客标识模块607可以被配置为基于(但不限于)乘客在车辆中的位置、乘客的输入或乘客的识别中的至少一者来标识乘客。例如,乘客的输入和/或乘客的识别可以根据乘员通过乘员的便携式计算设备(例如,智能手机)或根据使用传感器(例如,101)(诸如(但不限于)使用生物传感器和/或面部识别系统)的标识来确定。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635、其它车辆计算系统604、外部资源630、一个或多个传感器(例如,101),以及简档数据库(例如,142)来标识乘客或乘客就座的位置。
乘客简档确定模块608可以被配置为确定一个或多个简档,该一个或多个简档应当被应用于识别的由乘客执行的手势。确定适当的乘客简档将更有效地规范化乘客手势以转译为可执行车辆动作。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635、简档数据库(例如,142)和乘客标识信息来基于当前状况确定要使用哪个乘客简档。简档数据库和/或乘客简档确定模块608可以维护多个乘客简档,其包括用于指定个人的乘客简档。多个乘客简档中的一些或全部乘客简档可以不同方式规范化车辆控制手势,因为做出给定控制手势的个人可能会以不同速度、通过不同角度和通过运动差异来移动他们的手指、手和/或手臂。因此,第二乘客简档可以与第一乘客简档不同地规范化车辆控制手势。一些实施方式可能不采用乘客简档确定模块608,而是更直接地应用预定乘客简档。替代地,乘客简档确定模块608的使用可以根据需要或期望而选择性地开启或关闭,这可以基于环境/状况手动或自动决定。
根据各种实施例,在其中多于一名乘客占用车辆的情况下,乘客简档确定模块608还可以被配置为确定一个或多个乘客被认为被指定为驾驶员,因此仅从指定的驾驶员接受车辆控制手势。这样,乘客简档确定模块608可以忽略来自未被设计为驾驶员的一个或多个乘客的手势。在其它实施例中,如果多于一个驾驶员被指定为驾驶员(例如,在学生驾驶员情况或驾驶员教育应用中),则乘客简档确定模块608可以具有在检测到冲突的车辆控制手势的情况下确定他们之间的等级的方式。使用传感器(例如,101),乘客简档确定模块608可以确定车辆具有多个乘员并且还确定谁或哪个(哪些)乘员负责控制(即,指定的驾驶员)。在一些实施例中,占用传统上作为驾驶员座椅(或车辆的其它预设位置)的乘客可以被默认选择为指定的驾驶员,除非接收到超驰。替代地,两个前排座椅乘员都可以是指定的驾驶员(因为他们倾向于具有良好的道路视野)。在特定实施例中,在这样的情况下,来自驾驶员座椅乘客的车辆控制手势可以超驰来自其它前排座椅乘客的车辆控制手势。
在一些实施例中,可以在来自乘员的输入(例如,来自相关移动设备的输入或对车辆的直接输入)之后选择指定的驾驶员。在一些实施例中,关于指定的驾驶员的输入也可以诸如通过乘客标识模块607从乘员自动接收。在一些实施例中,当通过标识确定指定的驾驶员时,乘客简档确定模块608可以自动应用等级。例如,车主(最常见或最近指定的驾驶员)可以具有作为指定的驾驶员的最高优先级。类似地,等级列表可以被编程或由用户定义(例如,(例如,爸爸>妈妈>长子,或爸爸和妈妈>长子)。在其它实施例中,可以不存在等级结构,其中车辆控制手势从所有或一些乘员接受。
在其中在乘员之间存在用于接收命令的指定的驾驶员或等级的一些实施方式中,可以允许未指定的驾驶员或较低等级的乘员输入选择的车辆控制手势,诸如但不限于非导航命令和/或不会危及车辆或乘员安全的命令(例如,控制车厢温度、娱乐系统音量)。替代地,可以接受来自非指定的驾驶员或较低等级乘员的车辆控制手势,但是采用更高的安全参数(例如,车辆之间需要更大的距离、更低的最大速度等)或车辆输入中的更低幅度(例如,仅限于单车道变换,将速度增加/减少至仅5mph增量等)。例如,车辆控制手势确定模块610可以识别来自“后排座椅驾驶员,,的限于降低车辆速度或增加车辆间隔距离的手势,因为这样的命令将是安全的并且可以使此类乘员感觉更安全,但是可能无法识别所有其它车辆操纵控制。因此,与指定的驾驶员或更高优先级的指定的驾驶员相比,可以允许未指定的驾驶员或较低等级乘员有更低的控制程度。
在一些实施例中,对非指定的驾驶员或较低等级乘员的所识别手势的限制在一些情况下可以被超驰。在一些实施例中,车辆控制手势确定模块610可以识别超驰的手势或其中非指定的驾驶员的手势应当被识别和实施的情况,以便适应其中指定的驾驶员变得丧失能力的情况。例如,如果车辆控制手势确定模块610检测到指定的驾驶员已经睡着或昏倒了(明显昏倒了)并且另一个乘客正在做出所识别的车辆控制手势,则车辆可以实施此类手势。
在一些实施例中,指定的驾驶员之间的优先级或对新指定的驾驶员的选择可以响应于触发事件而发生,诸如自动发生。这种触发事件的一个非限制性示例可以是通过一个或多个传感器和/或车辆控制系统检测到当前指定的驾驶员(或具有最高优先级的指定的驾驶员)诸如由于疲劳,分心、喝醉等而发生的行为变化。例如,跟踪指定的驾驶员眼睛的相机系统可以检测到疲劳导致的眼睑下垂、驾驶员由于分心而没有看路,或者指定的驾驶员的眼睛由于喝醉而缓慢移动。这种触发事件的另一个非限制性示例可以是检测到当前指定的驾驶员(或具有最高优先级的指定的驾驶员)、其它乘员或远程方(例如,车辆的车主)的通过无线通信链路接收的命令(例如,口头命令或命令手势)。因此,乘客简档确定模块608可以被配置为评估和确定(例如,自动地)当前指定的驾驶员或提供车辆控制手势的其它乘客是否正在表现出可能损害该个人给出适当或及时的车辆控制手势的能力的行为变化。乘客简档确定模块608可以从诸如相机、酒精传感器、运动检测器等的传感器(例如,101)接收输入,并且应用乘客运动模式识别来确定乘客的损伤水平。响应于乘客简档确定模块608检测到指定的驾驶员(或具有最高优先级的指定的驾驶员)受损,乘客简档确定模块608可以被配置为选择新的指定的驾驶员或改变指定的驾驶员的优先级。
在一些实施例中,响应于乘客简档确定模块608检测到指定的驾驶员(或具有最高优先级的指定的驾驶员)受损,仍然可以为受损的指定的驾驶员给出某种程度的控制。例如,受损的指定的驾驶员可以被限制为仅提供非导航命令和/或不会危及车辆或乘员安全的命令(例如,控制车厢温度、娱乐系统音量)。替代地,受损的指定的驾驶员可以被限制为较少的车辆控制或较小程度的车辆控制(例如,限制速度、速度变化、可以在一次连续操纵中改变的车道数量等)。另外或替代地,可以允许受损的指定的驾驶员提供导航命令和/或控制,但是前提是它们满足安全阈值,该安全阈值可能高于用于未被认为受损的驾驶员的安全阈值。例如,可能允许受损的指定的驾驶员在空旷的高速公路上进行双车道变换,但不允许在拥挤的高速公路上进行相同的操纵。
车辆控制手势确定模块610可以被配置为确定乘客(例如,11、12、13)何时以车辆手势检测系统(例如,50)可识别的方式执行车辆控制手势。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635、一个或多个传感器(例如,101)和手势识别引擎(例如,144)以确定一个或多个乘客是否已经执行了用于操作车辆(例如,100)的车辆控制手势。一旦车辆控制手势确定模块608检测到乘客已经执行了一种或多种车辆控制手势,关于一种或多种车辆控制手势的信息就可以被传递给控制单元(例如,140)。
车辆动作确定模块612可以被配置为确定哪个或哪些车辆动作与检测到的车辆控制手势相关联。车辆动作确定模块612还可以被配置为在检测到的车辆控制手势与对于车辆和/或乘客不安全或在某些方面非寻常的动作相关联时确定替代的车辆动作。作为非限制性示例,车辆动作确定模块612可以使用处理设备(例如,500)的处理器(例如,164)、电子存储装置635和车辆管理系统(例如,400、450)以确定车辆动作。
乘客简档接收模块616可以被配置为接收和存储乘客简档。乘客简档接收模块616可以从训练输入接收为乘客定制的乘客简档。另外或替代地,乘客简档接收模块616可以通过车辆用户界面或从提供输入数据的另一计算设备接收乘客简档作为这种输入数据。例如,乘客可以遵循训练协议,其中乘客练习和/或执行手势并且乘客移动被记录和分析以生成该乘客的乘客简档。作为另一示例,远程计算设备可以向乘客简档接收模块616提供一个或多个乘客简档以应用于车辆控制手势。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635、一个或多个传感器(例如,101)和用于接收乘客简档的输入设备。
车辆动作安全确定模块618可以被配置为确定与检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆运行是否安全。对安全性的确定可以确保不会对车辆或乘客造成损坏或伤害。通常,对车辆安全的事物对乘客也是安全的,反之亦然(即,车辆安全风险水平等于或接近乘客安全风险水平),但是可能并非总是如此。例如,极快的减速可能会导致乘客扭伤,而车辆可能不会受到损坏。因此,安全事物通常会优先考虑乘客的安全。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635和车辆管理系统(例如,400、450)来确定或评估各种车辆动作的安全性。
在一些实施方式中,替代车辆动作确定模块620可以被配置为确定一个或多个替代车辆动作(例如,改变速度、改变到不同车道等),这可能是对与接收到的车辆控制手势相关联的第一车辆动作的更安全替代方案。可以响应于确定第一车辆动作对于车辆运行是不安全的而使用替代车辆动作确定模块620。在另一个实施例中,与第一车辆动作相比,所确定的替代车辆动作导致对车辆和/或乘客造成损害的确定的概率可能低至少某个阈值量。例如,第一车辆动作可能涉及将车道改变为使得车辆将在另一车辆后面行驶的车道。该第一车辆动作可能相对安全,但是可能存在如下统计机会(即,相对较小的机会):领先车辆可能在车道变换后不久猛踩其制动器(即,第一安全风险水平)。同时,替代车辆动作可以包括在车道变换之前首先超越领先车辆,这可能与车辆由于该领先车辆前方的开放道路而变得参与事故的较低统计机会相关联(即,第二安全风险水平,其低于第一安全风险水平)。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635和车辆管理系统(例如,400、450)来确定替代车辆动作。
延迟时段评估模块622可以被配置为确定合理的延迟时段是否可以使原本不安全的车辆动作足够安全以供车辆运行。例如,第一车辆控制手势可能指示车辆做出不安全的车道变换,这是由于另一车辆在该车道内非常接近地行驶。延迟时段评估模块622可以确定,因为另一车辆以不同的速度行驶,所以在发起车道变换之前最多五(5)秒的延迟可以将原本不安全的操纵改变为安全操纵。在其它实施例中,如果运动仍然不安全,则在延迟时段结束时,延迟时段评估模块622可以重新确定附加的延迟时段是否可以使原本不安全的车辆动作足够安全以供车辆运行。替代地,车辆可以通知用户(驾驶员)确定不执行运动和/或要求用户进一步输入。
在各种实施例中,最大延迟阈值(诸如(但不限于)5至10秒)可以用于限制延迟时段评估模块622可考虑的延迟时段的持续时间。最大延迟阈值可以由乘客、车主和/或制造商设定和/或改变。另外,每个乘客的最大延迟阈值可能不同(即,与乘客简档相关联)。替代地,最大延迟阈值可能对所有乘客都是通用的。作为另一替代方案,虽然个别乘客可能具有不同的最大延迟阈值,但是车辆也可能具有个别最大延迟阈值无法超过的最终最大延迟阈值。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635和车辆管理系统(例如,400、450)来确定或评估用于执行各种车辆动作的延迟时段。
非寻常操作确定模块624可以被配置为确定与车辆控制手势相关联的车辆动作是否包括非寻常车辆操作。非寻常操作可能包括车辆不习惯或不经常执行的车辆操作(例如,与过去相同车辆的操作、其它车辆或类似车辆的操作、车辆在类似情况(例如,位置、一天/一年中的时间、天气状况等)下的操作(诸如突然的动作或比车辆通常执行的动作显著更极端的动作)相比)。车辆动作是否被视为非寻常可能取决于该车辆动作之前是否已经执行,以及车辆动作的速度、加速/减速、程度和范围。在之前已经执行但只是以不同的速度、程度和/或范围执行的车辆动作的情况下,处理器可以使用一旦超过使得该车辆动作非寻常的阈值。
另外,车辆行为是否被视为非寻常可能取决于当前情况。例如,在高速公路上从中央车道向右单车道变换可能不是非寻常的,但是从右侧车道向右单车道变换(即,将车辆引导到高速公路的路肩)可能被非寻常操作确定模块624评估为非寻常。类似地,非寻常操作确定模块624可以考虑其它情况,诸如(但不限于)位置、天气状况、一天/一年中的时间、光照等。
由非寻常操作确定模块624进行的确定可以基于来自乘客档案的历史记录和/或在指定状况(即,预期规范)下的寻常/非寻常车辆动作的知识库。在一些情况下,非寻常操作确定模块624确定与车辆控制手势相关联的车辆动作是非寻常操作可以指示错误输入。例如,错误输入可能由例如未正确执行或不意图作为车辆控制手势的乘客手势(例如,诸如打手势或打喷嚏)引起。类似地,受管制物质影响或分心的乘客可能会不正确、不恰当和/或无意地执行车辆控制手势。当评估是否遵循车辆控制手势或是否确定替代车辆动作时,可以将对该车辆控制手势非寻常(即,错误输入或其它)的确定传达到车辆动作确定模块612。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635和车辆管理系统(例如,400、450)来确定或评估车辆动作是否被认为非寻常。
在各种实施例中,附加指示确定模块626可以被配置为检测乘客是否已经结合非寻常操作执行了附加指示。在一些实施例中,附加指示可能已经连同与非寻常操作相关联的车辆控制手势一起由乘客执行(例如,在非寻常操作之前、期间或之后执行)。附加指示可以在非寻常操作的某个窗口内(例如,在非寻常操作之前/之后的2至3秒内)执行。在一些实施例中,可以响应于与非寻常操作相关联的提示而执行附加指示(例如,车辆通知驾驶员请求确认或澄清的非寻常操作)。
附加指示可能暗示已执行非寻常车辆控制手势的乘客确实意图执行非寻常操作。例如,该附加指示可以包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势,或结合检测到的车辆控制手势(与其同时)接收的非视觉输入(例如,音频)。
在一些实施例中,响应于非寻常操作确定模块624确定接收到的车辆控制手势非寻常,系统可以提示乘客确认或澄清,并且用户的作为附加指示接收的响应(例如,音频命令的手势)可以确认或澄清车辆控制手势。对乘客的提示可以是简单的(例如,铃声或短音调系列)或者可以包括通知乘客需要附加指示的更详细反馈(例如,口头反馈)。因此,口头反馈或不同的音调序列可以通知乘客接收到的车辆控制手势将导致非寻常车辆操作,并且因此需要确认。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635、一个或多个传感器(例如,101)和手势识别引擎(例如,144)以确定乘客是否已经执行了与车辆控制手势相关联的附加指示。
在一些实施例中,即使当用户确认非寻常操作是预期的,车辆操作模块629也可以操作车辆以实施不那么极端的非寻常操作版本(例如,如果实施非寻常操作超过安全阈值)。不那么极端的非寻常操作版本可能涉及较小程度的操纵(例如,单车道变换而不是双车道或三车道变换;将速度提高5mph而不是25mph等)。在一些实施例中,如果非寻常操作过于极端(即,超过安全阈值),则可以忽略非寻常操作并且通知乘客该非寻常操作是不安全的。例如,车辆控制系统可以口头解释非寻常操作被忽略。
非寻常操作安全评估模块628可以被配置为确定由非寻常操作确定模块624检测到的任何非寻常车辆操作对于车辆或乘员是否安全。作为非限制性示例,处理设备(例如,500)的处理器(例如,164)可以使用电子存储装置635和车辆管理系统(例如,400、450)来确定或评估车辆动作是否被认为非寻常。
车辆操作模块629可以被配置为诸如响应于确定特定车辆动作对于车辆和乘客是安全的而操作车辆以实施车辆动作。车辆操作模块629还可以根据需要操作车辆以实施替代和/或其它车辆动作。例如,车辆操作模块629可以响应于确定第二车辆动作可用而操作车辆以实施第二车辆动作。类似地,车辆操作模块629可以响应于确定与检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆在确定的延迟时段之后运行是安全的,操作该车辆以在该确定的延迟时段之后实施该第一车辆动作。此外,车辆操作模块629可以响应于确定该非寻常车辆操作对于车辆或乘员不安全(即,不安全的),操作该车辆以实施作为该第一车辆动作的更安全替代方案的第二车辆动作。这样,车辆操作模块629可以实施由替代车辆动作确定模块620确定的替代车辆动作。作为非限制性示例,车辆操作模块629可以使用处理设备(例如,500)的处理器(例如,164)、电子存储装置635和车辆管理系统(例如,400、450)来操作车辆(例如,运行车辆动作)。
根据各种实施例,车辆操作模块629可以自主地实施车辆动作。因此,尽管所实施的车辆动作是由乘客输入(即,来自接收到的车辆控制手势)引起的,但是车辆操作模块629可以执行必要功能以安全地操作车辆而不会使车辆脱离自主模式。在一些情况下,车辆操作模块629可以实施一种或多种替代车辆动作,其被确定为比与一个或多个接收到的车辆控制手势更严格相关联的车辆动作更安全。
在一些实施例中,车辆计算系统602、其它车辆计算系统604可以经由诸如V2V无线通信链路的无线网络(例如,180)彼此通信。另外,车辆计算系统602和其它车辆计算系统604可以连接到提供对外部资源630的访问的无线通信网络。例如,此类电子通信链路可以至少部分地经由诸如互联网和/或其它网络的网络建立。应当理解,这不意图进行限制,并且本公开的范围包括其中车辆计算系统602、其它车辆计算系统604和/或外部资源630可以经由某个其它通信介质可操作地链接的实施例。
其它车辆计算系统604还可以包括一个或多个处理器,该一个或多个处理器被配置为执行由机器可执行指令606配置的计算机程序模块。机器可执行指令606可以包括一个或多个指令模块,该一个或多个指令模块可以包括以下一者或多者:乘客简档确定模块608、车辆控制手势确定模块610、车辆动作确定模块612、乘客标识模块607、乘客简档接收模块616、车辆动作安全确定模块618、替代车辆动作确定模块620、延迟时段评估模块622、非寻常操作确定模块624、附加指示确定模块626、非寻常操作安全评估模块628、车辆操作模块629和/或类似于所描述的第一车辆的车辆计算系统602的其它指令模块。
外部资源630可以包括系统600外部的信息源、参与系统600的外部实体和/或其它资源。例如,外部资源630可以包括地图数据资源、高速公路信息(例如,交通、建筑等)系统、天气预报服务等。在一些实施例中,本文中归属于外部资源630的一些或所有功能性可以由系统600中包括的资源提供。
车辆计算设备602可以包括电子存储装置635、一个或多个处理器164和/或其它组件。车辆计算系统602可以包括通信线路或端口,以实现与网络和/或其它车辆计算系统的信息交换。图6中的车辆计算系统602的图示不意图进行限制。车辆计算系统602可以包括多个硬件、软件和/或固件组件,它们一起操作以提供本文中归属于车辆计算系统602的功能性。例如,车辆计算系统602可以由作为车辆计算系统602一起操作的车辆计算系统云来实施。
电子存储装置635可以包括电子地存储信息的非暂时性存储介质。电子存储装置635的电子存储介质可以包括与车辆计算系统602整体(即,基本上不可移动)提供的系统存储装置和/或可移动存储装置中的一者或两者,该可移动存储装置经由例如端口(例如,通用串行总线(USB)端口、火线端口等)或驱动器(例如,磁盘驱动器等)可移动地连接到车辆计算系统602。电子存储装置635可以包括光学可读存储介质(例如,光盘等)、磁性可读存储介质(例如,磁带、磁性硬盘驱动器、软盘驱动器等)、基于电荷的存储介质(例如,EEPROM、RAM等)、固态存储介质(例如,闪存驱动器等)和/或其它电子可读存储介质中的一者或多者。电子存储装置635可以存储软件算法、由处理器164确定的信息、从车辆计算系统602接收的信息、从其它车辆计算系统604接收的信息,和/或使得车辆计算系统602能够如本文描述那样作用的其它信息。
处理器164可以被配置为在车辆计算系统602中提供信息处理能力。因此,处理器164可以包括数字处理器、模拟处理器、被设计以处理信息的数字电路、被设计以处理信息的模拟电路、状态机和/或用于电子地处理信息的其它机制中的一者或多者。尽管处理器164在图6中被示为单个实体,但是这仅用于说明目的。在一些实施例中,处理器164可以包括多个处理单元。这些处理单元可以物理地位于同一设备内,或者处理器164可以表示协同操作的多个设备的处理功能。处理器164可以被配置为执行模块608、607、610、612、616、618、620、622、624、626、628和/或629,和/或其它模块。处理器164可以被配置为通过以下各项执行模块608、607、610、612、616、618、620、622、624、626、628和/或629,和/或其它模块:软件;硬件;固件;软件、硬件和/或固件的某个组合;和/或用于在处理器164上配置处理能力的其它机制。如本文中所使用的,术语“模块,,可以指代执行归属于模块的功能性的任何组件或组件集。这在处理器可读指令、处理器可读指令、电路、硬件、存储介质或任何其它组件的执行期间可以包括一个或多个物理处理器。
应当理解,尽管模块608、607、610、612、616、618、620、622、624、626、628和/或629在图6中被示为在单个处理单元内实施,但是在处理器164包括多个处理单元的实施例中,模块608、607、610、612、616、618、620、622、624、626、628和/或629中的一者或多者可以从其它模块远程地实施。对由下面描述的不同模块608、607、610、612、616、618、620、622、624、626、628和/或629提供的功能性的描述是出于说明性目的,并且不意图限制,因为模块608、607、610、612、616、618、620、622、624、626、628和/或629中的任一者可以提供比所描述的功能性更多或更少的功能性。例如,模块608、607、610、612、616、618、620、622、624、626、628和/或629中的一者或多者可以被消除,并且其的一些或全部功能性可以由模块608、607、610、612、616、618、620、622、624、626、628和/或629中的其它模块提供。作为另一个示例,处理器164可以被配置为执行一个或多个附加模块,该附加模块可以执行下面归属于模块608、607、610、612、616、618、620、622、624、626、628和/或629中的一者的一些或全部功能性。
图7A、图7B和/或图7C分别示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法700、703和705的操作。参考图1A至图7C,可以在车辆(例如,100)的处理器(例如,164)、处理设备(例如,500)和/或控制单元(例如,140)(不同地被称为处理器)中实施方法700、703和705。在一些实施例中,方法700、703和705可以由诸如车辆管理系统(例如,400、450)的车辆管理系统堆栈内的一个或多个层来执行。在一些实施例中,方法700、703和705可以由处理器独立于但结合诸如车辆管理系统的车辆控制系统堆栈来执行。例如,方法700、703和705可以被实施为独立软件模块或在监测来自车辆管理系统/在车辆管理系统内的数据和命令并被配置为如所描述的那样采取动作和存储数据的专用硬件内实施。
图7A示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法700。
在块702中,车辆处理器可以通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作。第一乘客简档可以从多个乘客简档中被选择以规范化从第一乘客接收的车辆控制手势。例如,处理器可以检测呈乘客向前张开手掌的形式的车辆控制手势(即,停车指示)。在应用被分配给当前乘客的乘客简档之后,处理器可以确定该手势表示乘客希望车辆停下来。在一些实施例中,用于执行块702的操作的部件可以包括耦合到一个或多个传感器(例如,101)和电子存储装置(例如,635)的处理器(例如,164)。为了在块702中做出确定,处理器可以使用车辆动作确定模块(例如,612)。
在块704中,车辆处理器可以响应于确定第一车辆动作对于车辆和乘员是安全的,操作车辆以实施该第一车辆动作。例如,处理器可以使车辆停下来。在一些实施例中,用于执行块704的操作的部件可以包括耦合到电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在块704中做出确定,处理器可以使用车辆操作模块(例如,629)。
在一些实施例中,处理器可以重复块702和704中的操作以基于乘客的车辆控制手势周期性地或连续地操作车辆。
图7B示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法703。
在块706中,第一车辆的处理器可以基于第一乘客在车辆中的位置、第一乘客的输入或第一乘客的识别中的至少一者来标识第一乘客。例如,处理器可以识别乘客就座在前排左侧座椅上,可以从乘客接收乘客档案或至少标识信息,或者面部识别软件可以使用车载成像识别乘客。在一些实施例中,用于执行块706的操作的部件可以包括耦合到电子存储装置(例如,635)和乘客标识模块(例如,607)的处理器(例如,164)。
在块708中,处理器可以基于第一乘客的身份来选择第一乘客档案。例如,处理器可以基于车辆启动时乘客出示的标识卡选择当前乘员唯一的乘客简档。在一些实施例中,用于执行块708的操作的部件可以包括耦合到电子存储装置(例如,635)和乘客简档确定模块(例如,608)的处理器(例如,164)。在方法703中的块708中的操作之后,处理器可以如所描述的那样执行方法700的块702的操作。
在一些实施例中,处理器可以重复块706和708中的任何或所有操作以根据需要重复或连续地选择乘客简档。
图7C示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法705。
在块710中,处理器可以执行包括从远程计算设备接收用于应用于车辆控制手势的第一乘客简档的操作。例如,处理器可以接收第一乘客简档作为通过无线电模块(例如,172)或输入模块(例如,168)接收的数据。在一些实施例中,用于执行块710的操作的部件可以包括耦合到电子存储装置(例如,635)和乘客简档接收模块(例如,616)的处理器(例如,164)。在方法705中的块710中的操作之后,处理器可以如所描述的那样执行方法700的块702的操作。
在一些实施例中,处理器可以重复块710中的操作以重复或连续地接收乘客简档或对乘客简档的更新。
另外的实施例包括方法和设备,该方法和设备包括:确定与检测到的且识别的第一车辆控制手势相关联的第一车辆动作对于该车辆运行是否安全;响应于确定该第一车辆动作对于该车辆运行是不安全的,确定作为该第一车辆动作的更安全替代方案的第二车辆动作是否可供车辆运行;以及响应于第二车辆动作可用而操作该车辆以实施该第二车辆动作。
在一些实施例中,车辆的处理器可以确定与检测到的第一车辆控制手势相关联的第一车辆动作对于该车辆在确定的延迟时段之后运行是否安全。此外,处理器可以响应于确定第一车辆动作或替代第二车辆动作对于车辆在确定的延迟时段之后运行是安全的,操作车辆以在确定的延迟时段之后实施第一车辆动作或替代第二车辆动作。
在一些实施例中,车辆的处理器可以确定第一车辆动作是否包括非寻常车辆操作。在一些实施例中,处理器可以响应于确定该第一车辆动作包括非寻常车辆操作,确定检测到的第一车辆控制手势是否包括对第一乘客预期非寻常车辆操作的附加指示,其中操作车辆以实施第一车辆动作是进一步响应于确定检测到的第一车辆控制手势包括对第一乘客预期非寻常车辆操作的附加指示。在一些实施例中,该附加指示可以包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势,或结合检测到的第一车辆控制手势(与其同时)接收的非视觉输入(例如,音频)。在一些实施例中,处理器可以响应于确定第一车辆动作对于车辆或乘员不安全并且确定检测到的第一车辆控制手势包括对第一乘客预期进行剧烈的车辆操作的附加指示而操作车辆以实施第一车辆动作。
图8A和图8B示出了根据各种实施例的示例情况800、801,其中车辆100的处理器正在接近另外两辆车辆804、806,并且处理器超驰乘客的车辆控制手势。参考图1A至图8B,三辆车辆804、806、100全部都在道路802上沿相同方向行驶。道路802恰好是三车道道路。根据各种实施例,第三车辆100可以是半自主车辆。各种实施例的方法和系统可以应用于任何路径,而无论它是否是铺砌的且清晰标记的道路。
参考图8A,当第三车辆100在中间车道中接近碰撞时,两辆领先车辆804、806已经发生碰撞,阻塞了中间车道和右侧车道(即,沿图8所示方向,中间和最远的右侧车道)。根据各种实施例,第三车辆100的处理器已经检测到由乘客13(例如,图2B中的后排座椅乘客13)执行的车辆控制手势808。尽管乘客13在后排座椅上,但是在一些实施例中,处理器可以识别和接受来自车辆100内的任何座椅上的乘客的车辆控制手势。例如,通用的后排座椅乘客简档可以(但不是必须)由处理器应用以确定与由乘客13执行的车辆控制手势808相对应的第一车辆动作810。例如,由于后排座椅乘客13的能见度可能有限或甚至部分受阻,因此通用的后排座椅乘客简档可能更容易超驰来自该类型乘客的命令。在这种情况下,第一车辆动作810将使第三车辆100转向被碰撞阻挡的右侧车道中。
在图8A所示的情况下,第三车辆100的处理器可以确定与检测到的第一车辆控制手势808相关联的第一车辆动作810对于车辆100运行是否安全。考虑到第一车辆动作810将导致第三车辆100也涉及碰撞或导致第三车辆100必须非常突然地停下来避免冲击。在这种情况下,处理器可以断定由乘客13指示的第一车辆动作810对于车辆100和/或乘客是不安全的。响应于确定第一车辆动作810对于车辆100运行不安全,处理器可以确定作为第一车辆动作810的更安全替代的第二车辆动作820。在所示示例中,第二车辆动作820涉及第三车辆100转向到左侧车道中,这避免了事故。
根据一些实施例,第三车辆100的处理器可以确定第一车辆动作810是否包括非寻常车辆操作。在所示示例中,尽管第一车辆动作810将要求车辆非常突然地减速到停止(即,非寻常操纵),但是如果处理器可以安全地执行车辆动作,则它可以这样做。例如,除了变更到最右车道之外,车辆还可能需要稍微或完全移动到右肩,但是仍然可以在第二领先车辆806后面停下。替代地,车辆可以自动地执行第二车辆动作820,然后在两辆领先车辆804、806前面的右侧车道中停下。因此,不管乘客13是否提供了对乘客13打算执行第一车辆控制手势808的附加指示,这将导致突然和危险的停止,处理器都可以响应于确定非寻常车辆操作对车辆100或乘客13不安全而操作第三车辆100以实施作为第一车辆动作810的更安全替代方案的第二车辆动作820。另外,处理器可以确定这种突然的制动型操纵需要附加的车辆动作,诸如开启危险信号灯、锁定座椅安全带、改变前照灯设置、降低娱乐系统音量等,处理器可以自动执行这些动作。
图8B示出了其中两辆领先车辆804、806都在最右车道上行驶且第二领先车辆806尾随第一领先车辆804(即,考虑到两辆领先车辆804、806的速度,在危险的接近P处行驶)的情况。同时,第三车辆100正在接近中间车道中的两辆领先车辆,并且第三车辆100的处理器已检测到由乘客13(例如,图2B中的后排座椅乘客13)执行的车辆控制手势808。在一些实施例中,执行车辆控制手势确定模块610的处理器可以不使用乘客简档(例如,如果指定的驾驶员和/或其它乘客没有可用的乘客简档),而是使用通用设置来规范化用于确定与由乘客13执行的车辆控制手势808相对应的第三车辆动作830的车辆控制手势。替代地,执行车辆控制手势确定模块610的处理器可以使用默认乘客简档或为指定的驾驶员或提供车辆控制手势的其它乘客预先选择的简档。在这种情况下,第三车辆动作830将使第三车辆100转向到右侧车道中,紧跟在第二领先车辆806后面。
在图8B所示的情况下,第三车辆100的处理器可以确定与检测到的第一车辆控制手势808相关联的第三车辆动作830对于第三车辆100运行是否安全。考虑到第三车辆动作830将导致第三车辆100紧跟在第二领先车辆806之后,使得如果第一领先车辆804或第二领先车辆806突然停止,则第三车辆100可能无法避免碰撞。在这种情况下,处理器可以断定由乘客13指示的第三车辆动作830对于第三车辆100和/或乘客是不安全的。响应于确定第三车辆动作830对于第三车辆100运行不安全,处理器可以确定作为第三车辆动作830的更安全替代方案的第四车辆动作840。在所示示例中,第四车辆动作840涉及第三车辆100延迟与第一车辆动作830相关联的车道变换操纵(例如,延迟10秒),直到车辆100已经安全地超越两辆领先车辆804、806之后。这样,第三车辆100的处理器可以确定与第三车辆动作830相关联的第一安全级别,在这方面该第一安全级别可能低于安全阈值。因此,第三车辆100的处理器可以确定在执行车道变换操纵之前增加的延迟是否不仅比第三车辆动作更安全,而且还与高于安全阈值的第二安全等级相关联。在所示示例中,处理器可以确定类似于第三车辆动作830的第四车辆动作840,但是包括延迟,因此第三车辆100超越两辆领先车辆804、806。
在一些实施方式中,在处理器确定图8B中的第三车辆动作830可能不安全之后,处理器可以提示乘客13输入(例如,向乘客的口头询问“在车道变换之前超越右侧车道中的前方车辆将是更安全的,您是否愿意在车道变换前先超越前方车辆?”)。作为响应,乘客13可以提供输入(例如,口头响应或另一个车辆控制手势),其可以由处理器(例如,使用附加指示确定模块626)解译。因此,乘客13可以提供同意所提出的第四车辆动作840的输入,不同意并提供对需要第三车辆动作830的附加指示(例如,强调重复车辆控制手势808),或提供另一个输入(例如,新的车辆控制手势或简单地取消第三车辆动作830)。
在一些实施方式中,除了在图8B中确定第三车辆动作830是不安全的之外,车辆还可以运行实现与原始车辆控制手势808所预期的操纵不同的操纵(而不是简单地增加延迟)。例如,处理器可以检测到领先车辆804、806中的一者或两者正在不规律地行驶(例如,在车道上急转弯)或处于使得在中间车道中继续行驶令人怀疑是否安全的一些其它状况。因此,处理器可以提示乘客13输入关于第五车辆动作850(即,替代车辆动作)的输入或自动地执行第五车辆动作,而不是仅仅建议延迟动作,诸如第四车辆动作840。例如,第五车辆动作850可能涉及在超越两辆领先车辆之前将车道变换到最左车道(并且在一些情况下临时提高速度),然后将车道变换到最右车道(并且在一些情况下恢复到超越其它车辆之前的原始速度或其它速度),因此仍然执行实现原始车辆控制手势808所预期的操纵,但是以更安全的方式来执行。乘客13可以再次提供可以由处理器(例如,使用附加指示确定模块626)解译的输入(例如,口头响应或另一个车辆控制手势),确认第五车辆动作850,取消原始控制手势808、提供另一个输入等。作为另一替代方案,处理器在确定初始车辆控制手势不安全之后无需等待乘客输入(例如,附加指示),并且可以执行接近于遵守原始控制手势808并安全操作车辆的最安全车辆动作。
图9A、图9B、图9C和/或图9D分别示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法900、903、905和907的操作。参考图1A至图9D,可以在车辆(例如,100)的处理器(例如,164)、处理设备(例如,500)和/或控制单元(例如,140)(不同地被称为处理器)中实施方法900、903、905和907。在一些实施例中,方法900、903、905和907可以由诸如车辆管理系统(例如,400、450)的车辆管理系统堆栈内的一个或多个层来执行。在一些实施例中,方法900、903、905和907可以由处理器独立于但结合诸如车辆管理系统的车辆控制系统堆栈来执行。例如,方法900、903、905和907可以被实施为独立软件模块或在监测来自车辆管理系统/在车辆管理系统内的数据和命令并被配置为如所描述的那样采取动作和存储数据的专用硬件内实施。
图9A示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法900。
在方法900的一些实施方式中,确定块902中的确定可以遵循块702中的操作(如关于方法700所描述的)。然而,在方法900的替代实施方式中,确定块902中的确定可以遵循替代块901中的操作。
在替代块901中,车辆处理器可以根据检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作。例如,处理器可以检测车辆控制手势,其形式为乘客将他们的手指/手向上画圈经过他们的脸并重复地再次向下画圈(即,加速指示)或者其它手势或输入。使用知识库来识别这种移动,处理器可以确定这种手势意味着乘客希望车辆加速。在一些实施例中,用于执行替代块901的操作的部件可以包括耦合到一个或多个传感器(例如,101)和电子存储装置(例如,635)的处理器(例如,164)。为了在替代块901中做出确定,处理器可以使用车辆动作确定模块(例如,612)。
在确定块902中,在块702中的操作(如关于方法700所描述的)之后,车辆处理器可以确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆运行是否安全。例如,如上文关于图8所描述的,处理器可以检测危险、不安全和/或非常非寻常的车辆控制手势。在应用被分配给乘客就座的后排座椅的乘客简档之后,处理器可以确定该手势意味着乘客希望车辆突然停止。在一些实施例中,用于执行确定块902的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在确定块902中做出确定,处理器可以使用车辆动作安全确定模块(例如,618)。
响应于处理器确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆运行是安全的(即,确定块902=“是,,),处理器可以遵循如上文关于方法700描述的块704中的操作。
响应于处理器确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆运行来说是不安全的(即,确定块902=“否”),处理器可以在块908中确定作为对于车辆运行的第一车辆动作的更安全替代方案的第二车辆动作。在一些实施例中,用于执行确定块902的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和车辆动作安全确定模块(例如,618)的处理器(例如,164)。
在块908中,车辆处理器可以确定作为用于车辆运行的第一车辆动作的更安全替代方案的第二车辆动作。例如,处理器可以确定替代车辆动作。在一些实施例中,用于执行块908的操作的部件可以包括耦合到电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在块908中做出确定,处理器可以使用替代车辆动作确定模块(例如,620)。
在块910中,响应于确定第二车辆动作是第一车辆动作的更安全替代方案,车辆处理器可以操作车辆以实施第二车辆动作。例如,处理器可以确定第一车辆动作是危险的和/或可能导致碰撞。在一些实施例中,用于执行块910的操作的部件可以包括耦合到电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在块910中做出确定,处理器可以使用车辆操作模块(例如,629)。
在一些实施例中,处理器可以重复确定块902以及块908和910中的操作以基于乘客的车辆控制手势周期性地或连续地操作车辆。
图9B示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法903。
响应于处理器确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆运行来说是不安全的(即,确定块902=“否”),车辆处理器可以在确定块904中确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆在延迟时段之后运行是否安全。例如,如上文关于图8描述,如果车辆要立即转向到右侧车道中,这将是危险的,但是如果两辆领先车辆(804、806)移位到两个左侧车道或最左车道中,则在短暂延迟(例如,一或两秒的一踏一放制动器(pumping the break))后转向右侧车道中可能是最安全的路线。因此,处理器可以确定延迟时段是否会改变在方法900的确定块902中做出的确定。在一些实施例中,用于执行确定块904的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在确定块904中做出确定,处理器可以使用延迟时段评估模块(例如,622)。
响应于处理器确定与检测到的第一车辆控制手势(例如,63)相关联的第一车辆动作对于车辆在确定的延迟时段之后运行是安全的(即,确定块904=“是”),处理器可以在块906中在确定的延迟时段之后操作车辆以实施第一车辆动作。
响应于处理器确定与检测到的第一车辆控制手势相关联的第一车辆动作对于车辆运行是不安全的(即,确定块902=“否”),处理器可以遵循如所描述的方法900的块908中的操作。在一些实施例中,用于执行确定块904的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)、车辆动作安全确定模块(例如,618)和延迟时段评估模块622的处理器(例如,164)。
在一些实施例中,处理器可以重复确定块904和块906中的任何或所有操作,以重复或连续地确定如何根据需要操作车辆。
图9C示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法905。
在所描述的方法700的块702或方法900的替代块901中的操作之后,车辆处理器可以在确定块912中确定第一车辆动作是否包括非寻常车辆操作。例如,如果第一车辆动作包括以前从未执行过的、不规律的和/或危险的操纵,则处理器可以断定该操纵是非寻常。因此,处理器可以在方法905的确定块912中评估和确定第一车辆动作包括非寻常车辆操作。在一些实施例中,用于执行确定块912的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在确定块912中做出确定,处理器可以使用非寻常操作安全评估模块(例如,628)。
响应于处理器确定第一车辆动作包括非寻常车辆操作(即,确定块912=“否”),处理器可以在所描述的方法700的块704中操作车辆以实施第一车辆动作。
响应于处理器确定第一车辆动作包括非寻常车辆操作(即,确定块912=“是”),处理器可以在确定块914中确定检测到的第一车辆控制手势是否包括对第一乘客预期的非寻常车辆操作的附加指示。
在一些实施例中,用于执行确定块912的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和附加指示确定模块(例如,626)的处理器(例如,164)。
在确定块914中,车辆处理器可以确定检测到的第一车辆控制手势是否包括对第一乘客预期非寻常车辆操作的附加指示。例如,乘客可以夸大手势、重复手势、比平常更快地执行手势,或者提供结合检测到的第一车辆控制手势接收的非视觉输入(例如,音频输入)。
响应于处理器确定检测到的第一车辆控制手势包括对第一乘客预期非寻常车辆操作的附加指示(即,确定块914=“是”),处理器可以在所描述的方法700的块704中操作车辆以实施第一车辆动作。
响应于处理器确定检测到的第一车辆控制手势不包括对第一乘客预期非寻常车辆操作的附加指示(即,确定块914=“否”),处理器可以在块916中就附加指示提示乘客(例如,第一乘客)。
在块916中,可以就检测到的第一车辆控制手势是预期的或现在是预期的附加指示提示一个或多个乘客(例如,音调、灯、振动等)。如关于附加指示确定模块626所描述的,对乘客的提示可以包括向乘客通知或以其它方式对应于所需的附加指示的类型的细节。在一些实施方式中,处理器可以仅处理来自做出检测到的第一车辆控制手势的乘客的响应。替代地,处理器可以接受来自任何指定的驾驶员或任何乘客的响应。为了给乘客时间做出响应,针对附加指示的提示可以为乘客、或者至少做出检测到的第一车辆控制手势的乘客给出分配的响应时间以在处理器启动之前做出响应并且在块908中确定替代动作。例如,分配的时间可以是3至5秒。在一些实施例中,时间长度可以取决于当前情况。例如,当车辆以高速行驶时,与车辆以低速行驶时相比,处理器可以在没有附加指示的情况下等待很短的时间量才采取动作。类似地,在确定处理器应当等待来自一个或多个乘客的附加指示多长时间时,可以考虑其它情况,诸如位置、天气状况、一天/一年中的时间、光照等。用于提示乘客进行块916的操作的部件可以包括处理器(例如,164)、扬声器(例如,通过车辆娱乐系统)、其它车辆计算系统604、外部资源(例如,630)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和附加指示确定模块(例如,626)。
在分配的时间期间(即,在分配的时间到期之前),处理器可以在确定块918中确定是否接收到附加指示。用于执行确定块918的操作的部件可以包括处理器(例如,164)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和附加指示确定模块(例如,626)。
响应于在分配的时间期间接收到附加指示(即,确定块918=“是”),处理器可以在所描述的方法700的块704中操作车辆以实施第一车辆动作。
响应于在分配的时间期间没有接收到附加指示(即,确定块918=“否”),处理器可以遵循所描述的方法900的块908中的操作。
在一些实施例中,用于执行确定块914的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和非寻常操作安全评估模块(例如,628)的处理器(例如,164)。
在一些实施例中,处理器可以重复确定块912和914中的任何或所有操作,以重复或连续地确定如何根据需要操作车辆。
图9D示出了根据各种实施例的用于基于乘客的车辆控制手势来操作车辆的方法907。
响应于确定检测到的第一车辆控制手势包括对第一乘客预期非寻常车辆操作的附加指示(即,确定块914=“是”),车辆处理器可以在确定块920中确定非寻常车辆操作对于车辆或乘员是否是安全的。例如,即使乘客给出了对非寻常车辆操作是故意的指示,如果非寻常车辆操作是不安全的,处理器可以拒绝或阻止车辆运行操作。因此,处理器可以在方法907的确定块920中评估和确定非寻常车辆操作对于车辆和乘员的安全程度。在一些实施例中,用于执行确定块920的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)和车辆管理系统(例如,400、450)的处理器(例如,164)。为了在确定块920中做出确定,处理器可以使用非寻常操作安全评估模块(例如,628)。
响应于处理器确定非寻常车辆操作是不安全的(即,确定块920=“否”),处理器可以如上文关于方法700所描述的那样在块908中确定作为车辆运行的第一车辆动作的更安全替代方案的第二车辆动作。
响应于处理器确定非寻常车辆操作是安全的(即,确定块920=“是”),处理器可以在块922中操作车辆以实施第一车辆动作。
在一些实施例中,用于执行确定块922的操作的部件可以包括耦合到一个或多个传感器(例如,101)、电子存储装置(例如,635)、车辆管理系统(例如,400、450)和非寻常操作安全评估模块(例如,628)的处理器(例如,164)。
在一些实施例中,处理器可以重复确定块920和块922中的任何或所有操作,以重复或连续地确定如何根据需要操作车辆。
前述方法描述和过程流程图仅作为说明性示例而提供,并且不意图要求或者暗示各个实施例的块必须以所提供的顺序来执行。如本领域技术人员所理解的,在前述实施例中的块的顺序可以任何顺序来执行。诸如“此后”、“然后”、“下一步”等词语并非意图限制块的顺序;这些词语只是用来引导读者通读对方法的描述。此外,以单数形式(例如使用冠词“一(a/an)”、或“该(the)”)对权利要求元素的任何引用不被解释为将该元素限制为单数形式。
结合本文公开的实施例描述的各种说明性的逻辑块、模块、电路和算法块可以被实施成电子硬件、计算机软件或两者的组合。为了清楚地示出硬件和软件的这种可互换性,上面已经对各种说明性组件、块、模块、电路和框在其功能方面进行了总体描述。将这种功能性实施为硬件还是软件取决于特定应用和强加于整个系统的设计约束。技术人员可以针对每个特定应用以不同方式实施所描述的功能性,但是此类实施例决策不应被解释为导致脱离各种实施例的范围。
用于实施与在本文公开的实施例结合描述的各种说明性逻辑、逻辑块、模块和电路的硬件可以用被设计为执行本文描述的功能的以下各项来实施或执行:通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、或其它可编程逻辑设备、离散门或晶体管逻辑、离散硬件组件、或其任何组合。通用处理器可以是微处理器,但是可选地,处理器可以是任何常规处理器、控制器、微控制器或状态机。处理器也可以被实施为通信设备的组合,例如,DSP与微处理器的组合、多个微处理器、一个或多个微处理器结合DSP核或者任何其它这样的配置。替代地,一些块或方法可以由特定于给定功能的电路系统来执行。
在各个实施例中,所描述的功能可以以硬件、软件、固件或其任何组合来实施。如果以软件来实施,可以将功能作为一个或多个指令或代码存储在非暂时性计算机可读取介质或者非暂时性处理器可读取介质上。本文公开的方法或算法的操作可以体现在处理器可执行软件模块中,该处理器可执行软件模块可以驻留在非暂时性计算机可读或处理器可读存储介质上。非暂时性计算机可读或处理器可读存储介质可以是能够由计算机或处理器存取的任何存储介质。例如但不限制,此非暂时性计算机可读或者处理器可读介质可以包括RAM、ROM、EEPROM、快闪存储器、CD-ROM或其它光盘存储、磁盘存储或其它磁存储设备,或者可以用于以指令或数据结构形式存储期望的程序代码并且可以由计算机存取的任何其它介质。如本文中使用的磁盘及光盘包括压缩光盘(CD)、激光光盘、光学光盘、数字多功能光盘(DVD)、软盘及蓝光光盘,其中磁盘通常磁性地再现数据,而光盘借助于激光光学地再现数据。上述内容的组合也包括在非暂时性计算机可读和处理器可读介质的范围之内。另外,方法或算法的操作可以作为一个代码和/或指令或者代码和/或指令的任意组合或者代码和/或指令的集合驻留在非暂时性处理器可读和/或计算机可读介质上,该非暂时性处理器可读和/或计算机可读介质可以结合到计算机程序产品中。
提供对所公开的实施例的先前描述是为了使得本领域任何技术人员能够制作或使用本发明实施例。对于本领域技术人员而言,对这些实施例的各种修改将是显而易见的,并且在不脱离实施例的范围的情况下,可以将本文定义的一般原理应用于其它实施例。因此,各个实施例不意图限于本文所示实施例,而是要符合与所附权利要求和本文公开的原理和新颖性特征相一致的最宽泛的范围。

Claims (30)

1.一种由车辆的处理器执行的用于响应于乘客的车辆控制手势而操作所述车辆的方法,所述方法包括:
通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作,其中所述第一乘客简档从多个乘客简档中被选择以规范化从所述第一乘客接收的车辆控制手势;以及
响应于确定所述第一车辆动作对于所述车辆和乘员是安全的,操作所述车辆以实施所述第一车辆动作。
2.根据权利要求1所述的方法,其中所述多个乘客简档包括为第二乘客指定的第二乘客简档,其中所述第二乘客简档与所述第一乘客简档不同地规范化车辆控制手势。
3.根据权利要求2所述的方法,还包括:
基于所述第一乘客在所述车辆中的位置、所述第一乘客的输入或所述第一乘客的识别中的至少一者来标识所述第一乘客;以及
基于所述第一乘客的身份来选择所述第一乘客简档。
4.根据权利要求1所述的方法,其中所述第一乘客简档是根据先前从所述第一乘客接收的训练输入为所述第一乘客定制的。
5.根据权利要求1所述的方法,还包括:
从远程计算设备接收用于应用于车辆控制手势的所述第一乘客简档。
6.根据权利要求1所述的方法,还包括:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆运行是否安全;
响应于确定所述第一车辆动作对于所述车辆运行是不安全的,确定作为所述第一车辆动作的更安全替代方案的第二车辆动作;以及
操作所述车辆以实施所述第二车辆动作。
7.根据权利要求1所述的方法,还包括:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在确定的延迟时段之后运行是否安全;以及
响应于确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在所确定的延迟时段之后运行是安全的,操作所述车辆以在所确定的延迟时段之后实施所述第一车辆动作。
8.根据权利要求1所述的方法,还包括:
确定所述第一车辆动作是否包括非寻常车辆操作;以及
响应于确定所述第一车辆动作包括所述非寻常车辆操作,确定所检测到的第一车辆控制手势是否包括对所述第一乘客预期所述非寻常车辆操作的附加指示,其中操作所述车辆以实施所述第一车辆动作是进一步响应于确定所检测到的第一车辆控制手势包括对所述第一乘客预期所述非寻常车辆操作的所述附加指示。
9.根据权利要求8所述的方法,其中所述附加指示包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势、或结合所检测到的第一车辆控制手势接收的非视觉输入。
10.根据权利要求8所述的方法,还包括:
确定所述非寻常车辆操作对于所述车辆或乘员是否安全;以及
响应于确定所述非寻常车辆操作对于所述车辆或乘员不安全,操作所述车辆以实施作为所述第一车辆动作的更安全替代方案的第二车辆动作。
11.一种被配置用于自主车辆的车辆控制系统,包括:
传感器,所述传感器被配置为检测由乘客执行的车辆控制手势;以及
处理器,所述处理器耦合到所述传感器并且被配置有处理器可执行指令以用于响应于乘客的车辆控制手势而操作所述车辆以:
通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作,其中所述第一乘客简档从多个乘客简档中被选择以规范化从所述第一乘客接收的车辆控制手势;以及
响应于确定所述第一车辆动作对于所述车辆和乘员是安全的,操作所述车辆以实施所述第一车辆动作。
12.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令使得所述多个乘客简档包括为第二乘客指定的第二乘客简档,其中所述第二乘客简档与所述第一乘客简档不同地规范化车辆控制手势。
13.根据权利要求12所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
基于所述第一乘客在所述车辆中的位置、所述第一乘客的输入或所述第一乘客的识别中的至少一者来标识所述第一乘客;以及
基于所述第一乘客的身份来选择所述第一乘客简档。
14.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令使得所述第一乘客简档是根据先前从所述第一乘客接收的训练输入为所述第一乘客定制的。
15.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
从远程计算设备接收用于应用于车辆控制手势的所述第一乘客简档。
16.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆运行是否安全;
响应于确定所述第一车辆动作对于所述车辆运行是不安全的,确定作为所述第一车辆动作的更安全替代方案的第二车辆动作;以及
操作所述车辆以实施所述第二车辆动作。
17.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在确定的延迟时段之后运行是否安全;以及
响应于确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在所确定的延迟时段之后运行是安全的,操作所述车辆以在所确定的延迟时段之后实施所述第一车辆动作。
18.根据权利要求11所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
确定所述第一车辆动作是否包括非寻常车辆操作;以及
响应于确定所述第一车辆动作包括所述非寻常车辆操作,确定所检测到的第一车辆控制手势是否包括对所述第一乘客预期所述非寻常车辆操作的附加指示,其中操作所述车辆以实施所述第一车辆动作是进一步响应于确定所检测到的第一车辆控制手势包括对所述第一乘客预期所述非寻常车辆操作的所述附加指示。
19.根据权利要求18所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令使得所述附加指示包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势、或结合所检测到的第一车辆控制手势接收的非视觉输入。
20.根据权利要求18所述的车辆控制系统,其中所述处理器还被配置有处理器可执行指令以:
确定所述非寻常车辆操作对于所述车辆或乘员是否安全;以及
响应于确定所述非寻常车辆操作对于所述车辆或乘员不安全,操作所述车辆以实施作为所述第一车辆动作的更安全替代方案的第二车辆动作。
21.一种非暂时性处理器可读介质,其上存储有被配置为使车辆控制系统的处理器通过执行包括以下各项的操作来响应于乘客的车辆控制手势而操作车辆的处理器可执行指令:
通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作,其中所述第一乘客简档从多个乘客简档中被选择以规范化从所述第一乘客接收的车辆控制手势;以及
响应于确定所述第一车辆动作对于所述车辆和乘员是安全的,操作所述车辆以实施所述第一车辆动作。
22.根据权利要求21所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行操作使得所述多个乘客简档包括为第二乘客指定的第二乘客简档,其中所述第二乘客简档与所述第一乘客简档不同地规范化车辆控制手势。
23.根据权利要求22所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
基于所述第一乘客在所述车辆中的位置、所述第一乘客的输入或所述第一乘客的识别中的至少一者来标识所述第一乘客;以及
基于所述第一乘客的身份来选择所述第一乘客简档。
24.根据权利要求21所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
从远程计算设备接收用于应用于车辆控制手势的所述第一乘客简档。
25.根据权利要求21所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆运行是否安全;
响应于确定所述第一车辆动作对于所述车辆运行是不安全的,确定作为所述第一车辆动作的更安全替代方案的第二车辆动作;以及
操作所述车辆以实施所述第二车辆动作。
26.根据权利要求21所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在确定的延迟时段之后运行是否安全;以及
响应于确定与所检测到的第一车辆控制手势相关联的所述第一车辆动作对于所述车辆在所确定的延迟时段之后运行是安全的,操作所述车辆以在所确定的延迟时段之后实施所述第一车辆动作。
27.根据权利要求21所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
确定所述第一车辆动作是否包括非寻常车辆操作;以及
响应于确定所述第一车辆动作包括所述非寻常车辆操作,确定所检测到的第一车辆控制手势是否包括对所述第一乘客预期所述非寻常车辆操作的附加指示,其中操作所述车辆以实施所述第一车辆动作是进一步响应于确定所检测到的第一车辆控制手势包括对所述第一乘客预期所述非寻常车辆操作的所述附加指示。
28.根据权利要求27所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行操作使得所述附加指示包括以下至少一者:夸张的手势、重复的手势、比通常更快执行的手势、或结合所检测到的第一车辆控制手势接收的非视觉输入。
29.根据权利要求27所述的非暂时性处理器可读介质,其中所存储的处理器可执行指令被配置为使所述车辆控制系统的处理器执行还包括以下各项的操作:
确定所述非寻常车辆操作对于所述车辆或乘员是否安全;以及
响应于确定所述非寻常车辆操作对于所述车辆或乘员不安全,操作所述车辆以实施作为所述第一车辆动作的更安全替代方案的第二车辆动作。
30.一种车辆控制系统,包括:
用于通过将第一乘客简档应用于检测到的由第一乘客执行的第一车辆控制手势来确定第一车辆动作的部件,其中所述第一乘客简档从多个乘客简档中被选择以规范化从所述第一乘客接收的车辆控制手势;以及
用于响应于确定所述第一车辆动作对于所述车辆和乘员是安全的而操作车辆以实施所述第一车辆动作的部件。
CN202180038707.XA 2020-06-04 2021-05-05 用于半自主车辆的基于手势的控制 Pending CN115666996A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US16/893,112 US11858532B2 (en) 2020-06-04 2020-06-04 Gesture-based control for semi-autonomous vehicle
US16/893,112 2020-06-04
PCT/US2021/030922 WO2021247184A1 (en) 2020-06-04 2021-05-05 Gesture-based control for semi-autonomous vehicle

Publications (1)

Publication Number Publication Date
CN115666996A true CN115666996A (zh) 2023-01-31

Family

ID=76217908

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180038707.XA Pending CN115666996A (zh) 2020-06-04 2021-05-05 用于半自主车辆的基于手势的控制

Country Status (7)

Country Link
US (1) US11858532B2 (zh)
EP (1) EP4161792A1 (zh)
JP (1) JP2023529287A (zh)
KR (1) KR20230017208A (zh)
CN (1) CN115666996A (zh)
BR (1) BR112022023783A2 (zh)
WO (1) WO2021247184A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI728470B (zh) * 2019-09-18 2021-05-21 財團法人車輛研究測試中心 目標物意圖預測方法及其系統
KR20210034843A (ko) * 2019-09-23 2021-03-31 삼성전자주식회사 차량의 제어 장치 및 방법
KR102396163B1 (ko) * 2020-07-06 2022-05-12 한국과학기술연구원 이동체 및 사람 간의 협력에 기반하여 이동체를 제어하는 방법 및 그에 따른 이동체의 제어 장치
JP7314898B2 (ja) * 2020-10-09 2023-07-26 トヨタ自動車株式会社 エージェント装置、エージェント方法及びエージェントプログラム
DE102022106924A1 (de) 2022-03-24 2023-09-28 Bayerische Motoren Werke Aktiengesellschaft Verfahren für ein automatisiertes Kraftfahrzeug mit einer Innenraumkamera, Computerprogramm, Steuergerät und Kraftfahrzeug
CN115016448B (zh) * 2022-06-16 2024-05-07 中国第一汽车股份有限公司 一种车辆控制方法、装置、车载终端、车辆及介质

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140276090A1 (en) * 2011-03-14 2014-09-18 American Vehcular Sciences Llc Driver health and fatigue monitoring system and method using optics
US20140309871A1 (en) * 2013-04-15 2014-10-16 Flextronics Ap, Llc User gesture control of vehicle features
US20130325482A1 (en) 2012-05-29 2013-12-05 GM Global Technology Operations LLC Estimating congnitive-load in human-machine interaction
EP2817591A4 (en) 2013-04-15 2015-10-07 Flextronics Ap Llc CHANGE OF BEHAVIOR BY CHANGED ASSIGNMENT ROUTES BASED ON USER PROFILE INFORMATION
US9296421B2 (en) * 2014-03-06 2016-03-29 Ford Global Technologies, Llc Vehicle target identification using human gesture recognition
US20160357262A1 (en) 2015-06-05 2016-12-08 Arafat M.A. ANSARI Smart vehicle
JP5945999B1 (ja) 2015-07-31 2016-07-05 パナソニックIpマネジメント株式会社 運転支援装置、運転支援システム、運転支援方法、運転支援プログラム及び自動運転車両
US20170217445A1 (en) 2016-01-29 2017-08-03 GM Global Technology Operations LLC System for intelligent passenger-vehicle interactions
US10909389B2 (en) 2016-09-20 2021-02-02 Apple Inc. Traffic direction gesture recognition
US10913463B2 (en) * 2016-09-21 2021-02-09 Apple Inc. Gesture based control of autonomous vehicles
KR102387610B1 (ko) * 2016-11-07 2022-04-15 엘지전자 주식회사 차량 및 그 제어방법
US10394245B2 (en) 2016-11-22 2019-08-27 Baidu Usa Llc Method and system to predict vehicle traffic behavior for autonomous vehicles to make driving decisions
US20190113919A1 (en) 2017-10-18 2019-04-18 Luminar Technologies, Inc. Controlling an autonomous vehicle using smart control architecture selection
DE102017219440A1 (de) 2017-10-30 2019-05-02 Audi Ag Beeinflussungssystem für ein pilotiert fahrendes Fahrzeug
US11625036B2 (en) * 2018-04-09 2023-04-11 SafeAl, Inc. User interface for presenting decisions
DE102018208889A1 (de) 2018-06-06 2019-12-12 Faurecia Innenraum Systeme Gmbh Steuereinrichtung für ein Fahrzeug und Verfahren zur Steuerung eines Fahrzeugs
US11046320B2 (en) * 2018-12-13 2021-06-29 GM Global Technology Operations LLC System and method for initiating and executing an automated lane change maneuver
US11225262B2 (en) * 2019-06-28 2022-01-18 Beijing Didi Infinity Technology And Development Co., Ltd. Remotely supervised passenger intervention of an autonomous vehicle
US20210256316A1 (en) * 2020-02-18 2021-08-19 Toyota Motor North America, Inc. Distinguishing gesture actions among transport occupants
CN113370990A (zh) * 2020-03-10 2021-09-10 华为技术有限公司 驾驶辅助方法和驾驶辅助装置

Also Published As

Publication number Publication date
US11858532B2 (en) 2024-01-02
JP2023529287A (ja) 2023-07-10
US20210380139A1 (en) 2021-12-09
BR112022023783A2 (pt) 2022-12-20
WO2021247184A1 (en) 2021-12-09
EP4161792A1 (en) 2023-04-12
KR20230017208A (ko) 2023-02-03

Similar Documents

Publication Publication Date Title
US11604470B2 (en) Safety procedure analysis for obstacle avoidance in autonomous vehicles
US11858532B2 (en) Gesture-based control for semi-autonomous vehicle
CN110641472B (zh) 基于神经网络的用于自主车辆的安全监控系统
KR102078488B1 (ko) 차량 주변의 컨텍스트에 기초하여 차량의 하나 이상의 궤적을 예측하는 방법 및 시스템
AU2019284146B2 (en) Testing predictions for autonomous vehicles
CN113228129B (zh) 用于车辆的消息广播
US20200189591A1 (en) Steering Command Limiting For Safe Autonomous Automobile Operation
CN109085818B (zh) 基于车道信息控制自动驾驶车辆的车门锁的方法和系统
US20210347328A1 (en) Systems and methods for performing commands in a vehicle using speech and image recognition
US20220230537A1 (en) Vehicle-to-Everything (V2X) Misbehavior Detection Using a Local Dynamic Map Data Model
US11834071B2 (en) System to achieve algorithm safety in heterogeneous compute platform
CN116030652A (zh) 用于自主系统的让行场景编码
JP7285705B2 (ja) 自動運転システム
EP4282173A1 (en) Vehicle-to-everything (v2x) misbehavior detection using a local dynamic map data model
WO2023189680A1 (ja) 処理方法、運転システム、処理装置、処理プログラム
US11926259B1 (en) Alert modality selection for alerting a driver
US20230059772A1 (en) Autonomous vehicle and method for autonomous vehicle travel
WO2023176256A1 (ja) 処理方法、運転システム、処理プログラム
JP2023135614A (ja) 処理方法、運転システム、処理プログラム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination