CN111433103B - 用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性运动规划的方法和系统 - Google Patents

用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性运动规划的方法和系统 Download PDF

Info

Publication number
CN111433103B
CN111433103B CN201780097486.7A CN201780097486A CN111433103B CN 111433103 B CN111433103 B CN 111433103B CN 201780097486 A CN201780097486 A CN 201780097486A CN 111433103 B CN111433103 B CN 111433103B
Authority
CN
China
Prior art keywords
vehicle
occupant
motion
planning
lane
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780097486.7A
Other languages
English (en)
Other versions
CN111433103A (zh
Inventor
郑皓
D·W·刘
小T·P·戴利
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhijia Technology Co ltd
Original Assignee
Zhijia Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhijia Technology Co ltd filed Critical Zhijia Technology Co ltd
Publication of CN111433103A publication Critical patent/CN111433103A/zh
Application granted granted Critical
Publication of CN111433103B publication Critical patent/CN111433103B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0013Planning or execution of driving tasks specially adapted for occupant comfort
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W40/09Driving style or behaviour
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/082Selecting or switching between different modes of propelling
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08Interaction between the driver and the control system
    • B60W50/085Changing the parameters of the control units, e.g. changing limit values, working points by control input
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0011Planning or execution of driving tasks involving control alternatives for a single driving scenario, e.g. planning several paths to avoid obstacles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3407Route searching; Route guidance specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34Route searching; Route guidance
    • G01C21/3453Special cost functions, i.e. other than distance or default speed limit of road segments
    • G01C21/3484Personalized, e.g. from learned user behaviour or user-defined profiles
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0217Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with energy consumption, time reduction or distance reduction criteria
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0872Driver physiology
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/089Driver voice
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0075Automatic parameter input, automatic initialising or calibrating means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062Adapting control system settings
    • B60W2050/0075Automatic parameter input, automatic initialising or calibrating means
    • B60W2050/0083Setting, resetting, calibration
    • B60W2050/0088Adaptive recalibration
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/22Psychological state; Stress level or workload
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00Input parameters relating to occupants
    • B60W2540/221Physiology, e.g. weight, heartbeat, health or special needs
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • B60W2556/50External transmission of data to or from the vehicle for navigation systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2556/00Input parameters relating to data
    • B60W2556/45External transmission of data to or from the vehicle
    • B60W2556/55External transmission of data to or from the vehicle using telemetry

Abstract

本示教涉及用于自动驾驶车辆的自动运动规划的方法、系统、介质和实施方式。获得关于以当前车辆运动运行的自动驾驶车辆的当前位置的信息,其中,该信息将用于推定自动驾驶车辆基于当前位置的运行性能。经由一种以上介质类型的、一个以上的传感器,获得传感器数据。基于传感器数据,推定车辆中存在的乘员关于当前车辆运动的反应。基于关于当前位置的信息和乘员对当前车辆运动的反应,执行运动规划。

Description

用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性 运动规划的方法和系统
相关申请的交叉引用
本申请要求2017年12月28日提交的美国专利申请15/857,000和2017年12月18日提交的美国专利申请15/845,337的优先权,并且与2017年12月18日提交的美国专利申请15/845,173、2017年12月18日提交的美国专利申请15/845,294、2017年12月18日提交的美国专利申请15/845,423相关,其整体内容并入此处作为参考。
技术领域
本示教一般涉及自动驾驶。具体而言,本示教涉及自动驾驶中的规划和控制。
背景技术
随着人工智能(AI)近来的技术进步,出现了在不同应用领域中应用AI的浪潮。这包括自动驾驶领域,在该领域中,规划和控制是必不可少的。如图1(现有技术)所示,自动驾驶模块110包括规划模块120和车辆控制模块130。如图2所示,规划可包括路径规划、运动规划或行为规划。路径规划指的是基于特定的考虑来规划从原点到目的地的路径的工作。
运动规划一般可指规划车辆的运动以实现特定效果的工作。例如,车辆的运动可以以符合交通规则(例如速度限制)或安全(不沿着非之字形(zig zag)轨线行驶)的方式来规划。于是,运动规划是确定车辆需要做出何种运动来实现该目的。行为规划一般指规划在不同情况下车辆应当如何表现的工作,例如,在经过十字路口时的车辆行为、待在车道内或沿车道行驶的车辆行为、或是在转弯时的车辆行为。例如,在超过前方缓慢移动的车辆时,可以规划特定的车辆行为。行为规划和运动规划可能是相关的,例如,规划的车辆行为可能需要翻译为运动,以便实现该行为。
图1所示的车辆控制130可涉及多种方面的控制。如图3所示,车辆控制可涉及:例如,针对道路特有的控制,针对运动特有的控制,针对质量(mass)特有的控制,针对几何结构特有的控制,针对空气动力特有的控制,以及针对轮胎特有的控制。
图1中的周围环境信息可用于车辆规划。传统而言,周围环境信息100包括例如车辆的当前位置、预定目的地、和/或交通信息。例如,使用这样的周围环境信息,传统的规划模块120可设计从当前位置到目的地的路径的规划。路径规划中使用的已知标准可包括例如最短距离、最短时间、使用高速公路(highways)、使用地方道路、交通量等等。这样的标准可以基于已知的信息来应用,这些已知信息例如为各个路段的距离、与道路相关联的已知的交通量模式等等。
规划模块120也可执行运动规划,传统而言,运动规划基于例如用于状态空间的快速遍历随机树(RRT)或用于环境建模的马尔可夫决策过程(MDP)。规划模块120可基于所规划的路径/运动来生成将要馈送给车辆控制模块130的规划数据,使得车辆控制模块130可运行为以所规划的方式来控制车辆。为了使车辆运动以执行该规划,于是,车辆控制模块130可以生成控制信号140,该信号可以被发送到车辆的不同部分,以实现所规划的车辆运动。按照传统,车辆控制基于通用车辆运动学模型和/或不同类型的反馈控制器来执行。
每个人类驾驶者一般以不同的偏好对车辆进行不同的操作或控制。人类驾驶者还基于实时情况对车辆进行适应性操作,这些实时情况可能由于车辆自身的当前状况、外在环境状况(其限制车辆运行的能力)和/或车内乘员对当前车辆运动的反应或响应而发生。例如,在车内有孩子的情况下,人类驾驶者可能出于安全原因在下雪天选择避开(路径规划)弯曲的路径。当不同的乘员乘坐车辆时,人类驾驶者可能以不同的方式驾驶,从而保证乘员的舒适。尽管人类驾驶者一般通过大致保持在车道中间位置来沿车道行驶的方式控制车辆,该行为可能在面临右转弯时改变。在这种情况下,同一人类驾驶者可在车辆接近右转点时弯向车道的右侧。另外,不同的人类驾驶者可能以不同的方式弯向右侧。另外,车道变换行为也可能在不同的周围环境情况下基于不同的车辆而不同。现有技术不涉及这些问题,更未提供解决方案。
因此,存在提供在自动驾驶中用于规划和控制的改进方案的需求。
发明内容
这里公开的示教涉及用于在线服务的方法、系统和程序设计。具体而言,本示教涉及用于开发能与用户对话的虚拟代理的方法、系统和程序设计。
在一实例中,公开了用于自动驾驶车辆的运动规划的方法。获得关于以当前车辆运动运行的自动驾驶车辆的当前位置的信息,其中,该信息将用于推定自动驾驶车辆基于当前位置的运行性能。经由一种以上介质类型的、一个以上的传感器,获得传感器数据。基于传感器数据,推定车辆中存在的乘员关于当前车辆运动的反应。基于关于当前位置的信息和乘员对当前车辆运动的反应,执行运动规划。
在另一实例中,公开了用于自动驾驶车辆的自动运动规划的系统。该系统包括通用运动规划器、一种以上介质类型的一个以上的现场传感器、乘员观察分析器和乘员运动适应器。通用运动规划器被配置为获得关于自动驾驶车辆的当前位置的信息,其中,该信息将用于推定自动驾驶车辆基于当前位置的运行性能。所述一个以上的现场传感器被配置为收集一种以上的介质类型的传感器数据。乘员观察分析器被配置为基于传感器数据,推定自动驾驶车辆中存在的乘员关于当前车辆运动的反应。乘员运动适应器被配置为基于关于当前位置的信息和乘员对当前车辆运动的反应,执行对于自动驾驶车辆的运动规划。
其他概念涉及用于实现关于开发虚拟代理的当前示教的软件。根据此概念的软件产品包括至少一个机器可读的非暂时性介质以及由该介质承载的信息。该介质承载的信息可以是可执行程序代码数据、与可执行程序代码相关联的参数和/或与用户、请求、内容相关的信息或与社会群体有关的信息,等等。
在一实例中,公开了机器可读的非暂时性介质,其中,该介质上记录有用于自动驾驶车辆的运动规划的信息,使得该信息在被机器读取时使该机器执行下面的操作步骤。获得关于以当前车辆运动运行的自动驾驶车辆的当前位置的信息,其中,该信息将用于推定自动驾驶车辆基于当前位置的运行性能。经由一种以上介质类型的、一个以上的传感器,获得传感器数据。基于传感器数据,推定自动驾驶车辆中存在的乘员关于当前车辆运动的反应。基于关于当前位置的信息和乘员对当前车辆运动的反应,执行运动规划。
另外的新特征有部分在下面的说明书中给出,有部分将由本领域技术人员在检视下面的说明书和附图后明了或通过制造或运行实例来习得。本示教的新特征可以通过使用或实践下面讨论的具体实例中给出的方法、设备和组合的多种方面来获得。
附图说明
这里描述的方法、系统和/或程序设计进一步在示例性实施例中介绍。这些示例性实施例参照附图详细介绍。这些实施例是非限制性的示例性实施例,其中,贯穿附图中的几幅附图,类似的参考标号代表类似的结构,且其中:
图1(现有技术)示出了自动驾驶的某些重要模块;
图2示出了自动驾驶中的规划的示例性类型;
图3示出了公知类型的车辆控制;
图4A示出了根据本示教一实施例具有规划模块和车辆控制模块的自动驾驶车辆;
图4B示出了根据本示教一实施例的实时数据的示例性类型;
图5示出了根据本示教一实施例的规划模块的示例性高层次系统图;
图6A示出了根据本示教一实施例用于实现自身觉知性能模型的示例性方法;
图6B示出了根据本示教一实施例,具有参数的自身性能觉知模型的示例性构造;
图6C示出了根据本示教一实施例的内在车辆性能参数的示例性类型;
图6D示出了根据本示教一实施例的外在性能参数的示例性类型;
图7示出了根据本示教一实施例,用于生成将在规划时考虑的自身性能觉知参数的机制的示例性高层次系统图;
图8示出了根据本示教一实施例的自身性能觉知参数生成器的示例性高层次系统图;
图9示出了根据本示教一实施例,用于生成自身性能觉知参数的示例性过程的流程图;
图10示出了根据本示教一实施例的路径规划模块的示例性高层次系统图;
图11为根据本示教一实施例的用于路径规划的示例性过程图的流程图;
图12示出了根据本示教一实施例的全局路径规划器的示例性高层次系统图;
图13为根据本示教一实施例的全局路径规划器的示例性过程的流程图;
图14A示出了根据本示教一实施例的运动规划模块的示例性高层次系统图;
图14B示出了根据本示教一实施例的乘员模块的示例性类型;
图14C示出了根据本示教一实施例的示例性类型的将要为运动规划观察的用户反应;
图15示出了根据本示教一实施例的乘员观察分析器的示例性高层次系统图;
图16为根据本示教一实施例的乘员观察分析器的示例性过程的流程图;
图17为根据本示教一实施例的运动规划模块的示例性过程的流程图;
图18示出了根据本示教一实施例,用于生成运动规划的不同模型的模型训练机制的示例性高层次系统图;
图19示出了根据本示教一实施例的不同类型的将被观察的反应及其在模型训练中的作用;
图20A示出了根据本示教一实施例的车道相关规划的示例性类型;
图20B示出了根据本示教一实施例的与车道沿行(lane following)有关的行为的示例性类型;
图20C示出了根据本示教一实施例的与车道变换有关的行为的示例性类型;
图21示出了根据本示教一实施例的车道规划模块的示例性高层次系统图;
图22为根据本示教一实施例的车道规划模块的示例性过程的流程图;
图23A示出了根据车辆运动学模型生成车辆控制信号的传统方法;
图23B示出了根据本示教一实施例,使得似人型车辆控制成为可能的车辆控制模块的高层次系统图;
图23C示出了根据本示教一实施例,使得个性化似人型车辆控制成为可能的车辆控制模块的高层次系统图;
图24示出了根据本示教一实施例的似人型车辆控制单元的示例性高层次系统图;
图25为根据本示教一实施例的似人型车辆控制单元的示例性过程的流程图;
图26为根据本示教一实施例的似人型车辆控制模型生成器的示例性高层次系统图;
图27为根据本示教一实施例的似人型车辆控制模型生成器的示例性过程的流程图;
图28为根据本示教一实施例的似人型车辆控制信号生成器的示例性高层次系统图;
图29为根据本示教一实施例的似人型车辆控制信号生成器的示例性过程的流程图;
图30示出了一移动装置的架构,该装置可用于实现包括本示教的专用系统;以及
图31示出了一计算机的架构,该计算机可用于实现包括本示教的专用系统。
具体实施方式
在下面的具体介绍中,通过举例的方式给出了多种具体细节,以便提供对相关示教的全面理解。然而,本领域技术人员应当明了,本示教可以在没有这些细节的情况下实现。在其他的实例中,公知的方法、过程、部件和/或电路以相对较高的层次介绍而没有细节,以便避免不必要地模糊本示教的实施形态。
本公开一般涉及系统、方法、介质和其他的实施形态,其用于以适应实时情况的自身性能觉知式的、似人型、个性化的方式来规划和控制路径/车辆行为。图4A示出了根据本示教一实施例,具有车辆规划/控制机制410的自动车辆。自动车辆规划/控制机制410包括规划模块440和车辆控制模块450。两个模块均将多种类型的信息用作输入,以便实现自身性能觉知、似人型、个性化且适应于实时情况的运行。例如,如所示出的,规划模块440和车辆控制模块450均接收历史人工(manual)驾驶数据430,以便习得似人型的在不同情况下操纵车辆的方法。这些模块还接收实时数据480,从而觉知车辆周围的动态情况,以便相应地对运行进行适应。另外,规划模块440访问自身性能觉知模块490,该模块描绘在车辆当前所处的情况下是什么在限制车辆的运行性能。
实时数据480可包括对于车辆规划和控制有用或与之相关的不同类型的信息。图4B示出了根据本发明一实施例的实时数据的示例性类型。例如,示例性实时数据可包括车辆相关数据、时间相关数据、乘员相关数据、天气相关数据、……、以及与附近的道路有关的数据。车辆相关数据可包括,例如,车辆在该时刻的运动状态、位置或状况。车辆的运动状态可涉及,例如,其当前速度和行驶方向。实时位置信息可包括,例如,车辆的当前纬度、经度和高度。车辆的实时状况可包括:车辆的功能状态,例如,车辆当前是处于完全还是部分功能状态;或者,特定参数,车辆的不同部件正在该参数下运行;等等。
时间相关的实时数据一般可包括当前日期、时间或月份。乘员相关数据可包括与车辆的乘员有关的多种特性,例如:乘员反应线索,其可包括从乘员观察到的视觉、听觉或行为线索;或者,乘员的状况,例如乘员的精神状态、身体状态或功能状态。乘员的状况可以基于从乘员反应线索观察到的线索来推断。天气相关数据可包括车辆当前位于的当地的天气。道路相关数据可包括:与附近的道路的物理状况有关的信息,例如,道路的弯曲度、陡度或湿度;或者,本地交通状况,例如沿该道路的拥堵情况。
图5示出了根据本示教一实施例的规划模块440的示例性高层次系统图。在此示例性实施例中,规划包括但不限于道路规划、运动规划以及车道相关行为的规划,其包括车道沿行、车道变换等等。相应地,在此所示实施例中,规划模块440包括路径规划模块550、运动规划模块560以及车道规划模块570。各个模块的目标在于以自身性能觉知式的、似人型的且个性化的方式运行。除了周围环境信息420外,模块550、560和570中的每一个将记录的人类驾驶数据430、实时数据480和自身性能觉知模型490用作输入,并生成将由车辆控制模块450使用的其相应的输出,以便变换为控制车辆的车辆控制信号470。例如,路径规划模块550生成作为其输出的规划路径信息520,运动规划模块560生成作为其输出的规划运动530,车道规划模块570生成作为其输出的规划车道控制信息540。
规划模块中的每一个可以经由某触发信号来触发。例如,路径规划模块550可经由路径规划触发信号来致动;运动规划模块560可在接收到运动规划触发信号时致动;而车道规划模块570可在车道规划触发信号被接收到时开始运行。这样的触发信号可以手动提供(由例如驾驶者或乘员)或基于例如特定配置或特定事件自动生成。驾驶者可手动致动路径规划模块550或任何其他的用于路径/运动/车道规划的规划模块,很像是人们手动启动例如车辆巡航控制时所做的那样。
规划活动也可由特定的配置或事件来致动。例如,车辆可以被配置为,每当车辆接收到指示下一个目的地的输入时,致动路径规划。这可以与车辆当前位置处于哪里无关。在某些实施例中,规划模块可以在每当车辆开启时总是触发,并且,依赖于情况,它们可以按照需要从事不同的规划活动。在不同的情况下,它们还可以以该情况需要的方式彼此交互。例如,车道规划模块570可在特定情况下判断为变换车道。这样的规划车道控制由车道规划模块570输出,并可馈送到运动规划模块560,使得适合用于实现规划车道变换的特定路径轨迹(规划运动)可以进一步由运动规划模块560进行规划。
规划模块的输出可被馈送到规划模块440中的另一个,用于进一步规划或是用于提供用于另一模块的未来规划的输入。例如,路径规划模块550的输出(规划路径520)可被馈送到运动规划模块560,使得路径信息可影响车辆运动如何被规划。如上面所讨论的,车道规划模块570的输出(规划车道控制540)可被馈送到运动规划模块560,使得规划的车道控制行为可经由规划的运动控制来实现。相反,运动规划模块560的输出(规划运动530)也可被馈送到车道规划模块570,从而影响车道控制行为的规划。例如,在个性化运动规划中,运动规划模块560可判断为,由于观察到车辆乘员偏好平稳运动,车辆的运动需要轻柔。这样的判断是运动规划的一部分,并可被发送到车道规划模块570,使得车辆的车道控制行为可以以确保平稳运动的方式(例如,尽可能少地变换车道)进行。
为了确保车辆行为以自身性能觉知的方式受到规划和控制,路径规划模块550、运动规划模块560和车道规划模块570也访问自身性能觉知模块490,并将之用于以这样的方式确定规划策略:将当前场景内,车辆实际能够做什么考虑在内。图6A示出了根据本示教一实施例实现自身性能觉知模型490的示例性方式。如所示的,自身性能觉知模型490可被构建为概率模型、参数模型或描述性模型。这样的模型可基于例如学习来训练。模型可包括多种参数,这些用于描绘可影响或对车辆的实际能力有影响的因素。模型可以实现为概率模型,其具有概率性推定的参数。模型还可实现为参数模型,其具有适用于不同的真实世界状况的显式模型属性。模型490也可被提供为具有枚举状况的描述性模型,这些状况具有基于实时场景实例化的值。
任何情况下的自身性能觉知模型490可包括多种参数,其中的每一个与可能影响车辆实际性能的某些参数相关联,使得车辆规划(路径、运动或车辆)必须考虑。在下面的公开中,自身性能觉知模型和自身性能觉知参数可互换地使用。图6B示出了根据本示教一实施例的自身性能觉知模型或参数510的示例性构造。如所示的,自身性能觉知参数510可包括内在性能参数和外在性能参数。内在车辆性能参数可以指与车辆自身相关联的参数,其可影响车辆在运行中能够做什么,且这样的参数可以基于车辆如何制造或车辆在该时刻是什么样来确定。外在性能参数可以指这样的周围环境参数或特性:其处于车辆的外部,但可能影响车辆能被运行的方式。
图6C示出了根据本示教一实施例的内在车辆性能参数的示例性类型。如图所示,内在车辆性能参数可包括、但不限于车辆在例如其发动机、其安全措施及其轮胎等方面的特性。例如,在其发动机方面,内在性能参数可具体指定车辆能达到的最大速度、能在发动机上进行的控制,包括巡航控制或任何对发动机手动控制的限制。在安全措施方面,内在性能参数可包括关于车辆配有何种传感器的信息、与制动器(breaks)有关的具体参数或与车辆座位有关的信息。例如,某些车辆可具有用金属支撑物(更强)作为后背的座位,某些座位仅仅具有塑料支撑物。某些座位可具有允许自动控制以便进行振动的机制,某些没有。在车辆其他部件方面,内在性能参数也可具体指定车辆轮胎的类型(其可具有可进行操作的轴承)以及车辆当前是否装有雪胎或配有防滑措施。这些内在车辆性能参数可用于评估何种类型的路径和运动可能是可行的以及哪些类型的车辆行为可以实现。因此,使这样的内在性能参数可用于规划模块允许规划模块适当地进行规划,而不超出车辆实际能够做到的范围。
图6D示出了根据本示教一实施例的外在性能参数的示例性类型。如上面所讨论的,外在性能参数具体指定处于车辆外部但可能影响规划能力的信息,且这样的外在性能参数用于在给定车辆外部状况的情况下确定合适的规划。来自规划模块的最终输出可以在内在和外在性能参数的双重限制下确定。由于外在性能参数可包括描述车辆处于或可能面对的状况或情况的参数,它们可能将会影响应当规划什么。例如,与道路(接近车辆或甚至是距离车辆相对较远)有关的周围环境情况。道路状况相关参数可指示道路有多拥挤(故行驶速度不能规划得太快)、道路是否有速度限制(规定的最小和最大速度,以及由于交通量导致的实际可允许速度)、沿着道路是否存在任何事故、或道路的表面状况(故运动不能太快)、或道路表面是否存在将会在车辆规划中妨碍车辆性能的特定状况。
还存在可能影响多种规划活动的其他车辆外部状况。这包括光照或大气相关状况,以及车辆的周围环境。例如,如果车辆的位置处于存在太阳眩光、故传感器不能良好运行,这将影响规划决策。如果车辆位于有者浓雾状况的区域之中,这样的信息对规划模块也是重要的。如果存在大量降水,这样的信息也可被规划模块考虑在内。周围的交通对于规划也可能很重要。例如,外在参数可提供与附近车辆或物体有关的信息,使得规划模块可在其相应的规划中考虑这些信息。外在参数可包括关于这些附近的车辆/物体的信息,例如,附近的车辆是大卡车还是自行车,其也可影响规划决策如何做出。另外,沿着车辆所处道路发生的事件也可影响规划。例如,出于明显的原因,对于规划模块来说,车辆当前是否处于学区中的道路上或沿着车辆当前所处道路是否有正在进行的施工也可能属于重要信息。
外在性能参数可以在时间上连续获取和更新,以支持规划模块实时地基于外部情况对其决策进行适应。在某些情况下,也可预测外在性能参数。例如,如果车辆在下午在道路上向西行驶,可以预测将会有太阳眩光。尽管这种预测的外在性能参数可能不是实时信息,但其将帮助规划模块(例如路径规划模块)做出适当的决策。例如,如果车辆的预定目的地在西北方向,且该时刻向西和向北都有可用的道路,知道如果在傍晚向西走会有太阳眩光的情况下,路径规划模块550可相应地决定当时首先选择向北的道路,稍后在太阳下山后选择向西的道路,以避免太阳眩光(更为安全)。这种预测的外在性能参数可以基于其他的信息(例如车辆的当前位置和车辆的预定目的地)来确定。
采用性能参数(包括内在和外在二者),车辆变得能够自身觉知内在和外在性能相关限制,这在规划方面可能非常重要。图7示出了根据本示教一实施例,用于生成自身觉知性能参数的机制700的示例性高层次系统图。在此所示实施例中,机制700包含当地背景确定单元730和自身觉知性能参数生成器740。基于例如关于车辆当前位置和/或车辆所前往目的地的信息,当地背景确定单元730将收集车辆所位于和/或将要位于的地方(即,车辆当前所在的地方和车辆在前往目的地的路上将要位于的地方)的局部信息。例如,基于与车辆有关的信息以及根据例如车辆当前和未来位置所确定的当地背景信息,自身觉知性能参数生成器740将连续地生成内在和外在性能参数二者。
为了促进自身性能觉知参数生成器740生成外在性能参数,当地背景确定单元730可基于当前位置720和目的地信息710来取得存储在地图配置750和道路背景配置760中的信息。与道路有关的当地背景信息可包括车辆当前位于的道路和/或车辆后来将要位于的道路的周围环境或背景信息。例如,地图配置750可提供关于从当前位置到预定目的地的道路的信息,而道路背景配置760可提供关于与道路相关联的特性(例如各条道路的高度、陡度、弯曲度等等)的某些已知或静态信息。这些收集的关于道路的静态信息于是可由自身性能觉知参数生成器740使用。
道路状况可随时间变化。例如,道路可能由于天气状况的变化而变得多冰或变滑。关于道路的这样的动态变化的背景信息可由例如自身性能觉知参数生成器740连续地分别获得,并用于生成反映实时情况的外在性能参数。如将要在下面参照关于自身性能觉知参数生成器740的图8讨论的,当前位置和原点-目的地信息均可被发送到自身性能觉知参数生成器740,以便由其收集关于道路状况的实时信息,从而确定外在性能参数。
为了生成内在车辆性能信息,可以从车辆信息存储器750访问与车辆有关的信息。车辆信息存储器750可存储在车辆制造时配置的车辆参数,例如车辆是否具有巡航控制或特定类型的传感器。存储器750也可在随后更新与车辆内在参数有关的信息。这样的随后更新可以由于例如车辆维护或修理或甚至是实时观察到的更新而生成。在下面参照图8的讨论中,自身性能觉知参数生成器740还包括这样的机制:其连续收集与车辆的实际内在性能一致的车辆相关参数的任何动态更新。
图8示出了根据本示教一实施例的自身性能觉知参数生成器740的示例性高层次系统图。在此所示实施例中,自身性能觉知参数生成器740包括当地背景信息处理器810、情景参数确定器820、自身性能觉知参数更新器830以及连续且动态收集与做出车辆决策有关的不同方面的信息的多种更新器。这些动态信息更新器包括例如车辆性能参数更新器860-a、天气敏感参数更新器860-b、交通敏感参数更新器860-c、方位敏感参数更新器860-d、道路敏感参数更新器860-e、……、以及时间敏感参数更新器860-f。
在某些运行实施例中,在接收到来自当地背景确定单元730的当地背景信息时,当地背景信息处理器810处理所接收的信息,并且,例如,提取关于车辆位于的当前路径的信息,并将该信息发送到自身觉知性能参数更新器830。与当前路径有关的这样的信息可包括路径的陡度或弯曲度,或其他类型的静态信息,例如,路径的高度和方位。情景参数确定器820接收当前位置720,并且,例如,分离出位置和时间信息,并将信息发送到自身觉知性能参数识别器830,使得其可使用该信息来识别精确的时间以及位置特有的性能参数。
采用关于车辆位置和当前时间的信息,自身觉知性能参数更新器830可访问内在性能模型840和/或外在性能模型850,以取得当前位置和时间特有的性能相关参数值。在某些实施例中,内在性能模块840可被配置为具体指定与车辆内在性能有关的参数的类型及其当前的值。类似地,外在性能模型850可被配置为具体指定对车辆运行能力有影响的参数的类型及其当前的值。
在运行中,为了将参数的值保持为当前的值,内在和外在性能模型(840和850)可规则地触发更新器(860-a,……,860-f),以收集实时信息并基于这样收集的实时信息来更新对应参数的值。例如,内在性能模型840可以被配置为具有这样的机制:其致动车辆性能参数更新器860-a,以收集与车辆的内在性能有关的更新信息。这样的机制可具体指定不同模式的触发。例如,其可以基于规则的计划,例如,每天或每小时。其还可以具体指定将由某外部事件触发,例如从维修店或从车上的检测车辆部件的某些功能状态已经变化的传感器接收的信号。在这种情况下,车辆性能参数更新器860-a可接收来自传感器的实时车辆信息,并更新内在性能模型中的相关性能参数的值/状态,以反映车辆的实时状态。例如,在车辆运行过程中,前灯或制动器可能变得失去功能。这样的实时检测到的信息可由车辆性能参数更新器860-a收集,并用于更新存储在内在性能参数存储器840中的信息。这样的与车辆有关的更新信息于是可由自身觉知性能参数生成器840用于生成内在性能参数。
类似地,外在性能模型850可被配置为具体指定用于更新不同类型的外在性能参数的更新机制。更新机制可具体指定按规律计划的更新,或者由某些事件触发的更新。不同类型的外在性能参数可被配置为基于不同的触发机制来更新。例如,对于天气相关外在性能参数或者是可能与天气密切关联的外在性能参数(例如车辆附近的可见度),更新可以规律地进行,例如,每几分钟。类似地,交通敏感参数——例如常常作为交通状况的直接结果的实际可允许速度——也可有规律地更新。不同类型的参数尽管全都有规律地更新,可具有不同的更新计划,这些计划可能在从每隔几秒到每隔几分钟或每隔几小时的范围内。
另一方面,某些外在性能相关参数可在某些事件发生时做出。例如,对于方位敏感参数(例如,太阳眩光是否存在),更新可以在车辆以特定方向行进时触发。如果车辆行进的方向在某个下午时间从北变为西北,这可触发方位敏感参数更新器860-d,以收集与太阳眩光有关的信息,并更新关于太阳眩光的情况。在某些情况下,更新可指示不存在太阳眩光,例如,当天气是多云天时。在某些情况下,更新可指示存在太阳眩光。在任一情况下,这种方位敏感信息于是用于更新存储在外在性能参数存储器850中的对应的外在性能参数的值。类似地,时间敏感参数(例如由于一天中的时间的车辆可视度)的更新可基于检测到的位置、位置的时区以及该时刻在一天中的具体时间而触发。在某些实施例中,某些性能参数的更新也可由与检测到的其他性能参数值的更新有关的事件触发。例如,例如湿滑道路状况的道路敏感参数更新可在天气状况更新指示天气开始下雨或下雪时触发。
在所示的实施例中,车辆性能参数更新器860-a接收来自存储器750的静态车辆信息和来自实时车辆信息馈送(其可能来自多种来源)的动态车辆信息更新。这些来源的实例包括经销商、车辆维护场所、报告部件状态变化的车上传感器或其他来源。天气敏感参数更新器860-b可接收动态天气更新以及其他天气敏感性能参数(例如降水、可见度、雾或与天气有关且潜在影响车辆运行的任何其他参数)的更新。天气相关信息可来自馈送实时数据的多种数据源。
交通敏感参数更新器860-c可接收动态交通报告和与可能影响车辆运行的交通有关的其他信息。实例包括交通堵塞的程度(其可用于确定车辆路径是否需要重新规划)或已经导致交通拥挤的事件的时间(以推定延迟将会持续多久,从而判断是否重新作出路径规划)。交通或交通相关信息可从一个或多于一个的用于实时数据馈送的源接收。方位敏感参数更新器860-d可被配置为收集车辆方向上沿着道路的信息。这种方位敏感信息可包括特定方向(例如东或者西)的太阳眩光,或车辆位于的道路方向上的任何潜在情况(例如道路前方的滑坡情况)。类似地,一旦触发,道路敏感参数更新器860-e可以关于车辆位置从一个或多于一个实时信息馈送源收集关于多种道路或道路状况的信息。这样的信息可以与道路(例如开通、封闭、绕行、学区等)或其状况(例如湿滑、结冰、淹水、施工等)有关。时间敏感参数更新器860-f可被配置为从数据源实时收集依赖于时间的实时数据。例如,道路的可见度可依赖于车辆所位于的时区中一天当中的时间。
所收集的实时数据于是可用于更新内在性能模型840和/或外在性能模型850。可对这样的更新数据加时间戳。自身觉知性能参数更新器830于是可访问内在和外在性能模型840和850二者,以确定相关的性能参数及其更新值。所取得的内在/外在性能参数于是可被输出,使得它们能由图5所示的多种规划模块使用。具体而言,这样生成的自身觉知性能参数510由路径规划模块550用于路径规划,如将参照图10-13所讨论的那样。自身觉知性能参数也由运动规划模块560用于个性化运动规划,其将在下面参照图14-19公开。自身觉知性能参数也由车道规划模块570用于车道控制,其将参照图20-22详细介绍。
图9为根据本示教一实施例的自身觉知性能参数生成器740的示例性过程的流程图。首先,在910处接收当地背景信息,在920处提取位置和时间信息,其在930处由不同的更新器用于获得来自与内在和外在性能的多种方面有关的不同源的信息馈送。这样获得的信息于是由不同的更新器在940处使用,以更新内在性能参数840和外在性能参数850。基于当前位置、时间和接收的当地背景信息,自身觉知性能参数更新器830于是识别当前时刻与车辆有关的多种内在和外在性能参数510,以便在940处更新内在/外在性能参数,并在950处生成更新的性能参数。这样更新的内在/外在性能参数510于是在960处输出。
这样动态收集的自身觉知性能参数将被用在多种车辆行为规划操作中,包括路径规划、运动规划以及车道相关车辆行为规划。例如,在人类驾驶中,选择到目的地的路径常常在考虑由自身觉知性能参数捕获的因素的情况下做出。例如,人类驾驶者可以基于例如车辆装有什么或能做什么(内在性能参数)来选择到希望的目的地的路径。如果车辆处于不能良好处理陡峭道路的状况,则需要避开这样的道路。另外,人类驾驶者也可考虑其他因素,例如当天的天气,所考虑道路的状况,为一天中的特定时间所计划的或已知的事件(外在性能参数)。例如,如果一条道路指向西方且当时太阳将要下山,可能将有太多眩光,故最好是走另一条替代道路。为了安全和可靠的目的,自动车辆也应在路径规划期间就路径选择考虑这些内在和外在性能。
传统路径规划方法常采用某种成本函数(cost function),使得所选路径的成本最小化。例如,传统路径规划考虑例如行驶距离最优化、抵达目的地所需时间最小化或是使到达目的地使用的燃料最小化。在某些实例中,在最优化成本时,传统方法也可考虑交通状况,例如,高交通量路径可减小速度,导致到达目的地的增多的时间和燃料。这些最优化功能常常假设所有车辆能以同样的方式处理所有路径,且所有路径能被同样好地处理。这样的假设常常并不是真的,故当自动驾驶车辆应用这样的规划方案时,它们常常发现不能进行或甚至是在某些情况下变得很危险。本示教的目的在于实现安全、实际、可靠、适应于变化的与内在和外在性能有关的参数的路径规划。
如图5所示,规划模块450在实现不同的规划任务(包括路径规划模块550、运动规划模块560和车道规划模块570)时考虑自身觉知性能参数510。下面,参照图10-13,提供了关于路径规划模块550的细节。图10示出了根据本示教一实施例的路径规划模块550的示例性高层次系统图。路径规划模块550的目的是,在内在和外在性能方面,均以自身觉知的方式,基于希望的目的地来规划路径。相反,传统的路径规划技术主要考虑例如最短距离、最短时间、最大利用高速公路/本地道路等标准,而不考虑动态内在性能参数和实时外在性能参数。
在此所示实施例中,路径规划模块550包括路径选择偏好判断器1030和全局路径规划器1020。路径选择偏好判断器1030判断在选择路径时将要考虑的偏好。全局路径规划器1020基于包括自身觉知性能参数150在内的多种信息来选择适当的路径。在某些实施例中,路径规划活动可基于所示的路径规划触发信号而被触发。在被致动时,全局路径规划器1020可收集与当前路径规划操作有关的多种类型的动态信息。例如,全局路径规划器1020可依赖于与原点/当前位置有关的信息和希望的目的地。规划是关于原点/当前位置以及目的地来执行的。目的地信息可以用不同的方式来确定。例如,其可视情况可选地经由接口单元1010从驾驶者/乘员接收。
全局路径规划器1020也可将实时数据480用作输入,并相应地规划路径。如参照图4B所讨论的,实时数据包括与实时车辆相关信息(位置)有关的信息、关于观察到的车辆内的乘员的信息、……、以及道路特性。这样的实时数据提供路径规划需要的周围环境信息。全局路径规划器1020也接收自身觉知性能参数510,其向规划器通知,在规划的时候的给定动态内在以及外在情况的条件下,什么是可能的。例如,内在性能参数可指示车辆当前由于某些机械问题而不能快速行驶,故全局路径规划器1020可将之考虑在内,以便规划例如主要涉及本地道路并可能经过某些汽车维修店的路径。类似地,外在性能参数可指示在车辆当前位置的北方,太阳眩光相当强烈,故全局路径规划器可基于该信息以在太阳下山之前避开位于北方的附近的路径。实时数据480和自身觉知性能参数510向全局路径规划器1020提供信息,以便使它能够规划出在给定例如当前时间、当前车辆位置、当前天气、当前乘员情况和当前道路状况的条件下适当的路径。
全局路径规划器1020也可考虑将在路径规划中应用的偏好。这样的偏好可以由驾驶者/乘员经由用户接口单元1010具体指定(其可被传送到全局路径规划器1020),或者,可经由其他装置获得(见下面参照图12的公开)。在考虑将要应用的偏好时,存储在路径选择偏好配置1050中的信息也可被访问和考虑。这样的路径选择偏好配置可具体指定不同场景下路径选择中的某些一般性的偏好,例如,在下雨/下雪场景下避免陡峭/弯曲道路,在夜间避开小道,避开加油站非常少的道路,等等。全局路径规划器1020可将从实时数据480接收的相关信息和自身觉知性能参数510传送给路径选择偏好判断器1030,其又被路径选择判断器1030用于从1050取得特定的路径选择偏好配置。例如,如果现在正在下雪(由实时数据480),且车辆没有雪胎(由内在性能参数510),这样的动态信息可从全局路径规划器1020转送给路径选择偏好判断器1030,使得与这样的动态场景有关的选择偏好配置可从路径选择偏好配置1050取得(例如避开陡峭/弯曲道路),并被送回到全局路径规划器1020,使得它能在选择合适的路径时被依赖。
为了确定合适的路径,除了知道选择偏好以外,全局路径规划器1020也可能需要知道关于道路的附加的信息,例如从车辆当前位置到预定的目的地有什么路径可用。另外,对于各个可用的路径,地图/道路配置1060也可存储关于各个可用道路/路径的特性信息。道路/路径的这样的特性信息可包括、但不限于几何特性,例如道路/路径的性质(高速公路或者非高速公路)、道路/路径的维度、陡峭度/弯曲度、道路/路径的状况,等等。在规划时,全局路径规划器1020可首先确定车辆当前位置到希望的目的地之间的可用道路/路径。为了选择到目的地的适当的路径,对于这样的可用道路/路径,它们的特性信息也可由全局路径规划器1020访问,使得选择可基于这样的特性信息做出。
采用关于可用道路/路径的信息以及关于这些可用道路/路径的特性信息,全局路径规划器1020于是可通过将由路径选择偏好判断器1030确定的路径选择偏好与可用道路/路径的特性信息相匹配来选择到目的地的适当的路径。关于全局路径规划器1020的细节参照图12-13提供。
如前面所讨论的,全局路径规划器1020基于来自不同来源(包括实时数据480和自身觉知性能参数510)的动态信息来选择规划的路径。除此之外,由于车辆可能在移动中,或目的地可能随时间变化,车辆当前位置和目的地可能随时间改变,正如实时数据480和自身觉知性能参数510一样。当这样的信息改变时,其可以影响所规划的全局路径。例如,在当前位置变化时,与当前位置相关联的实时数据也可变化,例如,从与前一地点相关联的好天气变为与当前位置关联的下雨的状况。这又可能导致路径选择偏好方面的变化,最终,导致所选择路径的变化。因此,全局路径规划器1020可以以双向方式和动态方式与路径选择偏好判断器1030交互。每当可能使得有必要重新确定路径选择偏好的变化存在时,全局路径规划器1020于是可致动路径选择偏好判断器1030,以便修改或重新生成将由全局路径规划器1020用于在给定情况下确定合适路径的偏好。
图11为根据本示教一实施例用于路径规划模块550的示例性过程的流程图。关于车辆目的地的信息以及视情况可选的关于偏好的信息在1110处被接收。实时数据480以及自身觉知性能参数510由全局路径规划器1020在1120处接收,与车辆的当前场景或情况有关的多种信息于是可在1130处从接收的实时数据和自身觉知性能参数识别。基于与当前场景有关的相关信息,在1140处确定对于当前场景特定的偏好。为了规划路径,全局路径规划器1020在1150处访问关于基于当前位置和希望目的地的可用道路/路径的信息以及这种可用路径/路径的特性信息。在1160处,基于在当前场景的基础上确定的特定偏好以及道路/场景信息,全局路径规划器1020选择对于当前情况合适的路径。
图12示出了根据本示教一实施例的全局路径规划器1020的示例性高层次系统图。在此所示实施例中,全局路径规划器1020包含自身觉知性能参数分析器1205、基于内在性能的过滤器生成器1210以及路径选择引擎1230。视情况可选地,全局路径规划器1020也包含目的地更新器1225,用于动态确定和更新当前目的地。在所示的实施例中,全局路径规划器1020也视情况可选地包括用于对驾驶者/乘员偏好进行个性化的机制,使得在选择路径时使用。路径选择偏好判断器1030将基于车辆当前处于的特定情况确定与选择路径有关的偏好(其不同于获得针对特定驾驶者/乘员的个性化偏好)。
如说明性地示出的,视情况可选的确定个性化偏好的机制包含乘员驾驶数据分析器1245、偏好个性化模块1250和乘员偏好判断器1240。在运行中,乘员驾驶数据分析器1245接收作为输入的所记录的人类驾驶数据430,并从这种数据中分析或学习,以理解与特定的驾驶者/乘员有关的路径偏好。例如,由记录的人类驾驶数据430,可以习得特定驾驶者偏爱在本地道路上而不是在高速公路上行驶,或是历史上选择在夜晚使用高速公路、即使这涉及长得多的距离。还可以学习与车辆相关联的所有驾驶者的偏好。例如,多个人(一家的丈夫、妻子和孩子)可以与车辆相关联,即,这些人中的任何一个可以操作车辆。乘员驾驶数据分析器1245可从记录的人类驾驶数据430中学习与这类驾驶者的驾驶行为相关联的多种类型的信息,这可使得偏好个性化模块1250能够在接收到这种驾驶行为信息时建立每一个这类个体的个人偏好。
在从乘员驾驶数据分析器1245接收到与各个个体驾驶者有关的信息时,偏好个性化模块1250于是可生成路径选择方面的个性化偏好。这样的路径相关偏好可以不仅反映路径选择,还代表不同情况(例如一天当中的特定时间帧、季节、位置等)下的路径选择偏好。这样对于各个个体驾驶者建立的偏好于是可存储在存储器1265中。在路径规划时,乘员偏好判断器1240接收实时数据480,并且,基于实时数据480中的多种信息(例如月/日/时间、乘员信息、区域天气等),乘员偏好判断器1240可从路径选择偏好存储器1265访问能在当前路径规划中应用的相关偏好。例如,如果实时数据指示驾驶者是特定的人,且当前时间是1月的下午7:45等,乘员偏好判断器1240可在1265处与当前特定驾驶者有关地识别个性化的路径偏好,其与一年中的季节以及特定时间帧相关(例如,驾驶者可能偏爱在冬季在高速公路上行驶)。如此识别的个性化路径选择偏好于是可发送到路径选择引擎1230,使得路径规划时的驾驶者/乘员的个性化偏好能在确定选择哪一路径时被考虑在内。
如图12所示,路径选择引擎1230也可将由路径选择偏好判断器1030推定的偏好用作输入,并将之用于其路径选择操作。在某些实施例中,路径选择引擎1230可依赖于来自1030的偏好,而不考虑驾驶者的个性化偏好,即,它可在其路径选择中仅仅依赖于由路径选择偏好判断器1030识别的偏好。
在选择适合用于当前情况的路径时,路径选择引擎1230也可接收自身觉知性能参数510。在所示的实施例中,自身觉知性能参数分析器1205分离外在性能参数和内在性能参数,并将外在性能参数发送到路径选择引擎1230,使得与车辆所处当前情况相关联的外在状况能在路径选择中被考虑在内。例如,外在性能参数可指示路径7上存在正在进行的施工,路径选择引擎1230可考虑这一点并避开路径7。然而,如果目的地当前被设置为路径7上的学校,且驾驶者的习惯是每天在当前时间(例如下午3:30)从学校接孩子,在考虑所有事情的情况下,路径选择引擎1230可选择选用路径7。
类似地,内在性能参数也可在选择适当的路径时被考虑在内。在此所示的实施例中,内在性能参数被馈送到基于内在性能的过滤器生成器1210,其可基于内在性能参数产生不同的过滤器1215,使得这样的过滤器可由路径选择引擎用于滤除在给定内在性能参数的情况下不合适的路径。例如,如果内在性能参数指示车辆没有雪胎,任何陡峭和/或弯曲的路径可能在雪天不合适。
基于由当前位置更新器1235跟踪的车辆当前位置和由目的地更新器1225跟踪的目的地二者,路径选择引擎1230选择路径。有些情况下,改变的当前位置和目的地可触发路径选择引擎1230,以致动路径选择偏好判断器1030,以便在给定变化情况下重新评估路径选择中的偏好。
图13为根据本示教一实施例的全局路径规划器1020的示例性过程的流程图。在1310处,自身觉知性能参数被接收。内在性能参数用于在1320处生成基于内在性能的过滤器,使得特定路径能在给定车辆内在状况的情况下由于不适合而被滤除。外在性能参数在1330处从接收的自身觉知性能参数提取。同时,实时数据480在1340处被连续接收,且记录的人类驾驶数据在1350处被接收。这样的数据于是用于在1360处确定与当前驾驶者、当前情况、当前时间有关的个性化路径选择偏好。在1370处,自身觉知性能参数和/或驾驶者个性化偏好于是可以用于在考虑所有因素的情况下选择合适的路径。在1380处,输出所选择的路径。
根据本示教的路径规划允许在路径规划中考虑多种类型的信息,例如实时数据和自身觉知性能参数,使得规划的路径适应当时的车辆状况(经由内在性能参数)、当时车辆所处的动态环境(经由动态数据以及外在性能参数)、基于例如动态更新实时数据(见图4B)确定的乘员特性以及乘员个性化偏好。类似地,这样的信息也可在其他类型的规划操作中使用,使得规划的车辆活动适应于实时情况,基于个体偏好得到个性化,并且允许车辆的行为更像人类驾驶者。下面,参照关于个性化适应性运动规划的图14-19提供更多的细节。
人类驾驶者以舒服的方式控制其车辆运动。在大多数情况下,人类驾驶者还注意与他们一起坐在车里并对车辆运动做出反应的乘员的反馈或反应。例如,某些人类驾驶者可能偏爱平稳地起动和停止车辆。在观察到坐在车内的乘员以特定方式反应时,某些经常非常突然地起动和停止车辆的人类驾驶者可能调整他们的驾驶。这样的人类行为可能在自动车辆中起到重要作用。通常,已经认识到,驾驶行为因人而异,在同一车辆中存在他人时如何调整这样的行为也可能因人而异。
按照传统,自动车辆可采用这样的规划模型:其被训练为捕获普通人群的人类驾驶行为的特性。这样的一般性模型并不基于个体驾驶者/乘员偏好或意图对规划方法进行定制。本示教的目的在于,基于对于驾驶者/乘员的认识以及对于驾驶者/乘员对车辆运动的响应的动态观察,提供个性化的运动规划。
图14A示出了根据本示教一实施例的运动规划模块560的示例性高层次系统图。在此所示实施例中,运动规划模块560的目的在于个性化、似人型、适应性的运动规划,即,车辆的运动根据例如一般性的以及个人的喜好(其可包括已知什么是乘员偏好以及乘员对车辆当前运动有什么反应或反馈)来规划。根据本示教的运动规划模块560可包括通用运动规划器1450和乘员运动适应器1460。运动规划模块560可基于多种考虑来规划车辆运动,包括车辆所处实时情况(例如在弯曲道路上,下雨天,光线暗淡等)、车辆状况(经由内在性能参数)以及车内乘员的个人偏好(已知偏好,或是基于观察到的驾驶者反馈而动态确定的)。在给定这些考虑的情况下,车辆运动可以基于运动规划模型(其可以以适合于不同场景的方式调用)来规划。运动规划模型可包括适合用于当前给定情况的不同模型。
图14B示出了根据本示教一实施例的运动规划模型的示例性类型。在所示的实施例中,运动规划模型可包括通用运动规划模型(图14A中的1450)、子类别模型(图14A中的1480)或个性化模型(图14A中的1430)。通用运动规划器1450可以是基于偏好的模型,或基于影响的模型(见图14B)。基于偏好的模型可以设置为,基于关于车辆运行的一般知识,具体指定不同场景下偏爱的车辆运动。例如,当道路湿滑或结冰时,偏爱规划较慢而没有急转弯的运动。基于影响的模型可以具体指定哪种类型的运动可导致哪种类型的影响,且这样的指定可用于引导运动规划,以实现或避免特定的影响。
相比于通用模型,用于运动规划的子类别模型可以针对车辆子类别或驾驶者/乘员的子类别。例如,子类别模型可以针对跑车,另一子类别模型可以为厢式货车提供。另外,子类别模型可以针对青少年驾驶者,另一子类别模型可针对长者。对各个子类别模型进行调节和具体指定,使得对于匹配的子类别的运动规划可以更加准确地执行。根据本示教,运动规划模型也可包括这样的个性化模型:其可包括个体模型,每一个个体模型可指定每个个体在车辆运动方面的偏好。例如,乘员个体偏好模型可指定该乘员偏爱平稳的车辆运动,另一个乘员个体偏好模型可指定某些不同的偏好。用于运动规划的这种通用、子类别以及个体模型可基于所记录的人类驾驶数据得出,故基于这样的模型规划的运动更像人类。
回到图14A,在运行中,为了实现个性化的、似人型且适应性的运动规划,运动规划模块560接收多种类型的信息,并使用不同的运动规划模型。接收的信息包括来自路径规划模块的规划路径、周围环境信息420、实时数据480、自身觉知性能参数510。基于实时数据480和自身觉知性能参数510,通用运动规划器1450确定车辆所处情况(例如下雨、黑暗等),并在1440处相应地调用合适的通用运动规划模型,以得出通用运动规划信息。在某些实施例中,通用运动规划器1450也可确定有关的车辆和/或乘员子类别,使得相关联的子类别运动规划模块可从1480中取得并用于运动规划。通用运动规划模块1440可具体指定通用运动规划策略,例如,如果是下雪天或者车辆在弯曲道路上,优选为使得车辆运动较慢且稳定。各个子类别模型可被提供为具体指定用于子类别(例如,一种类型的车辆,例如跑车,或者,乘员的子组,例如长者)的通用运动规划策略。
由通用运动规划器1450规划的运动(基于通用运动规划模型和/或子类别运动规划模型)可以根据个性化的偏好被进一步调节或适应。在所示的实施例中,这一点由乘员运动适应器1460实现。还可能有不同的方式来将规划的运动适应为满足个性化的偏好。在某些实施例中,个性化的偏好可由个体乘员模型1430访问.如果乘员的身份是已知的,用于该乘员的相关个体乘员模型可从1430取得,且车辆运动中的具体偏好可被用于确定如何实现个性化运动规划。例如,用于特定乘员的个体模型可指示乘员偏爱平稳乘坐,而不冒风险。
另一种实现个性化运动规划的方式是基于动态观察的信息适应性地调节运动规划。如先前参照图4B所讨论的,实时数据480包括与乘员特性有关的信息,其可以是乘员状况、……、和/或乘员反应线索。乘员状况可能指乘员的精神、身体和功能状态。将在个性化运动规划中使用的信息也可包括关于该情况收集的其他类型的数据。乘员观察分析器1420可收集多种类型的信息,提取相关指示,于是,将这种指示发送到乘员运动适应器1460,使得这样的动态和个性化信息能在运动规划中被考虑在内。关于乘员观察分析器1420的细节参照图15-16来提供。
图14C示出了根据本示教一实施例在运动规划中为纳入考虑所收集的观察的示例性类型。观察可包括来自例如乘员的明确的表达,例如语音或文字输入(其可明确指示乘员想要什么)。例如,乘员可呼喊“快点!”或“我就要迟到了!”或是“我真得准时到达。”可以在运动规划中依赖检测到的这些明确表达。观察也可包括检测到的场景,其可在运动规划方面指示某些东西。场景信息可包括所涉及的事件(其可指示乘员面临的紧急事件)、乘员的当前状态(例如年龄、已知健康状况等)、一天当中的时间(其可暗示需要特定安全等级的、乘员在那时的特定任务(例如从学校接小孩))。观察也可包括可被认为是与运动规划有关的、观察到的乘员的身体反应。例如,车辆内的传感器可捕获可指示乘员情绪、乘员身体语音或乘员语调的任何数据,所有这些可反映乘员响应于当前车辆运动的想望。例如,乘员可能看起来不舒服或甚至表现出焦虑,这可能指示车辆运动对乘员来说太粗暴。尖锐的乘员语调可能指示同样的事情。特定的身体行为也可能暗示乘员对车辆运动的特定反应。例如,如果乘员正在打盹、打哈欠、看起来昏昏欲睡或正在阅读,可能指示乘员对车辆运动感到舒适。另一方面,如果观察到乘员一直在看表,这可能指示乘员感到车移动得太慢。
根据本示教,除了个性化运动规划(例如不仅关于子类别,而且关于个体)以外,运动规划也可适应于用例如自身觉知性能参数描述的当前情况和例如天气、道路状况等实时情况。乘员运动适应器1460接收来自1410的外在性能参数,并相应地规划运动。例如,如果外在性能参数指示存在太阳眩光或起雾,可相应地规划运动(例如慢下来)。
图15示出了根据本示教一实施例的乘员观察分析器1420的示例性高层次系统图。在此所示的实施例中,提供乘员观察分析器1420,用于在车辆运动方面获得乘员的动态偏好,使得运动规划可被适应于个人喜好。乘员的动态偏好基于对经由不同传感器观察到的、对于当前车辆运动的乘员反应线索的分析来取得。示例性的乘员观察分析器1420包括传感器致动器1500、多个现场传感器1510、乘员检测器1520、乘员特征检测器1540、基于视觉的反应线索推定器1580、基于听觉的反应线索推定器1590、乘员表达检测器1560、乘员场景检测器1570和用户反应生成器1595。
提供乘员观察分析器1420,以确定乘员对当前车辆运动的反应或反馈,从而确定车辆运动是否需要调节。例如,如果乘员反应指示乘员对当前车辆运动不愉快,调节可在运动规划中相应地做出。乘员反应将基于不同的线索来推定,包括视觉、听觉、文字或背景场景。
在某些实施例中,传感器致动器1500致动现场传感器1510,以检测乘员反应。现场传感器1510包括多个传感器,包括视觉传感器、听觉传感器、红外传感器、……、或通信传感器等,其使得对乘员的任何表达的检测成为可能。例如,现场传感器1510中包括的视觉传感器可包括多个空间分布(在车辆内)的照相机装置,其能够捕获、处理并将来自多个视点的景象的图像融合为某种形式的更加有用的个体图像/视频。例如,视觉传感器可捕获乘员的手势或面部表达,其可用于推定乘员的反应。现场传感器可以被有选择地致动。例如,在夜间,为了准确观察乘员的反应,视觉传感器不能良好工作,在这种情况下,可作为替代地致动红外传感器。
如图14C所示,多种身体反应可被观察并用于分析乘员的反应线索。乘员检测器1520接收传感器数据,并基于乘员检测模型1530来检测乘员.检测可以基于视觉或听觉信息。因此,乘员检测模型1530可包括与乘员相关联的视觉和听觉模型二者,并可被分别调用以基于单一模型数据检测乘员,或均被调用以基于视觉和听觉特征二者来检测乘员。例如,乘员检测模型1530可包括面部识别模型,其可用于基于来自一个或多于一个视觉传感器的视频或图像数据来检测乘员。乘员检测模型1530也可包括基于扬声器的乘员检测模型,通过该模型,乘员可基于其声音被识别。
在检测到乘员时,传感器数据可以被连续馈送到乘员特征检测器1540,以检测多种乘员行为特征,其可包括视觉上的和听觉上的。例如,特定的身体语言可被检测,其可揭示乘员正在做特定的事情,例如睡觉(打盹)、阅读、打哈欠或频繁看表。这样检测的乘员特征也可包括听觉特征。例如,乘员特征检测器1540可检测乘员正在说“慢下来。”视觉和听觉线索可被同时检测,其揭示一致的反应线索。例如,乘员可一直看表并说“快点!”
乘员特征可以基于视觉和听觉特征检测模型1550来检测。这样的模块可在检测何种特征方面对乘员特征检测器1540进行引导,并对将要检测的各个特征提供对应的模型,该模型能被用于检测该特征。将要检测的特征可取决于乘员,在这个意义上,可对这些模型进行个性化。例如,如果已经知道乘员是哑的,没有理由检测与该乘员相关联的听觉特征。这些特征检测模块可以是适应性的,使得一旦它们受到训练并在车辆上配置,它们可以被配置为接收计划更新或动态更新,使得模型适应于变化的情况。
于是,检测到的乘员视觉特征被发送到基于视觉的反应线索推定器1580,该推定器于是可基于这样的视觉线索来推定乘员的反应线索。例如,如果检测到乘员正在看表,基于视觉的反应推定器1580可以是这样的反应线索:乘员对车辆速度不高兴且变得不耐烦。这样的推定线索也可基于例如1550中的个性化视觉特征模型得出,该模型可用于确定这样的行为(看表)是否表示与这一特定乘员相关联的特定反应线索(可以或可以不取决于这个人)。
类似地,检测到的乘员听觉特征被发送到基于听觉的反应线索推定器1590,该推定器1590于是可基于这样的听觉特征来推定乘员反应线索。例如,如果检测到乘员正在打鼾,基于听觉的反应线索推定器1590可推定为乘员对当前车辆运动感到舒适或至少不是不高兴。这样的推定线索也可基于例如1550中的个性化听觉特征模型来得出,该模型可用于确定这样的行为是否表示这一特定乘员的特定反应线索。
为了推定乘员的反应,基于视觉和基于听觉的反应线索推定器1580和1590可用于推定乘员的情绪状态。例如,从由乘员观察到的身体语言(例如焦躁不安或看上去在作呕),可能表示乘员感到不舒服,这可能是他/她对车辆运动的反应的线索。另外,乘员在说“快点”或“放慢”时的语调也可用于推定乘员的焦虑程度,这是乘员有多不高兴的线索。这样推定的情绪状态可用于评估乘员对当前车辆运动做出响应地表现出的反应的激烈程度,并可用于引导是否和/或如何调节运动规划。
除了观察到的身体特征外,其他的参数也可用于推定当前车辆运动是否可接受。例如,观察来源可以是由乘员经由车内某种通信接口(例如触摸屏显示器)直接录入的输入。乘员可经由车内显示接口输入他/她想让车辆运动更为平稳。这可由乘员表达检测器1560经由不同的通信传感器来检测,这些传感器可以是文本的或听觉的。
如前面讨论的那样,乘员当前所处的场景也可能影响运动应当如何规划。乘员场景检测器1570被配置为检测可能与运动规划有关的任何场景参数。例如,如果已经知道每个下午在3:30pm到4:30pm(一天中的时间)之间,车辆用于从学校接孩子(手上的任务),这可能对运动规划加以限制。也就是说,所规划的运动可能需要基于安全性。一旦检测到,这样的限制可被配置为压制所推定的(乘员)想要更快的愿望,以便保证孩子的安全。也可观察其他的场景相关因素,例如,乘员的健康和年龄。如果(由乘员模型1535)观察到乘员是位长者且罹患失智,这样的场景参数可用于避免某些检测到的乘员愿望。例如,如果当前车辆运动已经很快且乘员继续要求甚至更快,在给定乘员年龄和已知的健康状况的情况下,运动规划模块可使用这样的信息来做出合适的运动规划决策。
由基于视觉/听觉的反应线索推定器1580和1590、乘员表达检测器1560以及乘员场景检测器1570检测到的多种乘员反应线索于是被发送到用户反应生成器1595,在那里,检测到的不同参数被选择和集成,从而生成推定的用户反应,并发送到乘员运动适应器1460,使得由通用运动规划器1450规划的运动可根据观察到的对当前车辆运动的动态用户反应而得到适应。
图16为根据本示教一实施例用于乘员观察分析器1420的示例性过程的流程图。为了收集与乘员相关联的观察,在1610处致动合适的传感器。来自致动的传感器的信息在1620处被处理。为了确定乘员的身体行为,在1630处,基于乘员检测模型1530,对乘员进行检测。一旦乘员的身份得到确认,可获得与乘员相关联的不同类型的特征。在1640处,检测来自乘员的任何明确的表达。与乘员相关联的场景参数在1660处被检测。这样从乘员收集的明确表达以及与乘员有关的场景参数于是被发送到用户反应生成器1595。
乘员的视觉/听觉特征在1650处被检测,并被用于分别在1670和1680处推定视觉和听觉反应线索,于是,这些线索也被发送到乘员反应生成器1595。这样收集的不同类型的信息(从1640、1660、1670和1680)于是全由乘员反应生成器1595用于在1690处生成推定的用户反应。
回到图14,由乘员观察分析器1420输出的推定用户反应被发送到乘员运动适应器1460,故对于当前车辆运动的实时乘员反应可在判断如何基于来自乘员的动态反馈对规划的运动进行适应时被考虑在内。
图17为根据本示教一实施例用于运动规划模块560的示例性过程的流程图。在1710和1720处,实时数据480和自身觉知性能参数分别被接收。自身觉知性能参数在1730处被处理,并被分为内在和外在性能参数。基于实时数据和内在性能参数,通用运动规划器1450在1740处生成用于车辆的规划运动。这样的规划运动基于通用运动规划模型以及任何可应用的子类别运动规划模块1480来生成。
于是,为了将运动规划个性化,可基于个性化信息对通用规划运动进行适应,个性化信息可包括已知的个人偏好和动态观察的对当前车辆运动的乘员反应二者。为了实现这一点,基于个体乘员模型1430,在1750处识别已知乘员偏好。另外,在1760处,基于从不同来源/传感器收集的信息,推定动态乘员反应/反馈。或是已经知道的、或是动态推定的个人偏好于是用于对规划的运动进行个性化,例如,通过在1770处对基于通用信息规划的运动进行适应。于是,在1780处,这样的个性化规划运动作为规划运动530被输出。
如参照图14A所讨论的,多种模型用于模型规划,有些是通用的,有些是半通用的(子类别模型是半通用的),有些是个性化的。除了个性化和适应性以外,这里公开的运动规划方案的目的也在于以更为似人的方式做出运动。适应于乘员动态反应可能是它的一部分。在某些实施例中,运动规划模块560使用的模型也可被生成为捕捉似人行为,故而当它们在运动规划中应用时,所规划的运动530将会更加似人化。
图18示出了根据本示教一实施例,用于生成这些模型的运动规划模型训练机制1800的示例性高层次系统图。在此所示实施例中,运动规划模型训练机制(MPMTM)1800包含数据预处理部分和模型训练部分。数据预处理部分包含子类别训练数据分类器1820、个体训练数据提取器1830和观察分割器1850。模型训练部分包含模型训练引擎1810和独立影响模型训练引擎1840以及独立影响模型训练引擎1840。
记录的人类驾驶数据430用于对模型进行训练,故模型可捕捉更为似人化的与运动规划有关的特性。为了对通用运动规划模型1440进行训练,接收的所记录人类驾驶数据被发送到模型训练引擎1810,所训练的模型被存储为通用模型规划模型1440。为了获得子类别运动规划模型1480,所记录的人类驾驶数据430被子类别训练数据分割器1820分类为用于子类别的训练数据组,并被馈送到模型训练引擎1810,以便进行训练。对于各个子类别模型,合适的子类别训练数据组被应用,以得出对应的子类别模型,于是,这样训练的子类别模型在1480处被存储。类似地,为了获得用于运动规划的个体乘员模型1430,所记录的人类驾驶数据可被处理,以便由个体训练数据提取器1830生成不同的训练组,每个用于一个个体,并由模型训练引擎1810用于得出描述对应个体的偏好的个体乘员模型。
除了个体偏好以外,个体乘员模型1430也可包括描述由乘员反应或反馈观察到的、车辆运动对个体乘员的影响的模型。观察的反应/反馈可以是正面的或是负面的,并可用于影响将来应当如何为乘员规划运动。图19示出了根据本示教一实施例,观察到的不同类型的反应以及它们在模型训练中的作用。例如,可用于训练基于影响的模型的乘员反应/反馈可包括负面或正面的影响。乘员对特定规划运动的负面反应(负强化)可以在模型中捕获,故可在未来对这一特定乘员避免类似的运动。类似地,观察到的对规划运动的正面反应或正强化也可以在模型中捕获,用于未来的运动规划。有些反应可以是中性的,其也可由个体乘员模型捕获。
为了获得用于个体的基于影响的模型,实时数据480——其捕捉在乘员行为、视觉、听觉线索及其状况(包括车辆运动期间的精神、身体和功能状态)方面的乘员特性——可基于个体来分割,且这样分割的数据于是可用于得出描述特定运动如何影响乘员的模型。在某些实施例中,机制1800包括观察分类器1850,其根据个体乘员对实时数据480进行分割,并将这样分割的训练数据组馈送到独立影响模型训练引擎1840,以得出个体影响模型。这样得出的个体影响模型于是存储为个体乘员模型1430的一部分。
回到图5,规划模块440还包括车道规划模块570,其可用于如图20A所示的车道沿行和车道变换。车道沿行可指在车辆移动的同时保持在车道内的行为。车道变换可指在车辆移动的同时从车辆当前所处一车道移动到相邻车道的行为。车道规划可指在车道沿行或车道变换方面规划车辆行为。
图20B示出了根据本示教一实施例,与车道沿行有关的行为的示例性类型。如所示出的那样,存在多条车道(2010,2020,2030),各条车道内的车辆可在其自己的车道内沿行。根据不同的情况,个体车辆的车道沿行行为可能不同。例如,如图所示,当车辆只是试图保持在车道内而不转弯时,车辆的行为可以是保持在车道的中央。这在图20B中关于车道2010和2020内的车辆示出。这可以称为正常行为2040。当车道2030中的车辆需要向右转弯时,例如,如图20B中的2050所示,车道2030中的车辆的行为可能不同。例如,代替保持在车道2030中央的是,该车道中的车辆可以在转弯之前驶向车道右侧,例如,使得转弯更为安全、容易。类似地,当车辆将要左转时,车道沿行行为也可以不同。车道规划模块570被配置为例如经由建模来捕捉不同情况下的车道沿行行为,使得自动驾驶车辆可以以自然且似人的方式受到控制。
另一方面,车道变换可涉及在车辆移动的同时从一条车道移动到相邻车道的车辆行为。不同的乘员可表现出不同的车道变换行为。出于安全考虑,对不同的情况可以有希望的车道变换行为。车道变换方面的车道规划是以安全、自然、似人、个性化的方式规划关于车道的车辆运动。
图20C示出了根据本示教一实施例的与车道变换有关的行为的示例性类型。示出的是不同的车道变换行为,即从当前车道2020变换到它左边的车道(车道2010),以及从当前车道2020变换到它右边的车道(车道2030)。关于从车道2020到车道2010的车道变换,不同的车道变换行为可以在(1)做出变换有多快,以及(2)车辆以何种方式移动到下一车道的方面描述。例如,如图20B所示,示出了移动到车道2010的三种方案,它们是左车道变换行为1 2060、左车道变换行为2 2070以及左车道变换行为3 2080。分别代表移动到车辆2010的不同的速度。通过行为2060,车辆最快地移动到车道2010。通过行为2080,车辆最慢地移动到车道2010。通过行为2070移动到车道2010的速度居中。类似地,当车辆从车道2020移动到它右边的车道(2030)时,也可以有不同的车道变换行为,例如右车道变换行为1 2065、右车道变换行为2 2075以及右车道变换行为2085,如图20B所示。
除了车辆移动到下一车道的速度以外,车道变换行为也可在车辆如何移动到下一车道的方面不同。同样如图20B所示,当车辆将通过使用左车道变换行为1 2060从车道2020移动到车道2010时,存在由车辆使用以便缓行进入车道2010的不同的行为,例如通过沿着直线2061行驶、通过沿着曲线2062行驶(首先切入,然后打直(straight out)车辆)或通过沿着曲线2063行驶(首先向着车道2020的边缘缓行,观察,接着,在准备好时切入)。因此,关于车道变换,可以在不同的层次做出关于车辆行为的决策。
不同的驾驶者/乘员可表现出不同的车道规划(包括车道沿行和车道变换)行为,在某些情况下,同样的驾驶者/乘员可在不同的情况下有不同的行为。例如,如果街上没有人,驾驶者可决定在车道变换时迅速切入下一车道。在街道拥挤时,同样的驾驶者可能更为小心,决定花时间逐渐缓行到下一车道。车道规划模块570被配置为学习不同情况下不同的人类行为,并使用这样学习的知识/模型来获得自动驾驶中的车道规划。
平稳和可预测的车道沿行和车道变换行为是在自动驾驶车辆中提供似人驾驶体验的关键方面。这在车辆运行期间捕获的照相机图像和/或视频中存在明显环境噪音时可能特别困难。传统方法依赖于计算机视觉,以通过即时检测可行驶区域来检测车道。某些将端到端图像原始像素用于车辆控制信号预测。这样的传统方法不能使用所收集的可用手动驾驶数据,故它们常常产生生硬的规划和控制,容易受到环境变化的影响,同时,最终又对令人满意地运行车辆的能力产生限制。
本示教将车道检测模型和车道规划模型用于车道规划和控制。两个模型都基于大量的训练数据来训练,有些数据是加标签的,有些数据是如所收集的。对于车道检测,车道检测模型使用具有加标签车道的训练数据获得,以得出用于车道检测的监督模型(supervised model)。这样的监督模型将使用一组数量很多的训练数据来训练,这些数据覆盖大范围的环境状况,以确保训练模型的代表性和鲁棒性。
对于车道规划,为了实现似人的车道规划行为,收集大量的人类驾驶数据,并将之用于训练车道控制模型,这样的模型在用于车道规划时表现出操纵车辆时的似人行为。尽管车道检测模型和车道规划模型分别被训练,在运行中,两组模型以级联方式用于推理,以便在多种类型的环境或状况下以似人的运行模式产生具有鲁棒性的行为。在某些实施例中,当人类驾驶数据根据个体驾驶者被分类时,本示教可被配置为进一步个性化,以便产生个性化的似人车道规划模型。采用这样的个性化似人车道规划模型,取决于车辆中的乘员是谁,自动驾驶车辆可以以适应性方式在车道规划/控制中运行。
图21示出了根据本示教一实施例的车道规划模块570的示例性高层次系统图。在此所示实施例中,车道规划模块570包含两个模型训练引擎2110和2140,分别用于训练车道检测模型2120和车道规划模型2150。这样训练的模型于是由驾驶车道检测器2130和驾驶车道规划单元2160以级联的方式用在车道规划之中。如上面所讨论的,车道检测模型2120为监督模型,并使用具有加标签车道的训练数据进行训练。这样的监督训练数据由驾驶车道检测模型训练引擎2110处理和使用,以获得驾驶车道检测模型2120。
在某些实施例中,车道检测模型2120可对应于通用模型,捕捉不同情况下的车道检测的特性。在某些实施例中,车道检测模型2120可包括不同的模型,其中的每一个可以用于在特定的不同的情况下提供检测车道的模型。例如,某些模型可以用于在正常道路状况下检测车道,某些可以用于在道路湿的时候检测车道,有些可以用于在道路有眩光或反光时检测车道,有些甚至可以用于在道路被例如雪或其他类型的视觉阻碍物体覆盖时推定车道。车道检测模型也可提供用于不同类型车辆的分立的模型。例如,有些车辆具有较高的重心,故捕捉车前地面图像的照相机可以安装在相对于地面较高的位置。在这种情况下,用于这些车辆的车道检测模型可以不同于用于照相机安装在距地平面较近水平的车辆的车道检测模型。各种类型的模型可以使用与对应场景有关的合适的加标签训练数据来训练。
为了在自动驾驶中实现似人车道规划行为,驾驶车道规划模型训练引擎2140将记录的人类驾驶数据430用作输入,并在车道规划方面学习似人行为。如上面所讨论的,这样的人类驾驶数据可以从大范围的驾驶者/情况/状况收集,以便由驾驶车道规划模型训练引擎2140学习和捕获车道规划/控制中大范围的人类驾驶行为的特性。在某些实施例中,驾驶车道规划模型训练引擎2140可以视情况可选地将具有加标签车道的某些监督训练数据用作输入,例如,作为种子或某种小的数据组,以便使学习更快地收敛。
基于所记录的人类驾驶数据430,驾驶车道规划模型训练引擎2140可学习和/或训练用于车道沿行和车道变换的模型。在某些实施例中,对于车道沿行和车道变换中的每一个,可得出2150中的用于通用人类行为的通用模型。在某些实施例中,车道规划模型训练引擎2140也可学习和/或训练用于车道规划的多种模型,其中的每一个可以用于不同的已知的情况,例如,用于一般人群的特定子组的车道沿行或车道变换,或用于特定的不同驾驶环境场景(湿的道路、光线暗淡、拥挤道路)。用于一般人群的子组的这些模型也可存储在2150中。
似人车道控制模型2150也可个性化并存储在2150中,当多个模型将要经由训练得出时,满足与各个不同模型相关联的状况的车道人类驾驶数据可被提取并用于对模型进行训练。例如,用于当在拥挤道路上行驶时表现出的车道相关行为的车道规划(包括车道沿行和车道变换)模型可基于与拥挤道路上的车道驾驶行为有关的人类驾驶数据来学习。用于车道规划的模型也可以是个性化的。为了实现个性化,驾驶车道规划模型训练引擎2140可基于乘员过去的驾驶数据得出用于各个个体乘员的模型(例如关于车道沿行和车道变换中的每一种)。视情况可选地,来自与乘员相关联的个人资料的信息也可在学习中使用,以便获得更为准确地反映乘员偏好的模型。
这样获得的不同类型的车道规划/控制模型于是可存储在驾驶车道控制模型存储器2150中。在某些实施例中,用于不同情况的不同的模型可被组织和编目,用于在车辆运行期间实时进行容易的识别和快速的访问。在某些实施例中,驾驶车道检测模型训练引擎2110和驾驶车道规划模型训练引擎2140可位于车辆的远程,学习可以以集中的方式进行,也就是说,它们可以基于来自不同源的训练数据来运行,学习和更新可以有规律地致动。所训练模型可被发送到分布式的车辆。在某些实施例中,基于本地获取的数据,用于车道规划的个性化模型可以在各个车辆中本地更新。
经由2110和2140引擎的训练可以通过任何学习机制实现,包括人工神经网络、深度学习网络等。取决于将要获得的模型的类型和数量,各个训练引擎可包括多种子训练引擎,每个用于出于某种特定目的的特定的(一组)模型,且每个可以不同地配置和实现,以便得出最为有效的模型。除了学习以外,各个训练引擎(2110和2140)也可包括预处理机制(未示出),用于在由学习机制使用以得到训练模型之前处理训练数据。例如,它可以包括数据分割机制,其将接收的训练数据分割为分立的组,每一个可以用于训练用于特定情况的具体模型,例如,驾驶车道规划模型训练引擎2140可被配置为得出用于一般人群的通用模型、用于车辆的驾驶者/乘员的个性化模型、用于日间光照条件下的车道规划的模型,用于夜间光照条件下的车道规划的模型、用于湿滑道路条件下的车道规划的模型、用于雪天条件的车道规划的模型。在这种情况下,预处理机制于是可首先将接收到的记录的人类驾驶数据430分组为不同的组,其中的每一个用于规划的一个模型,使得训练引擎于是可使用适合的训练数据组来学习合适的模型。在新的训练数据到来时,模型可以持续更新。模型的更新可以通过基于所接收全部数据的重新学习(成批模式(batch mode))来实现,或通过增量模式(incremental mode)来实现。
一旦生成模型(包括车道检测模型2120和驾驶车道控制模型2150),它们用于以似人的方式并在某些情况下个性化地规划用于自动驾驶车辆的车道相关行为。如先前讨论的,在运行中,所获得的驾驶车道检测模型2120和驾驶车道控制模型2150以级联的方式应用。在所示的实施例中,当车辆在道路上时,安装在车辆中的传感器拍摄车辆当前所行驶道路的照片/视频,并将这样的传感器数据发送到驾驶车道检测器2130。除了传感器数据以外,行驶车道检测器2130也可接收自身觉知性能参数510。经由自身觉知性能参数,行驶车道检测器2130可确定多种类型的信息,例如,道路状况、车辆性能等,以便判断可以如何以合适的方式进行。例如,如果是在一天中的夜间(这可以在外在性能参数中指示),行驶车道检测器2130可进行到调用为在黑暗光线情况下检测车道而训练的车道检测模型,以实现可靠的性能。
使用适当地调用的车道检测模型,由传感器数据以及视情况可选的推定车辆位置,行驶车道检测器2130推定车道的分段。这样推定的车道分段和车辆位置于是被发送到行驶车道规划单元2160,在那里,合适的行驶车道规划模型于是以级联的方式应用,用于规划车辆的车道控制行为。
如先前所讨论的,车道规划包括车道沿行和车道变换二者。在运行中,车道规划涉及或是控制车辆沿行中的车辆行为、或是控制车道变换中的车辆行为。当车辆正在运动时,运行背景可以提供关于需要车道沿行还是车道变换规划的某种指示。例如,如果车辆需要驶出,其可能首先需要从不通向出口的当前车道进入驶出车道。在这种情况下,暗示着车道变换,故车道规划中涉及的任务是用于车道变换。在某些实施例中,车中乘员也可提供明确的车道控制决策,以指示车道变换,例如,通过开启转向信号。在某些实施例中,车道变换的指示也可来自车辆自身,例如,引擎可能有些问题,故自动驾驶系统可向行驶车道规划单元2160发送车道控制决策信号,指示准备车道变换,故车辆可移动到紧急车道。在正常情况下,在没有任何进入车道变换模式的指示的情况下,车辆可假设车道沿行的默认模式。
为了执行车道规划,行驶车道规划单元2160从不同的来源接收多种类型的信息(例如检测到的车道,推定车辆位置,车道规划决策,自身觉知性能参数510),并相应地进行到车道规划。例如,如果车道控制决策信号指示当前任务是用于车道沿行,用于车道沿行的模型将被取得,并用于规划。如果当前任务是车道变换,于是,用于车道变换的模型将被使用。
类似于驾驶车道检测器2130,驾驶车道规划单元2160可从2150调用通用车道规划模型,用于进行规划。其还可调用适合用于当前情况的不同的车道规划模型,以便增强性能。如早些时候讨论的那样,自身觉知性能参数510提供内在和外在性能参数二者,其可指示天气状况、道路状况等,可由驾驶车道规划单元2160用于调用合适的车道规划模型,用于进行规划。例如,如果当前任务是用于具有即将发生的右转弯的车道沿行,用于在从当前车道进行右转弯事件下的该乘员的人性化似人模型可以从2150取得,并用于规划关于如何缓行进入当前右车道中的位置并接着做出右转弯的车辆行为。
另一方面,如果当前任务是车道变换、车道控制决策指示将要变换到当前车道左边的车道、且自身觉知性能参数指示大雨和道路淹水,那么,驾驶车道规划单元2160可适当地访问为规划在非常湿的道路上的车道变换行为所训练的车道规划模型。在某些实施例中,这些任务也可使用通用车道变换模型来实现。基于所选择的用于当前任务的模型,行驶车道规划单元2160生成规划的车道控制,于是,其可被发送到车辆控制模块450(图4A),使得规划的车道控制行为能被实现。
行驶车道规划单元2160也可执行个性化车道规划。在某些实施例中,当前车内乘员可能是已知的,例如经由发送到行驶车道规划单元2160的驾驶者/乘员信息或经由来自传感器数据的乘员(现在未示出)的检测。在接收到这样的关于乘员的信息时,行驶车道规划单元2160可适当地调用适合于该乘员的车道控制模型。这样调用的定制化模型可以是用于乘员所属于的子组的模型,或者,可以是为该乘员个性化的模型。这样的定制化模型于是可用于控制如何以个性化方式执行车道规划。
图22为根据本示教一实施例,用于车道规划模块570的示例性过程的流程图。为了获得车道检测模型,具有加标签车道的训练数据首先在2210处被接收,这样接收的监督数据于是用于在2230处经由训练获得行驶车道检测模型。另一方面,为了获得行驶车道规划模型,记录的人类驾驶数据以及视情况可选的个性化资料信息在2220处被接收,并用于在2240处经由训练获得车道规划模型。一旦获得了模型,它们可基于新到来的训练数据(现在示出了)动态更新。
在运行过程中,当车辆正在运动时,车辆上的传感器获取包括存在车道的车前道路图像的传感器数据。这样的传感器数据在2250处接收,并在2260处用于基于车道检测模型来检测车前车道。视情况可选地,车辆的相对位置也可被推定。这样检测的车道以及视情况可选的推定车辆位置于是可被发送到行驶车道规划单元2160。在行驶车道规划单元2160中,多种类型的信息在2270处被接收,其包括车道控制决策、检测到的车道和自身觉知性能参数。这样的信息用于确定将要使用的车道规划模型,使得车道规划可在2280处基于合适地选择的车道规划模型实现。
通过由人类驾驶数据进行学习,习得的车道规划模型捕获车道规划中的人类行为的特性,故而当这样的模型在自动驾驶中使用时,车辆可以以似人的方式受到控制。另外,通过进一步基于乘员/驾驶者的相关驾驶数据对车道规划模型进行个性化,车辆的车道规划行为可以以车内乘员/驾驶者熟悉且舒服的方式受到控制。
参照图5-22,公开了规划模块440关于路径规划、运动规划和车道规划的细节。规划模块440的输出包括来自路径规划模块550的规划路径520、来自运动规划模块560的规划运动530、来自车道规划模块570的规划车道控制540(见图5)。这样的输出可以被发送到自动驾驶车辆的不同部分,以便执行规划的车辆行为。例如,规划路径520可被发送到负责在路径控制方面引导车辆的车辆部分(例如内置GPS)。规划运动530和规划车道控制540可被发送到车辆控制模块450(在图4中),故关于运动和车道控制的规划车辆行为可以经由车辆控制模块450在车辆上执行。
当运动和车道控制被规划为实现似人行为时,车辆控制模块450的目标在于传送规划的动作。根据本示教,车辆控制模块450的目标还在于学习如何根据在车辆怎样做出动作或响应不同情况下的不同控制信号的方面的知识来控制车辆,故车辆可被控制为实现希望的效果,包括规划的车辆行为。传统的方法应用基于机器学习的控制,并由经典的机制得出车辆动态模型,这些经典机制常常不能对真实世界中发生的多种情况建模。结果,常常导致不好的性能,且在某些情况下,可能导致危险的结果。尽管某些传统方法被设计为从历史数据经由例如精神网络来学习车辆动态模型,能够在普通场景下学习车辆动态模型,在某些情况下,这样的系统做出了有着实质性、不可预测的错误的预测,这在真实生活中可能是致命的。
本示教公开了一种方法,其使得实现准确的仿真和车辆运行安全成为可能。取代直接从历史数据学习车辆动态模型的是,经典机制模型用作支柱模型,并学习如何由历史数据调节预测结果。另外,对将被做出的调节的限制被明确规定为防止显著偏离正常情况的预测结果的方法。
图23A示出了用于生成车辆控制信号的传统方法的系统图。为了确定控制车辆实现特定目标运动需要的车辆控制信号,提供车辆运动学模型2310,且其由车辆运动学模型(VKM)车辆控制信号生成器2320基于目标运动和关于当前车辆状态的信息来使用。例如,如果当前车辆状态是30英里每小时,且目标运动在接下来的5秒内达到40英里每小时,VKM车辆控制信号生成器2320使用这样的信息来基于车辆运动学模型2310确定何种车辆控制将被应用,使得加速度能使车辆实现目标运动。图23A所示方法基于传统车辆运动学模型2310,其仅仅是机械动态模型。
图23B示出了根据本示教一实施例,图4A中的车辆控制模型450的高层次系统图。这里公开的车辆控制模块450的目标在于提供生成车辆控制信号的能力,这样的信号可以使得用于自动车辆的似人驾驶行为成为可能。如所示的,车辆控制模块450包括似人车辆控制单元2340和似人车辆控制(HLVC)模型2330。为了实现似人自动驾驶,似人车辆控制单元2340接收记录的人类驾驶数据430,以便将之用于学习似人车辆控制,并生成描述似人车辆控制行为的HLVC模型2330。
在创建了HLVC模型2330的情况下,当似人车辆控制单元2340接收关于目标运动和当前车辆状态的信息时,其基于HLVC模型2330,关于与车辆相关联的实时情况(由实时数据480描绘),生成似人车辆控制信号。当另外的所记录的人类驾驶数据430可用时,HLVC模型2330可被动态更新或重新训练,使它捕捉多种情况下人类车辆控制行为的特性。HLVC模型2330的动态更新可经由图23B所示的模型更新信号来触发。当满足特定条件时(例如,具有预定间隔的有规律更新设置,或当用于更新的附加数据达到某个等级时),模型更新信号可被手动或自动触发。
在某些实施例中,HLVC模型2330也可被个性化。这一点在图23C中示出。这种情况下的HLVC模型2330可包括多种HLVC子模型(例如2330-1,2330-2,……,2330-N),其中的每一个可对应于例如具有类似特征的子人群,并基于与该子人群有关的所记录的人类驾驶数据430的一部分来训练。例如,HLVC子模型可涉及偏爱谨慎驾驶的人的子人群,故模型可以基于这样的训练数据得出:其为在来自表现出谨慎驾驶记录的对应子人群的驾驶记录的所记录人类驾驶数据430中的训练数据。如果应用合适的训练数据,以得出个性化的子模型,HLVC子模型也可被个性化(例如子模型用于个体)。
下面参照图24-29来公开关于似人车辆控制单元2340的细节。图24示出了似人车辆控制单元2340的示例性内部高层次架构,其包括似人车辆控制模型生成器2410和似人车辆控制信号生成器2420。似人车辆控制模型生成器2410将记录的人类驾驶数据430用作输入,并将该信息用于学习和训练HLVC模型2330。从用于训练的所记录人类驾驶数据430提取的示例性类型的数据可包括例如应用于车辆的车辆控制数据和车辆状态,车辆状态可包括车辆控制数据被应用之前和之后的车辆状态。
将用于得出HLVC模型2330的数据也可包括环境数据,其描述车辆控制数据达到对应的车辆状态的周围状况。环境数据可包括多种类型的信息,例如,道路状况、天气状况、车辆类型和状况。在某些实施例中,环境数据也可包括关于车内乘员的信息以及乘员的特性,例如性别、年龄、健康情况、偏好等。来自人类驾驶数据的所有这些不同类型的信息可呈现某些变化,这些变化可能影响乘员的车辆控制行为。例如,当道路湿或者滑的时候,人类驾驶者可能在制动车辆方面表现出与道路不滑时不同的车辆控制行为(例如更慢地在制动器上施压)。
当HLVC模型2330被生成时,其可由似人车辆控制信号生成器2420用于在接收到希望的目标运动时生成车辆控制信号,以便在实现希望的目标运动时得到似人车辆控制行为。为了产生似人车辆控制信号,车辆控制信号生成器2420获得实时数据480,并在调用HLVC模型2330中使用该数据来生成似人车辆控制信号,实时数据480包括关于希望的目标运动时车辆周围的信息。如上面的实例所示,目标运动可以是在5秒内将车辆从30英里每小时的当前速度加速到40英里每小时。该时刻的实时数据可能指示车辆位于的道路具有陡坡且道路由于当前正在下雨而变滑。这样的实时数据是有关的,并可作为环境数据被提供给HLVC模型2330。似人车辆控制信号生成器2420可调用具有这样的参数的HLVC模型2330,以便获得推理出的似人车辆控制信号,该信号使得自动车辆以类似于人类驾驶的方式实现希望的目标运动。
图25为根据本示教一实施例的似人车辆控制单元2340的示例性过程的流程图。为了生成HLVC模型2330,所记录的人类驾驶数据在2510中被接收,以获得训练数据,该数据在2520处用在训练过程中,以便在2530处得出HLVC模型2330。这样生成的HLVC模型2330于是在请求的目标运动在2550处被接收时用在运行之中。基于请求的目标运动,似人车辆控制信号生成器2420在2560处获得实时数据480,以便提取在该时刻与车辆有关的信息,包括环境数据、当前车辆状态等。在某些实施例中,也可获得(未示出)与车内乘员有关的信息(例如乘员的身份或乘员的特性),使得这样的信息可用于对生成合适的似人车辆控制信号的过程进行个性化。
似人车辆控制信号生成器2420获得的信息于是可应用到HLVC模型2330,以便在2570处根据HLVC模型2330生成似人车辆控制信号。在个性化时,适合该情况的、一个或多于一个的具体HLVC子模型可被调用,并用于生成个性化的似人车辆控制信号。在运行期间,似人车辆控制单元2340可在2540处检查是否存在更新触发信号。如果在2540处判断为接收到更新信号,似人车辆控制模型生成器2410进行到步骤2510,以收集训练数据,并基于动态收集的人类驾驶数据适应性地调节或是重新训练HLVC模型2330。
图26示出了根据本示教一实施例,似人车辆控制模型生成器2410的示例性高层次系统图。在所示出的实施例中,似人车辆控制模型生成器2410包括训练数据处理单元2610、VKM车辆控制预测引擎2630和车辆控制模型学习引擎2640。训练数据处理单元2610将记录的人类驾驶数据430用作输入,对该输入进行处理以生成将被用于训练HLVC模型2330的训练数据2620。记录的人类驾驶数据430可包括环境数据2620-1、车辆状态数据2620-2、……、以及当前车辆控制数据2620-3。环境数据2620-1可包括例如道路状况等的信息,诸如道路坡度、转弯角度、表面滑性条件、道路湿润度等等。环境数据也可包括与对车辆的限制有关的信息,例如速度限制、一天中的时间、季节、位置等等。这样的环境数据可用作训练中的背景信息,故HLVC模型2330可学习不同背景条件下的似人车辆控制行为,使得训练模型描绘不同情况下表现的似人车辆控制行为。如果需要个性化,获得的训练数据也可分类为不同的训练数据子组(未示出),其中的每一组可用于对针对属于该组的乘员特有的HLVC子模型进行训练。
车辆状态数据2620-2可包括对车辆状态进行描绘的信息,包括例如车辆位置、车辆速度、车辆横滚角/俯仰角/航向角以及车辆的转向角等等。车辆控制数据2620-3可提供描绘应用到车辆的控制的信息,例如用特定力施加的制动、通过用特定角度旋转方向盘施加的转向、或节气门。
根据本示教,代替训练HLVC模型2330以直接生成车辆控制信号的是,在如何调节使用传统运动学模型预测的车辆控制信号方面,本示教将传统的基于运动学模型的预测方法与通过由人类驾驶数据学习产生的学习模型结合或融合,使得调节得到似人的车辆控制行为。这样的一体化方法不仅使得更为准确的车辆控制成为可能,还使车辆控制的似人感成为可能。
在学习HLVC模型2330时,车辆状态数据2620-2和车辆控制数据2620-3被提供给VKM车辆控制预测引擎2630,以便预测由于所运用的控制而实现的运动。VKM车辆控制预测引擎2630基于车辆运动学模型2310执行预测(例如,经由传统的机械动态方法),以生成基于VKM的预测信号,如图26所示。基于VKM的预测于是被发送到车辆控制模型学习引擎2640,其将与来自训练数据2620的其他信息相结合,以便进行学习。基于VKM车辆控制预测引擎2630的输出和训练数据2620,车辆控制模型训练引擎2640在例如迭代过程中对HLVC模型2330进行训练,一直到HLVC模型2330收敛。一旦模型2339收敛,其用于得出在给定希望目标运动情况下的似人车辆控制信号。
如图所示,车辆控制模型学习引擎2640可被模型更新信号触发。当其被致动时,车辆控制模型学习引擎2640调用训练数据处理单元2610和VKM车辆控制预测引擎2630,以便初始化训练过程。在某些实施例中,任何后续的基于另外的人类驾驶数据的训练可以以衍生(derivative)方式进行或者以成批模式运行,即,重新训练HLVC模型2330。
图27为根据本示教一实施例,用于似人车辆控制模型生成器2410的示例性过程的流程图。记录的人类驾驶数据430首先在2710处被接收。接收的人类驾驶数据在2720处被处理,以获得训练数据。某些训练数据在2730处用于基于传统的车辆运动学模型2310生成基于VKM的预测。对于基于学习和融合的训练,训练数据的多种方面在2740处被识别,并在2750处用于训练HLVC模型2330。在收敛之后,HLVC模型2330在2760处被创建。
图28示出了根据本示教一实施例的似人车辆控制信号生成器2420的示例性高层次系统图。如这里所讨论的,似人车辆控制信号生成器2420目的在于,对于具体的目标运动,基于HLVC模型2330,生成似人车辆控制信号,使得当似人车辆控制信号用于控制车辆时,车辆表现出似人的车辆控制行为。在这一实施例中,似人车辆控制信号生成器2420包括VKM车辆控制信号推理引擎2810、背景数据确定器2820以及基于HLVC模型的融合单元2830。
在运行中,在接收到目标运动时,似人车辆控制信号,VKM车辆控制信号推理引擎2810获得车辆的当前状态,并基于车辆运动学模型2310来生成基于VKM的车辆控制信号。如这里讨论的那样,使用传统方法来生成仅仅基于车辆运动学模型2310的推理车辆控制信号的目的在于在一开始提供纯粹基于机械动态的推理车辆控制信号。为了在获得目标运动的车辆控制中实现似人行为,基于所推理的VKM的车辆控制信号将被进一步用作到基于HLVC模型的融合单元2830的输入,在那里,基于VKM的车辆控制信号被用作原始推理结果,该结果将与基于HLVC的方法融合,使得基于VKM的车辆控制信号可根据学习的HLVC模型2330受到调节.
在接收到目标运动时,基于HLVC模型的融合单元2830可致动背景数据确定器2820,以获得与车辆周围有关的任何信息。背景数据确定器2820接收实时数据480并提取相关信息,例如环境数据或乘员数据等,并发送到基于HLVC模型的融合单元2830。基于目标运动、当前车辆状态、车辆周围的背景信息和使用传统车辆运动学模型2310推理的基于VKM的车辆控制信号,基于HLVC模型的融合单元2830基于这样的输入数据访问HLVC模型2330,以获得融合的似人车辆控制信号。
如这里所讨论的,HLVC模型2330可通过学习在基于VKM模型的预测和来自所记录人类驾驶数据430的观察信息之间的差异来创建。如此,HLVC模型2330捕获和学习到的东西可对应于将要对基于VKM的车辆控制信号做出的调节,从而实现似人行为。如先前所讨论的,由于学习过程可能产生过度拟合的情况、特别是在训练数据包括离群值时,为使车辆控制中由于对基于VKM的车辆控制信号的风险最小化,通过基于某些融合限制2840来限制对VKM车辆控制信号的调节,似人车辆控制信号生成器2420也可视情况可选地包括预防措施,如图28所示。通过这种方式,作为基于修改的VKM的车辆控制信号生成的似人车辆控制信号可以使人类行为的可能性最大化,但又使车辆控制中的风险最小化。
在某些实施例中,关于车内乘员的信息也可从实时数据480中被提取,并可用于访问与该乘员相关联的个性化HLVC子模型,其可以为用于该乘员所属于的组的HLVC子模型或对于该乘员完全个性化的HLVC子模型。使用这样的个性化HLVC子模型可允许似人车辆控制信号生成器2420生成个性化的似人车辆控制信号,使得基于它进行的车辆控制可以不仅仅是似人的,还是乘员个人喜好的。
图29为根据本示教一实施例的似人车辆控制信号生成器2420的示例性过程的流程图。目标运动信息和车辆状态数据首先在2910处被接收。基于目标运动和车辆状态,车辆运动学模型2310在2920处被访问,并在2930处用于推理VKM车辆控制信号。这种基于机械动态模型推理的控制信号被发送到基于HLVC模型的融合单元2830。为了获得融合的似人车辆控制信号,背景数据确定器2820在2940处接收实时数据数据480,并在2950处提取与车辆有关的相关信息。使用背景信息以及VKM车辆控制信号,基于HLVC模型的融合单元2830在2960处基于HLVC模型2330推理似人车辆控制信号。这样推理的似人车辆控制信号于是在2970处输出,使得实现目标运动的似人车辆控制可以以似人的方式实现。
图30示出了可用于实现实施本示教的特定系统的移动装置的架构。此移动装置3000包括但不限于智能电话、平板电脑、音乐播放器、手持式游戏机、全球定位系统(GPS)接收器和可穿戴计算装置(例如眼镜、腕表等),或者出于任何其他的形态。此实例中的移动装置3000包括:一个或多于一个的中央处理单元(CPU)3040;一个或多于一个的图形处理单元(GPU)3030;存储器3060;通信平台3010,例如无线通信模块;存储器3090;一个或多于一个的输入/输出(I/O)装置3050;用于基于视觉的呈现的显示器或投影仪3020-a;以及,一个或多于一个的多模态接口通道3020-b。多模态通道可包括听觉通道或用于发信号或通信的其它介质通道。任何其他合适的部件——包括但不限于系统总线或控制器(未示出)——也可包括在移动装置3000中。如图30所示,移动操作系统3070(例如iOS、Android、WindowsPhone等)以及一个或多于一个的应用3080可从存储器3090载入到存储器3060中,以便由CPU 3040执行。
为了实现本公开中介绍的多种模块、单元及其功能,计算机硬件平台可用作用于这里介绍的一个或多于一个元件的硬件平台。硬件元件、操作系统和这种计算机的编程语言在性质上是传统的,且假设本领域技术人员足够熟悉它们,以便使这些技术适应于这里介绍的本示教。具有用户接口元件的计算机可用于实现个人计算机(PC)或其他类型的工作站或终端装置,但是,如果合适地编程的话,计算机也可作为服务器运行。据信,本领域技术人员熟悉这种计算机设备的结构、编程和一般运行,因此,附图可能是不言自明的。
图31示出了能用于实现实施本示教的特定系统的计算装置的架构。实现本示教的这种特定系统具有硬件平台的功能框图,该硬件平台包括用户接口元件。计算机可以是通用计算机或专用计算机。二者都能用于实施用于本示教的特定系统。这种计算机3100可用于实现如这里所介绍的本示教的任何部件或实施形态。尽管为方便起见示出了仅仅一个这样的计算机,与这里介绍的本示教有关的计算机功能可以以分布式方式在若干个类似的平台上实现,从而分散处理负荷。
例如,计算机3100包括与连接于其上的网络相连接的COM端口3150,以促进数据通信。计算机3100还包括中央处理单元(CPU)3120,其采用一个或多于一个处理器的形式,用于执行程序指令。示例性计算机平台包括:内部通信总线3110;不同形式的程序存储器和数据存储器,例如盘3170、只读存储器(ROM)3130或随机访问存储器(RAM)3140,用于将要由计算机处理和/或进行通信的多种数据文件以及将由CPU执行的可能的程序指令。计算机2600还包括I/O部件3160,其支持在计算机和这里的其他部件(例如接口元件3180)之间不同介质形式的输入/输出流。接口元件的示例性类型可对应于在自动驾驶车辆上配置的不同类型的传感器3180-a。另一类型的接口元件可对应于显示器或投影仪3180-b,用于基于视觉的通信。还可以有用于其他多模态接口通道的附加部件,例如:听觉装置3180c,其用于基于音频的通信;和/或,部件2680-d,用于基于通信发信号,例如,使得车辆部件(例如车辆座椅)振动的信号。计算机3100也可经由网络通信接收编程和数据。
因此,如上面所概述的本示教的方法的实施形态可以在程序中实现。本技术的程序方面可被看作典型地出于可执行代码和/或相关数据的形式的“产品”或“制品”,该可执行代码和/或相关数据被承载在一种机器可读介质上或在其中实现。有形非暂时性“存储器”类型介质包括任何或全部存储器或其他的用于计算机、处理器等的存储器或其相关模块,例如多种半导体存储器、带驱动器、盘驱动器等,其可在任何时候提供用于软件编程的存储。
所有或部分软件有时可通过网络(例如互联网或多种其他电信网络)传送。例如,这种传送可使软件从一台计算机或处理器向另一台(例如从管理服务器或搜索引擎操作者的主机或其他增强广告服务器向着计算环境的硬件平台或实现与本示教相关的计算环境或类似功能的其他系统)的载入成为可能。因此,可承载软件元件的另一类型的介质包括光、电和电磁波,例如通过本地装置之间的物理接口、通过有线和光固定网络、通过多种空中链路使用。承载这种波的物理元件(例如有线或无线链路,光链路等)也被看作承载软件的介质。如这里所使用的,除了限制为有形的“存储”介质,例如计算机或机器“可读介质”的术语指参与向处理器提供指令以便执行的任何介质。
因此,机器可读介质可采用多种形式,包括但不限于有形存储介质、载波介质或物理传输介质。非易失性存储介质包括例如光或磁盘,例如任何计算机等等之中的任何存储装置,其可用于实现附图所示的系统或其任何部件。易失性存储介质包括动态存储器,例如这种计算机平台的主存储器。有形传输介质包括:同轴电缆、铜线和光纤,其包括构成计算机系统内的总线的导线。载波传输介质可采用电或电磁信号或者是声或光波(例如在射频(RF)和红外(IR)数据通信期间生成的那些)的形式。计算机可读介质的一般形式因此包括例如软盘、可折叠盘、硬盘、磁带、任何其他磁介质、CD-ROM、DVD或DVD-ROM、任何其他光介质、穿孔卡片纸带、具有孔的图案的任何其他物理存储介质、RAM、PROM和EPROM、闪速EPROM、任何其他的存储器芯片或插装盒、载波传输数据或指令、传送这样的载波的链路或电缆、或计算机可从之读取编程代码和/或数据的任何其他介质。许多这些形式的计算机可读介质可以涉入将一个或多于一个的指令的一个或多于一个的序列承载到物理处理器,以便执行。
本领域技术人员将会明了,本示教适用于多种修改和/或增强。例如,尽管上面介绍的多种部件的实现可以在硬件装置中实现,其还可实现为仅仅使用软件的解决方案,例如安装在已有的服务器上。另外,这里所公开的本示教也实现为固件、固件/软件组合、固件/硬件组合或是硬件/固件/软件组合。
尽管上面已经介绍了本示教和/或其他实例,将会明了,可对之做出多种修改,且这里公开的主题可以以多种形式和实例实现,且本示教可以在多种应用中应用,这里仅仅介绍了其中的一些。所附权利要求旨在要求落入本示教真实范围内的任何以及全部应用、修改和变型。

Claims (25)

1.一种用于车辆中的运动规划的方法,其包含:
经由至少一个处理器接收表示以当前车辆运动运行的车辆的当前位置的数据;
经由所述至少一个处理器,基于表示所述车辆的当前位置的所述数据推定所述车辆的运行性能;
从所述车辆的多个传感器接收具有至少一种介质类型的传感器数据,所述传感器数据表示与所述车辆中的乘员相关联的实时信息,所述多个传感器包括空间分布的照相机集合、至少一个听觉传感器和至少一个红外传感器,所述多个传感器中的各传感器被配置为被有选择地致动;
通过所述至少一个处理器,基于所述实时信息并使用至少一个视觉特征检测模型和听觉特征检测模型来实时推定所述乘员对所述当前车辆运动的反应;
经由所述至少一个处理器检测与所述车辆当前相关联的场景,所述场景包括一天中的时间和相关联的事件;
经由所述至少一个处理器,响应于接收到触发信号,基于表示所述车辆的当前位置的数据、所述乘员对所述当前车辆运动的推定的反应、与所述车辆当前相关联的场景以及基于所述车辆的至少一个自身觉知性能参数生成的至少一个过滤器,自动地执行运动规划以调整所述当前车辆运动,所述至少一个自身觉知性能参数包括内在性能参数,并且所述至少一个过滤器被配置为基于所述至少一个自身觉知性能参数排除路径,所述内在性能参数具体指定限制所述车辆的运行性能的车辆内部的状况;以及
基于预定计划来自动地且重复地更新所述车辆的所述至少一个自身觉知性能参数。
2.根据权利要求1所述的方法,其中,进一步基于所述车辆的所述至少一个自身觉知性能参数来推定所述车辆的运行性能。
3.根据权利要求1所述的方法,其中,所述至少一个自身觉知性能参数进一步包括外在性能参数,所述外在性能参数具体指定限制所述车辆的运行性能的车辆外部的状况。
4.根据权利要求1所述的方法,其中,与所述车辆当前相关联的场景进一步包括以下中的至少一者:任务、乘员的健康状况、或乘员的年龄。
5.根据权利要求1所述的方法,其中,推定乘员的反应包括提取与所述乘员相关联的视觉特征或听觉特征中的至少一者。
6.根据权利要求1所述的方法,其中,推定乘员的反应进一步基于以下中的至少一者:乘员的明确的陈述、或乘员的推定的情绪状态。
7.根据权利要求1所述的方法,其中,执行运动规划进一步基于与乘员相关联的偏好数据。
8.根据权利要求1所述的方法,其中,与所述乘员相关联的实时信息包括所述乘员的身体语言的表示。
9.根据权利要求1所述的方法,进一步包括:
通过所述至少一个处理器,基于所述实时信息实时推定所述乘员对所述当前车辆运动的情绪状态,
执行运动规划进一步基于所述乘员的推定的情绪状态。
10.根据权利要求1所述的方法,其中,所述触发信号是响应于指示下一个目的地的输入而生成的。
11.根据权利要求1所述的方法,其中,所述相关联的事件包括接受指示下一个目的地的输入。
12.一种机器可读的非暂时性介质,其上存储有指令,所述指令使得处理器执行:
接收表示以当前车辆运动运行的车辆的当前位置的数据;
基于表示所述车辆的当前位置的所述数据推定所述车辆的运行性能;
从所述车辆的多个传感器接收具有至少一种介质类型的传感器数据,所述传感器数据表示与所述车辆中的乘员相关联的实时信息,所述多个传感器包括空间分布的照相机集合、至少一个听觉传感器和至少一个红外传感器,所述多个传感器中的各传感器被配置为被有选择地致动;
基于所述实时信息并使用至少一个视觉特征检测模型和听觉特征检测模型来实时推定所述乘员对所述当前车辆运动的反应;
检测与所述车辆当前相关联的场景,所述场景包括一天中的时间和相关联的事件;
响应于接收到触发信号,基于表示所述车辆的当前位置的数据、所述乘员对所述当前车辆运动的推定的反应、与所述车辆当前相关联的场景以及基于所述车辆的至少一个自身觉知性能参数生成的至少一个过滤器,自动地执行运动规划以调整所述当前车辆运动,所述至少一个自身觉知性能参数包括内在性能参数,并且所述至少一个过滤器被配置为基于所述至少一个自身觉知性能参数排除路径,所述内在性能参数具体指定限制所述车辆的运行性能的车辆内部的状况;以及
基于预定计划来自动地且重复地更新所述车辆的所述至少一个自身觉知性能参数。
13.根据权利要求12所述的介质,其中,进一步基于所述车辆的所述至少一个自身觉知性能参数来推定所述车辆的运行性能。
14.根据权利要求12所述的介质,其中,所述至少一个自身觉知性能参数进一步包括外在性能参数,所述外在性能参数具体指定限制所述车辆的运行性能的车辆外部的状况。
15.根据权利要求12所述的介质,其中,与所述车辆当前相关联的场景进一步包括以下中的至少一者:任务、乘员的健康状况、或乘员的年龄。
16.根据权利要求12所述的介质,其中,推定乘员的反应包括提取与所述乘员相关联的视觉特征或听觉特征中的至少一者。
17.根据权利要求12所述的介质,其中,推定乘员的反应进一步基于以下中的至少一者:乘员的明确的陈述、或乘员的推定的情绪状态。
18.根据权利要求12所述的介质,其中,执行运动规划进一步基于与乘员相关联的偏好数据。
19.一种用于车辆中的运动规划的系统,包含:
运动规划器,其由处理器实现并被配置为:
接收表示以当前车辆运动运行的车辆的当前位置的数据,以及
基于表示所述车辆的当前位置的所述数据推定所述车辆的运行性能;
多个传感器,其被配置为生成具有至少一种介质类型的传感器数据,所述传感器数据表示与所述车辆中的乘员相关联的实时信息,所述多个传感器包括空间分布的照相机集合、至少一个听觉传感器和至少一个红外传感器,所述多个传感器中的各传感器被配置为被有选择地致动;
乘员观察分析器,其由所述处理器实现并被配置为:
检测与所述车辆当前相关联的场景,所述场景包括一天中的时间和相关联的事件,以及
基于所述实时信息并使用至少一个视觉特征检测模型和听觉特征检测模型来实时推定所述乘员对所述当前车辆运动的反应;
乘员运动适应器,其由所述处理器实现并被配置为响应于接收到触发信号,基于表示所述车辆的当前位置的数据、所述乘员对所述当前车辆运动的推定的反应、与所述车辆当前相关联的场景以及基于所述车辆的至少一个自身觉知性能参数生成的至少一个过滤器,自动地执行运动规划以调整所述当前车辆运动,所述至少一个自身觉知性能参数包括内在性能参数,并且所述至少一个过滤器被配置为基于所述至少一个自身觉知性能参数排除路径,所述内在性能参数具体指定限制所述车辆的运行性能的车辆内部的状况;以及
自身觉知性能参数生成器,其由所述处理器实现并被配置为基于预定计划来自动地且重复地更新所述车辆的所述至少一个自身觉知性能参数。
20.根据权利要求19所述的系统,其中,所述运动规划器被配置为进一步基于所述车辆的所述至少一个自身觉知性能参数来推定所述车辆的运行性能。
21.根据权利要求19所述的系统,其中,所述至少一个自身觉知性能参数进一步包括外在性能参数,所述外在性能参数具体指定由于所述车辆外部的状况而限制所述车辆的运行能力的至少一个外在性能参数。
22.根据权利要求19所述的系统,其中,与所述车辆当前相关联的场景进一步包括以下中的至少一者:任务、乘员的健康状况、或乘员的年龄。
23.根据权利要求19所述的系统,其中,所述乘员观察分析器被配置为通过提取与所述乘员相关联的视觉特征或听觉特征中的至少一者来推定所述乘员对所述当前车辆运动的反应。
24.根据权利要求23所述的系统,其中,所述运动规划器被配置为进一步基于以下中的至少一者来推定所述乘员的反应:乘员的明确的陈述、或乘员的推定的情绪状态。
25.根据权利要求19所述的系统,其中,所述乘员运动适应器被配置为进一步基于与乘员相关联的偏好数据来执行所述运动规划。
CN201780097486.7A 2017-12-18 2017-12-28 用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性运动规划的方法和系统 Active CN111433103B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US15/845,337 2017-12-18
US15/845,337 US20190185012A1 (en) 2017-12-18 2017-12-18 Method and system for personalized motion planning in autonomous driving vehicles
PCT/IB2017/058490 WO2019122993A1 (en) 2017-12-18 2017-12-28 Method and system for adaptive motion planning based on passenger reaction to vehicle motion in autonomous driving vehicles

Publications (2)

Publication Number Publication Date
CN111433103A CN111433103A (zh) 2020-07-17
CN111433103B true CN111433103B (zh) 2024-02-20

Family

ID=66814457

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780097486.7A Active CN111433103B (zh) 2017-12-18 2017-12-28 用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性运动规划的方法和系统

Country Status (4)

Country Link
US (2) US20190185012A1 (zh)
EP (1) EP3727972A4 (zh)
CN (1) CN111433103B (zh)
WO (1) WO2019122993A1 (zh)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190185012A1 (en) 2017-12-18 2019-06-20 PlusAI Corp Method and system for personalized motion planning in autonomous driving vehicles
US11130497B2 (en) 2017-12-18 2021-09-28 Plusai Limited Method and system for ensemble vehicle control prediction in autonomous driving vehicles
US11273836B2 (en) 2017-12-18 2022-03-15 Plusai, Inc. Method and system for human-like driving lane planning in autonomous driving vehicles
US10935975B2 (en) * 2017-12-22 2021-03-02 Tusimple, Inc. Method and system for modeling autonomous vehicle behavior
US11535262B2 (en) 2018-09-10 2022-12-27 Here Global B.V. Method and apparatus for using a passenger-based driving profile
US11358605B2 (en) * 2018-09-10 2022-06-14 Here Global B.V. Method and apparatus for generating a passenger-based driving profile
US10852746B2 (en) 2018-12-12 2020-12-01 Waymo Llc Detecting general road weather conditions
US11105645B2 (en) * 2019-05-28 2021-08-31 Glazberg, Applebaum & co. Navigation in vehicles and in autonomous cars
US11454971B2 (en) * 2019-08-29 2022-09-27 GM Global Technology Operations LLC Methods and systems for learning user preferences for lane changes
US11465611B2 (en) 2020-01-31 2022-10-11 International Business Machines Corporation Autonomous vehicle behavior synchronization
US20210380134A1 (en) * 2020-06-04 2021-12-09 Uatc, Llc Systems and Methods for Dictating Routes for Bi-Directional Vehicles
USD985619S1 (en) 2021-08-23 2023-05-09 Waymo Llc Display screen or portion thereof with graphical user interface
US11654938B1 (en) 2022-02-11 2023-05-23 Plusai, Inc. Methods and apparatus for disengaging an autonomous mode based on lateral error of an autonomous vehicle
CN114179811B (zh) * 2022-02-17 2022-06-10 北京心驰智途科技有限公司 一种获取驾驶状态的数据处理方法、设备、介质及产品

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8849494B1 (en) * 2013-03-15 2014-09-30 Google Inc. Data selection by an autonomous vehicle for trajectory modification
US8874301B1 (en) * 2013-07-09 2014-10-28 Ford Global Technologies, Llc Autonomous vehicle with driver presence and physiological monitoring
CN104331953A (zh) * 2014-10-29 2015-02-04 云南大学 一种基于物联网技术的汽车行为数据识别与管理方法
EP2915718A1 (en) * 2014-03-04 2015-09-09 Volvo Car Corporation Apparatus and method for continuously establishing a boundary for autonomous driving availability and an automotive vehicle comprising such an apparatus
CN104890595A (zh) * 2014-03-04 2015-09-09 沃尔沃汽车公司 在自动驾驶车辆中预测自动驾驶可用时间的设备和方法
WO2016012867A2 (en) * 2014-07-20 2016-01-28 Helico Aerospace Industries Sia Autonomous vehicle operation
CN106197449A (zh) * 2016-06-30 2016-12-07 中国科学院计算技术研究所 一种基于网络路径选择算法的地图路径规划方法及系统
AU2017100444A4 (en) * 2016-04-26 2017-05-18 Ratnasingam, Sivalogeswaran MR Dynamic Learning Driving System And Method
CN107207013A (zh) * 2014-12-12 2017-09-26 索尼公司 自动驾驶控制设备以及自动驾驶控制方法和程序

Family Cites Families (257)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5184303A (en) 1991-02-28 1993-02-02 Motorola, Inc. Vehicle route planning system
JP3431962B2 (ja) 1993-09-17 2003-07-28 本田技研工業株式会社 走行区分線認識装置を備えた自動走行車両
US6577334B1 (en) 1998-02-18 2003-06-10 Kabushikikaisha Equos Research Vehicle control
US6925425B2 (en) 2000-10-14 2005-08-02 Motorola, Inc. Method and apparatus for vehicle operator performance assessment and improvement
US6980098B2 (en) 2001-01-29 2005-12-27 Sony Corporation Information processing apparatus, information processing method and program executed in information processing apparatus
US6964023B2 (en) * 2001-02-05 2005-11-08 International Business Machines Corporation System and method for multi-modal focus detection, referential ambiguity resolution and mood classification using multi-modal input
KR20020094545A (ko) 2001-06-12 2002-12-18 현대자동차주식회사 자동차의 차선 이탈 방지시스템 및 그 제어방법
US6587767B2 (en) 2001-09-21 2003-07-01 Detroit Diesel Corporation Maintenance alert system for heavy-duty trucks
JP4016735B2 (ja) 2001-11-30 2007-12-05 株式会社日立製作所 レーンマーク認識方法
US6859728B2 (en) 2002-04-03 2005-02-22 Matsushita Electric Industrial Co., Ltd. Navigation system
DE10240838A1 (de) 2002-09-04 2004-03-18 Robert Bosch Gmbh Verfahren und Vorrichtung zum Erfassen von Fahrdaten
JP3885716B2 (ja) 2002-11-21 2007-02-28 日産自動車株式会社 車両用推奨操作量生成装置
US7368037B2 (en) 2003-05-21 2008-05-06 Masonite Corporation Refiner steam separation system for reduction of dryer emissions
JP3963181B2 (ja) 2003-12-03 2007-08-22 トヨタ自動車株式会社 車両の故障診断システム
US7983835B2 (en) 2004-11-03 2011-07-19 Lagassey Paul J Modular intelligent transportation system
JP4148179B2 (ja) 2004-04-23 2008-09-10 日産自動車株式会社 車線維持支援装置
JP2005339241A (ja) 2004-05-27 2005-12-08 Nissan Motor Co Ltd モデル予測制御装置および車両用推奨操作量生成装置
JP4390631B2 (ja) 2004-06-02 2009-12-24 トヨタ自動車株式会社 境界線検出装置
DE102004048010A1 (de) 2004-10-01 2006-04-06 Robert Bosch Gmbh Verfahren und Vorrichtung zur Fahrerunterstützung
US8078338B2 (en) 2004-10-22 2011-12-13 Irobot Corporation System and method for behavior based control of an autonomous vehicle
JP4743496B2 (ja) 2005-07-08 2011-08-10 アイシン・エィ・ダブリュ株式会社 ナビゲーション装置及びナビゲーション方法
US20070055431A1 (en) 2005-09-07 2007-03-08 Weiwen Deng Method and apparatus for preview-based vehicle lateral control
JP4687563B2 (ja) 2006-05-23 2011-05-25 株式会社デンソー 車両用レーンマーク認識装置
US7797108B2 (en) 2006-10-19 2010-09-14 Gm Global Technology Operations, Inc. Collision avoidance system and method of aiding rearward vehicular motion
CN101011967A (zh) 2006-12-22 2007-08-08 东风汽车有限公司 一种驻车警示系统及使用该系统的机动车
JP4453046B2 (ja) 2007-03-30 2010-04-21 アイシン・エィ・ダブリュ株式会社 車両挙動学習装置及び車両挙動学習プログラム
JP4427759B2 (ja) 2007-06-29 2010-03-10 アイシン・エィ・ダブリュ株式会社 車両挙動学習装置及び車両挙動学習プログラム
JP4453764B2 (ja) 2008-02-22 2010-04-21 トヨタ自動車株式会社 車両診断装置、車両診断システム、診断方法
JP4626663B2 (ja) 2008-03-31 2011-02-09 アイシン・エィ・ダブリュ株式会社 運転支援システム、運転支援方法及びコンピュータプログラム
US8204277B2 (en) 2008-07-18 2012-06-19 GM Global Technology Operations LLC Apparatus and method for camera-bases lane marker detection
US8909466B2 (en) 2008-08-01 2014-12-09 Environmental Systems Research Institute, Inc. System and method for hybrid off-board navigation
US8106753B2 (en) 2008-08-27 2012-01-31 The Boeing Company Determining and providing vehicle conditions and capabilities
US20100131148A1 (en) 2008-11-26 2010-05-27 Jaime Camhi System and method for estimated driver intention for driver assistance system control
JP5836565B2 (ja) 2009-03-24 2015-12-24 ディズニー エンタープライゼス インコーポレイテッド モーションキャプチャデータを模倣するロボットの追跡及びバランス維持システム及び方法
CN101596903B (zh) 2009-07-07 2012-02-15 清华大学 多功能汽车横向驾驶辅助方法及其辅助系统
US8686845B2 (en) 2010-02-25 2014-04-01 Ford Global Technologies, Llc Automotive vehicle and method for advising a driver therein
KR101340779B1 (ko) 2010-03-17 2013-12-11 주식회사 만도 기준 추종 위치 설정 방법 및 차선 유지 제어 시스템
US8392116B2 (en) 2010-03-24 2013-03-05 Sap Ag Navigation device and method for predicting the destination of a trip
US8894413B2 (en) 2010-09-22 2014-11-25 Telcordia Technologies, Inc. Architecture, method, and program for generating realistic vehicular mobility patterns
US8509982B2 (en) 2010-10-05 2013-08-13 Google Inc. Zone driving
US20120271500A1 (en) 2011-04-20 2012-10-25 GM Global Technology Operations LLC System and method for enabling a driver to input a vehicle control instruction into an autonomous vehicle controller
US9751529B2 (en) 2011-06-09 2017-09-05 GM Global Technology Operations LLC Lane sensing through lane marker identification for lane centering/keeping
US8780195B1 (en) 2011-08-31 2014-07-15 The United States Of America As Represented By The Secretary Of The Navy Fusion of multi-sensor information with operator-learned behavior for automatic and efficient recognition of objects and control of remote vehicles
JP5510471B2 (ja) 2012-01-20 2014-06-04 トヨタ自動車株式会社 運転モデルの作成装置及び運転モデルの作成方法、並びに運転評価装置及び運転評価方法、並びに運転支援システム
US9429943B2 (en) 2012-03-05 2016-08-30 Florida A&M University Artificial intelligence valet systems and methods
JP5888407B2 (ja) 2012-04-12 2016-03-22 トヨタ自動車株式会社 運転支援装置
JP5943792B2 (ja) 2012-09-24 2016-07-05 ヤフー株式会社 運転支援システム、運転支援装置、運転支援方法及びプログラム
US9361409B2 (en) 2013-01-10 2016-06-07 International Business Machines Corporation Automatic driver modeling for integration of human-controlled vehicles into an autonomous vehicle network
US9008890B1 (en) 2013-03-15 2015-04-14 Google Inc. Augmented trajectories for autonomous vehicles
US9751534B2 (en) 2013-03-15 2017-09-05 Honda Motor Co., Ltd. System and method for responding to driver state
US9103688B2 (en) 2013-08-21 2015-08-11 Continental Automotive Systems, Inc. Adapting vehicle personality using analyzed driver performance metrics
US9216745B2 (en) 2013-09-16 2015-12-22 Disney Enterprises, Inc. Shared control of semi-autonomous vehicles including collision avoidance in multi-agent scenarios
US9409549B2 (en) 2013-09-25 2016-08-09 Ford Global Technologies, Llc Autonomous vehicle window clearing
US9430882B2 (en) 2013-10-11 2016-08-30 Kenton Ho Computerized vehicle maintenance management system with embedded stochastic modelling
US9517771B2 (en) 2013-11-22 2016-12-13 Ford Global Technologies, Llc Autonomous vehicle modes
KR101502511B1 (ko) 2013-11-28 2015-03-13 현대모비스 주식회사 가상 차선 생성 장치와 방법 및 상기 장치를 구비하는 차선 유지 제어 시스템
US9165477B2 (en) 2013-12-06 2015-10-20 Vehicle Data Science Corporation Systems and methods for building road models, driver models, and vehicle models and making predictions therefrom
JP2016536220A (ja) * 2013-12-11 2016-11-24 インテル コーポレイション 個別的な運転の好みに適応された車両のコンピュータ化された支援又は自立運転
CN103646298B (zh) 2013-12-13 2018-01-02 中国科学院深圳先进技术研究院 一种自动驾驶方法及系统
US20150166069A1 (en) 2013-12-18 2015-06-18 Ford Global Technologies, Llc Autonomous driving style learning
US9355423B1 (en) 2014-01-24 2016-05-31 Allstate Insurance Company Reward system related to a vehicle-to-vehicle communication system
GB2523095B (en) 2014-02-12 2018-01-31 Jaguar Land Rover Ltd Apparatus and method for use in a vehicle
US9539999B2 (en) 2014-02-28 2017-01-10 Ford Global Technologies, Llc Vehicle operator monitoring and operations adjustments
US10692370B2 (en) 2014-03-03 2020-06-23 Inrix, Inc. Traffic obstruction detection
US9436394B2 (en) 2014-03-10 2016-09-06 Kaminario Technologies Ltd. RAID random distribution scheme
US9623878B2 (en) 2014-04-02 2017-04-18 Magna Electronics Inc. Personalized driver assistance system for vehicle
CN103985250B (zh) 2014-04-04 2016-05-18 浙江工业大学 轻量级的全息道路交通状态视觉检测装置
JPWO2015166811A1 (ja) 2014-04-30 2017-04-20 みこらった株式会社 自動運転車及び自動運転車用プログラム
WO2015192335A1 (en) 2014-06-18 2015-12-23 Empire Technology Development Llc Apparatus, methods, and systems for removing components from a circuit board
KR101555444B1 (ko) 2014-07-10 2015-10-06 현대모비스 주식회사 차량탑재 상황감지 장치 및 그 방법
US9766625B2 (en) 2014-07-25 2017-09-19 Here Global B.V. Personalized driving of autonomously driven vehicles
US9798323B2 (en) 2014-07-28 2017-10-24 GM Global Technology Operations LLC Crowd-sourced transfer-of-control policy for automated vehicles
JP6520506B2 (ja) 2014-09-03 2019-05-29 株式会社デンソー 車両の走行制御システム
CN104260725B (zh) 2014-09-23 2016-09-14 北京理工大学 一种含有驾驶员模型的智能驾驶系统
US20220244061A1 (en) 2014-10-22 2022-08-04 Transportation Ip Holdings, Llc Vehicle consumption monitoring system and method
IL305177A (en) 2014-12-15 2023-10-01 Polaris Inc Autonomously ready vehicle
CN107249954B (zh) 2014-12-29 2020-07-10 罗伯特·博世有限公司 用于使用个性化驾驶简档操作自主车辆的系统和方法
WO2016109637A1 (en) 2014-12-30 2016-07-07 Robert Bosch Gmbh Route selection based on automatic-manual driving preference ratio
KR102622571B1 (ko) 2015-02-10 2024-01-09 모빌아이 비젼 테크놀로지스 엘티디. 자율 주행을 위한 약도
JP6598019B2 (ja) 2015-04-21 2019-10-30 パナソニックIpマネジメント株式会社 運転支援方法およびそれを利用した運転支援装置、運転制御装置、車両、運転支援プログラム
WO2016170786A1 (ja) 2015-04-21 2016-10-27 パナソニックIpマネジメント株式会社 情報処理システム、情報処理方法、およびプログラム
US10627813B2 (en) 2015-04-21 2020-04-21 Panasonic Intellectual Property Management Co., Ltd. Information processing system, information processing method, and program
US9902401B2 (en) 2015-05-10 2018-02-27 Mobileye Vision Technologies Ltd. Road profile along a predicted path
US9978285B2 (en) 2015-06-10 2018-05-22 Ecole Polytechnique Federale De Lausanne (Epfl) Autonomous and non-autonomous dynamic model based navigation system for unmanned vehicles
US9443153B1 (en) 2015-06-12 2016-09-13 Volkswagen Ag Automatic labeling and learning of driver yield intention
US20160378112A1 (en) * 2015-06-26 2016-12-29 Intel Corporation Autonomous vehicle safety systems and methods
JP6332168B2 (ja) 2015-06-26 2018-05-30 株式会社デンソー 車線逸脱抑制装置
EP3326117A1 (en) 2015-07-23 2018-05-30 Toyota Motor Europe System and computer-based method for simulating a human-like control behaviour in an environmental context.
US9934688B2 (en) 2015-07-31 2018-04-03 Ford Global Technologies, Llc Vehicle trajectory determination
DE102015215079A1 (de) 2015-08-06 2017-02-09 Zf Friedrichshafen Ag Übernahmewarnung bei autonom gesteuertem Kraftfahrzeug
WO2017022448A1 (ja) 2015-08-06 2017-02-09 本田技研工業株式会社 車両制御装置、車両制御方法、および車両制御プログラム
US9933271B2 (en) * 2015-08-21 2018-04-03 Gt Gettaxi Limited System for directing a driver to a passenger based on a destination location specified by the driver
US9896100B2 (en) * 2015-08-24 2018-02-20 International Business Machines Corporation Automated spatial separation of self-driving vehicles from other vehicles based on occupant preferences
US9731726B2 (en) * 2015-09-02 2017-08-15 International Business Machines Corporation Redirecting self-driving vehicles to a product provider based on physiological states of occupants of the self-driving vehicles
US9587952B1 (en) 2015-09-09 2017-03-07 Allstate Insurance Company Altering autonomous or semi-autonomous vehicle operation based on route traversal values
US9721472B2 (en) 2015-09-22 2017-08-01 Ford Global Technologies, Llc Formulating lane level routing plans
US9815481B2 (en) 2015-09-28 2017-11-14 GM Global Technology Operations LLC Vehicle-user-interaction system
JP6922739B2 (ja) 2015-09-30 2021-08-18 ソニーグループ株式会社 情報処理装置、および情報処理方法、並びにプログラム
JP6773040B2 (ja) 2015-09-30 2020-10-21 ソニー株式会社 情報処理システム、および情報処理システムの情報処理方法、情報処理装置、並びにプログラム
US9914475B2 (en) 2015-10-05 2018-03-13 Delphi Technologies, Inc. Humanized steering model for automated vehicles
US10229363B2 (en) 2015-10-19 2019-03-12 Ford Global Technologies, Llc Probabilistic inference using weighted-integrals-and-sums-by-hashing for object tracking
US9747506B2 (en) 2015-10-21 2017-08-29 Ford Global Technologies, Llc Perception-based speed limit estimation and learning
KR101748632B1 (ko) 2015-10-29 2017-06-20 한국과학기술연구원 로봇의 구동 경로를 계획하기 위한 로봇 제어 시스템 및 로봇 구동 경로 계획방법
US9632502B1 (en) 2015-11-04 2017-04-25 Zoox, Inc. Machine-learning systems and techniques to optimize teleoperation and/or planner decisions
US9970780B2 (en) 2015-11-19 2018-05-15 GM Global Technology Operations LLC Method and apparatus for fuel consumption prediction and cost estimation via crowd sensing in vehicle navigation system
CN105376112B (zh) 2015-11-24 2018-06-19 清华大学 中间处理约束下的异构网络资源配置方法
US10202144B2 (en) 2015-12-08 2019-02-12 Ford Global Technologies, Llc Vehicle curvature determination
US20170168689A1 (en) 2015-12-14 2017-06-15 GM Global Technology Operations LLC Systems and methods for providing vehicle-related information in accord with a pre-selected information-sharing mode
US10073965B2 (en) 2015-12-15 2018-09-11 Nagravision S.A. Methods and systems for validating an autonomous system that includes a dynamic-code module and a static-code module
SG10202006239UA (en) 2016-01-03 2020-08-28 Yosef Mintz System and methods to apply robust predictive traffic load balancing control and robust cooperative safe driving for smart cities
US10386835B2 (en) 2016-01-04 2019-08-20 GM Global Technology Operations LLC System and method for externally interfacing with an autonomous vehicle
CN106989752B (zh) 2016-01-20 2020-07-17 马亨德拉雷瓦电动汽车有限公司 对具有有限的车载能量的车辆规划旅程的方法和系统
GB2546565A (en) 2016-01-20 2017-07-26 Mahindra Reva Electric Vehicles Ltd A method and system for trip planning for vehicles with limited on-board energy
US10315665B2 (en) 2016-01-29 2019-06-11 Faraday & Future Inc. System and method for driver pattern recognition, identification, and prediction
EP3417242B1 (en) 2016-02-15 2022-12-21 Allstate Insurance Company Real time risk assessment and operational changes with semi-autonomous vehicles
US9969326B2 (en) 2016-02-22 2018-05-15 Uber Technologies, Inc. Intention signaling for an autonomous vehicle
US9792575B2 (en) 2016-03-11 2017-10-17 Route4Me, Inc. Complex dynamic route sequencing for multi-vehicle fleets using traffic and real-world constraints
US10035519B2 (en) * 2016-03-15 2018-07-31 GM Global Technology Operations LLC System and method for autonomous vehicle driving behavior modification
US10124730B2 (en) 2016-03-17 2018-11-13 Ford Global Technologies, Llc Vehicle lane boundary position
US9581460B1 (en) 2016-03-29 2017-02-28 Toyota Motor Engineering & Manufacturing North America, Inc. Apparatus and method transitioning between driving states during navigation for highly automated vechicle
US9672734B1 (en) 2016-04-08 2017-06-06 Sivalogeswaran Ratnasingam Traffic aware lane determination for human driver and autonomous vehicle driving system
US20170297586A1 (en) 2016-04-13 2017-10-19 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for driver preferences for autonomous vehicles
WO2017189203A1 (en) * 2016-04-27 2017-11-02 Pcms Holdings, Inc. System and method for identifying and responding to passenger interest in autonomous vehicle events
DE102016207356A1 (de) * 2016-04-29 2017-11-02 Ford Global Technologies, Llc Verfahren zum Betrieb eines Kraftfahrzeugs
KR101795250B1 (ko) 2016-05-03 2017-11-07 현대자동차주식회사 자율주행차량의 주행경로 계획장치 및 방법
JP6368957B2 (ja) 2016-05-10 2018-08-08 本田技研工業株式会社 車両制御システム、車両制御方法、および車両制御プログラム
US9760806B1 (en) 2016-05-11 2017-09-12 TCL Research America Inc. Method and system for vision-centric deep-learning-based road situation analysis
KR102028852B1 (ko) 2016-05-27 2019-10-04 닛산 지도우샤 가부시키가이샤 운전 제어 방법 및 운전 제어 장치
CN107182206B (zh) 2016-06-08 2020-07-03 驭势科技(北京)有限公司 车辆自动驾驶的速度规划方法、装置及计算装置
CN106080590B (zh) 2016-06-12 2018-04-03 百度在线网络技术(北京)有限公司 车辆控制方法和装置以及决策模型的获取方法和装置
CN107223101A (zh) 2016-06-23 2017-09-29 驭势科技(北京)有限公司 车辆自动驾驶方法和车辆自动驾驶系统
WO2018006262A1 (zh) 2016-07-05 2018-01-11 深圳市大疆创新科技有限公司 一种联网验证的方法及装置
US10065654B2 (en) 2016-07-08 2018-09-04 Toyota Motor Engineering & Manufacturing North America, Inc. Online learning and vehicle control method based on reinforcement learning without active exploration
US10061316B2 (en) 2016-07-08 2018-08-28 Toyota Motor Engineering & Manufacturing North America, Inc. Control policy learning and vehicle control method based on reinforcement learning without active exploration
US10112611B2 (en) 2016-07-25 2018-10-30 Toyota Motor Engineering & Manufacturing North America, Inc. Adaptive vehicle control systems and methods of altering a condition of a vehicle using the same
WO2018026603A1 (en) 2016-08-02 2018-02-08 Pcms Holdings, Inc. System and method for optimizing autonomous vehicle capabilities in route planning
US20180035606A1 (en) 2016-08-05 2018-02-08 Romello Burdoucci Smart Interactive and Autonomous Robotic Property Maintenance Apparatus, System, and Method
US10107635B2 (en) * 2016-08-19 2018-10-23 Waymo Llc Method and system for determining and dynamically updating a route and driving style for passenger comfort
US10139823B2 (en) 2016-09-13 2018-11-27 Toyota Motor Engineering & Manufacturing North America, Inc. Method and device for producing vehicle operational data based on deep learning techniques
CN115343947A (zh) 2016-09-23 2022-11-15 苹果公司 自主车辆的运动控制决策
US10606276B2 (en) 2016-09-30 2020-03-31 Faraday & Future Inc. User data-based autonomous vehicle system
US11119480B2 (en) 2016-10-20 2021-09-14 Magna Electronics Inc. Vehicle control system that learns different driving characteristics
JP6731619B2 (ja) 2016-10-26 2020-07-29 パナソニックIpマネジメント株式会社 情報処理システム、情報処理方法、およびプログラム
US9989964B2 (en) 2016-11-03 2018-06-05 Mitsubishi Electric Research Laboratories, Inc. System and method for controlling vehicle using neural network
US9963106B1 (en) 2016-11-07 2018-05-08 Nio Usa, Inc. Method and system for authentication in autonomous vehicles
US10467488B2 (en) 2016-11-21 2019-11-05 TeleLingo Method to analyze attention margin and to prevent inattentive and unsafe driving
US10515390B2 (en) 2016-11-21 2019-12-24 Nio Usa, Inc. Method and system for data optimization
US11249544B2 (en) 2016-11-21 2022-02-15 TeleLingo Methods and systems for using artificial intelligence to evaluate, correct, and monitor user attentiveness
US11186297B2 (en) 2016-11-29 2021-11-30 Honda Motor Co., Ltd. Vehicle control system, vehicle control method, and vehicle control program
EP3333827A1 (en) 2016-12-12 2018-06-13 Hitachi, Ltd. Driving assistance apparatus with human machine interface system
US20180170392A1 (en) 2016-12-20 2018-06-21 Baidu Usa Llc Method and System to Recognize Individual Driving Preference for Autonomous Vehicles
KR20190091366A (ko) 2016-12-23 2019-08-05 모빌아이 비젼 테크놀로지스 엘티디. 부과된 책임 제약이 있는 항법 시스템
DE102017200149B4 (de) 2017-01-09 2022-06-15 Ford Motor Company Verfahren zum Erlernen und Überprüfen eines Fahrverhaltens eines Fahrzeugführers sowie Fahrzeug
KR102535540B1 (ko) 2017-01-12 2023-05-23 모빌아이 비젼 테크놀로지스 엘티디. 차량 움직임에 기반한 항법
US10286915B2 (en) 2017-01-17 2019-05-14 Nio Usa, Inc. Machine learning for personalized driving
US11107471B2 (en) 2017-01-20 2021-08-31 Honda Motor Co., Ltd. Dialog processing server, control method for dialog processing server, and terminal
WO2018144537A1 (en) 2017-01-31 2018-08-09 The Regents Of The University Of California Machine learning based driver assistance
US10671076B1 (en) 2017-03-01 2020-06-02 Zoox, Inc. Trajectory prediction of third-party objects using temporal logic and tree search
KR102262579B1 (ko) 2017-03-14 2021-06-09 현대자동차주식회사 차선 변경 장치, 그를 포함하는 시스템, 및 그 방법
US10209718B2 (en) 2017-03-14 2019-02-19 Starsky Robotics, Inc. Vehicle sensor system and method of use
US20190370580A1 (en) 2017-03-14 2019-12-05 Omron Corporation Driver monitoring apparatus, driver monitoring method, learning apparatus, and learning method
CN110462544A (zh) 2017-03-20 2019-11-15 御眼视觉技术有限公司 自主车辆的轨迹选择
JP6575934B2 (ja) 2017-03-29 2019-09-18 マツダ株式会社 車両運転支援システム及び車両運転支援方法
JP6555646B2 (ja) 2017-03-30 2019-08-07 マツダ株式会社 車両運転支援システム
JP6555648B2 (ja) 2017-03-30 2019-08-07 マツダ株式会社 車両運転支援システム
JP6593712B2 (ja) 2017-03-30 2019-10-23 マツダ株式会社 車両運転支援システム
US10705525B2 (en) 2017-04-07 2020-07-07 Nvidia Corporation Performing autonomous path navigation using deep neural networks
US10332320B2 (en) 2017-04-17 2019-06-25 Intel Corporation Autonomous vehicle advanced sensing and response
CN110692094B (zh) 2017-06-02 2022-02-01 本田技研工业株式会社 用于自动驾驶车的控制的车辆控制装置及方法
CN106990714A (zh) 2017-06-05 2017-07-28 李德毅 基于深度学习的适配控制方法与装置
US11042155B2 (en) 2017-06-06 2021-06-22 Plusai Limited Method and system for closed loop perception in autonomous driving vehicles
US10259468B2 (en) 2017-06-15 2019-04-16 Hitachi, Ltd. Active vehicle performance tuning based on driver behavior
US10692371B1 (en) 2017-06-20 2020-06-23 Uatc, Llc Systems and methods for changing autonomous vehicle operations based on user profiles
WO2019005547A1 (en) 2017-06-28 2019-01-03 Panasonic Intellectual Property Corporation Of America MOBILE BODY CONTROL APPARATUS, MOBILE BODY CONTROL METHOD, AND LEARNING METHOD
CN110809542B (zh) 2017-06-30 2021-05-11 华为技术有限公司 车辆的控制方法、装置及设备
US10259451B2 (en) * 2017-07-19 2019-04-16 GM Global Technology Operations LLC Motion sickness mitigation system and method
US10235881B2 (en) 2017-07-28 2019-03-19 Toyota Motor Engineering & Manufacturing North America, Inc. Autonomous operation capability configuration for a vehicle
KR102342143B1 (ko) 2017-08-08 2021-12-23 주식회사 만도모빌리티솔루션즈 딥 러닝 기반 자율 주행 차량, 딥 러닝 기반 자율 주행 제어 장치 및 딥 러닝 기반 자율 주행 제어 방법
US10532749B2 (en) 2017-08-11 2020-01-14 Uatc, Llc Systems and methods to adjust autonomous vehicle parameters in response to passenger feedback
US10311728B2 (en) 2017-08-11 2019-06-04 Here Global B.V. Method and apparatus for providing a confidence-based road event message
US11460842B2 (en) 2017-08-28 2022-10-04 Motional Ad Llc Mixed-mode driving of a vehicle having autonomous driving capabilities
US11112793B2 (en) 2017-08-28 2021-09-07 Motional Ad Llc Mixed-mode driving of a vehicle having autonomous driving capabilities
JP6912324B2 (ja) 2017-08-30 2021-08-04 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 情報処理方法、情報処理装置及び情報処理プログラム
US10254759B1 (en) 2017-09-14 2019-04-09 Waymo Llc Interactive autonomous vehicle agent
WO2019058460A1 (ja) 2017-09-20 2019-03-28 日産自動車株式会社 走行支援方法及び走行支援装置
US11243532B1 (en) 2017-09-27 2022-02-08 Apple Inc. Evaluating varying-sized action spaces using reinforcement learning
US10452956B2 (en) 2017-09-29 2019-10-22 Here Global B.V. Method, apparatus, and system for providing quality assurance for training a feature prediction model
US10902336B2 (en) 2017-10-03 2021-01-26 International Business Machines Corporation Monitoring vehicular operation risk using sensing devices
US11093829B2 (en) 2017-10-12 2021-08-17 Honda Motor Co., Ltd. Interaction-aware decision making
US10739776B2 (en) 2017-10-12 2020-08-11 Honda Motor Co., Ltd. Autonomous vehicle policy generation
US20190120640A1 (en) 2017-10-19 2019-04-25 rideOS Autonomous vehicle routing
WO2019079771A1 (en) 2017-10-20 2019-04-25 Appliedea, Inc. DIAGNOSTICS, PROGNOSTICS AND STATE MANAGEMENT FOR VEHICLES USING KINEMATIC CLUSTERS, BEHAVIORAL SENSOR DATA AND MAINTENANCE IMPACT DATA
US11221623B2 (en) 2017-11-01 2022-01-11 Florida Atlantic University Board Of Trustees Adaptive driving mode in semi or fully autonomous vehicles
US11216004B2 (en) 2017-11-07 2022-01-04 Uatc, Llc Map automation—lane classification
US11238989B2 (en) 2017-11-08 2022-02-01 International Business Machines Corporation Personalized risk prediction based on intrinsic and extrinsic factors
WO2019094843A1 (en) 2017-11-10 2019-05-16 Nvidia Corporation Systems and methods for safe and reliable autonomous vehicles
US20190168760A1 (en) 2017-12-01 2019-06-06 Steering Solutions Ip Holding Corporation Driving style evaluation system and method
US10768304B2 (en) 2017-12-13 2020-09-08 Luminar Technologies, Inc. Processing point clouds of vehicle sensors having variable scan line distributions using interpolation functions
US11273836B2 (en) 2017-12-18 2022-03-15 Plusai, Inc. Method and system for human-like driving lane planning in autonomous driving vehicles
US20190185012A1 (en) 2017-12-18 2019-06-20 PlusAI Corp Method and system for personalized motion planning in autonomous driving vehicles
US20190185010A1 (en) 2017-12-18 2019-06-20 PlusAI Corp Method and system for self capability aware route planning in autonomous driving vehicles
US11130497B2 (en) 2017-12-18 2021-09-28 Plusai Limited Method and system for ensemble vehicle control prediction in autonomous driving vehicles
US10710590B2 (en) 2017-12-19 2020-07-14 PlusAI Corp Method and system for risk based driving mode switching in hybrid driving
US10620627B2 (en) 2017-12-19 2020-04-14 PlusAI Corp Method and system for risk control in switching driving mode
US10406978B2 (en) 2017-12-19 2019-09-10 PlusAI Corp Method and system for adapting augmented switching warning
CN111527013B (zh) 2017-12-27 2024-02-23 宝马股份公司 车辆变道预测
CN111788533A (zh) 2017-12-29 2020-10-16 智加科技公司 基于立体视觉的车辆姿态估计的方法和系统
US11328210B2 (en) 2017-12-29 2022-05-10 Micron Technology, Inc. Self-learning in distributed architecture for enhancing artificial neural network
EP3732656A4 (en) 2017-12-29 2021-09-01 PlusAI Corp MULTIPLE STEREO BASED DEPTH ESTIMATION PROCESS AND SYSTEM AND COLLISION WARNING / AVOIDANCE USING IT
DE112019000070T5 (de) 2018-01-07 2020-03-12 Nvidia Corporation Führen von fahrzeugen durch fahrzeugmanöver unter verwendung von modellen für maschinelles lernen
US11392131B2 (en) 2018-02-27 2022-07-19 Nauto, Inc. Method for determining driving policy
JP7114944B2 (ja) 2018-03-07 2022-08-09 トヨタ自動車株式会社 車両に搭載される燃料電池システム
US11378956B2 (en) 2018-04-03 2022-07-05 Baidu Usa Llc Perception and planning collaboration framework for autonomous driving
US11613249B2 (en) 2018-04-03 2023-03-28 Ford Global Technologies, Llc Automatic navigation using deep reinforcement learning
US11328219B2 (en) 2018-04-12 2022-05-10 Baidu Usa Llc System and method for training a machine learning model deployed on a simulation platform
US20190344797A1 (en) 2018-05-10 2019-11-14 GM Global Technology Operations LLC Method and system for customizing a driving behavior of an autonomous vehicle
US10955842B2 (en) 2018-05-24 2021-03-23 GM Global Technology Operations LLC Control systems, control methods and controllers for an autonomous vehicle
US10860023B2 (en) 2018-06-25 2020-12-08 Mitsubishi Electric Research Laboratories, Inc. Systems and methods for safe decision making of autonomous vehicles
WO2020014683A1 (en) 2018-07-13 2020-01-16 Kache.AI Systems and methods for autonomous object detection and vehicle following
US20200031371A1 (en) 2018-07-25 2020-01-30 Continental Powertrain USA, LLC Driver Behavior Learning and Driving Coach Strategy Using Artificial Intelligence
US20200033869A1 (en) 2018-07-27 2020-01-30 GM Global Technology Operations LLC Systems, methods and controllers that implement autonomous driver agents and a policy server for serving policies to autonomous driver agents for controlling an autonomous vehicle
US10845815B2 (en) 2018-07-27 2020-11-24 GM Global Technology Operations LLC Systems, methods and controllers for an autonomous vehicle that implement autonomous driver agents and driving policy learners for generating and improving policies based on collective driving experiences of the autonomous driver agents
JP7037454B2 (ja) 2018-08-24 2022-03-16 株式会社Subaru 車両の走行制御システム
US11181921B2 (en) 2018-09-14 2021-11-23 Huawei Technologies Co., Ltd. System and method for hierarchical planning in autonomous vehicles
US10902279B2 (en) 2018-09-25 2021-01-26 Honda Motor Co., Ltd. Training saliency
KR102483649B1 (ko) 2018-10-16 2023-01-02 삼성전자주식회사 차량 위치 결정 방법 및 차량 위치 결정 장치
US10940863B2 (en) 2018-11-01 2021-03-09 GM Global Technology Operations LLC Spatial and temporal attention-based deep reinforcement learning of hierarchical lane-change policies for controlling an autonomous vehicle
US11403857B2 (en) 2018-11-19 2022-08-02 Nauto, Inc. System and method for vehicle localization
US11023745B2 (en) 2018-12-27 2021-06-01 Beijing Didi Infinity Technology And Development Co., Ltd. System for automated lane marking
US10850739B2 (en) 2018-12-31 2020-12-01 Sf Motors, Inc. Automatic lane change with lane-biased strategy
US10915109B2 (en) 2019-01-15 2021-02-09 GM Global Technology Operations LLC Control of autonomous vehicle based on pre-learned passenger and environment aware driving style profile
US11230239B2 (en) 2019-01-30 2022-01-25 Cobalt Industries Inc. Recommendation and selection of personalized output actions in a vehicle
US11410475B2 (en) 2019-01-31 2022-08-09 Micron Technology, Inc. Autonomous vehicle data recorders
US11373466B2 (en) 2019-01-31 2022-06-28 Micron Technology, Inc. Data recorders of autonomous vehicles
US11630679B2 (en) 2019-02-19 2023-04-18 Optumsoft, Inc. Using a lane-structured dynamic environment for rule-based automated control
US11169532B2 (en) 2019-03-26 2021-11-09 Intel Corporation Computer-assisted (CA)/autonomous driving (AD) vehicle inference model creation
US11260852B2 (en) 2019-03-26 2022-03-01 GM Global Technology Operations LLC Collision behavior recognition and avoidance
EP3953282A4 (en) 2019-04-08 2022-11-30 Lineage Logistics, LLC AUTOMATIC TRANSPORT OF PALLETS OF GOODS
US10699580B1 (en) 2019-04-17 2020-06-30 Guident Ltd. Methods and systems for emergency handoff of an autonomous vehicle
US11400929B2 (en) 2019-05-28 2022-08-02 GM Global Technology Operations LLC Method and apparatus for vision based lateral acceleration prediction
US11774250B2 (en) 2019-07-05 2023-10-03 Nvidia Corporation Using high definition maps for generating synthetic sensor data for autonomous vehicles
US11458974B2 (en) 2019-07-08 2022-10-04 Toyota Motor Engineering & Manufacturing North America, Inc. Fleet-based average lane change and driver-specific behavior modelling for autonomous vehicle lane change operation
US20200101974A1 (en) 2019-08-12 2020-04-02 Lg Electronics Inc. Device and method for selecting optimal travel route based on driving situation
US20210056863A1 (en) 2019-08-19 2021-02-25 Samsung Electronics Co., Ltd. Hybrid models for dynamic agents in a simulation environment
US11392796B2 (en) 2019-08-20 2022-07-19 Micron Technology, Inc. Feature dictionary for bandwidth enhancement
US11577756B2 (en) 2019-09-13 2023-02-14 Ghost Autonomy Inc. Detecting out-of-model scenarios for an autonomous vehicle
US11327492B2 (en) 2019-12-03 2022-05-10 Mitsubishi Electric Research Laboratories, Inc. Adaptive control of autonomous or semi-autonomous vehicle
US11891087B2 (en) 2019-12-20 2024-02-06 Uatc, Llc Systems and methods for generating behavioral predictions in reaction to autonomous vehicle movement
CN113044037A (zh) 2019-12-28 2021-06-29 华为技术有限公司 智能汽车的控制方法、装置和控制系统
JP7120260B2 (ja) 2020-01-30 2022-08-17 トヨタ自動車株式会社 車両制御装置
US11132897B2 (en) 2020-02-14 2021-09-28 Gm Global Technology Operations, Llc Methods, systems, and apparatuses for edge based notification through crowdsourced live fleet streamed communications
CN115175841A (zh) 2020-02-19 2022-10-11 辉达公司 自主车辆的行为规划
US20210271988A1 (en) 2020-02-28 2021-09-02 Honda Motor Co., Ltd. Reinforcement learning with iterative reasoning for merging in dense traffic
US11851078B2 (en) 2020-04-20 2023-12-26 Honda Motor Co., Ltd. Driving assistance device, driving assistance method, and storage medium
US11681296B2 (en) 2020-12-11 2023-06-20 Motional Ad Llc Scenario-based behavior specification and validation
US20220269290A1 (en) 2021-02-18 2022-08-25 Lockheed Martin Corporation Route planning among no-fly zones and terrain
US11878706B2 (en) 2021-08-19 2024-01-23 GM Global Technology Operations LLC Driver command prediction

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8849494B1 (en) * 2013-03-15 2014-09-30 Google Inc. Data selection by an autonomous vehicle for trajectory modification
US8874301B1 (en) * 2013-07-09 2014-10-28 Ford Global Technologies, Llc Autonomous vehicle with driver presence and physiological monitoring
EP2915718A1 (en) * 2014-03-04 2015-09-09 Volvo Car Corporation Apparatus and method for continuously establishing a boundary for autonomous driving availability and an automotive vehicle comprising such an apparatus
CN104890595A (zh) * 2014-03-04 2015-09-09 沃尔沃汽车公司 在自动驾驶车辆中预测自动驾驶可用时间的设备和方法
WO2016012867A2 (en) * 2014-07-20 2016-01-28 Helico Aerospace Industries Sia Autonomous vehicle operation
CN104331953A (zh) * 2014-10-29 2015-02-04 云南大学 一种基于物联网技术的汽车行为数据识别与管理方法
CN107207013A (zh) * 2014-12-12 2017-09-26 索尼公司 自动驾驶控制设备以及自动驾驶控制方法和程序
AU2017100444A4 (en) * 2016-04-26 2017-05-18 Ratnasingam, Sivalogeswaran MR Dynamic Learning Driving System And Method
CN106197449A (zh) * 2016-06-30 2016-12-07 中国科学院计算技术研究所 一种基于网络路径选择算法的地图路径规划方法及系统

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
基于复合传感实现路情实时识别和危险判断的方法及系统;邹水龙等;《移动通信》;20170815(第15期);全文 *
基于差分感知器的驾驶员路径选择偏好挖掘算法的研究;张宵达;李思达;马晓秋;郑湜;;吉林交通科技(第01期);全文 *
基于驾驶人博弈行为的交通拥塞形成期车辆运行规律分析;胡立伟;李林育;王淼;佘天毅;;人类工效学(第04期);全文 *
多源信息刺激下驾驶员综合认知拓扑结构研究;王晓原等;《交通标准化》;20070430(第04期);全文 *
智能车辆自主驾驶控制策略研究 储星;储星;中国优秀硕士学位论文全文数据库电子期刊工程科技Ⅱ辑(第4期);全文 *

Also Published As

Publication number Publication date
EP3727972A4 (en) 2021-09-08
CN111433103A (zh) 2020-07-17
US20190187708A1 (en) 2019-06-20
US20190185012A1 (en) 2019-06-20
WO2019122993A1 (en) 2019-06-27
EP3727972A1 (en) 2020-10-28
US11650586B2 (en) 2023-05-16

Similar Documents

Publication Publication Date Title
CN111433102B (zh) 用于自动驾驶车辆中的集合车辆控制预测的方法和系统
CN111433103B (zh) 用于自动驾驶车辆中的基于乘员对车辆运动的反应的适应性运动规划的方法和系统
US20220185295A1 (en) Method and system for personalized driving lane planning in autonomous driving vehicles
CN111465824A (zh) 用于自动驾驶车辆中的个性化自身性能觉知路径规划的方法和系统
CN111433101A (zh) 用于自动驾驶车辆中的个性化运动规划的方法和系统
US20200151479A1 (en) Method and apparatus for providing driver information via audio and video metadata extraction
JP2023533225A (ja) 自律走行車ポリシーを動的にキュレーションする方法及びシステム
CN111433566A (zh) 用于自动驾驶车辆中的似人驾驶车道规划的方法和系统
CN111433565A (zh) 用于自动驾驶车辆中的自身性能觉知路径规划的方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40031002

Country of ref document: HK

GR01 Patent grant
GR01 Patent grant