CN113391614A - 用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法 - Google Patents

用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法 Download PDF

Info

Publication number
CN113391614A
CN113391614A CN202011023924.5A CN202011023924A CN113391614A CN 113391614 A CN113391614 A CN 113391614A CN 202011023924 A CN202011023924 A CN 202011023924A CN 113391614 A CN113391614 A CN 113391614A
Authority
CN
China
Prior art keywords
sensor
sensors
failure
risk
autonomous vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202011023924.5A
Other languages
English (en)
Inventor
刘效东
曲宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN113391614A publication Critical patent/CN113391614A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001—Planning or execution of driving tasks
    • B60W60/0015—Planning or execution of driving tasks specially adapted for safety
    • B60W60/0016—Planning or execution of driving tasks specially adapted for safety of the vehicle or its occupants
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205—Diagnosing or detecting failures; Failure detection models
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0225—Failure correction strategy
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00—Drive control systems specially adapted for autonomous road vehicles
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0055—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements
    • G05D1/0077—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements using redundant signals or controls
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088—Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205—Diagnosing or detecting failures; Failure detection models
    • B60W2050/021—Means for detecting failure or malfunction
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205—Diagnosing or detecting failures; Failure detection models
    • B60W2050/0215—Sensor drifts or sensor failures
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B60W2420/408—

Abstract

在一个实施方式中，用于确定自动驾驶车辆(ADV)的安全冗余的能力边界的方法包括获得与ADV相关联的传感器布局，该传感器布局表示具有安装在ADV的多个位置上的多个传感器的系统。基于用于多个预定区域中的每个的一个或多个传感器的统计操作数据来估计预定区域内的一个或多个传感器的区域故障风险。基于预定区域的区域故障风险，基于传感器在预定区域上的相对位置来确定传感器的总体故障风险。基于传感器的总体故障风险来确定动态风险调整，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。

Description

用于实时确定安全冗余自动驾驶系统的能力边界和关联风险 的方法
技术领域
本公开的实施方式总体涉及操作自动驾驶车辆。更具体地，本公开的实施方式涉及一种用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法。
背景技术
以自动驾驶模式运行(例如，无人驾驶)的车辆可将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时，车辆可使用车载传感器导航到各个位置，从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
随着自动驾驶技术的发展，预计在未来的三到五年内可能出现诸如Robotaxi的自动驾驶车辆(ADV)的大规模地理围栏应用。然而，在ADV可安全地部署之前，仍有一些关键的挑战有待解决。其中的关键挑战是：(i)在限定的操作设计域(ODD)中实时确定安全冗余自动驾驶系统的能力边界与关联风险；(ii)实时监测ADV在其能力边界内的运行情况；以及(iii)赋予安全冗余自动驾驶系统实时最小风险条件(MRC)决策能力和用于内部过渡的相应安全机制。应注意，这三个关键挑战是相互依存的，以确保自动驾驶车辆的整体安全。
当前用于处理自动系统能力的工业方法是使用冗余和多样化的传感器、硬件以及算法。然而，如果安全冗余自动驾驶系统整体(主系统和后备系统)之间的能力没有进行区分和平衡，则此方法可能既昂贵又复杂。此外，关于如何估计系统能力边界和关联风险的报道非常少。
4级车辆被“设计成执行所有的安全关键驾驶功能并监视整个行程的道路状况”。然而，重要的是要注意，这仅限于车辆的“操作设计域(ODD)”—这意味着它并不涵盖ODD以外的驾驶场景，并且4级车辆在ODD内操作的风险暴露是明确定义和可容忍的。
发明内容
第一方面，本公开提供了一种用于确定自动驾驶车辆(ADV)的安全冗余的能力边界的计算机实施的方法，该方法包括：获得与ADV相关联的传感器布局，该传感器布局表示具有安装在ADV的多个位置上的多个传感器的系统，传感器布局中的多个传感器覆盖ADV周围的多个预定区域；对于多个预定区域中的每个，基于预定区域内的一个或多个传感器的统计操作数据来估计一个或多个传感器的区域故障风险；基于预定区域的区域故障风险，以及基于传感器在预定区域上的相对位置，确定传感器的总体故障风险；以及基于传感器的总体故障风险来确定动态风险调整，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。
第二方面，本公开提供了一种存储有指令的非暂时性机器可读介质，指令在由处理器执行时致使处理器执行操作，所述操作包括：获得与ADV相关联的传感器布局，该传感器布局表示具有安装在ADV的多个位置上的多个传感器的系统，传感器布局中的多个传感器覆盖ADV周围的多个预定区域；对于多个预定区域中的每个，基于预定区域内的一个或多个传感器的统计操作数据来估计一个或多个传感器的区域故障风险；基于预定区域的区域故障风险，以及基于传感器在预定区域上的相对位置，确定传感器的总体故障风险；以及基于传感器的总体故障风险来确定动态风险调整，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。
第三方面，本公开提供了一种数据处理系统，该数据处理系统包括：处理器；以及存储器，其联接至处理器以存储指令，指令在由处理器执行时致使处理器执行操作，所述操作包括：获得与ADV相关联的传感器布局，该传感器布局表示具有安装在ADV的多个位置上的多个传感器的系统，传感器布局中的多个传感器覆盖ADV周围的多个预定区域；对于多个预定区域中的每个，基于预定区域内的一个或多个传感器的统计操作数据来估计一个或多个传感器的区域故障风险；基于预定区域的区域故障风险，以及基于传感器在预定区域上的相对位置，确定传感器的总体故障风险；以及基于传感器的总体故障风险来确定动态风险调整，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。
附图说明
本公开的实施方式在附图的各图中以举例而非限制的方式示出，附图中的相同参考标记指示相似元件。
图1A是示出自动系统相关每次干预里程(MPI)的决定因素的示例的框图。
图1B是示出根据本发明的一个实施方式的管理系统能力限制相关风险的示例的框图。
图1C是示出根据本发明的一个实施方式的安全冗余模块的示例的框图。
图2是示出根据一个实施方式的自动驾驶车辆的传感器布局的示例的示意图。
图3是根据本发明的一个实施方式的安全冗余自动驾驶系统前端标称风险、动态风险调整与操作时间的曲线图。
图4A示出根据一个实施方式的安全冗余自动驾驶系统表。
图4B示出根据一个实施方式的安全冗余自动驾驶系统(仅主ADS系统)表。
图4C示出根据一个实施方式的安全冗余自动驾驶系统(仅备用ADS系统)表。
图5是示出根据本发明的一个实施方式的操作自动驾驶车辆的过程的流程图。
图6是示出根据一个实施方式的自动驾驶车辆的框图。
图7是示出根据一个实施方式的自动驾驶车辆的示例的框图。
图8是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面，附图将示出所述各种实施方式。下列描述和附图是本公开的说明，而不应当解释为对本公开进行限制。描述了许多特定细节以提供对本公开的各种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的或常规的细节，以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指同一实施方式。
根据一些实施方式，公开了一种用于确定自动驾驶车辆(ADV)的安全冗余的能力边界的计算机实施的方法。获得与ADV相关联的表示系统的传感器布局。该系统包括安装在ADV的各种位置上的传感器。传感器布局中的传感器覆盖ADV周围的预定区域。对于预定区域中的每个，基于传感器的统计操作数据来估计预定区域内的传感器的区域故障风险。然后，基于预定区域的区域故障风险，基于传感器在预定区域上的相对位置来确定传感器的总体故障风险。此后，基于传感器的总体故障风险来确定动态风险调整。动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。
在一个实施方式中，统计操作数据包括可用于导出每个传感器的平均故障间隔时间(MTBF)和传感器布局中的相应位置的数据。对于每个传感器，MTBF表示当L4 ADV在ODD内操作时相应的传感器经历假阳性或假阴性的频率。
在一个实施方式中，传感器包括向主自动驾驶系统(ADS)提供传感器数据的一组主传感器、向备用ADS提供传感器数据的一组冗余传感器以及由主ADS和备用ADS共享的一组共享传感器。传感器包括摄像机、LIDAR或雷达。
在一个实施方式中，基于驾驶环境或驾驶区域来调整每个传感器的MTBF。在一个实施方式中，预定区域包括ADV的前部区域、侧部区域和后部区域。如果传感器之一发生故障，则使用动态风险调整来确定与传感器系统相关联的风险。
在本公开的另一方面，非暂时性机器可读介质和数据处理系统执行如上所述的过程。
图1A是示出根据本发明的一个实施方式的自动系统相关MPI的决定因素的示例的框图。MPI通常用于在概念验证(POC)阶段期间评估4级自动车辆的成熟度。参考图1A，安全冗余自动驾驶系统中MPI的决定因素101包括诸如硬件、软件的系统内部故障102，其可通过ISO 26262功能安全性得到充分解决。MPI系统的决定因素还包括性能限制或缺陷103，其降低了系统理解环境和安全操作的能力。该决定因素应通过ISO 21448(预期功能的安全性或SOTIF)来解决。然而，由于SOTIF标准仍处于其早期阶段，因此它还未适于SAE 4级自动驾驶系统。此外，MPI的决定因素包括来自安全驾驶员的主观判断104，该主观判断难以量化并且需要用安全冗余自动驾驶系统的风险减轻能力(MRC)来代替，以便既符合SAE 4级又经济可行。
图1B是示出根据本发明的一个实施方式的管理系统能力限制相关风险的示例的框图。图1B描述了如何管理系统能力限制相关风险。参考图1B，风险可分类为：(i)与传感器、感知和定位相关的；以及(ii)与预测、规划和控制(运动控制)相关的。对于前者，风险最小化依赖于传感器、硬件和软件中的冗余或多样化以及避免ODD内两个系统之间的常见原因限制。因此，确定系统能力边界和关联风险是本发明的焦点。对于后者，可使用来自Mobileye的责任敏感安全(RSS)来管理相关联的风险，这是一种经过数学验证的安全策略。
图1C是示出根据本发明的一个实施方式的安全冗余模块的示例的框图。参考图1C，安全冗余自动驾驶系统平衡了以性能为导向的主ADS和以安全为重点的辅助ADS的能力。ADV主传感器105与主ADS 108通信并专用于主ADS 108。ADV冗余传感器107与辅助ADS109通信并专用于辅助ADS 109。主ADS 108和辅助ADS 109系统都与共享传感器106通信并共享该共享传感器106。主ADS 108和辅助ADS 109系统经由内部通信链路111与ADS通信。
在一个实施方式中，例如，生成车辆运动致动器命令112或车辆运动致动器后退命令113，并将其发布给车辆运动致动系统110，以在ADV的操作期间致动操作。主ADS 108负责ADV的正常自动驾驶，而备用或辅助ADS 109可响应于基于在链路111上交换的信息确定主ADS 108未能正确工作而接管ADV的控制。主ADS 108配置为基于从传感器105至106获得的传感器数据来感知ADV周围的驾驶环境，规划导航通过驾驶环境的轨迹，并生成将发布给车辆运动致动系统110的一个或多个控制命令。控制命令可包括油门命令、制动命令和转向命令。
类似地，辅助ADS 109配置为基于从传感器106至107获得的传感器数据来感知ADV周围的驾驶环境。辅助ADS 109可在正常操作期间在待机模式下操作。然而，辅助ADS 109可规划备用轨迹，以响应于基于经由链路111交换的数据确定主ADS 108未能正确地操作而将ADV置于安全位置。在这种情况下，辅助ADS 109发出一个或多个控制命令以将ADV置于安全位置，诸如将ADV停止或将ADV停放在道路一侧等。下面将进一步描述关于ADS的进一步详细信息。
在ADV的这种冗余配置中，难以确定或量化安装在ADV上的传感器的故障风险，因为可能有许多安装在车辆的不同位置上的不同类型的传感器。传感器是车辆的“眼睛”，其中，车辆依赖于传感器数据来感知车辆周围的驾驶环境。因此，重要的是估计传感器中的至少一些的故障的风险或概率以及这种潜在故障的定时，使得可安排适当的规划(例如，替换或升级传感器)以确保车辆可安全地运行。根据一个实施方式，传感器的MTBF用于根据传感器的类型(例如，主要、辅助和/或共享)和传感器的位置(例如，区域)来计算区域故障的潜在风险。即，利用传感器的MTBF来表示相应区域(例如，前部、后部、侧部区域)的故障的潜在风险。
图2是示出根据一个实施方式的自动驾驶车辆的传感器布局的示例的示意图。图2示出了传感器布局的示例，其目的是演示如何能够初步地确定系统的标称能力边界和相关联的风险。根据ADV中的传感器系统规范和传感器布局，可以为安全冗余自动驾驶系统确定具有冗余和多样化的标称传感器覆盖范围。此外，可从包括每个传感器的平均故障间隔时间(MTBF)和传感器布局中的相应位置的统计数据来估计传感器覆盖范围内的相关联的风险。在一个实施方式中，MTBF表示每个传感器指示假阳性或假阴性发生的频率。
在一个实施方式中，传感器包括向主ADS提供传感器数据的一组主传感器、向备用ADS提供传感器数据的一组冗余传感器以及由主ADS和备用ADS共享的一组共享传感器。在一个实施方式中，传感器包括摄像机、LIDAR装置或雷达装置中的一个或多个。在如图2中所示的该示例中，主传感器组包括前视摄像机、侧视摄像机、后视鱼眼摄像机和360度的LIDAR。辅助传感器包括前视LIDAR。共享传感器组包括侧倾斜的LIDAR、侧后视雷达、后视摄像机和前视雷达。应注意，传感器的类型可能影响相应区域或整个车辆的总体故障风险。
图3是根据本发明的一个实施方式的安全冗余自动驾驶系统前端标称风险、动态风险调整与操作时间的关系图。参考图3，Y轴表示风险(事故/小时)，以及X轴表示自动驾驶车辆(ADV)操作的时间刻度。
在一个实施方式中，曲线图300在X轴上示出摄像机MTBF 303、LIDAR MTBF 304和雷达MTBF 305。这里，MTBF用于表示包括解释传感器数据的算法的相应传感器经历可能使ADV处于危险中的假阳性或假阴性的频率(以小时为单位)。Y轴上的风险表示ADV由于传感器系统故障而发生事故的频率。在该示例中，传感器覆盖范围内的标称风险源自诸如图2中的特定传感器布局，并且假定两个前视LIDAR通常不会同时发生故障。
在一个实施方式中，与传感器性能限制相关联的风险Y(事故/小时)可基于以下公式来确定：
Figure BDA0002701562090000071
其中，X是传感器的MTBF。
图3示出了由于各个传感器的性能限制而引起的动态风险调整如何影响安全冗余自动驾驶系统的前端的标称风险。在一个实施方式中，即使来自传感器系统性能的标称风险302可以相当低，由于传感器303至305中的任何一个经历性能限制而引起的附加风险也不应被忽略。可使用两种方法来降低这种风险，诸如(i)利用来自传感器诊断的地面真值实时调整每个传感器的MTBF；以及(ii)当在运行过程中接近各传感器的MTBF时，采取额外的预防安全措施。
在一个实施方式中，例如，基于预定区域的区域故障风险，基于传感器在预定区域上的相对位置来确定传感器的总体故障风险。在一个实施方式中，与前端传感器相关联的总体故障风险可由N＝(10-x)*(10-2y)*(10-z)表示。变量x、y和z分别表示摄像机、LIDAR和雷达的MTBF。
对于每个传感器，基于传感器的总体故障风险来确定动态风险调整301。例如，与图2中的传感器布局相关联，根据一个实施方式，用于前端雷达的动态风险调整可由R雷达＝(10-x)*(10-2y)表示。用于前端LIDAR的动态风险调整可由RLIDAR＝(10-x)*(10-y)*(10-z)表示。用于前端摄像机的动态风险调整可由R摄像机＝(10-2y)*(10-z)表示。应注意，在如图2中所示的示例中，存在两个前视LIDAR装置，并且假设两个LIDAR装置不会同时发生故障。
返回参考图2，获得了与ADV 202相关联的传感器布局201，其表示具有安装在ADV202的各个位置上的传感器的系统。传感器布局中的传感器覆盖ADV周围的预定区域，包括前部、侧部和后部区域或视图。侧部区域/视图还可包括侧前视图、侧倾斜视图和/或侧后视图。在一个实施方式中，预定区域包括ADV的前部区域、侧部区域和后部区域。对于预定区域中的每个，基于一个或多个传感器的统计操作数据来估计预定区域内的一个或多个传感器的区域故障风险。
如图3中所示，基于预定区域的区域故障风险，基于传感器在预定区域上的相对位置来确定传感器的总体故障风险302。基于传感器的总体故障风险来确定动态风险调整301，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。在一个实施方式中，如果传感器之一发生故障，则使用动态风险调整来确定与传感器系统相关联的风险。
图4A示出了根据一个实施方式的安全冗余自动驾驶系统表。图4A中的表列出了与图1C中的安全冗余配置和图2中的传感器布局相关联的风险。图4A提供了用于主ADS和备用ADS的安全冗余自动驾驶系统的估计的总MTBF。
在一个实施方式中，10x、10y和10z分别是摄像机、LIDAR和雷达的MTBF，并且它们是相应传感器/算法性能的统计值。MTBF可通过具有特定传感器布局的车辆模拟来确定，诸如测试传感器报告对象检测的假阳性或假阴性的频率。在一个实施方式中，传感器包括主传感器、共享传感器和冗余传感器。随着MTBF的增加，与传感器系统相关联的风险降低。
在一个实施方式中，x、y和z是每个传感器的MTBF的指数因子10。参考图4A，x用于摄像机，y用于LIDAR，而z用于雷达。在一个实施方式中，基于驾驶环境或驾驶区域来调整每个传感器的MTBF。
例如，与用于主ADS系统和备用ADS系统的前端传感器相关联的总MTBF是10x+2y+z。共享传感器不被计数两次，但是在总的MTBF计算中增加了冗余传感器。换言之，在总的MTBF计算中只对共享传感器计数一次，以避免常见的原因故障或限制。用于主ADS系统的前端摄像机的MTBF为10x，LIDAR为10y，以及雷达为10z。表401可用于确定与传感器覆盖范围(即，有效传感器覆盖范围)以及经历性能限制的传感器相关联的动态风险调整。
图4B示出了根据一个实施方式的安全冗余自动驾驶系统(仅主ADS系统)表。图4B中的表列出了与图1C中的安全冗余模块和图2中的传感器布局相关联的风险。图4B提供了用于安全冗余自动驾驶系统(仅主ADS)的估计的总MTBF。例如，与用于主ADS系统的前端传感器相关联的总MTBF是10x+y+z。
图4C示出了根据一个实施方式的安全冗余自动驾驶系统(仅备用ADS系统)表。图4C中的表列出了与图1C中的安全冗余模块和图2中的传感器布局相关联的风险。图4C提供了用于安全冗余自动驾驶系统(仅备用或辅助ADS)的估计的总MTBF。例如，与用于备用ADS系统的前端传感器相关联的总MTBF是10y+z。通过计算整个ADS冗余系统，仅主系统或仅辅助系统的风险，可容易地估计在实时操作期间与上述系统中的每个相关联的风险，并采取必要的措施来确保ADV的安全性。
图5是示出根据本发明的一个实施方式的操作自动驾驶车辆的过程的流程图。过程500可由可包括软件、硬件或其组合的处理逻辑来执行。例如，过程500可由诸如图6的服务器602的服务器执行，以估计特定类型的ADV的传感器的过度风险。参考图5，在操作501中，处理逻辑获得与ADV相关联的传感器布局，该传感器布局表示具有安装在ADV的各个位置上的传感器的系统。传感器布局中的传感器覆盖ADV周围的预定区域。在操作502中，处理逻辑基于用于预定区域中的每个的一个或多个传感器的统计操作数据来估计预定区域内的一个或多个传感器的区域故障风险。在操作503中，处理逻辑基于预定区域的区域故障风险，基于传感器在预定区域上的相对位置来确定传感器的总体故障风险。在操作504中，处理逻辑基于传感器的总体故障风险来确定动态风险调整，该动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。
在一个实施方式中，基于识别出哪个传感器当前正经历性能限制以及从风险估计中排除所识别的传感器来确定动态风险调整。
图6是示出根据本公开的一个实施方式的自动驾驶车辆的框图。参考图6，一个或多个ADV 601A至601C(统称为ADV 601)可通过网络607通信地联接至一个或多个服务器602，网络607可以是任何类型的网络，例如，有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器可以是任何类型的服务器或服务器集群，诸如Web或云服务器、应用服务器、后端服务器或其组合。服务器可以是数据分析服务器。
服务器602可以是为各种客户机执行数据分析服务的数据分析系统。在一个实施方式中，数据分析系统602包括数据收集器603和数据分析模块604。数据收集器603收集来自各种车辆的驾驶统计数据608，所述车辆为自动车辆或由人类驾驶员驾驶的常规车辆。驾驶统计数据608包括指示由车辆的传感器在不同时间点捕获的车辆的发出的驾驶命令(例如，油门、制动、转向命令)和响应(例如，速度、加速、减速、方向)的信息。驾驶统计数据608还可包括描述在不同时间点的驾驶环境的信息，诸如例如路线(包括起始位置和目的地位置)、MPOI、道路状况、天气状况等。驾驶统计数据608可包括诸如传感器的MTBF的传感器的操作统计数据。
在一个实施方式中，数据收集器603获得与ADV相关联的传感器布局，其表示具有安装在ADV的各个位置上的传感器的系统。传感器布局中的传感器覆盖ADV周围的预定区域。数据分析模块604执行分析或模拟以生成MTBF表606，其表示用于相应传感器/算法性能的MTBF的统计值。MTBF通过具有特定传感器布局的车辆模拟来确定，诸如测试传感器报告对象检测的假阳性或假阴性的频率。
在一个实施方式中，算法605可包括基于用于预定区域中的每个的一个或多个传感器的统计操作数据来估计预定区域内的一个或多个传感器的区域故障风险的算法。算法605还可包括基于预定区域的区域故障风险、基于传感器在预定区域上的相对位置来确定传感器的总体故障风险的算法。此外，算法605可包括基于传感器的总体故障风险来确定动态风险调整的算法。在一个实施方式中，基于与ADV传感器布局相关联的MTBF表606来确定传感器的总体故障风险和动态风险调整。所确定的动态风险调整表示与ADV相关联的传感器系统的可靠性，用于估计ADV的自动驾驶的安全性。然后，算法605可上载到ADV上，以便在自动驾驶期间实时使用。
自动驾驶车辆是指可配置成处于自动驾驶模式下的车辆，在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可包括传感器系统，所述传感器系统具有配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆601A可在手动模式下、在全自动模式下或者在部分自动模式下运行。应注意，ADV 601A的描述也可适用于其它ADV 601B至601C。
在一个实施方式中，自动驾驶车辆601A包括，但不限于，感知与规划系统610、车辆控制系统611、无线通信系统612、用户接口系统613和传感器系统615。自动驾驶车辆601A还可包括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可由车辆控制系统611和/或感知与规划系统610使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件610至615可经由互连件、总线、网络或其组合通信地联接到彼此。例如，部件610至615可经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议，但也用于许多其它环境。
现在参考图7，在一个实施方式中，传感器系统615包括但不限于一个或多个摄像机711、全球定位系统(GPS)单元712、惯性测量单元(IMU)713、雷达单元714以及光探测和测距(LIDAR)单元715。GPS单元712可包括收发器，所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元713可基于惯性加速度来感测自动驾驶车辆的位置和定向变化。雷达单元714可表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的系统。在一些实施方式中，除感测对象之外，雷达单元714可另外感测对象的速度和/或前进方向。LIDAR单元715可使用激光来感测自动驾驶车辆所处环境中的对象。除其它系统部件之外，LIDAR单元715还可包括一个或多个激光源、激光扫描器以及一个或多个检测器。摄像机711可包括用来采集自动驾驶车辆周围环境的图像的一个或多个装置。摄像机711可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的，例如，通过将摄像机安装在旋转和/或倾斜平台上。
传感器系统615还可包括其它传感器，诸如：声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如，麦克风)。音频传感器可配置成从自动驾驶车辆周围的环境中采集声音。转向传感器可配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下，油门传感器和制动传感器可集成为集成式油门/制动传感器。
在一个实施方式中，车辆控制系统611包括但不限于转向单元701、油门单元702(也称为加速单元)和制动单元703。转向单元701用来调整车辆的方向或前进方向。油门单元702用来控制电动机或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速度。制动单元703通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意，如图7所示的部件可以以硬件、软件或其组合实施。
返回参考图6，无线通信系统612允许自动驾驶车辆601A与诸如装置、传感器、其它车辆等外部系统之间的通信。例如，无线通信系统612可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通信。无线通信系统612可使用任何蜂窝通信网络或无线局域网(WLAN)，例如，使用WiFi，以与另一部件或系统通信。无线通信系统612可例如使用红外链路、蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆601A内的扬声器)直接通信。用户接口系统613可以是在车辆601A内实施的外围装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆601A的功能中的一些或全部可由感知与规划系统610控制或管理，尤其当在自动驾驶模式下操作时。感知与规划系统610包括必要的硬件(例如，处理器、存储器、存储装置)和软件(例如，操作系统、规划和路线安排程序)，以从传感器系统615、控制系统611、无线通信系统612和/或用户接口系统613接收信息，处理所接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划和控制信息来驾驶车辆601A。可替代地，感知与规划系统610可与车辆控制系统611集成在一起。
例如，作为乘客的用户可例如经由用户接口来指定行程的起始位置和目的地。感知与规划系统610获得行程相关数据。例如，感知与规划系统610可从MPOI服务器中获得位置和路线信息。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI。可替代地，此类位置和MPOI信息可本地高速缓存在感知与规划系统610的永久性存储装置中。
当自动驾驶车辆601A沿着路线移动时，感知与规划系统610也可从交通信息系统或服务器(TIS)获得实时交通信息。应注意，服务器可由第三方实体进行操作。可替代地，服务器的功能可与感知与规划系统610集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器系统615检测或感测的实时本地环境数据(例如，障碍物、对象、附近车辆)，感知与规划系统610可规划最佳路线并且根据所规划的路线例如经由控制系统611来驾驶车辆601A，以安全且高效到达指定目的地。
图8是示出根据一个实施方式的与自动驾驶车辆一起使用的感知与规划系统的示例的框图。系统800可实施为图6的自动驾驶车辆601A的一部分，包括但不限于感知与规划系统610、控制系统611和传感器系统615。参考图8，感知与规划系统610包括但不限于定位模块801、感知模块802、预测模块803、决策模块804、规划模块805、控制模块806、路线安排模块807。
模块801至807中的一些或全部可以以软件、硬件或其组合实施。例如，这些模块可安装在永久性存储装置852中、加载到存储器851中，并且由一个或多个处理器(未示出)执行。应注意，这些模块中的一些或全部可通信地联接到图7的车辆控制系统611的一些或全部模块或者与它们集成在一起。模块801至807中的一些可一起集成为集成模块。
定位模块801确定自动驾驶车辆300的当前位置(例如，利用GPS单元712)以及管理与用户的行程或路线相关的任何数据。定位模块801(又称作为地图与路线模块)管理与用户的行程或路线相关的任何数据。用户可例如经由用户接口登录并且指定行程的起始位置和目的地。定位模块801与自动驾驶车辆601A的诸如地图与路线信息811的其它部件通信，以获得行程相关数据。例如，定位模块801可从位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI，从而可作为地图与路线信息811的一部分高速缓存。当自动驾驶车辆601A沿着路线移动时，定位模块801也可从交通信息系统或服务器获得实时交通信息。
基于由传感器系统615提供的传感器数据和由定位模块801获得的定位信息，感知模块802确定对周围环境的感知。感知信息可表示普通驾驶员在驾驶员正驾驶的车辆周围将感知到的东西。感知可包括例如采用对象形式的车道配置、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其它交通相关标志(例如，停止标志、让行标志)等。车道配置包括描述一个或多个车道的信息，诸如，例如车道的形状(例如，直线或弯曲)、车道的宽度、道路中的车道数量、单向或双向车道、合并或分开车道、出口车道等。
感知模块802可包括计算机视觉系统或计算机视觉系统的功能，以处理并分析由一个或多个摄像机采集的图像，从而识别自动驾驶车辆环境中的对象和/或特征。所述对象可包括交通信号、道路边界、其它车辆、行人和/或障碍物等。计算机视觉系统可使用对象识别算法、视频跟踪以及其它计算机视觉技术。在一些实施方式中，计算机视觉系统可绘制环境地图，跟踪对象，以及估算对象的速度等。感知模块802也可基于由诸如雷达和/或LIDAR的其它传感器提供的其它传感器数据来检测对象。
针对每个对象，预测模块803预测对象在这种情况下将如何表现。预测是基于感知数据执行的，该感知数据在考虑一组地图/路线信息811和交通规则812的时间点感知驾驶环境。例如，如果对象为相反方向上的车辆且当前驾驶环境包括十字路口，则预测模块803将预测车辆是否可能会笔直向前移动或转弯。如果感知数据表明十字路口没有交通灯，则预测模块803可能会预测车辆在进入十字路口之前可能需要完全停车。如果感知数据表明车辆目前处于左转唯一车道或右转唯一车道，则预测模块803可能预测车辆将更可能分别左转或右转。
针对每个对象，决策模块804作出关于如何处置对象的决定。例如，针对特定对象(例如，交叉路线中的另一车辆)以及描述对象的元数据(例如，速度、方向、转弯角度)，决策模块804决定如何与所述对象相遇(例如，超车、让行、停止、超过)。决策模块804可根据诸如交通规则或驾驶规则812的规则集来作出此类决定，所述规则集可存储在永久性存储装置852中。
路线安排模块807配置成提供从起始点到目的地点的一个或多个路线或路径。对于从起始位置到目的地位置的给定行程，例如从用户接收的给定行程，路线安排模块807获得路线与地图信息811，并确定从起始位置至到达目的地位置的所有可能路线或路径。路线安排模块807可生成地形图形式的参考线，它确定了从起始位置至到达目的地位置的每个路线。参考线是指不受其它诸如其它车辆、障碍物或交通状况的任何干扰的理想路线或路径。即，如果道路上没有其它车辆、行人或障碍物，则ADV应精确地或紧密地跟随参考线。然后，将地形图提供至决策模块804和/或规划模块805。决策模块804和/或规划模块805检查所有可能的路线，以根据由其它模块提供的其它数据选择和更改最佳路线中的一个，其中，其它数据诸如为来自定位模块801的交通状况、由感知模块802感知到的驾驶环境以及由预测模块803预测的交通状况。根据时间点下的特定驾驶环境，用于控制ADV的实际路径或路线可能接近于或不同于由路线安排模块807提供的参考线。
基于针对所感知到的对象中的每个的决定，规划模块805使用由路线安排模块807提供的参考线作为基础，为自动驾驶车辆规划路径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。换言之，针对给定的对象，决策模块804决定对该对象做什么，而规划模块805确定如何去做。例如，针对给定的对象，决策模块804可决定超过所述对象，而规划模块805可确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块805生成，包括描述车辆601A在下一移动循环(例如，下一路线/路径段)中将如何移动的信息。例如，规划和控制数据可指示车辆601A以30英里每小时(mph)的速度移动10米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块806根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制系统611来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息，以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如，油门、制动、转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，规划阶段在多个规划周期(也称作为驾驶周期)中执行，例如，在每个时间间隔为100毫秒(ms)的周期中执行。对于规划周期或驾驶周期中的每一个，将基于规划和控制数据发出一个或多个控制命令。即，对于每100ms，规划模块805规划下一个路线段或路径段，例如，包括目标位置和ADV到达目标位置所需要的时间。可替代地，规划模块805还可规定具体的速度、方向和/或转向角等。在一个实施方式中，规划模块805为下一个预定时段(诸如，5秒)规划路线段或路径段。对于每个规划周期，规划模块805基于在前一周期中规划的目标位置规划用于当前周期(例如，下一个5秒)的目标位置。控制模块806然后基于当前周期的规划和控制数据生成一个或多个控制命令(例如，油门、制动、转向控制命令)。
应注意，决策模块804和规划模块805可集成为集成模块。决策模块804/规划模块805可包括导航系统或导航系统的功能，以确定自动驾驶车辆的驾驶路径。例如，导航系统可确定用于影响自动驾驶车辆沿着以下路径移动的一系列速度和前进方向：所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时，基本上避免感知到的障碍物。目的地可根据经由用户接口系统613进行的用户输入来设定。导航系统可在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航系统可将来自GPS系统和一个或多个地图的数据合并，以确定用于自动驾驶车辆的驾驶路径。
应注意，如上文示出和描述的部件中的一些或全部可在软件、硬件或其组合中实施。例如，此类部件可实施为安装并存储在永久性存储装置中的软件，所述软件可通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。可替代地，此类部件可实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码，所述可执行代码可经由来自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和类似的术语均旨在与适当的物理量关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其它方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或类似电子计算装置的动作和处理，所述计算机系统或电子计算装置操控计算机系统的寄存器和存储器内的表示为物理(电子)量的数据，并将所述数据变换成计算机系统存储器或寄存器或者其它此类信息存储装置、传输或显示装置内类似地表示为物理量的其它数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机构。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可由处理逻辑来执行，所述处理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些可按不同的顺序执行。此外，一些操作可并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到，可使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本公开的实施方式进行了描述。将显而易见的是，在不脱离所附权利要求书中阐述的本公开的更宽泛精神和范围的情况下，可对本发明作出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本说明书和附图。

Claims (21)

1.一种用于确定自动驾驶车辆的安全冗余的能力边界的计算机实施的方法，所述方法包括：
获得与所述自动驾驶车辆相关联的传感器布局，所述传感器布局表示具有安装在所述自动驾驶车辆的多个位置上的多个传感器的系统，所述传感器布局中的所述多个传感器覆盖所述自动驾驶车辆周围的多个预定区域；
对于所述多个预定区域中的每个，基于所述预定区域内的一个或多个传感器的统计操作数据来估计所述一个或多个传感器的区域故障风险；
基于所述预定区域的区域故障风险，以及基于所述传感器在所述预定区域上的相对位置，确定所述传感器的总体故障风险；以及
基于所述传感器的总体故障风险来确定动态风险调整，所述动态风险调整表示与所述自动驾驶车辆相关联的传感器系统的可靠性，用于估计所述自动驾驶车辆的自动驾驶的安全性。
2.根据权利要求1所述的方法，其中，所述统计操作数据包括各传感器的平均故障间隔时间和在所述传感器布局中的相应位置，所述平均故障间隔时间表示各传感器经历假阳性或假阴性发生的频率。
3.根据权利要求1所述的方法，其中，所述多个传感器包括一组主传感器、一组冗余传感器和一组共享传感器，所述主传感器向主自动驾驶系统提供传感器数据，所述冗余传感器向备用自动驾驶系统提供传感器数据，所述共享传感器由所述主自动驾驶系统和所述备用自动驾驶系统共享。
4.根据权利要求1所述的方法，其中，所述多个传感器包括摄像机、LIDAR或雷达中的一个或多个。
5.根据权利要求2所述的方法，其中，基于驾驶环境或驾驶区域来调整每个传感器的平均故障间隔时间。
6.根据权利要求1所述的方法，其中，所述多个预定区域包括所述自动驾驶车辆的前部区域、侧部区域和后部区域。
7.根据权利要求1所述的方法，其中，所述动态风险调整用于在所述多个传感器中的一个发生故障时确定与所述传感器系统相关联的风险。
8.一种存储有指令的非暂时性机器可读介质，所述指令在由处理器执行时致使所述处理器执行操作，所述操作包括：
获得与自动驾驶车辆相关联的传感器布局，所述传感器布局表示具有安装在所述自动驾驶车辆的多个位置上的多个传感器的系统，所述传感器布局中的所述多个传感器覆盖所述自动驾驶车辆周围的多个预定区域；
对于所述多个预定区域中的每个，基于所述预定区域内的一个或多个传感器的统计操作数据来估计所述一个或多个传感器的区域故障风险；
基于所述预定区域的区域故障风险，以及基于所述传感器在所述预定区域上的相对位置，确定所述传感器的总体故障风险；以及
基于所述传感器的总体故障风险来确定动态风险调整，所述动态风险调整表示与所述自动驾驶车辆相关联的传感器系统的可靠性，用于估计所述自动驾驶车辆的自动驾驶的安全性。
9.根据权利要求8所述的机器可读介质，其中，所述统计操作数据包括各传感器的平均故障间隔时间和在所述传感器布局中的相应位置，所述平均故障间隔时间表示各传感器经历假阳性或假阴性发生的频率。
10.根据权利要求8所述的机器可读介质，其中，所述多个传感器包括一组主传感器、一组冗余传感器和一组共享传感器，所述主传感器向主自动驾驶系统提供传感器数据，所述冗余传感器向备用自动驾驶系统提供传感器数据，所述共享传感器由所述主自动驾驶系统和所述备用自动驾驶系统共享。
11.根据权利要求8所述的机器可读介质，其中，所述多个传感器包括摄像机、LIDAR或雷达中的一个或多个。
12.根据权利要求9所述的机器可读介质，其中，基于驾驶环境或驾驶区域来调整每个传感器的平均故障间隔时间。
13.根据权利要求8所述的机器可读介质，其中，所述多个预定区域包括所述自动驾驶车辆的前部区域、侧部区域和后部区域。
14.根据权利要求8所述的机器可读介质，其中，所述动态风险调整用于在所述多个传感器中的一个发生故障时确定与所述传感器系统相关联的风险。
15.一种数据处理系统，包括：
处理器；以及
存储器，联接至所述处理器以存储指令，所述指令在由所述处理器执行时致使所述处理器执行操作，所述操作包括：
获得与自动驾驶车辆相关联的传感器布局，所述传感器布局表示具有安装在所述自动驾驶车辆的多个位置上的多个传感器的系统，所述传感器布局中的所述多个传感器覆盖所述自动驾驶车辆周围的多个预定区域；
对于所述多个预定区域中的每个，基于所述预定区域内的一个或多个传感器的统计操作数据来估计所述一个或多个传感器的区域故障风险；
基于所述预定区域的区域故障风险，以及基于所述传感器在所述预定区域上的相对位置，确定所述传感器的总体故障风险；以及
基于所述传感器的总体故障风险来确定动态风险调整，所述动态风险调整表示与所述自动驾驶车辆相关联的传感器系统的可靠性，用于估计所述自动驾驶车辆的自动驾驶的安全性。
16.根据权利要求15所述的系统，其中，所述统计操作数据包括各传感器的平均故障间隔时间和在所述传感器布局中的相应位置，所述平均故障间隔时间表示各传感器经历假阳性或假阴性发生的频率。
17.根据权利要求15所述的系统，其中，所述多个传感器包括一组主传感器、一组冗余传感器和一组共享传感器，所述主传感器向主自动驾驶系统提供传感器数据，所述冗余传感器向备用自动驾驶系统提供传感器数据，所述共享传感器由所述主自动驾驶系统和所述备用自动驾驶系统共享。
18.根据权利要求15所述的系统，其中，所述多个传感器包括摄像机、LIDAR或雷达中的一个或多个。
19.根据权利要求16所述的系统，其中，基于驾驶环境或驾驶区域来调整每个传感器的平均故障间隔时间。
20.根据权利要求15所述的系统，其中，所述多个预定区域包括所述自动驾驶车辆的前部区域、侧部区域和后部区域。
21.根据权利要求15所述的系统，其中，所述动态风险调整用于在所述多个传感器中的一个发生故障时确定与所述传感器系统相关联的风险。
CN202011023924.5A 2020-03-11 2020-09-25 用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法 Pending CN113391614A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/815,266 2020-03-11
US16/815,266 US11851088B2 (en) 2020-03-11 2020-03-11 Method for determining capability boundary and associated risk of a safety redundancy autonomous system in real-time

Publications (1)

Publication Number Publication Date
CN113391614A true CN113391614A (zh) 2021-09-14

Family

ID=77616457

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011023924.5A Pending CN113391614A (zh) 2020-03-11 2020-09-25 用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法

Country Status (2)

Country Link
US (1) US11851088B2 (zh)
CN (1) CN113391614A (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11554783B2 (en) * 2020-04-15 2023-01-17 Baidu Usa Llc Systems and methods to enhance early detection of performance induced risks for an autonomous driving vehicle

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070164166A1 (en) * 2006-01-17 2007-07-19 Jukka Matti Hirvonen Apparatus and method for backup control in a distributed flight control system
CN104040606A (zh) * 2012-07-10 2014-09-10 本田技研工业株式会社 故障判定装置
US20150112731A1 (en) * 2013-10-18 2015-04-23 State Farm Mutual Automobile Insurance Company Risk assessment for an automated vehicle
US20190050692A1 (en) * 2017-12-27 2019-02-14 Vinod Sharma Context-based digital signal processing
US20190146509A1 (en) * 2017-11-14 2019-05-16 Uber Technologies, Inc. Autonomous vehicle routing using annotated maps
CN109933062A (zh) * 2017-12-15 2019-06-25 百度（美国）有限责任公司 自动驾驶车辆的报警系统
CN110667591A (zh) * 2018-07-02 2020-01-10 百度（美国）有限责任公司 用于自动驾驶车辆的规划驾驶感知系统

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10445928B2 (en) * 2017-02-11 2019-10-15 Vayavision Ltd. Method and system for generating multidimensional maps of a scene using a plurality of sensors of various types
JPWO2018173855A1 (ja) * 2017-03-21 2020-01-23 株式会社小糸製作所 センサモジュール、センサシステム、およびセンサシステムの車両への搭載方法
JP6760488B2 (ja) * 2017-04-04 2020-09-23 日産自動車株式会社 車両の制御方法及び車両の制御装置
US11214273B2 (en) * 2017-06-23 2022-01-04 Nvidia Corporation Method of using a single controller (ECU) for a fault-tolerant/fail-operational self-driving system
US10551838B2 (en) * 2017-08-08 2020-02-04 Nio Usa, Inc. Method and system for multiple sensor correlation diagnostic and sensor fusion/DNN monitor for autonomous driving application
CN111316118B (zh) * 2017-11-13 2023-07-04 三菱电机株式会社 故障检测装置、故障检测方法和计算机能读取的存储介质
US10861251B2 (en) * 2017-12-11 2020-12-08 Ford Global Technologies, Llc Vehicle maintenance operation
EP3525176A1 (en) * 2018-02-08 2019-08-14 GEOTAB Inc. Telematics predictive vehicle component monitoring system
JP7189682B2 (ja) * 2018-05-18 2022-12-14 株式会社小糸製作所 センサシステムおよび検査方法
RU2756872C1 (ru) * 2018-05-31 2021-10-06 Ниссан Норт Америка, Инк. Структура вероятностного отслеживания объектов и прогнозирования
JP6793883B2 (ja) * 2018-06-11 2020-12-02 三菱電機株式会社 車両走行制御装置、車両走行制御方法、制御回路および記憶媒体
US11208111B2 (en) * 2018-12-11 2021-12-28 Waymo Llc Redundant hardware system for autonomous vehicles
JP2020104547A (ja) * 2018-12-26 2020-07-09 株式会社日立製作所 外界センサの故障検出装置、及び、外界センサの故障検出方法
EP3868894A1 (en) * 2020-02-21 2021-08-25 Forschungszentrum Borstel, Leibniz Lungenzentrum Method for diagnosis and treatment monitoring and individual therapy end decision in tuberculosis infection
US11702104B2 (en) * 2020-04-22 2023-07-18 Baidu Usa Llc Systems and methods to determine risk distribution based on sensor coverages of a sensor system for an autonomous driving vehicle
US20230113560A1 (en) * 2021-10-11 2023-04-13 Argo AI, LLC Methods and Systems for Determining Diagnostic Coverage of Sensors to Prevent Goal Violations of Autonomous Vehicles

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070164166A1 (en) * 2006-01-17 2007-07-19 Jukka Matti Hirvonen Apparatus and method for backup control in a distributed flight control system
CN104040606A (zh) * 2012-07-10 2014-09-10 本田技研工业株式会社 故障判定装置
US20150112731A1 (en) * 2013-10-18 2015-04-23 State Farm Mutual Automobile Insurance Company Risk assessment for an automated vehicle
US20190146509A1 (en) * 2017-11-14 2019-05-16 Uber Technologies, Inc. Autonomous vehicle routing using annotated maps
CN109933062A (zh) * 2017-12-15 2019-06-25 百度（美国）有限责任公司 自动驾驶车辆的报警系统
US20190050692A1 (en) * 2017-12-27 2019-02-14 Vinod Sharma Context-based digital signal processing
CN110667591A (zh) * 2018-07-02 2020-01-10 百度（美国）有限责任公司 用于自动驾驶车辆的规划驾驶感知系统

Also Published As

Publication number Publication date
US11851088B2 (en) 2023-12-26
US20210284200A1 (en) 2021-09-16

Similar Documents

Publication Publication Date Title
CN110239562B (zh) 自动驾驶车辆的基于周围车辆行为的实时感知调整与驾驶调适
US11345359B2 (en) Autonomous driving vehicles with dual autonomous driving systems for safety
US11724708B2 (en) Fail-safe handling system for autonomous driving vehicle
EP3882100B1 (en) Method for operating an autonomous driving vehicle
US11613254B2 (en) Method to monitor control system of autonomous driving vehicle with multiple levels of warning and fail operations
JP7073456B2 (ja) 自動運転システムに対するスプーフィング攻撃を検出する方法
US11225228B2 (en) Method for enhancing in-path obstacle detection with safety redundancy autonomous system
US11662730B2 (en) Hierarchical path decision system for planning a path for an autonomous driving vehicle
EP3882099A1 (en) Scenario based control of autonomous driving vehicle
CN112526960A (zh) 自动驾驶监控系统
CN112829769A (zh) 自动驾驶车辆的混合规划系统
CN113129624A (zh) 交通堵塞情况下的最快车道确定算法
CN112230646A (zh) 设计用于单车运行的自动驾驶系统下的车辆队列实施
CN112230645A (zh) 用于控制无人驾驶车辆的操纵杆控制的安全机制
CN113391614A (zh) 用于实时确定安全冗余自动驾驶系统的能力边界和关联风险的方法
EP4026747A1 (en) Sound source detection and localization for autonomous driving vehicle
US11656262B2 (en) Software simulation system for indoor EMC test
US11679761B2 (en) Forward collision warning alert system for autonomous driving vehicle safety operator
US11580789B2 (en) System load based safety operator warning system
US20230244471A1 (en) Information processing apparatus, information processing method, information processing system, and program
US20240101079A1 (en) Activation of primary and secondary brake systems for autonomous vehicles
CN116643565A (zh) 计算机执行的方法、电子设备和存储介质
CN113353005A (zh) 用于处理自动驾驶系统与车辆之间的通信延迟的系统
CN113834636A (zh) 用于自动驾驶车辆的脏单目摄像机检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination