CN110641472A - 基于神经网络的用于自主车辆的安全监控系统 - Google Patents

基于神经网络的用于自主车辆的安全监控系统 Download PDF

Info

Publication number
CN110641472A
CN110641472A CN201910036962.5A CN201910036962A CN110641472A CN 110641472 A CN110641472 A CN 110641472A CN 201910036962 A CN201910036962 A CN 201910036962A CN 110641472 A CN110641472 A CN 110641472A
Authority
CN
China
Prior art keywords
user
intervene
machine learning
sensor
autonomous vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910036962.5A
Other languages
English (en)
Other versions
CN110641472B (zh
Inventor
张亮亮
杨光
胡江滔
李栋
缪景皓
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN110641472A publication Critical patent/CN110641472A/zh
Application granted granted Critical
Publication of CN110641472B publication Critical patent/CN110641472B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0055—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0055—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements
    • G05D1/0061—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots with safety arrangements for transition from automatic pilot to manual pilot and vice versa
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29—Geographical information databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition
    • G06N5/025—Extracting rules from data
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G06N5/046—Forward inferencing; Production systems
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W2050/0062—Adapting control system settings
    • B60W2050/007—Switching between manual and automatic parameter input, and vice versa
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143—Alarm means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/408—Radar; Laser, e.g. lidar
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/10—Machine learning using kernel methods, e.g. support vector machines [SVM]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G06N20/20—Ensemble learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Remote Sensing (AREA)
  • Computing Systems (AREA)
  • Transportation (AREA)
  • Human Computer Interaction (AREA)
  • Computational Linguistics (AREA)
  • Mechanical Engineering (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

根据一个实施方式，系统从自动驾驶车辆的多个传感器接收传感器数据。系统利用机器学习模型从传感器数据提取预定数量的特征。系统基于利用机器学习模型所提取的特征，确定是否提醒用户干预自动驾驶系统。之后，系统基于对是否提醒用户干预自动驾驶系统的确定而生成安全警报，并且基于所生成的安全警报提醒用户干预自动驾驶车辆的自动驾驶系统。

Description

基于神经网络的用于自主车辆的安全监控系统
技术领域
本公开的实施方式大体涉及操作自主车辆。更具体地，本公开的实施方式涉及用于自动驾驶车辆(ADV)的基于神经网络的安全监控系统。
背景技术
以自动驾驶模式运行(例如，无人驾驶)的车辆可以将乘员、尤其是驾驶员从一些驾驶相关的职责中解放出来。当以自动驾驶模式运行时，车辆可以使用车载传感器导航到各个位置，从而允许车辆在最少人机交互的情况下或在没有任何乘客的一些情况下行驶。
出于安全考虑，自动驾驶和驾驶员辅助技术需要安全监控系统，以在潜在的不安全情况中发出警报和/或提醒人类驾驶员接管ADV的驾驶任务。不安全情况的其中一示例在ADV的自动驾驶系统(ADS)的任何关键子系统无法生成解决方案或者ADS中出现错误时发生。
发明内容
在本公开的一实施方式中，提供了用于提醒用户干预自动驾驶车辆(ADV)的自动驾驶系统(ADS)的计算机实施方法，所述方法包括：从所述自动驾驶车辆的多个传感器接收传感器数据；利用机器学习模型从所述传感器数据提取预定数量的特征；
基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的自动驾驶系统。
在本公开的另一实施方式中，提供了非暂时性机器可读介质，在所述非暂时性机器可读介质中存储有指令，所述指令在被处理器执行时致使所述处理器执行操作，所述操作包括：从自动驾驶车辆的多个传感器接收传感器数据；利用机器学习模型从所述传感器数据提取预定数量的特征；基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的自动驾驶系统。
在本公开的又一实施方式中，提供了数据处理系统，包括：处理器；以及存储器，联接至所述处理器并用存储指令，所述指令在被所述处理器执行时致使所述处理器执行操作，所述操作包括：从自动驾驶车辆的多个传感器接收传感器数据；利用机器学习模型从所述传感器数据提取预定数量的特征；基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的所述自动驾驶系统。
附图说明
通过示例而非限制的方式在附图的各图中示出本公开的实施方式，在附图中，相似的标记指代相似的元件。
图1是示出根据一个实施方式的联网系统的框图。
图2是示出根据一个实施方式的由自主车辆使用的传感器和控制系统的示例的框图。
图3A至图3B是示出根据一些实施方式的由自主车辆使用的感知和规划系统的示例的框图。
图4是示出根据一个实施方式的安全监控系统的示例的框图。
图5是示出根据一个实施方式的具有自动驾驶系统和安全监控系统的ADV的示例的框图。
图6是示出根据一个实施方式的用于安全监控系统的神经网络的示例的框图。
图7是示出根据一个实施方式的方法的流程图。
图8是示出根据一个实施方式的数据处理系统的框图。
具体实施方式
将参考以下所讨论的细节来描述本公开的各种实施方式和方面，附图将示出所述各种实施方式。下列描述和附图是对本公开的说明，而不应当解释为限制本公开。描述了许多特定细节以提供对本公开各种实施方式的全面理解。然而，在某些情况下，并未描述众所周知的或常规的细节以提供对本公开的实施方式的简洁讨论。
本说明书中对“一个实施方式”或“实施方式”的提及意味着结合该实施方式所描述的特定特征、结构或特性可以包括在本公开的至少一个实施方式中。短语“在一个实施方式中”在本说明书中各个地方的出现不必全部指同一实施方式。
公开了用于ADV的安全监控系统，该安全监控系统与自动驾驶系统并行地运行从而为ADV的驾驶员提供安全警报。安全监控系统可接收输入数据，诸如传感器数据、车辆状态数据和/或用于ADV的地图数据，并且利用机器学习模型确定是否应当启用警报。
安全监控系统可自我改进，因为它可记录紧邻任何警报启用和/或用户干预/接管之前和/或之后的一组输入数据，以在稍后用作训练数据从而改进机器学习模型。
根据一个实施方式，系统从ADV的诸多传感器接收传感器数据。系统利用机器学习模型从传感器数据提取预定数量的特征。系统基于利用机器学习模型所提取的特征，确定是否提醒用户干预ADS。之后，系统基于对是否警示用户干预ADS的确定而生成安全警报，并且基于所生成的安全警报提醒用户干预ADV的ADS。
图1是示出根据本公开的一个实施方式的自动驾驶车辆网络配置的框图。参考图1，网络配置100包括可以通过网络102通信地联接到一个或多个服务器103至104的自动驾驶车辆101。尽管示出一个自动驾驶车辆，但多个自动驾驶车辆可以通过网络102联接到彼此和/或联接到服务器103至104。网络102可以是任何类型的网络，例如，有线或无线的局域网(LAN)、诸如互联网的广域网(WAN)、蜂窝网络、卫星网络或其组合。服务器103至104可以是任何类型的服务器或服务器群集，诸如，网络或云服务器、应用服务器、后端服务器或其组合。服务器103至104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或者位置服务器等。
自动驾驶车辆是指可以被配置成处于自动驾驶模式下的车辆，在所述自动驾驶模式下车辆在极少或没有来自驾驶员的输入的情况下导航通过环境。这种自动驾驶车辆可以包括传感器系统，所述传感器系统具有被配置成检测与车辆运行环境有关的信息的一个或多个传感器。所述车辆和其相关联的控制器使用所检测的信息来导航通过所述环境。自动驾驶车辆101可以在手动模式下、在全自动驾驶模式下或者在部分自动驾驶模式下运行。
在一个实施方式中，自动驾驶车辆101包括，但不限于，感知与规划系统110、车辆控制系统111、无线通信系统112、用户接口系统113和传感器系统115。自动驾驶车辆101还可以包括普通车辆中包括的某些常用部件，诸如：发动机、车轮、方向盘、变速器等，所述部件可以由车辆控制系统111和/或感知与规划系统110使用多种通信信号和/或命令进行控制，该多种通信信号和/或命令例如，加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等。
部件110至115可以经由互连件、总线、网络或其组合通信地联接到彼此。例如，部件110至115可以经由控制器局域网(CAN)总线通信地联接到彼此。CAN总线是被设计成允许微控制器和装置在没有主机的应用中与彼此通信的车辆总线标准。它是最初是为汽车内的复用电气布线设计的基于消息的协议，但也用于许多其他环境。
现在参考图2，在一个实施方式中，传感器系统115包括但不限于一个或多个摄像机211、全球定位系统(GPS)单元212、惯性测量单元(IMU)213、雷达(RADAR)单元214以及光探测和测距(LIDAR)单元215。GPS系统212可以包括收发器，所述收发器可操作以提供关于自动驾驶车辆的位置的信息。IMU单元213可以基于惯性加速度来感测自动驾驶车辆的位置和定向变化。雷达单元214可以表示利用无线电信号来感测自动驾驶车辆的本地环境内的对象的系统。在一些实施方式中，除感测对象之外，雷达单元214可以另外感测对象的速度和/或前进方向。LIDAR单元215可以使用激光来感测自动驾驶车辆所处环境中的对象。除其他系统部件之外，LIDAR单元215还可以包括一个或多个激光源、激光扫描器以及一个或多个检测器。摄像机211可以包括用来收集自动驾驶车辆周围环境的图像的一个或多个装置。摄像机211可以是静物摄像机和/或视频摄像机。摄像机可以是可机械地移动的，例如，通过将摄像机安装在旋转和/或倾斜平台上。
传感器系统115还可以包括其他传感器，诸如：声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器以及音频传感器(例如，麦克风)。音频传感器可以被配置成从自动驾驶车辆周围的环境中收集声音。转向传感器可以被配置成感测方向盘、车辆的车轮或其组合的转向角度。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情形下，油门传感器和制动传感器可以集成为集成式油门/制动传感器。
在一个实施方式中，车辆控制系统111包括但不限于转向单元201、油门单元202(也被称为加速单元)和制动单元203。转向单元201用来调整车辆的方向或前进方向。油门单元202用来控制电动机或发动机的速度，电动机或发动机的速度进而控制车辆的速度和加速度。制动单元203通过提供摩擦使车辆的车轮或轮胎减速而使车辆减速。应注意，如图2所示的部件可以以硬件、软件或其组合实施。
回到图1，无线通信系统112允许自动驾驶车辆101与诸如装置、传感器、其他车辆等外部系统之间的通信。例如，无线通信系统112可以与一个或多个装置直接无线通信，或者经由通信网络进行无线通信，诸如，通过网络102与服务器103至104通信。无线通信系统112可以使用任何蜂窝通信网络或无线局域网(WLAN)，例如，使用WiFi，以与另一部件或系统通信。无线通信系统112可以例如使用红外链路、蓝牙等与装置(例如，乘客的移动装置、显示装置、车辆101内的扬声器)直接通信。用户接口系统113可以是在车辆101内实施的外围装置的部分，包括例如键盘、触摸屏显示装置、麦克风和扬声器等。
自动驾驶车辆101的功能中的一些或全部可以由感知与规划系统110控制或管理，尤其当在自动驾驶模式下操作时。感知与规划系统110包括必要的硬件(例如，处理器、存储器、存储设备)和软件(例如，操作系统、规划和路线安排程序)，以从传感器系统115、控制系统111、无线通信系统112和/或用户接口系统113接收信息，处理所接收的信息，规划从起始点到目的地点的路线或路径，随后基于规划和控制信息来驾驶车辆101。替代地，感知与规划系统110可以与车辆控制系统111集成在一起。
例如，作为乘客的用户可以例如经由用户接口来指定行程的起始位置和目的地。感知与规划系统110获得行程相关数据。例如，感知与规划系统110可以从MPOI服务器中获得位置和路线信息，所述MPOI服务器可以是服务器103至104的一部分。位置服务器提供位置服务，并且MPOI服务器提供地图服务和某些位置的POI。替代地，此类位置和MPOI信息可以本地高速缓存在感知与规划系统110的永久性存储装置中。
当自动驾驶车辆101沿着路线移动时，感知与规划系统110也可以从交通信息系统或服务器(TIS)获得实时交通信息。应注意，服务器103至104可以由第三方实体进行操作。替代地，服务器103至104的功能可以与感知与规划系统110集成在一起。基于实时交通信息、MPOI信息和位置信息以及由传感器系统115检测或感测的实时本地环境数据(例如，障碍物、对象、附近车辆)，感知与规划系统110可以规划最佳路线并且根据所规划的路线例如经由控制系统111来驾驶车辆101，以安全且高效到达指定目的地。
服务器103可以是用于针对多种客户端执行数据分析服务的数据分析系统。在一个实施方式中，数据分析系统103包括数据收集器121和机器学习引擎122。数据收集器121从各种车辆收集驾驶统计数据123，所述车辆包括自主车辆或由人类驾驶员驾驶的常规车辆。驾驶统计数据123包括指示所发布的驾驶命令(例如，油门命令、制动命令、转向命令)的信息以及在不同的时间点由车辆的传感器获取的车辆响应(例如，速度、加速、减速、方向)。驾驶统计数据123还可包括描述不同的时间点处的驾驶环境的信息，例如，路线(包括起始点位置和目的地位置)、MPOI、道路状况、天气状况等。驾驶统计数据123可包括紧邻ADV的安全干预/驾驶员接管之前或之后的用于ADV传感器数据和地图数据。
基于驾驶统计数据123，机器学习引擎122出于多种目的生成或训练规则、算法和/或模型124的集合。在一个实施方式中，例如，算法/模型124可包括用于确定是否启用安全警报以使驾驶员干预ADV的ADS的算法/模型。然后，机器学习模型可被上传至ADV以被ADV实时使用。注意，模型124可包括但不限于神经网络(完全连接、部分连接或它们的组合)、支持向量机(SVM)、线性回归、k-近邻法、朴素贝叶斯、K均值以及随机森林模型。
图3A和图3B是示出根据一个实施方式的与自主车辆一起使用的感知和规划系统的示例的框图。系统300可实现为图1的自主车辆101的一部分，包括但不限于感知和规划系统110、控制系统111和传感器系统115。参照图3A至图3B，感知和规划系统110包括但不限于：定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306、导航模块307以及安全监控系统308。
模块301-308中的一些或全部可为实现为软件、硬件或它们的组合。例如，这些模块可安装在永久性存储设备352中、加载到存储器351中并且被一个或多个处理器(未示出)执行。值得一提的是，这些模块中的一些或全部可通信地联接至图2的车辆控制系统111的一些或全部模块或之与集成。模块301-308中的一些可一起集成为集成模块。例如，决策模块304和规划模块305可集成为单个模块。
定位模块301(例如，利用GPS单元212)确定自主车辆300的当前位置，并且管理与用户的行程或路线相关的任何数据。定位模块301(也称为地图和导航模块)管理与用户的行程或路线相关的任何数据。用户可例如经由用户接口登陆并指定行程的起始点位置和目的地点。定位模块301与自主车辆300的其他组件(例如地图和路线信息311)通信，以获得行程相关数据。例如，定位模块301可从位置服务器以及地图和POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务并且MPOI服务器提供地图服务和某些位置的POI，其可作为地图和路线信息311的一部分被缓存。当自主车辆300沿着路线移动时，定位模块301还可从交通信息系统或服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和通过定位模块301获得的定位信息，感知模块302确定对周围环境的感知。感知信息可代表在驾驶员正在驾驶的车辆周围普通驾驶员将感知到什么。感知信息可包括车道配置(例如，直车道或弯车道)、交通灯信号、另一车辆的相对位置、行人、建筑物、人行横道或其他交通相关标志(例如，停车标志、让路标志)等，其例如呈对象的形式。车道配置包括描述车道或各车道的信息，例如，车道的形状(例如，直的或弯的)、车道的宽度、道路中有多少车道、单向车道或双向车道、汇入车道或分割车道、驶出车道等。
感知模块302可包括计算机视觉系统或计算机视觉系统的功能，以处理和分析通过一个或多个相机获取的图像，从而识别在自主车辆的环境中的对象和/或特征。对象可包括交通信号、车行道边界、其他车辆、行人和/或障碍物等。计算机视觉系统可使用对象识别算法、视频追踪以及其他计算机视觉方法。在一些实施方式中，计算机视觉系统可绘制环境、追踪对象和对对象速度的估计等的地图。感知模块302还可基于由其他传感器(诸如雷达和/或LIDAR)提供的其他传感器数据来检测对象。
对于对象中的每一个，预测模块303预测在各个状况下对象将做出何种行为。所述预测根据地图/路线信息311和交通规则312的集合、基于在各时间点处感知驾驶环境所得的感知数据来执行。例如，如果对象是相反方向上的车辆且当前驾驶环境包括交叉路口，则预测模块303将预测车辆是否将可能直线向前移动或者进行转弯。如果感知数据指示交叉路口处没有交通灯，则预测模块303可预测出车辆可能必须在进入交叉路口之前完全停止。如果感知数据指示车辆当前位于仅左转车道或仅右转车道处，则预测模块303可分别预测出车辆将更可能进行左转弯或右转弯。
对于对象中的每一个，决策模块304做出与如何处理对象有关的决策。例如，对于特定对象(例如，交叉路线中的另一车辆)和描述该对象的其元数据(例如，速度、方向、转弯角度)，决策模块304决定如何与对象会车(例如，赶超、让路、停止、经过)。决策模块304可根据规则集合做出这样的决定，所述规则集合诸如交通规则或驾驶规则312且可存储在永久性存储设备352中。
导航模块307配置为提供从起始点到目的地点的一个或多个路线或路径。导航模块307获得对于例如从用户接收的、从起始点位置到目的地位置的给定行程的路线和地图信息311，并且确定从起始点位置到达目的地位置的全部可能的路线或路径。针对所确定的从起始点位置到达目的地位置的路线中的每一个，导航模块307可生成呈地形图形式的参考线路。参考线路表示在没有来自其他(诸如其他车辆、障碍物或交通状况)的任何干扰的情况下的理想路线或路径。换言之，如果道路上不存在其他车辆、行人或障碍物，则ADV应精确地或紧密地跟随参考线路。然后，地形图被提供至决策模块304和/或规划模块305。决策模块304和/或规划模块305检查全部的可能路线，以根据由其他模块提供的其他数据(诸如来自定位模块301的交通状况、由感知模块302感知的驾驶环境以及通过预测模块303预测的交通状况)选择和修改最佳路线之一。用于控制ADV的实际路径或路线可根据各时间点处的特定驾驶环境而接近或不同于由导航模块307提供的参考线路。
基于针对所感知到的对象中的每个的决定，规划模块305为自动驾驶车辆规划路径或路线以及驾驶参数(例如，距离、速度和/或转弯角度)。换言之，针对给定的对象，决策模块304决定对该对象做什么，而规划模块305确定如何去做。例如，针对给定的对象，决策模块304可以决定超过所述对象，而规划模块305可以确定在所述对象的左侧还是右侧超过。规划和控制数据由规划模块305生成，包括描述车辆300在下一移动循环(例如，下一路线/路径段)中将如何移动的信息。例如，规划和控制数据可以指示车辆300以30英里每小时(mph)的速度移动10米，随后以25mph的速度变到右侧车道。
基于规划和控制数据，控制模块306根据由规划和控制数据限定的路线或路径通过将适当的命令或信号发送到车辆控制系统111来控制并驾驶自动驾驶车辆。所述规划和控制数据包括足够的信息，以沿着路径或路线在不同的时间点使用适当的车辆设置或驾驶参数(例如，油门、制动和转弯命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施方式中，规划阶段以多个规划周期(也称为命令周期)执行，例如，每隔100毫秒(ms)的时间间隔执行。对于规划周期或命令周期中的每个，将基于规划和控制数据发出一个或多个控制命令。也就是说，针对每100ms，规划模块305规划下一路线段或路径段，例如，包括目标位置和ADV到达目标位置所需要的时间。可替代地，规划模块305还可指定具体速度、方向和/或转向角度等。在一个实施方式中，规划模块305规划用于下一预定时间段(例如5秒)的路线段或路径段。对于每个规划周期，规划模块305基于在前一周期中规划的目标位置来规划对于当前周期的目标位置(例如，下一个5秒)。然后，控制模块306基于当前周期的规划和控制数据生成一个或多个控制命令(例如，油门、制动、转向控制命令)。
应注意，决策模块304和规划模块305可以集成为集成模块。决策模块304/规划模块305可以包括导航系统或导航系统的功能，以确定自动驾驶车辆的驾驶路径。例如，导航系统可以确定用于实现自动驾驶车辆沿着以下路径移动的一系列速度和前进方向：所述路径在使自动驾驶车辆沿着通往最终目的地的基于车行道的路径前进的同时，基本上避免感知到的障碍物。目的地可以根据经由用户接口系统113进行的用户输入来设定。导航系统可以在自动驾驶车辆正在运行的同时动态地更新驾驶路径。导航系统可以将来自GPS系统和一个或多个地图的数据合并，以确定用于自动驾驶车辆的驾驶路径。
决策模块304/规划模块305还可以包括防撞系统或防撞系统的功能，以识别、评估并且避免或以其他方式越过自动驾驶车辆的环境中的潜在障碍物。例如，防撞系统可以通过以下方式实现自动驾驶车辆的导航中的变化：操作控制系统111中的一个或多个子系统来采取变向操纵、转弯操纵、制动操纵等。防撞系统可以基于周围的交通模式、道路状况等自动确定可行的障碍物回避操纵。防撞系统可以被配置成使得当其他传感器系统检测到位于自动驾驶车辆将变向进入的相邻区域中的车辆、建筑障碍物等时不采取变向操纵。防撞系统可以自动选择既可使用又使得自动驾驶车辆乘员的安全性最大化的操纵。防撞系统可以选择预测使得自动驾驶车辆的乘客舱中出现最小量的加速度的避让操纵。
图4是示出根据一个实施方式的安全监控系统的示例的框图。参照图4，安全监控系统308可监视诸多传感器数据、车辆状态数据和/或HD地图数据，以确定是否生成提醒ADV的驾驶员接管ADV的ADS的安全警报。安全监控系统308可包括传感器/地图数据接收器模块401、特征提取器模块403、提醒确定器模块405、安全警报生成器模块407和安全警报提醒模块409。传感器/地图数据接收器模块401可监视/接收多种传感器/地图数据(例如，LIDAR、RADAR、GPS、相机、IMU、HD地图等)。特征提取器模块403可从传感器/地图数据提取多个的特征。提醒确定器模块405可确定是否生成安全警报提醒。安全警报生成器模块407可生成安全警报提醒，并且安全警报提醒模块409可通过声音、动作、振动和/或视觉提示启用安全警报提醒，以提醒ADV的驾驶员接管ADV的ADS，例如，将其手放置在方向盘上并将其脚放置在油门或制动踏板上。
图5是示出根据一个实施方式的具有自动驾驶系统(ADS)和安全监控系统的ADV的示例的框图。参照图5，在一个实施方式中，系统500包括与安全监控系统308并行运行的ADS505。ADS 505可包括图3B的导航模块307、感知模块302、预测模块303以及决策/规划模块304-305。ADS 505和安全监控系统308两者均可联接至传感器数据/车辆状态501以接收传感器数据和ADV 101的车辆状态。在一个实施方式中，ADS 505和安全监控系统308两者均可联接至HD地图503(作为图3A的地图和路线信息311的一部分)以接收ADV的HD地图数据。ADS505基于传感器数据/车辆状态501和/或HD地图数据503(如果可用的话)，生成供控制模块306使ADV 101转向、加速和/或制动的驾驶轨迹。传感器数据/车辆状态501和/或HD地图数据503同时被安全监控系统308使用，以从这些数据提取多个特征从而确定是否应生成并提醒安全警报507。
图6是示出根据一个实施方式的用于安全监控系统的神经网络的示例的框图。参照图6，在一个实施方式中，神经网络600的模型(例如，用于安全监控系统308的机器学习模型)可基于输入数据(例如，传感器数据、车辆状态和/或HD地图等)来检测警报状况，这发生在ADV的ADS检测到不安全情况数秒之前。在一个实施方式中，网络600联接至传感器1、2、…N。传感器可以是LIDAR、RADAR、相机、IMU、GPS等。来自传感器中的每一个的数据输入可馈入一个或多个完全连接的层中。注意，神经网络是这样的机器学习模型，其能够通过考虑实例(例如，利用输入/输出场景进行训练)来学习执行任务，而不需要利用任何任务特定的规则进行编程。神经网络是基于一系列的隐藏层或内部层中的大量神经单元或神经元的计算机方法。每个隐藏层由一组神经元构成，其中，每个神经元连接至前一层中的一个或多个神经元并且单层中的神经元能够完全独立地工作而不会与该层中的其他神经元共享任何连接。神经网络自我进行学习和训练，而不是明确地被编程。完全连接的层是使神经元完全连接至前一层中的所有神经元的内部层。
在一个实施方式中，针对传感器输入中的每一个使用两个完全连接的层。第一层可具有等于特征尺寸×传感器的数据输入的数量的大小。然后，第一层折叠到第二层中，该第二层具有特征尺寸×1的大小。可基于相应传感器的复杂性预先确定特征尺寸，例如，64、128、256、512等。例如，传感器1可以是具有四个输入数据点(例如，x、y、z、反射率(reflection))的LIDAR传感器，并且传感器1的第一层可具有128×4的大小(例如，对于四个数据输入点中的每一个，具有128个特征)。于是，传感器1的第二层可具有128×1的大小。在另一示例中，传感器2可以是具有五个数据输入点(例如，x、y、z、速度、加速度)的IMU传感器。在这种情况中，传感器2的第一层可具有128×5的大小(例如，对于5个数据输入中的每一个，具有128个特征)，并且传感器2的第二层可具有128×1的大小。在另一示例中，传感器N可以是相机传感器，该相机传感器可与具有128×3(例如，128个像素以及三个颜色通道：红、绿和蓝作为输入数据点)的大小的第一层以及具有128×1的大小的第二层对应。
在一个实施方式中，网络600包括地图数据输入。地图数据输入可以是具有矩形的多个地图像素的矩形地图输入(例如，(x1,y1)、(x2,y2)、(x3,y3)、(x4,y4))，并且每个地图像素可包括指标值，诸如：道路、边界、交叉路口和地图像素的方向。例如，用于地图像素的指示器值可以是(1,0,0,-30度)，其可指示地图像素是道路的一部分、不是边界、不是交叉路口，并且道路在-30度的方向上从水平x轴向前(例如，向东)延伸。在一个实施方式中，用于HD地图数据的神经网络层可以是部分连接的层，例如，卷积/解卷积层。注意，部分连接的层是其神经元部分连接至前一层中的全部神经元的内部层。卷积/解卷积层使得每个神经元仅部分地连接至前一层中的局部区域，但是以完整深度连接(即，对于图像的全部颜色通道)。
接下来，从N个传感器和/或HD地图输出的层下行到128乘(N+1)层中。随后，128x(N+1)层下行到128x1层中并且下行到输出(例如，1/0)中，其中该输出可为针对是否启用安全警报的指示器。虽然针对每个传感器示出了具有128个特征的两个完全连接的层，但是层和/或特征的任何组合均是可能的。
安全监控系统的网络600可与ADS同时在线使用。“在线(Online)”活动表示ADV实时执行以检测对象或对对象分类的活动。“离线(Offline)”活动表示服务器或ADV在准备对象检测或分类的过程中执行的活动。在一个实施方式中，ADS或安全监控系统可启用安全警报。在一个实施方式中，当驾驶员干预时，安全监控系统还可在驾驶员干预时、或正好在驾驶员干预之前或者正好在驾驶员干预之后的情况下，记录来自传感器和/或HD地图的输入数据。所述记录可稍后被用于训练和改进网络600。在一个实施方式中，记录可上传至诸如服务器103的远程服务器。之后，服务器103可基于从道路上的ADV收集的记录训练离线网络600。
图7是示出根据一个实施方式的方法的流程图。过程700可通过可包括软件、硬件或它们的组合的处理逻辑来执行。例如，过程700可通过图3A的安全监控系统308来执行。参照图7，在框701处，处理逻辑从ADV的诸多传感器接收传感器数据。在框702处，处理逻辑利用机器学习模型从传感器数据提取预定数量的特征。在框703处，处理逻辑基于利用机器学习模型所提取的特征，确定是否提醒用户干预ADS。在框704处，处理逻辑基于对是否提醒用户干预ADS的确定而生成安全警报。在框705处，处理逻辑基于所生成的安全警报提醒用户干预ADV的ADS。
在一个实施方式中，处理逻辑还接收地图数据，并且利用机器学习模型、基于传感器数据和地图数据两者确定是否提醒用户干预ADS。在另一实施方式中，机器学习模型包括神经网络模型，并且神经网络模型提取预定数量的特征。在另一实施方式中，神经网络模型包括用于与多个传感器中的每一个对应的传感器数据的完全连接的层。在另一实施方式中，神经网络模型包括用于地图数据的部分连接的层。在另一实施方式中，部分连接的层是卷积层。
在一个实施方式中，多个传感器包括范围检测传感器、图像获取传感器以及惯性测量单元(IMU)传感器。在另一实施方式中，范围检测传感器包括光检测测距(LIDAR)传感器或无线电检测和测距(RADAR)传感器。在一个实施方式中，处理逻辑还记录与通过ADS实现的用户干预对应的传感器数据，并且调度机器学习模型以基于该记录进行训练。
应注意，如上文示出和描述的部件中的一些或全部可以在软件、硬件或其组合中实施。例如，此类部件可以实施为安装并存储在永久性存储装置中的软件，所述软件可以通过处理器(未示出)加载在存储器中并在存储器中执行以实施贯穿本申请所述的过程或操作。替代地，此类部件可以实施为编程或嵌入到专用硬件(诸如，集成电路(例如，专用集成电路或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA))中的可执行代码，所述可执行代码可以经由来自应用的相应驱动程序和/或操作系统来访问。此外，此类部件可以实施为处理器或处理器内核中的特定硬件逻辑，作为可由软件部件通过一个或多个特定指令访问的指令集的一部分。
图8是示出可以与本公开的一个实施方式一起使用的数据处理系统的示例的框图。例如，系统1500可以表示以上所述的执行上述过程或方法中的任一个的任何数据处理系统，例如，图1的感知与规划系统110或者服务器103至104。系统1500可以包括许多不同的部件。这些部件可以实施为集成电路(IC)、集成电路的部分、分立电子装置或适用于电路板(诸如，计算机系统的主板或插入卡)的其他模块或者实施为以其他方式并入计算机系统的机架内的部件。
还应注意，系统1500旨在示出计算机系统的许多部件的高阶视图。然而，应当理解的是，某些实施例中可以具有附加的部件，此外，其他实施例中可以具有所示部件的不同布置。系统1500可以表示台式计算机、膝上型计算机、平板计算机、服务器、移动电话、媒体播放器、个人数字助理(PDA)、智能手表、个人通信器、游戏装置、网络路由器或集线器、无线接入点(AP)或中继器、机顶盒或其组合。此外，虽然仅示出了单个机器或系统，但是术语“机器”或“系统”还应当被理解为包括单独地或共同地执行一个(或多个)指令集以执行本文所讨论的任何一种或多种方法的机器或系统的任何集合。
在一个实施方式中，系统1500包括通过总线或互连件1510连接的处理器1501、存储器1503以及装置1505至1508。处理器1501可以表示其中包括单个处理器内核或多个处理器内核的单个处理器或多个处理器。处理器1501可以表示一个或多个通用处理器，诸如，微处理器、中央处理单元(CPU)等。更具体地，处理器1501可以是复杂指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、或实施其他指令集的处理器、或实施指令集组合的处理器。处理器1501还可以是一个或多个专用处理器，诸如，专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通信处理器、加密处理器、协处理器、嵌入式处理器、或者能够处理指令的任何其他类型的逻辑。
处理器1501(其可以是低功率多核处理器套接口，诸如超低电压处理器)可以充当用于与所述系统的各种部件通信的主处理单元和中央集线器。这种处理器可以实施为片上系统(SoC)。处理器1501被配置成执行用于执行本文所讨论的操作和步骤的指令。系统1500还可以包括与可选的图形子系统1504通信的图形接口，图形子系统1504可以包括显示控制器、图形处理器和/或显示装置。
处理器1501可以与存储器1503通信，存储器1503在一个实施方式中可以经由多个存储器装置实施以提供给定量的系统存储。存储器1503可以包括一个或多个易失性存储(或存储器)装置，诸如，随机存取存储器(RAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、静态RAM(SRAM)或者其他类型的存储装置。存储器1503可以存储包括由处理器1501或任何其他装置执行的指令序列的信息。例如，各种操作系统、装置驱动程序、固件(例如，输入输出基本系统或BIOS)和/或应用的可执行代码和/或数据可以加载到存储器1503中并由处理器1501执行。操作系统可以是任何类型的操作系统，例如，机器人操作系统(ROS)、来自
Figure BDA0001946226230000161
公司的
Figure BDA0001946226230000162
操作系统、来自苹果公司的Mac
Figure BDA0001946226230000163
来自
Figure BDA0001946226230000164
公司的
Figure BDA0001946226230000165
LINUX、UNIX，或者其他实时或嵌入式操作系统。
系统1500还可以包括I/O装置，诸如装置1505至1508，包括网络接口装置1505、可选的输入装置1506，以及其他可选的I/O装置1507。网络接口装置1505可以包括无线收发器和/或网络接口卡(NIC)。所述无线收发器可以是WiFi收发器、红外收发器、蓝牙收发器、WiMax收发器、无线蜂窝电话收发器、卫星收发器(例如，全球定位系统(GPS)收发器)或其他射频(RF)收发器或者它们的组合。NIC可以是以太网卡。
输入装置1506可以包括鼠标、触摸板、触敏屏幕(其可以与显示装置1504集成在一起)、指针装置(诸如，触摸笔)和/或键盘(例如，物理键盘或作为触敏屏幕的一部分显示的虚拟键盘)。例如，输入装置1506可以包括联接到触摸屏的触摸屏控制器。触摸屏和触摸屏控制器例如可以使用多种触敏技术(包括但不限于电容、电阻、红外和表面声波技术)中的任一种，以及其他接近传感器阵列或用于确定与触摸屏接触的一个或多个点的其他元件来检测其接触和移动或间断。
I/O装置1507可以包括音响装置。音响装置可以包括扬声器和/或麦克风，以促进支持语音的功能，诸如语音识别、语音复制、数字记录和/或电话功能。其他I/O装置1507还可以包括通用串行总线(USB)端口、并行端口、串行端口、打印机、网络接口、总线桥(例如，PCI-PCI桥)、传感器(例如，诸如加速度计运动传感器、陀螺仪、磁强计、光传感器、罗盘、接近传感器等)或者它们的组合。装置1507还可以包括成像处理子系统(例如，摄像机)，所述成像处理子系统可以包括用于促进摄像机功能(诸如，记录照片和视频片段)的光学传感器，诸如电荷耦合装置(CCD)或互补金属氧化物半导体(CMOS)光学传感器。某些传感器可以经由传感器集线器(未示出)联接到互连件1510，而诸如键盘或热传感器的其他装置可以根据系统1500的具体配置或设计由嵌入式控制器(未示出)控制。
为了提供对诸如数据、应用、一个或多个操作系统等信息的永久性存储，大容量存储设备(未示出)也可以联接到处理器1501。在各种实施方式中，为了实现更薄且更轻的系统设计并且改进系统响应性，这种大容量存储设备可以经由固态装置(SSD)来实施。然而，在其他实施方式中，大容量存储设备可以主要使用硬盘驱动器(HDD)来实施，其中较小量的SSD存储设备充当SSD高速缓存以在断电事件期间实现上下文状态以及其他此类信息的非易失性存储，从而使得在系统活动重新启动时能够实现快速通电。另外，闪存装置可以例如经由串行外围接口(SPI)联接到处理器1501。这种闪存装置可以提供系统软件的非易失性存储，所述系统软件包括所述系统的BIOS以及其他固件。
存储装置1508可以包括计算机可访问的存储介质1509(也被称为机器可读存储介质或计算机可读介质)，其上存储有体现本文所述的任何一种或多种方法或功能的一个或多个指令集或软件(例如，模块、单元和/或逻辑1528)。处理模块/单元/逻辑1528可以表示上述部件中的任一个，例如图3A的安全监控系统308。处理模块/单元/逻辑1528还可以在其由数据处理系统1500、存储器1503和处理器1501执行期间完全地或至少部分地驻留在存储器1503内和/或处理器1501内，数据处理系统1500、存储器1503和处理器1501也构成机器可访问的存储介质。处理模块/单元/逻辑1528还可以通过网络经由网络接口装置1505进行传输或接收。
计算机可读存储介质1509也可以用来永久性地存储以上描述的一些软件功能。虽然计算机可读存储介质1509在示例性实施方式中被示为单个介质，但是术语“计算机可读存储介质”应当被认为包括存储所述一个或多个指令集的单个介质或多个介质(例如，集中式或分布式数据库和/或相关联的高速缓存和服务器)。术语“计算机可读存储介质”还应当被认为包括能够存储或编码指令集的任何介质，所述指令集用于由机器执行并且使得所述机器执行本公开的任何一种或多种方法。因此，术语“计算机可读存储介质”应当被认为包括但不限于固态存储器以及光学介质和磁性介质，或者任何其他非暂时性机器可读介质。
本文所述的处理模块/单元/逻辑1528、部件以及其他特征可以实施为分立硬件部件或集成在硬件部件(诸如，ASICS、FPGA、DSP或类似装置)的功能中。此外，处理模块/单元/逻辑1528可以实施为硬件装置内的固件或功能电路。此外，处理模块/单元/逻辑1528可以以硬件装置和软件部件的任何组合来实施。
应注意，虽然系统1500被示出为具有数据处理系统的各种部件，但是并不旨在表示使部件互连的任何特定架构或方式；因为此类细节和本公开的实施方式没有密切关系。还应当认识到，具有更少部件或可能具有更多部件的网络计算机、手持计算机、移动电话、服务器和/或其他数据处理系统也可以与本公开的实施方式一起使用。
前述详细描述中的一些部分已经根据在计算机存储器内对数据位的运算的算法和符号表示而呈现。这些算法描述和表示是数据处理领域中的技术人员所使用的方式，以将他们的工作实质最有效地传达给本领域中的其他技术人员。本文中，算法通常被认为是导致所期望结果的自洽操作序列。这些操作是指需要对物理量进行物理操控的操作。
然而，应当牢记，所有这些和类似的术语均旨在与适当的物理量关联，并且仅仅是应用于这些量的方便标记。除非在以上讨论中以其他方式明确地指出，否则应当了解，在整个说明书中，利用术语(诸如所附权利要求书中所阐述的术语)进行的讨论是指计算机系统或类似电子计算装置的动作和处理，所述计算机系统或电子计算装置操控计算机系统的寄存器和存储器内的表示为物理(电子)量的数据，并将所述数据变换成计算机系统存储器或寄存器或者其他此类信息存储设备、传输或显示装置内类似地表示为物理量的其他数据。
本公开的实施方式还涉及用于执行本文中的操作的设备。这种计算机程序被存储在非暂时性计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机构。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存存储器装置)。
前述附图中所描绘的过程或方法可以由处理逻辑来执行，所述处理逻辑包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合。尽管所述过程或方法在上文是依据一些顺序操作来描述的，但是应当了解，所述操作中的一些可以按不同的顺序执行。此外，一些操作可以并行地执行而不是顺序地执行。
本公开的实施方式并未参考任何特定的编程语言进行描述。应认识到，可以使用多种编程语言来实施如本文描述的本公开的实施方式的教导。
在以上的说明书中，已经参考本公开的具体示例性实施方式对本发明的实施方式进行了描述。将显而易见的是，在不脱离所附权利要求书中阐述的本公开的更宽泛精神和范围的情况下，可以对本公开作出各种修改。因此，应当在说明性意义而不是限制性意义上来理解本说明书和附图。

Claims (21)

1.用于提醒用户干预自动驾驶车辆的自动驾驶系统的计算机实施方法，所述方法包括：
从所述自动驾驶车辆的多个传感器接收传感器数据；
利用机器学习模型从所述传感器数据提取预定数量的特征；
基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；
基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及
基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的自动驾驶系统。
2.如权利要求1所述的方法，还包括：
接收用于所述自动驾驶车辆的地图数据；以及
利用所述机器学习模型，基于所述传感器数据和所述地图数据两者，确定是否提醒所述用户干预所述自动驾驶系统。
3.如权利要求2所述的方法，其中，所述机器学习模型包括神经网络模型，并且所述神经网络模型用于提取所述预定数量的特征。
4.如权利要求3所述的方法，其中，所述神经网络模型包括用于与所述多个传感器中的每一个对应的传感器数据的完全连接的层。
5.如权利要求4所述的方法，其中，所述神经网络模型包括用于所述地图数据的部分连接的层。
6.如权利要求5所述的方法，其中，所述部分连接的层是卷积层。
7.如权利要求1所述的方法，其中，所述多个传感器包括范围检测传感器、图像获取传感器以及惯性测量单元传感器。
8.如权利要求7所述的方法，其中，所述范围检测传感器包括光检测测距传感器或无线电检测和测距传感器。
9.如权利要求1所述的方法，还包括：
通过所述自动驾驶系统记录与用户干预对应的传感器数据；以及
基于所述记录调度所述机器学习模型以进行训练。
10.非暂时性机器可读介质，在所述非暂时性机器可读介质中存储有指令，所述指令在被处理器执行时致使所述处理器执行操作，所述操作包括：
从自动驾驶车辆的多个传感器接收传感器数据；
利用机器学习模型从所述传感器数据提取预定数量的特征；
基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；
基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及
基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的自动驾驶系统。
11.如权利要求10所述的非暂时性机器可读介质，还包括：
接收用于所述自动驾驶车辆的地图数据；以及
利用所述机器学习模型，基于所述传感器数据和所述地图数据两者，确定是否提醒所述用户干预所述自动驾驶系统。
12.如权利要求11所述的非暂时性机器可读介质，其中，所述机器学习模型包括神经网络模型并且所述神经网络模型用于提取所述预定数量的特征。
13.如权利要求12所述的非暂时性机器可读介质，其中，所述神经网络模型包括用于与所述多个传感器中的每一个对应的传感器数据的完全连接的层。
14.如权利要求13所述的非暂时性机器可读介质，其中，所述神经网络模型包括用于所述地图数据的部分连接的层。
15.如权利要求14所述的非暂时性机器可读介质，其中，所述部分连接的层是卷积层。
16.数据处理系统，包括：
处理器；以及
存储器，联接至所述处理器并用存储指令，所述指令在被所述处理器执行时致使所述处理器执行操作，所述操作包括：
从自动驾驶车辆的多个传感器接收传感器数据；
利用机器学习模型从所述传感器数据提取预定数量的特征；
基于利用所述机器学习模型所提取的特征，确定是否提醒用户干预所述自动驾驶系统；
基于对是否提醒所述用户干预所述自动驾驶系统的确定，生成安全警报；以及
基于所生成的安全警报，提醒所述用户干预所述自动驾驶车辆的所述自动驾驶系统。
17.如权利要求16所述的数据处理系统，还包括：
接收用于所述自动驾驶车辆的地图数据；以及
利用所述机器学习模型，基于所述传感器数据和所述地图数据两者，确定是否提醒所述用户干预所述自动驾驶系统。
18.如权利要求17所述的数据处理系统，其中，所述机器学习模型包括神经网络模型，并且所述神经网络模型用于提取所述预定数量的特征。
19.如权利要求18所述的数据处理系统，其中，所述神经网络模型包括用于与所述多个传感器中的每一个对应的传感器数据的完全连接的层。
20.如权利要求19所述的数据处理系统，其中，所述神经网络模型包括用于所述地图数据的部分连接的层。
21.如权利要求20所述的数据处理系统，其中，所述部分连接的层是卷积层。
CN201910036962.5A 2018-06-27 2019-01-15 基于神经网络的用于自主车辆的安全监控系统 Active CN110641472B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/021,007 US10457294B1 (en) 2018-06-27 2018-06-27 Neural network based safety monitoring system for autonomous vehicles
US16/021,007 2018-06-27

Publications (2)

Publication Number Publication Date
CN110641472A true CN110641472A (zh) 2020-01-03
CN110641472B CN110641472B (zh) 2022-11-04

Family

ID=68314731

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910036962.5A Active CN110641472B (zh) 2018-06-27 2019-01-15 基于神经网络的用于自主车辆的安全监控系统

Country Status (3)

Country Link
US (1) US10457294B1 (zh)
JP (1) JP2020004402A (zh)
CN (1) CN110641472B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111310840A (zh) * 2020-02-24 2020-06-19 北京百度网讯科技有限公司 数据融合处理方法、装置、设备和存储介质
CN113269952A (zh) * 2020-02-14 2021-08-17 美光科技公司 车辆中的线控驱动传感器的监测

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10816979B2 (en) * 2018-08-24 2020-10-27 Baidu Usa Llc Image data acquisition logic of an autonomous driving vehicle for capturing image data using cameras
JP6984668B2 (ja) 2019-01-22 2021-12-22 株式会社デンソー 車両用通信装置
US11635893B2 (en) 2019-08-12 2023-04-25 Micron Technology, Inc. Communications between processors and storage devices in automotive predictive maintenance implemented via artificial neural networks
US11586943B2 (en) 2019-08-12 2023-02-21 Micron Technology, Inc. Storage and access of neural network inputs in automotive predictive maintenance
US11853863B2 (en) 2019-08-12 2023-12-26 Micron Technology, Inc. Predictive maintenance of automotive tires
US11775816B2 (en) 2019-08-12 2023-10-03 Micron Technology, Inc. Storage and access of neural network outputs in automotive predictive maintenance
US11586194B2 (en) 2019-08-12 2023-02-21 Micron Technology, Inc. Storage and access of neural network models of automotive predictive maintenance
US11748626B2 (en) 2019-08-12 2023-09-05 Micron Technology, Inc. Storage devices with neural network accelerators for automotive predictive maintenance
US11702086B2 (en) 2019-08-21 2023-07-18 Micron Technology, Inc. Intelligent recording of errant vehicle behaviors
US11361552B2 (en) 2019-08-21 2022-06-14 Micron Technology, Inc. Security operations of parked vehicles
US11498388B2 (en) 2019-08-21 2022-11-15 Micron Technology, Inc. Intelligent climate control in vehicles
US11409654B2 (en) 2019-09-05 2022-08-09 Micron Technology, Inc. Intelligent optimization of caching operations in a data storage device
US11693562B2 (en) 2019-09-05 2023-07-04 Micron Technology, Inc. Bandwidth optimization for different types of operations scheduled in a data storage device
US11650746B2 (en) 2019-09-05 2023-05-16 Micron Technology, Inc. Intelligent write-amplification reduction for data storage devices configured on autonomous vehicles
US11435946B2 (en) 2019-09-05 2022-09-06 Micron Technology, Inc. Intelligent wear leveling with reduced write-amplification for data storage devices configured on autonomous vehicles
US11436076B2 (en) 2019-09-05 2022-09-06 Micron Technology, Inc. Predictive management of failing portions in a data storage device
US11250648B2 (en) 2019-12-18 2022-02-15 Micron Technology, Inc. Predictive maintenance of automotive transmission
CN111081067B (zh) * 2019-12-27 2021-07-20 武汉大学 车联网环境下基于iga-bp神经网络的车辆碰撞预警系统及方法
JP7296899B2 (ja) * 2020-02-05 2023-06-23 マツダ株式会社 車両用制御装置
US11709625B2 (en) 2020-02-14 2023-07-25 Micron Technology, Inc. Optimization of power usage of data storage devices
CN116802699A (zh) * 2020-11-26 2023-09-22 哲内提 用于汽车应用的增强路径规划

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104627118A (zh) * 2013-11-12 2015-05-20 蒋超 汽车安全行驶控制系统
US20160355192A1 (en) * 2015-06-04 2016-12-08 Toyota Motor Engineering & Manufacturing North America, Inc. Transitioning between operational modes of an autonomous vehicle
JP6264492B1 (ja) * 2017-03-14 2018-01-24 オムロン株式会社 運転者監視装置、運転者監視方法、学習装置及び学習方法
US20180086344A1 (en) * 2016-09-28 2018-03-29 Baidu Usa Llc Physical model and machine learning combined method to simulate autonomous vehicle movement
US20180107215A1 (en) * 2016-10-17 2018-04-19 Uber Technologies, Inc. Neural network system for autonomous vehicle control
US20180127000A1 (en) * 2016-11-09 2018-05-10 Baidu Usa Llc Evaluation framework for decision making of autonomous driving vehicle

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10699305B2 (en) * 2016-11-21 2020-06-30 Nio Usa, Inc. Smart refill assistant for electric vehicles
US10083547B1 (en) * 2017-05-23 2018-09-25 Toyota Jidosha Kabushiki Kaisha Traffic situation awareness for an autonomous vehicle
KR102070527B1 (ko) * 2017-06-22 2020-01-28 바이두닷컴 타임즈 테크놀로지(베이징) 컴퍼니 리미티드 자율 주행 차량 교통 예측에서 예측되는 궤적에 대한 평가 프레임 워크
US10007269B1 (en) * 2017-06-23 2018-06-26 Uber Technologies, Inc. Collision-avoidance system for autonomous-capable vehicle
US10976737B2 (en) * 2017-11-21 2021-04-13 GM Global Technology Operations LLC Systems and methods for determining safety events for an autonomous vehicle

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104627118A (zh) * 2013-11-12 2015-05-20 蒋超 汽车安全行驶控制系统
CN106240516A (zh) * 2013-11-12 2016-12-21 蒋超 汽车安全行驶控制系统
CN106274795A (zh) * 2013-11-12 2017-01-04 蒋超 用于提高行驶安全系数的汽车安全行驶控制系统
US20160355192A1 (en) * 2015-06-04 2016-12-08 Toyota Motor Engineering & Manufacturing North America, Inc. Transitioning between operational modes of an autonomous vehicle
US20180086344A1 (en) * 2016-09-28 2018-03-29 Baidu Usa Llc Physical model and machine learning combined method to simulate autonomous vehicle movement
US20180107215A1 (en) * 2016-10-17 2018-04-19 Uber Technologies, Inc. Neural network system for autonomous vehicle control
US20180127000A1 (en) * 2016-11-09 2018-05-10 Baidu Usa Llc Evaluation framework for decision making of autonomous driving vehicle
JP6264492B1 (ja) * 2017-03-14 2018-01-24 オムロン株式会社 運転者監視装置、運転者監視方法、学習装置及び学習方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113269952A (zh) * 2020-02-14 2021-08-17 美光科技公司 车辆中的线控驱动传感器的监测
CN113269952B (zh) * 2020-02-14 2023-10-10 美光科技公司 车辆的预测性维护的方法、数据存储装置及车辆
CN111310840A (zh) * 2020-02-24 2020-06-19 北京百度网讯科技有限公司 数据融合处理方法、装置、设备和存储介质
CN111310840B (zh) * 2020-02-24 2023-10-17 北京百度网讯科技有限公司 数据融合处理方法、装置、设备和存储介质

Also Published As

Publication number Publication date
US10457294B1 (en) 2019-10-29
CN110641472B (zh) 2022-11-04
JP2020004402A (ja) 2020-01-09

Similar Documents

Publication Publication Date Title
CN110641472B (zh) 基于神经网络的用于自主车辆的安全监控系统
CN109426256B (zh) 自动驾驶车辆的基于驾驶员意图的车道辅助系统
CN110389583B (zh) 生成自动驾驶车辆的轨迹的方法
US10810872B2 (en) Use sub-system of autonomous driving vehicles (ADV) for police car patrol
CN110239562B (zh) 自动驾驶车辆的基于周围车辆行为的实时感知调整与驾驶调适
CN111247495B (zh) 用于自动驾驶车辆的低速场景的行人交互系统
CN110667598B (zh) 用于处理自动驾驶车辆中的传感器故障的方法
CN110462543B (zh) 用于评估自动驾驶车辆的感知要求的基于仿真的方法
CN109491375B (zh) 用于自动驾驶车辆的基于驾驶场景的路径规划
CN108475057B (zh) 基于车辆周围的情境预测车辆的一个或多个轨迹的方法和系统
CN109489673B (zh) 用于自动驾驶车辆的数据驱动地图更新系统
CN109429518B (zh) 基于地图图像的自动驾驶交通预测
KR102070530B1 (ko) 모션 계획에 기초한 자율 주행 차량의 운행 방법 및 시스템
CN110325935B (zh) 用于自动驾驶车辆的路径规划的基于驾驶场景的车道引导线
CN108604095B (zh) 确定操作自动驾驶车辆的转向率的方法、介质及处理系统
CN108891417B (zh) 用于操作自动驾驶车辆的方法及数据处理系统
CN108255170B (zh) 动态地调整自动驾驶车辆的速度控制率的方法
CN110597243B (zh) 自动驾驶车辆的基于v2x通信的车辆车道系统
CN108733046B (zh) 用于自动驾驶车辆的轨迹重新规划的系统和方法
CN111328411B (zh) 用于自动驾驶车辆的行人概率预测系统
CN110621541B (zh) 用于生成轨迹以操作自动驾驶车辆的方法和系统
CN109491378B (zh) 自动驾驶车辆的基于道路分段的路线引导系统
CN109085818B (zh) 基于车道信息控制自动驾驶车辆的车门锁的方法和系统
CN111857118A (zh) 对停车轨迹分段以控制自动驾驶车辆停车
CN111856923A (zh) 加速对复杂驾驶场景的规划的参数学习的神经网络方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant