CN112464229A - 检测针对自动驾驶系统的欺骗攻击的方法和装置 - Google Patents

检测针对自动驾驶系统的欺骗攻击的方法和装置 Download PDF

Info

Publication number
CN112464229A
CN112464229A CN202011098306.7A CN202011098306A CN112464229A CN 112464229 A CN112464229 A CN 112464229A CN 202011098306 A CN202011098306 A CN 202011098306A CN 112464229 A CN112464229 A CN 112464229A
Authority
CN
China
Prior art keywords
destination
planned route
adv
route
sensors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202011098306.7A
Other languages
English (en)
Other versions
CN112464229B (zh
Inventor
刘效东
曲宁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of CN112464229A publication Critical patent/CN112464229A/zh
Application granted granted Critical
Publication of CN112464229B publication Critical patent/CN112464229B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic
    • H04L63/1483—Countermeasures against malicious traffic service impersonation, e.g. phishing, pharming or web spoofing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02—Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0225—Failure correction strategy
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/04—Monitoring the functioning of the control system
    • B60W50/045—Monitoring control system parameters
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/34—Route searching; Route guidance
    • G01C21/3407—Route searching; Route guidance specially adapted for specific applications
    • G01C21/3415—Dynamic re-routing, e.g. recalculating the route when the user deviates from calculated route or after detecting real-time traffic data or accidents
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23—Updating
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29—Geographical information databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/55—Detecting local intrusion or implementing counter-measures
    • G06F21/554—Detecting local intrusion or implementing counter-measures involving event detection and direct action
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G06Q10/047—Optimisation of routes or paths, e.g. travelling salesman problem
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1408—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic by monitoring network traffic
    • H04L63/1425—Traffic logging, e.g. anomaly detection
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic
    • H04L63/1466—Active attacks involving interception, injection, modification, spoofing of data unit addresses, e.g. hijacking, packet injection or TCP sequence number attacks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/14—Network architectures or network communication protocols for network security for detecting or protecting against malicious traffic
    • H04L63/1441—Countermeasures against malicious traffic
    • H04L63/1491—Countermeasures against malicious traffic using deception as countermeasure, e.g. honeypots, honeynets, decoys or entrapment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/12—Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/52—Network services specially adapted for the location of the user terminal
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/12—Detection or prevention of fraud
    • H04W12/121—Wireless intrusion detection systems [WIDS]; Wireless intrusion prevention systems [WIPS]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
    • H04W4/30—Services specially adapted for particular environments, situations or purposes
    • H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]

Abstract

公开了用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法和装置。所述方法包括确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；检测对于所述多个预定义的静态对象的更新；响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及对所述规划路线的所述重新路由是异常的或所述新路线作出响应。

Description

检测针对自动驾驶系统的欺骗攻击的方法和装置
技术领域
本公开的实施例总体上涉及操作自动车辆。更具体地，本公开的实施例涉及用于检测和减轻对自动驾驶车辆(ADV)的网络攻击和欺骗攻击的方法和装置以及机器可读介质。
背景技术
以自动模式(例如，无人驾驶)操作的车辆可以减轻乘坐者，尤其是驾驶员的一些驾驶相关责任。当以自动模式操作时，车辆可以使用车载传感器导航到各种位置，从而允许车辆以最小的人机交互或者在一些情况下没有任何乘客的情况下行驶。
运动规划和控制是自动驾驶中的关键操作。运动规划和控制操作的准确性和效率很大程度上取决于车辆的传感器和从传感器提取的信息。诸如照相机、光检测和测距(LIDAR)单元、雷达等的传感器用于捕获车辆周围环境的视频和电磁图像用于运动规划和控制。ADV还可以通过通信网络与基础设施服务器或其他ADV通信，以获得实时交通信息、数据分析、路由服务、附近ADV的信息等，作为运动规划和控制的部分。随着ADV的扩散以及ADV与基础设施之间的连通性的增加，第三方针对ADV的脆弱点发起网络攻击或进行欺骗攻击以接管ADV的控制的风险增加。例如，可以通过车辆和基础设施之间的通信网关访问远程攻击，以改变车辆的行驶的路线或目的地。欺骗攻击也可针对车辆的传感器系统发起，以使传感器去激活、降级或以其他方式欺骗传感器向感知系统提供虚假信息，以操纵车辆离开其预期路线或目的地。
一些ADV尝试通过保护车辆通信网关、增强单个传感器的鲁棒性、或使用传感器信息改进感知系统的算法防御外部欺骗，从而减轻攻击的威胁。然而，这些措施中的一些可能实施起来成本高，并且可能不容易适应于对抗变化的威胁。
发明内容
鉴于上述问题，本发明的目的是提供用于利用沿着ADV的规划行驶路线的预定义的静态对象以检测和对抗试图访问ADV的通信网关以改变目的地或规划路线的攻击的方法。
本发明的一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法，所述方法包括：确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；检测对于所述多个预定义的静态对象的更新；响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
本发明的另一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：路由模块，用于确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的，并且用于从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；安全模块，用于检测对于所述多个预定义的静态对象的更新，并且响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及决策模块，用于对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
本发明的又一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的传感器系统的欺骗攻击的方法，所述方法包括：确定从开始位置到目的地的规划路线；从地图数据库获得沿着所述规划路线的多个预定义的静态对象；当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象；评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象；以及基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
本发明的又一个方面提供了一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：路由模块，用于确定从开始位置到目的地的规划路线，并且从地图数据库获得沿着所述规划路线的多个预定义的静态对象；安全模块，用于当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象，评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象，以及基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及决策模块，用于将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
本发明的又一个方面提供了一种具有存储在其中的指令的非暂时性机器可读介质，所述指令在由处理器执行时使得所述处理器执行如上文所述的各方法。
附图说明
本公开的实施例通过示例的方式示出并且不限于附图中的图，在附图中相同的附图标记表示相似的元件。
图1是示出根据一个实施例的联网系统的框图。
图2是示出根据一个实施例的自动车辆的示例的框图。
图3A-3B是示出根据一些实施例的由自动车辆使用的感知和规划系统的示例的框图。
图4是示出根据一个实施例的自动驾驶系统的架构的框图。
图5是示出根据一个实施例的使用地图上的预定义的静态对象作为地面实况以检测试图改变ADV的行驶的路线或目的地的攻击的技术的图。
图6是示出根据一个实施例的操作ADV的过程的示例的流程图。
图7是示出根据一个实施例的用于ADV使用预定义的静态对象作为地面实况点以检测和对抗试图改变行驶的路线或目的地的网络攻击的方法的流程图。
图8是示出根据一个实施例的操作ADV的过程的示例的流程图。
图9是示出根据一个实施例的用于ADV使用预定义的静态对象、动态对象和各种传感器以检测和对抗针对传感器系统的欺骗攻击的方法的流程图。
具体实施方式
将参考以下讨论的细节描述本公开的各个实施例和方面，并且附图将示出各个实施例。以下描述和附图是本公开的说明并且不应被解释为限制本公开。描述了许多具体细节以提供对本公开的各个实施例的全面理解。然而，在某些情况下，为了提供对本公开的实施例的简要讨论，没有描述公知或常规的细节。
说明书中对“一个实施例”或“实施例”的引用意味着结合该实施例描述的特定特征、结构或特性可包括在本公开的至少一个实施例中。在说明书中的各个地方出现的短语“在一个实施例中”不一定都指同一实施例。
根据一些实施例，公开了一种用于利用沿着ADV的规划行驶路线的预定义的静态对象以检测和对抗试图访问ADV的通信网关以改变目的地或规划路线的攻击的方法。静态对象是在高清晰度(HD)地图上预定义的可区分对象。静态对象可以是沿路线的兴趣范围(ROI)或兴趣点(POI)位置的一部分，车辆传感器系统可以利用其来确定其实时传感器覆盖(coverage)。例如，当车辆行驶通过静态对象的预定义的位置时，传感器系统可以检测和识别静态对象以验证传感器系统的操作状态。在路线规划期间，ADV可预加载来自HD地图的静态对象作为地面实况点。一旦规划路线的静态对象被加载，ADV就可以确定当ADV沿着路线行驶时该静态对象被识别出。静态对象可以在重新路由期间或者当目的地改变时动态地更新。ADV可以利用关于静态对象的更新的信息检测由于网络攻击而导致的异常的重新路由或目的地改变。
在一个实施例中，该方法可以执行静态对象检查以确定在行驶完成之前是否已经存在对静态对象的更新。如果静态对象已经被更新，则该方法可以确定路线的目的地是否已经改变。在一个实施例中，该方法可以通过分析由改变的静态对象追踪的路线确定目的地已经改变。如果目的地已经改变，则如果有乘客，该方法可以请求车辆中的乘客对于目的地改变的确认。如果乘客没有确认目的地改变或者如果车辆中没有乘客，该方法可以向服务提供商报告可疑的目的地改变。
如果目的地没有改变，该方法可以确定已经存在重新路由。在一个实施例中，方法可通过等待直到与新路线相关联的新静态对象被传感器系统识别为止或通过验证与先前路线相关联的旧静态对象不能被识别，来确认重新路由。一旦重新路由被检测或确认，该方法可以分析新路线和围绕重新路由的信息以确定重新路由是否是异常的。例如，该方法可以分析交通状况、重新路由的频率、新路线的距离、与先前路线的距离的差、新路线的预期行驶时间、与先前路线的行驶时间的差等，以确定该重新路由是否是异常的。在一个实施例中，该方法可以使用基于所学经验的机器学习以推断重新路由是异常的。如果重新路由是异常的，则该方法可以向乘客或服务提供商报告异常的重新路由。在一个实施例中，可以允许乘客通过请求ADV停在最近的安全地点以选择退出行程，或者可以在服务提供商没有直接从ADV接收报告的情况下提示乘客通知服务提供商以作为增加的安全措施。
根据一些实施例，公开了一种利用预定义的静态对象、动态对象和各种传感器以检测和对抗针对ADV的传感器系统的欺骗攻击的方法。Gai方法可以确定传感器是否由于欺骗攻击或由于环境因素而被禁用或性能受损。如在用于利用静态对象以检测试图改变目的地或行驶的路线的攻击的方法中，该方法可在路线规划期间预加载来自HD地图的预定义的可区分静态对象作为地面实况点。当路由动态更新时，静态对象可以被动态更新。该方法可以确定在ADV沿着规划路线行驶时传感器系统的传感器是否能够识别静态对象。如果传感器不能识别静态对象，则该方法可以暂时排除受损的传感器被传感器系统或感知系统使用。在一个实施例中，该方法可以确定另一传感器是否能够正确地识别静态对象，或者在决定排除受损的传感器之前验证受损的传感器不能识别额外的静态对象。
在一个实施例中，为了区分由于诸如障碍物、天气状况等的环境因素而受损的传感器或由于欺骗攻击而受损的传感器，该方法可以对由多个传感器检测的动态对象执行交叉检查。例如，该方法可以确定是否所有传感器都能够识别传感器覆盖区域内的未由HD地图预定义的动态对象(例如，车辆、行人)或静态对象。如果多个传感器不能识别不是从HD地图导出的动态对象或静态对象，并且这仅短暂地发生，则更大可能性是多个传感器的暂时的损坏是由于环境因素。另一方面，如果传感器系统中仅一个传感器不能识别对象，并且一个传感器的损坏发生在延长的时间段上或许多对象上，则更大的可能性是损坏是由于欺骗攻击。方法可以通过排除受损的传感器实时动态地调整传感器系统覆盖用于感知。在一个实施例中，如果实时传感器覆盖范围不允许连续操作，则该方法可以主动降级操作以降低车辆的速度，或者如果有驾驶员的话，允许驾驶员接管车辆的操作。在一个实施例中，方法可以激活故障操作以将车辆停在最近的安全点，并且可以通知乘客或服务提供商。
图1是示出根据本公开的一个实施例的自动车辆网络配置的框图。参考图1，网络配置100包括自动驾驶车辆(ADV)101，其可以通过网络102通信地耦接到一个或多个服务器103-104。尽管示出一个自动车辆，但是多个自动车辆可以通过网络102彼此耦接和/或耦接到服务器103-104。网络102可以是任何类型的网络，诸如局域网(LAN)、诸如因特网的广域网(WAN)、蜂窝网络、卫星网络、或其组合，有线或无线。服务器103-104可以是任何类型的服务器或服务器群集，诸如Web或云服务器、应用服务器、后端服务器或其组合。服务器103-104可以是数据分析服务器、内容服务器、交通信息服务器、地图和兴趣点(MPOI)服务器或位置服务器等。在一个实施例中，自动驾驶车辆101可以从服务器103或104下载HD地图上的预定义的静态对象，用于检测和对抗针对自动驾驶车辆101的网络攻击或欺骗攻击。
自动车辆指的是能够被配置为处于自动模式的车辆，在自动模式中，车辆在驾驶员很少或没有输入的情况下导航通过环境。这种自动车辆可包括具有一个或多个传感器的传感器系统，传感器被配置为检测关于车辆操作其中的环境的信息。车辆及其相关联的控制器使用检测的信息导航通过环境。自动车辆101可以以手动模式、全自动模式或部分自动模式操作。
在一个实施例中，自动车辆101包括但不限于感知和规划系统110、车辆控制系统111、无线通信系统112、用户接口系统113、信息娱乐系统114和传感器系统115。自动车辆101还可包括在普通车辆中包括的某些常见组件，诸如引擎、车轮、转向盘、变速器等，这些组件可以被车辆控制系统111和/或感知和规划系统110使用各种通信信号和/或命令(例如加速信号或命令、减速信号或命令、转向信号或命令、制动信号或命令等)控制。
组件110-115可以经由互连、总线、网络或其组合彼此通信地耦接。例如，组件110-115可以经由控制器局域网(CAN)总线彼此通信地耦接。CAN总线是车辆总线标准，其被设计为允许微控制器和设备在没有主机的应用中彼此通信。它是基于消息的协议，最初被设计用于汽车内的多路电气布线，但是也用于许多其它环境中。
现在参考图2，在一个实施例中，传感器系统115包括但不限于一个或多个相机211、全球定位系统(GPS)单元212、惯性测量单元(IMU)213、雷达单元214以及光检测和范围(LIDAR)单元215。GPS系统212可包括可操作以提供关于自动车辆的位置的信息的收发器。IMU单元213可基于惯性加速度感测自动车辆的位置和朝向变化。雷达单元214可以表示利用无线电信号感测自动车辆的局部环境内的对象的系统。在一些实施例中，除了感测对象之外，雷达单元214还可以额外地感测对象的速度和/或航向。LIDAR单元215可以使用激光感测自动车辆所处的环境中的对象。LIDAR单元215可包括一个或多个激光源、激光扫描器以及一个或多个检测器，以及其他系统组件。相机211可包括一个或多个设备以捕获自动车辆周围的环境的图像。相机211可以是静态相机和/或摄像机。相机可以是机械可移动的，例如通过将相机安装在旋转和/或倾斜的平台上。
传感器系统115还可包括其它传感器，诸如声纳传感器、红外传感器、转向传感器、油门传感器、制动传感器和音频传感器(例如麦克风)。音频传感器可以被配置为捕获来自自动车辆周围的环境的声音。转向传感器可以被配置为感测转向盘、车辆的车轮或其组合的转向角。油门传感器和制动传感器分别感测车辆的油门位置和制动位置。在一些情况下，油门传感器和制动传感器可以集成为集成的油门/制动传感器。
在一个实施例中，车辆控制系统111包括但不限于转向单元201、油门单元202(也称为加速单元)和制动单元203。转向单元201用于调节车辆的方向或航向。油门单元202用于控制马达或引擎的速度，马达或引擎的速度转而控制车辆的速度和加速度。制动单元203通过提供摩擦力以使车辆的车轮或轮胎变慢来使车辆减速。注意，图2所示的组件可以以硬件、软件或其组合实现。
返回参考图1，无线通信系统112允许在自动车辆101和外部系统，诸如设备、传感器、其他车辆等之间的通信。例如，无线通信系统112可以直接或经由通信网络与一个或多个设备(诸如在网络102上的服务器103-104)无线通信。无线通信系统112可以使用任何蜂窝通信网络或无线局域网(WLAN)，例如使用WiFi与另一组件或系统通信。无线通信系统112可以例如使用红外链路、蓝牙等直接与设备(例如，乘客的移动设备、显示设备、车辆101内的扬声器)通信。用户接口系统113可以是在车辆101内实现的外围设备的一部分，包括例如键盘、触摸屏显示设备、麦克风和扬声器等。
自动车辆101的一些或所有功能可以由感知和规划系统110控制或管理，尤其是当以自动驾驶模式操作时。感知和规划系统110包括必要的硬件(例如，处理器、存储器、存储设备)和软件(例如，操作系统、规划和路线程序)，以从传感器系统115、控制系统111、无线通信系统112和/或用户接口系统113接收信息、处理接收的信息、规划从起点到目的地点的路线或路径、然后基于规划和控制信息驾驶车辆101。可替换地，感知和规划系统110可以与车辆控制系统111集成。
例如，作为乘客的用户可以例如经由用户界面指定行程的开始位置和目的地。感知和规划系统110获得行程有关的数据。例如，感知和规划系统110可以从MPOI服务器获得位置和路线信息，MPOI服务器可以是服务器103-104的一部分。位置服务器提供位置服务，以及MPOI服务器提供地图服务和某些位置的POI，诸如HD地图上用于规划路线的预定义的静态对象，用于检测和对抗针对自动车辆101的网络攻击或欺骗攻击。可替换地，这种位置和MPOI信息可本地缓存在感知和规划系统110的永久存储设备中。
当自动车辆101沿着路线移动时，感知和规划系统110还可以从交通信息系统或服务器(TIS)获得实时交通信息。注意，服务器103-104可以由第三方实体操作，诸如将开始位置和目的地位置下载到感知和规划系统110用于感知和规划系统110以规划路线的服务提供商。第三方还可以向感知和规划系统110发出命令以命令自动车辆101开始在规划路线上行驶。可替换地，服务器103-104的功能可以与感知和规划系统110集成。基于实时交通信息、MPOI信息和位置信息，以及由传感器系统115检测或感测的实时局部环境数据(例如，障碍物、对象、附近车辆)，感知和规划系统110可规划最佳路线，并例如经由控制系统111根据规划路线驾驶车辆101，以安全且高效地到达指定目的地。
服务器103可以是用以执行用于各种客户端的数据分析服务的数据分析系统。在一个实施例中，数据分析系统103包括数据收集器121和机器学习引擎122。数据收集器121从各种车辆(自动车辆或者是由人类驾驶员驾驶的常规车辆)收集驾驶统计123。驾驶统计123包括指示发出的驾驶命令(例如，油门、制动、转向命令)和由车辆的传感器在不同时间点捕获的车辆的响应(例如，速度、加速度、减速度、方向)的信息。驾驶统计123还可包括描述不同时间点的驾驶环境的信息，诸如路线(包括起始位置和目的地位置)、MPOIs、道路状况、天气状况等。
基于驾驶统计123，机器学习引擎122出于各种目的而生成或训练一组规则、算法和/或预测模型124。在一个实施例中，算法124可包括用于感知、预测、决策、规划和/或控制过程的规则或算法，这将在下面进一步详细描述。然后，算法124可以被上载到ADV上，以便在自动驾驶期间被实时地使用。
图3A和3B是示出根据一个实施例的与自动车辆一起使用的感知和规划系统的示例的框图。系统300可以被实现为图1的自动车辆101的一部分，包括但不限于感知和规划系统110、控制系统111和传感器系统115。参考图3A-3B，感知和规划系统110包括但不限于定位模块301、感知模块302、预测模块303、决策模块304、规划模块305、控制模块306和路由模块307。
模块301-307中的一些或全部可以以软件、硬件或其组合实现。例如，这些模块可被安装在永久存储设备352中，加载到存储器351中，并由一个或多个处理器(未示出)执行。注意，这些模块中的一些或全部可以通信地耦接到图2的车辆控制系统111的一些或全部模块或与之集成。模块301-308中的一些可以被集成在一起作为集成模块。例如，决策模块304和规划模块305可以集成为单个模块。
定位模块301确定自动车辆300的当前位置(例如，利用GPS单元212)并管理与用户的行程或路线有关的任何数据。定位模块301(也称为地图和路线模块)管理与用户的行程或路线有关的任何数据。用户可以例如经由用户界面登录并指定行程的起始位置和目的地。定位模块301与自动车辆300的其他组件交流诸如地图和路线信息311，以获得与行程有关的数据。例如，定位模块301可以从位置服务器和地图与POI(MPOI)服务器获得位置和路线信息。位置服务器提供位置服务，以及MPOI服务器提供地图服务和某些位置的POI，它们可作为地图和路线信息311的一部分被缓存。当自动车辆300沿着路线移动时，定位模块301还可以从交通信息系统或服务器获得实时交通信息。
基于由传感器系统115提供的传感器数据和由定位模块301获得的定位信息，由感知模块302确定对周围环境的感知。感知信息可以表示普通驾驶员将感知到的驾驶员正在驾驶的车辆周围的情况。感知可包括车道配置、交通灯信号、另一车辆、行人、建筑物、人行横道或例如以对象形式的其它交通相关标志(例如，停止标志、让步标志)等的相对位置。车道配置包括描述一个或多个车道的信息，诸如，例如车道的形状(例如，直的或弯曲的)、车道的宽度、道路中的车道数量、单向或双向车道、合并或分离车道、驶出车道等。
感知模块302可包括计算机视觉系统或计算机视觉系统的功能，以处理和分析由一个或多个相机捕获的图像，以便识别自动车辆的环境中的对象和/或特征。对象可包括交通信号、车行道边界、其他车辆、行人和/或障碍物等。计算机视觉系统可使用对象识别算法、视频追踪和其它计算机视觉技术。在一些实施例中，计算机视觉系统可以绘制环境、追踪对象、以及估计对象的速度等。感知模块302还可基于由诸如雷达和/或LIDAR的其他传感器提供的其他传感器数据检测对象。
对于每个对象，预测模块303预测对象将在环境下的行为。鉴于一组地图/路线信息311和交通规则312，基于感知在时间点的驾驶环境的感知数据，执行预测。例如，如果对象是在相反方向上的车辆并且当前驾驶环境包括十字路口，则预测模块303将预测车辆将可能直线向前移动还是转弯。如果感知数据指示十字路口没有交通灯，则预测模块303可以预测车辆在进入十字路口之前可能必须完全停止。如果感知数据指示车辆当前处于仅左转弯车道或仅右转弯车道，则预测模块303可预测车辆将更可能分别进行左转弯或右转弯。
对于每个对象，决策模块304作出关于如何处理该对象的决策。例如，对于特定对象(例如，在交叉路线中的另一车辆)以及描述该对象的元数据(例如，速度、方向、转向角)，决策模块304决定如何遇到该对象(例如，超车、让行、停止、通过)。决策模块304可根据一组规则，诸如交通规则或驾驶规则312作出这些决策，这组规则可存储于永久存储设备352中。
基于对于感知的对象中的每一个的决策，规划模块305规划用于自动车辆的路径或路线以及驾驶参数(例如，距离、速度和/或转向角度)。也就是说，对于给定对象，决策模块304决策对该对象做什么，而规划模块305确定如何做。例如，对于给定对象，决策模块304可以决策经过对象，而规划模块305可以确定是在对象的左侧还是右侧经过。规划和控制数据由规划模块305生成，包括描述车辆300在下一个移动周期(例如，下一个路线/路径段)中将如何移动的信息。例如，规划和控制数据可指示车辆300以30英里每小时(mph)的速度移动10米，然后以25mph的速度改变到右车行道。
于规划和控制数据，控制模块306通过根据由规划和控制数据限定的路线或路径向车辆控制系统111发送适当的命令或信号控制和驾驶自动车辆。规划和控制数据包括足够的信息以沿着路径或路线在不同时间点使用合适的车辆设置或驾驶参数(例如，油门、制动、转向命令)将车辆从路线或路径的第一点驾驶到第二点。
在一个实施例中，规划阶段在多个规划周期内执行，规划周期也称为驾驶周期，诸如在100毫秒(ms)的每个时间间隔内。对于每个规划周期或驾驶周期，将基于规划和控制数据发出一个或多个控制命令。也就是说，对于每100ms，规划模块305规划下一个路线段或路径段，例如包括目标位置和ADV到达目标位置所需的时间。可替换地，规划模块305还可指定具体速度、方向和/或转向角等。在一个实施例中，规划模块305为下一预定的时间段，诸如5秒规划路线段或路径段。对于每个规划周期，规划模块305基于在先前周期中规划的目标位置规划当前周期(例如，下一个5秒)的目标位置。然后控制模块306基于当前周期的规划和控制数据生成一个或多个控制命令(例如，油门、制动、转向控制命令)。
注意，决策模块304和规划模块305可以集成为集成模块。决策模块304/规划模块305可包括导航系统或导航系统的功能，以确定用于自动车辆的驾驶路径。例如，导航系统可以确定一系列速度和方向航向，以影响自动车辆沿着基本上避开感知的障碍物的路径的移动，同时大体使自动车辆沿着通向最终目的地的基于车行道的路径前进。目的地可以根据经由用户接口系统113的用户输入而被设置。当自动车辆在操作时，导航系统可以动态地更新驾驶路径。导航系统可以并入来自GPS系统的数据和一个或多个地图，以便确定自动车辆的驾驶路径。
决策模块304/规划模块305还可包括防撞系统或防撞系统的功能，以识别、评估和避免或以其他方式通过自动车辆的环境中的潜在障碍物。例如，防撞系统可以通过操作控制系统111中的一个或多个子系统以进行转向操纵、转弯操纵、制动操纵等实现自动车辆的导航的改变。防撞系统可以基于周围的交通模式、道路状况等自动地确定可行的避障操纵。防撞系统可被配置为使得当其他传感器系统检测到在与将转向进入的自动车辆相邻的区域中的车辆、施工障碍物等时不进行转向操纵。防撞系统可以自动地选择既可用又最大化自动车辆的乘坐者的安全的操纵。防撞系统可以选择被预测为在自动车辆的客舱中致使最小量的加速度的规避操纵。
路由模块307被配置为提供从起点到目的地点的一条或多条路线或路径。对于例如从用户接收到的从起始位置到目的地位置的给定行程，路由模块307获得路线和地图信息311并且确定从起始位置用以到达目的地位置的所有可能的路线或路径。路由模块307可以为其确定的从起始位置用以到达目的地位置的每条路线生成地形图形式的参考线。参考线是指没有来自诸如其它车辆、障碍物或交通状况的其它者的任何干扰的理想路线或路径。也就是说，如果在道路上没有其它车辆、行人或障碍物，则ADV应该精确地或紧密地跟随参考线。然后，地形图被提供给决策模块304和/或规划模块305。决策模块304和/或规划模块305检查所有可能的路线，以鉴于由其它模块提供的其它数据(诸如来自定位模块301的交通状况、由感知模块302感知的驾驶环境和由预测模块303预测的交通状况)选择和修改最佳路线中的一个。取决于在时间点的特定驾驶环境，用于控制ADV的实际路径或路线可以接近或不同于由路由模块307提供的参考线。
在一个实施例中，安全模块308被配置为基于一组安全规则313检测欺骗攻击。安全模块308可以被实现为感知模块302的部分，或者与感知模块302或其他模块通信。安全模块308通过检查沿着路线的地图上的动态更新的静态对象以及来自自动车辆或服务提供商内的乘客的确认检测对自动车辆的目的地改变或异常的重新路由活动的网络攻击。安全模块308通过使用HD地图上的地面实况以及多个传感器确认检测自动车辆的传感器系统上的欺骗，以防止欺骗的传感器/算法被用于自动车辆连续操作或故障操作。
注意，如上所示和所述的一些或所有组件可以用软件、硬件或其组合实现。例如，这些组件可以被实现为安装并存储在永久存储设备中的软件，软件可以由处理器(未示出)加载并执行在存储器中以执行贯穿本申请所述的过程或操作。可替换地，这些组件可被实现为被编程或嵌入到专用硬件中的可执行代码，专用硬件诸如集成电路(例如，专用IC或ASIC)、数字信号处理器(DSP)或现场可编程门阵列(FPGA)，其可经由来自应用的对应驾驶员和/或操作系统访问。此外，这些组件可以被实现为处理器或处理器内核中的特定硬件逻辑，作为经由一个或多个特定指令软件组件可访问的指令集的一部分。
图4是示出根据一个实施例的用于自动驾驶的系统架构的框图。系统架构400可以表示如图3A和3B所示的自动驾驶系统的系统架构。参考图4，系统架构400包括但不限于应用层401、规划和控制(PNC)层402、感知层403、驱动程序层404、固件层405和硬件层406。应用层401可包括与自动驾驶车辆的用户或乘客交互的用户接口或配置应用，诸如例如与用户接口系统113相关联的功能。PNC层402可包括至少规划模块305和控制模块306的功能。感知层403可包括至少感知模块302的功能。在一个实施例中，存在包括预测模块303和/或决策模块304的功能的额外的层。可替换地，这样的功能可以被包括在PNC层402和/或感知层403中。
系统架构400还包括驱动程序层404、固件层405和硬件层406。固件层405可以表示至少传感器系统115的功能，其可以以现场可编程门阵列(FPGA)的形式实现。硬件层406可以表示自动驾驶车辆的硬件，诸如控制系统111。层401-403可以经由设备驱动程序层404与固件层405和硬件层406通信。在一个实施例中，感知层403可包括处理来自HD地图的预定义的静态对象中的改变以检测试图改变目的地或重新路由的攻击。感知层403还可包括评估传感器从HD图的预定义的静态对象的识别，以及交叉检查多个传感器对静态和非HD图静态对象的识别，以检测传感器上的欺骗攻击。
图5是示出根据一个实施例的使用地图上的预定义的静态对象作为地面实况以检测试图改变ADV的行驶的路线或目的地的攻击的技术的图。ADV在当前位置501处并且沿着当前路线505行驶到当前目的地503。ADV的感知和规划系统110可在路线规划期间从HD地图下载预定义的静态对象511、513和515(例如，路标、里程标等)作为沿着当前路线505的地面实况点。静态对象511、513和515可包括关于对象和对象的位置的信息。感知和规划系统110可以在ADV接近对象的位置时基于传感器系统115捕获的信息检测和识别静态对象511、513和515，以确定其实时传感器覆盖。
感知和规划系统110可以基于交通状况、事故、道路封闭和其他实时状况重新路由当前路线505以减少行驶时间。在其他情况下，服务提供商或乘客可以改变当前路线505、添加中间停止点，或者可以改变当前目的地503。在利用感知和规划系统110的实时重新路由功能的网络攻击的情况下，攻击可以改变当前路线505或当前目的地503，而无需服务提供商或乘客的知识。例如，网络攻击可以将当前路线505改变为重新路线507，同时保持当前目的地507相同，或者可以将当前路线505改变为行驶至被指定为改变的目的地509的不同的目的地的新路线508。当当前路线改变时，感知和规划系统110可以从HD地图更新静态对象。例如，对于重新路线507，可以下载经更新的静态对象517、519、521。对于新的路线508，可以下载经更新的静态对象523和525。感知和规划系统110可以分析关于静态对象的更新的信息，以检测由于网络攻击而导致的异常的重新路由或可疑的目的地改变。
在一个实施例中，感知和规划系统110可以检测到静态对象517、519和521已经被下载，指示到重新路线507的重新路由。在一个实施例中，感知和规划系统110可以等待通过检测和识别与重新路线507相关联的静态对象51确认已经发生了重新路由。在一个实施例中，感知和规划系统100可以不检测已经发生的重新路由，直到其确定不能识别与当前路线505相关联的静态对象511。一旦重新路线507被检测到或确认，感知和规划系统110可以分析交通状况、到当前目的地503的规划路线已经被改变的频率、重新路线507的长度、重新路线507和当前路线505之间的路线长度的差、基于交通状况的重新路线507的预期的行驶时间、重新路线507和当前路线505之间的预期的行驶时间的差等，以确定重新路线507是否是异常的。例如，如果即使沿着当前路线505的交通状况，重新路线507显著增加距离和行驶时间，则感知和规划系统100可以将重新路线507标记为是异常的。如果在ADV中存在一个，感知和计划系统100可以向服务提供商或向乘客报告异常的重新路由。通过请求ADV停在最近的安全点或返回到当前路线505，可允许乘客选择退出行程。
在一个实施例中，感知和规划系统110可以通过分析由下载的静态对象523和525追踪的新路线508确定新路线508行驶到改变的目的地509。在一个实施例中，感知和规划系统110可以等待通过检测和识别与新路线508相关联的静态对象523或者通过确定不能识别与当前路线505相关联的静态对象511以确认新路线508。如果目的地已经改变并且ADV中有乘客，则该方法可以请求乘客确认目的地改变是由乘客发起的。如果乘客没有确认目的地改变，则通过请求ADV停在最近的安全点或返回到当前路线505，可允许乘客选择退出行程。如果车辆中没有乘客，则感知和计划系统110可以向服务提供商报告可疑的目的地改变。
感知和规划系统110可以额外地评估传感器系统115的传感器正确识别静态对象的能力是否已经被损坏，以确定是否存在针对一个或多个传感器的欺骗攻击。例如，感知和规划系统110可以评估相机211、雷达单元214和LIDAR单元215是否能够检测和识别静态对象511。如果传感器中的一个不能检测或识别静态对象511，但是其他传感器能够检测或识别静态对象511，则感知和规划系统110可以暂时排除受损的传感器用于感知目的。在一个实施例中，感知和规划系统110可以评估受损的传感器是否不能检测和识别额外的静态对象，诸如静态对象513，以确认损坏不是由于诸如障碍物之类的环境因素。
在一个实施例中，感知和规划系统110可以评估传感器是否能够检测和标识传感器覆盖区域内未由HD地图预定义的动态对象(例如，车辆、行人)或静态对象。感知和规划系统110可以通过在由传感器识别的对象之间执行交叉检查利用传感器的多样性，以获得更大的置信度，即一个传感器的损坏是由于欺骗攻击而不是由于环境因素。例如，如果在可视性良好时，传感器系统115的多个摄像机211中的仅一个不能识别多个动态和静态对象，则很可能这一个摄像机已经由于欺骗攻击而受损。感知和规划系统110可以通过排除受损的传感器实时地动态调整用于感知目的的传感器。
图6是示出根据一个实施例的操作ADV的过程的示例的流程图，ADV可以由可包括软件、硬件或其组合的处理逻辑执行。参考图6，在框651处，处理逻辑确定从开始位置到目的地的规划路线，所述规划路线是在ADV在行驶时可更新的。在框652处，处理逻辑从地图数据库获得预定义的静态对象的集合。在框653处，处理逻辑检测对于预定义的静态对象的更新。在框654处，处理逻辑确定到目的地的规划路线的重新路由是异常的或者存在由到目的地的未授权改变导致的新路线。在框655处，处理逻辑对规划路线的重新路由是异常的或新路线作出反应，例如生成警报。
图7是示出根据一个实施例的用于ADV使用预定义的静态对象作为地面实况点以检测和对抗试图改变行驶的路线或目的地的网络攻击的方法的流程图。方法600可以由处理逻辑执行，处理逻辑可包括软件、硬件或其组合。例如，方法600可以由感知和规划系统110执行。
在操作601处，方法基于由HD地图提供的信息和实时交通信息规划从起点到目的点的路线。ADV中的乘客或诸如操作无乘客ADV的运输公司的服务提供商可以指定起点和目的点。
在操作603处，方法从HD地图加载并更新沿着规划路线的预定义的静态对象作为地面实况点。静态对象的集合可以是车辆传感器系统可用于确定其实时传感器覆盖的沿着规划路线的兴趣范围(ROI)或兴趣点(POI)位置的部分。
在操作605处，方法执行静态对象检查以确定是否存在对静态对象的集合的任一个更新。在由于交通状况的变化而重新路由期间，当目的地如乘客或服务提供商所授权的那样改变时，或者当网络攻击重新路由规划路线的路线或改变目的地时，静态对象可以被动态地更新。
在操作607处，如果方法确定已经存在对静态对象的集合的更新，则该方法在操作609处确定是否沿着规划路线行驶已经完成。如果沿着规划路线的行驶没有完成，则该方法返回到操作601，以对规划路线进行任一个更新，以在操作603处更新任一个静态对象，以及在操作605处执行静态对象检查。如果已完成沿着规划路线的行驶，则该方法终止。
在操作611处，如果静态对象已经被更新，则该方法确定静态对象是否由于目的地的改变或由于重新路由而被更新。方法可以通过分析由改变的静态对象追踪的路线确定目的地已经改变。如果目的地没有改变，则该方法可以确定已经存在到相同的目的地的规划路线的重新路由。在一个实施例中，方法可通过等待直到与新路线相关联的新静态对象被传感器系统识别为止或通过验证与先前的路线相关联的旧静态对象不能被识别，来确认重新路线。
在操作613处，如果静态对象由于重新路由而被更新，则该方法分析重新路线和重新路由周围的信息，以确定重新路由是否是异常的。例如，方法可以分析交通状况、到目的地的规划路线被重新路由的频率、重新路线的距离、重新路线与先前规划路线的距离的差、重新路由的预期的行驶时间、重新路由与先前规划路线的预期的行驶时间的差等，以确定重新路由是否是异常的。在一个实施例中，方法可以使用基于学习经验的机器学习推断重新路由是异常的。
在操作615处，如果方法确定重新路由是异常的，则在操作617处，如果ADV中有乘客，方法将异常的重新路由报告给服务提供商或乘客。如果服务提供商没有直接从ADV接收报告，则可以要求乘客联系服务提供商作为额外的安全措施。
如果方法确定重新路由正常，则该方法在操作619处记录重新路由的信息。记录的信息，诸如到目的地的规划路线已经被重新路由的频率，可以由操作613分析以确定未来的重新路线是否是异常的。方法返回到操作601，以对规划路线进行任一个更新，在操作603处更新任一个静态对象，以及在操作605执行静态对象检查。
在操作611处，如果方法确定静态对象由于目的地的改变而被更新，则在操作621处，如果在ADV内存在乘客，则该方法确认乘客的目的地改变。
在操作623处，如果乘客没有确认乘客请求目的地改变，或者如果ADV中没有乘客，则在操作617处，方法将可疑的目的地改变报告给服务提供商。如果有乘客，则在服务提供商没有直接从ADV接收报告的情况下，可以要求乘客联系服务提供商作为额外的安全措施。
如果乘客确认由乘客请求目的地改变，则该方法在操作619处记录目的地改变的信息。方法返回到操作601，以对规划路线进行任一个更新，在操作603处更新任一个静态对象，以及在操作605处执行静态对象检查。
在操作625，如果存在可疑的目的地改变或异常的重新路由，则该方法提示乘客关于是否继续行程的指令。在操作627处，如果乘客选择终止行程，则该方法请求ADV在最近的安全点停止，并向服务提供商报告行程的终止。如果乘客希望继续行程，则该方法在操作619处记录可疑的目的地改变或异常的重新路由的信息，并且行程继续。
图8是示出根据一个实施例的操作ADV的过程的示例的流程图。过程750可由可包括软件、硬件或其组合的处理逻辑执行。参考图8，在框751处，处理逻辑从地图数据库获得沿着规划路线的预定义的静态对象的集合。在框752处，处理逻辑评估ADV的传感器中的每一个是否能够识别预定义的静态对象。在框753处，处理逻辑评估传感器中的每一个是否能够识别沿着规划路线的动态对象。在框754处，处理逻辑基于受损的传感器不能识别静态和动态对象的评估，识别一个或多个受损的传感器。在方框755处，将受损的传感器从ADV的感知功能的使用中排除。
图9是示出根据一个实施例的用于ADV使用预定义的静态对象、动态对象和各种传感器以检测和对抗针对传感器系统的欺骗攻击的方法的流程图。方法700可以由处理逻辑执行，处理逻辑可包括软件、硬件或其组合。例如，方法700可以由感知和规划系统110执行。
操作701和703类似于图7的操作601和603。为了简洁，将不再重复操作701和703的描述。在操作705处，方法确定ADV是否位于沿着规划路线的位置，在该位置存在来自HD地图的用于执行传感器系统覆盖检查的静态对象。传感器系统覆盖检查可以识别传感器系统的传感器以用于感知功能。
在操作707处，如果在当前位置处存在来自HD地图的至少一个静态对象，则该方法使用静态对象执行传感器系统覆盖检查。方法可确定传感器系统的传感器是否能够检测和识别静态对象。
在操作709处，如果方法确定传感器系统的传感器不能从当前位置处的HD地图检测和识别静态对象，则在操作711处，方法暂时地更新传感器系统覆盖以将受损的传感器从感知功能中排除。方法可评估受损的传感器是否也不能从HD地图、动态对象或非HD地图导出的静态对象检测和识别额外的静态对象，以确认传感器的损坏不是由于诸如障碍物的环境因素。
如果在当前位置处没有来自HD地图的静态对象可用，如果传感器系统的所有传感器能够在当前位置处从HD地图检测到静态对象，或者如果传感器系统覆盖已经被更新以排除受损的传感器，则在操作713处，方法确定在当前位置处的传感器覆盖区域内是否存在未由HD地图预定义的任一个动态对象(例如，车辆、行人)或静态对象。
在操作715处，如果方法确定在当前位置处有至少一个动态对象或非HD地图导出的静态对象可用于传感器系统覆盖检查，则该方法确定传感器系统覆盖中的所有传感器是否能够检测和识别动态对象或非HD地图导出的静态对象。方法可对由多个传感器识别的动态对象或非HD地图导出的静态对象执行交叉检查，以确认传感器是否由于环境因素或由于欺骗攻击而受损。例如，如果多个传感器在短时间内不能同时识别动态对象或非HD地图导出的静态对象，则更大的可能性是多个传感器的暂时的损坏是由于环境因素。另一方面，如果传感器系统中仅一个传感器不能识别对象，并且一个传感器的损坏发生在延长的时间段上或许多对象上，则更大的可能性是损坏是由于欺骗攻击。在一个实施例中，方法可以确认不能从HD地图中检测到静态对象并且被排除在传感器系统覆盖之外的任一个受损的传感器是否仍然不能检测和识别动态对象或非HD地图导出的静态对象。
在操作717处，如果传感器中的任一个不能检测和识别动态对象或非HD地图导出的静态对象，则该方法可更新传感器系统覆盖以将受损的传感器排除在感知功能之外。如果所有传感器能够检测和识别动态对象或非HD地图导出的静态对象，则该方法可更新传感器系统覆盖以包括能够为感知功能提供传感器输入的所有传感器。
在操作719处，方法确定传感器系统覆盖是否允许感知功能继续工作。在一个实施例中，方法可以确定在传感器系统覆盖内是否有最小数量的传感器。
在操作721处，如果传感器系统覆盖不允许感知功能继续工作，则该方法激活降级操作以降低车辆的速度，或者如果存在一个，则允许驾驶员接管车辆的操作。在一个实施例中，方法可以激活故障操作以将车辆停在最近的安全点，以及可以将故障操作通知给乘客或服务提供商。
如果传感器系统覆盖允许感知功能继续工作，则在操作723处，方法确定行程是否完成。如果行程没有沿着规划路线完成，则该方法返回到操作701，以基于传感器的多样性使用来自HD地图的额外的静态对象、动态对象或非HD地图导出的静态对象执行传感器系统覆盖检查。如果行程完成，则该方法终止。
数据处理系统可以执行上述过程或方法中的任一个，诸如例如网络攻击或欺骗检测方法。数据处理系统可包括许多不同的组件。这些组件可以被实现为集成电路(IC)、其部分、离散电子设备、或适用于诸如计算机系统的主板或内插式卡的电路板的其他模块，或者被实现为以其他方式被并入计算机系统的机箱内的组件。
数据处理系统可包括一个或多个处理器、一个或多个存储器以及经由总线连接的设备。处理器可以表示一个或多个通用处理器，诸如微处理器、中央处理单元(CPU)等。更具体地说，处理器可表示一个或多个通用处理器，诸如微处理器、中央处理单元(CPU)等。更特别地，处理器可以是复杂指令集计算(CISC)微处理器、精简指令集计算(RISC)微处理器、超长指令字(VLIW)微处理器、或实现其它指令集的处理器、或实现指令集的组合的处理器。处理器还可以是一个或多个专用处理器，诸如专用集成电路(ASIC)、蜂窝或基带处理器、现场可编程门阵列(FPGA)、数字信号处理器(DSP)、网络处理器、图形处理器、通信处理器、密码处理器、协处理器、嵌入式处理器或能够处理指令的任何其它类型的逻辑。处理器可以被配置为执行存储在存储器中的指令，用于执行本文所讨论的操作和步骤。
处理模块/单元/逻辑、组件和本文所述的其他特征可以被实现为离散硬件组件或者被集成在诸如ASIC、FPGA、DSP或类似设备之类的硬件组件的功能性中。另外，处理模块/单元/逻辑可以被实现为硬件设备内的固件或功能电路。此外，处理模块/单元/逻辑可以以硬件设备和软件组件的任何组合实现。
经在对计算机存储器内的数据位的操作的算法和符号表示方面呈现了前述详细描述的一些部分。这些算法描述和表示是数据处理领域的技术人员用来最有效地将他们的工作实质传达给本领域的其他技术人员的方式。算法在这里并且通常被认为是导致期望结果的自相容操作序列。这些操作是需要对物理量进行物理操纵的那些操作。
然而，应当记住的是，所有这些和类似的术语都与适当的物理量相关联，并且仅仅是应用于这些量的方便的标记。除非特别声明，否则从以上讨论中显而易见的是，应当理解的是，在整个说明书中，使用诸如所附权利要求书中所阐述的术语的讨论指的是计算机系统或类似电子计算设备的动作和处理，所述计算机系统或类似电子计算设备将计算机系统的寄存器和存储器内表示为物理(电子)量的数据操纵和变换成计算机系统存储器或寄存器或其它这样的信息存储、传输或显示设备内的类似地表示为物理量的其它数据。
本公开的实施例还涉及用于执行本文的操作的装置。这种计算机程序存储在非瞬态计算机可读介质中。机器可读介质包括用于以机器(例如，计算机)可读的形式存储信息的任何机制。例如，机器可读(例如，计算机可读)介质包括机器(例如，计算机)可读存储介质(例如，只读存储器(“ROM”)、随机存取存储器(“RAM”)、磁盘存储介质、光存储介质、闪存设备)。
在前述附图中描述的过程或方法可以由包括硬件(例如，电路、专用逻辑等)、软件(例如，体现在非暂时性计算机可读介质上)或两者的组合的处理逻辑来执行。尽管以上根据一些顺序操作描述了过程或方法，但是应当理解的是，可以以不同的顺序执行所述的一些操作。此外，一些操作可以并行地而不是顺序地执行。
本公开的实施例不是参考任何特别编程语言描述的。将了解，可使用各种编程语言实施如本文所述的本公开的实施例的教示。
在前述说明书中，已经参考本公开的具体示例性实施例描述了本公开的实施例。显然，在不背离如所附权利要求书中所阐述的本公开的更宽的精神和范围的情况下，可以对其进行各种修改。因此，说明书和附图应被认为是说明性的而不是限制性的。

Claims (17)

1.一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的方法，所述方法包括：
确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的；
从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；
检测对于所述多个预定义的静态对象的更新；
响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及
对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
2.如权利要求1所述的方法，其中确定所述到目的地的规划路线的重新路由是异常的包括：
分析一个或多个因素，所述一个或多个因素包括交通状况、所述规划路线的过去的重新路由的频率、所述规划路线的距离、所述异常的重新路由与所述规划路线之间的距离的差、所述规划路线的行驶时间，或所述异常的重新路由与所述规划路线之间的行驶时间的差。
3.如权利要求1所述的方法，其中确定所述到目的地的规划路线的重新路由是异常的或存在由到所述目的地的未经授权的改变导致的新路线还包括：
验证经更新的预定义的静态对象被识别，以确认所述规划路线是被重新路由或新路线。
4.如权利要求1所述的方法，其中确定存在由到所述目的地的未经授权的改变导致的新路线包括：
分析通过多个经更新的预定义的静态对象勾画出的新路线，以确定到所述目的地的改变；以及
如果在所述ADV中有乘客，则确认所述乘客没有请求到所述目的地的所述改变。
5.如权利要求1所述的方法，其中确定存在由到所述目的地的未经授权的改变导致的新路线包括：
分析通过多个经更新的预定义的静态对象勾画出的新路线，以确定到所述目的地的改变；以及
确认所述ADV中没有乘客。
6.如权利要求1所述的方法，其中对所述规划路线的所述重新路由是异常的或所述新路线作出响应包括：
向所述ADV中的乘客或服务提供商警告到所述目的地的规划路径的异常的重新路由或到所述目的地的所述未授权的改变。
7.如权利要求1所述的方法，其中对所述规划路线的所述重新路由是异常的或所述新路线作出响应包括：
允许所述ADV中的乘客请求停止所述ADV。
8.一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：
路由模块，用于确定从开始位置到目的地的规划路线，所述到目的地的规划路线是在所述ADV在所述规划路线上行驶时可更新的，并且用于从地图数据库获得沿着所述规划路线的多个预定义的静态对象，所述多个预定义的静态对象是在所述规划路线被更新时可更新的；
安全模块，用于检测对于所述多个预定义的静态对象的更新，并且响应于检测对于所述多个预定义的静态对象的所述更新，确定所述到目的地的规划路线的重新路由是异常的或者存在由到所述目的地的未授权改变导致的新路线；以及
决策模块，用于对所述规划路线的所述重新路由是异常的或所述新路线作出响应。
9.一种具有存储在其中的指令的非暂时性机器可读介质，所述指令在由处理器执行时使得所述处理器执行如权利要求1-7中任一项所述的方法。
10.一种用于检测针对自动驾驶车辆(ADV)的传感器系统的欺骗攻击的方法，所述方法包括：
确定从开始位置到目的地的规划路线；
从地图数据库获得沿着所述规划路线的多个预定义的静态对象；
当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象；
评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象；以及
基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及
将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
11.如权利要求10所述的方法，其中基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估识别所述一个或多个受损的传感器包括：
确定所述多个传感器中的一个传感器不能识别所述一个预定义的静态对象；
确认所述一个传感器不能识别所述动态对象；以及
将所述一个传感器识别为所述受损的传感器中的一个。
12.如权利要求10所述的方法，其中基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估识别所述一个或多个受损的传感器包括：
确定所述多个传感器中的仅一个传感器不能识别所述动态对象；以及
将所述一个传感器识别为所述受损的传感器中的一个。
13.如权利要求10所述的方法，其中基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估识别所述一个或多个受损的传感器包括：
当所述ADV处于与所述多个预定义的静态对象中的一个额外的预定义的静态对象对应的位置处、或者所述一个或多个受损的传感器不能识别额外的动态对象时，确认所述一个或多个受损的传感器不能识别所述额外的预定义的静态对象。
14.如权利要求10所述的方法，其中所述动态对象包括非HD地图导出的静态对象。
15.如权利要求10所述的方法，还包括：
确定排除了所述一个或多个受损的传感器之后的所述多个传感器是否允许所述ADV的所述感知功能继续工作；以及
响应于确定排除了所述一个或多个受损的传感器之后的所述多个传感器不允许所述感知功能继续工作，激活所述ADV的降级操作或停止所述ADV。
16.一种用于检测针对自动驾驶车辆(ADV)的欺骗攻击的装置，所述装置包括：
路由模块，用于确定从开始位置到目的地的规划路线，并且从地图数据库获得沿着所述规划路线的多个预定义的静态对象；
安全模块，用于当所述ADV处于与所述多个预定义的静态对象中的一个预定义的静态对象对应的位置处时，评估所述ADV的多个传感器中的每一个是否能够识别来自于所述地图数据库的所述一个预定义的静态对象，评估所述多个传感器中的每一个是否能够识别沿着所述规划路线的动态对象，以及基于一个或多个受损的传感器不能识别所述一个预定义的静态对象或动态对象的评估，识别所述一个或多个受损的传感器；以及
决策模块，用于将所述一个或多个受损的传感器从所述ADV的感知功能中排除。
17.一种具有存储在其中的指令的非暂时性机器可读介质，所述指令在由处理器执行时使得所述处理器执行如权利要求10-15中任一项所述的方法。
CN202011098306.7A 2019-10-15 2020-10-14 检测针对自动驾驶系统的欺骗攻击的方法和装置 Active CN112464229B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/653,711 US11310269B2 (en) 2019-10-15 2019-10-15 Methods to detect spoofing attacks on automated driving systems
US16/653,711 2019-10-15

Publications (2)

Publication Number Publication Date
CN112464229A true CN112464229A (zh) 2021-03-09
CN112464229B CN112464229B (zh) 2023-07-21

Family

ID=72826686

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011098306.7A Active CN112464229B (zh) 2019-10-15 2020-10-14 检测针对自动驾驶系统的欺骗攻击的方法和装置

Country Status (4)

Country Link
US (1) US11310269B2 (zh)
EP (1) EP3828502B1 (zh)
JP (1) JP7073456B2 (zh)
CN (1) CN112464229B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10909866B2 (en) * 2018-07-20 2021-02-02 Cybernet Systems Corp. Autonomous transportation system and methods
JP7259716B2 (ja) * 2019-11-28 2023-04-18 トヨタ自動車株式会社 車両制御システム及び車両制御方法
JP2022175060A (ja) * 2021-05-12 2022-11-25 株式会社日立製作所 移動体管制システム、攻撃通知方法
JP2022181289A (ja) * 2021-05-26 2022-12-08 株式会社日立製作所 安全管理システム、および、自律制御システム
US11636688B1 (en) 2021-10-06 2023-04-25 Ford Global Technologies, Llc Enhanced vehicle operation
JP2023134153A (ja) * 2022-03-14 2023-09-27 日立Astemo株式会社 電子制御装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106372545A (zh) * 2016-08-29 2017-02-01 北京新能源汽车股份有限公司 一种数据处理方法、车载自动诊断系统obd控制器及车辆
CN109429518A (zh) * 2017-06-22 2019-03-05 百度时代网络技术（北京）有限公司 基于地图图像的自动驾驶交通预测
CN109447048A (zh) * 2018-12-25 2019-03-08 苏州闪驰数控系统集成有限公司 一种人工智能预警系统
CN109902018A (zh) * 2019-03-08 2019-06-18 同济大学 一种智能驾驶系统测试案例的获取方法
US20190187723A1 (en) * 2017-12-15 2019-06-20 Baidu Usa Llc System for building a vehicle-to-cloud real-time traffic map for autonomous driving vehicles (advs)

Family Cites Families (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8135952B2 (en) * 2006-10-10 2012-03-13 Recursion Ventures LLC Method and system for secure position determination
US9218741B2 (en) * 2012-04-06 2015-12-22 Saab-Sensis Corporation System and method for aircraft navigation based on diverse ranging algorithm using ADS-B messages and ground transceiver responses
US9019155B2 (en) * 2012-05-03 2015-04-28 Raytheon Company Global positioning system (GPS) and doppler augmentation (GDAUG) and space location inertial navigation geopositioning system (SPACELINGS)
US10223517B2 (en) * 2013-04-14 2019-03-05 Kunal Kandekar Gesture-to-password translation
KR101518929B1 (ko) * 2013-12-16 2015-05-15 현대자동차 주식회사 텔레매틱스 원격 제어 차량의 외부 해킹 차단 방법 및 시스템
US10495759B2 (en) * 2014-02-13 2019-12-03 The Mitre Corporation GPS spoofing detection techniques
US9764712B2 (en) 2014-04-09 2017-09-19 Empire Technology Development Llc Sensor data anomaly detector
US10690776B2 (en) * 2014-09-05 2020-06-23 The Board Of Trustees Of The Leland Stanford Junior University Spoofing detection and anti-jam mitigation for GPS antennas
GB201420496D0 (en) * 2014-10-01 2014-12-31 Continental Intelligent Transporation Systems Llc Package delivery to and pick-up from a vehicle
US9552736B2 (en) * 2015-01-29 2017-01-24 Qualcomm Incorporated Systems and methods for restricting drone airspace access
US9601022B2 (en) * 2015-01-29 2017-03-21 Qualcomm Incorporated Systems and methods for restricting drone airspace access
US10024973B1 (en) * 2015-04-03 2018-07-17 Interstate Electronics Corporation Global navigation satellite system spoofer identification technique
JP6298021B2 (ja) 2015-07-30 2018-03-20 トヨタ自動車株式会社 攻撃検知システムおよび攻撃検知方法
US9774414B2 (en) * 2015-08-17 2017-09-26 Kay Nishimoto Methods and apparatus for providing and utilizing virtual timing markers
US20170070971A1 (en) * 2015-09-04 2017-03-09 Qualcomm Incorporated Methods and systems for collaborative global navigation satellite system (gnss) diagnostics
US9847033B1 (en) * 2015-09-25 2017-12-19 Amazon Technologies, Inc. Communication of navigation data spoofing between unmanned vehicles
US10705221B2 (en) * 2016-06-08 2020-07-07 The Boeing Company On-board backup and anti-spoofing GPS system
US10545246B1 (en) * 2016-07-08 2020-01-28 Interstate Electronics Corporation Global navigation satellite system spoofer identification technique based on carrier to noise ratio signatures
KR101887077B1 (ko) * 2017-01-24 2018-09-10 엘지전자 주식회사 차량용 전자 디바이스 해킹 테스트 장치
JP6862257B6 (ja) * 2017-04-14 2021-06-23 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカＰａｎａｓｏｎｉｃ Ｉｎｔｅｌｌｅｃｔｕａｌ Ｐｒｏｐｅｒｔｙ Ｃｏｒｐｏｒａｔｉｏｎ ｏｆ Ａｍｅｒｉｃａ 自動運転車両、自動運転車両の停車方法及びプログラム
CN107194248B (zh) * 2017-04-21 2023-02-28 百度在线网络技术（北京）有限公司 无人驾驶车辆的反黑客劫持方法、装置、设备及存储介质
JP6808595B2 (ja) 2017-09-01 2021-01-06 クラリオン株式会社 車載装置、インシデント監視方法
EP3714292A2 (en) * 2017-11-20 2020-09-30 Javad GNSS, Inc. Spoofing detection and rejection
US11105932B2 (en) * 2017-12-20 2021-08-31 Board Of Regents, The University Of Texas System Method and system for detecting and mitigating time synchronization attacks of global positioning system (GPS) receivers
US10921823B2 (en) * 2017-12-28 2021-02-16 Bendix Commercial Vehicle Systems Llc Sensor-based anti-hacking prevention in platooning vehicles
CN110058265A (zh) * 2018-01-18 2019-07-26 孙宏民 全球定位系统的分析方法
US20190268371A1 (en) * 2018-02-23 2019-08-29 Walmart Apollo, Llc Systems and methods for identifying a hacked data communication received by an unmanned vehicle
US10817610B2 (en) * 2018-03-23 2020-10-27 Wipro Limited Method and system for providing hack protection in an autonomous vehicle
AU2019366249C1 (en) * 2018-08-06 2022-11-24 Transportation Ip Holdings, Llc Positioning data verification system
US11273841B2 (en) * 2018-09-20 2022-03-15 Toyota Research Institute, Inc. Method and apparatus for spoofing prevention
US11023756B2 (en) * 2018-10-26 2021-06-01 Advanced New Technologies Co., Ltd. Spoof detection using iris images
US20200371245A1 (en) * 2019-05-23 2020-11-26 The Boeing Company Digital Controlled Reception Pattern Antenna for Satellite Navigation
US11280913B2 (en) * 2019-05-31 2022-03-22 At&T Intellectual Property I, L.P. Global positioning system spoofing countermeasures
US20210331712A1 (en) * 2019-08-05 2021-10-28 Lg Electronics Inc. Method and apparatus for responding to hacking on autonomous vehicle
US11222542B2 (en) * 2019-08-22 2022-01-11 Qualcomm Incorporated Planning and control framework with communication messaging

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106372545A (zh) * 2016-08-29 2017-02-01 北京新能源汽车股份有限公司 一种数据处理方法、车载自动诊断系统obd控制器及车辆
CN109429518A (zh) * 2017-06-22 2019-03-05 百度时代网络技术（北京）有限公司 基于地图图像的自动驾驶交通预测
US20190187723A1 (en) * 2017-12-15 2019-06-20 Baidu Usa Llc System for building a vehicle-to-cloud real-time traffic map for autonomous driving vehicles (advs)
CN109447048A (zh) * 2018-12-25 2019-03-08 苏州闪驰数控系统集成有限公司 一种人工智能预警系统
CN109902018A (zh) * 2019-03-08 2019-06-18 同济大学 一种智能驾驶系统测试案例的获取方法

Also Published As

Publication number Publication date
JP2021063795A (ja) 2021-04-22
EP3828502B1 (en) 2024-01-31
EP3828502A3 (en) 2021-08-11
EP3828502A2 (en) 2021-06-02
JP7073456B2 (ja) 2022-05-23
CN112464229B (zh) 2023-07-21
US11310269B2 (en) 2022-04-19
US20210112094A1 (en) 2021-04-15

Similar Documents

Publication Publication Date Title
CN112464229B (zh) 检测针对自动驾驶系统的欺骗攻击的方法和装置
JP6840240B2 (ja) 自律走行車の動的ルート決定
CN112572451A (zh) 用于自主驾驶车辆执行的方法和装置
CN112498365A (zh) 基于置信度水平和距离、响应于障碍物的自动驾驶车辆的延迟决策
CN111775945A (zh) 用于自动驾驶的用于检测最接近的路径内对象的方法和装置
EP3882100B1 (en) Method for operating an autonomous driving vehicle
US11225228B2 (en) Method for enhancing in-path obstacle detection with safety redundancy autonomous system
US11662730B2 (en) Hierarchical path decision system for planning a path for an autonomous driving vehicle
CN112977473A (zh) 用于预测移动障碍物驶出十字路口的方法及系统
CN112829769A (zh) 自动驾驶车辆的混合规划系统
CN113885011A (zh) 自动车辆的基于点云图的光检测测距重新校准系统
CN113129624A (zh) 交通堵塞情况下的最快车道确定算法
US20210173408A1 (en) Emergency vehicle audio detectoin
CN113060140A (zh) 基于中心线移位的变道前路径规划
KR102597917B1 (ko) 자율 주행 차량을 위한 음원 검출 및 위치 측정
CN115871712A (zh) 操作自主驾驶车辆的方法和系统
US20210284195A1 (en) Obstacle prediction system for autonomous driving vehicles
US11679761B2 (en) Forward collision warning alert system for autonomous driving vehicle safety operator
US11851088B2 (en) Method for determining capability boundary and associated risk of a safety redundancy autonomous system in real-time
US11662219B2 (en) Routing based lane guidance system under traffic cone situation
US11807274B2 (en) L4 auto-emergency light system for future harsh brake
CN212515471U (zh) 用于自动驾驶车辆的光探测和测距装置
US20230202516A1 (en) Planning under prediction with confidence region for an autonomous driving vehicle
US20210394672A1 (en) L3-level auto-emergency light system for ego vehicle harsh brake
CN115320634A (zh) 操作自主驾驶车辆的方法和系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant