JP6845894B2 - 自動運転車両におけるセンサー故障を処理するための方法 - Google Patents

自動運転車両におけるセンサー故障を処理するための方法 Download PDF

Info

Publication number
JP6845894B2
JP6845894B2 JP2019111989A JP2019111989A JP6845894B2 JP 6845894 B2 JP6845894 B2 JP 6845894B2 JP 2019111989 A JP2019111989 A JP 2019111989A JP 2019111989 A JP2019111989 A JP 2019111989A JP 6845894 B2 JP6845894 B2 JP 6845894B2
Authority
JP
Japan
Prior art keywords
sensor
self
navigating
data
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019111989A
Other languages
English (en)
Other versions
JP2019219396A (ja
Inventor
フー、ジアンタオ
ジアン、イーフェイ
リ、ドン
ジャン、リアンリアン
タオ、ジアミン
ルオ、チ
シャオ、シャンクアン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu USA LLC
Original Assignee
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu USA LLC filed Critical Baidu USA LLC
Publication of JP2019219396A publication Critical patent/JP2019219396A/ja
Application granted granted Critical
Publication of JP6845894B2 publication Critical patent/JP6845894B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/029Adapting to failures or work around with other constraints, e.g. circumvention by avoiding use of failed parts
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0055Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements
    • G05D1/0077Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot with safety arrangements using redundant signals or controls
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205Diagnosing or detecting failures; Failure detection models
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0225Failure correction strategy
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • B60W60/0018Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions
    • B60W60/00186Planning or execution of driving tasks specially adapted for safety by employing degraded modes, e.g. reducing speed, in response to suboptimal conditions related to the vehicle
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/0088Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0246Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/0205Diagnosing or detecting failures; Failure detection models
    • B60W2050/0215Sensor drifts or sensor failures
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/02Ensuring safety in case of control system failures, e.g. by diagnosing, circumventing or fixing failures
    • B60W50/029Adapting to failures or work around with other constraints, e.g. circumvention by avoiding use of failed parts
    • B60W2050/0292Fail-safe or redundant systems, e.g. limp-home or backup systems
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40Photo or light sensitive means, e.g. infrared sensors
    • B60W2420/403Image sensing, e.g. optical camera
    • B60W2420/408

Landscapes

  • Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Business, Economics & Management (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本発明の実施形態は、自動運転車両の操作に関する。より具体的には、本発明の実施形態は、自動運転車両におけるセンサー故障の処理に関する。
自動運転モード(例えば、無人運転)で運転している車両は、運転に関連するいくつかの責任から乗員、特に運転手を解放することができる。自動運転モードで運転しているとき、車両は車載センサーを使用してさまざまな地点にナビゲートすることができるため、車両が最小限のヒューマンコンピュータインタラクションまたは乗客なしの状況などで走行することが可能である。
自動運転モード(例えば、無人運転)で運転している車両は、運転に関連するいくつかの責任から乗員、特に運転手を解放することができる。自動運転モードで運転しているとき、車両は車載センサーを使用してさまざまな地点にナビゲートすることができるため、車両が最小限のヒューマンコンピュータインタラクションまたは乗客なしの状況などで走行することが可能である。
しかし、ADVが1つ以上のセンサー故障に遭遇すると、世界座標内でナビゲートされるADVは、センサーデータをまったく受信していないか、または1つ以上のセンサーからセンサーデータを受信するのに遅延が発生する可能性がある。そのため、ADVを世界座標内で正確にナビゲートすることができない可能性がある。
本発明に係る一態様は、自動運転車両におけるセンサー故障を処理するためのコンピュータ実施方法であって、センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする前記自動運転車両における1つ以上のセンサーの故障を検出することと、前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、を含む方法に関する。
本発明に係る別の一態様は、命令を格納する非一時的な機械可読媒体であって、前記命令は、プロセッサによって実行される場合に、
センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする前記自動運転車両における1つ以上のセンサーの故障を検出することと、
前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、
複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、
前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、
を含む、自動運転車両におけるセンサー故障を処理するための操作を前記プロセッサに実行させる非一時的な機械可読媒体に関する。
本発明に係るさらに別の一態様は、自動運転車両におけるセンサー故障を処理するためのシステムであって、プロセッサと、前記プロセッサに接続され、命令を格納するメモリと、を含み、前記命令が前記プロセッサによって実行される場合に、センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする前記自動運転車両における1つ以上のセンサーの故障を検出することと、前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、を前記プロセッサに実行させるシステム。
本発明の実施態様は図面の各図において限定的ではなく例示的に示され、図面において同一の参照符号が同様な素子を示す。
いくつかの実施形態にかかるネットワーク化システムを示すブロック図である。
いくつかの実施形態にかかる自動運転車両の例を示すブロック図である。
いくつかの実施形態にかかる自動運転車両と共に使用される感知・計画システムの例を示すブロック図である。 いくつかの実施形態にかかる自動運転車両と共に使用される感知・計画システムの例を示すブロック図である。
一実施形態にかかるADVで使用するための例示的なセンサー故障処理システムを示す図である。
一実施形態にかかる世界座標系からローカル座標系への変換を示す図である。
一実施形態にかかる自動運転車両(例えばADV)におけるセンサー故障を処理するためのプロセスの例示を示すフローチャートである。
いくつかの実施形態にかかるデータ処理システムを示すブロック図である。
本発明の様々な実施形態および態様を以下に検討される詳細を参照して説明し、図面には、前記様々な実施形態が示されている。以下の説明及び図面は本発明を説明するためのものであり、本発明を限定するものと解釈されるべきではない。具体的な詳細を多く記載することは、本発明の様々な実施形態を完全に理解するためである。しかしながら、本発明の実施形態を簡潔に説明するために、周知のまたは従来の詳細は記載しない場合もある。
本明細書における「一実施形態」または「実施形態」への言及は、当該実施形態に関連して説明された特定の特徴、構造、または特性が本発明の少なくとも1つの実施形態に含まれ得ることを意味する。本明細書の様々な箇所に出現する「一実施形態では」とは、必ずしも全て同じ実施形態を指すわけではない。
いくつかの実施形態によれば、絶対座標系である世界座標内でナビゲートする自動運転車両(ADV)におけるセンサー故障を処理するためのシステムおよび方法を本明細書で説明する。ADVにセンサー故障が発生しても、少なくとも1つのカメラが正常に動作している場合、センサー故障処理システムは、ADVを世界座標内でナビゲートすることからローカル座標内或は相対座標内でナビゲートすることに変換することが可能であり、ここで、ADVは、1台以上のカメラに頼って車線追跡を使用してナビゲートされることにより、人が離れるまで減速し、または必要に応じて道路縁石に沿って駐車するまで減速することができる。センサー故障処理システムは座標変換を迅速に、シームレスにそして自動的に実行できる。
一実施形態では、世界座標系内をナビゲートされるADVにおける1つ以上のセンサーのセンサー故障を検出するために、センサー故障処理モジュールをADVに設けることが可能である。センサー故障処理モジュールは、1つ以上のセンサーにおける故障を検出したことに応答して、故障を示すメッセージをADVにおける1つ以上のモジュールによって購読されるメッセージチャネルに送信する。メッセージを受信すると、少なくとも1つの購読モジュールが、ADVを世界座標内でナビゲートすることからADVが走行している車線内のADVの現在位置に関するローカル座標内でナビゲートすることに変換するように動作する。世界座標の絶対座標情報を使用しない場合、少なくとも1つの購読モジュールは、ローカル座標に基づいてADVが車線内を走行するための軌跡を計画することができる。
本明細書で使用されるように、センサー故障は、センサーにおける物理的故障であってもよく、センサーデータの受信側から見たセンサーの感知故障であってもよい。例えば、GPS信号が遮断された場合、GPSセンサーに物理的故障がなくても、ADVはGPSセンサーからのセンサーデータを使用することができず、センサー故障処理モジュールはGPS信号の欠如またはGPS信号の誤差をGPSセンサの故障とし、メッセージチャネルにメッセージを送信する。別の例として、コンピューティングデバイスにおけるコンピューティングリソースの高利用率は、コンピューティングデバイスがセンサーからのセンサーデータをタイムリーに処理することを妨げる場合、適切なモジュールによるセンサーデータの受信が遅延し、センサー故障処理モジュールは同様にこのような遅延をセンサー故障と見なす。
一実施形態では、センサー故障処理モジュールは、ADVの温度、ADVにおけるコンピューティングデバイス上のCPU使用率、メモリ使用率とディスク使用率、およびADVにおけるセンサーを監視するように構成される。したがって、センサー故障処理モジュールは、センサー故障を検出することができ、またセンサー故障の1つまたは複数の原因を識別することもできる。センサー故障を示すメッセージをメッセージチャネルに送信すると、センサー故障処理モジュールは、故障の原因を示すメタデータを送信することができる。購読モジュールは、メタデータを使用することにより、その購読モジュールがこのセンサー故障を処理する必要があるかどうかを判断することができる。購読モジュールが当該センサー故障を処理できない場合、センサー故障処理モジュールはデフォルトで当該センサー故障を処理する。例えば、センサー故障が検出されたときにコンピューティングデバイス上のディスク使用率が高すぎる場合、センサー故障処理モジュール自体がディスクスペースをいくらか解放するように動作することができる。
[自動運転車両]
図1は、本発明のいくつかの実施形態にかかる自動運転車両ネットワーク構成を示すブロック図である。図1を参照すると、ネットワーク構成100は、ネットワーク102を介して1つまたは複数のサーバ103〜104に通信可能に接続された自動運転車両101を含む。1つの自動運転車両が示されているが、複数の自動運転車両がネットワーク102を介して互いに接続され、および/またはサーバ103〜104に接続されることが可能である。ネットワーク102は、有線または無線のローカルエリアネットワーク(LAN)、インターネットなどの広域ネットワーク(WAN)、セルラーネットワーク、衛星ネットワーク、またはそれらの組み合わせなどの任意のタイプのネットワークであってもよい。サーバ103〜104は、ネットワークまたはクラウドサーバ、アプリケーションサーバ、バックエンドサーバ、またはそれらの組み合わせなどの任意のタイプのサーバまたはサーバ・クラスタであってもよい。サーバ103〜104は、データ分析サーバ、コンテンツサーバ、交通情報サーバ、地図・関心点(MPOI:map and point of interest)サーバまたはロケーションサーバなどであってもよい。
自動運転車両とは、自動運転モードになるように配置可能な車両を指し、前記自動運転モードで、運転者からの入力がほとんどまたは全くない状況で、車両が周囲の環境をナビゲートして通過する。このような自動運転車両は、車両の走行環境に関連する情報を検出するように構成された1つ以上のセンサを有するセンサーシステムを含むことが可能である。前記車両及びかかるコントローラは、検出された情報を使用して周囲の環境をナビゲートして通過する。自動運転車両101は、手動モード、全自動運転モード、または一部自動運転モードで運転することができる。
一実施形態では、自動運転車両101は、感知・計画システム110、車両制御システム111、無線通信システム112、ユーザインタフェースシステム113、およびセンサーシステム115を含むが、これらに限定されない。自動運転車両101はエンジン、ホイール、ステアリングホイール、トランスミッションなどの一般の車両に含まれるいくつかの共通の要素をさらに含み、例えば加速信号または命令、減速信号または命令、ステアリング信号または命令、ブレーキ信号または命令などの様々な通信信号および/または命令を使用して、車両制御システム111および/または感知・計画システム110によって、前記要素を制御してもよい。
要素110〜115同士は、接続部品、バス、ネットワーク、またはそれらの組み合わせを介して通信可能に接続されることが可能である。例えば、要素110〜115同士は、コントローラエリアネットワーク(CAN)バスを介して通信可能に接続されることができる。CANバスは、マイクロコントローラとデバイスがホストコンピュータなしのアプリケーションで互いに通信することを許可するように設計された車両バス規格である。これは、もともと自動車内の多重電気配線のために設計されたメッセージベースのプロトコルでしたが、他の多くの環境でも使用されている。
次に、図2を参照すると、一実施形態では、センサーシステム115は、1つ以上のカメラ211と、全地球測位システム(GPS)ユニット212と、慣性計測ユニット(IMU)213と、レーダユニット214と、光検出・測距(LIDAR)ユニット215とを含むが、これらに限定されない。GPSユニット212は、自動運転車両の位置に関する情報を提供するように動作できる送受信機を含むことができる。IMUユニット213は、慣性加速度に基づいて自動運転車両の位置および向きの変化を検知することができる。レーダユニット214は、無線信号を利用して自動運転車両のローカル環境内の対象物を感知するシステムを表すことができる。いくつかの実施形態では、対象物を感知することに加えて、レーダーユニット214は、対象物の速度および/または進行方向をさらに感知することができる。LIDARユニット215は、レーザを使用することにより自動運転車両が存在する環境における対象物を感知することができる。他のシステム要素を除いて、LIDARユニット215は、1つ以上のレーザ源、レーザスキャナ、および1つ以上の検出器も含むことができる。カメラ211は、自動運転車両の周囲の環境の画像を取得するための1つ以上の装置を含むことができる。カメラ211は、スチルカメラおよび/またはビデオカメラであってもよい。カメラは、例えば回転および/または傾斜プラットフォーム上にカメラを取り付けることによって、機械的に移動可能なものであってもよい。
センサーシステム115は、ソナーセンサー、赤外線センサー、ステアリングセンサー、スロットルセンサー、ブレーキセンサー、およびオーディオセンサー(例えば、マイクロフォン)などの他のセンサーをさらに含むことができる。オーディオセンサーは、自動運転車両の周囲の環境から音を集音するように構成されることができる。ステアリングセンサーは、ステアリングホイール、車両の車輪、またはそれらの組み合わせの操舵角を感知するように構成されることができる。スロットルセンサーおよびブレーキセンサーは、それぞれ車両のスロットル位置およびブレーキ位置を検知する。スロットルセンサー及びブレーキセンサーは、集積式スロットル/ブレーキセンサーとして集積される場合もある。
一実施形態では、車両制御システム111は、ステアリングユニット201、スロットルユニット202(加速ユニットとも呼ばれる)、およびブレーキユニット203を含むが、これらに限定されない。ステアリングユニット201は、車両の向きまたは進行方向を調整するために使用される。スロットルユニット202は、モータまたはエンジンの速度を制御して車両の速度および加速度を制御するために使用される。ブレーキユニット203は、摩擦を与えて車両の車輪またはタイヤを減速させることによって車両を減速させる。なお、図2に示される要素は、ハードウェア、ソフトウェア、またはそれらの組み合わせによって実施されることができる。
図1に戻って参照すると、無線通信システム112は、自動運転車両101と装置、センサー、他の車両などの外部システムとの間の通信を可能にする。例えば、無線通信システム112は、直接またはネットワーク102とサーバ103〜104などの通信ネットワークを介して1つ以上の装置と無線通信することができる。無線通信システム112は、別の要素またはシステムと通信するために、例えばWiFi(登録商標)などの任意のセルラー通信ネットワークまたは無線ローカルエリアネットワーク(WLAN)を使用することができる。無線通信システム112は、例えば赤外線リンク、Bluetooth(登録商標)などを使用して装置(例えば、乗客の移動装置、表示装置、車両101内のスピーカー)と直接通信することができる。ユーザインタフェースシステム113は、例えばキーボード、タッチスクリーンディスプレイ装置、マイクロフォン、およびスピーカなどを含む車両101内に実施される周辺装置の一部であってもよい。
特に自動運転モードで動作しているときに、自動運転車両101の機能の一部または全部を感知・計画システム110によって制御または管理することができる。感知・計画システム110は、必要なハードウェア(例えば、プロセッサ、メモリ、記憶装置)およびソフトウェア(例えば、オペレーティングシステム、計画・ルーティングプログラム)を含むことにより、センサーシステム115、制御システム111、無線通信システム112および/またはユーザインターフェースシステム113から情報を受信し、受信した情報を処理し、出発地から目的地までのルートまたは経路を計画し、その後、計画および制御情報に基づいて車両101を運転する。代わりに、感知・計画システム110を車両制御システム111と統合することができる。
例えば、乗客であるユーザは、例えばユーザインターフェースを介して、旅程の出発地と目的地を指定することができる。感知・計画システム110は旅程関連データを取得する。例えば、感知・計画システム110は、MPOIサーバから位置および経路情報を取得することができ、MPOIサーバはサーバ103〜104の一部である可能である。ロケーションサーバはロケーションサービスを提供し、MPOIサーバはマップサービスとあるロケーションのPOIを提供する。代わりに、このような位置およびMPOI情報を感知・計画システム110の永続記憶装置にローカルキャッシュすることができる。いくつかの実施形態において、感知・計画システム110は、MPOI情報(例えば、地図データ)を持たなくてもよい。例えば、感知・計画システム110は、他の環境または地理的領域/ロケーションについての地図データを持たなくてもよく、感知・計画システム110は、自動運転車両101が現在走行または測位している環境または地理的領域/ロケーションについての地図データを持たなくてもよい(例えば、 感知・計画システム110は、ある都市の地図データを持っていてもよいが、他の都市の地図データを持っていなくてもよい)。別の例では、感知・計画システム110は、いかなる地図データまたはMPOI情報を持たなくてもよい(例えば、感知・計画システム110は、いかなる地図データを記憶しなくてもよい)。
自動運転車両101が経路に沿って移動するときに、感知・計画システム110は、交通情報システムまたはサーバ(TIS)からリアルタイム交通情報を取得することができる。なお、サーバ103〜104は第三者のエンティティによって操作されることが可能である。代わりに、サーバ103〜104の機能を感知・計画システム110に集積されてもよい。リアルタイム交通情報、MPOI情報およびロケーション情報、ならびにセンサーシステム115によって検出または感知されたリアルタイムローカル環境データ(例えば、障害物、対象物、近くの車両)に基づいて、感知・計画システム110は最適経路を計画し、計画された最適経路に従って、例えば、制御システム111を介して、安全かつ効率的に指定された目的地に到達するように車両101を運転することができる。
サーバ103は、様々な顧客に対してデータ分析サービスを実行するためのデータ分析システムであってもよい。一実施形態では、データ分析システム103は、データ収集装置121と機械学習エンジン122とを含む。データ収集装置121は、様々な車両(自動運転車両または人間の運転手によって運転される従来の車両)から運転統計データ123を収集する。運転統計データ123は、出された運転命令(例えば、スロットル、ブレーキ、ステアリング命令)および異なる時点で車両のセンサーによって捕捉された車両の応答(例えば、速度、加速度、減速度、方向)を示す情報を含む。運転統計データ123は、ルート(出発地および目的地を含む)、MPOI、道路状況、気象状況などの異なる時点における運転環境を記述する情報を含むこともできる。
運転統計データ123に基づいて、機械学習エンジン122は、様々な目的のために1組の規則、アルゴリズム、および/または予測モデル124を生成または訓練する。例えば、アルゴリズム124は、特定のセンサが故障したかどうかを判定するためのアルゴリズムまたはモデルを含むことができる。アルゴリズム124は、センサーの故障に応答して、ローカル座標系または相対座標系を使用してADVを運転するための1つ以上のアルゴリズムをさらに含んでもよい。そして、例えば図3Aのセンサー故障検出アルゴリズム313の一部として、リアルタイムナビゲーションのためにアルゴリズム124をADVにアップロードすることにより、センサー故障に応答してローカル座標系または相対座標系を使用してADVを運転することができる
図3Aと図3Bは、いくつかの実施形態による自動運転車両と共に使用される感知・計画システムの例を示すブロック図である。システム300は、図1の自動運転車両101の一部として実施されることができ、感知・計画システム110、制御システム111、およびセンサーシステム115を含むが、これらに限定されない。図3A〜図3Bを参照すると、感知・計画システム110は、測位モジュール301、感知モジュール302、予測モジュール303、決定モジュール304、計画モジュール305、制御モジュール306、ルーティングモジュール307、およびセンサー故障処理モジュール308を含むが、これらに限定されない。
モジュール301〜308のうちのいくつかまたはすべては、ソフトウェア、ハードウェア、またはそれらの組み合わせで実施されることが可能である。例えば、これらのモジュールは、永続記憶装置352にインストールされ、メモリ351にロードされ、そして1つ以上のプロセッサ(図示せず)によって実行されることができる。なお、これらのモジュールのうちのいくつかまたはすべてが、図2の車両制御システム111のモジュールのうちのいくつかまたはすべてに通信可能に接続されるかまたはそれらと一体に集積されている。モジュール301〜308のいくつかは、統合モジュールとして一体に集積されてもよい。
測位モジュール301、自動運転車両300の現在位置を(例えば、GPSユニット212を利用し)特定するとともに、ユーザの旅程または経路に関連するいかなるデータを管理する。測位モジュール301(地図・ルーティングモジュールとも呼ばれる)は、ユーザの旅程または経路に関連するいかなるデータを管理する。ユーザは、例えば、ユーザインターフェースを介してログインして、旅程の出発地と目的地を指定することができる。測位モジュール301は、旅程関連データを取得するために、地図・経路情報311などの自動運転車両300の他の要素と通信する。例えば、測位モジュール301は、ロケーションサーバおよび地図およびPOI(MPOI)サーバからロケーションおよび経路情報を取得することができる。ロケーションサーバはロケーションサービスを提供し、MPOIサーバはマップサービスとあるロケーションのPOIを提供することにより、マップおよびルート情報の一部としてキャッシュされる。自動運転車両300が経路に沿って移動するときに、測位モジュール301は、交通情報システムまたはサーバからリアルタイム交通情報を取得することができる。一実施形態では、地図・経路情報311は、永続記憶装置352に予め記憶されてもよい。例えば、地図・経路情報311は、永続記憶装置352に予めダウンロードまたはコピーされていてもよい。
センサーシステム115によって提供されたセンサーデータと測位モジュール301によって得られた測位情報とに基づいて、感知モジュール302は周囲環境への感知を特定する。感知情報は、普通の運転者が運転者が運転している車両の周りで感知するであろうものを表すことができる。感知は、例えば、対象物の形態の車線構成(例えば、直線車線または曲線車線)、信号機信号、他の車両の相対位置、歩行者、建物、横断歩道、または他の交通関連標識(例えば、停止標識、道譲り標識)を含むことができる。
感知モジュール302は、1つ以上のカメラによって取得された画像を処理し分析するためのコンピュータビジョンシステムまたはコンピュータビジョンシステムの機能を含むことにより、自動運転車両環境内の対象物および/または特徴を識別することができる。前記対象物は、交通信号、道路境界、他の車両、歩行者および/または障害物などを含む。コンピュータビジョンシステムは、対象物認識アルゴリズム、ビデオ追跡、およびその他のコンピュータビジョン技術を使用できる。いくつかの実施形態では、コンピュータビジョンシステムは、環境地図を描き、物体を追跡し、そして対象物の速度等を推定することができる。感知モジュール302は、レーダおよび/またはLIDARなどの他のセンサーによって提供される他のセンサーデータに基づいて対象物を検出することもできる。
各対象物に対し、予測モジュール303は、この状況において対象物がどのように動作するかを予測する。予測は、一組の地図・経路情報311および交通ルール312を考慮した時点で運転環境を感知する感知データに基づいて実行される。例えば、対象物が反対方向の車両であり、且つ、現在の運転環境が交差点を含む場合、予測モジュール303は、車両が直進するか、または旋回するかを予測する。感知データが交差点に信号機がないことを示す場合、予測モジュール303は、交差点に入る前に車両が完全に停止しなければいけない可能性があると予測することがある。感知データが車両が現在左折専用車線または右折専用車線にあることを示す場合、予測モジュール303は、車両がそれぞれ左折または右折する可能性が高いと予測することができる。いくつかの実施形態では、以下で詳しく説明したように、自動運転車両が環境または地理的領域/ロケーションを通過するとき、その環境または地理的領域/ロケーションための地図・経路情報311が作動中で生成されることが可能である(例えば、感知モジュール302によって生成される)。
各対象物に対し、決定モジュール304は、対象物をどのように対応するかを決定する。例えば、特定の対象物(例えば、交差ルート内の他の車両)及び対象物を記述するメタデータ(例えば、速度、方向、回転角度)に対し、決定モジュール304は、前記対象物に遭遇する時どのように動作するか(例えば、追い越し、道譲り、停止、超過)を決定する。決定モジュール304は、永続記憶装置352に記憶されることができる交通ルールまたは運転ルール312などのルールセットに基づいてこのような決定を下すことができる。
さまざまな移動している障害物/対象物が予想外に移動することがある。例えば、歩行者は、経路に沿って移動していても、突然に方向を変える(例えば、左に曲がる)可能性があり、または加速/減速する可能性もある。これは、移動対象物との突き合い、衝突、または打ち当てを避けるために移動対象物の経路を予測しようとするときに、問題を引き起こす可能性がある。したがって、移動障害物が移動する可能性のある場所を含む領域を(例えば、計算、推定、取得などを行って)特定することが有用である。これにより、ADVは移動障害物を避ける可能性を高めることができる。
ルーティングモジュール307は、出発地から目的地までの1つ以上の経路またはルートを提供するように構成される。例えばユーザから受信した所与の旅程などの出発地から目的地までの所与の旅程に対し、ルーティングモジュール307は、地図・経路情報311を取得し、出発地から目的地までのすべての可能な経路またはルートを決定する。いくつかの実施形態では、以下で詳しく説明したように、地図・経路情報311が感知モジュール302によって生成されることができる。ルーティングモジュール307は、出発地から目的地までの各経路を決定する地形図の形態の基準線を生成することができる。基準線とは、他の車両、障害物、または交通状況などの他のものからの干渉がない理想的な経路またはルートを指す。つまり、道路上に他の車両、歩行者、または障害物がない場合、ADVは基準線に正確にまたは密接に従うべきである。そして、地形図を決定モジュール304および/または計画モジュール305に提供する。決定モジュール304および/または計画モジュール305は、他のモジュールによって提供される他のデータに基づいて最適の経路のうちの1つを選択し変更するためにすべての可能な経路を検査し、ここで、他のデータは、測位モジュール301からの交通状況、感知モジュール302によって感知された運転環境、および予測モジュール303によって予測された交通状況などである。時点での特定の運転環境に応じて、ADVを制御するための実際の経路またはルートは、ルーティングモジュール307によって提供される基準線に近いかまたは異なることがある。
感知された対象物に対する各決定に基づいて、計画モジュール305は、基礎としてルーティングモジュール307によって提供される基準線を使用することにより、自動運転車両に対し経路またはルートおよび運転パラメータ(例えば、距離、速度および/または旋回角度)を計画する。言い換えれば、所与の対象物に対し、決定モジュール304は当該対象物をどうするかを決定し、計画モジュール305はどのようにするかを決定する。例えば、所与の対象物に対し、決定モジュール304は前記対象物を超過することと決定することができ、計画モジュール305は前記対象物の左側または右側のどちらを超過するかを決定することができる。計画・制御データは、計画モジュール305によって生成され、車両300が次の移動サイクル(例えば、次のルート/経路セグメント)においてどのように移動するかを記述する情報を含む。例えば、計画・制御データは、30マイル/時(mph)の速度で10メートル移動し、次に25mphの速度で右車線に変更するように車両300に指示することができる。
計画・制御データに基づいて、制御モジュール306は、計画・制御データによって限られた経路またはルートに基づいて適切な命令または信号を車両制御システム111に送信することによって自動運転車両を制御し運転する。前記計画・制御データは、十分な情報を含むことにより、経路またはルートに沿って異なる時点で適切な車両設定または運転パラメータ(例えば、スロットル、ブレーキ、および旋回命令)を使用して、経路またはルートの第1の地点から第2の地点まで車両を走行させる。
一実施形態では、計画段階は、複数の計画サイクル(命令サイクルとも呼ばれる)で、例えば各時間間隔100ミリ秒(ms)のサイクルで実行される。計画サイクルまたは命令サイクルのそれぞれについて、計画・制御データに基づいて1つ以上の制御命令を発する。すなわち、100msごとに、計画モジュール305は、例えば対象物位置およびADVが対象物位置に到達するのに必要な時間を含めて、次のルートセグメントまたは経路セグメントを計画する。代わりに、計画モジュール305は、具体的な速度、方向、および/または操舵角などを計画することもできる。一実施形態では、計画モジュール305は、次の所定の期間(例えば5秒間)についてルートセグメントまたは経路セグメントを計画する。各計画サイクルに対して、計画モジュール305は、前のサイクルで計画された目標位置に基づいて現在のサイクル(例えば次の5秒間)の目標位置を計画する。次に、制御モジュール306は、現在のサイクルの計画・制御データに基づいて、1つ以上の制御命令(例えば、スロットル、ブレーキ、ステアリング制御命令)を生成する。
なお、決定モジュール304および計画モジュール305は集積モジュールとして集積されてもよい。決定モジュール304 /計画モジュール305は、自動運転車両の運転経路を決定するためのナビゲーションシステムまたはナビゲーションシステムの機能を含むことができる。例えば、ナビゲーションシステムは、自動運転車両が自動運転車両を最終目的地に至る車道に基づく経路に沿って前進させながら感知された障害物を実質的に避ける経路に沿って移動することを達成するための一連の速度及び進行方向を決定することができる。目的地は、ユーザインタフェースシステム113を介したユーザ入力に従って設定されることができる。ナビゲーションシステムは、自動運転車両の運転中に運転経路を動的に更新することができる。ナビゲーションシステムは、GPSシステムと1つ以上の地図からの(感知モジュール302によって生成され、または予め記憶されるかもしくはダウンロードされる)データを組み合わせることにより、自動運転車両の運転経路を決定することができる。
決定モジュール304 /計画モジュール305は、自動運転車両の環境における潜在的な障害物を識別、評価、回避、または他の方法で追い越すための衝突回避システムまたは衝突回避システムの機能をさらに含む。例えば、衝突回避システムは、制御システム111における1つ以上のサブシステムを操作して、方向変更操作、旋回操作、ブレーキ操作などを行うことによって、ナビゲーション中の自動運転車両の変化を実現することができる。衝突回避システムは、周囲の交通パターン、道路状況などに基づいて実現可能な障害物回避操作を自動的に決定することができる。衝突回避システムは、他のセンサーシステムが、自動運転車両が方向変更して入る隣接領域に位置する車両、建物の障害物などを検出したとき、方向変更操作を行わないように構成される。衝突回避システムは、使用可能であり、かつ自動運転車両の乗員の安全性を最大限にする操作を自動的に選択することができる。衝突回避システムは、自動運転車両の客室内で最小量の加速度を発生させると予測される回避操作を選択することができる。
ルーティングモジュール307は、(道路区間の情報、道路区間の車線情報、車線から道路縁石までの距離情報などの)地図情報から基準ルートを生成することができる。たとえば、道路を{A、B、C}の3つの道路区間を表す区画やセグメントに分割することができます。道路区間Aの3つの車線は、{A1、A2、A3}として例示できる。基準ルートは、基準ルートに沿った基準点を生成することによって生成される。例えば、車両の車線に対し、ルーティングモジュール307は、(感知モジュール302によって生成することができ、または予め記憶/ダウンロードすることができる)地図データによって提供される車両の車線の2つの対向する道路縁石または端点の中間点を接続することができる。異なる時点で以前に車両の車線上を走行している車両の収集されたデータ点を表す中間点および機械学習データに基づいて、ルーティングモジュール307は、車両の車線の所定の近接範囲内に収集されたデータ点のサブセットを選択し、収集されたデータ点のサブセットによる中間点に平滑化関数を適用することによって基準点を計算することができる。
基準点または車線基準点に基づいて、ルーティングモジュール307は、基準点を補間して基準線を生成することによって、生成された基準線を車両の車線上のADVを制御するための基準線として使用するようにことができる。いくつかの実施形態では、基準線を表す基準点表および道路区間表は、ADVがADVの地理的位置および進行方向に基づいて基準線を生成できるように、リアルタイムでADVにアップロードされる。例えば、一実施形態では、ADVは、もうすぐ着く前方の道路区間を表す経路セグメント識別子および/またはADVのGPS位置に基づいて、経路セグメントの経路スケジューリングサービスを要求することによって、基準線を生成することができる。ADVは、車両の車線上のADVを制御するための基準線を生成するために経路セグメント用の車線の基準点を調べることができる。
センサー故障処理モジュール308は、GPSセンサーまたはLIDARセンサーの故障を検出し、他のモジュール301〜307に通知を送信するように構成されることにより、これらのモジュールの少なくとも1つが当該センサーの故障を処理することができる。
[センサー故障処理システム]
図4は、一実施形態にかかるADVで使用するための例示的なセンサー故障処理システムを示す図である。システム400は、ADVの温度、ADVにおけるコンピューティングデバイス上のCPU利用率、メモリ利用率とディスク利用率、およびADVにおける複数のセンサーを監視するように構成されたセンサー故障処理モジュール308を含む。センサー故障処理モジュール308によって監視されるセンサーは、カメラ211、GPSユニット212、IMU213、レーダユニット214、およびLIDARユニット215を含むが、これらに限定されない。
一実施形態では、当該複数のセンサーはセンサーデータを生成することができる。カメラ211は、画像を撮影または記録することができる。レーダユニット214は、無線電波(例えば、無線周波数の電波または信号)を使用して、ADVの周囲の対象物の位置、範囲、角度および/または速度を決定することができる。LIDARユニット215は、光(例えば、レーザ)を使用して、ADVの周囲の対象物の位置、程度、角度および/または速度を決定することができる。GPSユニット212は、ADVの位置(例えば、実際の位置または地理的位置)を決定することができる。GPSユニット212によって生成されたセンサーデータは、GPSデータ(GPS座標と呼ばれることがある)であってもよい。
一実施形態では、センサーデータは、ADVが現在位置しているかまたは移動している環境または地理的領域/ロケーションに関する情報を示すことができる。例えば、センサーデータは、対象物(例えば、歩行者、車両、バリケード、障害物、バリア、車線、標識、信号機など)の位置および/またはレイアウトを示すことができる。別の例では、センサーデータは、環境または地理的区域の道路状況(例えば、道路が乾いた道路、湿った道路、平坦な道路、でこぼこの道路などであるかどうか)を示すことができる。別の例では、センサーデータは、環境または地理的地域の気象条件(例えば、気温、雨、風、雪、あられなどがあるかどうか)を示すことができる
一実施形態では、障害物要素412は、センサー要素411によって取得/受信されたセンサーデータに基づいて、1つ以上の移動障害物または静止障害物を検出することができる。例えば、障害物要素412は、カメラによって取得された画像またはビデオ(例えば、ビデオデータ)を分析して、ADVが位置する/移動している地理的領域内の移動障害を識別することができる。別の例では、障害物要素412は、レーダデータを分析して、ADVが位置する/移動している地理的領域内の障害物を識別することができる。別の例では、障害物要素412は、LIDARデータを分析して、ADVが位置する/移動している地理的領域内の障害物を識別することができる。
一実施形態では、障害物要素412は、様々な技術、方法、アルゴリズム、操作などを使用することにより、センサーデータに基づいて認識移動障害物を生成することができる。例えば、障害物要素412は、画像またはビデオ処理/分析技術またはアルゴリズムを使用することにより、ビデオデータに基づいて障害物を識別することができる。別の例では、障害物要素412は、様々な対象物検出技術またはアルゴリズムを使用することにより、レーダおよび/またはLIDARデータに基づいて障害物を識別することができる。説明された例、実施例および/または実施形態は、さまざまな種類のセンサーデータおよび/またはさまざまな関数、技術、方法、アルゴリズム、操作などを使用することにより、障害物を識別することができる。例えば、障害物要素412は、機械学習、人工知能、統計モデル、ニューラルネットワーク、クラスタリング技術などを使用することができる。
一実施形態では、センサー211〜215は、ADVが絶対座標系である世界座標内でナビゲートするために通常動作中にセンサーデータを生成することができる。計画モジュール305は、LIDARユニット215、GPSユニット212、およびカメラ211の組み合わせからのセンサーデータを使用することにより、ADVをナビゲートすることができる。
GPSセンサーまたはLIDARセンサーが期待通りに動作していないとき、計画モジュール305は、世界座標内でADVをナビゲートする問題を経験する可能性がある。例えば、GPS信号が弱いか又は建物によって遮断されると、GPSセンサーは、位置標準偏差が所定の閾値よりも大きいGPSデータを生成することができ、したがって、計画モジュール305はGPSデータおよび地図データを用いて世界座標内でADVを正確にナビゲートすることができない可能性がある。同様に、感知モジュール302は、LIDARからのいかなるセンサーデータを受信しないか、またはセンサーデータを受信する際により長い遅延を経験する可能性があり、これは、計画モジュール305が世界座標においてADVを正確にナビゲートすることを妨げる可能性がある。
一実施形態では、センサー故障処理モジュール308は、センサー211〜215のうちの1つまたは複数が期待通りに動作しないという指示を検出し、ADVにおけるモジュール301、302、303、304、305、306、および307によって購読されたメッセージチャネル403に故障を示すメッセージを送信することができる。故障を示すメッセージを受信すると、購読モジュールのうちの少なくとも1つ(例えば、計画モジュール305)は、ADVを世界座標405内でナビゲートすることからローカル座標407内でナビゲートすることに変換することができる。
ローカル座標407は、ADVが走行している車線内のADVの現在位置の相対座標である。座標変換の後、世界座標の絶対座標情報を使用しない場合、計画モジュール305は、ローカル座標に基づいてADVをナビゲートし、ADVが車線内を走行するための軌跡を計画することができる
一実施形態では、1つのカメラが機能するときに、計画モジュール305はカメラからのセンサーデータを使用することにより特定の車線を検出して追跡し、人が離れるまで減速する。2つ以上のカメラが機能するときに、計画モジュール305は2つ以上のカメラからのセンサーデータを使用することにより複数の車線を検出して追跡し、道路の片側で停止する。
図5は、一実施形態による世界座標系からローカル座標系への変換を示す図である。図5に示すシステム500では、ADV509におけるLIDAR515センサーまたはGPSセンサー517が故障した場合、カメラによる障害物検出および車線マーキング検出は、ADVが最初にナビゲートしていた世界座標535の代わりに、ローカル座標537内でADVをナビゲートするために使用されることができる。
世界座標535では、ADVはLIDAR515とGPS/IMU517からのセンサーデータに依存してナビゲートする。当該センサーデータは、経度と緯度を提供してADVの位置と向き/方向を表す。
一実施形態では、LIDARセンサー515および/またはGPSセンサー517の故障に応答して、ADVは経路521および531を介して世界座標511からローカル座標513に誤って切り替え、ローカル座標513では、ADVがカメラ519による障害物検出および車線(例えば、車線A539および車線B541)マーキング検出に依存してナビゲートすることができる。
絶対座標系内でナビゲートするとき、感知データに基づいて、感知モジュール(または測位モジュール301、ルーティングモジュール307などの他のモジュール)は絶対座標情報(GPSおよびIMUデータなど)を使用することにより、ADVの位置および感知された各障害物(例えば、他の車両、バイカー、道路標識、歩行者、建物など)を決定する。ADVおよび障害物を記述するセンサーデータを地図(例えば、高精細度またはHD地図)にマッピングすることによって、ADVおよび障害物の正確な位置(例えば、絶対x、y座標)を決定することができる。ADVおよび障害物の絶対位置情報は、障害物が近い将来どのように移動するかを予測するために予測モジュール303によって使用され、また、ADVの現在位置に基づいてADVがどのようにするべきかを決定するために決定モジュール304によって使用される。
次に、計画モジュール305は、予測モジュール203および決定モジュール304によって実行される予測および決定に基づいて、ADVが次の運転サイクルで走行するように案内するための軌跡を計画し生成する。具体的には、計画モジュール305は、障害物およびADVの絶対位置を軌跡を計画するための駅-横(Station-lateral、SL)マップおよび駅-時間(station-time、ST)グラフにマッピングする。SLマップは、ADVの現在位置に関連する各障害物の位置を記述する情報を含む。SLマップにおいて、X軸は、ADVの現在位置と各障害物との間の縦方向距離を表す。Y軸は、ADVの異なる位置におけるADVの現在位置(または車線の基準線)と各障害物との間の横方向距離(例えば、左または右)を表す。STグラフにおいて、X軸は時間を表し、Y軸は異なる時点での各障害物とADVとの間の距離を表す。SLマップおよびSTグラフに基づいて、計画モジュール305は、周囲でナビゲートする軌跡を計画することにより、SLマップおよびSTグラフに示される障害物のいかなる危険な状態(例えば、衝突)を回避することができる。
いくつかのセンサー(例えば、GPS、IMU、LIDAR、RADAR)が故障したときに、ADVおよび障害物の絶対位置情報は利用不可能または無効である。当該故障に応答して、故障メッセージを購読する全てのモジュールは、絶対座標系からローカル/相対座標系に変換するように構成される。この場合、感知モジュール302および/または測位モジュール301は、カメラなどの他のセンサーによって取得されたセンサーデータに基づいて障害物の位置を決定する。具体的には、画像認識を行って障害物を認識し、ADVのカメラと障害物との間の距離および視野角を測定する。また、画像に基づいて車線構成を決定してもよい。
測定された距離および視野角に基づいて、ADVと障害物との間の縦方向距離および横方向距離を計算することができる。従って、ADVの現在位置に対する各障害物の相対位置を決定することができる。車線構成は、各方向の車線数、車線幅、ADVと車線境界との間の距離などに関する情報を含むことができる。次に、障害物の相対位置をSLマップおよびSTグラフにマッピングすることにより、計画モジュール305が危険な状態なしで障害物の周りを移動するための軌跡を生成することを可能にする。
このように、世界座標におけるADVのナビゲーションに悪影響を与えるセンサー故障が発生した場合、システム500は、世界座標内でADVをナビゲートすることからローカル座標内でADVをナビゲートすることに自動的で迅速かつシームレスに変換する。
座標変換の後、一実施形態によれば、カメラによる障害物検出および車線マーキング検出は、人が離れるまで、またはADVが道路脇に沿って駐車されるまで、ADVをローカル座標で安全に運転させる。代わりに、ADVは、ローカル座標系または相対座標系を使用して単に車線に従うことができる。
図6は、一実施形態にかかる自動運転車両(例えばADV)におけるセンサー故障を処理するためのプロセス600の例示を示すフローチャートである。プロセス600は、ソフトウェア、ハードウェア、またはそれらの組み合わせを含み得る処理ロジックによって実行されることができる。一実施形態では、プロセス600は、図3Aおよび図4に示すように、測位モジュール301、感知モジュール302、予測モジュール303、決定モジュール304、計画モジュール305、制御モジュール306、ルーティングモジュール307、およびセンサー故障処理モジュール308のうちの1つまたは複数によって実行されることができる。
図6を参照すると、操作611において、ADV内にセンサー故障処理モジュールを設けて、絶対座標系である世界座標内でナビゲートしているADV内の1つ以上のセンサーにおけるセンサー故障を検出する。
操作613において、1つ以上のセンサにおける故障の検出に応答して、センサー故障処理モジュールは、故障を示すメッセージをADV内の複数のモジュールによって購読されているメッセージチャネルに送信する。
操作615において、メッセージを受信すると、少なくとも1つの購読モジュールは、ADVを世界座標内でナビゲートすることからADVが走行している車線内のADVの現在位置に関するローカル座標内でナビゲートすることに変換するように動作する。
操作617において、少なくとも1つの購読モジュールは、世界座標の絶対座標情報を使用せずに、ローカル座標に基づいてADVが車線内を走行するための軌跡を計画する。
なお、上述のように記載され説明された要素のいくつかまたはすべては、ソフトウェア、ハードウェア、またはそれらの組合せで実施されることが可能である。例えば、このような要素は、永続記憶装置にインストールされ記憶されるソフトウェアとして実施されることが可能であり、前記ソフトウェアは、プロセッサ(図示せず)によってメモリにロードされ、メモリ内で実行されることにより、本願を通じて説明されるプロセスまたは操作を実施することができる。代わりに、このような要素は、(集積回路(例えば、特定用途向け集積回路またはASIC)、デジタル信号プロセッサ(DSP)、またはフィールドプログラマブルゲートアレイ(FPGA)などの専用ハードウェアにプログラムされまたは埋め込まれる実行可能コードとして実施されることができ、前記実行可能コードは、アプリケーションからの対応するドライバおよび/またはオペレーティングシステムを介してアクセスすることができる。また、このような要素は、ソフトウェア要素によって1つ以上の特定の命令を介してアクセスすることができる命令セットの一部として、プロセッサまたはプロセッサコア内の特定のハードウェア論理として実施されることができる。
図7は、本発明の一実施形態と共に使用されることができるデータ処理システムの一例を示すブロック図である。例えば、システム1500は、上記プロセスまたは方法のうちのいずれかを実行する上記のデータ処理システムのうちのいずれかを表すことができ、例えば、感知・計画システム110または図1のサーバ103〜104のいずれかを挙げられる。システム1500は多くの異なる要素を含むことができる。
これらの要素は、集積回路(IC)、集積回路の一部、個別電子デバイス、または回路基板(コンピュータシステムのマザーボードまたはアドインカードなど)に適した他のモジュールとして実施されることができ、あるいは他の形態でコンピュータシステムのラックに組み込まれる要素として実施されることが可能である。
なお、システム1500は、コンピュータシステムの多くの要素の高レベルビューを示すことを意図している。しかしながら、いくつかの実施形態では、追加の要素を有してもよく、また、他の実施形態では、示されている要素の異なる構成を有してもよいことを理解すべきである。システム1500は、デスクトップパソコン、ラップトップパソコン、タブレットコンピュータ、サーバ、携帯電話、メディアプレーヤ、パーソナルデジタルアシスタント(PDA)、スマートウォッチ、パーソナルコミュニケータ、ゲーム装置、ネットワークルータまたはハブ、ワイヤレスアクセスポイント(AP)またはリピーター、セットトップボックスあるいはそれらの組み合わせを表示することができる。また、単一の機械またはシステムのみが示されているが、「機械」または「システム」という用語は、本明細書で検討されている任意の1種類または複数の種類の方法を実行するために、1つ(または複数)の命令セットを個別でまたは共同で実行するための機械またはシステムの任意の組み合わせも含むと理解されるべきである。
一実施形態では、システム1500は、バスまたはインターコネクト1510を介して接続されたプロセッサ1501、メモリ1503、および装置1505〜1508を含む。プロセッサ1501は、単一のプロセッサコアまたは複数のプロセッサコアを含む単一のプロセッサまたは複数のプロセッサを示してもよい。プロセッサ1501は、マイクロプロセッサ、中央処理装置(CPU)などの1つまたは複数の汎用プロセッサを示してもよい。より具体的には、プロセッサ1501は、複雑命令セット計算(CISC)マイクロプロセッサ、縮小命令セット計算(RISC)マイクロプロセッサ、超長命令語(VLIW)マイクロプロセッサ、他の命令セットを実行するプロセッサ、または命令セットの組み合わせを実行するプロセッサであってもよい。プロセッサ1501は、また、特定用途向け集積回路(ASIC)、セルラまたはベースバンドプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、デジタル信号プロセッサ(DSP)、ネットワークプロセッサ、グラフィックスプロセッサ、通信プロセッサ、暗号化プロセッサ、コプロセッサ、組み込みプロセッサ、または命令を処理できるその他のタイプのロジックなどの1つまたは複数の専用プロセッサであってもよい。
プロセッサ1501(これは、超低電圧プロセッサなどの低電力マルチコアプロセッサソケットであってもよい)は、前記システムの様々な要素と通信するための主処理ユニットおよび中央ハブとして機能することができる。このようなプロセッサは、システムオンチップ(SoC)として実装されてもよい。プロセッサ1501は、本明細書で論じられる操作およびステップを実行するための命令を実行するように構成される。システム1500は、オプションのグラフィックサブシステム1504と通信するグラフィックインタフェースを含んでもよく、グラフィックサブシステム1504は、ディスプレイコントローラ、グラフィックプロセッサおよび/またはディスプレイデバイスを含み得る
プロセッサ1501はメモリ1503と通信することができ、一実施形態では、メモリ1503は複数のメモリデバイスを介して、所与の量のシステムストレージを提供するように作動する。メモリ1503は、ランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、同期DRAM(SDRAM)、スタティックRAM(SRAM)、または他のタイプの記憶装置などの1つまたは複数の揮発性記憶(またはメモリ)装置を含むことができる。メモリ1503は、プロセッサ1501または他の任意の装置によって実行される一連の命令を含む情報を記憶することができる。例えば、さまざまなオペレーティングシステム、デバイスドライバ、ファームウェア(例えば、入出力基本システムまたはBIOS)および/またはアプリケーションの実行可能コードおよび/またはデータをメモリ1503にロードし、プロセッサ1501によって実行することができる。オペレーティングシステムは、例えば、ロボットオペレーティングシステム(ROS)、マイクロソフト(登録商標)からのウィンドウズ(登録商標)オペレーティングシステム、アップルからのマックOS(登録商標)/iOS(登録商標)、グーグル(登録商標)からのアンドロイド(登録商標)、リナックス(登録商標)、UNIX(登録商標)、またはその他のリアルタイムまたは組み込みオペレーティングシステムなどの任意のタイプのオペレーティングシステムであってもよい。
システム1500は、ネットワークインターフェースデバイス1505、選択可能な入力デバイス1506、および他の選択可能なIOデバイス1507を含む、デバイス1505〜1508などのIOデバイスも含むことができる。ネットワークインターフェースデバイス1505は、無線送受信機および/またはネットワークインターフェースカード(NIC)を含み得る。前記無線送受信機は、WiFi(登録商標)送受信機、赤外線送受信機、ブルートゥース(登録商標)送受信機、WiMax送受信機、無線セルラー携帯電話送受信機、衛星送受信機(例えば全地球測位システム(GPS)送受信機)、他の無線周波数(RF)送受信機またはそれらの組み合わせであってもよい。NICはイーサネット(登録商標)カードであってもよい。
入力装置1506は、マウス、タッチパネル、(ディスプレイ装置1504と統合することができる)タッチセンシティブスクリーン、(スタイラスなどの)ポインティングデバイスおよび/またはキーボード(例えば、物理的キーボードまたはタッチセンシティブスクリーンの一部として表示される仮想キーボード)を含み得る。例えば、入力装置1506は、タッチスクリーンに接続されたタッチスクリーンコントローラを含み得る。タッチスクリーンおよびタッチスクリーンコントローラは、例えば、複数の種類のタッチ感度技術(容量式、抵抗式、赤外線式、および表面弾性波式の技術を含むがこれらに限定されない)のいずれか、および、他の近接センサーアレイまたはタッチスクリーンと接触する1つまたは複数の点を決定するための他の要素を用いて、その接触および移動または不連続性を検出できる。
IOデバイス1507はオーディオデバイスを含むことができる。音声装置は、音声認識、音声コピー、デジタル録音および/または電話機能などの音声対応機能を容易にするために、スピーカおよび/またはマイクロフォンを含むことができる。他のIOデバイス1507は、ユニバーサルシリアルバス(USB)ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインターフェース、バスブリッジ(例えば、PCI−PCIブリッジ)、センサー(例えば、加速度計モーションセンサー、ジャイロ、磁力計、光センサー、コンパス、近接センサーなど)またはそれらの組み合わせをさらに含み得る。IOデバイス1507は画像処理サブシステム(例えば、カメラ)をさらに含むことができ、前記画像処理サブシステムは、(写真およびビデオセグメントの記録などの)カメラ機能を容易にするための電荷結合素子(CCD)または相補型金属酸化膜半導体(CMOS)光センサーなどの光センサーを含むことができる。特定のセンサーはセンサーハブ(図示せず)を介してインターコネクト1510に接続されることができ、キーボードまたは熱センサーなどの他の装置はシステム1500の特定の構成または設計に応じて埋め込みコントローラ(図示せず)によって制御されることができる。
データ、アプリケーション、1つまたは複数のオペレーティングシステムなどの情報の永続記憶を提供するために、大容量記憶装置(図示せず)もプロセッサ1501に接続することができる。様々な実施形態において、より薄くより軽いシステム設計を可能にし、かつシステムの応答性を改善するために、このような大容量記憶装置はソリッドステートデバイス(SSD)を介して実施されることができる。しかしながら、他の実施形態では、大容量記憶装置は、主にハードディスクドライブ(HDD)を使用して実施することができ、ここで、少数のSSD記憶装置はSSDキャッシュとして機能してパワーダウン事件中にコンテキスト状態および他のこのような情報の不揮発性記憶を可能にすることにより、システムアクティビティの再起動時に高速のパワーアップを可能にする。また、フラッシュ装置は、例えばシリアル周辺インターフェース(SPI)を介してプロセッサ1501に接続されてもよい。このようなフラッシュ装置は、前記システムのBIOSおよび他のファームウェアを含むシステムソフトウェアの不揮発性記憶を提供してもよい。
記憶装置1508は、コンピュータがアクセス可能な記憶媒体1509(機械可読記憶媒体またはコンピュータ可読媒体とも呼ばれる)を含むことができ、その中に本明細書に記載の方法または機能のうちの任意の1つまたは複数を表す1つまたは複数の命令セットまたはソフトウェア(例えば、モジュール、ユニットおよび/またはロジック1528)が記憶される。処理モジュール/ユニット/ロジック1528は、例えば計画モジュール305、制御モジュール306などの上記要素のうちのいずれかを表すことができる。処理モジュール/ユニット/ロジック1528は、それがデータ処理システム1500、メモリ1503およびプロセッサ1501によって実行される期間に、メモリ1503内および/またはプロセッサ1501内に完全的にまたは少なくとも部分的に存在でき、データ処理システム1500、メモリ1503およびプロセッサ1501は、機械がアクセス可能な記憶媒体を構成することもできる。処理モジュール/ユニット/ロジック1528はさらに、ネットワークによってネットワークインターフェースデバイス1505を介して送信または受信することができる。
コンピュータ可読記憶媒体1509を使用して、上記のいくつかのソフトウェア機能を永続的に記憶することもできる。例示的な実施形態では、コンピュータ可読記憶媒体1509は単一の媒体として示されているが、「コンピュータ可読記憶媒体」という用語は前記1つまたは複数の命令セットを記憶する単一の媒体または複数の媒体(例えば、集中型または分散型データベースおよび/または関連付けられるキャッシュとサーバー)を含むと解釈されるべきである。「コンピュータ可読記憶媒体」という用語はまた、命令セットを記憶または符号化することができる任意の媒体を含むと解釈されるべきであり、前記命令セットは、機器による実行に使用され、前記機器に本発明の方法のうちの任意の1つまたは複数を実行させる。したがって、「コンピュータ可読記憶媒体」という用語は、ソリッドステートメモリ、ならびに光媒体および磁気媒体、または他の任意の非一時的な機械可読媒体を含むが、これらに限定しないと解釈されるべきである。
本明細書に記載の処理モジュール/ユニット/ロジック1528、要素および他の特徴は、個別のハードウェア要素として実施され、または(ASIC、FPGA、DSP、または同様のデバイスなど)のハードウェア要素の機能に統合されることができる。また、処理モジュール/ユニット/ロジック1528は、ハードウェアデバイス内のファームウェアまたは機能回路として実施されることができる。さらに、処理モジュール/ユニット/ロジック1528は、ハードウェアデバイスとソフトウェア要素との任意の組み合わせで実施されることができる。
システム1500はデータ処理システムの様々な要素を有するように示されているが、要素を相互接続する任意の特定のアーキテクチャまたは方法を表すことを意図しない。これは、このような詳細と本発明の実施形態とは密接な関係がないからである。本発明の実施形態と共に、より少ない要素またはおそらくより多くの要素を有するネットワークコンピュータ、ハンドヘルドコンピュータ、携帯電話、サーバおよび/または他のデータ処理システムも本発明の実施形態とともに使用され得ることも理解されるべきである。
前述の詳細な説明のいくつかの部分は、コンピュータメモリ内のデータビットに対する計算のアルゴリズムおよび記号表現に従って提示されてきた。これらのアルゴリズムの説明および表現は、データ処理分野の当業者が彼らの仕事の本質を他の当業者に最も効果的に伝えるために使用する方法である。本明細書では、アルゴリズムは、一般的に、所望の結果をもたらす自己矛盾のない一連の操作であると考えられる。これらの操作は、物理量の物理的操作を必要とするものである。
しかしながら、これらの用語および類似の用語はすべて適切な物理量に関連付けられるように意図され、これらの量に適用される便利なラベルにすぎないことに留意されたい。上記の説明において他の形態で明示的に述べられていない限り、明細書全体において、用語(添付の特許請求の範囲に記載の用語など)を利用した説明とは、コンピュータシステムまたは類似の電子計算装置の動作およびプロセスを指すことを理解しべきであり、前記コンピュータシステムまたは電子計算装置は、コンピュータシステムのレジスタおよびメモリ内の物理(電子)量として表されるデータを操作し、前記データをコンピュータシステムのメモリまたはレジスタまたは他のこのような情報記憶装置、伝送または表示装置内の類似に物理量として表される他のデータに変換する。
本発明の実施形態は、本明細書の操作を実行するための装置にも関する。そのようなコンピュータプログラムは、非一時的コンピュータ可読媒体に記憶される。機械可読媒体は、機械(例えばコンピュータ)可読な形式で情報を記憶するための任意のメカニズムを含む。例えば、機械可読(例えばコンピュータ可読)媒体は、機械(例えばコンピュータ)可読記憶媒体(例えば、読み出し専用メモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、ディスク記憶媒体、光記憶媒体、フラッシュメモリ装置)を含む。
前述の図面に示したプロセスまたは方法は、ハードウェア(例えば、回路、専用ロジックなど)、ソフトウェア(例えば、非一時的コンピュータ可読媒体上に反映される)、またはその両方の組み合わせを含む処理ロジックによって実行されることができる。前記プロセスまたは方法は、いくつかの逐次的な操作に従って上で説明されているが、前記操作のいくつかは異なる順序で実行されてもよいことを理解すべきである。さらに、いくつかの操作は、順次ではなく並列に実行されてもよい。
本発明の実施形態は、任意の特定のプログラミング言語を参照して説明されていない。様々なプログラミング言語を使用することにより、本明細書に記載の本発明の実施形態の教示を実施することができることを理解すべきである。
上記の明細書において、本発明の実施形態を本発明の具体の例示的な実施形態を参照して説明した。添付の特許請求の範囲に記載された本発明のより広い要旨および範囲から逸脱することなく、本発明に対して様々な修正がなされ得ることは明らかである。したがって、本明細書および図面は限定的な意味ではなく例示的な意味で理解されるべきである。

Claims (21)

  1. 自動運転車両におけるセンサー故障を処理するためのコンピュータ実施方法であって、
    センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする前記自動運転車両における1つ以上のセンサーの故障を検出することと、
    前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、
    前記メッセージチャネルを購読した複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、
    前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、
    を含む方法。
  2. 前記自動運転車両を前記世界座標内でナビゲートすることから前記ローカル座標内でナビゲートすることに変換するモジュールは、計画モジュールである請求項1に記載のコンピュータ実施方法。
  3. 前記センサー故障を検出することは、センサーからデータを受信していないことを検出すること、センサーからデータを受信する際の長い遅延を検出し、またはセンサーによって生成されたデータの標準偏差を検出することを含み、前記標準偏差は所定の閾値より大きい請求項1に記載のコンピュータ実施方法。
  4. 前記世界座標内でナビゲートするときに、前記計画モジュールは、光検出・測距センサー、全地球測位システムセンサー、及び1つ以上のカメラの組み合わせからのセンサーデータを使用する請求項2に記載のコンピュータ実施方法。
  5. 前記ローカル座標内でナビゲートするときに、前記計画モジュールは、光検出・測距センサーまたは全地球測位システムセンサーからのセンサーデータを使用せずに、1つ以上のカメラからのセンサーデータを使用する請求項2に記載のコンピュータ実施方法。
  6. 1つのカメラが機能するときに、前記計画モジュールは前記カメラからのセンサーデータを使用することにより特定の車線を検出して追跡し、乗員自動運転車両から離れるまで減速する請求項5に記載のコンピュータ実施方法。
  7. 2つ以上のカメラが機能するときに、前記計画モジュールは前記2つ以上のカメラからのセンサーデータを使用することにより複数の車線を検出して追跡し、道路の片側で停止する請求項5に記載のコンピュータ実施方法。
  8. 前記センサー故障処理モジュールは、前記自動運転車両の温度、前記自動運転車両におけるコンピューティングデバイス上のCPU使用率、メモリ使用率とディスク使用率、および前記自動運転車両における複数のセンサーを監視するように構成される請求項1に記載のコンピュータ実施方法。
  9. 命令を格納する非一時的な機械可読媒体であって、
    前記命令は、プロセッサによって実行される場合に、
    センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする自動運転車両における1つ以上のセンサーの故障を検出することと、
    前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、
    前記メッセージチャネルを購読した複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、
    前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、
    を含む、自動運転車両におけるセンサー故障を処理するための操作を前記プロセッサに実行させる非一時的な機械可読媒体。
  10. 前記自動運転車両を前記世界座標内でナビゲートすることから前記ローカル座標内でナビゲートすることに変換するモジュールは、計画モジュールである請求項9に記載の非一時的な機械可読媒体。
  11. 前記センサー故障を検出することは、センサーからデータを受信していないことを検出すること、センサーからデータを受信する際の長い遅延を検出し、またはセンサーによって生成されたデータの標準偏差を検出することを含み、前記標準偏差は所定の閾値より大きい請求項9に記載の非一時的な機械可読媒体。
  12. 前記世界座標内でナビゲートするときに、前記計画モジュールは、光検出・測距センサー、全地球測位システムセンサー、及び1つ以上のカメラの組み合わせからのセンサーデータを使用する請求項10に記載の非一時的な機械可読媒体。
  13. 前記ローカル座標内でナビゲートするときに、前記計画モジュールは、光検出・測距センサーまたは全地球測位システムセンサーからのセンサーデータを使用せずに、1つ以上のカメラからのセンサーデータを使用する請求項10に記載の非一時的な機械可読媒体。
  14. 1つのカメラが機能するときに、前記計画モジュールは前記カメラからのセンサーデータを使用することにより特定の車線を検出して追跡し、乗員自動運転車両から離れるまで減速する請求項13に記載の非一時的な機械可読媒体。
  15. 2つ以上のカメラが機能するときに、前記計画モジュールは前記2つ以上のカメラからのセンサーデータを使用することにより複数の車線を検出して追跡し、道路の片側で停止する請求項13に記載の非一時的な機械可読媒体。
  16. 前記センサー故障処理モジュールは、前記自動運転車両の温度、前記自動運転車両におけるコンピューティングデバイス上のCPU使用率、メモリ使用率とディスク使用率、および前記自動運転車両における複数のセンサーを監視するように構成される請求項9に記載の非一時的な機械可読媒体。
  17. 自動運転車両におけるセンサー故障を処理するためのシステムであって、
    プロセッサと、
    前記プロセッサに接続され、命令を格納するメモリと、
    を含み、
    前記命令が前記プロセッサによって実行される場合に、
    センサー故障処理モジュールによって、絶対座標系である世界座標内でナビゲートする前記自動運転車両における1つ以上のセンサーの故障を検出することと、
    前記センサー故障処理モジュールによって、前記故障を示すメッセージを前記自動運転車両における複数のモジュールによって購読されるメッセージチャネルに送信することと、
    前記メッセージチャネルを購読した複数の購読モジュールのうちの少なくとも1つによって、前記自動運転車両を前記世界座標内でナビゲートすることから前記自動運転車両が走行している車線内の前記自動運転車両の現在位置に関する相対座標であるローカル座標内でナビゲートすることに変換することと、
    前記世界座標の絶対座標情報を使用せずに、前記ローカル座標に基づいて前記自動運転車両が前記車線内を走行するための軌跡を計画することと、
    を前記プロセッサに実行させるシステム。
  18. 前記自動運転車両を前記世界座標内でナビゲートすることから前記ローカル座標内でナビゲートすることに変換するモジュールは、計画モジュールである請求項17に記載のシステム。
  19. 前記センサー故障を検出することは、センサーからデータを受信していないことを検出すること、センサーからデータを受信する際の長い遅延を検出すること、またはセンサーによって生成されたデータの標準偏差を検出することを含み、前記標準偏差は所定の閾値より大きい請求項17に記載のシステム。
  20. 前記世界座標内でナビゲートするときに、前記計画モジュールは、光検出・測距センサー、全地球測位システムセンサー、及び1つ以上のカメラの組み合わせからのセンサーデータを使用する請求項18に記載のシステム。
  21. コンピュータプログラムであって、
    前記コンピュータプログラムがプロセッサにより実行されると、請求項1〜8のいずれか一項に記載の方法を実現させるコンピュータプログラム。
JP2019111989A 2018-06-18 2019-06-17 自動運転車両におけるセンサー故障を処理するための方法 Active JP6845894B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US16/011,526 2018-06-18
US16/011,526 US11427211B2 (en) 2018-06-18 2018-06-18 Methods for handling sensor failures in autonomous driving vehicles

Publications (2)

Publication Number Publication Date
JP2019219396A JP2019219396A (ja) 2019-12-26
JP6845894B2 true JP6845894B2 (ja) 2021-03-24

Family

ID=68839574

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019111989A Active JP6845894B2 (ja) 2018-06-18 2019-06-17 自動運転車両におけるセンサー故障を処理するための方法

Country Status (3)

Country Link
US (1) US11427211B2 (ja)
JP (1) JP6845894B2 (ja)
CN (1) CN110667598B (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102529915B1 (ko) * 2018-07-26 2023-05-08 현대자동차주식회사 차량의 주행 제어 장치 및 방법
US10816979B2 (en) * 2018-08-24 2020-10-27 Baidu Usa Llc Image data acquisition logic of an autonomous driving vehicle for capturing image data using cameras
US20200201336A1 (en) * 2018-12-19 2020-06-25 Zoox, Inc. Transition to Safe State based on Age/Integrity of Critical Messages
US10809736B2 (en) * 2018-12-27 2020-10-20 Baidu Usa Llc ST-graph learning based decision for autonomous driving vehicle
EP3970109A1 (en) * 2019-05-17 2022-03-23 Aioi Nissay Dowa Insurance Services USA Corporation Systems and method for calculating liability of a driver of a vehicle
KR20210005439A (ko) * 2019-07-05 2021-01-14 현대자동차주식회사 운전자 보조 장치, 그를 가지는 차량 및 그 제어 방법
US11180148B2 (en) * 2019-09-03 2021-11-23 Ford Global Technologies, Llc Detection and response to confined trailer in system-assisted hitch operation
US20210200211A1 (en) * 2019-12-31 2021-07-01 Baidu Usa Llc Method of generating back-up trajectories for self-driving vehicles during emergency
US11577758B2 (en) * 2020-01-03 2023-02-14 Baidu Usa Llc Autonomous vehicle park-and-go scenario design
CN113264057B (zh) * 2020-02-14 2022-10-11 宁波吉利汽车研究开发有限公司 一种车辆传感器状态监测方法、装置及汽车
US11592570B2 (en) * 2020-02-25 2023-02-28 Baidu Usa Llc Automated labeling system for autonomous driving vehicle lidar data
CN113495547A (zh) * 2020-03-20 2021-10-12 北京智行者科技有限公司 一种实时安全的无人驾驶故障诊断与保护方法及系统
GB2594079A (en) * 2020-04-16 2021-10-20 Daimler Ag A method for tracking at least one object in the surroundings of an autonomous motor vehicle with a Frenet frame, as well as an assistance system
EP3895950B1 (en) * 2020-04-16 2024-01-17 Zenuity AB Methods and systems for automated driving system monitoring and management
CN111532260B (zh) * 2020-05-20 2021-06-11 湖北亿咖通科技有限公司 一种车位检测性能评价方法及电子设备
CN111559372B (zh) * 2020-05-20 2021-05-18 湖北亿咖通科技有限公司 一种泊车系统的车位检测性能的评价方法和电子设备
CN111619584B (zh) * 2020-05-27 2021-09-21 北京经纬恒润科技股份有限公司 一种无人驾驶汽车的状态监管方法及装置
CN111775956A (zh) * 2020-06-04 2020-10-16 东风汽车集团有限公司 一种用于低速无人驾驶的安全方法及系统
WO2021248499A1 (en) * 2020-06-12 2021-12-16 Baidu.Com Times Technology (Beijing) Co., Ltd. A fail-safe handling system for autonomous driving vehicle
JP7466396B2 (ja) * 2020-07-28 2024-04-12 株式会社Soken 車両制御装置
US11321211B1 (en) * 2020-10-25 2022-05-03 Motional Ad Llc Metric back-propagation for subsystem performance evaluation
CN112712719B (zh) * 2020-12-25 2022-05-03 阿波罗智联(北京)科技有限公司 车辆控制方法、车路协同系统、路侧设备和自动驾驶车辆
DE112022001330T5 (de) 2021-05-21 2024-01-25 Hitachi Astemo, Ltd. System zum bestimmen von anomalien bei der aussenerkennung, am fahrzeug angebrachte vorrichtung und verfahren zum bestimmen von anomalien bei der aussenerkennung
KR102624828B1 (ko) * 2021-06-07 2024-01-15 주식회사 엘지유플러스 자율주행차량에서 대용량 데이터 수집을 위한 방법 및 시스템
CN113380065B (zh) * 2021-06-24 2023-01-06 广汽埃安新能源汽车有限公司 车辆管理方法、系统、装置、电子设备及存储介质
CN113741388B (zh) * 2021-08-20 2023-09-19 东风悦享科技有限公司 一种基于自动驾驶感知失效的安全诊断系统及方法
WO2023050129A1 (zh) * 2021-09-29 2023-04-06 华为技术有限公司 车辆控制的方法和装置
CN115903626A (zh) * 2022-12-27 2023-04-04 霍州煤电集团亿能电气股份有限公司 一种齿轨车智能网联控制系统

Family Cites Families (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04205403A (ja) * 1990-11-30 1992-07-27 Nissan Motor Co Ltd 操舵制御装置
JP4205403B2 (ja) 2002-11-18 2009-01-07 東レ株式会社 ポリ乳酸系樹脂組成物、成形品及びポリエステル樹脂用可塑剤
US7499776B2 (en) * 2004-10-22 2009-03-03 Irobot Corporation Systems and methods for control of an unmanned ground vehicle
JP4776570B2 (ja) 2007-03-08 2011-09-21 アルパイン株式会社 ナビゲーション装置、傾斜角を用いた角速度補正装置および方法
US8977489B2 (en) * 2009-05-18 2015-03-10 GM Global Technology Operations LLC Turn by turn graphical navigation on full windshield head-up display
WO2012131764A1 (ja) 2011-03-29 2012-10-04 三菱電機株式会社 地図作成装置及び地図データベース
KR101803973B1 (ko) * 2011-05-09 2017-12-01 엘지이노텍 주식회사 주차용 카메라 시스템과 그의 구동 방법
US9523984B1 (en) * 2013-07-12 2016-12-20 Google Inc. Methods and systems for determining instructions for pulling over an autonomous vehicle
US20150298654A1 (en) * 2013-08-19 2015-10-22 Raymond Anthony Joao Control, monitoring, and/or security, apparatus and method for premises, vehicles, and/or articles
US9201424B1 (en) * 2013-08-27 2015-12-01 Google Inc. Camera calibration using structure from motion techniques
US9199668B2 (en) * 2013-10-28 2015-12-01 GM Global Technology Operations LLC Path planning for evasive steering maneuver employing a virtual potential field technique
US9141109B1 (en) * 2014-05-06 2015-09-22 Toyota Motor Engineering & Manufacturing North America, Inc. Automated driving safety system
US9483059B2 (en) * 2014-11-26 2016-11-01 Toyota Motor Engineering & Manufacturing North America, Inc. Method to gain driver's attention for autonomous vehicle
US11899465B2 (en) * 2014-12-31 2024-02-13 FLIR Belgium BVBA Autonomous and assisted docking systems and methods
CA2976344A1 (en) * 2015-02-10 2016-08-18 Mobileye Vision Technologies Ltd. Sparse map for autonomous vehicle navigation
JP2016192028A (ja) 2015-03-31 2016-11-10 株式会社デンソー 自動走行制御装置および自動走行制御システム
US11283877B2 (en) * 2015-11-04 2022-03-22 Zoox, Inc. Software application and logic to modify configuration of an autonomous vehicle
US10328949B2 (en) * 2016-01-28 2019-06-25 Toyota Motor Engineering & Manufacturing North America, Inc. Sensor blind spot indication for vehicles
JP6659379B2 (ja) * 2016-01-28 2020-03-04 日立オートモティブシステムズ株式会社 道路情報認識システム及び道路情報認識方法
DE102016214027A1 (de) * 2016-07-29 2018-02-01 Volkswagen Aktiengesellschaft Verfahren und System zum Erfassen von Landmarken in einem Verkehrsumfeld einer mobilen Einheit
JP6611353B2 (ja) * 2016-08-01 2019-11-27 クラリオン株式会社 画像処理装置、外界認識装置
DE102016217645B4 (de) * 2016-09-15 2023-01-19 Volkswagen Aktiengesellschaft Verfahren zum Bereitstellen von Information über eine voraussichtliche Fahrintention eines Fahrzeugs
US10452068B2 (en) * 2016-10-17 2019-10-22 Uber Technologies, Inc. Neural network system for autonomous vehicle control
JP6637193B2 (ja) * 2016-10-18 2020-01-29 本田技研工業株式会社 車両制御装置
US9898928B1 (en) * 2016-10-25 2018-02-20 Toyota Motor Engineering & Manufacturing North America, Inc. Coasting guidance timing and learning based on approach lane
WO2018086122A1 (zh) * 2016-11-14 2018-05-17 深圳市大疆创新科技有限公司 多路传感数据融合的方法和系统
WO2018086133A1 (en) * 2016-11-14 2018-05-17 SZ DJI Technology Co., Ltd. Methods and systems for selective sensor fusion
US10488863B2 (en) * 2016-12-13 2019-11-26 Ford Global Technologies, Llc Autonomous vehicle post-fault operation
US10430968B2 (en) * 2017-03-14 2019-10-01 Ford Global Technologies, Llc Vehicle localization using cameras
US10994729B2 (en) * 2017-03-29 2021-05-04 Mitsubishi Electric Research Laboratories, Inc. System and method for controlling lateral motion of vehicle
US10423934B1 (en) * 2017-08-10 2019-09-24 Zoox, Inc. Automated vehicle diagnostics and maintenance
US10168418B1 (en) * 2017-08-25 2019-01-01 Honda Motor Co., Ltd. System and method for avoiding sensor interference using vehicular communication
US20190070957A1 (en) * 2017-09-01 2019-03-07 Honda Motor Co., Ltd. Driving Assistance Device And Driving Assistance Method
US10551849B2 (en) * 2017-09-25 2020-02-04 Aptiv Technologies Limited Automated vehicle simulated lane-marking guidance system
US10635109B2 (en) * 2017-10-17 2020-04-28 Nio Usa, Inc. Vehicle path-planner monitor and controller
US11163309B2 (en) * 2017-11-30 2021-11-02 Direct Current Capital LLC Method for autonomous navigation
EP3759562B1 (en) * 2018-03-02 2022-12-28 DeepMap Inc. Camera based localization for autonomous vehicles
US10521913B2 (en) * 2018-03-29 2019-12-31 Aurora Innovation, Inc. Relative atlas for autonomous vehicle and generation thereof
US10991258B2 (en) * 2018-04-13 2021-04-27 Suzhou Eavision Robotic Technologies Co., Ltd. Real-time learning and detection of a border in a flight path
US11136022B2 (en) * 2018-05-29 2021-10-05 Hitachi Automotive Systems, Ltd. Road marker detection method
US10849543B2 (en) * 2018-06-08 2020-12-01 Ford Global Technologies, Llc Focus-based tagging of sensor data

Also Published As

Publication number Publication date
US20190382031A1 (en) 2019-12-19
US11427211B2 (en) 2022-08-30
CN110667598A (zh) 2020-01-10
JP2019219396A (ja) 2019-12-26
CN110667598B (zh) 2023-03-24

Similar Documents

Publication Publication Date Title
JP6845894B2 (ja) 自動運転車両におけるセンサー故障を処理するための方法
JP7030044B2 (ja) 自律走行車(adv)に対して車両とクラウド間のリアルタイム交通地図を構築するためのシステム
JP6975512B2 (ja) 自動運転車両の周辺車両の挙動に基づくリアルタイム感知調整と運転調整
JP6892464B2 (ja) 自動運転車両に用いられる検知支援
JP6906011B2 (ja) オブジェクトの二次元境界枠を自動運転車両の三次元位置に転換するための方法[method for transforming 2d bounding boxes of objects into 3d positions for autonomous driving vehicles (advs)]
KR102223270B1 (ko) 여분의 초음파 radar를 구비한 자율 주행 차량
JP6754856B2 (ja) 自動運転車両のためのセンサー集約フレームワーク
JP7050025B2 (ja) 自動運転車両のための計画運転感知システム
JP7141370B2 (ja) 標準的なナビゲーション地図と車両の過去の軌跡に基づいて決定された車線構成を利用した自動運転
CN111076732B (zh) 基于车辆行驶的轨迹标记和生成高清地图的标记方案
JP7108583B2 (ja) 自動運転車両のための曲率補正経路サンプリングシステム
JP6972150B2 (ja) 自動運転車両のための歩行者確率予測システム
JP2021501714A (ja) 自動運転車両のための低速シーンにおける歩行者インタラクションシステム
KR102279078B1 (ko) 자율 주행 차량의 v2x 통신 기반의 차량 차로 시스템
CN110621541B (zh) 用于生成轨迹以操作自动驾驶车辆的方法和系统
JP7116065B2 (ja) 自律走行車に用いられるトンネルに基づく計画システム
JP2020523552A (ja) 自動運転車両の経路計画のための運転シナリオに基づく車線ガイドライン
JP7001708B2 (ja) 自動運転車の高速計画のための多項式フィッティングベースの基準線平滑化方法
JP6861272B2 (ja) 衝突後の分析に基づく自動運転車の車両動作の最適化
JP7149288B2 (ja) 自動運転車両のための螺旋曲線に基づく垂直駐車計画システム
CN111857119A (zh) 用于停放自动驾驶车辆的停车管理架构
JP2021501713A (ja) 自動運転車両のための制御主導型の3ポイントターン計画
CN111103876A (zh) 自动驾驶车辆的基于雷达通信的扩展感知
JP6935507B2 (ja) 自動運転のための自己反転線の相互回避アルゴリズム
JP6892516B2 (ja) 列挙に基づく自動運転車両の3ポイントターン計画

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190705

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200715

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200721

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210209

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210226

R150 Certificate of patent or registration of utility model

Ref document number: 6845894

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250