JP2023517105A - 点群の特徴に基づく障害物濾過システム - Google Patents

点群の特徴に基づく障害物濾過システム Download PDF

Info

Publication number
JP2023517105A
JP2023517105A JP2022554770A JP2022554770A JP2023517105A JP 2023517105 A JP2023517105 A JP 2023517105A JP 2022554770 A JP2022554770 A JP 2022554770A JP 2022554770 A JP2022554770 A JP 2022554770A JP 2023517105 A JP2023517105 A JP 2023517105A
Authority
JP
Japan
Prior art keywords
candidate
obstacles
standard deviation
threshold
candidate obstacles
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022554770A
Other languages
English (en)
Other versions
JP7389267B2 (ja
Inventor
シァン リウ,
ドンチャオ ガオ,
ファン ジュ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Original Assignee
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu com Times Technology Beijing Co Ltd, Baidu USA LLC filed Critical Baidu com Times Technology Beijing Co Ltd
Publication of JP2023517105A publication Critical patent/JP2023517105A/ja
Application granted granted Critical
Publication of JP7389267B2 publication Critical patent/JP7389267B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W60/00Drive control systems specially adapted for autonomous road vehicles
    • B60W60/001Planning or execution of driving tasks
    • B60W60/0015Planning or execution of driving tasks specially adapted for safety
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0088Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0212Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory
    • G05D1/0214Control of position or course in two dimensions specially adapted to land vehicles with means for defining a desired trajectory in accordance with safety or protection criteria, e.g. avoiding hazardous areas
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20068Projection on vertical or horizontal image axis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Optics & Photonics (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Medical Informatics (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Image Analysis (AREA)

Abstract

自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法、装置、およびシステムが開示される。LIDAR機器の出力に基づいて、複数の点を含む点群を生成する。点群に基づいて、1つまたは複数の候補障害物を決定する。前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去する。除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定する。認識された障害物に基づいて、自動運転車両の操作を制御する。【選択図】図1

Description

本開示の実施形態は、一般に、自動運転車両の操作に関する。より具体的には、本開示の実施形態は、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を処理することに関する。
自動運転モード(例えば、無人運転)で運転している車両は、乗員、特に運転者をいくつかの運転関連の責任から解放することができる。自動運転モードで運転している場合、車両が車載用センサを使用して様々な場所に移動できるため、車両は、ヒューマンマシンインタラクションが最小限に抑えられた場合または乗客がいない場合にも、走行することができる。
LIDAR(光検出および測距、またはレーザーレーダー)技術は、軍事、地理、海洋学、および過去10年間の自動運転車両に広く使用されている。LIDAR機器は、シーンを走査してオブジェクトの反射面を表す点群を組み立てるときに、オブジェクトまでの距離を推定することができる。レーザーパルスを放射し、オブジェクトから反射された戻りパルス(もしあれば)を検出し、放射されたパルスと受信された反射との時間遅延に基づいてオブジェクトまでの距離を決定することにより、点群内の各点を決定することができる。シーン全体内で一本または複数本のレーザーを迅速に繰り返し走査して、シーン内の反射オブジェクトまでの距離についての連続的なリアルタイム情報を提供することができる。レーザーは、一周回転するごとに一周の点を生成する。
LIDAR技術は、ノイズ(塵埃または他の粒子によって引き起こされたノイズなど)からの影響を受けやすい。ノイズの多い点群は、感知モジュールが誤報された障害物を生成する可能性がある。
本開示の実施形態は、コンピュータ実装方法、非一時的な機械可読媒体、およびデータ処理システムを提供する。
本開示のいくつかの実施形態は、コンピュータ実装方法を提供する。この方法は、光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、点群に基づいて、1つまたは複数の候補障害物を決定することと、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定することと、認識された障害物に基づいて、自動運転車両の操作を制御することと、を含む。
本開示のいくつかの実施形態は、非一時的な機械可読媒体を提供する。この媒体は、命令を記憶する媒体であって、この命令がプロセッサによって実行されると、プロセッサに操作を実行させるものであり、この操作は、光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、点群に基づいて、1つまたは複数の候補障害物を決定することと、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定することと、認識された障害物に基づいて、自動運転車両の操作を制御することと、を含む。
本開示のいくつかの実施形態は、データ処理システムを提供する。このシステムは、プロセッサと、プロセッサに接続されて命令を記憶するメモリであって、この命令がプロセッサによって実行されると、プロセッサに操作を実行させるメモリと、を含み、この操作は、光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、点群に基づいて、1つまたは複数の候補障害物を決定することと、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定することと、認識された障害物に基づいて、自動運転車両の操作を制御することと、を含む。
図面の各図において、本開示の実施形態は、例示的かつ非限定的な例として示されており、図面中の類似の図面記号は、類似の要素を示す。
一実施形態に係るネットワークシステムを示すブロック図である。 一実施形態に係る自動運転車両の一例を示すブロック図である。 一実施形態に係る、自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。 一実施形態に係る、自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。 一実施形態に係る利用可能な様々なモジュールを示すブロック図である。 一実施形態に係る、障害物に対応するLIDAR点の空間分布を示す図である。 一実施形態に係る、障害物に対応するLIDAR点の空間分布を示す図である。 一実施形態に係る、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法の一例を示すフローチャートである。 一実施形態に係る、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法の一例を示すフローチャートである。
本開示の様々な実施形態および態様は、以下に説明される詳細を参照して説明され、図面は、前記様々な実施形態を示す。以下の説明および図面は、本開示を説明するものであり、本開示を限定するものとして解釈されるべきではない。本開示の様々な実施形態の包括的な理解を提供するために、多くの特定の詳細が説明される。しかしながら、場合によっては、本開示の実施形態の簡潔な説明を提供するために、周知または従来の詳細は説明されていない。
本明細書における「一実施形態」または「実施形態」への言及は、この実施形態に関連して説明される特定の特徴、構造、または特性が、本開示の少なくとも1つの実施形態に含まれ得ることを意味する。本明細書の様々な場所での「一実施形態では」という句の出現は、必ずしもすべてが同じ実施形態を指すとは限らない。
いくつかの実施形態によれば、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法、装置、およびシステムが開示される。LIDAR機器の出力に基づいて、複数の点を含む点群を生成する。点群に基づいて、1つまたは複数の候補障害物を決定する。前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去する。除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定する。認識された障害物に基づいて、自動運転車両の操作を制御する。
一実施形態では、ノイズに対応する第一候補障害物セットは、塵埃に対応する点に対応する候補障害物を含む。一実施形態では、前記1つまたは複数の候補障害物を濾過する際に基づかれ、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴は、前記1つまたは複数の候補障害物のそれぞれに対応する点の強度測定値分布、前記1つまたは複数の候補障害物のそれぞれに対応する点の空間分布、またはそれらの組み合わせのうちの1つまたは複数を含む。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、低強度測定値に関連付けられた点の数と候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去することを含む。点の強度測定値が強度閾値よりも小さい場合、この点が低強度測定値に関連付けられる。
一実施形態では、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、この候補障害物に対応する点を水平面の第一次元および第二次元に投影する。第一次元および第二次元が互いに直交する。第一次元に沿った投影点の第一標準偏差、および第二次元に沿った投影点の第二標準偏差を決定する。第一標準偏差が第一標準偏差閾値よりも大きい場合、または第二標準偏差が第二標準偏差閾値よりも大きい場合、候補障害物を除去する。一実施形態では、第一標準偏差が第一標準偏差閾値よりも大きく、第二標準偏差が第二標準偏差閾値よりも大きい場合、候補障害物を除去する。
一実施形態では、第一標準偏差閾値は、第二標準偏差閾値と同じである。別の実施形態では、第一標準偏差閾値は、第二標準偏差閾値と異なる。
一実施形態では、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、この候補障害物に対応する点を水平面の領域に投影する。水平面の領域が第一平方数量を含むグリッドに関連付けられる。それぞれが少なくとも1つの投影点を含む第二平方数量を第一平方数量で決定する。第二数量と第一数量との比率が第二閾値よりも大きい場合、候補障害物を除去する。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、低い高さに関連付けられた点の数とこの候補障害物に対応する点の総数との比率が第三閾値よりも小さい点に対応する候補障害物のそれぞれを除去することをさらに含む。点の高さが高さ閾値よりも小さい場合、この点が低い高さに関連付けられる。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、それぞれが所定数の以前に隣接した感知周期のいずれかの感知結果に存在しない候補障害物を除去することをさらに含む。
図1は、本開示の一実施形態に係る自動運転車両のネットワーク構成を示すブロック図である。図1を参照すると、ネットワーク構成100は、ネットワーク102を介して1つまたは複数のサーバ103~104に通信接続され得る自動運転車両101を含む。1つの自動運転車両が示されているが、複数の自動運転車両は、ネットワーク102を介して、互いに接続され、および/またはサーバ103~104に接続され得る。ネットワーク102は、有線または無線のローカルエリアネットワーク(LAN)、インターネットなどのワイドエリアネットワーク(WAN)、セルラーネットワーク、衛星ネットワーク、またはそれらの組み合わせなどの任意のタイプのネットワークであり得る。サーバ103~104は、ネットワークまたはクラウドサーバ、アプリケーションサーバ、バックエンドサーバ、またはそれらの組み合わせなどの任意のタイプのサーバまたはサーバクラスタであり得る。サーバ103~104は、データ分析サーバ、コンテンツサーバ、交通情報サーバ、地図・ポイントオブインタレスト(MPOI)サーバ、または位置サーバなどであり得る。
自動運転車両とは、運転者からの入力がほとんどまたはまったくない場合に車両がナビゲートして環境を通り抜ける自動運転モードで動作できるように構成され得る車両を指す。このような自動運転車両は、車両の動作環境に関連する情報を検出するように構成される1つまたは複数のセンサを有するセンサシステムを含み得る。車両およびそれに関連付けられたコントローラは、検出された情報を使用して、ナビゲートして環境を通り抜ける。自動運転車両101は、手動モード、全自動運転モード、または部分自動運転モードで動作することができる。
一実施形態では、自動運転車両101は、感知・計画システム110、車両制御システム111、無線通信システム112、ユーザインターフェースシステム113、情報エンターテイメントシステム114、およびセンサシステム115を含むが、これらに限定されない。自動運転車両101は、エンジン、ホイール、ステアリングホイール、トランスミッションなど、一般的な車両に含まれるいくつかの一般的なコンポーネントをさらに含み得る。コンポーネントは、加速信号または命令、減速信号または命令、ステアリング信号または命令、ブレーキ信号または命令などの様々な通信信号および/または命令を使用して、車両制御システム111および/または感知・計画システム110によって制御され得る。
コンポーネント110~115は、インターコネクト、バス、ネットワーク、またはそれらの組み合わせを介して互いに通信接続され得る。例えば、コンポーネント110~115は、コントローラエリアネットワーク(CAN)バスを介して互いに通信接続され得る。CANバスは、マイクロコントローラおよび装置がホストなしのアプリケーション内で互いに通信できるように設計された車両バス規格である。これは、最初に自動車内の多重電気配線のために設計されるが、他の多くの環境でも使用されるメッセージベースのプロトコルである。
図2を参照すると、一実施形態では、センサシステム115は、1つまたは複数のカメラ211、全地球測位システム(GPS)ユニット212、慣性測定ユニット(IMU)213、レーダーユニット214、および光検出・測距(LIDAR)ユニット215を含むが、これらに限定されない。GPSユニット212は、自動運転車両の位置に関する情報を提供するように動作可能な送受信機を含み得る。IMUユニット213は、慣性加速度に基づいて自動運転車両の位置および向きの変化を感知することができる。レーダーユニット214は、無線信号を使用して自動運転車両のローカル環境内のオブジェクトを感知するシステムを表すことができる。いくつかの実施形態では、オブジェクトを感知することに加えて、レーダーユニット214は、オブジェクトの速度および/または進行方向をさらに感知することができる。LIDARユニット215は、レーザーを使用して、自動運転車両が配置されている環境内のオブジェクトを感知することができる。他のシステムコンポーネントに加えて、LIDARユニット215は、1つまたは複数のレーザー源、レーザースキャナ、および1つまたは複数の検出器をさらに含み得る。カメラ211は、自動運転車両の周囲環境の画像を収集するための1つまたは複数の装置を含み得る。カメラ211は、スチルカメラおよび/またはビデオカメラであり得る。カメラは、例えば、カメラを回転および/または傾斜プラットフォームに取り付けることにより、機械的に移動できる。
センサシステム115は、ソナーセンサ、赤外線センサ、ステアリングセンサ、スロットルセンサ、ブレーキセンサ、およびオーディオセンサ(例えば、マイクロフォン)などの他のセンサをさらに含み得る。オーディオセンサは、自動運転車両の周囲環境から音声を収集するように構成され得る。ステアリングセンサは、ステアリングホイール、車両のホイール、またはそれらの組み合わせのステアリング角度を感知するように構成され得る。スロットルセンサおよびブレーキセンサは、それぞれ車両のスロットル位置およびブレーキ位置を感知する。いくつかの場合では、スロットルセンサおよびブレーキセンサは、統合型スロットル/ブレーキセンサとして統合され得る。
一実施形態では、車両制御システム111は、ステアリングユニット201、スロットルユニット202(加速ユニットとも呼ばれる)、およびブレーキユニット203を含むが、これらに限定されない。ステアリングユニット201は、車両の方向または前進方向を調整するために使用される。スロットルユニット202は、モータまたはエンジンの速度を制御して、車両の速度および加速度を制御するために使用される。ブレーキユニット203は、摩擦を与えることにより、車両のホイールまたはタイヤを減速させて車両を減速させるために使用される。なお、図2に示すコンポーネントは、ハードウェア、ソフトウェア、またはそれらの組み合わせで実装され得る。
図1に戻って参照すると、無線通信システム112は、自動運転車両101と、装置、センサ、他の車両などの外部システムとの間の通信を可能にする。例えば、無線通信システム112は、1つまたは複数の装置と直接無線通信するか、またはネットワーク102を介してサーバ103~104と通信するなど、通信ネットワークを介して無線通信を実行することができる。無線通信システム112は、WiFiなどの任意のセルラー通信ネットワークまたは無線ローカルエリアネットワーク(WLAN)を介して、別のコンポーネントまたはシステムと通信することができる。無線通信システム112は、例えば、赤外線リンク、ブルートゥース(登録商標)などを介して、装置(例えば、乗客の携帯機器、表示装置、および車両101内のスピーカ)と直接通信することができる。ユーザインターフェースシステム113は、例えば、キーボード、タッチスクリーン表示装置、マイクロフォン、スピーカなどを含む、車両101内に実装された周辺デバイスの一部であり得る。
自動運転車両101の機能の一部または全部は、特に自動運転モードで動作する場合に、感知・計画システム110によって制御または管理され得る。感知・計画システム110は、センサシステム115、制御システム111、無線通信システム112、および/またはユーザインターフェースシステム113から情報を受信し、受信された情報を処理し、出発地から目的地までのルートまたは経路を計画し、計画および制御情報に基づいて車両101を運転するために必要なハードウェア(例えば、プロセッサ、メモリ、記憶装置)およびソフトウェア(例えば、オペレーティングシステム、計画・ルーティングプログラム)を含む。あるいは、感知・計画システム110は、車両制御システム111と統合され得る。
例えば、乗客としてのユーザは、例えばユーザインターフェースを介して、行程の出発地および目的地を指定することができる。感知・計画システム110は、行程関連データを取得する。例えば、感知・計画システム110は、サーバ103~104の一部であり得るMPOIサーバから位置およびルート情報を取得することができる。位置サーバは位置サービスを提供し、MPOIサーバは地図サービスおよび特定の位置のPOIを提供する。あるいは、そのような位置およびMPOI情報は、感知・計画システム110の永久記憶装置にローカルにキャッシュされ得る。
自動運転車両101がルートに沿って移動しているとき、感知・計画システム110は、交通情報システムまたはサーバ(TIS)からリアルタイムの交通情報を取得することもできる。なお、サーバ103~104は、サードパーティエンティティによって操作され得る。あるいは、サーバ103~104の機能は、感知・計画システム110と統合され得る。リアルタイムの交通情報、MPOI情報、および位置情報、ならびにセンサシステム115によって検出または感知されたリアルタイムのローカル環境データ(例えば、障害物、オブジェクト、近くの車両)に基づいて、感知・計画システム110は、最適なルートを計画し、計画されたルートに従って、例えば、制御システム111を介して車両101を運転して、指定された目的地に安全かつ効率的に到達することができる。
サーバ103は、様々なクライアントのためのデータ分析サービスを実行するためのデータ分析システムであり得る。一実施形態では、データ分析システム103は、データコレクタ121および機械学習エンジン122を含む。データコレクタ121は、様々な車両(自動運転車両または運転者によって運転される従来の車両)から運転統計データ123を収集する。運転統計データ123は、発行された運転命令(例えば、スロットル、ブレーキ、ステアリング命令)と、異なる時点で車両のセンサによって取得された車両の応答(例えば、速度、加速、減速、方向)とを示す情報を含む。運転統計データ123は、異なる時点での運転環境を説明する情報、例えば、ルート(出発地および目的地を含む)、MPOI、道路状況、気象条件などをさらに含み得る。
運転統計データ123に基づいて、機械学習エンジン122は、様々な目的のために1組の規則、アルゴリズム、および/または予測モデル124を生成または訓練する。一実施形態では、アルゴリズム124は、LIDAR機器の出力に基づいて決定された候補障害物を濾過するためのアルゴリズムを含み得る。次に、アルゴリズム124は、自動運転中にリアルタイムで使用されるようにADVにアップロードされ得る。
図3Aおよび図3Bは、一実施形態に係る、自動運転車両と共に使用される感知・計画システムの一例を示すブロック図である。システム300は、感知・計画システム110、制御システム111、およびセンサシステム115を含むがこれらに限定されない、図1の自動運転車両101の一部として実装され得る。図3A~図3Bを参照すると、感知・計画システム110は、位置決めモジュール301、感知モジュール302、予測モジュール303、決定モジュール304、計画モジュール305、制御モジュール306、ルーティングモジュール307、および障害物濾過モジュール403を含むが、これらに限定されない。
モジュール301~307および403の一部または全部は、ソフトウェア、ハードウェア、またはそれらの組み合わせで実装され得る。例えば、これらのモジュールは、永久記憶装置352にインストールされ、メモリ351にロードされ、1つまたは複数のプロセッサ(図示せず)によって実行され得る。なお、これらのモジュールの一部または全部は、図2の車両制御システム111のモジュールの一部または全部に通信接続され得るか、またはこれらと統合され得る。モジュール301~307および403の一部は、統合モジュールとして一緒に統合され得る。
位置決めモジュール301は、(例えば、GPSユニット212を使用して)自動運転車両300の現在位置を決定し、ユーザの行程またはルートに関連するすべてのデータを管理する。位置決めモジュール301(地図/ルートモジュールとも呼ばれる)は、ユーザの行程またはルートに関連するすべてのデータを管理する。ユーザは、例えば、ユーザインターフェースを介してログインし、行程の出発地および目的地を指定することができる。位置決めモジュール301は、地図/ルート情報311などの自動運転車両300の他のコンポーネントと通信して、行程関連データを取得する。例えば、位置決めモジュール301は、位置サーバおよび地図・POI(MPOI)サーバから位置およびルート情報を取得することができる。位置サーバは位置サービスを提供し、MPOIサーバは地図サービスおよび特定の位置のPOIを提供する。これらは、地図/ルート情報311の一部としてキャッシュされ得る。自動運転車両300がルートに沿って移動しているとき、位置決めモジュール301はまた、交通情報システムまたはサーバからリアルタイムの交通情報を取得することができる。
センサシステム115によって提供されたセンサデータ、および位置決めモジュール301によって取得された位置決め情報に基づいて、感知モジュール302は、周囲環境の感知を決定する。感知情報は、一般的な運転者が運転者の運転している車両の周囲で何を感知するかを表すことができる。感知情報は、オブジェクトの形態などを採用した車線構成、交通信号灯信号、別の車両の相対位置、歩行者、建物、横断歩道、または他の交通関連標識(例えば、止まれの標識、譲れの標識)などを含み得る。車線構成は、1つまたは複数の車線を説明する情報、例えば、車線の形状(例えば、直線または曲線)、車線の幅、道路内の車線数、一方向または双方向の車線、合流車線または分岐車線、出口車線などを含む。
感知モジュール302は、1つまたは複数のカメラによって収集された画像を処理および分析して、自動運転車両の環境内のオブジェクトおよび/または特徴を認識するためのコンピュータビジョンシステムまたはコンピュータビジョンシステムの機能を含み得る。オブジェクトは、交通信号、道路境界、他の車両、歩行者、および/または障害物などを含み得る。コンピュータビジョンシステムは、オブジェクト認識アルゴリズム、ビデオ追跡、および他のコンピュータビジョン技術を使用することができる。いくつかの実施形態では、コンピュータビジョンシステムは、環境地図の作成、オブジェクト追跡、オブジェクトの速度の推定などを実行することができる。感知モジュール302はまた、レーダーおよび/またはLIDARなどの他のセンサによって提供された他のセンサデータに基づいてオブジェクトを検出することができる。
オブジェクトのそれぞれについて、予測モジュール303は、オブジェクトがこの状況でどのように動作するかを予測する。予測は、1組の地図/ルート情報311および交通規則312を考慮してその時点での運転環境を感知する感知データに基づいて、実行される。例えば、オブジェクトが反対方向の車両であり、現在の運転環境が交差点を含む場合、予測モジュール303は、車両が直接前進する可能性が高いか、それともステアリングする可能性が高いかを予測する。感知データが、交差点に交通信号灯がないことを示す場合、予測モジュール303は、車両が交差点に入る前に完全に停止しなければならない可能性があることを予測することができる。感知データが、車両が現在左折専用車線または右折専用車線にあることを示す場合、予測モジュール303は、車両がそれぞれ左折または右折する可能性が高いことを予測することができる。
オブジェクトのそれぞれについて、決定モジュール304は、オブジェクトをどのように処理するかについての決定を行う。例えば、特定のオブジェクト(例えば、交差点にある別の車両)、およびオブジェクトを説明するメタデータ(例えば、速度、方向、ステアリング角度)について、決定モジュール304は、どのようにオブジェクトとすれ違うか(例えば、追い越し、譲れ、停止、通過)を決定する。決定モジュール304は、永久記憶装置352に記憶され得る交通規則または運転規則312などの規則セットに基づいてこのような決定を実行することができる。
ルーティングモジュール307は、出発地から目的地までの1つまたは複数のルートまたは経路を提供するように構成される。出発地から目的地までの所与の行程、例えば、ユーザから受信された所与の行程について、ルーティングモジュール307は、地図/ルート情報311を取得し、出発地から目的地までのすべての可能なルートまたは経路を決定する。ルーティングモジュール307は、出発地から目的地までの各ルートを決定する地形図の形態での基準線を生成することができる。基準線とは、他の車両、障害物、または交通状況などからの干渉を受けない理想的なルートまたは経路を指す。即ち、道路上に他の車両、歩行者、または障害物がない場合、ADVは、基準線に正確にまたは密接に従うべきである。次に、地形図は、決定モジュール304および/または計画モジュール305に提供される。決定モジュール304および/または計画モジュール305は、すべての可能なルートをチェックして、位置決めモジュール301からの交通状況、感知モジュール302によって感知された運転環境、および予測モジュール303によって予測された交通状況など、他のモジュールによって提供された他のデータに基づいて、最適なルートのうちの1つを選択して変更する。その時点での特定の運転環境に応じて、ADVを制御するための実際の経路またはルートは、ルーティングモジュール307によって提供された基準線に近いか、または異なる場合がある。
感知されたオブジェクトのそれぞれの決定に基づいて、計画モジュール305は、ルーティングモジュール307によって提供された基準線を基礎として使用して、自動運転車両の経路またはルートおよび運転パラメータ(例えば、距離、速度、および/またはステアリング角度)を計画する。即ち、所与のオブジェクトについて、決定モジュール304はこのオブジェクトに対して何を処理するかを決定するが、計画モジュール305はどのように処理するかを決定する。例えば、所与のオブジェクトについて、決定モジュール304はオブジェクトを追い越すことを決定することができるが、計画モジュール305はオブジェクトの左側または右側のどちらを追い越すかを決定することができる。計画および制御データは、計画モジュール305によって生成され、車両300が次の移動周期(例えば、次のルート/経路セグメント)でどのように移動するかを説明する情報を含む。例えば、計画および制御データは、車両300に、時速30マイル(mph)の速度で10メートル移動し、次に25mphの速度で右側車線に変更するように指示することができる。
計画および制御データに基づいて、制御モジュール306は、計画および制御データによって定義されたルートまたは経路に従って、適切な命令または信号を車両制御システム111に送信することにより、自動運転車両を制御して運転する。計画および制御データは、経路またはルートに沿って異なる時点で適切な車両設定または運転パラメータ(例えば、スロットル、ブレーキ、ステアリング命令)を使用して、ルートまたは経路の第一点から第二点まで車両を運転するのに十分な情報を含む。
一実施形態では、計画段階は、例えば時間間隔が100ミリ秒(ms)である周期などの複数の計画周期(運転周期とも呼ばれる)で実行される。計画周期または運転周期ごとに、計画および制御データに基づいて1つまたは複数の制御命令が発行される。即ち、100msごとに、計画モジュール305は、次のルートセグメントまたは経路セグメント、例えば、目標位置およびADVが目標位置に到達するのに必要な時間を計画する。あるいは、計画モジュール305は、特定の速度、方向、および/またはステアリング角度などをさらに指定することができる。一実施形態では、計画モジュール305は、次の所定の期間(例えば、5秒)内にルートセグメントまたは経路セグメントを計画する。各計画周期について、計画モジュール305は、前の周期で計画された目標位置に基づいて、現在の周期(例えば、次の5秒)に使用される目標位置を計画する。次に、制御モジュール306は、現在の周期の計画および制御データに基づいて、1つまたは複数の制御命令(例えば、スロットル、ブレーキ、ステアリング制御命令)を生成する。
なお、決定モジュール304および計画モジュール305は、統合モジュールとして統合され得る。決定モジュール304/計画モジュール305は、自動運転車両の運転経路を決定するためのナビゲーションシステムまたはナビゲーションシステムの機能を含み得る。例えば、ナビゲーションシステムは、経路に沿った自動運転車両の移動に影響を与えるための一連の速度および前進方向を決定することができる。前記経路は、自動運転車両が、感知された障害物を基本的に回避しながら、最終目的地に通じる車道ベースの経路に沿って前進することを可能にする。目的地は、ユーザインターフェースシステム113を介したユーザ入力に従って設定され得る。ナビゲーションシステムは、自動運転車両の運転中に運転経路を動的に更新することができる。ナビゲーションシステムは、GPSユニットおよび1つまたは複数の地図からのデータを統合して、自動運転車両の運転経路を決定することができる。
以下でさらに詳細に説明されるように、障害物濾過モジュール403は、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去する。モジュール403は、感知モジュール302など、モジュール301~307のいずれかと統合され得る。
図4は、本開示の一実施形態に係る利用可能な様々なモジュールを示すブロック図400である。LIDAR機器/ユニット215の出力に基づいて、複数の点を含む点群401を生成する。点群401は、周囲環境特性の3D形状を表すことができる。各点は、それ自体のX、Y、およびZ座標セットを有することができ、強度測定値に関連付けることができる。強度測定値は、この点を生成するレーザーパルスの戻り強度を示す。感知モジュール302において、点群に基づいて、前記1つまたは複数の候補障害物402を決定する。障害物濾過モジュール403において、前記1つまたは複数の候補障害物402のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物402を濾過して、前記1つまたは複数の候補障害物402からノイズに対応する第一候補障害物セットを除去する。ノイズは、周囲環境内の塵埃または他の粒子によって引き起こされる可能性がある。一実施形態では、ノイズに対応する第一候補障害物セットは、塵埃に対応する点に対応する候補障害物を含む。即ち、ノイズが感知モジュール302において誤報された障害物を生成する可能性があるため、障害物濾過モジュール403においてこれらの誤報された障害物を除去すべきである。
障害物濾過モジュール403において除去されていない候補障害物を含む1つまたは複数の認識された障害物404を決定する。制御モジュール306は、認識された障害物404に基づいて、自動運転車両の操作を制御する。
一実施形態では、前記1つまたは複数の候補障害物を濾過する際に基づかれ、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴は、前記1つまたは複数の候補障害物のそれぞれに対応する点の強度測定値分布、前記1つまたは複数の候補障害物のそれぞれに対応する点の空間分布、またはそれらの組み合わせのうちの1つまたは複数を含む。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、低強度測定値に関連付けられた点の数と候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去することを含む。一実施形態では、第一閾値は約0.9であり得る。点の強度測定値が強度閾値よりも小さい場合、この点が低強度測定値に関連付けられる。他の機能的等価実施形態では、同じ数値関係を取得するための他の比率を代替的に使用して、不等関係と共に第一閾値を適切に調整することができることを理解されたい。例えば、低強度測定値に関連付けられた点の数と低強度測定値に関連付けられていない点(例えば、高強度測定値に関連付けられた点)の数との比率を代替的に使用して、第一閾値を適切に調整することができる。使用される実際の比率、不等関係、または第一閾値は、本開示に限定されない。
図5Aおよび図5Bは、一実施形態に係る、障害物に対応するLIDAR点の空間分布を示す図500Aおよび図500Bである。LIDARユニット215は、回転するレーザーパルス502を放射して環境を走査する。障害物501から反射されたパルスに基づいて、障害物501に対応する複数の点401を決定することができる。障害物501などの実際の障害物について、対応する点401は、大文字L(または大文字Lの回転または反転形態)と基本的に類似した形状を共同で有するべきである。以下でさらに詳細に説明されるように、この観察は、実際の障害物を維持し、塵埃または他の粒子などの環境ノイズによって生成された点に対応する誤報された候補障害物を除去するために使用され得る。実際の障害物については、高さの異なる位置での対応する点の分布変化が小さいが、環境ノイズによって生成された点群については、高さの異なる位置での点の分布変化が非常に重要であり、誤報された候補障害物に対応することをさらに理解されたい。以下でさらに詳細に説明されるように、この観察は、誤報された候補障害物を除去するためにも使用され得る。図5Bは、水平面の二つの直交次元(例えば、長さ側および幅側)における点401の投影図503A、503Bを示す。二次元方向に沿った投影点のそれぞれの標準偏差(б)を決定する。以下でさらに詳細に説明されるように、標準偏差は、誤報された候補障害物を除去するために使用され得る。
図4に戻って参照すると、一実施形態では、障害物濾過モジュール403において、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、この候補障害物に対応する点を水平面の第一次元および第二次元に投影する。第一次元および第二次元は、例えば、それぞれ長さ側および幅側であり得、互いに直交する。第一次元に沿った投影点の第一標準偏差、および第二次元に沿った投影点の第二標準偏差を決定する。第一標準偏差が第一標準偏差閾値よりも大きい場合、または第二標準偏差が第二標準偏差閾値よりも大きい場合、候補障害物を除去する。一実施形態では、第一標準偏差が第一標準偏差閾値よりも大きく、第二標準偏差が第二標準偏差閾値よりも大きい場合、候補障害物を除去する。
一実施形態では、第一標準偏差閾値は、第二標準偏差閾値と同じである。別の実施形態では、第一標準偏差閾値は、第二標準偏差閾値と異なる。一実施形態では、第一標準偏差閾値および第二標準偏差閾値のいずれかは約0.6であり得る。また、機能的等価実施形態では、標準偏差以外の波長分散測定値を採用することができる。
一実施形態では、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、この候補障害物に対応する点を水平面の領域に投影する。水平面の領域が第一平方数量を含むグリッドに関連付けられる。それぞれが少なくとも1つの投影点を含む第二平方数量を第一平方数量で決定する。第二数量と第一数量との比率が第二閾値よりも大きい場合、候補障害物を除去する。一実施形態では、第二閾値は約0.6であり得る。他の機能的等価実施形態では、同じ数値関係を取得するための他の比率を代替的に使用して、不等関係と共に第二閾値を適切に調整することができることを理解されたい。例えば、少なくとも1つの投影点を含む平方数量(即ち、第二数量)と投影点を含まない平方数量(即ち、第一数量-第二数量)との比率を代替的に使用して、第二閾値を適切に調整することができる。実際の比率、不等関係、または使用される第一閾値は、本開示に限定されない。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、低い高さに関連付けられた点の数とこの候補障害物に対応する点の総数との比率が第三閾値よりも小さい点に対応する候補障害物のそれぞれを除去することをさらに含む。一実施形態では、第三閾値は約0.5であり得る。点の高さは、この点と地平面または他の所定の基準面との間の距離に対応することができる。点の高さが高さ閾値よりも小さい場合、この点が低い高さに関連付けられる。他の機能的等価実施形態では、同じ数値関係を取得するための他の比率を代替的に使用して、不等関係と共に第三閾値を適切に調整することができることを理解されたい。例えば、低い高さに関連付けられた点の数と低い高さに関連付けられていない点(例えば、高い高さに関連付けられた点)の数との比率を代替的に使用して、第三閾値を適切に調整することができる。実際の比率、不等関係、または使用される第三閾値は、本開示に限定されない。
一実施形態では、前記1つまたは複数の候補障害物を濾過することは、それぞれが所定数の以前に隣接した感知周期(フレームとも呼ばれる)のいずれかの感知結果に存在しない候補障害物を除去することをさらに含む。以前に隣接した感知周期の採用数は、所定のスーパーパラメータであり、経験的に決定され得る。
様々な閾値が以下に説明される。異なる実施形態では、異なる値が様々な閾値に使用され得、実際の閾値が本開示に限定されないことを理解されたい。
図6は、一実施形態に係る、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法600の一例を示すフローチャートである。図6に示すプロセスは、ハードウェア、ソフトウェア、またはそれらの組み合わせで実施され得る。ブロック610において、LIDAR機器の出力に基づいて、複数の点を含む点群を生成する。ブロック620において、点群に基づいて、前記1つまたは複数の候補障害物を決定する。ブロック630において、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去する。ブロック640において、除去されていない候補障害物を含む1つまたは複数の認識された障害物を決定する。ブロック650において、認識された障害物に基づいて、自動運転車両の操作を制御する。
図7は、一実施形態に係る、自動運転車両のLIDAR機器の出力に基づいて決定された候補障害物を濾過するための方法700の一例を示すフローチャートである。図7に示すプロセスは、ハードウェア、ソフトウェア、またはそれらの組み合わせで実施され得る。方法700は、図6のブロック630において実行され得る。ブロック710において、低強度測定値に関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去する。前記点の強度測定値が強度閾値よりも小さい場合、前記点が低強度測定値に関連付けられる。ブロック720において、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、この候補障害物に対応する点を水平面の第一次元および第二次元に投影する。第一次元および第二次元が互いに直交する。ブロック730において、第一次元に沿った投影点の第一標準偏差、および第二次元に沿った投影点の第二標準偏差を決定する。ブロック740において、第一標準偏差が第一標準偏差閾値よりも大きい場合、または第二標準偏差が第二標準偏差閾値よりも大きい場合、候補障害物を除去する。
従って、本開示の実施形態によれば、ノイズ(例えば、塵埃または他の粒子によって引き起こされたノイズ)にそれぞれ対応するLIDAR点に対応する誤報された候補障害物を除去することができる。誤報された候補障害物を除去することは、自動運転車両の運転が誤報された候補障害物からの不適切な干渉を受ける可能性を低減する。
なお、上記で説明したコンポーネントの一部または全部は、ソフトウェア、ハードウェア、またはそれらの組み合わせで実装され得る。例えば、このようなコンポーネントは、永久記憶装置にインストールおよび記憶されたソフトウェアとして実装され得、このソフトウェアは、本願全体にわたって説明されるプロセスまたは操作を実施するために、プロセッサ(図示せず)によってメモリにロードされ、メモリ内で実行され得る。あるいは、このようなコンポーネントは、専用ハードウェア(例えば、集積回路(例えば、特定用途向け集積回路またはASIC)、デジタルシグナルプロセッサ(DSP)、またはフィールド・プログラマブル・ゲート・アレイ(FPGA))にプログラミングされるかまたは埋め込まれる実行可能コードとして実装され得、この実行可能コードは、アプリケーションからの対応するドライバおよび/またはオペレーティングシステムを介してアクセスされ得る。さらに、このようなコンポーネントは、1つまたは複数の特定の命令を介してソフトウェアコンポーネントによってアクセスされ得る命令セットの一部として、プロセッサまたはプロセッサコア内の特定のハードウェアロジックとして実装され得る。
前述の詳細な説明の一部は、コンピュータメモリ内のデータビットに対する演算のアルゴリズムおよび記号表現に関して示される。これらのアルゴリズムの説明と表現は、自分の作業の本質を他の当業者に最も効果的に伝えるためにデータ処理分野の当業者によって使用される手段である。本明細書では、アルゴリズムは一般に、所望の結果につながる自己矛盾のない一連の操作であると考えられる。これらの操作とは、物理量の物理的操作を必要とする操作を指す。
但し、これらおよび同様の用語はすべて、適切な物理量に関連付けることを目的としており、これらの量に適用される便利なラベルにすぎないことを理解されたい。上記の説明において他の方式で明示的に指摘されない限り、明細書全体では、用語(例えば、添付の特許請求の範囲に記載の用語)を使用した説明とは、コンピュータシステムまたは同様の電子コンピューティングデバイスの動作および処理を指し、このコンピュータシステムまたは電子コンピューティングデバイスは、コンピュータシステムのレジスタおよびメモリの内部で物理(電子)量として示されるデータを制御し、データをコンピュータシステムのメモリまたはレジスタ、または他の情報記憶装置、送信または表示装置の内部で同様に物理量として示される他のデータに変換する。
本開示の実施形態はまた、本明細書中の操作を実行するための機器に関する。このコンピュータプログラムは、非一時的なコンピュータ可読媒体に記憶される。機械可読媒体は、機械(例えば、コンピュータ)によって読み取り可能な形態で情報を記憶するための任意のメカニズムを含む。例えば、機械可読(例えば、コンピュータ可読)媒体は、機械(例えば、コンピュータ)可読記憶媒体(例えば、リードオンリーメモリ(「ROM」)、ランダムアクセスメモリ(「RAM」)、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリデバイス)を含む。
前述の図面に示されるプロセスまたは方法は、ハードウェア(例えば、回路、特定用途向けロジックなど)、ソフトウェア(例えば、非一時的なコンピュータ可読媒体で具体化されるもの)、または両方の組み合わせを含む処理ロジックによって実行され得る。プロセスまたは方法は、いくつかの連続操作に関して上記で説明されるが、いくつかの操作は、異なる順序で実行され得ることを理解されたい。また、いくつかの操作は、順次ではなく並列に実行され得る。
本開示の実施形態は、いかなる特定のプログラミング言語も参照せずに説明される。本明細書で説明される本開示の実施形態の教示を実施するために、様々なプログラミング言語が使用され得ることを理解されたい。
前述の明細書では、本開示の実施形態は、本開示の特定の例示的な実施形態を参照して説明される。添付の特許請求の範囲に記載の本開示のより広い精神および範囲から逸脱することなく、本開示に様々な修正を加えることができることは明らかであろう。従って、本明細書および図面は、限定的な意味ではなく例示的な意味で理解されるべきである。
本開示のいくつかの実施形態は、プロセッサにより実行されると、本開示の実施形態に係る方法を実行させるコンピュータプログラムを提供する。
図面の各図において、本開示の実施形態は、例示的かつ非限定的な例として示されており、図面中の類似の図面記号は、類似の要素を示す。

Claims (33)

  1. 光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、
    前記点群に基づいて、1つまたは複数の候補障害物を決定することと、
    前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、
    除去されていない前記候補障害物を含む1つまたは複数の認識された障害物を決定することと、
    前記認識された障害物に基づいて、自動運転車両の操作を制御することと、
    を含むコンピュータ実装方法。
  2. ノイズに対応する前記第一候補障害物セットは、塵埃に対応する点に対応する候補障害物を含む、
    請求項1に記載の方法。
  3. 前記1つまたは複数の候補障害物を濾過する際に基づかれ、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた前記特徴は、
    前記1つまたは複数の候補障害物のそれぞれに対応する前記点の強度測定値分布、前記1つまたは複数の候補障害物のそれぞれに対応する前記点の空間分布、またはそれらの組み合わせのうちの1つまたは複数を含む、
    請求項1または2に記載の方法。
  4. 前記1つまたは複数の候補障害物を濾過することは、
    低強度測定値に関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去することであって、点の強度測定値が強度閾値よりも小さい場合、前記点が低強度測定値に関連付けられることを含む、
    請求項3に記載の方法。
  5. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を水平面の第一次元および第二次元に投影することであって、前記第一次元および前記第二次元が互いに直交することと、
    前記第一次元に沿った前記投影点の第一標準偏差、および前記第二次元に沿った前記投影点の第二標準偏差を決定することと、
    前記第一標準偏差が第一標準偏差閾値よりも大きい場合、または前記第二標準偏差が第二標準偏差閾値よりも大きい場合、前記候補障害物を除去することと、をさらに含む、
    請求項4に記載の方法。
  6. 前記第一標準偏差が前記第一標準偏差閾値よりも大きく、前記第二標準偏差が前記第二標準偏差閾値よりも大きい場合、前記候補障害物を除去する、
    請求項5に記載の方法。
  7. 前記第一標準偏差閾値は、前記第二標準偏差閾値と同じである、
    請求項5に記載の方法。
  8. 前記第一標準偏差閾値は、前記第二標準偏差閾値と異なる、
    請求項5に記載の方法。
  9. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を前記水平面の領域に投影することであって、前記水平面の前記領域が第一平方数量を含むグリッドに関連付けられることと、
    それぞれが少なくとも1つの投影点を含む第二平方数量を前記第一平方数量で決定することと、
    前記第二数量と前記第一数量との比率が第二閾値よりも大きい場合、前記候補障害物を除去することと、をさらに含む、
    請求項5に記載の方法。
  10. 前記1つまたは複数の候補障害物を濾過することは、
    低い高さに関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第三閾値よりも小さい点に対応する候補障害物のそれぞれを除去することであって、前記点の高さが高さ閾値よりも小さい場合、前記点が低い高さに関連付けられることをさらに含む、
    請求項9に記載の方法。
  11. 前記1つまたは複数の候補障害物を濾過することは、
    それぞれが所定数の以前に隣接した感知周期のいずれかの感知結果に存在しない候補障害物を除去することをさらに含む、
    請求項10に記載の方法。
  12. 命令を記憶する非一時的な機械可読媒体であって、命令がプロセッサによって実行されると、前記プロセッサに操作を実行させるものであり、前記操作は、
    光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、
    前記点群に基づいて、1つまたは複数の候補障害物を決定することと、
    前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、
    除去されていない前記候補障害物を含む1つまたは複数の認識された障害物を決定することと、
    前記認識された障害物に基づいて、自動運転車両の操作を制御することと、を含む、
    非一時的な機械可読媒体。
  13. ノイズに対応する前記第一候補障害物セットは、塵埃に対応する点に対応する候補障害物を含む、
    請求項12に記載の非一時的な機械可読媒体。
  14. 前記1つまたは複数の候補障害物を濾過する際に基づかれ、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた前記特徴は、
    前記1つまたは複数の候補障害物のそれぞれに対応する前記点の強度測定値分布、前記1つまたは複数の候補障害物のそれぞれに対応する前記点の空間分布、またはそれらの組み合わせのうちの1つまたは複数を含む、
    請求項12または13に記載の非一時的な機械可読媒体。
  15. 前記1つまたは複数の候補障害物を濾過することは、
    低強度測定値に関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去することであって、点の強度測定値が強度閾値よりも小さい場合、前記点が低強度測定値に関連付けられることを含む、
    請求項14に記載の非一時的な機械可読媒体。
  16. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を水平面の第一次元および第二次元に投影することであって、前記第一次元および前記第二次元が互いに直交することと、
    前記第一次元に沿った前記投影点の第一標準偏差、および前記第二次元に沿った前記投影点の第二標準偏差を決定することと、
    前記第一標準偏差が第一標準偏差閾値よりも大きい場合、または前記第二標準偏差が第二標準偏差閾値よりも大きい場合、前記候補障害物を除去することと、をさらに含む、
    請求項15に記載の非一時的な機械可読媒体。
  17. 前記第一標準偏差が前記第一標準偏差閾値よりも大きく、前記第二標準偏差が前記第二標準偏差閾値よりも大きい場合、前記候補障害物を除去する、
    請求項16に記載の非一時的な機械可読媒体。
  18. 前記第一標準偏差閾値は、前記第二標準偏差閾値と同じである、
    請求項16に記載の非一時的な機械可読媒体。
  19. 前記第一標準偏差閾値は、前記第二標準偏差閾値と異なる、
    請求項16に記載の非一時的な機械可読媒体。
  20. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を前記水平面の領域に投影することであって、前記水平面の前記領域が第一平方数量を含むグリッドに関連付けられることと、
    それぞれが少なくとも1つの投影点を含む第二平方数量を前記第一平方数量で決定することと、
    前記第二数量と前記第一数量との比率が第二閾値よりも大きい場合、候補障害物を除去することと、をさらに含む、
    請求項16に記載の非一時的な機械可読媒体。
  21. 前記1つまたは複数の候補障害物を濾過することは、
    低い高さに関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第三閾値よりも小さい点に対応する候補障害物のそれぞれを除去することであって、前記点の高さが高さ閾値よりも小さい場合、前記点が低い高さに関連付けられることをさらに含む、
    請求項20に記載の非一時的な機械可読媒体。
  22. 前記1つまたは複数の候補障害物を濾過することは、
    それぞれが所定数の以前に隣接した感知周期のいずれかの感知結果に存在しない候補障害物を除去することをさらに含む、
    請求項21に記載の非一時的な機械可読媒体。
  23. プロセッサと、
    前記プロセッサに接続されて命令を記憶するメモリであって、前記命令が前記プロセッサによって実行されると、前記プロセッサに操作を実行させるメモリと、を含み、前記操作は、
    光検出および測距(LIDAR)機器の出力に基づいて、複数の点を含む点群を生成することと、
    前記点群に基づいて、1つまたは複数の候補障害物を決定することと、
    前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた特徴に少なくとも部分的に基づいて、前記1つまたは複数の候補障害物を濾過して、前記1つまたは複数の候補障害物からノイズに対応する第一候補障害物セットを除去することと、
    除去されていない前記候補障害物を含む1つまたは複数の認識された障害物を決定することと、
    前記認識された障害物に基づいて、自動運転車両の操作を制御することと、を含む、
    データ処理システム。
  24. ノイズに対応する前記第一候補障害物セットは、塵埃に対応する点に対応する候補障害物を含む、
    請求項23に記載のシステム。
  25. 前記1つまたは複数の候補障害物を濾過する際に基づかれ、前記1つまたは複数の候補障害物のそれぞれに対応する点に関連付けられた前記特徴は、
    前記1つまたは複数の候補障害物のそれぞれに対応する前記点の強度測定値分布、前記1つまたは複数の候補障害物のそれぞれに対応する前記点の空間分布、またはそれらの組み合わせのうちの1つまたは複数を含む、
    請求項23または24に記載のシステム。
  26. 前記1つまたは複数の候補障害物を濾過することは、
    低強度測定値に関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第一閾値よりも大きい点に対応する候補障害物のそれぞれを除去することであって、点の強度測定値が強度閾値よりも小さい場合、前記点が低強度測定値に関連付けられることを含む、
    請求項25に記載のシステム。
  27. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を水平面の第一次元および第二次元に投影することであって、前記第一次元および前記第二次元が互いに直交することと、
    前記第一次元に沿った前記投影点の第一標準偏差、および前記第二次元に沿った前記投影点の第二標準偏差を決定することと、
    前記第一標準偏差が第一標準偏差閾値よりも大きい場合、または前記第二標準偏差が第二標準偏差閾値よりも大きい場合、前記候補障害物を除去することと、をさらに含む、
    請求項26に記載のシステム。
  28. 前記第一標準偏差が前記第一標準偏差閾値よりも大きく、前記第二標準偏差が前記第二標準偏差閾値よりも大きい場合、前記候補障害物を除去する、
    請求項27に記載のシステム。
  29. 前記第一標準偏差閾値は、前記第二標準偏差閾値と同じである、
    請求項27に記載のシステム。
  30. 前記第一標準偏差閾値は、前記第二標準偏差閾値と異なる、
    請求項27に記載のシステム。
  31. 前記1つまたは複数の候補障害物を濾過することは、認識された障害物のタイプが車両であるか、または認識された物理的サイズがサイズ閾値よりも大きい候補障害物の残部のそれぞれについて、
    前記候補障害物に対応する点を前記水平面の領域に投影することであって、前記水平面の前記領域が第一平方数量を含むグリッドに関連付けられることと、
    それぞれが少なくとも1つの投影点を含む第二平方数量を前記第一平方数量で決定することと、
    前記第二数量と前記第一数量との比率が第二閾値よりも大きい場合、前記候補障害物を除去することと、をさらに含む、
    請求項27に記載のシステム。
  32. 前記1つまたは複数の候補障害物を濾過することは、
    低い高さに関連付けられた点の数と前記候補障害物に対応する点の総数との比率が第三閾値よりも小さい点に対応する候補障害物のそれぞれを除去することであって、前記点の高さが高さ閾値よりも小さい場合、前記点が低い高さに関連付けられることをさらに含む、
    請求項31に記載のシステム。
  33. 前記1つまたは複数の候補障害物を濾過することは、
    それぞれが所定数の以前に隣接した感知周期のいずれかの感知結果に存在しない候補障害物を除去することをさらに含む、
    請求項32に記載のシステム。
JP2022554770A 2020-03-26 2020-03-26 点群の特徴に基づく障害物濾過システム Active JP7389267B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2020/081475 WO2021189375A1 (en) 2020-03-26 2020-03-26 A point cloud feature-based obstacle filter system

Publications (2)

Publication Number Publication Date
JP2023517105A true JP2023517105A (ja) 2023-04-21
JP7389267B2 JP7389267B2 (ja) 2023-11-29

Family

ID=77855963

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022554770A Active JP7389267B2 (ja) 2020-03-26 2020-03-26 点群の特徴に基づく障害物濾過システム

Country Status (5)

Country Link
US (1) US11609333B2 (ja)
JP (1) JP7389267B2 (ja)
KR (1) KR20220134033A (ja)
CN (1) CN114127778A (ja)
WO (1) WO2021189375A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11592570B2 (en) * 2020-02-25 2023-02-28 Baidu Usa Llc Automated labeling system for autonomous driving vehicle lidar data
CN114475650B (zh) * 2021-12-01 2022-11-01 中铁十九局集团矿业投资有限公司 一种车辆行驶行为确定方法、装置、设备及介质
WO2023192515A1 (en) * 2022-03-31 2023-10-05 Zoox, Inc. Ground profile estimation for sensor data

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07334800A (ja) * 1994-06-06 1995-12-22 Matsushita Electric Ind Co Ltd 車両認識装置
JP2003306102A (ja) * 2002-04-11 2003-10-28 Toshiba Corp 追越車両検出装置と運転支援システムの後側方警報装置
JP2009205436A (ja) * 2008-02-28 2009-09-10 Tamagawa Gakuen 画像セグメンテーション装置、画像セグメンテーション方法及びプログラム
US20100045674A1 (en) * 2008-08-25 2010-02-25 Harris Corporation, Corporation Of The State Of Delaware Image processing device using selective neighboring voxel removal and related methods
US20130202197A1 (en) * 2010-06-11 2013-08-08 Edmund Cochrane Reeler System and Method for Manipulating Data Having Spatial Co-ordinates
JP2015022541A (ja) * 2013-07-19 2015-02-02 株式会社日本自動車部品総合研究所 監視装置およびプログラム
US20180058861A1 (en) * 2016-08-26 2018-03-01 Here Global B.V. Automatic localization geometry detection

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104156926B (zh) 2014-08-19 2017-06-23 武汉海达数云技术有限公司 多场景下车载激光点云噪声点去除方法
EP3430427B1 (en) * 2016-03-14 2021-07-21 IMRA Europe S.A.S. Processing method of a 3d point cloud
US10137890B2 (en) * 2016-06-28 2018-11-27 Toyota Motor Engineering & Manufacturing North America, Inc. Occluded obstacle classification for vehicles
CN106548520A (zh) 2016-11-16 2017-03-29 湖南拓视觉信息技术有限公司 一种点云数据去噪的方法和系统
CN106951847B (zh) * 2017-03-13 2020-09-29 百度在线网络技术(北京)有限公司 障碍物检测方法、装置、设备及存储介质
US10128248B1 (en) 2017-07-14 2018-11-13 Intel Corporation Aging tolerant apparatus
CN109521756B (zh) * 2017-09-18 2022-03-08 阿波罗智能技术(北京)有限公司 用于无人驾驶车辆的障碍物运动信息生成方法和装置
CN109840448A (zh) * 2017-11-24 2019-06-04 百度在线网络技术(北京)有限公司 用于无人驾驶车辆的信息输出方法和装置
CN111788602B (zh) * 2017-12-29 2024-05-28 泰立戴恩菲力尔有限责任公司 点云去噪系统和方法
US10671862B2 (en) * 2018-01-30 2020-06-02 Wipro Limited Method and system for detecting obstacles by autonomous vehicles in real-time
CN110136072B (zh) * 2018-02-08 2021-02-09 北京大学 点云噪声的去除方法、去噪系统、计算机设备及存储介质
US10468062B1 (en) * 2018-04-03 2019-11-05 Zoox, Inc. Detecting errors in sensor data
CN108846809B (zh) 2018-05-28 2022-08-12 河海大学 一种面向密集点云的噪声剔除方法
CN109100741B (zh) * 2018-06-11 2020-11-20 长安大学 一种基于3d激光雷达及图像数据的目标检测方法
US10921817B1 (en) * 2018-06-29 2021-02-16 Zoox, Inc. Point cloud filtering with semantic segmentation
CN109214994B (zh) 2018-08-10 2022-02-01 河海大学 一种基于双控制点的隧道密集点云噪声剔除方法
JP7256639B2 (ja) * 2018-12-26 2023-04-12 フォルシアクラリオン・エレクトロニクス株式会社 車載処理装置
CN109858460B (zh) * 2019-02-20 2022-06-10 重庆邮电大学 一种基于三维激光雷达的车道线检测方法
US11532168B2 (en) * 2019-11-15 2022-12-20 Nvidia Corporation Multi-view deep neural network for LiDAR perception
US11407431B2 (en) * 2019-11-22 2022-08-09 Samsung Electronics Co., Ltd. System and method for object trajectory prediction in an autonomous scenario

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07334800A (ja) * 1994-06-06 1995-12-22 Matsushita Electric Ind Co Ltd 車両認識装置
JP2003306102A (ja) * 2002-04-11 2003-10-28 Toshiba Corp 追越車両検出装置と運転支援システムの後側方警報装置
JP2009205436A (ja) * 2008-02-28 2009-09-10 Tamagawa Gakuen 画像セグメンテーション装置、画像セグメンテーション方法及びプログラム
US20100045674A1 (en) * 2008-08-25 2010-02-25 Harris Corporation, Corporation Of The State Of Delaware Image processing device using selective neighboring voxel removal and related methods
US20130202197A1 (en) * 2010-06-11 2013-08-08 Edmund Cochrane Reeler System and Method for Manipulating Data Having Spatial Co-ordinates
JP2015022541A (ja) * 2013-07-19 2015-02-02 株式会社日本自動車部品総合研究所 監視装置およびプログラム
US20180058861A1 (en) * 2016-08-26 2018-03-01 Here Global B.V. Automatic localization geometry detection

Also Published As

Publication number Publication date
WO2021189375A1 (en) 2021-09-30
CN114127778A (zh) 2022-03-01
US11609333B2 (en) 2023-03-21
JP7389267B2 (ja) 2023-11-29
US20210302582A1 (en) 2021-09-30
KR20220134033A (ko) 2022-10-05

Similar Documents

Publication Publication Date Title
CN111775933B (zh) 用于基于车辆周围障碍物的移动轨迹自主驾驶车辆的方法
US10915766B2 (en) Method for detecting closest in-path object (CIPO) for autonomous driving
US11880201B2 (en) Fastest lane determination algorithm under traffic jam
US11726212B2 (en) Detector for point cloud fusion
US11703599B2 (en) Partial point cloud-based pedestrians' velocity estimation method
JP7389267B2 (ja) 点群の特徴に基づく障害物濾過システム
CN112230646A (zh) 设计用于单车运行的自动驾驶系统下的车辆队列实施
US11787440B2 (en) Lane boundary and vehicle speed based nudge decision
US20210284195A1 (en) Obstacle prediction system for autonomous driving vehicles
CN112985435A (zh) 用于操作自主驾驶车辆的方法及系统
KR102597917B1 (ko) 자율 주행 차량을 위한 음원 검출 및 위치 측정
US11835629B2 (en) Neighbor-based point cloud filter system
US11527076B2 (en) Point cloud-based low-height obstacle detection system
US11288528B2 (en) Differentiation-based traffic light detection
US11679761B2 (en) Forward collision warning alert system for autonomous driving vehicle safety operator
CN212391730U (zh) 用于自动驾驶车辆的光探测和测距装置
US11300414B2 (en) Estimated time of arrival based on history
US11577644B2 (en) L3-level auto-emergency light system for ego vehicle harsh brake
CN212515471U (zh) 用于自动驾驶车辆的光探测和测距装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230530

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231114

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231116

R150 Certificate of patent or registration of utility model

Ref document number: 7389267

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150