JP7086111B2 - 自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法 - Google Patents

自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法 Download PDF

Info

Publication number
JP7086111B2
JP7086111B2 JP2019567251A JP2019567251A JP7086111B2 JP 7086111 B2 JP7086111 B2 JP 7086111B2 JP 2019567251 A JP2019567251 A JP 2019567251A JP 2019567251 A JP2019567251 A JP 2019567251A JP 7086111 B2 JP7086111 B2 JP 7086111B2
Authority
JP
Japan
Prior art keywords
points
key
feature descriptors
point
key points
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019567251A
Other languages
English (en)
Other versions
JP2021514885A (ja
Inventor
ウェイシン ルー,
ヤオ ヂョウ,
グォウェイ ワン,
シェンファ ホウ,
シーユー ソン,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Original Assignee
Baidu com Times Technology Beijing Co Ltd
Baidu USA LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Baidu com Times Technology Beijing Co Ltd, Baidu USA LLC filed Critical Baidu com Times Technology Beijing Co Ltd
Publication of JP2021514885A publication Critical patent/JP2021514885A/ja
Application granted granted Critical
Publication of JP7086111B2 publication Critical patent/JP7086111B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • G01C21/30Map- or contour-matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/46Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
    • G06V10/462Salient features, e.g. scale invariant feature transforms [SIFT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Electromagnetism (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mathematical Physics (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Automation & Control Theory (AREA)
  • Geometry (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Computer Graphics (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Description

本願の実施形態は、総体的に自動運転車の操作に関し、具体的には、自動運転車の測位に用いられるポイントクラウド特徴抽出に関する。
自動運転車(ADV)は、乗員(特に運転手)を、幾つかの運転関連の責務から解放することができる。自動運転モードで運行する時、車両は、車載センサ及び高精細度の地図を使用して各位置にナビゲートされることができ、故に車両を最小のマン・マシン・インタラショションの状況で、または乗客がまったくいない状況で運行させることができる。
安全運転のため、ADVは、その位置及び向きを精度よく且つ確実に推定する必要がある。理想としては、ADVの測位は、センチメートル及びサブディグリー(sub-degree)の方位角まで正確にする必要がある。光検出および測距(LIDAR)スキャナーを使用する従来の測位方法は、通常、測位用のパイプラインにおいて幾つかの段階が必要である。従来方法のうちの幾つかは、異なる場面の測位精度及びロバスト性の点において優れた性能を有するが、それらは通常、パイプラインの幾つかの段階に対してハードコーディングしチューニングするのに多くの工程的な労力がかかり、且つ、幾つかの場面にしか適用されない。一方、ニューラルネットワークは、語義を処理することに用いられて、良好な結果が実現できたが、ニューラルネットワークは、3D幾何学に関する任務(例えば、測位問題)を解決する点において不足がある。
第一の態様においては、本願は、自動運転車の測位に用いられるポイントクラウド特徴を抽出するコンピュータ実施の方法であって、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、を含むことを特徴とするコンピュータ実施の方法を提供する。
第二の態様においては、本願は、指令を記憶している非一時性機器可読メディアであって、前記指令は、プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、を含む操作を前記プロセッサに実行させることを特徴とする、非一時性機器可読メディアを提供する。
第三の態様においては、本願は、自動運転車の測位に用いられるポイントクラウド特徴を抽出するためのシステムであって、プロセッサと、前記プロセッサに接続され、命令を記憶するメモリと、を含み、前記指令は、前記プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、を含む操作を前記プロセッサに実行させることを特徴とする、システムを提供する。
本開示の実施態様は図面の各図において限定的ではなく例示的に示され、図面において同様の参照符号が同様の素子を示す。
本発明の一実施態様にかかる自動運転車両のネットワーク構成を示すブロック図である。 一実施態様にかかる自動運転車両の一例を示すブロック図である。 一実施態様にかかる自動運転車両とともに使用される感知・計画システムの例を示すブロック図である。 一実施態様にかかる自動運転車両とともに使用される感知・計画システムの例を示すブロック図である。 本発明の実施形態にかかる学習に基づくLIDAR測位システムを示す図である。 実施形態にかかるポイントクラウド特徴を抽出するためのシステムを示す図である。 実施形態にかかるポイントクラウド特徴を抽出するためのシステムの例示的な実施例を示す図である。 実施形態にかかるポイントクラウド特徴を抽出する例示的なプロセスを示すフローチャートである。 実施形態にかかるLIDAR測位においてニューラルネットワークを使用してソリューションを推断するシステムを示す図である。 実施形態にかかるLIDAR測位においてニューラルネットワークを使用してソリューションを推断するシステムの例示的な実施例を示す図である。 実施形態にかかるLIDAR測位においてニューラルネットワークを使用してソリューションを推断する例示的なプロセスを示すフローチャートである。 実施形態にかかるADVの測位結果において時間平滑化を行うシステムを示す図である。 実施形態にかかるADVの測位結果において時間平滑化を行うシステムの例示的な実施例を示す図である。 本実施形態にかかるADVの測位結果において時間平滑化を行う例示的なプロセスを示すフローチャートである。 実施形態にかかる学習に基づくLIDAR測位システム1400の全体的アーキテクチャを示す図である。 実施形態にかかる学習に基づくLIDAR測位システム1500の全体的アーキテクチャをより詳細に示す図である。 本発明の一実施態様とともに使用可能なデータ処理システムの例を示すブロック図である。
以下、検討する詳細を参照しながら本発明の各実施態様及び局面を記載して、図面において前記各実施態様を示す。下記記載及び図面は、本開示を説明するためのものであり、本発明を限定するためのものとして解釈されるべきではない。特定の詳細を多く記載することは、本開示の各実施態様を完全に理解するためである。しかしながら、本発明の実施態様を簡潔的に検討するために、周知または通常の詳細を記載しない場合がある。
本明細書において「一実施態様」または「実施態様」を言及することは、当該実施態様によって説明される特定の特徴、構成や特性が本発明の少なくとも1つの実施態様に含まれることを意味する。「一実施態様では」という語句の本明細書における各箇所での記載のすべては、必ずしも同一の実施態様を指すことに限定されない。
一実施形態によれば、本明細書では、ADVが使用する複数のニューラルネットワークを含む、学習に基づくLIDAR測位システムを説明する。学習に基づくLIDAR測位システムは、手作業で作成されたシステムをハードコーディングするために大量のエンジニアリングの労力を必要としなく、従来技術の手作業で作成された測位システムの性能とマッチングすることができる。
一実施形態では、学習に基づくLIDAR測位システムは、オンラインLIDARポイントクラウド、事前作成された3Dポイントクラウド地図及びADVの予測ポーズを入力として受信し、オンラインLIDARポイントクラウド及び事前作成された3Dポイントクラウド地図から特徴を学習して、解空間内にコストボリュームを作成することができる。学習に基づくLIDAR測位システムは、畳み込みニューラルネットワーク(CNN)およびリカレントニューラルネットワーク(RNN)をコストに適用して、ADVの最適なポーズを推定することができる。
学習に基づくLIDAR測位システムは、手作業で作成されたパイプラインを有する従来のシステムに匹敵する高精度(例えばセンチメートルレベル)の測位を実現することができる。学習に基づくLIDAR測位システムは、手作業で作成されたモジュールに依存せず、様々なディープニューラルネットワーク構造を使用して学習に基づく方法を確立する。ポイントクラウドの抽出された局所特徴記述子は、様々な実世界の運転シーンにおいてマッチングするために特に最適化されることができる。解空間内に構築されたコストボリュームに適用される畳み込みニューラルネットワークは、ADVの測位精度を著しく改善することができる。本明細書で使用されるように、一実施形態では、解空間は、問題の制約を満たす、該問題を最適化する1組の可能なポイントである。例えば、ADVの最適なポーズを推定するために選択されたLIDARポイントは、解空間であると考えることができる。
一実施形態では、学習に基づくLIDAR測位システムは、オフライン方法を使用して自動または半自動で大量に収集可能なデータによって駆動される。大量のデータは、グランドトゥルース軌跡を含み、測位タスクを行うように測位システムを訓練するために使用されることができる。学習に基づくLIDAR測位システムは、データに対する手動マーキング作業を最小限にすることが求められ、それに応じて、費用対効果がより高い。
一実施形態では、予測ポーズは、ADVの慣性測定ユニット(IMU)またはADVのビークルダイナミクスモデルによって生成されるこることができ、且つ、連続するLIDARフレーム間の増分運動が測定されることができる。予測ポーズは、ADVのグラウンドトゥルースポーズから外れ、オフセットを引き起こす恐れがある。したがって、オフセット回復は、車両位置を推定することと同等である。学習に基づくLIDAR測位システムは、オンラインポイントクラウドと事前作成された3Dポイントクラウド地図とのマッチングコストを最小化することによって、予測ポーズとグラウンドトゥルースポーズとの最適オフセットを生成することができる。一実施形態では、最適オフセットは、2D水平オフセットとヘディングオフセットとを含むことができる。
一実施形態では、オンラインポイントクラウドは、ADVに取り付けられたLIDAR装置からの複数のLIDARスキャンから累積された単一または複数の連続フレームであってもよい。オンラインポイントクラウドは、LIDARポイントのローカル車両またはLIDAR座標系における座標および反射強度を含むベクトルである3D LIDARポイントのセットとして表すことができる。オンラインポイントクラウドは、ADVの動き補償を考慮に入れる。したがって、ADVのオンラインポイントクラウドは、ADVがAポイントからBポイントへ移動する場合に、AポイントとBポイントで異なる。
一実施形態では、事前作成された3Dポイントクラウド地図は、グローバル座標を有するLIDARポイントの集合であってもよい。LIDARポイントは、車両を調査またはマッピングすることによって収集されることができ、また、記憶効率のためにボクセルグリッドフィルタを使用してLIDARポイントをダウンサンプリングすることができる。また、トレーニングニューラルネットワークモデル(例えば、PointNet++)を使用して、事前作成された3Dポイントクラウド地図から動的オブジェクト(例えば、自動車、自転車および歩行者)をセマンティックセグメンテーションによって除去することができる。
一実施形態では、自動車両(ADV)を測位する際に使用されるポイントクラウド特徴を抽出するための方法は、ADV上のLIDAR装置によって生成されるオンラインポイントクラウドから第1組のキーポイントを選択することと、ADV上で実行される特徴学習ニューラルネットワークを使用して、第1組のキーポイントに対して第1組の特徴記述子を抽出することとを含む。該方法は、さらに事前作成されたポイントクラウド地図上で、第1組のキーポイントにおけるキーポイントにそれぞれ対応する第2組のキーポイントを特定することと、事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出することと、第1組の特徴記述子、第2組の特徴記述子及びADVの予測ポーズに基づいてADVの位置及びオリエンテーションを推定することとをさらに含む。
一実施形態では、該方法は、抽出された第1組の特徴記述子と第2組の特徴記述子からコスト値を作成するステップを更に含む。コストボリュームにおけるそれぞれのセル(すなわち、サブボリューム)は、第1組のキーポイントのうちの1つのキーポイントと、第2組のキーポイントにおける所定のオフセットを有する対応するキーポイントとのマッチングコストを表す。複数の異なるタイプのニューラルネットワークによって使用できるよう、コストボリュームを減少させるとともに正規化することによって、ADVの最適なポーズを決定する最適オフセットを得ることができる。
一実施形態では、第1組のキーポイント及び第2組のキーポイントのそれぞれは、LIDARポイントである。第1組のキーポイントと第2組のキーポイントは、一定の数のキーポイントを有する。第1組のキーポイントを選択する際に、ADVの予測ポーズを囲む所定の領域内のLIDARポイントをトラバースすることによって、複数の候補LIDARポイントを特定するステップであって、それぞれの候補LIDARポイントについて、当該候補LIDARポイントの隣接領域において所定密度でLIDARポイントを有するステップと、3D構造テンソルを用いてそれぞれの候補LIDARポイントの線形性を評価するステップとを実行することができる。かかる評価により、それぞれの候補LIDARポイントの線形性に対して値を割り当てることができる。候補LIDARポイントの割り当てられた値に基づいて候補LIDARポイントをソートすることができる。ソートされた候補LIDARポイントに基づいて一定の数の候補LIDARポイントを選択することができる。一定の数の候補LIDARポイントを選択する際、新たに選択されるLIDARポイントはそれぞれ、選択された1つ又は複数の既存のLIDARポイントと所定の距離を空ける必要がある。
一実施形態では、特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含む。それぞれのミニチュアニューラルネットワークは、第1組のキーポイントのうちの1つのキーポイントに対して提供されることができる。それぞれのミニチュアニューラルネットワークは、キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接LIDARポイントを収集し、それぞれの隣接LIDARポイントは、反射強度及び当該キーポイントに対する相対座標を有する。それぞれのミニチュアニューラルネットワークは、関連する隣接LIDARポイントの相対座標及び反射強度に基づき、キーポイントの特徴記述子をさらに抽出することができる。同様に、それぞれのミニチュアニューラルネットワークは、第2組のキーポイントのうちの1つのキーポイントに対して提供されることができ、且つ、キーポイントの隣接LIDARポイントの相対座標および反射強度に基づき、第2組のキーポイントにおけるキーポイントの特徴記述子を抽出するために使用されることができる。2×2回転行列及び2D並進ベクトルにより示される変換を用いることによって、事前作成されたポイントクラウド地図における第2組のキーポイントのそれぞれの座標を算出することができる。
一実施形態では、第2組のキーポイントにおけるキーポイントに対して所定数の隣接LIDARポイントが見つかっていない場合、完全接続ネットワークを用いてキーポイントの特徴記述子を抽出することができ、ネットワークへの入力は単位ベクトルとすることができる。
一実施形態では、LIDAR測位においてニューラルネットワークを使用してソリューション推断を行う方法は、解空間内にADVの予測ポーズに用いられる、オンラインポイントクラウドからのキーポイントと事前作成されたポイントクラウド地図上の対応するキーポイントとのマッチングコストを表す複数のサブボリュームを備えるコストボリュームを作成することを含む。該方法は、マッチングコストをリファインするように畳み込みニューラルネットワーク(CNN)を使用してコストボリュームを正規化することと、正規化されたコストボリュームから予測ポーズの最適オフセットを推定することとをさらに含む。該最適オフセットは、ADVの位置を特定するために使用されることができる。
一実施形態では、各CNNは、同一セットのパラメータを共有し、複数の畳み込み層を含む。畳み込み層の少なくとも1つは、バッチ正規化および正規化線形ユニット(ReLU)を使用する3D畳み込み層である。
一実施形態では、予測ポーズの解空間は、オンラインポイントクラウドから選択された1組のキーポイントによって定義された空間を含む。該1組のキーポイントのそれぞれは、所定数の隣接するポイントと関連付けられるとともに、該1組のキーポイントの残りのキーポイントと最小距離を有する。
一実施形態では、コストボリュームを作成することは、各対の対応する特徴記述子同士のメトリック距離を算出することをさらに含む。メトリック距離は多次元ベクトルであり、各要素が記述子ペアのうち対応する1つからの距離を二乗することによって算出される。また、コストボリュームを作成する際に、解空間をキーポイントに対応する複数の離散空間に分割することができる。
各離散空間に対して、対応するキーポイントおよびそれに関連する隣接LIDARポイントによって占められる空間に基づいて、x次元、y次元およびヨー(Yaw)次元の大きさを決定することができる。その後、コストボリュームは、予測ポーズに使用される複数の特徴記述子及び各離散空間に使用される各次元の大きさに基づいて構築されることができる。コストボリュームの各サブボリュームは、オンラインポイントクラウドからのその関連する特徴記述子を有するキーポイント、変換および事前作成されたポイントクラウド地図からの対応する特徴記述子に関連付けられることができる。
一実施形態では、ADVの測位結果において時間平滑化を行うための方法は、オンラインポイントクラウドにおける一連の連続する光検出および測距(LIDAR)フレームのそれぞれに対して、オンラインポイントクラウドからの第1組のキーポイントと、事前作成されたポイントクラウド地図からの第2組のキーポイントとの全体的マッチングコストを表す確率オフセットを作成することを含む。この方法は、x次元、y次元およびヨー次元において確率オフセットを複数の確率ベクトルに圧縮することと、確率オフセットの各確率ベクトルを複数のリカレントニューラルネットワーク(RNN)に提供することと、RNNによって複数の連続するLIDARフレーム上で測位結果の軌跡を生成することとをさらに含む。
一実施形態では、確率オフセットは、ADVの特定位置オフセットに対するオンラインポイントクラウドと事前作成されたポイントクラウド地図との全体的マッチングコストを表す複数のサブボリュームを含む。各RNNは、複数の長・短期記憶(LSTM)ユニットを含む。各確率ベクトルは、LSTMユニットの1つに入力として提供される。RNNは、連続するLIDARフレームからの学習された履歴情報に基づいて、連続するLIDARフレーム上で測位結果の軌跡を平滑化する。ADVは、連続するLIDARフレーム上で複数の予測ポーズを有することができる。
自動運転車両
図1は、本発明の一実施態様にかかる自動運転車両のネットワーク構成を示すブロック図である。図1を参照すると、ネットワーク構成100は、ネットワーク102を介して1つまたは複数のサーバ103~104に対して通信可能に接続する自動運転車両101を備える。1つの自動運転車両のみを示すが、複数の自動運転車両は、ネットワーク102を介して相互に接続し、および/またはサーバ103~104に接続可能である。ネットワーク102は、いずれのタイプのネットワークであってもよく、例えば、有線または無線のローカルエリアネットワーク(LAN)、インターネットのような広域ネットワーク(WAN)、セルラ網、衛星ネットワークまたはそれらの組み合せである。サーバ103~104は、いずれの形式のサーバまたはサーバークラスタであってもよく、例えば、Webサーバやクラウドサーバ、アプリケーションサーバ、バックエンドサーバまたはそれらの組み合せである。サーバ103~104は、データ解析サーバやコンテンツサーバ、交通情報サーバ、地図・関心点(MPOI)サーバまたは位置サーバなどであってもよい。
自動運転車両とは、自動運転モードにある可能に配置される車両を指し、前記自動運転モードで、車両は、運転者からの入力が非常に少なく又は完全にない状況で環境を通過するように案内される。そのような自動運転車両は、車両運転環境に関する情報を検出可能に配置される1つまたは複数のセンサを有するセンサシステムを備えることが可能である。前記車両及びかかるコントローラは、検出された情報を使用して前記環境を通過するように案内される。自動運転車両101は、マニュアルモード、全自動運転モードまたは一部自動運転モードで運転することが可能である。
一実施態様では、自動運転車両101は、感知・計画システム110と、車両制御システム111と、無線通信システム112と、ユーザインタフェースシステム113と、センサシステム115とを備えるが、これに限定されない。自動運転車両101は、通常の車両に含まれる一部の汎用的な部材、例えば、エンジン、車輪、ステアリングホイール、変速機などを備えることが可能であり、前記部材は、車両制御システム111および/または感知・計画システム110により多種の通信信号および/または命令で制御され、当該多種の通信信号および/または命令は、例えば、加速信号または命令、減速信号または命令、操舵信号または命令、ブレーキ信号または命令などである。
部材110~115同士は、インターコネクト、バス、ネットワークまたはそれらの組合せを介して通信可能に接続されることが可能である。例えば、部材110~115同士は、コントローラエリアネットワーク(CAN)バスを介して通信可能に接続されることが可能である。CANバスは、マイクロコントローラと装置とがホストなしのアプリケーションで相互に通信することを許容するように設計される車両バス規格である。それは、最初に自動車における多重化電気配線のために設計される、メッセージベースのプロトコルであるが、様々な他の環境にも適用される。
図2を参照すると、一実施態様では、センサシステム115は、1つまたは複数のカメラ211と、全地球測位システム(GPS)ユニット212と、慣性計測ユニット(IMU)213と、レーダユニット214と、光検出・測距(LIDAR)ユニット215とを備えるが、これに限定されない。GPSユニット212は、自動運転車両の位置に関する情報を提供するように操作可能な送受信器を備えることが可能である。IMUユニット213は、慣性加速度に基づいて自動運転車両の位置及び方向変化を検知可能である。レーダユニット214は、電波信号により自動運転車両のローカル環境における対象を検知するシステムを表すことが可能である。一部の実施態様では、レーダユニット214は、対象に加え、対象の速度および/または前進方向を検知可能である。LIDARユニット215は、激光により自動運転車両が所在する環境における対象を検知することが可能である。LIDARユニット215は、他のシステム部材に加え、1つまたは複数のレーザ光源、レーザスキャナ及び1つまたは複数の検出器を備えることが可能である。カメラ211は、自動運転車両の周囲の環境の画像を撮像するための1つまたは複数の装置を備えることが可能である。カメラ211は、スチルカメラおよび/またはビデオカメラであってもよい。カメラは、機械的に移動可能なものであってもよく、例えば、カメラが回転および/または傾斜するステージに取り付けられることにより移動可能である。
センサシステム115は、例えば、ソナーセンサや赤外線センサ、操舵角センサ、スロットルセンサ、ブレーキセンサ、オーディオセンサ(例えば、マイクフォン)などの他のセンサを備えることが可能である。オーディオセンサは、自動運転車両の周囲の環境から音声を収音するように配置可能である。操舵角センサは、ステアリングホイール、車両の車輪またはそれらの組み合せの操舵角を検知するように配置可能である。スロットルセンサ及びブレーキセンサは、それぞれ車両のスロットル位置及びブレーキ位置を検知する。スロットルセンサ及びブレーキセンサは、集積式スロットル/ブレーキセンサに集積される場合もある。
一実施態様では、車両制御システム111は、ステアリングユニット201と、スロットルユニット202(加速ユニットともいう)と、ブレーキユニット203とを備えるが、これに限定されない。ステアリングユニット201は、車両の方向または前進方向を調整するためのものである。スロットルユニット202は、モータまたはエンジンの速度を制御することにより車両の速度及び加速度を制御するためのものである。ブレーキユニット203は、摩擦を与えることにより、車両の車輪またはタイヤを減速させて車両を減速させる。なお、図2に示す部材は、ハードウェア、ソフトウェアまたはそれらの組み合せで実現されることが可能である。
図1に戻って、無線通信システム112は、自動運転車両101と、例えば装置やセンサ、他の車両などの外部システムとの通信を可能にする。例えば、無線通信システム112は、1つまたは複数の装置と直接に無線通信を行い、または通信ネットワークを介して無線通信を行うことが可能であり、例えば、ネットワーク102を介してサーバ103~104と通信する。無線通信システム112は、いずれのセルラ通信ネットワークまたは無線ローカルエリアネットワーク(WLAN)、例えば、WiFiを利用して他の部材やシステムと通信可能である。無線通信システム112は、例えば赤外線リンクやブルートゥース(登録商標)などを利用して装置(例えば、乗員の携帯機器、表示装置、車両101内のスピーカ)と直接に通信可能である。ユーザインタフェースシステム113は、車両101内で実現される周辺装置の部分であることが可能であり、例えばキーボード、タッチパネル式表示装置、マイクフォン及びスピーカなどを含む。
特に自動運転モードで操作される際に、自動運転車両101の機能の一部または全部は、感知・計画システム110により制御または管理されることが可能である。感知・計画システム110は、必要なハードウェア(例えば、プロセッサ、メモリ、記憶装置)及びソフトウェア(例えば、オペレーティングシステム、計画・ルーティングプログラム)を含み、センサシステム115、制御システム111、無線通信システム112および/またはユーザインタフェースシステム113から情報を受信して、受信した情報を処理し、開始点から目的地点までのルートまたは経路を計画した後、計画・制御情報に基づいて車両101を運転する。その代わりに、感知・計画システム110は、車両制御システム111に集積されてもよい。
例えば、乗員であるユーザは、例えばユーザインタフェースを介して行程の開始位置及び目的地を指定することが可能である。感知・計画システム110は、行程に関するデータを取得する。例えば、感知・計画システム110は、MPOIサーバから位置・ルート情報を取得することが可能であり、前記MPOIサーバは、サーバ103~104の一部であってもよい。位置サーバは位置サービスを提供するとともに、MPOIサーバは地図サービス及び一部の位置のPOIを提供する。その代わりに、そのような位置及びMPOI情報は、感知・計画システム110の永続性記憶装置にローカルキャッシュされてもよい。
自動運転車両101がルートに沿って移動する際に、感知・計画システム110は、交通情報システムまたはサーバ(TIS)からリアタイム交通情報を取得してもよい。なお、サーバ103~104は、第三者エンティティにより操作されることが可能である。その代わりに、サーバ103~104の機能は、感知・計画システム110に集積されてもよい。感知・計画システム110は、リアタイム交通情報、MPOI情報及び位置情報、並びにセンサシステム115により検出または検知されたリアタイムローカル環境データ(例えば、障害物、対象、周辺車両)に基づいて、最適ルートを計画して、計画したルートに応じて、例えば制御システム111を介して車両101を運転すること可能であり、これにより、安全で且つ効率よく指定の目的地に到達することができる。
サーバ103は、複数のクライアントについてデータ分析サービスを実行するデータ分析システムであってもよい。一実施態様では、データ解析システム103は、データ収集器121及び機械学習エンジン122を備える。データ収集器121は、種々の車両(自動運転車両または人間の運転者が運転する通常の車両)から運転統計データ123を収集する。運転統計データ123は、異なる時点で発行された運転命令(例えば、アクセル命令、ブレーキ命令、操舵命令)及び車両のセンサによって捕捉された車両の応答(例えば速度、加速、減速、方向)を示す情報を含む。運転統計データ123は、異なる時点での運転環境を記述する情報、例えば、ルート(開始位置及び目的地位置を備える)、MPOI、道路状況、気候状況などをさらに含むことが可能である。
運転統計データ123に基づいて、機械学習エンジン122は、様々な目的のためにルールセット、アルゴリズムおよび/または予測モデル124を生成または訓練する。例えば、アルゴリズム/モデル124は、以下により詳細に説明するLIDAR測位プロセスのためのアルゴリズムおよびモデルを含む。その後、アルゴリズム124は、自動運転中にリアルタイムで使用されるようにADVにアップロードすることができる。
図3A及び図3Bは一実施態様にかかる自動運転車両とともに使用される感知・計画システムの例を示すブロック図である。システム300は、図1の自動運転車両101の一部として実現されることが可能であり、感知・計画システム110と、制御システム111と、センサシステム115とを備えるが、これに限定されない。図3A~図3Bを参照すると、感知・計画システム110は、測位モジュール301と、感知モジュール302と、予測モジュール303と、決定モジュール304と、計画モジュール305と、制御モジュール306と、ルーティングモジュール307とを備えるが、これに限定されない。
モジュール301~307の一部または全部は、ソフトウェア、ハードウェアまたはそれらの組み合せにより実現されることが可能である。例えば、それらのモジュールは、永続性記憶装置352にインストールされて、メモリ351にローディングされ、且つ1つまたは複数のプロセッサ(図示せず)により実行されることが可能である。なお、それらのモジュールの一部または全部は、図2の車両制御システム111の一部または全部モジュールに対して通信可能に接続され、または集積される。モジュール301~307の一部は、集積モジュールに集積されてもよい。
測位モジュール301は(例えば、GPSユニット212を使用する)、システム300を含む自動運転車両の現在位置を特定し、ユーザの行程またはルートに関連する任意のデータを管理する。測位モジュール301(地図及びルートモジュールともいう)は、ユーザの行程やルートに関するデータ全体を管理する。ユーザは、例えばユーザインタフェースを介してログインして、行程の開始位置及び目的地を指定する。測位モジュール301は、システム300を含む自動運転車両の地図・ルート情報311のような他のモジュールと通信して、行程に関するデータを取得する。例えば、測位モジュール301は、位置サーバと地図・POI(MPOI)サーバから位置・ルート情報を取得することが可能である。位置サーバが位置サービスを提供するとともに、MPOIサーバが地図サービス及び一部の位置のPOIを提供することにより、地図・ルート情報311の一部としてキャッシュされることが可能である。システム300を含む自動運転車両がルートに沿って移動する際に、測位モジュール301は、交通情報システムまたはサーバからリアタイム交通情報を取得してもよい。
地図・ルート情報311は、感知モジュール302によって対象検出のために使用されてもよい。例えば、地図・ルート情報311から特徴を抽出し、抽出された特徴をポイントクラウドから抽出された特徴と組み合わせて、ADVを介して対象を検出することができる。
感知モジュール302は、センサシステム115により提供されるセンサデータ及び測位モジュール301により取得される測位情報に基づいて、周囲環境への感知を特定する。感知情報は、通常の運転者がその運転している車両の周囲から感知したものを示す。感知は、例えば対象式による車線配置、信号機信号、他の車両の相対位置、歩行者、建物、横断歩道や他の交通に関する標識(例えば、止まれ標識、道譲れ標識)などを含むことが可能である。車線構成は、例えば車線の形状(例えば直線または曲率)、車線の幅、道路における車線数、一方通行車線または双方向車線、合流車線または分流車線、出口車線などの1つまたは複数の車線を記述する情報を含む。
感知モジュール302は、コンピュータビジョンシステムまたはコンピュータビジョンシステムの機能を含むことが可能であり、1つまたは複数カメラにより撮像された画像を処理して解析することにより、自動運転車両環境における対象および/または特徴を認識する。前記対象は、交通信号、道路境界、他の車両、歩行者および/または障害物などを含むことが可能である。コンピュータビジョンシステムは、対象認識アルゴリズム、ビデオトラッキング及び他のコンピュータビジョン技術を使用することが可能である。一部の実施態様では、コンピュータビジョンシステムは、環境地図の描画、対象のトラッキングや、及び対象の速度の推定などを行うことが可能である。感知モジュール302は、レーダおよび/またはLIDARのような他のセンサにより提供される他のセンサデータに基づいて、対象を検出してもよい。
各対象に対して、予測モジュール303は、この場合の前記対象の挙動を予測する。前記予測は、ある時点で感知される運転環境の感知データに基づいて、地図・ルート情報311と交通規則312とのゼットに応じて実行される。例えば、対象が反対方向の車両であり、現在の運転環境が交差点を含むと、予測モジュール303は、該車両が前方に直進可能であるか、または旋回可能であるかを予測する。感知データは交差点に信号機がないことを示すと、予測モジュール303は、該車両が交差点に進入する前に完全に停車しなければいけない可能性がある、と予測することができる。感知データは該車両が左折専用車線または右折専用車線にあることを示すと、予測モジュール303は、それぞれ車両が左折または右折する可能性が高いと予測することができる。
決定モジュール304は、対象毎に対して、どのように対象を対処するかを决定する。例えば、特定の対象(例えば、交差ルートにある他の車両)及び対象を記述するメタデータ(例えば、速度、方向、操舵角)に対して、決定モジュール304は、前記対象に行き合う時にどうのように動作するか(例えば、追い越し、一時停止、停止、越え)を決定する。決定モジュール304は、例えば交通ルールや運転ルール312のルール集合に基づいて、そのような决定を行うことが可能であり、前記ルール集合が永続性記憶装置352に記憶されることが可能である。
ルーティングモジュール307は、開始点から終点までの1つまたは複数のルートや経路を提供するように配置される。例えば、ユーザから受信した開始位置から目的地位置までの所定の行程に対して、ルーティングモジュール307は、地図・ルート情報311を取得し、開始位置から目的地位置までのすべての可能なルートまたは経路を決定する。決定された開始位置から目的地位置までのルートのそれぞれに対して、ルーティングモジュール307は、地形図の形態で基準線を生成することができる。基準線は、他の車両、障害物または交通状況などのいかなる干渉もない理想的なルートまたは理想的な経路を示す。即ち、道路には他の車両、歩行者や障害物がないと、ADVは、正確または密接に基準線に追従すべきである。その後、決定モジュール304および/または計画モジュール305に地形図を提供してもよい。他のモジュールによって提供される他のデータ(例えば、測位モジュール301からの交通状況、感知モジュール302によって感知された運転環境および予測モジュール303によって予測された交通状況)に基づいて、決定モジュール304および/または計画モジュール305は、全ての可能な経路をチェックして、そのうちの1つの最適ルートを選択し、修正する。ある時点での特定の運転環境によっては、ADVを制御するための実際のルートまたは経路は、ルーティングモジュール307により提供される基準線に対して近接し、または相違する可能性がある。
感知された対象毎に対する决定に基づいて、計画モジュール305は、ルーティングモジュール307により提供された基準線を基にして、自動運転車両に対してルートまたは経路、及び運転パラメータ(例えば、距離、速度および/または旋回角度)を計画する。つまり、所定の対象に対して、決定モジュール304は、当該対象が何をすべきかを決定する一方、計画モジュール305は、どのようにするかを決定する。例えば、所定の対象に対して、決定モジュール304は、前記対象を越えることを決定することが可能である一方、計画モジュール305は、前記対象の左側か右側かで越えることを決定することが可能である。計画・制御データは、計画モジュール305により生成されて、システム300を含む車両が次の移動サイクル(例えば、次のルート/経路セグメント)でどのように移動するかを記述する情報を含む。例えば、計画・制御データは、システム300を含む車両が30mphの速度で10メートル移動した後、25mphの速度で右側の車線に変更することを指示可能である。
計画・制御データに基づいて、制御モジュール306は、計画・制御データにより限定されるルートまたは経路に応じて、適当な命令または信号を車両制御システム111に発信することにより、自動運転車両を制御して運転する。前記計画・制御データは、ルートまたは経路に沿って、異なる時点で適当な車両配置または運転パラメータ(例えば、スロットル、ブレーキおよび操舵命令)を使用して車両をルートまたは経路の第1点から第2点に走行させるための充分な情報を含む。
一実施態様では、計画段階が複数の計画周期(運転周期ともいう)で実行され、例えば、100ミリ秒(ms)の時間間隔で実行される。計画周期または運転周期のそれぞれに対して、計画・制御データに基づいて1つまたは複数の制御命令を発行する。即ち、100ms毎に、計画モジュール305は、次のルートセグメントまたは経路セグメントを計画し、例えば、目標位置、及びADVがこの目標位置に到達するのに必要な時間を含む。その代わりに、計画モジュール305は、具体的な速度、方向および/または操舵角などを規定してもよい。一実施態様では、計画モジュール305は、次の所定の期間(例えば、5秒)に対してルートセグメントまたは経路セグメントを計画する。計画周期毎に、計画モジュール305は、前の周期で計画した目標位置に基づいて現在周期(例えば、次の5秒)のための目標位置を計画する。そして、制御モジュール306は、現在周期の計画・制御データに基づいて1つまたは複数の制御命令(例えばスロットル制御命令、ブレーキ制御命令、操舵制御命令)を生成する。
なお、決定モジュール304と計画モジュール305とは、集積モジュールに集積されることが可能である。決定モジュール304/計画モジュール305は、自動運転車両の運転経路を決定するために、ナビゲーションシステムまたはナビゲーションシステムの機能を含むことが可能である。例えば、ナビゲーションシステムは、自動運転車両が最終目的地への車道に基づく経路に沿って前進すると同時に、感知した障害物を実質的に回避するような経路に沿って、自動運転車両が移動することを実現するための一連の速度及び前進方向を決定すること可能である。目的地は、ユーザインタフェースシステム113を介したユーザ入力に基づいて設定可能である。ナビゲーションシステムは、自動運転車両が運転していると同時に、動的に運転経路を更新することが可能である。ナビゲーションシステムは、GPSシステム及び1つまたは複数の地図からのデータを合併して、自動運転車両用の運転経路を決定することが可能である。
なお、上記のように記載された部材の一部または全部は、ソフトウェア、ハードウェアまたはそれらの組み合せにより実現されることが可能である。例えば、そのような部材は、永続性記憶装置にインストールして記憶されるソフトウェアとして実現されることが可能であり、前記ソフトウェアがメモリにローディングされてプロセッサ(図示せず)により実行されることで、本明細書に記載のプロセスや操作を実施することができる。その代わりに、そのような部材は、専用ハードウェア(例えば、集積回路(例えば、特定用途向け集積回路(ASIC)、デジタルシグナルプロセッサ(DSP)またはフィールドプログラマブルゲートアレイ(FPGA))にプログラミングされ、又は組み込まれる、実行可能なコードとして実現されてもよく、前記実行可能なコードが、アプリケーションからの相応的なドライバおよび/またはオペレーティングシステムを介してアクセス可能である。また、そのような部材は、プロセッサまたはプロセッサコアにおける特定ハードウェアロジックとして実現されることが可能であり、ソフトウェア部材が1つまたは複数の特定命令によりアクセス可能な命令セットの一部とされる。
ポイントクラウド特徴抽出
図4は、本発明の実施形態にかかる学習に基づくLIDAR測位システムを示す図である。図4に示すように、測位モジュール301は、ポイントクラウド特徴学習ネットワーク(例えば、PointNet)409を含むことができる。このポイントクラウド特徴学習ネットワーク409は、ADVの事前作成された3Dポイントクラウド地図406と、オンラインLIDARポイントクラウド404と、予測ポーズ407とを入力として採用し、複数の選択されたLIDARポイント(キーポイントとも呼ぶ)に基づいて、複数の特徴記述子をオンラインポイントクラウド404から抽出することができる。対応するキーポイントを見つけ、ポイントクラウド特徴学習ネットワーク409により同様に対応するLIDARポイントの特徴を抽出することができる。
一実施形態では、オンラインポイントクラウド404および事前作成された3Dポイントクラウド地図406から抽出された特徴記述子に基づいて、コストボリューム410を構築することができる。コストボリュームの各セル(すなわち、サブボリューム)は、第1組のキーポイントの1つと第2組のキーポイントにおける所定のオフセットを有する対応するキーポイントとのマッチングコストを表すことができる。本明細書で使用されるように、一実施形態では、マッチングコストは、オンラインポイントクラウド404と予め確立された3Dポイントクラウド地図406からの対をなすキーポイント(すなわち、予め選択されたLIDARポイント)同士の類似性を測定するために、所定のアルゴリズムに基づいて算出されてもよい。
さらに示されるように、一実施形態では、測位モジュール301は複数のCNN411を含むことができ、複数のCNN411はコストボリューム410を正規化するようにコストボリューム410に適用されることにより、コストボリューム410におけるより多くの背景を考慮してマッチングコストをリファインすることができる。また、複数のRNN413が、正規化されたコストボリュームに適用されて、複数の連続するLIDARフレーム上の測位結果の軌跡を平滑化することができる。
一実施形態では、予測ポーズ407は一般的に、慣性測定ユニット(IMU)またはビークルダイナミクスモデル(運動モデル)によって生成されることができる。予測ポーズ407は、シーケンスLIDARフレーム間の増分運動を測定することができる。したがって、学習に基づくLIDAR測位システム400のタスクは、オンラインポイントクラウド404と3Dポイントクラウド地図406とのマッチングコストを最小化することにより、最終ポーズと予測ポーズとの最適オフセットを探すことである。
一実施形態では、より良好な効率およびロバスト性を有するために、システムは、ADVの2D水平オフセットとヘディングオフセット(Δx、Δy、Δψ)のみを推定することができる。
一実施形態では、システム400は、LIDARスキャンを使用してADVの位置およびオリエンテーションを正確に推定可能なディープニューラルネットワークアーキテクチャを表す。ディープニューラルネットワークにおいて、上述したように、1組のキーポイントが、3Dポイントの隣接ポイントの特徴値によって規定される線形性を用いて評価される。ミニチュアPointNetのグループは、特徴記述子を抽出し、これらのポイントのいくつかの統計的性質をエンコードすることができる。ミニチュアPointNetのグループは、異なるシーンでのマッチングロバスト性を最適化するように訓練されることができる。このシステムは、3D畳み込みによって正規化されたX×Y×ψ(X、Yおよびヨー)次元において、十分に微分可能なコストボリュームで測位精度を改善することができるので、手作業で作成されたパイプラインに匹敵する結果をもたらす。これらの次元に対するマッチング確率を算出して、最適推定値を得る。したがって、システム400を使用して、ディープリカレントニューラルネットワーク(RNN)により、通常にフィルタリング方法によってモデリングされる時間的運動ダイナミクスをカプセル化することができる。
したがって、学習に基づくLIDARフレームワーク400において、特徴マッチングロバスト性(特に長期にわたる屋外期間)にとって最適になるように、ミニチュアPointNetに基づく特徴記述子抽出に対してトレーニングを行うことにより、学習に基づくLIDAR測位を実現することができる。どのようにX×Y×ヨー次元でコストボリューム410をフィルタリングし正規化するかを学習するために、微分可能な幾何変換および特徴記述子の双線形補間のような設計を使用することで3D畳み込みの使用を達成することにより、測位精度を改善することができる。
図5は、実施形態にかかるポイントクラウド特徴を抽出するためのシステムを示す。図5に示すように、ADV上のLIDAR装置によって生成されるオンラインポイントクラウド404から1組のキーポイント502を選択して、ADVの予測ポーズに使用することができる。各キーポイントはLIDARポイントであり、密度、幾何学的特徴および分布を含む予め定められた1組の要素に基づいて選択されることができる。選択されたキーポイントのそれぞれに対して、所定数の隣接LIDARポイントを選択することができる。選択された隣接ポイントのそれぞれは、座標および反射強度を含む複数の属性に関連付けられることができる。選択されたキーポイントに対する各隣接LIDARポイントの属性をテンソル501、503または505に入れることができるとともに、ミニチュア特徴学習ネットワーク513、515および517の1つに提供することができ、ミニチュア特徴学習ネットワーク513、515および517は、選択されたキーポイントに対して特徴記述子519、521および523を抽出することができる。
一実施形態では、同じ数の対応するキーポイント504が、事前作成された3Dポイントクラウド地図406上で見つけられることができる。それぞれの対応するキーポイントに対して、同様に同じ所定数の隣接LIDARポイントを特定することができる。各隣接LIDARポイントの属性は、テンソル507、509及び511に含まれることができ、対応するキーポイントに対して特徴記述子525、527及び529を抽出可能な特徴記述子ミニチュア特徴学習ネットワーク513、515及び517の1つに提供されることができる。
図6は、実施形態にかかるポイントクラウド特徴を抽出するためのシステムの例示的な実施例を示す。図6に示す例示的な実施例は、オンラインポイントクラウド605(すなわちLIDARポイントクラウド)と、事前作成された3Dポイントクラウド地図607とを含む。このオンラインLIDARポイントクラウド605は、車両に搭載されたLIDAR装置からの、動き補償を考慮した複数のLIDARスキャンから累積された単一または複数の連続フレームであってもよい。オンラインLIDARポイントクラウド605は、1組の3Dポイント{P|i=1、…、n}として表され、各々のポイントPiは、ローカル車両またはLIDAR座標系における各ポイントの座標および反射強度を含む(x,y,z,r)というベクトルである。
この事前作成された3Dポイントクラウド地図607は、車両を調査またはマッピングすることにより収集される、グローバル座標を有するLIDARポイントの集合である。より良好な記憶効率を得るために、ボクセルグリッドフィルタを用いて3Dポイントクラウド地図607をダウンサンプリングする。さらに、ポイントクラウド地図において、自動車、自転車、歩行者などの動的オブジェクトを除去するために、PointNet++を使用してセマンティックセグメンテーションを実行する。
第1ステップとして、このシステムは、1組の局所パッチ(キーポイントとも呼ばれる)から局所特徴記述子を抽出することができる。キーポイントの選択は、様々な態様からいくつかのローカル幾何学的特徴およびグローバル幾何学的特徴を考慮に入れている。キーポイントを選択した後に、ミニチュアバージョンPointNet613を使用して特徴記述子を抽出する。
密度、幾何学的特徴および分布を含むいくつかの要因を考慮すると、一定の数のキーポイントがオンラインポイントクラウド605から抽出される。まず、オンラインポイントクラウド605内のすべてのLIDARポイントをトラバースして、その隣接する領域に所定ポイント密度を有する候補を特定する。次に、3D構造テンソルを使用して、各候補キーポイントの線形性を評価する。強い線形構造を有する特徴は、通常の道路シーンにおける独自性および豊富さを有するため、測位タスクに適すると考えられる。そして、候補キーポイントは、線形性の顕著性が大きい順にソートされて、最小数のキーポイントを選択する。新たに選択されるキーポイントは、既存のキーポイントと十分な距離を維持する必要がある。
適格なキーポイントが選択されると、それに対して意味のある特徴記述子を抽出することができる。従来の特徴(例えば単純な幾何学的特徴や統計的特徴)は、ディープネットワークにより学習された特徴を用いてポイントクラウド間の類似性を記述するために使用されるが、PointNetは、ネットワークアーキテクチャにおいて不規則点を消費する問題を解決するように特徴記述子を抽出するために使用される。
より具体的には、一例では、各キーポイントに対して、z軸に沿って垂直シリンダーを適用して、64個の隣接ポイントを収集することができる。水平測位について、球形サーチ領域に比べて、垂直シリンダー内の隣接ポイントの方は、より意味のある特徴を構築することができる。各隣接ポイントについて、キーポイントとの相対座標及びその反射強度(x、y、z、r)は、記述子抽出に使用される。したがって、ミニチュアPointNetネットワークは、入力が64×4のテンソル609または611であり、出力がオンラインポイントクラウド605または事前作成された3Dポイントクラウド地図607からのキーポイントパッチの局所特徴を表す32次元ベクトル614である。
特徴抽出のためのミニチュアバージョンPointNet613は、3つの全接続層が積層された多層パーセプトロン(MLP)と、特徴記述子を集計して取得するための最大プーリング層とを含むことができる。
オンラインポイントクラウド605とオフライン3Dポイントクラウド地図607との両方からの抽出特徴に対して、パラメータ共有ミニチュアPointNet構造613を使用することができる。特定の地図ポイントについては、地図ポイントの周りに最小数の隣接ポイントが見られないと、この地図ポイントが空の地図ポイント/キーポイントとみなされる。FCNは、空の地図ポイントの特徴記述子表現を学習するために使用されることができ、ネットワークへの入力は、単位ベクトルとして設定されることができる。
以下、実施形態のパラメータおよび閾値を説明する。
キーポイントの選択中に、LIDARポイントクラウド605のフレーム内で128個のキーポイントを選択することができる。ここで使用されるように、フレームはLIDARユニットの回転またはスイングである。そして、z軸に沿って0.5mの半径を有するシリンダー内で、各キーポイントの64個の隣接ポイントが、特徴記述子抽出のために選択される。許容される隣接ポイントの最小数は16に設定される。16~64個の隣接ポイントが存在すると、キーポイントの64×4入力ベクトル609を有効な隣接ポイントによって簡単に繰り返し埋める。そうでないと、地図ポイントは空と見なされる。コストボリュームの解空間は11×11×11に設定され、x、yおよびψ次元における次数はそれぞれ0.25m、0.25mおよび0.5度である。したがって、予測ポーズの最大許容偏移は、約(0.25×(11-1)/2=1.25m、1.25mおよび2.5度)である。この実施例では、ミニチュアPointNet構造は、64×32×32MLPであり、3D CNNは、Conv3d(16,1,1)-Conv3d(4,3,1)-Conv3d(1,3,1)であり、RNNは、11つの非表示状態を有する2層のLSTMである。
図7は実施形態にかかるポイントクラウド特徴を抽出する例示的なプロセスを示すフローチャートである。プロセス700は、ソフトウェア、ハードウェアまたはそれらの組み合せを含む処理ロジックにより実行されることが可能である。プロセス700は、ハードウェア(例えば回路、専用ロジック、プログラマブルロジック、プロセッサ、処理デバイス、中央処理ユニット(CPU)、システムオンチップ(SoC)など)、ソフトウェア(例えば、処理デバイス上でランニング/実行される命令)、ファームウェア(例えば、マイクロコード)、またはそれらの組み合わせを含む処理ロジックによって実行されることができる。いくつかの実施形態では、プロセス700は、図3Aおよび3Bに示されるようなモジュールの1つまたは複数によって実行されることができる。
図7を参照すると、操作701において、第1組のキーポイントは、ADVの予測ポーズのためにADVに搭載されるLIDAR装置によって生成されるオンラインポイントクラウドからのものである。第1組のキーポイントにおける各ポイントはLIDARポイントである。第1組のキーポイントを選択する際に、ADVの予測ポーズを囲む所定の領域内のすべてのLIDARポイントをトラバースして、その隣接する領域に所定密度のLIDARポイントを有する複数の候補LIDARポイントを特定することができる。3D構造テンソルを使用して候補LIDARポイントのそれぞれの線形性を評価することができる。各候補LIDARポイントの線形性は、かかる評価に基づいて値が割り当てられることができる。候補LIDARポイントの割り当てられた値に基づいて、候補LIDARポイントをソートすることができる。ソートされた候補LIDARポイントに基づいて、一定の数の候補LIDARポイントを選択することができる。一定の数の候補LIDARポイントを選択する際に、新たに選択される各LIDARポイントは、選択された1つ又は複数の既存のLIDARポイントと所定の距離を維持する必要がある。
操作703において、ADV上で実行している特徴学習ニューラルネットワークを使用して、第1組のキーポイントに対して第1組の特徴記述子を抽出することができる。キーポイントのz軸に沿ったシリンダーは、選択されたキーポイント毎に反射強度とそのキーポイントに対する相対座標とを有する所定数の隣接LIDARポイントを収集するために適用されることができる。選択された各キーポイントについての関連する隣接LIDARポイントの属性に基づいて、ニューラルネットワークにより各キーポイントの特徴を抽出することができる。
操作705において、事前作成されたポイントクラウド地図内で第1組のキーポイントにおけるキーポイントにそれぞれ対応する第2組のキーポイントを特定することができる。2×2回転行列と2D並進ベクトルとで表される変換を用いて、3D地図における対応する座標を算出することができる。
操作707において、オンラインポイントクラウドから第1組の特徴記述子を抽出する方法と同様に、事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出することができる。
CNNを用いたソリューションの推定
図8は、実施形態にかかる光検出及び測距(LIDAR)測位においてニューラルネットワークを使用したソリューション推断システムを示す。
図8に示すように、コストボリューム814は、オンラインポイントクラウドから抽出された特徴記述子519、521および523と、事前作成されたポイントクラウド地図から抽出された特徴記述子525、527および529とにより構築された、複数のサブボリューム(セルとも呼ばれる)813、815および817を含むことができる。
サブボリュームを正規化するために、サブボリュームのそれぞれは、複数のCNN411の1つ(例えば、3D CNN A 823、3D CNN B 825および3D CNN N 827)に供給されることができる。3D CNNの出力は、正規化されたサブボリューム814の1つ(例えば正規化されたサブボリュームA 816、正規化されたサブボリュームB 818、または正規化されたサブボリュームN 820)であってもよい。正規化されたサブボリュームのそれぞれにおいて、マッチングコストがリファインされる。解空間(x,y,ψ)の各解(Δx,Δy,Δψ)に対して、オンラインポイントクラウドと既存の地図とのN個の記述子の差分が解決される。CNNを用いることにより、差分が低減されるため、差分が最小となる解が算出されやすくなる。
図8に示されるように、正規化されたコストボリューム814は、オフセット空間内のキーポイントの一致性を表す確率オフセット831にさらに圧縮され、正規化されたコストボリューム814は、オンラインポイントクラウドと所定のオフセットの3Dポイントクラウド地図との全体的マッチングコストを表すn×n×nψボリュームである。
図9は、実施形態にかかるLIDAR測位においてニューラルネットワークを使用してソリューションを推断するシステムの例示的な実施例を示す。
図9に示すように、本明細書で説明される例示的なシステムは、測位オフセット(Δx,Δy,Δψ)を正確に推定するために使用することができるネットワークを表す。これは、空間(x、y、ψ)内にコストボリューム916を構築し、コストボリューム916を3D畳み込みニューラルネットワーク(3D CNN)により正規化することで達成される。まず、システムは、解空間をx、y、ψ次元で離散空間に分割し、n、n、nψを各次元における大きさとして表す。その後、システムは、{f、…、f}を、オンラインLIDARポイントクラウドのキーポイント記述子として表現する。従って、コストボリュームはN×n×n×nψとして算出されることができる。各ユニットは、対応するキーポイントと所定のオフセットを有する3D地図ポイントとのマッチングコストを表すことができる。
予測ポーズが与えられた場合には、オンラインポイントクラウドの局所キーポイントがそれらのグローバル座標に変換される。予測ポーズのx、yおよびヨー次元において{(Δx,Δy,Δψ)|1≦i≦n,1≦n≦jn,1≦k≦nψ}として表される隣接領域は、複数の離散空間に分割されることができる。2×2回転行列と2D並進ベクトルとで表される変換を用いて、3Dポイントクラウド地図における対応する座標を算出することができる。
Figure 0007086111000001
算出された3Dポイントクラウド地図における対応する座標の隣接ポイントは同様に、ミニチュアPointNet構造によりその特徴記述子を抽出するために使用される。コストボリューム916の各セルは、その特徴記述子を有するオンラインポイントクラウドからの元のキーポイント、変換および事前作成されたポイントクラウド地図からの対応する特徴記述子に関連付けられることができる。また、バイリニア補間フィルタも、xおよびy次元においてその4つの隣接領域を有する地図からの対応する特徴記述子をリファインするために使用される。キーポイント特徴及び正規化ネットワークをブリッジするコアステップとして、変換及びバイリニア補間が微分可能であり、これにより、トレーニング段階中に逆伝播によるミニチュアPointNet構造内での特徴学習を可能にすることができる。オンラインポイントクラウドおよび地図からの記述子ペアにより、N×n×n×nψコストボリュームは、記述子ペア間の正規化ネットワークの入力であるメトリック距離を算出することによって、オフセット解空間内に形成されることができる。メトリック距離32は多次元ベクトルであり、各要素が記述子ペアのうち対応する1つからの距離L2を二乗することによって算出される。
以上の入力が与えられた場合に、このボリュームの背景を考慮してマッチングコストを改善することが可能な正規化関数を学習することができる。オフセット空間内のマッチングコストは、各キーポイントに対して独立に算出されるので、それらがディープ特徴表現を使用しても望ましくない。
本明細書で提供される3D畳み込み915は、測位精度を効果的に改善するために、ボリュームの正規化に使用されることができる。3D CNN 915は3層を含む。最初の2つの3D畳み込み層は、バッチ正規化およびReLUを使用する。最後の1つの畳み込み層は、その出力を直接送信し、正規化および活性化動作を省略する。同じパラメータを共有する3D CNN 915は、各n×n×nψサブボリュームで実行され、3D CNN 915は、収束速度を著しく増加させ、過度のフィッティングを効果的に回避することができる。
図9に示すように、正規化された1つまたは複数のコストボリューム918が3D CNN 915によって生成されることができる。正規化されたコストボリュームまたはサブボリュームは、キーポイント毎のすべてのオフセット構成{Δx,Δy,Δψ}に個別に対するマッチングコストを含む。
一実施形態では、確率オフセット(すなわち、n×n×nψボリューム)は、オフセット空間内のすべてのキーポイントの整合性を表すために算出されることができる。確率オフセットは、所定のオフセットの場合のオンラインポイントクラウドと3D地図との全体的マッチングコストを表すことができる。
一実施形態では、キーポイントが互いに独立している場合には、
Figure 0007086111000002
でオフセットΔT=(Δx,Δy,Δψ)のマッチング確率を算出することができ、ここでP(ΔT)はオフセットΔTにおけるi番目のキーポイントのマッチング確率を示す。
一実施形態では、上式は、対数尤度関数に変換することができる。
Figure 0007086111000003
上記式において、C(ΔT)はオフセットΔTにおけるオンラインポイントクラウドと3Dポイントクラウド地図との全体的マッチングコストを示す。図9に示す例示的な実施例では、上述のコストlog(P(ΔT))は入力として使用され、平均削減(reduce average)演算919を適用することによって、キーポイント次元において全体的マッチングコストC(ΔT)に対応するn×n×nψコストボリュームに圧縮されることができる。
一実施形態では、圧縮されたコストボリュームの各セルの値は、対応するオフセットの全体的マッチングコストである。x、yおよびヨー次元に沿ってソフトマックス演算922を使用ことにより、マッチングコストC(ΔT)を確率C(ΔT)に変換することができる。確率オフセットP(ΔT)は、和削減(reduce sum)演算921を適用することによって、x、yおよびヨー次元においてさらに確率ベクトル:P(Δx)=Σy,ψP(ΔT)、P(Δy)=Σx,ψP(ΔT)およびP(Δψ)=Σx,yP(ΔT)に圧縮されることができる。
図10は、実施形態にかかるLIDAR測位においてニューラルネットワークを使用してソリューションを推断する例示的なプロセスを示すフローチャートである。プロセス1000は、ソフトウェア、ハードウェアまたはそれらの組み合せを含む処理ロジックにより実行されることが可能である。プロセス1000は、ハードウェア(例えば回路、専用ロジック、プログラマブルロジック、プロセッサ、処理デバイス、中央処理ユニット(CPU)、システムオンチップ(SoC)など)、ソフトウェア(例えば、処理デバイス上でランニング/実行される命令)、ファームウェア(例えば、マイクロコード)、またはそれらの組み合わせを含む処理ロジックによって実行されることができる。いくつかの実施形態では、プロセス1000は、図3Aおよび3Bに示されるようなモジュールの1つまたは複数によって実行されることができる。
図10を参照すると、操作1001において、自動運転車両の予測ポーズのためのコストボリュームを解空間内に作成する。コストボリュームは、オンラインポイントクラウドからのキーポイントと事前作成されたポイントクラウド地図上の対応するキーポイントとのマッチングコストを表す複数のサブボリュームを含む。
操作1003において、複数の畳み込みニューラルネットワーク(CNN)によりコストボリュームを正則化して、マッチングコストをリファインする。また、コストボリュームを正則化することにより、コストボリュームのより多くの背景を考慮に入れてマッチングコストをリファインすることができる。さらに、正規化されたコストボリュームに複数のRNNを適用して、複数の連続するLIDARフレーム上の測位結果の軌跡を平滑化することができる。操作1005において、ADVの位置を特定するために使用されるグラウンドトゥルースからの予測ポーズの最適オフセットを推定することができる。
測位結果における時間平滑化
図11は、実施形態にかかるADVの測位結果において時間平滑化を行うシステムを示す。
図11に示すように、確率ベクトル831は、時間平滑化のために複数のRNN1109、1111および1113に入力として提供されることができる。各RNNは、複数の長・短期記憶(LSTM)ユニットを含む。確率ベクトル1103、1105および1108のそれぞれは、対応する確率ベクトル1121、1123または1125を生成することが可能な入力としてRNNの1つに提供されることができる。対応する確率ベクトル1121、1123および1125の加重和1127を算出し、元の確率ベクトル1103、1105および1107と組み合わせて使用して、推定されるオフセット1117を得ることができる。推定されたオフセット1117とグラウンドトゥルースオフセットとを使用して、ADVの最適なポーズを決定することができる。
一実施形態では、本明細書で説明されるシステムは、連続するLIDARフレームからの学習された履歴情報に基づいて、連続するLIDARフレーム上での測位結果の軌跡を平滑化することができる。ADVは、連続するLIDARフレーム上で複数の予測ポーズを有することができる。
図12は、実施形態にかかるADVの測位結果において時間平滑化を行うためのシステムの例示的な実施例を示す。
上述したように、オンラインポイントクラウドと事前作成されたポイントクラウド地図とのマッチングは空間的である。したがって、連続するLIDARフレームの確率オフセットは、互いに独立している。しかしながら、測位タスクは連続的なプロセスであり、従って、連続フレームのポーズを考慮に入れるべきである。従来の方法では、ヒストグラムフィルタ内の履歴分布を伝達して、現在のマッチング分布を推定し、これにより出力の時間平滑化が保証される。
この例示的な実施例は、リカレントニューラルネットワーク(RNN)を使用して、同様の時間平滑化を実現する。より具体的には、LSTMユニットが使用される。上述した確率オフセットからのかかる次元(x、y、ψ)に対する確率ベクトル1209のそれぞれは、パラメータがそれぞれ独立したRNNユニットの入力とみなすことができる。RNNによって履歴情報を学習することで、測位結果の軌跡がより滑らか且つ正確になる。
一実施形態では、この例示的な実施例は、損失として特徴空間距離を使用することなく、直接に推定オフセット
Figure 0007086111000004
とグラウンドトゥルースオフセット
Figure 0007086111000005
とのL2距離の二乗に損失を定義する。次に、推定オフセット1213は、以下のように算出することができる。
Figure 0007086111000006
したがって、損失関数は以下のように定義することができる。
Figure 0007086111000007
ここで、αは平衡係数である。
図13は、本実施形態にかかるADVの測位結果において時間平滑化を行う例示的なプロセスを示すフローチャートである。
プロセス1300は、ソフトウェア、ハードウェアまたはそれらの組み合せを含む処理ロジックにより実行されることが可能である。プロセス1300は、ハードウェア(例えば回路、専用ロジック、プログラマブルロジック、プロセッサ、処理デバイス、中央処理ユニット(CPU)、システムオンチップ(SoC)など)、ソフトウェア(例えば、処理デバイス上でランニング/実行される命令)、ファームウェア(例えば、マイクロコード)、またはそれらの組み合わせを含む処理ロジックによって実行されることができる。いくつかの実施形態では、プロセス1300は、図3Aおよび3Bに示されるようなモジュールの1つまたは複数によって実行されることができる。
図13を参照すると、操作1301において、オンラインポイントクラウド内の複数の連続する光検出および測距(LIDAR)フレームのそれぞれに対して確率オフセットを作成する。確率オフセットは、オンラインポイントクラウドからの第1組のキーポイントと、事前作成されたポイントクラウド地図からの第2組のキーポイントとの全体的マッチングコストを表す。操作1303において、X次元、Y次元、およびヨー次元において確率オフセットを複数の確率ベクトルに圧縮する。操作1305において、確率オフセットの各確率ベクトルを処理のためにリカレントニューラルネットワーク(RNN)に提供する。操作1307において、RNNにより複数の連続するLIDARフレーム上で測位結果の軌跡を生成する。
図14は、実施形態にかかる学習に基づくLIDAR測位システム1400の全体的アーキテクチャを示す。図14に示すように、システム1400は、オンラインLIDARスキャン1400および1405と、事前作成されたポイントクラウド地図1403および1407と、予測ポーズ1408とを入力として使用し、PointNet1409により特徴を学習し、解空間内にコストボリュームを作成し、CNN 1411およびRNN 1413を使用して最適なポーズ1415を推定する。
図15は、実施形態にかかる学習に基づくLIDAR測位システム1500の全体的アーキテクチャをより詳細に示す。図15に示すように、システム1500は、キーポイント選択段階1501と、特徴記述子抽出段階1503と、コストボリューム作成段階と、3D CNN適用段階1505と、確率オフセット作成段階1507と、時間平滑化段階1509と、推定オフセット作成段階1511とを含む。さらに示すように、各段階において、対応する構造(例えば、1つまたは複数の部材および入力)が、該段階の動作および機能を実行するために提供されることができる。本開示では、これらの構造を上述した。
例示的な例として、システム1500を訓練するために2ステップ戦略を使用することができる。第1ステップでは、記述子抽出段階1503におけるミニチュアPointNet構造とコストボリューム作成段階1505用の3D CNNのみを訓練する。これを達成するために、ネットワークアーキテクチャにおける時間平滑化段階1509用のRNNを除去し、確率オフセットから推定された確率ベクトルに基づいて、損失を直接算出する。バッチサイズおよび学習率はそれぞれ1および0.1に設定される。抽出された特徴がよりロバスト性を有するために、x-y次元に[0~1.0]mの均一に分布するランダムノイズを追加するとともに、ヨー次元において[0~2.0]oのランダム誤差を入力予測ポーズに追加する。
第2ステップでは、RNNのパラメータは、ミニチュアPointNet構造および3D CNNに固定されたパラメータを使用して訓練される。バッチサイズおよび学習率はそれぞれ1および0.001に設定される。RNN訓練中に、長さが10のシーケンスがサンプリングされる。LIDARフレームの周波数が10hzであることを考慮すると、RNNの実際の受信可能なフィールドは約1.0秒である。これらの2つのステップでは、トレーニングと検証の比が4対1になるように、訓練データセットを訓練セットと検証セットにランダムに分割する。性能利得がない場合には、2つのステップに対して100期間の訓練が行われると停止する。
なお、上記のように記載された部材の一部または全部は、ソフトウェア、ハードウェアまたはそれらの組み合せにより実現されることが可能である。例えば、そのような部材は、永続性記憶装置にインストールして記憶されるソフトウェアとして実現されることが可能であり、前記ソフトウェアがメモリにローディングされてプロセッサ(図示せず)により実行されることで、本明細書に記載のプロセスや操作を実施することができる。その代わりに、そのような部材は、専用ハードウェア(例えば、集積回路(例えば、特定用途向け集積回路(ASIC)、デジタルシグナルプロセッサ(DSP)またはフィールドプログラマブルゲートアレイ(FPGA))にプログラミングされ、又は組み込まれる、実行可能なコードとして実現されてもよく、前記実行可能なコードが、アプリケーションからの相応的なドライバおよび/またはオペレーティングシステムを介してアクセス可能である。また、そのような部材は、プロセッサまたはプロセッサコアにおける特定ハードウェアロジックとして実現されることが可能であり、ソフトウェア部材が1つまたは複数の特定命令によりアクセス可能な命令セットの一部とされる。
図16は、本発明の一実施態様とともに使用可能なデータ処理システムの例を示すブロック図である。例えば、システム1600は、上述した前記プロセスまたは方法のいずれかを実行する任意のデータ処理システムを表すことができる。システム1600は、様々の部材を備えることが可能である。それらの部材は、集積回路(IC)、集積回路の一部、別体の電子デバイスや回路基板(例えば、コンピュータシステムのマザーボードまたは挿入カード)に適用される他のモジュールとして実現され、又は、他の方式でコンピュータシステムのラックに組み込まれる部材として実現されることが可能である。
なお、システム1600は、コンピュータシステムの多くの部材の上位図を示すためである。しかしながら、一部の実施態様では、付加部材を有してもよく、また、他の実施態様では、図示する部材と異なるレイアウトを有してもよいこと、を理解すべきである。システム1600は、デスクトップ型コンピュータ、ラップトップ型コンピュータ、タブレット型コンピュータ、サーバ、携帯電話、メディアプレイヤ、携帯情報端末(PDA)、スマートウォッチ、パーソナル通信機器、ゲーム装置、ルータやハブ機器、アクセスポイント(AP)やリピーター、セットトップボックス、またはそれらの組み合せを示すことが可能である。また、単一の機器またはシステムのみを示すが、「機器」または「システム」という用語は、1つ(または複数)の命令セットを個別または一緒に実行することにより、本明細書で検討するいずれかの1種または複数種の方法を実行する機器またはシステムの集合のいずれを含むことを、理解されるべきである。
一実施態様では、システム1600は、バスまたはインターコネクト1610を介して接続されるプロセッサ1601、メモリ1603及び装置1605~1608を含む。プロセッサ1601は、単一のプロセッサコア、または複数のプロセッサコアの1つのプロセッサや複数のプロセッサを含むことを表すことが可能である。プロセッサ1601は1つまたは複数の汎用プロセッサ、例えば、マイクロプロセッサ、中央処理ユニット(CPU)などを表すことが可能である。より具体的には、プロセッサ1601は、複合命令セットコンピュータ(CISC)方式のマイクロプロセッサ、縮小命令セットコンピュータ(RISC)方式のマイクロプロセッサ、VLIW(Very Long Instruction Word)型マイクロプロセッサや他の命令セットを実施するプロセッサ、または命令セットの組み合せを実施するプロセッサであってもよい。プロセッサ1601は、1つまたは複数の専用プロセッサ、例えば、特定用途向け集積回路(ASIC)、セルラやベースバンドプロセッサ、フィールドプログラマブルゲートアレイ(FPGA)、デジタルシグナルプロセッサ(DSP)、ネットワークプロセッサ、グラフィックプロセッサ、通信プロセッサ、暗号化プロセッサ、コプロセッサ、組込み用途向けプロセッサ、または命令を処理可能な他のロジックのいずれであってもよい。
プロセッサ1601(低パワーマルチコアプロセッサジャケットインタフェース、例えば超低電圧プロセッサであってもよい)は、前記システムの種々の部材と通信するためのメイン処理ユニット及び中央ハブとして使用されることが可能である。そのようなプロセッサは、オンチップシステム(SoC)として実現されることが可能である。プロセッサ1601は、本明細書で検討する操作及びステップを実行するための命令を実施するように配置される。システム1600は、選択可能なグラフィックサブシステム1604と通信可能なグラフィックインタフェースを更に含み、グラフィックサブシステム1604が、表示制御部、グラフィックプロセッサおよび/または表示装置を備えることが可能である。
プロセッサ1601は、メモリ1603と通信可能であり、一実施態様では、メモリ1603が所定量のシステム用の記憶を提供するように、複数のメモリ装置により実現されることが可能である。メモリ1603は、1つまたは複数の揮発性記憶(またはメモリ)装置、例えば、ランダムアクセスメモリ(RAM)、ダイナミックRAM(DRAM)、シンクロナスDRAM(SDRAM)、スタティックRAM(SRAM)または他のタイプの記憶装置を含むことが可能である。メモリ1603は、プロセッサ1601または他の装置により実行される命令列を含む情報を記憶可能である。例えば、種々のオペレーティングシステム、デバイスドライバ、ファームウェア(例えば、入出力基本システムまたはBIOS)および/またはアプリケーションの実行コードおよび/またはデータは、メモリ1603にローディングされてプロセッサ1601により実行されることが可能である。オペレーティングシステムは、いずれのタイプのオペレーティングシステム、例えば、ロボットオペレーティングシステム(ROS)、Microsoft(登録商標)社のWindows(登録商標)オペレーティングシステム、アップル社のMAC OS(登録商標)/IOS(登録商標)、Google(登録商標)社のAndroid(登録商標)、LINUX(登録商標)、UNIX(登録商標)、または他のリアタイムや組み込みオペレーティングシステムであってもよい。
システム1600は、IO装置、例えばネットワークインタフェース装置1605、選択可能な入力装置1606及び他の選択可能なIO装置1607を含む装置1605~1608をさらに備えることが可能である。ネットワークインタフェース装置1605は、無線送受信器および/またはネットワークインタフェースカード(NIC)を含むことが可能である。前記無線送受信器は、WiFi送受信器、赤外線送受信器、ブルートゥース(登録商標)送受信器、WiMax送受信器、無線携帯電話送受信器、衛星送受信器(例えば、全地球測位システム(GPS)送受信器)や他の無線周波数(RF)送受信器、またはそれらの組み合せであってもよい。NICは、イーサネットカードであってもよい。
入力装置1606は、マウス、タッチパネル、タッチスクリーン(表示装置1604に集積されることが可能である)、ポインティングデバイス(例えば、スタイラスペン)および/またはキーボード(例えば、物理的なキーボードまたはタッチスクリーンの一部として表示される仮想的なキーボード)を含むことが可能である。例えば、入力装置1606は、タッチスクリーンに接続されるタッチスクリーンコントローラを含むことが可能である。タッチスクリーン及びタッチスクリーンコントローラは、例えば複数種のタッチセンシティブ技術(容量、電気抵抗、赤外線及び弾性表面波技術を含むが、これに限定されない)のいずれか1種、及び他の近接センサアレイまたはタッチスクリーンに接触する1つまたは複数のポイントを特定するための他の素子により、その接触、及び移動や間欠を検出する。
IO装置1607は、オーディオ装置を含むことが可能である。オーディオ装置は、音声を支持する機能、例えば音声認識、音声再生、ディジタル記録および/または電話機能を促すために、スピーカおよび/またはマイクフォンを含むことが可能である。他のIO装置1607として、ユニバーサルシリアルバス(USB)ポート、パラレルポート、シリアルポート、プリンタ、ネットワークインタフェース、バスブリッジ(例えば、PCI-PCIブリッジ)、センサ(例えば、加速度計などのモーションセンサ、ジャイロ、磁力計、光センサ、コンパス、接近センサなど)またはそれらの組み合せを含むことが可能である。装置1607は、カメラ機能(例えば、写真及び動画セグメントの記録)を促すための光学センサ、例えば電荷結合素子(CCD)または相補型金属酸化物半導体(CMOS)光学センサを備える撮像処理サブシステム(例えば、カメラ)をさらに含むことが可能である。システム1600の具体的な構成または設計に応じて、センサ・ハブ(図示せず)を介して、いくつかのセンサをインターコネクト1610に接続することができる一方、キーボードや熱センサなどの他のデバイスを、組み込みコントローラ(図示せず)によって制御することができる。
例えばデータ、アプリケーション、1つまたは複数のオペレーティングシステムなどの情報の永続的な記憶を提供するために、大容量記憶装置(図示せず)がプロセッサ1601に接続されてもよい。種々の実施態様では、薄型化且つ軽量化のシステム設計を実現するとともにシステムの応答性を改良するために、そのような大容量記憶装置は、固体装置(SSD)により実現されることが可能である。しかしながら、他の実施態様では、大容量記憶装置は、主にハードディスクドライブ(HDD)により実現されてもよく、そのうち少量のSSD記憶装置は、SSD用キャッシュとされることにより、停電期間でコンテキストの状態及び他の情報の非一時的記憶を実現して、システム活動が再起動する際に急速通電を実現することができる。また、フラッシュメモリは、例えばシリアルペリフェラルインタフェース(SPI)を介してプロセッサ1601に接続されることが可能である。そのようなフラッシュメモリは、前記システムのBIOS及び他のファームウェアを含むシステムソフトウェアの非一時的記憶を提供することが可能である。
記憶装置1608は、本明細書に記載のいずれか1種または複数種の方法や機能を実現する1つまたは複数の命令セットやソフトウェア(例えば、モジュール、ユニットおよび/またはロジック1628)が記憶されているコンピュータアクセス可能な記憶媒体1609(機械可読記憶媒体またはコンピュータ可読な媒体ともいう)を含むことが可能である。処理モジュール/ユニット/ロジック1628は、上記部材のいずれか1つ、例えば計画モジュール305、制御モジュール306を表すことが可能である。また、処理モジュール/ユニット/ロジック1628は、データ処理システム1600、メモリ1603及びプロセッサ1601により実行されている期間で、全部または少なくとも一部が機械アクセス可能な記憶媒体を構成するメモリ1603および/またはプロセッサ1601に貯留されることが可能である。更に、処理モジュール/ユニット/ロジック1628は、ネットワークによりネットワークインタフェース装置1605を介して伝送または受信を行うことが可能である。
コンピュータ可読記憶媒体1609は、上述した一部のソフトウェア機能を永続的に記憶することが可能である。コンピュータ可読記憶媒体1609は、例示的な実施態様では単一の媒体として示されるが、「コンピュータ可読記憶媒体」という用語は、前記1つまたは複数の命令セットを記憶する単一の媒体または複数の媒体(例えば、集中または分散データベースおよび/または関連するキャッシュメモリ及びサーバ)を含む、と考えられる。「コンピュータ可読記憶媒体」という用語は、機械により実行される命令セットであって、前記機械に本発明のいずれの1種または複数種の方法を実行させる命令セットを記憶またはコーディング可能ないずれの媒体を含む、と考えられる。よって、「コンピュータ可読記憶媒体」という用語は、固体メモリ、光学媒体及び磁気媒体、または他の非一時的機械可読媒体のいずれを含むが、これに限定されない、と考えられる。
本明細書に記載の処理モジュール/ユニット/ロジック1628、部材及び他の特徴は、個別ハードウェア部材とされ、またはハードウェア部材(例えば、ASICS、FPGA、DSPまたは同様な装置)の機能に集積されるように、実現可能である。また、処理モジュール/ユニット/ロジック1628は、ハードウェア装置におけるファームウェアまたは機能回路として実現されることが可能である。また、処理モジュール/ユニット/ロジック1628は、ハードウェア装置とソフトウェア部材とのいずれの組み合せにより実現されることが可能である。
なお、システム1600は、データ処理システムの種々の部材を備えるように示されるが、部材を相互に接続する特定の構成または態様を示すためではない。よって、そのような詳細は、本発明の実施態様と密接な関係がない。さらに、より少ない部材またはより多い部材を有するネットワークコンピュータ、ハンディコンピュータ、携帯電話、サーバおよび/または他のデータ処理システムも、本発明の実施態様とともに使用可能であることを、認識すべきである。
詳細に記載した前記内容の一部は、既にコンピュータメモリで行われるデータビットの演算のアルゴリズム及び符号表示に応じて表現された。それらのアルゴリズムの記載及び表示は、データ処理分野での技術者が使用する方式であり、技術者らの実質的な動作を効率よく本分野での他の技術者に伝達するためである。本明細書では、アルゴリズムは、通常に所望の結果を達成する自律操作シーケンスとして考えられる。それらの操作とは、物理量を物理的に操作する必要がある操作である。
ところで、それらの用語及びそれらの類似する用語のすべては、適当な物理量に関連するものであり、且つ単にそれらの物理量を簡便に表記することに適用されることはいうまでもない。以上の検討において他の態様で明確に限定しない限り、明細書全体では、用語(例えば、添付した特許請求の範囲に記載の用語)により検討されることは、コンピュータシステムのレジスタ及びメモリでの物理(電子)量として表示されるデータを操作して、前記データをコンピュータシステムメモリやレジスタ、または他の情報記憶装置、伝送装置や表示装置での同様に物理量として表示される他のデータを変換するコンピュータシステムや類似する電子計算装置の動作及び処理である。
本発明の実施態様は、本明細書における操作を実行するためのデバイスにさらに関する。そのようなコンピュータプログラムは、非一時的コンピュータ可読媒体に記憶されている。機械可読媒体は、機械(例えば、コンピュータ)可読態様で情報を記憶するための機構全体を含む。例えば、機械可読(例えば、コンピュータ可読)媒体は、機械(例えば、コンピュータ)可読記憶媒体(例えば、読み出し専用メモリ(ROM)、ランダムアクセスメモリ(RAM)、磁気ディスク記憶媒体、光記憶媒体、フラッシュメモリ装置)を含む。
前記図面に記載のプロセスや方法は、ハードウェア(例えば、回路、専用ロジックなど)、ソフトウェア(例えば、非一時的コンピュータ可読媒体で実現される)またはそれらの組み合せを含む処理ロジックにより実行されることが可能である。前記プロセスや方法は、上記の内容において一部の順序操作に基づいて記載されるが、前記操作の一部が異なる順序で実行されてもよいことを、理解すべきである。また、一部の操作は、順序に実行されることではなく、並列に実行されてもよい。
本発明の実施態様は、いずれの特定のプログラミング言語を参照して記載されることではない。複数種のプログラミング言語を使用して本明細書に記載の本発明の実施態様の教示を実施可能であることを、理解すべきである。
以上の明細書では、本発明の具体的な実施態様を参照して本発明の実施態様を記載した。添付した特許請求の範囲に記載の本発明の更なる広い要旨及び範囲を逸脱しない限り、本開示を様々な形態で変形可能であることが、明らかである。したがって、明細書および図面は、制限的な意味ではなく、例示的な意味で理解されるべきである。

Claims (23)

  1. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するコンピュータ実施の方法であって、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、を含み、
    前記コストボリュームにおけるそれぞれのサブボリュームは、前記第1組のキーポイントのうちの1つのキーポイントと、前記第2組のキーポイントにおける所定のオフセットを有する対応するキーポイントとのマッチングコストを表す
    ことを特徴とするコンピュータ実施の方法。
  2. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するコンピュータ実施の方法であって、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含むことを特徴とするコンピュータ実施の方法であって、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第1組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とするコンピュータ実施の方法。
  3. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するコンピュータ実施の方法であって、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含むことを特徴とするコンピュータ実施の方法であって、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第2組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とするコンピュータ実施の方法。
  4. 前記第2組のキーポイントにおけるキーポイントに対して前記所定の数の隣接光検出および測距ポイントが見つかっていない場合、完全接続ネットワークを用いて当該キーポイントの特徴記述子を抽出することを特徴とする請求項に記載の方法。
  5. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するコンピュータ実施の方法であって、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含むことを特徴とするコンピュータ実施の方法であって、
    2×2回転行列及び2D並進ベクトルにより示される変換を用いることによって、前記事前作成されたポイントクラウド地図における前記第2組のキーポイントのそれぞれの座標を算出する
    ことを特徴とするコンピュータ実施の方法。
  6. 記コストボリュームを最小化する最適なオフセットを取って、前記自動運転車の最適なポーズを決定するように、前記コストボリュームを減少させるとともに、複数の異なるタイプのニューラルネットワークに用いるために前記コストボリュームを正則化することを特徴とする請求項1に記載の方法。
  7. 前記第1組のキーポイント及び前記第2組のキーポイントのそれぞれは、光検出および測距ポイントであり、前記第1組のキーポイントと前記第2組のキーポイントは、一定の数のキーポイントを有することを特徴とする請求項1~5のいずれか1項に記載の方法。
  8. 前記第1組のキーポイントを選択するステップは、
    前記自動運転車の予測ポーズを囲む所定の領域中の光検出および測距ポイントをトラバースすることによって、複数の候補光検出および測距ポイントを特定するステップであって、それぞれの候補光検出および測距ポイントについて、当該候補光検出および測距ポイントの隣接領域において所定の密度で光検出および測距ポイントを有するステップと、
    3D構造テンソルを用いてそれぞれの前記候補光検出および測距ポイントの線形性を評価し、前記評価により、それぞれの候補光検出および測距ポイントの線形性に対して値を割り当てるステップと、
    前記複数の候補光検出および測距ポイントの割り当てられた値に基づいて前記複数の候補光検出および測距ポイントをソートするステップと、
    ソートされた候補光検出および測距ポイントに基づいて前記一定の数の候補光検出および測距ポイントを選択するステップと、
    を更に含むことを特徴とする請求項に記載の方法。
  9. 前記一定の数の候補光検出および測距ポイントはそれぞれ、新たに選択される際、選択された1つ又は複数の既存の光検出および測距ポイントと所定の距離を空けることを特徴とする請求項に記載の方法。
  10. 指令を記憶している非一時性機器可読メディアであって、
    前記指令は、プロセッサによって実行されると、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、
    を含む操作を前記プロセッサに実行させ
    前記コストボリュームの中のそれぞれのサブボリュームは、前記第1組のキーポイントにおける一つのキーポイントと、前記第2組のキーポイントにおける所定オフセットを有する相応のキーポイントとの間のマッチングコストを表す
    とを特徴とする、非一時性機器可読メディア。
  11. 指令を記憶している非一時性機器可読メディアであって、
    前記指令は、プロセッサによって実行されると、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含む操作を前記プロセッサに実行させ、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第1組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とする非一時性機器可読メディア。
  12. 指令を記憶している非一時性機器可読メディアであって、
    前記指令は、プロセッサによって実行されると、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含む操作を前記プロセッサに実行させ、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第2組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とする非一時性機器可読メディア。
  13. 前記第2組のキーポイントにおけるキーポイントに対して前記所定の数の隣接光検出および測距ポイントが見つかっていない場合、完全接続ネットワークを用いて当該キーポイントの特徴記述子を抽出することを特徴とする請求項12に記載の非一時性機器可読メディア。
  14. 指令を記憶している非一時性機器可読メディアであって、
    前記指令は、プロセッサによって実行されると、
    前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    を含む操作を前記プロセッサに実行させ、
    2×2回転行列及び2D並進ベクトルにより示される変換を用いることによって、前記事前作成されたポイントクラウド地図における前記第2組のキーポイントのそれぞれの座標を算出する
    ことを特徴とする非一時性機器可読メディア。
  15. 記コストボリュームを最小化する最適なオフセットを取って、前記自動運転車の最適なポーズを決定するように、前記コストボリュームを減少させるとともに、複数の異なるタイプのニューラルネットワークに用いるために前記コストボリュームを正則化することを特徴とする請求項10に記載の非一時性機器可読メディア。
  16. 前前記第1組のキーポイント及び前記第2組のキーポイントのそれぞれは、光検出および測距ポイントであり、前記第1組のキーポイントと前記第2組のキーポイントは、一定の数のキーポイントを有することを特徴とする請求項10~14のいずれか1項に記載の非一時性機器可読メディア。
  17. 前記第1組のキーポイントを選択するステップは、
    前記自動運転車の予測ポーズを囲む所定の領域中の光検出および測距ポイントをトラバースすることによって、複数の候補光検出および測距ポイントを特定するステップであって、それぞれの候補光検出および測距ポイントについて、当該候補光検出および測距ポイントの隣接領域において所定の密度で光検出および測距ポイントを有するステップと、
    3D構造テンソルを用いてそれぞれの前記候補光検出および測距ポイントの線形性を評価し、前記評価により、それぞれの候補光検出および測距ポイントの線形性に対して値を割り当てるステップと、
    前記複数の候補光検出および測距ポイントの割り当てられた値に基づいて前記複数の候補光検出および測距ポイントをソートするステップと、
    ソートされた候補光検出および測距ポイントに基づいて前記一定の数の候補光検出および測距ポイントを選択するステップと、
    を更に含むことを特徴とする請求項16に記載の非一時性機器可読メディア。
  18. 前記一定の数の候補光検出および測距ポイントはそれぞれ、新たに選択される際、選択された1つ又は複数の既存の光検出および測距ポイントと所定の距離を空けることを特徴とする請求項17に記載の非一時性機器可読メディア。
  19. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するためのシステムであって、
    プロセッサと、
    前記プロセッサに接続され、命令を記憶するメモリと、を含み、
    前記指令は、前記プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、
    を含む操作を前記プロセッサに実行させ
    前記コストボリュームの中のそれぞれのサブボリュームは、前記第1組のキーポイントにおける一つのキーポイントと、前記第2組のキーポイントにおける所定オフセットを有する相応のキーポイントとの間のマッチングコストを表す
    ことを特徴とする、システム。
  20. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するためのシステムであって、
    プロセッサと、
    前記プロセッサに接続され、命令を記憶するメモリと、を含み、
    前記指令は、前記プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、
    を含む操作を前記プロセッサに実行させ、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第1組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とする、システム。
  21. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するためのシステムであって、
    プロセッサと、
    前記プロセッサに接続され、命令を記憶するメモリと、を含み、
    前記指令は、前記プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、
    を含む操作を前記プロセッサに実行させ、
    前記特徴学習ニューラルネットワークは、複数のミニチュアニューラルネットワークを含み、それぞれのミニチュアニューラルネットワークは、前記第2組のキーポイントのうちの1つのキーポイントに対して提供され、
    それぞれのミニチュアニューラルネットワークは、
    当該キーポイントのz軸に沿って柱体を用いることによって、所定の数の隣接光検出および測距ポイントを収集し、それぞれの隣接光検出および測距ポイントは、反射強度及び当該キーポイントに対する相対座標を有し、
    前記関連する隣接光検出および測距ポイントの相対座標及び反射強度に基づき、当該キーポイントの特徴記述子を抽出する、
    ことを特徴とする、システム。
  22. 自動運転車の測位に用いられるポイントクラウド特徴を抽出するためのシステムであって、
    プロセッサと、
    前記プロセッサに接続され、命令を記憶するメモリと、を含み、
    前記指令は、前記プロセッサによって実行されると、前記自動運転車の光検出および測距装置により生成されたオンラインポイントクラウドから第1組のキーポイントを選択するステップと、
    前記自動運転車で実行している特徴学習ニューラルネットワークを用いて前記第1組のキーポイントに対して第1組の特徴記述子を抽出するステップと、
    事前作成されたポイントクラウド地図において、各キーポイントがそれぞれ前記第1組のキーポイントにおけるキーポイントに対応する第2組のポイントを特定するステップと、
    前記事前作成されたポイントクラウド地図から第2組の特徴記述子を抽出するステップと、
    前記第1組の特徴記述子と、前記第2組の特徴記述子と、前記自動運転車の予測ポーズとに基づいて前記自動運転車の位置及び向きを推定するステップと、
    前記第1組の特徴記述子と前記第2組の特徴記述子からコストボリュームを作成するステップと、
    を含む操作を前記プロセッサに実行させ、
    2×2回転行列及び2D並進ベクトルにより示される変換を用いることによって、前記事前作成されたポイントクラウド地図における前記第2組のキーポイントのそれぞれの座標を算出する、
    ことを特徴とする、システム。
  23. コンピュータプログラムであって、
    前記コンピュータプログラムは、プロセッサにより実行されると、請求項1~のいずれか1項に記載の方法を実行させるコンピュータプログラム。
JP2019567251A 2019-01-30 2019-01-30 自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法 Active JP7086111B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2019/073975 WO2020154970A1 (en) 2019-01-30 2019-01-30 Deep learning–based feature extraction for lidar localization of autonomous driving vehicles

Publications (2)

Publication Number Publication Date
JP2021514885A JP2021514885A (ja) 2021-06-17
JP7086111B2 true JP7086111B2 (ja) 2022-06-17

Family

ID=71840755

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019567251A Active JP7086111B2 (ja) 2019-01-30 2019-01-30 自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法

Country Status (6)

Country Link
US (1) US11594011B2 (ja)
EP (1) EP3749976A4 (ja)
JP (1) JP7086111B2 (ja)
KR (1) KR102335389B1 (ja)
CN (1) CN111971574B (ja)
WO (1) WO2020154970A1 (ja)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11204605B1 (en) * 2018-08-03 2021-12-21 GM Global Technology Operations LLC Autonomous vehicle controlled based upon a LIDAR data segmentation system
WO2020224761A1 (en) * 2019-05-06 2020-11-12 Zenuity Ab Automated map making and positioning
WO2021035471A1 (en) * 2019-08-26 2021-03-04 Beijing Voyager Technology Co., Ltd. Systems and methods for positioning a target subject
CN112444785B (zh) * 2019-08-30 2024-04-12 华为技术有限公司 一种目标行为识别的方法、装置和雷达系统
US11694452B1 (en) * 2019-10-07 2023-07-04 Deshazo, LLC Crane-mounted system for automated object detection and identification
US11820397B2 (en) * 2019-11-16 2023-11-21 Uatc, Llc Localization with diverse dataset for autonomous vehicles
US11423305B2 (en) * 2020-02-26 2022-08-23 Deere & Company Network-based work machine software optimization
US11680818B2 (en) * 2020-08-06 2023-06-20 Automotive Research & Testing Center System and method for updating and sharing crossroad dynamic map data
CN112200765B (zh) * 2020-09-04 2024-05-14 浙江大华技术股份有限公司 车辆中被误检的关键点的确定方法及装置
CN112288709B (zh) * 2020-10-28 2022-04-29 武汉大学 一种基于点云的三维目标检测方法
WO2022187251A1 (en) * 2021-03-01 2022-09-09 Waymo Llc Generating scene flow labels from point clouds using object labels
US11403817B1 (en) 2021-04-14 2022-08-02 Lineage Logistics, LLC Point cloud filtering
CN113340296B (zh) * 2021-06-21 2024-04-09 上海仙工智能科技有限公司 一种自动更新移动机器人地图的方法及装置
CN113763475A (zh) * 2021-09-24 2021-12-07 北京百度网讯科技有限公司 定位方法、装置、设备、系统、介质和自动驾驶车辆
CN114004934B (zh) * 2021-11-02 2024-07-26 国网浙江省电力有限公司湖州供电公司 一种基于分组分批归一化的输电线路点云分类方法
CN114155415B (zh) * 2021-12-07 2024-05-03 华东交通大学 一种多数据融合的车辆检测方法、系统、设备及存储介质
DE102022203267A1 (de) 2022-04-01 2023-10-05 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren zur Lokalisierung eines Fahrzeugs mittels entfernungsbasierter Sensordaten des Fahrzeugs
CN115526936B (zh) * 2022-11-29 2023-04-28 长沙智能驾驶研究院有限公司 定位模型的训练方法和点云数据定位方法及装置
TWI832686B (zh) * 2023-01-23 2024-02-11 國立陽明交通大學 路徑規劃系統及其路徑規劃方法
CN117437404B (zh) * 2023-10-26 2024-07-19 合肥工业大学 一种基于虚拟点云的多模态目标检测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150254857A1 (en) 2014-03-10 2015-09-10 Sony Corporation Image processing system with registration mechanism and method of operation thereof
US20150331111A1 (en) 2012-04-02 2015-11-19 The Chancellor Masters And Scholars Of The University Of Oxford Method For Localizing A Vehicle Equipped With Two Lidar Systems
WO2018104563A2 (en) 2016-12-09 2018-06-14 Tomtom Global Content B.V. Method and system for video-based positioning and mapping
CN108345831A (zh) 2017-12-28 2018-07-31 新智数字科技有限公司 基于点云数据的道路图像分割的方法、装置以及电子设备
WO2018142395A1 (en) 2017-01-31 2018-08-09 Arbe Robotics Ltd A radar-based system and method for real-time simultaneous localization and mapping

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
GB2537681B (en) * 2015-04-24 2018-04-25 Univ Oxford Innovation Ltd A method of detecting objects within a 3D environment
US9710714B2 (en) * 2015-08-03 2017-07-18 Nokia Technologies Oy Fusion of RGB images and LiDAR data for lane classification
CN105678689B (zh) * 2015-12-31 2020-01-31 百度在线网络技术(北京)有限公司 高精地图数据配准关系确定方法及装置
CN106296693B (zh) * 2016-08-12 2019-01-08 浙江工业大学 基于3d点云fpfh特征实时三维空间定位方法
US10343685B2 (en) * 2016-09-28 2019-07-09 Baidu Usa Llc Physical model and machine learning combined method to simulate autonomous vehicle movement
US10442435B2 (en) * 2016-12-14 2019-10-15 Baidu Usa Llc Speed control parameter estimation method for autonomous driving vehicles
US10268200B2 (en) * 2016-12-21 2019-04-23 Baidu Usa Llc Method and system to predict one or more trajectories of a vehicle based on context surrounding the vehicle
US10837773B2 (en) * 2016-12-30 2020-11-17 DeepMap Inc. Detection of vertical structures based on LiDAR scanner data for high-definition maps for autonomous vehicles
US10436595B2 (en) * 2017-02-02 2019-10-08 Baidu Usa Llc Method and system for updating localization maps of autonomous driving vehicles
CN108732584B (zh) * 2017-04-17 2020-06-30 百度在线网络技术(北京)有限公司 用于更新地图的方法和装置
CN108732582B (zh) * 2017-04-20 2020-07-10 百度在线网络技术(北京)有限公司 车辆定位方法和装置
US10347001B2 (en) * 2017-04-28 2019-07-09 8th Wall Inc. Localizing and mapping platform
KR102399130B1 (ko) * 2017-06-28 2022-05-18 현대모비스 주식회사 차량의 주행 환경 인식 장치, 방법 및 시스템
EP3710981A4 (en) * 2017-11-14 2020-12-23 Magic Leap, Inc. DETECTION AND DESCRIPTION OF FULLY CONVOLUTIVE POINT OF INTEREST BY HOMOGRAPHIC ADAPTATION
CN107909612B (zh) * 2017-12-01 2021-01-29 驭势科技(北京)有限公司 一种基于3d点云的视觉即时定位与建图的方法与系统
US10586350B2 (en) * 2017-12-03 2020-03-10 Facebook, Inc. Optimizations for dynamic object instance detection, segmentation, and structure mapping
CN108226938B (zh) * 2017-12-08 2021-09-21 华南理工大学 一种agv小车的定位系统和方法
US10937189B2 (en) * 2018-01-18 2021-03-02 Samsung Electronics Co., Ltd. Pose estimation method, method of displaying virtual object using estimated pose, and apparatuses performing the same
CN108320329B (zh) * 2018-02-02 2020-10-09 维坤智能科技(上海)有限公司 一种基于3d激光的3d地图创建方法
CN108415032B (zh) * 2018-03-05 2021-06-25 中山大学 一种基于深度学习与激光雷达的点云语义地图构建方法
CN108868268B (zh) * 2018-06-05 2020-08-18 西安交通大学 基于点到面距离和互相关熵配准的无人车位姿估计方法
CN109099901B (zh) * 2018-06-26 2021-09-24 中科微易(苏州)智能科技有限公司 基于多源数据融合的全自动压路机定位方法
CN109166140B (zh) * 2018-07-27 2021-10-01 长安大学 一种基于多线激光雷达的车辆运动轨迹估计方法及系统
US11022693B1 (en) * 2018-08-03 2021-06-01 GM Global Technology Operations LLC Autonomous vehicle controlled based upon a lidar data segmentation system
US11079492B1 (en) * 2018-09-28 2021-08-03 Zoox, Inc. Condition dependent parameters for large-scale localization and/or mapping
US10915793B2 (en) * 2018-11-08 2021-02-09 Huawei Technologies Co., Ltd. Method and system for converting point cloud data for use with 2D convolutional neural networks
US11494937B2 (en) * 2018-11-16 2022-11-08 Uatc, Llc Multi-task multi-sensor fusion for three-dimensional object detection
CN111238494B (zh) * 2018-11-29 2022-07-19 财团法人工业技术研究院 载具、载具定位系统及载具定位方法
US11677930B2 (en) * 2018-12-20 2023-06-13 Here Global B.V. Method, apparatus, and system for aligning a vehicle-mounted device

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150331111A1 (en) 2012-04-02 2015-11-19 The Chancellor Masters And Scholars Of The University Of Oxford Method For Localizing A Vehicle Equipped With Two Lidar Systems
US20150254857A1 (en) 2014-03-10 2015-09-10 Sony Corporation Image processing system with registration mechanism and method of operation thereof
WO2018104563A2 (en) 2016-12-09 2018-06-14 Tomtom Global Content B.V. Method and system for video-based positioning and mapping
WO2018142395A1 (en) 2017-01-31 2018-08-09 Arbe Robotics Ltd A radar-based system and method for real-time simultaneous localization and mapping
CN108345831A (zh) 2017-12-28 2018-07-31 新智数字科技有限公司 基于点云数据的道路图像分割的方法、装置以及电子设备

Also Published As

Publication number Publication date
KR20200096410A (ko) 2020-08-12
WO2020154970A1 (en) 2020-08-06
KR102335389B1 (ko) 2021-12-03
EP3749976A4 (en) 2021-08-18
JP2021514885A (ja) 2021-06-17
CN111971574A (zh) 2020-11-20
CN111971574B (zh) 2022-07-22
EP3749976A1 (en) 2020-12-16
US11594011B2 (en) 2023-02-28
US20210365712A1 (en) 2021-11-25

Similar Documents

Publication Publication Date Title
JP7086111B2 (ja) 自動運転車のlidar測位に用いられるディープラーニングに基づく特徴抽出方法
JP7060625B2 (ja) 自動運転車において3dcnnネットワークを用いてソリューション推断を行うlidar測位
JP7256758B2 (ja) 自動運転車両においてrnnとlstmを用いて時間平滑化を行うlidar測位
JP6738932B2 (ja) シミュレーションプラットフォームに配置された、機械学習モデルを訓練するためのシステム及び方法
JP7086911B2 (ja) 自動運転車両のためのリアルタイム意思決定
JP6754856B2 (ja) 自動運転車両のためのセンサー集約フレームワーク
JP6967051B2 (ja) 自動運転車両のための人間の運転行動を模倣する2段階基準線平滑化方法
JP6644742B2 (ja) 頑健で効率的な車両測位用のアルゴリズム及びインフラ
EP3959576A1 (en) Methods and systems for trajectory forecasting with recurrent neural networks using inertial behavioral rollout
CN110345955A (zh) 用于自动驾驶的感知与规划协作框架
JP2021515282A (ja) 自動運転車のためのリアルタイム地図生成システム
JP2021514886A (ja) 自動運転車のためのポイントクラウド登録システム
JP2021515254A (ja) 自動運転車のためのリアルタイム地図生成システム
JP2021516355A (ja) 自動運転車のための地図区画システム
JP2021516183A (ja) 自動運転車のためのポイントクラウドゴースト効果検出システム
CN110239562A (zh) 自动驾驶车辆的基于周围车辆行为的实时感知调整与驾驶调适
JP2020001678A (ja) 重み付け幾何学的コストを有する区分的螺旋曲線を使用した基準線平滑化方法
JP2020083308A (ja) オブジェクト挙動のリアルタイム予測

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200604

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200604

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210727

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211222

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220517

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220607

R150 Certificate of patent or registration of utility model

Ref document number: 7086111

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150