JP2020532734A - 位置特定を実施する際に使用するための方法およびシステム - Google Patents

位置特定を実施する際に使用するための方法およびシステム Download PDF

Info

Publication number
JP2020532734A
JP2020532734A JP2020512849A JP2020512849A JP2020532734A JP 2020532734 A JP2020532734 A JP 2020532734A JP 2020512849 A JP2020512849 A JP 2020512849A JP 2020512849 A JP2020512849 A JP 2020512849A JP 2020532734 A JP2020532734 A JP 2020532734A
Authority
JP
Japan
Prior art keywords
intensity
descriptor
local
point cloud
map
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020512849A
Other languages
English (en)
Other versions
JP7278263B2 (ja
JPWO2019040997A5 (ja
Inventor
コンラッド コップ,
コンラッド コップ,
パウロ ボルジェス,
パウロ ボルジェス,
ロス ダンガベル,
ロス ダンガベル,
ルノー デュベ,
ルノー デュベ,
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Eidgenoessische Technische Hochschule Zurich ETHZ
Original Assignee
Eidgenoessische Technische Hochschule Zurich ETHZ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from AU2017903569A external-priority patent/AU2017903569A0/en
Application filed by Eidgenoessische Technische Hochschule Zurich ETHZ filed Critical Eidgenoessische Technische Hochschule Zurich ETHZ
Publication of JP2020532734A publication Critical patent/JP2020532734A/ja
Publication of JPWO2019040997A5 publication Critical patent/JPWO2019040997A5/ja
Application granted granted Critical
Publication of JP7278263B2 publication Critical patent/JP7278263B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/881Radar or analogous systems specially adapted for specific applications for robotics
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/93Radar or analogous systems specially adapted for specific applications for anti-collision purposes
    • G01S13/931Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/02Control of position or course in two dimensions
    • G05D1/021Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0231Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
    • G05D1/0238Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors
    • G05D1/024Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using obstacle or wall sensors in combination with a laser
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course or altitude of land, water, air, or space vehicles, e.g. automatic pilot
    • G05D1/08Control of attitude, i.e. control of roll, pitch, or yaw
    • G05D1/0891Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for land vehicles
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/05Geographic models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • G06T3/14

Abstract

3次元(3D)環境内で位置特定を実施する際に使用するための方法であって、本方法は、1つ以上の電子処理デバイスにおいて、少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、ローカル走査から取得されるローカル点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定するステップと、強度データを使用して、ローカル点群に関する第1の強度記述子を計算するステップと、それぞれ3D環境のマップの個別の部分と関連付けられる、複数の事前に計算された第2の強度記述子を読み出すステップと、第1の強度記述子と第2の強度記述子のうちの少なくともいくつかを比較するステップと、少なくとも部分的に、比較の結果に従って、マップに対する場所を決定するステップとを含む。

Description

本発明は、3次元(3D)環境内で位置特定を実施する際に使用するための方法およびシステムに関する。本方法およびシステムは、モバイルロボットおよび自律車両ナビゲーションに対する特定の用途を有する。
任意の以前の刊行物(またはそれから導出される情報)または公知の任意の事物の本明細書における参照は、以前の刊行物(またはそれから導出される情報)または公知の事物が、本明細書が関連する努力傾注分野における共通の一般的知識の一部を形成することの確認または承認または任意の形態の提案ではなく、かつそのように捉えられるべきではない。
グローバル位置特定は、自律的ロボットナビゲーションのための重要な要素である。これは、ロボット「ウェイクアップ」問題、「迷子または誘拐」ロボット問題、および同時位置特定およびマッピング(SLAM)におけるループ閉鎖等のタスクのために使用される。グローバル位置特定タスクは、2つの主要な要素、すなわち、i)以前に訪問した場所の認識と、ii)再訪問した場所の基準フレームに対する位置および配向(姿勢)推定とから成る。場所認識および姿勢推定の両方が、完全グローバル位置特定を達成するために要求される。典型的には、グローバル位置特定が実施されるとき、環境内のある場所を走査すること(ローカル走査)によって取得される小点群が、事前に取得された走査データ(グローバルマップ)に対して比較され、相対的変換が、算出される。
グローバル位置特定タスクに取り組む古典的アプローチは、カルマンフィルタまたはモンテカルロ位置特定(粒子フィルタアプローチ)等の回帰的推定方法を使用するためのものである。これらのアルゴリズムは、ロボットセンサによって取得されるデータが、限定され、雑音が多い時代に開発されている。グローバルマップ内のロボットの位置は、周囲の静的観察によって一意に決定することが不可能であった。したがって、これらの方法では、ロボットは、最初に、動き回り、環境を観察し、確実性が容認可能レベルまで増加するまで、ある位置にあることの確率を更新しなければならない。
また、全地球測位システム(GPS)または外部ビーコン等の外部センサインフラストラクチャを使用して位置特定を実施することが可能性として考えられるが、これは、自律車両またはロボットが、例えば、GPSが拒否される屋内場所においてナビゲートし得る、多くの環境において利用不可能であるため、限定される。カメラもまた、場所認識のために使用され得るが、しかしながら、それらは、好ましくない照明条件下では、より低い性能に悩まされ、暗所で位置特定を実施するためには使用不可能である。
例えば、3D光結像検出および測距(LiDAR)センサを使用する、3D点群内のグローバル位置特定のためのいくつかの方法が、提案されている。グローバル記述子(幾何学情報に基づいて、ローカル走査全体に関する単一統計を算出する)の使用が、点仰角のヒストグラムによって場所を説明するためのものとして公知である。代替方法は、点群を立方体グリッドに分割し、密度関数を計算することによって、記述子を作成するものであって、これは、後にヒストグラムにまとめられる形状を説明する。グローバル記述子に関する1つの問題は、グローバルマップが、軌道に沿った場所の離散セットとして解釈され、各場所が、グラフ状構造を形成する定義された原点を有するという事実である。この場合、可能性として考えられるロボット場所のみが、グラフ頂点内にある。ロボットが、頂点間にある、またはオリジナル軌道からずれているとき、正確な場所は、決定されることができない。
また、点群内の幾何学特徴に基づいて、ローカル記述子を使用して位置特定を実施することが公知である。複数の特徴点が、点群から選択され、(点群より有意に小さい半径の)ローカル記述子が、それらの周囲で計算される。認識が、異なる群間の最も類似する記述子を見出すことによって実施される。本タイプの幾何学的認識プロシージャは、特に、大規模マップに関して、非効率的かつ算出上複雑である。
ローカル幾何学的記述子は、変換および正確な姿勢を取得するために使用されることができるが、本アプローチに基づく位置特定方法は、算出上非効率的であって、リアルタイム用途に好適ではない。グローバル記述子の使用は、次元低減および対応検索のための効率的方法を提供する限りにおいて有用であるが、しかしながら、それらは、相対的変換および姿勢を提供することができない。
GPSインフラストラクチャおよび同等物を伴わずに、かつ任意の照明条件下において、非構造化環境内で迅速に位置特定することが可能である、位置特定のためのより効率的アルゴリズムが、したがって、必要とされる。
さらに、3D LiDAR等のレーザセンサのみを使用して、定常走査から位置特定することが可能であることが有利であろう。
本背景およびそれと関連付けられた問題および難点に照らして、本発明が開発された。
1つの広範な形態では、本発明の側面は、3次元(3D)環境内で位置特定を実施する際に使用するための方法であって、該方法は、1つ以上の電子処理デバイスにおいて、
a)少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、ローカル走査から取得されるローカル点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定することと、
b)強度データを使用して、ローカル点群に関する第1の強度記述子を計算することと、
c)複数の事前に計算された第2の強度記述子を読み出すことであって、該複数の事前に計算された第2の強度記述子は、それぞれが3D環境のマップの個別の部分と関連付けられる、ことと、
d)第1の強度記述子と第2の強度記述子のうちの少なくともいくつかとを比較することと、
e)少なくとも部分的に、比較の結果に従って、マップに対する場所を決定することと
を含む、方法を提供することを模索する。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、ローカル点群内の強度データの分布に関する少なくとも1つの統計的測定値に基づいて、第1の強度記述子を計算することを含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、第1の強度記述子を計算することを含み、該第1の強度記述子を計算することは、
a)ローカル点群を複数の空間的に分散されたローカル点群セグメントに分割することと、
b)各ローカル点群セグメントに対し、ローカル点群セグメント内の強度データの分布に関する統計的測定値に基づいて、第1の強度記述子セグメントを計算することと、
c)各第1の強度記述子セグメントを使用して、第1の強度記述子を計算することと
によって行われる。
一実施形態では、統計的測定値は、複数の強度値のそれぞれの周波数の分布を示す。
一実施形態では、ローカル点群セグメントは、少なくとも部分的に、球状構造を有する。
一実施形態では、ローカル点群セグメントは、
a)複数の同心球状領域と、
b)八分円にセグメント化された少なくとも2つの同心球状領域と
のうちの少なくとも1つを含む。
一実施形態では、外側球状領域の半径は、センサの範囲に基づいており、1つ以上の内側球状領域の半径は、各球状領域が類似数のローカル点群点を含有するように選択される。
一実施形態では、第2の強度記述子は、3D環境のマップに対応する点群内の点と関連付けられた強度データを使用して、事前に計算され、強度データは、少なくとも部分的に、3D環境の事前に実施された走査内の点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいている。
一実施形態では、各第2の強度記述子は、マップの個別の部分に対応する点群の一部の点群セグメントに関して取得される第2の強度記述子セグメントを含む。
一実施形態では、複数の第2の強度記述子は、データ記憶装置内に記憶され、本方法は、1つ以上の電子処理デバイスにおいて、複数の第2の強度記述子をデータ記憶装置から読み出すことを含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、
a)第1の強度記述子と第2の強度記述子を比較することであって、該第1の強度記述子と第2の強度記述子を比較することは、
i)第1の強度記述子セグメントと第2の強度記述子セグメントとを比較することと、
ii)比較の結果に基づいて、類似性値を決定することと
によって行われる、ステップと、
b)類似性値に基づいて、1つ以上の第2の強度記述子を選択することと
を含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、
a)第1の強度記述子と第2の強度記述子との間の各比較に対し、
i)第2の強度記述子の複数の相対的配向を決定すること、
ii)第2の強度記述子の複数の相対的配向の各々に対し、第1の強度記述子セグメントと第2の強度記述子セグメントとを比較することと、
b)各配向に対し、類似性値を決定することと、
c)最小類似性値を決定することと
を含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、第1の強度記述子と個別の第2の強度記述子との間の類似性値を使用して、マップの部分を潜在的場所としてランク付けすることを含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、
a)マップの部分の潜在的場所としてのランク付けに基づいて、選択されたマップの少なくとも一部を使用して、サブマップを生成することと、
b)幾何学的認識をサブマップ内で実施することと
を含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、幾何学的認識を実施することを含み、該幾何学的認識を実施することは、
a)ローカル特徴点をローカル点群から抽出することと、
b)各ローカル特徴点に対し、ローカル幾何学的記述子を計算することと、
c)サブマップ内に含まれるマップの部分と関連付けられたサブマップ特徴点を使用して計算された事前に計算されたサブマップ幾何学的記述子を読み出すことと、
d)ローカル幾何学的記述子とサブマップ幾何学的記述子との間の対応を決定することと、
e)幾何学的一貫性に基づいて、対応をクラスタ化し、1つ以上の候補クラスタを形成することと、
f)各候補クラスタに対し、変換を決定することと
によって行われる。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、
a)最高数の対応を有する候補クラスタを選択することと、
b)選択された候補クラスタ内の対応の数を第1の閾値と比較することと、
c)i)対応の数が第1の閾値を下回る場合、選択された候補クラスタが偽マッチングであることを決定すること、および
ii)対応の数が第1の閾値を上回る場合、選択された候補クラスタが最も可能性が高い場所を示すことを決定することと
のうちの少なくとも1つと
を含む。
一実施形態では、最も可能性が高い場所を示す候補クラスタに関して、本方法は、1つ以上の電子処理デバイスにおいて、変換を精緻化し、ローカル点群とサブマップと関連付けられたサブマップ点群を整合させることを含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、反復最近傍点(ICP)をローカルおよびサブマップ点群の少なくとも一部上で実施し、変換を精緻化し、姿勢を決定することを含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、
a)ローカルおよびサブマップ点群が整合される程度を示す適合性スコアを決定することと、
b)適合性スコアを第2の閾値と比較することと、
c)比較の結果に応じて、場所を選択的に照合することと
を含む。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、新しいサブマップを生成することを含み、該新しいサブマップを生成することは、
a)対応の数が第1の閾値を下回ることと、
b)適合性スコアが第2の閾値を上回ることと
のうちの1つの場合に行われる。
一実施形態では、本方法は、1つ以上の電子処理デバイスにおいて、少なくとも部分的に、マップの部分の潜在的場所としてのランク付けに基づいて選択されたマップの他の部分を使用して、新しいサブマップを生成することを含む。
一実施形態では、本方法は、1つ以上の処理デバイスにおいて、
a)サブマップ内に含まれている潜在的場所の数を決定することと、
b)i)潜在的場所の数が定義された最大値に到達した場合、位置特定方法を終了することと、
ii)潜在的場所の数が定義された最大値を下回る場合、サブマップのサイズを増加させることと
のうちの少なくとも1つと
を含む。
一実施形態では、ローカル走査は、
a)定常走査と、
b)モバイルロボットまたは自律車両と関連付けられたウェイクアップ走査と、
c)ループ閉鎖走査と
のうちの少なくとも1つである。
一実施形態では、少なくとも1つのレーザセンサは、光結像検出および測距(LiDAR)センサである。
一実施形態では、マップの部分は、マッピング軌道に沿ったマップから抽出される。
一実施形態では、マッピング軌道は、事前に定義された長さのセグメントに分割され、マップの各部分は、マッピング軌道の個別のセグメントに沿って進行されるにつれて少なくとも1つのセンサから取得される、点群として定義される。
別の広範な形態では、本発明の側面は、3次元(3D)環境内で位置特定を実施する際に使用するためのシステムであって、該システムは、1つ以上の電子処理デバイスを含み、該1つ以上の電子処理デバイスは、
a)少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、ローカル走査から取得されるローカル点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定することと、
b)強度データを使用して、ローカル点群に関する第1の強度記述子を計算することと、
c)複数の事前に計算された第2の強度記述子を読み出すことであって、該複数の事前に計算された第2の強度記述子は、それぞれが3D環境のマップの個別の部分と関連付けられる、ことと、
d)第1の強度記述子と第2の強度記述子のうちの少なくともいくつかとを比較することと、
e)少なくとも部分的に、比較の結果に従って、マップに対する場所を決定することと
を行うように構成される、システムを提供することを模索する。
一実施形態では、システムは、ローカル走査を実施するように構成される、少なくとも1つのレーザセンサを含む。
一実施形態では、少なくとも1つのセンサは、光結像検出および測距(LiDAR)センサである。
一実施形態では、本システムはさらに、複数の第2の強度記述子を含有するデータ記憶装置を含み、データ記憶装置は、複数の第2の強度記述子を読み出すために、1つ以上の電子処理デバイスによってアクセス可能である。
一実施形態では、少なくとも1つのレーザセンサ、1つ以上の電子処理デバイス、およびデータ記憶装置は、モバイルロボットまたは自律車両にオンボードで位置する。
本発明の広範な形態およびその個別の特徴は、相互互換的におよび/または独立して併用されることができ、別個の広範な形態の参照は、限定することを意図するものではないことを理解されたい。
本発明の非限定的実施例が、ここで、付随の図面を参照して説明されるであろう。
図1は、3D環境内で位置特定を実施する際に使用するための方法の実施例のフローチャートである。
図2は、3D環境内で位置特定を実施する際に使用するためのシステムの実施例の概略図である。
図3は、図2の処理システムの実施例の概略図である。
図4A−4Cは、3D環境内で位置特定を実施する具体的プロセスの実施例のフローチャートを提供する。 図4A−4Cは、3D環境内で位置特定を実施する具体的プロセスの実施例のフローチャートを提供する。 図4A−4Cは、3D環境内で位置特定を実施する具体的プロセスの実施例のフローチャートを提供する。
図5は、ローカル走査と関連付けられた第1の強度記述子を計算する実施例のフローチャートである。
図6Aは、強度記述子の構造の実施例である。
図6Bは、空間的に分散されたセグメントに分割される例示的ウェイクアップ走査の実施例である。
図7は、完全に異なる場所に関する強度記述子間の比較の例示的略図である。
図8は、第1の強度記述子との比較目的のための4つの可能性として考えられる方向に配向される基準フレームを示す、第2の強度記述子の実施例である。
図9は、3D環境のマップの事前処理を実施する実施例のフローチャートである。
図10Aは、実験が実施された敷地の衛星写真である。
図10Bは、マッピング軌道が白色で示される、図10Aの敷地をマッピングすることによって取得される点群の実施例である。
図10Cは、従来における場所の数に対する位置特定成功率のグラフである。
図10Dは、マッピング軌道から異なる距離におけるウェイクアップ場所に関する位置特定成功率のグラフである。
図10Eは、マッピング軌道から異なる距離におけるウェイクアップ場所に関して正常に位置特定するために要求される場所候補の数のグラフである。
図10Fは、伝統的幾何学形状ベースのアプローチのみの使用と比較した、本方法を使用した位置特定に関する算出時間の対数グラフである。
図10Gは、強度ベースの認識を使用してマップから抽出された場所候補を示すことによる、システムを使用して取得される検索空間の低減の実施例を図示する。
3次元(3D)環境内で位置特定を実施する際に使用するための方法の実施例が、ここで、図1を参照して説明されるであろう。
例証目的のために、本方法は、少なくとも部分的に、自律車両またはモバイルロボット(以降、「ロボット」)と関連付けられた1つ以上の処理システムの一部を形成する1つ以上の電子処理デバイスを使用して実施されると仮定される。1つ以上の電子処理デバイスは、データを、ロボットにオンボードで搭載され、ロボットの周囲の走査を実施することが可能である、光結像検出および測距(LiDAR)センサ等の少なくとも1つのレーザセンサから受信するように構成される。
本実施例では、ステップ100において、本方法は、少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、ローカル走査から取得されるローカル点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定するステップを含む。ローカル走査とは、「ウェイクアップ」に応じた、3D環境の一部、例えば、ロボットのすぐ周囲の走査であることを理解されたい。ローカル走査は、ロボットが定常である間に実施され、ロボットが、移動する前に、3D環境内のその位置を決定することを可能にしてもよい。
レーザセンサによって実施されるローカル走査は、ロボットの周囲のローカル点群から成る。ローカル点群は、そこから環境の構造が決定される、空間情報から成る。測距情報に加え、レーザセンサはまた、点毎に、強度の測定値を提供することができ、これは、表面から反射後の戻り強度である。より精密には、強度は、レーザによって放出されたパワーとそれに返されるパワーの比率を指す。用語「強度」は、概して、本開示全体を通して使用されるが、反射率等の関連パラメータもまた、用語「強度」の範囲内に入ると見なされるべきであることを理解されたい。反射率は、センサの固有のパラメータおよび付帯特徴(物体までの距離、入射角、空気密度等)を補償することによって、強度から取得される表面の性質である。
本明細書全体を通して使用されるような用語「determining(〜を決定する)」または「determine(〜を決定する)」等の関連用語の範囲は、必要データまたは情報を「obtaining(取得する)」、「receiving(受信する)」、「calculating(計算する)」、または「driving(導出する)」ことを含むと見なされるものとすることを理解されたい。用語「determining(〜を決定する)」の使用は、したがって、任意の処理がデータを確認するために要求されることを含意するものではない。
ステップ110では、本方法は、強度データを使用して、ローカル点群に関する第1の強度記述子を計算するステップを含む。このように、単一記述子が、データセット(ここでは、約0.5百万点から成り得る、ローカル点群内の各点の強度値)の次元を低減させ、同時に、一意の情報および記述性を維持するために、ローカル点群全体に関して計算される。第1の強度記述子の構造は、下記にさらに詳細に説明されるであろう。
ステップ120では、本方法は、下記にさらに詳細に説明されるであろうように、それぞれ3D環境のマップの個別の部分と関連付けられる、複数の事前に計算された第2の強度記述子を読み出すステップを含む。
第1および第2の強度記述子は、それらが基づく点群をエンコード/説明する、グローバル記述子であることを理解されたい。第1の強度記述子は、ローカル走査から取得されるローカル点群に関するグローバル記述子である。各第2の強度記述子は、マップの個別の部分と関連付けられた点群に関するグローバル記述子である。この点において、下記にさらに説明されるであろうように、3D環境のマップは、それぞれ、マップ上の一意の場所に対応する、複数のより小さい点群にセグメント化される、グローバルマップ(すなわち、グローバル点群)と見なされ得る。
したがって、本方法は、レーザセンサを使用したマッピング演習、例えば、環境のSLAMベースのマッピングにおいて事前に決定されている3D環境の既存のマップ(すなわち、グローバル点群)に依拠することを認識することが重要である。マッピング後、マップは、それぞれ、個別の点群を有する、複数の部分にセグメント化され、第2の強度記述子が、マップの部分またはセグメント毎に決定される。マップの各部分と関連付けられた点群は、原点を部分の中心に有する、「場所」とも称され得る。第2の強度記述子は、データ記憶装置内に記憶され、マップ内で位置特定するために、処理デバイスによってロードされてもよい。
ステップ130では、本方法は、第1の強度記述子と第2の強度記述子のうちの少なくともいくつかを比較するステップを含む。典型的には、これは、ローカル走査の第1の強度記述子とマップから抽出された全ての部分(すなわち、場所)の第2の強度記述子との間で実施される、単純線形対応検索(総当たりアプローチである)。マップ内の全ての部分の第2の強度記述子が、比較において使用されてもよいが、正しい場所が見出されていることの信頼度に到達した場合、全ての第2の強度記述子を使用する前に、比較プロセスを終了するためのアルゴリズムが可能性として考えられ得る。
最後に、ステップ140では、本方法は、少なくとも部分的に、比較の結果に従って、マップに対する場所を決定するステップを含む。比較ステップの出力は、最も確率の高い場所の選択であって、これは、ローカル走査との最高類似性(強度データに基づく)を有するマップの部分に対応する。いくつかの実施例では、強度ベースの認識は、単独で、マップ内の位置特定を達成するために十分であり得る。しかしながら、場所の正確度は、マップのセグメント化の分解能より良好ではないであろうことを理解されたい。より正確な位置および配向(すなわち、姿勢)は、強度記述子の基準フレーム間の回転差異に基づいて推定され得るが、正確度は、依然として、基準フレーム推定の精度に影響を及ぼすであろう群内の雑音のため、限定されるであろう。他の実施例では、幾何学的認識もまた、強度ベースの認識から決定された最も確率の高い場所を使用して実施されてもよい。下記にさらに詳細に説明されるであろうように、幾何学的認識は、点群間の変換を決定し、姿勢の正確な決定を可能にするために使用されてもよい。さらに、幾何学的認識は、強度ベースの認識が正しいことを検証するために使用されてもよい。
上記に説明される方法は、いくつかの利点を提供する。
最初に、本方法は、グローバル位置特定がレーザセンサ(LiDAR等)のみからのデータを使用して実施されることを可能にする。本方法は、カメラ等の付加的センサからの情報に依拠せず、GPSまたはビーコン等の外部センサインフラストラクチャを欠いている非構造化環境内で実施されることができる。実施例として、本方法は、GPSが拒否される、屋内環境内、またはGPSが、深刻な多重経路に悩まされ、使用不可能になる、産業エリア内のナビゲーションのために利用され得る。本方法はまた、例えば、伝統的カメラが非効果的であろう、好ましくない照明条件および暗所下で実施されてもよい。
本方法は、マップに対するローカル走査の最も可能性が高い位置を決定するための強度記述子の使用に起因して、算出上効率的である。このように、強度ベースの認識は、検索空間を、ロボットの位置の「従来(prior)」推定値と称され得る、マップの小部分に低減させるために使用されることが可能である。幾何学的認識が、次いで、膨大な算出複雑性を有する、伝統的幾何学的場所認識アルゴリズムに当てはまる、検索空間全体の代わりに、低減された検索空間上で実施され、正確な姿勢を決定し得る。本方法は、したがって、マップ内の近似場所を決定する、または幾何学的認識のための検索空間を有意に低減させ、正確な姿勢を決定するための迅速かつ効率的方法として使用され得る。
上記に説明される方法は、特に、動作の開始時またはトラックまたは経路を見失った場合の位置特定に有用であり得る。これらのタスクは、通常、ウェイクアップおよび迷子ロボット問題と称される。同様に、本方法は、ロボットが以前に訪問した場所に戻ったかどうかを決定することが望ましい、ループ閉鎖等の他のシナリオにおいて使用されてもよい。有利には、本方法は、動き回り、付加的データを集めることを要求せずに、定常ロボットを位置特定するために使用されることができる。これは、時として、ウェイクアップ時、ロボットが、そうでなければ環境のいくつかの部分(またはそれ自体)を損傷させ得ることから、精密に規定された方向に移動しなければならないため、安全上の理由から重要であり得る。
いくつかのさらなる特徴が、ここで説明されるであろう。
一実施例では、本方法は、1つ以上の電子処理デバイスにおいて、ローカル点群内の強度データの分布に関する少なくとも1つの統計的測定値に基づいて、第1の強度記述子を計算するステップを含む。統計的測定値は、ローカル点群内の強度データの次元を低減させながら、他の強度記述子との比較目的のために、十分な一意の情報および記述性を維持するように選択されなければならない。
この点において、典型的には、本方法は、1つ以上の電子処理デバイスにおいて、ローカル点群を複数の空間的に分散されたローカル点群セグメントに分割することによって、第1の強度記述子を計算するステップを含む。ローカル点群セグメント毎に、本方法はさらに、ローカル点群セグメント内の強度データの分布に関する統計的測定値に基づいて、第1の強度記述子セグメントを計算するステップと、各第1の強度記述子セグメントを使用して、第1の強度記述子を計算するステップとを含む。ローカル点群の構造化された分割は、統計と空間内の場所を関連付けることによって、記述子の一意性を確実にする。
単一統計的記述子は、ローカル点群全体のために使用され得るが、しかしながら、次元低減は、記述子が一意性を喪失する範囲まで大きくなりすぎる可能性が高いであろうことに留意されたい。
一実施例では、統計的測定値は、複数の強度値のそれぞれの周波数の分布を示す。非常にコンパクトな形態において点の分布をエンコードするための1つの方法は、ヒストグラムを使用することである。故に、各第1の強度記述子セグメントは、ローカル点群内の空間の具体的領域内の点の強度のヒストグラムであって、第1の強度記述子全体は、したがって、ヒストグラムのグループであって、これはともに、コンパクトかつ効率的様式において、ローカル点群を一意に説明する。
第1の強度記述子の構造が、ここで、説明されるであろう。典型的には、ローカル点群セグメントは、少なくとも部分的に、球状構造を有する。ローカル点群セグメントは、複数の同心球状領域と、八分円にセグメント化された少なくとも2つの同心球状領域とのうちの少なくとも1つを含む。複数の同心球状領域の場合、記述子は、空間セグメント化を伴わない記述子より良好に性能を発揮するであろうが、しかしながら、原点から同一距離であるが、異なる側上に位置する、類似物体を有する、群を区別することに失敗し得る。球状領域を八分円に分割する(すなわち、球体を半球に分割し、次いで、方位角分割を適用する)ことによって、点群内の「左」、「右」、「上」、および「下」の場所を定義することが可能となる。
一実施例では、外側球状領域の半径は、センサの範囲に基づき、1つ以上の内側球状領域の半径は、各球状領域が類似数のローカル点群点を含有するように選択される。
第1の強度記述子の上記の説明と同様に、第2の強度記述子は、3D環境のマップに対応する点群内の点と関連付けられた強度データを使用して、事前に計算され、強度データは、少なくとも部分的に、3D環境の事前に実施された走査内の点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づくことを理解されたい。さらに、各第2の強度記述子は、マップの個別の部分に対応する点群の部分の個別の点群セグメントに関して取得される、第2の強度記述子セグメントを含む。したがって、第2の強度記述子は、記述子が容易に比較され得るように、第1の強度記述子と同一構造を有することを理解されたい。
典型的には、複数の第2の強度記述子が、データ記憶装置内に記憶され、本方法は、1つ以上の電子処理デバイスにおいて、位置特定方法が実施される度に、複数の第2の強度記述子をデータ記憶装置から読み出すステップを含む。前述のように、第2の強度記述子は、3D環境が、マッピングされ、マップを取得し、離散化が、実施され、そこから記述子が算出される、マップの部分を抽出するときより速く計算される。
典型的には、本方法は、1つ以上の電子処理デバイスにおいて、第1の強度記述子セグメントと第2の強度記述子セグメントを比較することによって、第1の強度記述子と第2の強度記述子を比較するステップと、比較の結果に基づいて、類似性値を決定するステップと、類似性値に基づいて、1つ以上の第2の強度記述子を選択するステップとを含む。一実施例では、本方法は、第1の強度記述子のヒストグラムと各第2の強度記述子の個別のヒストグラムを比較するステップを伴う。個別のヒストグラムは、ヒストグラム間の類似性測定値を提供する、カイ二乗検定を使用して比較されてもよい。全てのヒストグラム比較の平均が、次いで、決定され、強度記述子間の類似性測定値を提供し得る。1つ以上の最も類似する第2の強度記述子が、次いで、類似性値と、必要とされる以前の検索エリアの規模とに基づいて、選択され得る。
点群の基準フレームは、主成分分析(PCA)等の技法を使用して推定されてもよいことを理解されたい。これは、個別の点群の対応する記述子セグメントが比較されていることを確実にするために必要であるため、比較のための重要な考慮点である。PCAは、直交ベクトルを決定し、基準フレームを形成することができるが、ベクトルの符号を決定することができない。本方向曖昧性解消が、したがって、慎重に検討される必要がある。
故に、一実施例では、本方法は、1つ以上の電子処理デバイスにおいて、第1の強度記述子と第2の強度記述子との間の比較毎に、第2の強度記述子の複数の相対的配向を決定するステップと、第2の強度記述子の複数の相対的配向毎に、第1の強度記述子セグメントと第2の強度記述子セグメントを比較するステップとを含む。類似性値が、次いで、配向毎に決定されることができ、最小類似性値が、個別の第1の強度記述子第2の強度記述子との間の類似性の測定値として選択されることができる。
いったん全ての類似性値が決定されると、本方法は、1つ以上の電子処理デバイスにおいて、第1の強度記述子と個別の第2の強度記述子との間の類似性値を使用して、マップの部分を潜在的場所としてランク付けするステップを含む。このように、強度ベースの認識は、ローカル走査に対応するマップから抽出された場所の類似性に基づいて、ランク付けされた順序を決定することが可能である。
低減された検索エリア(すなわち、マップ内のロボットの場所の「従来」推定値)のサイズが、次いで、選択され得、故に、本方法は、1つ以上の電子処理デバイスにおいて、マップの部分の潜在的場所としてのランク付けに基づいて、選択されたマップの少なくとも一部を使用して、サブマップを生成するステップと、幾何学的認識をサブマップ内で実施するステップとを含んでもよい。サブマップまたは「従来値」が、類似性ランク付けに基づいて選択されたマップの部分と関連付けられた点群をマージすることによって形成され得、マップが離散化される程度に応じて、有意な重複が隣接する部分の点群間に存在し得ることを理解されたい。
一実施例では、本方法は、1つ以上の電子処理デバイスにおいて、ローカル特徴点をローカル点群から抽出するステップと、ローカル特徴点毎に、ローカル幾何学的記述子を計算するステップと、サブマップ内に含まれるマップの部分と関連付けられたサブマップ特徴点を使用して計算された事前に計算されたサブマップ幾何学的記述子を読み出すステップと、ローカル幾何学的記述子とサブマップ幾何学的記述子との間の対応を決定するステップと、幾何学的一貫性に基づいて、対応をクラスタ化し、1つ以上の候補クラスタを形成するステップと、候補クラスタ毎に、変換を決定するステップとによって、幾何学的認識を実施するステップを含む。本段階の出力は、マップへの変換を伴う、ローカル走査に関する候補場所のセットである。
サブマップ幾何学的記述子は、3D環境がマッピングされ、データ記憶装置内に記憶された後、マップに関して第2の強度記述子とともに計算されることを理解されたい。幾何学的記述子は、マップから抽出された部分毎に計算され、したがって、マップの部分が、サブマップにマージされると、対応する幾何学的記述子が、幾何学的認識を実施する際に使用するために読み出される。
典型的には、本方法はさらに、1つ以上の電子処理デバイスにおいて、最高数の対応を有する、候補クラスタを選択するステップと、選択された候補クラスタ内の対応の数と第1の閾値を比較するステップと、対応の数が第1の閾値を下回る場合、選択された候補クラスタが偽マッチングであることを決定するステップと、対応の数が第1の閾値を上回る場合、選択された候補クラスタが最も可能性が高い場所を示すことを決定するステップとのうちの少なくとも1つとを含む。対応の数は、したがって、満たされなければならない幾何学特徴に基づく、第1の検証条件であって、そうでなければ、場所(マップの部分)は、正しくないマッチングとして破棄される。
最も可能性が高い場所を示す候補クラスタを決定されたので、本方法は、次いで、典型的には、1つ以上の電子処理デバイスにおいて、変換を精緻化し、ローカル点群とサブマップと関連付けられたサブマップ点群を整合させるステップを含む。一実施例では、これは、反復最近傍点(ICP)プロシージャをローカルおよびサブマップ点群少なくとも一部上で実施し、変換を精緻化し、姿勢を決定することによって達成される。精緻化後、点群は、精密に整合される。ICPが正常に収束する場合、推定される変換行列が出力される。
さらなる検証ステップとして、本方法はさらに、1つ以上の電子処理デバイスにおいて、ローカルおよびサブマップ点群が整合される程度を示す、適合性スコアを決定するステップと、適合性スコアと第2の閾値を比較するステップと、比較の結果に応じて、場所を選択的に照合するステップとを含んでもよい。適合性スコアが、容認可能レベルを超える(すなわち、第2の閾値を上回る)場合、場所は、偽マッチングと見なされる。
偽マッチングは、環境が動的である程度等の複数の理由を有し得る(マッピングの間に見られた物体が、もはや可視ではなくなる場合がある、または移動している場合がある)。加えて、ロボットは、単に、オリジナルマッピング軌道から遠く外れている場合があり、その場合、ローカル走査は、マップから抽出された部分のいずれにも類似し得ない。
典型的には、検証条件のいずれかが失敗する場合、本方法は、サブマップ(すなわち、以前の検索エリア)のサイズを増加させることを試みる。故に、一実施例では、本方法は、1つ以上の電子処理デバイスにおいて、対応の数が第1の閾値を下回ることと、適合性スコアが第2の閾値を上回ることとのうちの1つの場合、新しいサブマップを生成するステップを含む。新しいサブマップは、少なくとも部分的に、マップの部分の潜在的場所としてのランク付け(強度ベースの認識プロシージャから)に基づいて選択されたマップの他の部分を使用して、生成されてもよい。
この点において、ともに組み合わせられ、サブマップまたは従来値を形成すべき、マップの抽出される部分の数の限界が存在することを理解されたい。これに関する1つの理由は、サブマップが増大するにつれて、幾何学的記述子の数も増大し、したがって、位置特定プロシージャがより低速になるためである。システムは、算出複雑性の低減に起因して有利であるが、サブマップは、使用される幾何学的記述子の総量が、伝統的方法(すなわち、マップ全体における幾何学的対応検索に基づく)より長い処理時間をもたらすことがないであろうようなサイズに限定されるべきである。
故に、一実施例では、本方法は、1つ以上の処理デバイスにおいて、サブマップ内に含まれている潜在的場所の数を決定するステップと、潜在的場所の数が定義された最大値に到達した場合、位置特定方法を終了するステップ、および潜在的場所の数が定義された最大値を下回る場合、サブマップのサイズを増加させるステップのうちの少なくとも1つとを含む。
上記に説明される方法では、マップの部分(すなわち、「場所」)は、マッピング軌道に沿ったマップから抽出される。このように、マッピング軌道は、事前に定義された長さのセグメントに分割され、マップの各部分は、マッピング軌道の個別のセグメントに沿って進行されるにつれて少なくとも1つのセンサから取得される、点群として定義される。マップをセグメント化する本方法は、半径ベースのアプローチ等の他の方法よりロバストであることが見出されている。そのようなアプローチは、マップ内の場所を選択するステップと、センサ範囲に基づいて、点群を抽出するステップとに基づく。しかしながら、これは、抽出された走査が、センサにより近い物体によってオクルードされるという事実に起因して、ロボット場所から不可視である点を含有するであろうため、正しくない。軌道に沿った場所を抽出することが、したがって、ロボットが実際にその場所から見え得る特徴のみを含むことから、抽出された場所がローカル走査に対応することを確実にするため、好ましい。
さらなる広範な形態では、3次元(3D)環境内で位置特定を実施する際に使用するためのシステムであって、少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、ローカル走査から取得されるローカル点群内の点から少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定し、強度データを使用して、ローカル点群に関する第1の強度記述子を計算し、それぞれ3D環境のマップの個別の部分と関連付けられる、複数の事前に計算された第2の強度記述子を読み出し、第1の強度記述子と第2の強度記述子のうちの少なくともいくつかを比較し、少なくとも部分的に、比較の結果に従って、マップに対する場所を決定するように構成される、1つ以上の電子処理デバイスを含む、システムが、提供される。
典型的には、本システムは、ローカル走査を実施するように構成される、少なくとも1つのレーザセンサを含む。一実施例では、少なくとも1つのレーザセンサは、光結像検出および測距(LiDAR)センサである。有利には、付加的センサは、完全グローバル位置特定を達成するために要求されない。
一実施例では、本システムはさらに、複数の第2の強度記述子を含有するデータ記憶装置を含み、データ記憶装置は、複数の第2の強度記述子を読み出すために、1つ以上の電子処理デバイスによってアクセス可能である。
好ましくは、少なくとも1つのレーザセンサ、1つ以上の電子処理デバイス、およびデータ記憶装置は、モバイルロボットまたは自律車両にオンボードで位置する。しかしながら、他の配列では、処理デバイスは、要求される第2の強度記述子を読み出すために、遠隔データ記憶装置と無線で通信してもよい。
3D環境内で位置特定を実施する際に使用するためのシステムの実施例が、ここで、図2を参照して説明されるであろう。
本実施例では、システム200は、自律車両またはロボット205にオンボードで位置する、少なくとも1つの電子処理デバイス210を含む。電子処理デバイス210は、データ記憶装置230に結合され、これは、グローバル点群、マッピング軌道、第2の強度記述子、およびマップと関連付けられた幾何学的記述子等のマップ情報を含有する。レーザセンサ220は、ロボット205にオンボードで搭載され、ロボット205を囲繞する環境の走査を実施するように構成される。一実施例では、レーザセンサは、Velodyneによって生産されたVLP−16 3D LiDAR等の3D LiDARセンサである。センサから取得される情報を増加させるために、センサは、垂直軸を中心として回転するように搭載されてもよく、さらに、センサは、垂直から45度の角度で傾斜されてもよい。一実施例では、ローカル走査は、上記に説明されるセンサの2回転によって生成された点群と見なされる。
電子処理デバイス210の実施例は、図3に示される。本実施例では、処理デバイス210は、示されるように、少なくとも1つのマイクロプロセッサ300と、メモリ301と、キーボードおよび/またはディスプレイ等の随意の入力/出力デバイス302と、バス304を介して相互接続される、外部インターフェース303とを含む。本実施例では、外部インターフェース303は、処理デバイス210を通信ネットワーク、データ記憶装置230、他の記憶デバイス、または同等物等の周辺デバイスに接続するために利用されることができる。単一外部インターフェース303が、示されるが、これは、実施例のみの目的のためのものであって、実際は、種々の方法(例えば、Ethernet(登録商標)、シリアル、USB、無線、または同等物)を使用する、複数のインターフェースが、提供されてもよい。
使用時、マイクロプロセッサ300は、メモリ301内に記憶されるアプリケーションソフトウェアの形態における命令を実行し、データ記憶装置230と通信し、第2の強度記述子およびマップの抽出された部分と関連付けられた幾何学的記述子を読み出すステップと、強度データおよび測距データを含む、センサデータをレーザセンサ220から受信するステップと、強度ベースの認識および幾何学的認識を実施するステップとを含む、要求されるプロセスが実施されることを可能にする。アプリケーションソフトウェアは、1つ以上のソフトウェアモジュールを含んでもよく、オペレーティングシステム環境または同等物等の好適な実行環境内で実行されてもよい。
故に、電子処理デバイス210は、ロボット205にオンボードで搭載される、好適にプログラムされるコンピュータシステム、PC、ラップトップ、またはスマートフォン、タブレット、または同等物等のハンドヘルドPC等の任意の好適な処理システムから形成されてもよいことを理解されたい。1つの特定の実施例では、電子処理デバイス210は、不揮発性(例えば、ハードディスク)記憶装置上に記憶されるソフトウェアアプリケーションを実行する、Intelアーキテクチャベースの処理システム等の標準的処理システムであるが、これは、不可欠ではない。しかしながら、また、処理システムは、マイクロプロセッサ、マイクロチッププロセッサ、論理ゲート構成、FPGA(フィールドプログラマブルゲートアレイ)等の論理を実装することと随意に関連付けられるファームウェア、または任意の他の電子デバイス、システム、または配列等の任意の電子処理デバイスであり得ることを理解されたい。
3D環境内で位置特定を実施する際に使用するための具体的プロセスが、ここで、図4A−4Cを参照して説明されるであろう。本フローチャートに説明されるプロセスは、強度ベースの場所認識を伴う、第1の段階と、強度ベースのマッチングの正しさを検証し、また、所望の変換および姿勢を提供するための幾何学的場所認識を伴う、第2の段階とを含む、好ましい2段階位置特定パイプラインを説明する。
プロセスは、ステップ400から開始し、環境のローカル走査が、3D LiDARセンサを使用して実施される。ローカル走査は、その場所についての以前の情報を伴わない環境内における、ウェイクアップまたは初期化に応じてロボットによって実施される、「ウェイクアップ」走査であってもよい。ローカル走査は、センサが見え得る全ての点を備える、ローカル3D点群を生産する。
ステップ405では、ローカル点群内の全ての点の強度に対応する強度データが、決定される。前述のように、本情報は、走査されている表面の反射率特性に依存する、レーザの戻りの強度の測定値に対応する。したがって、強度データは、ロボットが位置する環境を高度に説明する。一実施例では、強度データは、単に、センサから到着するメッセージから読み取られる。
ステップ410では、第1の強度記述子が、ローカル点群内の点の強度データを使用して計算される。本強度記述子は、同心球体に半径方向に分割され、次いで、半球に水平にセグメント化され、次いで、90度毎に方位角方向に沿ってさらにセグメント化される、球体から成る。結果として生じる記述子は、16の空間的に分散されたセグメントを有する。16のセグメントのそれぞれに入る点の強度のヒストグラムが、次いで、第1の強度記述子が強度の16のヒストグラムから成るように計算される。ヒストグラムの使用は、データセットの次元を低減させる一方、記述子の構造化された分割は、統計と空間内の場所を関連付けることによって、一意性を維持する。強度記述子の構造の実施例は、図6Bに示される空間的に分散されたセグメントに分割される、例示的ウェイクアップ走査とともにする、図6Aに示される。
ステップ415では、ローカル幾何学的記述子が、計算された。これを達成するために、点群は、最初に、ダウンサンプリングされ、群の密度を低減させ、次いで、外れ値が、記述子に及ぼす雑音の影響を最小限にするように除去される。特徴点が、次いで、ランダム選択に基づいて、点群から抽出され、その周囲で幾何学的記述子が算出される、点を形成する。群内の全ての点の正規点が、次いで、算出され、最後に、記述子が、計算される。好適な幾何学的記述子は、SHOT記述子と称され、これは、配向のヒストグラムのシグネチャを現し、雑音に対してロバストである一方、同時に、高度に記述的である。SHOT記述子は、球状支持構造を有し、これは、32の空間的に分散されたセグメントに分割される。セグメント毎に、正規点のヒストグラムが、計算され、これは、ロバスト性を与え、加えて、各セグメントの空間場所が、固定され、これは、記述性を確実にする。しかしながら、SHOT記述子は、使用され得るローカル記述子の例示的実施例であって、任意の他のローカル記述子が、当業者によって理解されるであろうように使用されてもよいことを理解されたい。
ステップ420では、可能性として考えられる場所候補の数が、「n」に設定される。最初に、「n」は、1と等しく、これは、最も類似する強度ベースの場所候補が、幾何学的認識が実施される、「従来値」またはサブマップを形成するために使用されることを意味する。
ステップ425では、複数の第2の強度記述子が、データ記憶装置から読み出され、プロセッサのメモリの中にロードされる。
ステップ430では、第1の強度記述子が、第2の強度記述子に対して比較される。これは、第1の強度記述子のセグメント毎の強度のヒストグラムと、第2の強度記述子の各対応するセグメントの強度のヒストグラムを比較することによって達成される。個別のヒストグラムが、カイ二乗検定を使用して比較される。
式中、SAB =記述子Aのi番目のセグメントのヒストグラムと記述子Bのi番目のセグメントのヒストグラムとの間の類似性値であって、記述子A=第1の強度記述子であって、記述子B=第2の強度記述子であって、k=ヒストグラムのビンの数であって、m=ヒストグラム内のビンの数であって、A(k)=記述子Aのk番目のビンの値であって、B(k)=記述子Bのk番目のビンの値である。
比較の出力は、類似性値SAB である。2つの記述子の類似性メトリックSABが、全てのセグメントのカイ二乗検定の結果の平均として取得される。異なる場所における2つの強度記述子に関するヒストグラム間の比較の視覚的例証が、図7に示される。第1の場所「2」は、建物を伴う構造化された環境を示す、稠密群に対応する。第2の場所「917」は、木々および灌木を伴う非構造化環境を示す、疎密群に対応する。
さらに、典型的には、基準フレームが、主成分分析(PCA)を使用して、強度記述子に関して算出されることに留意されたい。基準フレームを構成するベクトルの符号を決定することが不可能であるため、これは、記述子の対応するセグメントのヒストグラムが相互に比較されていることを確実にするために考慮されなければならない。第1の強度記述子は、したがって、各第2の強度記述子の4つの異なるバージョンと比較される。異なるバージョンによって、図8に示されるように、記述子の基準フレームの異なる配向を検討することによって取得される、セグメントの異なるシーケンスが、理解されるはずである。本方法は、本質的に、基準フレーム配向の全4つの組み合わせが、可能性として考えられると仮定する。類似性値SABが、4つの比較毎に決定され、記述子間の類似性の全体的測定値が、以下のように定義される。
ステップ435では、「n」個の最も類似する場所候補が、比較の結果に従って(すなわち、記述子間の類似性メトリックに基づいて)選択される。場所候補は、ステップ440において、個別の場所の点群を組み合わせることによって、サブマップまたは「従来値」にマージされる。
ステップ440では、サブマップ幾何学的記述子が、データ記憶装置から読み出され、サブマップ幾何学的記述子は、「従来値」におけるマップの部分毎に決定された幾何学的記述子に基づく。
ステップ450では、幾何学的対応が、決定される。各サブマップ幾何学的記述子は、ローカル走査から取得される各ローカル幾何学的記述子に対してクエリされる。
サブマップ内の特徴点毎に、1つのみの特徴点が、ローカル走査から選択される(最も類似する)。類似性レベルが定義された閾値を下回らなければならないという、付加的制約が、課される。kd−ツリーが、記述子の寸法の数に一致する次元を伴う検索方法として使用される。
出力は、単一の最近傍値であって、これは、その類似性が述べられた閾値を下回る場合、対応する点と見なされる。対応は、対の特徴点のインデックスを記憶する、ベクトルにまとめられる。一般に、ローカル走査における単一特徴点は、サブマップ内のいくつかの対応する特徴点を有することができ、これは、複数のインスタンスの可能性を含む。類似性閾値は、したがって、その値が認識の厳密性に影響を及ぼすため、重要である。それを増加させることによって、システムは、場面の変化に対してあまり保守的ではなく、雑音に対してよりロバストになる一方、大きすぎる値は、偽マッチングをもたらすであろう。平衡パラメータは、実験的に見出されなければならない。
ステップ455では、対応は、幾何学的一貫性に基づいてクラスタ化される。対応検索ステップの結果は、サブマップ内の点とローカル走査内のそれらとの間のマッチングのセットとなる。見出される対応がローカル走査の実際のインスタンスに属することを確実にするために、幾何学的制約が、それらに課される。基本仮定は、群内の点が、強固に結合されるというものである。これは、特徴点が幾何学的一貫性基準を満たすセットにクラスタ化されることを可能にする。本条件によって、サブマップ内の2つの点が、その減算の2−ノルムとローカル走査内の対応する点の減算の2−ノルムとの間の差異が、定義されたコンセンサス閾値より小さい場合、幾何学的に一貫すると見なされる。幾何学的一貫性コンセンサスは、システムの別の重要なパラメータである。経験則として、これは、ダウンサンプリング後、群の分解能より大きくなければならない(点場所の差異は、分解能に到達し得る)。しかし、特徴点は、両群において正確に同一位置にあることが保証されないため(ダウンサンプリングによって選択されるため)、かつ雑音のため、コンセンサス値は、より大きくあるべきである(いくつかの群分解能)。
加えて、最小数の対応に関して、それを下回るとクラスタが破棄されるという条件が存在する。その後、RANSACアルゴリズムが、矛盾した対応をさらに排除するために使用される。候補クラスタのセットが、次いで、ステップ460において、上記の制約が対応に課された後、決定される。
ステップ465では、候補クラスタ毎に、変換行列が、絶対配向アルゴリズムを使用して算出され、姿勢を取得する。本変換は、点群全体ではなく、特徴点のセットの相対的場所に基づいて推定され、正確度は、クラスタ内の特徴点の量に依存することに留意することが重要である。本段階の出力は、サブマップへの変換を伴う、ローカル走査に関する候補場所のセットとなる。
ステップ470では、最高数の対応を有する候補クラスタが、最も可能性が高い場所候補として選択される。
ステップ475では、検証が、2ステッププロセスにおいて実施される。最初に、最も可能性が高い場所候補内の対応の数が、定義された閾値と比較される。対応の数は、閾値より大きくなければならず、そうでなければ、場所候補は、偽マッチングとして破棄される。
最も可能性が高い場所の取得される変換行列が、次いで、反復最近傍点(ICP)アルゴリズムを使用して精緻化される。ICPは、サブマップおよびローカル走査内の最高数の対応を伴う、クラスタの各点に適用される。精緻化後、点群は、精密に整合される。ICPが、正常に収束する場合、推定された変換行列が出力される。
加えて、ICPは、適合性スコア、すなわち、点群が整合される程度のメトリックを出力する。これは、適合性スコアが容認可能レベルを超える(定義された閾値を上回る)かどうかをチェックする、第2の検証条件の一部を形成する。該当する場合、場所は、偽マッチングと見なされる。
ステップ480では、本方法は、上記の述べられた検証条件が満たされたかどうかをチェックする。それらが満たされた場合、ロボットは、位置特定されたと見なされ、本方法は、ステップ485において終了する。一方または両方の検証条件が満たされない場合、ステップ490において、本方法は、従来値に関する最大数の場所候補「n」に到達したかどうかをチェックする。該当する場合、さらなる検索は、実施されず、アルゴリズムは、ステップ496において終了し、場所を見出すことが、不可能であると見なされる。そうでなければ、従来値のサイズが、ステップ495において増加され、サブマップが、さらなる場所候補を検討することによって拡張され、本方法は、ステップ435に戻る。
ローカル走査と関連付けられた第1の強度記述子を計算する実施例のフローチャートが、ここで、図5を参照して説明されるであろう。
本実施例では、ステップ500において、ローカル点群内の点の強度データが、3D LiDAR走査から決定される。
ステップ510では、ローカル点群が、例えば、図6Aに示されるように、複数の空間的に分散されたローカル点群セグメントに分割される。各点群セグメント内の点の強度分布に関する統計的測定値が、次いで、ステップ520において計算される。好ましい実装では、強度のヒストグラムは、点群セグメント毎に決定され、これは、ステップ530において、第1の強度記述子セグメントを形成する。他の実施例では、代替統計的測定値は、例えば、点群セグメント内の点の強度値の平均または強度値の分散値が、使用されてもよい。
最後に、第1の強度記述子セグメントが、ステップ540において、第1の強度記述子を定義するために使用される。ヒストグラムが、使用されるとき、第1の強度記述子は、強度のあるグループのヒストグラムを定義し、これは、コンパクトかつ一意の形態におけるローカル走査の出現を特徴付ける。
マップの事前処理を実施する方法の実施例のフローチャートが、ここで、図9を参照して説明されるであろう。
本実施例では、ステップ900において、マップが、3D LiDARセンサが走査する間、自律車両またはロボットを3D環境内で動き回らせることによって取得される。SLAMアルゴリズムが、環境のマップを取得するために使用されてもよい。
マッピング軌道もまた、記録され、ステップ910において、本方法は、マッピング軌道を取得するステップを含む。ステップ920では、マップの部分が、マッピング軌道に沿って抽出される。抽出は、距離に基づき、故に、マップは、軌道を長さ「l」(例えば、l=2m)のチャンクにセグメント化し、点群をチャンクの中央に位置する群の原点を伴う各チャンクに沿って可視の全ての点から作成することによって、分割される。
ステップ930では、強度データが、各抽出された部分の群内の点(前述のように、「場所」としても知られる)に関して決定される。
ステップ940では、第2の強度記述子が、第1の強度記述子に関して前述の同一技法を使用して、抽出された部分毎に計算される。幾何学的記述子もまた、ステップ950において、ローカル幾何学的記述子のために使用される前述の技法(ダウンサンプリング、外れ値除去、特徴点選択、正規値算出等)を使用して、抽出された部分毎に計算される。最後に、ステップ960では、マップから抽出された部分毎の第2の強度記述子は、位置特定において使用するための電子処理デバイスによる後続読出のために、データ記憶装置内に記憶される。
(実験および検証)
実験が、Brisbane(Australia)におけるQueensland Centre for Advanced Technologiesの敷地内で、システムを検証するために行われた。マークされたウェイクアップ場所とともに、試験環境の衛星写真が、図10Aに示される。エリア全体が、SLAMアルゴリズムを使用してマッピングされ、これは、lマップ(すなわち、グローバル点群)および図10Bに示される対応するマッピング軌道をもたらした。
試験環境は、複数の特性を有する。建物等の完全に構造化された性質の場所と、木々または灌木から成る完全に非構造化された領域とが、存在する。明らかに、両タイプの要素を含有するエリアと、構造化および非構造化周囲の組み合わせも、存在する。加えて、異なる場所に関する点の空間分布もまた、マップ全体を通して有意に変動する。建物間のスポットは、通常、非常に制限され、緊密であって、これは、そこで取得される走査が、膨大な量の点を含有することを防止するが、通常、非常に一意かつ容易に区別可能である。他方では、また、散在する木々および灌木のみを伴う、開放空間場所も存在し、これは、有意に明確に異なる特徴を欠いているが、多くの場合、多くの点(地面からの反射として測定される)を含有する。その全てが、敷地を、特に、LiDARデータのみに基づくべきであるという要件を伴う認識にとって、非常に困難である環境にする。
システムを検証するために、種々のウェイクアップ走査(すなわち、ローカル走査)のセットが、生成された。全体として、101カ所の場所が、敷地を横断して試験され、それらは全て、図10Aに見られ得る。気付かれ得るように、点は、マップの周囲に非常に均一に分散され、これは、種々の場所の特性を保ち、結果の統計的有意性を確実にする。さらに、走査は、改変に対するロバスト性を立証するために、オリジナルマッピング軌道からの異なる距離において生成された。また、重要なこととして、セット全体が複数の日にわたって生成されたことを述べておく。これは、種々の光条件および温度が存在し、強度ベースの記述子に及ぼすその影響の立証を可能にしたことを意味する。
マップが、前述の方法に従って、場所のセットに分割された。軌道は、約4km長であって、したがって、連続群の分解能は、2mに設定され、マップは、2,055カ所の場所に分割された。
システムの検証は、多特性環境内の認識の成功率を確立することに基づく。提案されるシステムでは、認識は、アルゴリズムが、古典的幾何学形状ベースのアプローチより高速で正しい姿勢を見出すことができる場合、成功と見なされる。以下の節では、幾何学形状ベースのみのパイプラインは、古典的アプローチと称されるであろう一方、2段階強度および幾何学ベースの認識は、組み合わせられたパイプラインと称されるであろう。より具体的には、場所は、正しさ(すなわち、検証)条件が前述で定義されたように満たされる場合、正しいマッチングとみなされる。本基準のためのパラメータは、種々の実験を実施することによって調節された。
走査のうちのいくつかに関して、正しさが、直接、見出された姿勢をナビゲーションパイプラインに対して解析することによって、評価された。プロシージャが、開始し得る(正しい整合)場合、姿勢が正常に見出されたことを意味する。しかしながら、大部分の場合、グローバル位置特定試験は、両パイプラインが同時に展開され、通常、相互試験を実施することが不可能であるという事実に起因して、ナビゲーションと別個に行われた。
そのような場合、認識は、最初に、古典的アプローチ(すなわち、単一群としてのマップ内の位置特定)を使用して実施され、その結果は、グラウンドトゥルースとして処理された。組み合わせられたパイプラインが、同一座標の場所(ノルム<1mの許容可能誤差を伴う)を見出した場合、場所は、正しいと見なされた。
走査のうちのいくつか(全体として、セット全体のうち8つ)に関して、単一群から成るマップ内の幾何学形状ベースの位置特定は、失敗した。そのような状況では、古典的アプローチのパラメータは、変更された(すなわち、ダウンサンプリングの分解能が、より多くの記述子を取得するように増加された)。5つの場所に関して、変更されたパラメータは、有用ではなく、幾何学形状ベースのみのアプローチは、失敗した。これらの場合では、組み合わせられたアプローチの正しさは、マップ内の見出された場所の位置および点群の整合の外観検査によって推定された。
組み合わせられたパイプラインの性能が、古典的アプローチより高速であることを確実にするために、従来値を形成する場所の最大量は、49に限定された。この数もまた、古典的アプローチの50%より短い処理時間を保つように実験的に確立された。しかしながら、実験が示すように、25カ所を上回る場所の従来値の拡張は、正しい姿勢を見出す尤度の増加をもたらさなかった。
全体として、システムは、非常に成功することが証明され、全体的成功率は、97%に到達した。そのような高率は、ロバストなアルゴリズム構造、すなわち、幾何学形状ベースの検証が認識を確実にしない場合における従来値(すなわち、場所候補の数)を増加させる可能性から生じる。図10Cに示されるプロットは、全体的位置特定成功率に及ぼす従来値サイズの増加の効果を可視化する。本グラフでは、次の従来値サイズの成功率は、前の従来値サイズおよび従来値サイズを増加させることによって認識された付加的場所からの成功率から成る。全ての実験の結果が、プロットされる(すなわち、101カ所のウェイクアップ場所)。
大部分(82%)の場合、システムは、1つのみの場所を使用して、正しく位置特定することが可能であった。プロットから明確に分かり得るように、5カ所から25カ所の場所への従来値サイズの増加は、成功率を増加させるが、しかしながら、従来値サイズのさらなる増加は、認識における任意のさらなる改良を提供しないことが示された(その一方で、不可避的に処理時間の低下をもたらす)。
多くのグローバル位置特定アルゴリズムでは、ロボットが「その場所を再訪問している」(すなわち、現在見え得る場所は、以前にすでに訪問している)という仮定が根本にある。これは、認識能力が、軌道の直近傍に限定されることを意味する。提案されるアルゴリズムは、汎用性であって、ある程度まで、軌道までのランダム距離において、ロボットの場所を取り扱うことができる。システムは、軌道から最大5メートルにあるロボットに対処することができ、これは、マッピング経路の周囲の10m幅の半径内に位置し、依然として、ロバストに位置特定することができることを意味する。加えて、さらなる距離に関して、成功率は、70%の満足の行くレベルのままである。これは、優れた結果であって、システムのロバスト性を実証する。
図10Dを参照すると、軌道からの異なる距離に関する位置特定の成功率のグラフが、示される。棒グラフは、マッピング軌道に対する異なる距離範囲におけるウェイクアップ場所の割合を描写する。図10Eでは、マッピング軌道から異なる距離における正常位置特定に対する場所候補の要求される数(従来値サイズの分布)のグラフが、示される。
予期されるはずであるように、軌道からの増加された距離に伴って、強度ベースの認識の確実性は、減少する。これは、ロボットにオリジナル軌道から不可視の物体が見え得るという事実によって生じる。加えて、マッピング経路から遠く外れると、同一物体は、異なる入射角から可視となり、補償されないため、不確実性を強度ヒストグラムの中に導入する。ロボットが、軌道からより遠くなると、より大きい従来値が、検討される必要があることが、必然的に明らかである。その理由のうちの1つは、軌道から外れた場所から完全に可視である物体が、軌道上の種々の場所から部分的にのみ可視であるためである。したがって、部分的ビューを組み合わせることによって、幾何学形状ベースの位置特定の実施成功のために十分な情報を含有する、群を作成することが可能である。
加えて、従来値サイズを増加させる必要性は、軌道に近接する走査例が少ない場合にも生じることに留意されたい。これは、環境が、動的であって、マッピングの間に不可視であったいくつかの物体が、ウェイクアップ時に生じ得るという事実によって生じる。これは、強度ベースの認識確実性の低減をもたらす。他方では、これは、従来値サイズ拡大機能性の必要性の別の正当性であって、これは、アルゴリズムが環境の動的変化に対処することを可能にする。
システムの開発の最も重要な誘因のうちの1つは、処理時間の低減に関する要件であった。古典的アプローチでは、対応が、グローバルマップ点群全体において検索されるとき、プロセスは、容認不可能な時間量を要する。群の特性に応じて(建物の場合、構造化され、コンパクトである、または開放空間/低草原地帯に関して、非構造化され、広大である)、検索は、3〜20分を要し得る。あるタスクを実施する必要がある、多目的車両に関して、動作の開始のためにそのように長時間待機することは、容認不可能である。
提案されるアルゴリズムは、時間要件に完璧に適応する。強度ベースの従来値を用いることで、検索空間の限界は、膨大になる(例えば、図10Gに示されるように)。古典的アプローチおよび組み合わせられたアプローチを使用した処理時間の比較は、図10Fに示される。大部分の場合における時間低減は、約99%に到達することが、明確に顕著である(垂直軸は、対数である)。25カ所の場所から成る従来値の場合のみ、低減は、悪化するが、依然として、約90%を達成する。結果は、非常に満足の行くものであって、大部分の場合、ソリューションは、リアルタイムグローバル位置特定アルゴリズムと見なされ得ることが証明される。
故に、少なくとも一実施例では、上記に説明される方法およびシステムは、グローバル位置特定を実施する際に使用するための効率的アルゴリズムを提供し、いくつかの実施例では、ロボットが、任意の以前の知識を伴わずに、既知のマップ内でその姿勢を推定する必要がある、ウェイクアップまたは迷子ロボット問題に対する効率的ソリューションを提供することを理解されたい。しかしながら、前述から、システムは、ループ閉鎖および同等物等のグローバル位置特定を要求する他の用途においても使用を見出し得ることを理解されるであろう。システムは、任意の外部ビーコン、GPS、IMUデータ、または同等物に依存せずに、オンボード3D LiDARセンサのみから取得されるデータを使用して、グローバル位置特定を実施することが可能である。本明細書に提示される2段階位置特定パイプラインは、新規強度ベースの記述子を使用して、ロボットの位置の従来推定値を決定し、その後、幾何学形状ベースの立証が続き、これは、姿勢および強度ベースのマッチングの正しさを決定するために実施される。プロシージャ全体は、完全に定常のロボットによって実施されてもよく、位置推定のための運動を要求しない。実験データは、方法およびシステムが、環境の変化にロバストであることを示し、システムが、実世界状況における自律的ナビゲーションに適用可能であることを示す。
本明細書および続く請求項全体を通して、文脈によって別様に要求されない限り、単語「comprise(〜を備える)」および「comprises(〜を備える)」または「comprisimg(〜を備える)」等の変形例は、述べられた整数または整数またはステップのグループの含有を含意するが、任意の他の整数または整数のグループを除外しないものと理解されるであろう。
当業者は、多数の変形例および修正が明白となるであろうことを理解されるであろう。当業者に明白となる、全てのそのような変形例および修正は、広範に現れる本発明が前述に説明した精神および範囲内に入ると見なされるべきである。

Claims (31)

  1. 3次元(3D)環境内で位置特定を実施する際に使用するための方法であって、前記方法は、1つ以上の電子処理デバイスにおいて、
    a)少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、前記ローカル走査から取得されるローカル点群内の点から前記少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定することと、
    b)前記強度データを使用して、前記ローカル点群に関する第1の強度記述子を計算することと、
    c)複数の事前に計算された第2の強度記述子を読み出すことであって、前記複数の事前に計算された第2の強度記述子は、それぞれが前記3D環境のマップの個別の部分と関連付けられる、ことと、
    d)前記第1の強度記述子と前記第2の強度記述子のうちの少なくともいくつかとを比較することと、
    e)少なくとも部分的に、前記比較の結果に従って、前記マップに対する場所を決定することと
    を含む、方法。
  2. 前記方法は、前記1つ以上の電子処理デバイスにおいて、前記ローカル点群内の強度データの分布に関する少なくとも1つの統計的測定値に基づいて、前記第1の強度記述子を計算することを含む、請求項1に記載の方法。
  3. 前記方法は、前記1つ以上の電子処理デバイスにおいて、前記第1の強度記述子を計算することを含み、前記第1の強度記述子を計算することは、
    a)前記ローカル点群を複数の空間的に分散されたローカル点群セグメントに分割することと、
    b)各ローカル点群セグメントに対し、前記ローカル点群セグメント内の強度データの分布に関する統計的測定値に基づいて、第1の強度記述子セグメントを計算することと、
    c)各第1の強度記述子セグメントを使用して、前記第1の強度記述子を計算することと
    によって行われる、請求項2に記載の方法。
  4. 前記統計的測定値は、複数の強度値のそれぞれの周波数の分布を示す、請求項2または請求項3に記載の方法。
  5. 前記ローカル点群セグメントは、少なくとも部分的に、球状構造を有する、請求項4に記載の方法。
  6. 前記ローカル点群セグメントは、
    a)複数の同心球状領域と、
    b)八分円にセグメント化された少なくとも2つの同心球状領域と
    のうちの少なくとも1つを含む、請求項5に記載の方法。
  7. 外側球状領域の半径は、前記センサの範囲に基づいており、1つ以上の内側球状領域の半径は、各球状領域が類似数のローカル点群点を含有するように選択される、請求項6に記載の方法。
  8. 前記第2の強度記述子は、前記3D環境のマップに対応する点群内の点と関連付けられた強度データを使用して、事前に計算され、前記強度データは、少なくとも部分的に、前記3D環境の事前に実施された走査内の前記点群内の点から前記少なくとも1つのレーザセンサに返される放射のパワーに基づいている、前記請求項のいずれか1項に記載の方法。
  9. 各第2の強度記述子は、前記マップの個別の部分に対応する前記点群の一部の点群セグメントに関して取得される第2の強度記述子セグメントを含む、請求項8に記載の方法。
  10. 前記複数の第2の強度記述子は、データ記憶装置内に記憶され、前記方法は、前記1つ以上の電子処理デバイスにおいて、前記複数の第2の強度記述子を前記データ記憶装置から読み出すことを含む、請求項9に記載の方法。
  11. 前記方法は、前記1つ以上の電子処理デバイスにおいて、
    a)前記第1の強度記述子を第2の強度記述子と比較することであって、前記第1の強度記述子を第2の強度記述子と比較することは、
    i)前記第1の強度記述子セグメントと前記第2の強度記述子セグメントとを比較することと、
    ii)前記比較の結果に基づいて、類似性値を決定することと
    によって行われる、ことと、
    b)前記類似性値に基づいて、1つ以上の第2の強度記述子を選択することと
    を含む、請求項9または請求項10に記載の方法。
  12. 前記方法は、前記1つ以上の電子処理デバイスにおいて、
    a)前記第1の強度記述子と第2の強度記述子との間の各比較に対し、
    i)前記第2の強度記述子の複数の相対的配向を決定することと、
    ii)前記第2の強度記述子の複数の相対的配向の各々に対し、前記第1の強度記述子セグメントと前記第2の強度記述子セグメントとを比較することと、
    b)各配向に対し、類似性値を決定することと、
    c)最小類似性値を選択することと
    を含む、請求項11に記載の方法。
  13. 前記方法は、前記1つ以上の電子処理デバイスにおいて、前記第1の強度記述子と個別の第2の強度記述子との間の類似性値を使用して、前記マップの部分を潜在的場所としてランク付けすることを含む、請求項11または請求項12に記載の方法。
  14. 前記方法は、前記1つ以上の電子処理デバイスにおいて、
    a)前記マップの部分の潜在的場所としてのランク付けに基づいて選択された前記マップの少なくとも一部を使用して、サブマップを生成することと、
    b)幾何学的認識を前記サブマップ内で実施することと
    を含む、請求項13に記載の方法。
  15. 前記方法は、前記1つ以上の電子処理デバイスにおいて、前記幾何学的認識を実施することを含み、前記幾何学的認識を実施することは、
    a)ローカル特徴点を前記ローカル点群から抽出することと、
    b)各ローカル特徴点に対し、ローカル幾何学的記述子を計算することと、
    c)前記サブマップ内に含まれる前記マップの部分と関連付けられたサブマップ特徴点を使用して計算された事前に計算されたサブマップ幾何学的記述子を読み出すことと、
    d)ローカル幾何学的記述子とサブマップ幾何学的記述子との間の対応を決定することと、
    e)幾何学的一貫性に基づいて、対応をクラスタ化し、1つ以上の候補クラスタを形成することと、
    f)各候補クラスタに対し、変換を決定することと
    によって行われる、請求項14に記載の方法。
  16. 前記方法は、前記1つ以上の電子処理デバイスにおいて、
    a)最高数の対応を有する候補クラスタを選択することと、
    b)前記選択された候補クラスタ内の対応の数を第1の閾値と比較することと、
    c)i)対応の数が前記第1の閾値を下回る場合、前記選択された候補クラスタが偽マッチングであることを決定すること、および
    ii)対応の数が前記第1の閾値を上回る場合、前記選択された候補クラスタが最も可能性が高い場所を示すことを決定すること
    のうちの少なくとも1つと
    を含む、請求項15に記載の方法。
  17. 最も可能性が高い場所を示す前記候補クラスタに関して、前記方法は、前記1つ以上の電子処理デバイスにおいて、前記変換を精緻化し、前記ローカル点群と前記サブマップと関連付けられたサブマップ点群とを整合させることを含む、請求項16に記載の方法。
  18. 前記方法は、前記1つ以上の電子処理デバイスにおいて、反復最近傍点(ICP)を前記ローカルおよびサブマップ点群の少なくとも一部上で実施し、前記変換を精緻化し、姿勢を決定することを含む、請求項17に記載の方法。
  19. 前記方法は、前記1つ以上の電子処理デバイスにおいて、
    a)前記ローカルおよびサブマップ点群が整合される程度を示す適合性スコアを決定することと、
    b)前記適合性スコアを第2の閾値と比較することと、
    c)前記比較の結果に応じて、前記場所を選択的に照合することと
    を含む、請求項18に記載の方法。
  20. 前記方法は、前記1つ以上の電子処理デバイスにおいて、新しいサブマップを生成することを含み、前記新しいサブマップを生成することは、
    a)対応の数が前記第1の閾値を下回ることと、
    b)前記適合性スコアが前記第2の閾値を上回ることと
    のうちの1つの場合に行われる、請求項19に記載の方法。
  21. 前記方法は、前記1つ以上の電子処理デバイスにおいて、少なくとも部分的に、前記マップの部分の潜在的場所としてのランク付けに基づいて選択された前記マップの他の部分を使用して、新しいサブマップを生成することを含む、請求項20に記載の方法。
  22. 前記方法は、前記1つ以上の処理デバイスにおいて、
    a)前記サブマップ内に含まれている潜在的場所の数を決定することと、
    b)i)潜在的場所の数が定義された最大値に到達した場合、前記位置特定方法を終了することと、
    ii)潜在的場所の数が前記定義された最大値を下回る場合、前記サブマップのサイズを増加させることと
    のうちの少なくとも1つと
    を含む、請求項21に記載の方法。
  23. 前記ローカル走査は、
    a)定常走査と、
    b)モバイルロボットまたは自律車両と関連付けられたウェイクアップ走査と、
    c)ループ閉鎖走査と
    のうちの少なくとも1つである、前記請求項のいずれか1項に記載の方法。
  24. 前記少なくとも1つのレーザセンサは、光結像検出および測距(LiDAR)センサである、前記請求項のいずれか1項に記載の方法。
  25. 前記マップの部分は、マッピング軌道に沿って前記マップから抽出される、前記請求項のいずれか1項に記載の方法。
  26. 前記マッピング軌道は、事前に定義された長さのセグメントに分割され、前記マップの各部分は、前記マッピング軌道の個別のセグメントに沿って進行されるにつれて前記少なくとも1つのセンサから取得される点群として定義される、請求項25に記載の方法。
  27. 3次元(3D)環境内で位置特定を実施する際に使用するためのシステムであって、前記システムは、1つ以上の電子処理デバイスを含み、前記1つ以上の電子処理デバイスは、
    a)少なくとも1つのレーザセンサによって実施されるローカル走査から、少なくとも部分的に、前記ローカル走査から取得されるローカル点群内の点から前記少なくとも1つのレーザセンサに返される放射のパワーに基づいて、強度データを決定することと、
    b)前記強度データを使用して、前記ローカル点群に関する第1の強度記述子を計算することと、
    c)複数の事前に計算された第2の強度記述子を読み出すことであって、前記複数の事前に計算された第2の強度記述子は、それぞれが前記3D環境のマップの個別の部分と関連付けられる、ことと、
    d)前記第1の強度記述子と前記第2の強度記述子のうちの少なくともいくつかとを比較することと、
    e)少なくとも部分的に、前記比較の結果に従って、前記マップに対する場所を決定することと
    を行うように構成される、システム。
  28. 前記システムは、前記ローカル走査を実施するように構成される少なくとも1つのレーザセンサを含む、請求項27に記載のシステム。
  29. 前記少なくとも1つのセンサは、光結像検出および測距(LiDAR)センサである、請求項28に記載のシステム。
  30. 前記システムはさらに、前記複数の第2の強度記述子を含有するデータ記憶装置を含み、前記データ記憶装置は、前記複数の第2の強度記述子を読み出すために、1つ以上の電子処理デバイスによってアクセス可能である、請求項27−29のいずれか1項に記載のシステム。
  31. 前記少なくとも1つのレーザセンサ、1つ以上の電子処理デバイス、およびデータ記憶装置は、モバイルロボットまたは自律車両にオンボードで位置する、請求項27または請求項30に記載のシステム。
JP2020512849A 2017-09-04 2018-09-03 位置特定を実施する際に使用するための方法およびシステム Active JP7278263B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
AU2017903569 2017-09-04
AU2017903569A AU2017903569A0 (en) 2017-09-04 Method and system for use in performing localisation
PCT/AU2018/050948 WO2019040997A1 (en) 2017-09-04 2018-09-03 METHOD AND SYSTEM FOR USE IN REALIZING LOCATION

Publications (3)

Publication Number Publication Date
JP2020532734A true JP2020532734A (ja) 2020-11-12
JPWO2019040997A5 JPWO2019040997A5 (ja) 2022-07-13
JP7278263B2 JP7278263B2 (ja) 2023-05-19

Family

ID=65524585

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020512849A Active JP7278263B2 (ja) 2017-09-04 2018-09-03 位置特定を実施する際に使用するための方法およびシステム

Country Status (7)

Country Link
US (1) US11402509B2 (ja)
EP (1) EP3707530A4 (ja)
JP (1) JP7278263B2 (ja)
KR (1) KR102607113B1 (ja)
CN (1) CN111133336B (ja)
AU (2) AU2018326401C1 (ja)
WO (1) WO2019040997A1 (ja)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7039420B2 (ja) * 2018-08-27 2022-03-22 株式会社日立ソリューションズ 空中線抽出システム及び方法
CN110189400B (zh) * 2019-05-20 2023-04-14 深圳大学 一种三维重建方法、三维重建系统、移动终端及存储装置
DE102019208504A1 (de) * 2019-06-12 2020-12-17 Robert Bosch Gmbh Positionsbestimmung auf der Basis von Umgebungsbeobachtungen
US11151394B2 (en) 2019-06-24 2021-10-19 Nvidia Corporation Identifying dynamic objects in a point cloud
US11619724B2 (en) * 2019-06-26 2023-04-04 Nvidia Corporation Calibration of multiple lidars mounted on a vehicle using localization based on a high definition map
CN112639882B (zh) * 2019-09-12 2021-12-14 华为技术有限公司 定位方法、装置及系统
JP7306192B2 (ja) * 2019-09-27 2023-07-11 沖電気工業株式会社 合成処理装置、合成処理システム及び合成処理方法
CN111076733B (zh) * 2019-12-10 2022-06-14 亿嘉和科技股份有限公司 一种基于视觉与激光slam的机器人室内建图方法及系统
CN111026163B (zh) * 2019-12-20 2021-10-26 华南理工大学 一种面向室内的失控放射源自主搜寻机器人及其搜寻方法
JP2023526021A (ja) 2020-05-11 2023-06-20 コグネックス・コーポレイション 点群ヒストグラムを生成する方法及び装置
EP3916656A1 (en) * 2020-05-27 2021-12-01 Mettler-Toledo GmbH Method and apparatus for tracking, damage detection and classi-fication of a shipping object using 3d scanning
CN111798536B (zh) * 2020-06-15 2024-03-22 北京三快在线科技有限公司 一种定位地图的构建方法及装置
CN111998846B (zh) * 2020-07-24 2023-05-05 中山大学 基于环境几何与拓扑特征的无人系统快速重定位方法
US11740360B2 (en) * 2020-11-02 2023-08-29 Motional Ad Llc Light detection and ranging (LiDaR) scan smoothing
CN113325435B (zh) * 2021-05-25 2024-01-09 武汉大学 定位方法、装置、设备及可读存储介质
CN115509214B (zh) * 2021-06-04 2024-03-15 同方威视技术股份有限公司 定位控制方法和装置、自主充电控制装置、方法及系统
CN115727836A (zh) * 2022-11-23 2023-03-03 锐趣科技(北京)有限公司 一种基于激光反光板和里程计的融合定位方法及系统

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003057339A (ja) * 2001-06-07 2003-02-26 Nissan Motor Co Ltd 物体検出装置
JP2012221456A (ja) * 2011-04-14 2012-11-12 Toyota Central R&D Labs Inc 対象物識別装置及びプログラム
US8396293B1 (en) * 2009-12-22 2013-03-12 Hrl Laboratories, Llc Recognizing geometrically salient objects from segmented point clouds using strip grid histograms
US8736463B1 (en) * 2012-01-30 2014-05-27 Google Inc. Object bounding box estimation
US20140297092A1 (en) * 2013-03-26 2014-10-02 Toyota Motor Engineering & Manufacturing North America, Inc. Intensity map-based localization with adaptive thresholding
JP2015230213A (ja) * 2014-06-04 2015-12-21 株式会社デンソー 位置推定装置、位置推定方法、及び、位置推定プログラム
CN105180955A (zh) * 2015-10-21 2015-12-23 福州华鹰重工机械有限公司 机动车实时精准定位方法及装置
CN105204510A (zh) * 2015-10-09 2015-12-30 福州华鹰重工机械有限公司 一种用于精确定位的概率地图的生成方法及装置
JP2017003363A (ja) * 2015-06-08 2017-01-05 株式会社パスコ 位置推定方法、位置推定装置及び位置推定プログラム
JP2017072422A (ja) * 2015-10-05 2017-04-13 パイオニア株式会社 情報処理装置、制御方法、プログラム及び記憶媒体

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6711293B1 (en) * 1999-03-08 2004-03-23 The University Of British Columbia Method and apparatus for identifying scale invariant features in an image and use of same for locating an object in an image
US9250081B2 (en) 2005-03-25 2016-02-02 Irobot Corporation Management of resources for SLAM in large environments
US8699755B2 (en) 2009-02-20 2014-04-15 Navteq B.V. Determining travel path features based on retroreflectivity
KR20110097140A (ko) * 2010-02-24 2011-08-31 삼성전자주식회사 이동 로봇의 위치 추정 장치 및 방법
GB201116960D0 (en) 2011-09-30 2011-11-16 Bae Systems Plc Monocular camera localisation using prior point clouds
EP2884364B1 (en) 2013-12-12 2018-09-26 Hexagon Technology Center GmbH Autonomous gardening vehicle with camera
GB2526342A (en) 2014-05-22 2015-11-25 Nokia Technologies Oy Point cloud matching method
EP3248029A4 (en) 2015-01-19 2018-10-03 The Regents of the University of Michigan Visual localization within lidar maps
US11274928B2 (en) 2015-08-03 2022-03-15 Tomtom Global Content B.V. Methods and systems for generating and using localization reference data
CN105389538B (zh) * 2015-10-09 2018-07-13 南京大学 一种基于点云半球切片估算森林叶面积指数的方法
CN105911518A (zh) * 2016-03-31 2016-08-31 山东大学 机器人定位方法
CN106023210B (zh) 2016-05-24 2017-12-12 百度在线网络技术(北京)有限公司 无人车、无人车定位方法、装置和系统
CN106908775B (zh) * 2017-03-08 2019-10-18 同济大学 一种基于激光反射强度的无人车实时定位方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003057339A (ja) * 2001-06-07 2003-02-26 Nissan Motor Co Ltd 物体検出装置
US8396293B1 (en) * 2009-12-22 2013-03-12 Hrl Laboratories, Llc Recognizing geometrically salient objects from segmented point clouds using strip grid histograms
JP2012221456A (ja) * 2011-04-14 2012-11-12 Toyota Central R&D Labs Inc 対象物識別装置及びプログラム
US8736463B1 (en) * 2012-01-30 2014-05-27 Google Inc. Object bounding box estimation
US20140297092A1 (en) * 2013-03-26 2014-10-02 Toyota Motor Engineering & Manufacturing North America, Inc. Intensity map-based localization with adaptive thresholding
JP2015230213A (ja) * 2014-06-04 2015-12-21 株式会社デンソー 位置推定装置、位置推定方法、及び、位置推定プログラム
JP2017003363A (ja) * 2015-06-08 2017-01-05 株式会社パスコ 位置推定方法、位置推定装置及び位置推定プログラム
JP2017072422A (ja) * 2015-10-05 2017-04-13 パイオニア株式会社 情報処理装置、制御方法、プログラム及び記憶媒体
CN105204510A (zh) * 2015-10-09 2015-12-30 福州华鹰重工机械有限公司 一种用于精确定位的概率地图的生成方法及装置
CN105180955A (zh) * 2015-10-21 2015-12-23 福州华鹰重工机械有限公司 机动车实时精准定位方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
LEVINSON, JESSE ET AL.: "Robust Vehicle Localization in Urban Environments Using Probabilistic Maps", 2010 IEEE INTERNATIONAL CONFERENCE ON ROBOTICS AND AUTOMATION ANCHORAGE CONVENTION SISTRICT MAY 3-8,, JPN6022014894, 15 July 2010 (2010-07-15), US, pages 4372 - 4378, ISSN: 0005006245 *

Also Published As

Publication number Publication date
AU2023204563A1 (en) 2023-08-31
CN111133336B (zh) 2024-04-02
EP3707530A1 (en) 2020-09-16
CN111133336A (zh) 2020-05-08
AU2018326401C1 (en) 2023-07-13
KR102607113B1 (ko) 2023-11-27
WO2019040997A9 (en) 2020-04-30
US11402509B2 (en) 2022-08-02
JP7278263B2 (ja) 2023-05-19
KR20200045522A (ko) 2020-05-04
US20200386862A1 (en) 2020-12-10
AU2018326401B2 (en) 2023-04-13
WO2019040997A1 (en) 2019-03-07
AU2018326401A1 (en) 2020-04-09
EP3707530A4 (en) 2021-09-22

Similar Documents

Publication Publication Date Title
JP7278263B2 (ja) 位置特定を実施する際に使用するための方法およびシステム
US11816907B2 (en) Systems and methods for extracting information about objects from scene information
Yousif et al. An overview to visual odometry and visual SLAM: Applications to mobile robotics
CN108801268B (zh) 目标对象的定位方法、装置及机器人
CN111094895B (zh) 用于在预构建的视觉地图中进行鲁棒自重新定位的系统和方法
Zhou et al. T-loam: truncated least squares lidar-only odometry and mapping in real time
Hansen et al. Visual mapping for natural gas pipe inspection
Tran et al. On-device scalable image-based localization via prioritized cascade search and fast one-many ransac
Costa et al. Robust 3/6 DoF self-localization system with selective map update for mobile robot platforms
Drost et al. Local hough transform for 3d primitive detection
Tran et al. eSphere: extracting spheres from unorganized point clouds: how to extract multiple spheres accurately and simultaneously
Kang et al. Primitive fitting based on the efficient multibaysac algorithm
Nielsen et al. Survey on 2d lidar feature extraction for underground mine usage
Rapp et al. Clustering improved grid map registration using the normal distribution transform
Im et al. Omni Point: 3D LiDAR-based Feature Extraction Method for Place Recognition and Point Registration
Wang et al. High-precision and robust localization system for mobile robots in complex and large-scale indoor scenes
Vu et al. Adaptive ground segmentation method for real-time mobile robot control
KR102450139B1 (ko) 3차원 라이다 스캐너를 이용한 동적 환경 대상 전역 위치 인식 장치 및 방법
Ayadi et al. A skyline-based approach for mobile augmented reality
Guerra et al. Detection and positioning of pipes and columns with autonomous multicopter drones
Baligh Jahromi et al. Layout slam with model based loop closure for 3d indoor corridor reconstruction
Matez-Bandera et al. Sigma-FP: Robot Mapping of 3D Floor Plans With an RGB-D Camera Under Uncertainty
Rife et al. Characterizing Perspective Error in Voxel-Based Lidar Scan Matching
Graehling et al. FEAR: feature extraction for aerial registration in large-scale LiDAR point clouds
Zhang et al. Robust Global Localization Using Laser Reflectivity.

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210728

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20211203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20211203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220415

A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A524

Effective date: 20220705

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221021

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230307

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230508

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230509

R150 Certificate of patent or registration of utility model

Ref document number: 7278263

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150