JP2019518957A - Lidarを使用した運動の推定 - Google Patents

Lidarを使用した運動の推定 Download PDF

Info

Publication number
JP2019518957A
JP2019518957A JP2018563814A JP2018563814A JP2019518957A JP 2019518957 A JP2019518957 A JP 2019518957A JP 2018563814 A JP2018563814 A JP 2018563814A JP 2018563814 A JP2018563814 A JP 2018563814A JP 2019518957 A JP2019518957 A JP 2019518957A
Authority
JP
Japan
Prior art keywords
data set
value
displacement
velocity
speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018563814A
Other languages
English (en)
Other versions
JP7057289B2 (ja
JP2019518957A5 (ja
Inventor
ベルスレー ケンドール
ベルスレー ケンドール
セバスティアン リチャード
セバスティアン リチャード
Original Assignee
ディーエスシージー ソルーションズ,インコーポレイテッド
ディーエスシージー ソルーションズ,インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ディーエスシージー ソルーションズ,インコーポレイテッド, ディーエスシージー ソルーションズ,インコーポレイテッド filed Critical ディーエスシージー ソルーションズ,インコーポレイテッド
Publication of JP2019518957A publication Critical patent/JP2019518957A/ja
Publication of JP2019518957A5 publication Critical patent/JP2019518957A5/ja
Application granted granted Critical
Publication of JP7057289B2 publication Critical patent/JP7057289B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/50Systems of measurement based on relative movement of target
    • G01S17/58Velocity or trajectory determination systems; Sense-of-movement determination systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/66Tracking systems using electromagnetic waves other than radio waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4808Evaluating distance, position or velocity data
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • G01S7/4815Constructional features, e.g. arrangements of optical elements of transmitters alone using multiple transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Electromagnetism (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Image Analysis (AREA)

Abstract

物体の運動を追跡する技術は、単一走査運動を使用して、物体が運動している期間にわたって該物体を追跡するように構成されたLIDARシステムを使用することを含む。LIDARシステムを使用すると、可視画像化ハードウェア(例えば、ビデオカメラハードウェア)を排除しても、物体の追跡を行うことができる。従って、LIDARシステムは、完全な暗闇の中での動作や、太陽に向けての動作などを行うように構成されることができる。LIDARシステムは、従来のシステムよりも物体の運動の影響を受けにくくすることができる。従って、物体110の運動は、いくつかの実施では、例えばビデオがなくても、LIDAR測定値のみから決定することができる。
【選択図】 図3

Description

(関連出願)
本出願は、「LIDARを使用した運動の推定(Estimation of Motion Using LIDAR)」と題された2017年6月5日出願の米国特許出願第15/613,974号に基づく優先権を主張し、かつその継続出願であり、この米国特許出願は、「LIDARを使用した運動の推定(Estimation of Motion Using LIDAR)」と題された2016年6月7日出願の米国仮特許出願第62/346,866号に基づく優先権を主張する。
本出願はまた、「LIDARを使用した運動の推定(Estimation of Motion Using LIDAR)」と題された2016年6月7日出願の米国仮特許出願第62/346,866号に基づく優先権も主張する。
(技術分野)
本記述は、光検出と測距(LIDAR)を使用して運動を推定するためのシステム及び方法に関する。
(背景)
いくつかの公知のシステムでは、物体は、ビデオシステムと組み合わせたレーザ光検出と測距(LIDAR)システムを用いて追跡することができる。そのような公知のシステムのいくつかは、複雑で使用が難しい場合がある。さらに、そのような公知のシステムのいくつかにおいて、ビデオシステムは、追跡するべき物体を検出するために光を必要とする場合がある。このため、現状の技術の課題に対応し、他の新規及び革新的な特徴を提供するシステム、方法、及び装置が必要とされている。
(図面の簡単な説明)
図1は、本明細書に記載の改良された技術を実施することができる電子環境内で例示的なLIDARシステムを例示するブロック図である。
図2Aは、図1に例示されている電子環境内で追跡される例示的な物体を例示する線図である。
図2Bは、図1に例示されている電子環境内で追跡される例示的な物体を例示する線図である。
図2Cは、図1に例示されている電子環境内で追跡される別の例示的な物体を例示する線図である。
図2Dは、図1に例示されている電子環境内で追跡される他の例示的な物体を例示する線図である。
図2Eは、図1に例示されている電子環境内でさらに追跡される他の例示的な物体を例示する線図である。
図3は、単一セットの走査を使用して物体の速度及び回転速度を計算する例示的な方法を例示するフローチャートである。
図4は、図1に例示されている電子環境内で経時的な物体の例示的な走査を例示する線図である。
図5は、図4に例示されている走査からの物体の変位の例示的なサンプリングを例示する線図である。
図6は、図5に例示されているサンプリングからの物体の変位の例示的な補間を例示する線図である。
図7は、図1に例示されている電子環境内で物体の速度及び回転速度の初期推定値を決定する例示的な方法を例示するフローチャートである。
図8は、図7に例示されているプロセスによって決定される物体の速度及び回転速度の初期推定値を微調整する例示的な方法を例示するフローチャートである。
(詳細な説明)
図1は、物体の運動を追跡する改良された技術が実施される例示的な電子環境100を例示する図である。電子環境100は、単一走査運動を用いて、物体110が運動している期間にわたって該物体110を追跡するように構成されたLIDARシステム120を含む。LIDARシステム120を使用すれば、可視画像化ハードウェア(例えば、ビデオカメラハードウェア)を排除しても、物体110の追跡を行うことができる。従って、LIDARシステム120は、完全な暗闇の中での動作や、太陽に向けての動作などを行うように構成されることができる。LIDARシステム120は、従来のシステムよりも物体110の運動の影響を受けにくくすることができる。従って、物体110の運動は、いくつかの実施では、例えばビデオがなくても、LIDAR測定値のみから決定することができる。
物体110は、本明細書ではある未知の形状の剛体であると仮定する。例えば、物体110は人間の顔であってもよい。物体110は、直線運動及び任意の軸を中心とする回転運動の両方の運動であると仮定する。剛体の場合、物体110の時間依存性線形速度v及び点rにおける時間依存性回転速度ωは以下のように関連する:
v=ω×r+vf (1)
式中、×は外積を表し、vfは原点を含む基準座標系の速度である。本明細書で提供される例では、基準座標系は、LIDARシステム120の慣性座標系であると見なされるが、これは決して要件ではない。
図1に示される電子環境では、LIDARシステム120によって放出されるビームに実質的に沿っているように見える固有対称軸が存在することを理解されたい。この場合、式(1)を踏まえて、本発明者らは、物体110の運動を横方向成分と軸方向成分に分解することができる。すなわち、z方向における対称軸を与えると、本発明者らは、成分vx、vy、ωzを用いて横方向運動を定義することができ、そして成分vz、ωx、ωyを用いて軸方向運動を定義することができる。多くの状況では、横方向運動及び軸方向運動はほぼ独立している。本明細書に記載される改良された技術の第1の目的は、物体の運動の横方向成分を決定することにある。物体の軸方向運動は、LIDARの距離及び速度の測定値から直接取り除く又は補償することができる。
図1に示されているように、LIDARシステム120は、処理回路124、メモリ126、照明システム150、及び受信機システム160を含む単一統合ユニットである。いくつかの構成では、LIDARシステム120は、物体110に向けることができるハンドヘルドユニットの形態をとる。しかしながら、他の構成では、LIDARシステム120の構成要素は、異なるユニットに分散させてもよい(例えば、コンピューティング装置内にあってもよい処理回路124及びメモリ126は、照明システム150及び受信機システム160を含むハンドヘルド装置とは別個である)。
処理回路124は、1つ以上の処理チップ及び/又はアセンブリを含む。メモリ126は、揮発性メモリ(例えば、RAM)、並びに1つ以上のROM、ディスクドライブ、及び半導体ドライブなどの不揮発性メモリの両方を含む。処理ユニット124とメモリ126のセットは、共に制御回路を形成し、この制御回路は、本明細書で説明される様々な方法及び機能を実行するように構成及び配置されている。
いくつかの構成では、LIDARシステム120の1つ以上の構成要素は、メモリ126に格納された命令を処理するように構成されたプロセッサであってもよいし、又はこのようなプロセッサを含んでもよい。例えば、図1のメモリ126内に含まれるとして示されている分析マネージャ130(及び/又はその一部)は、1つ以上の機能を実施するプロセスに関連した命令を実行するように構成されたプロセッサとメモリとの組み合わせとすることができる。
分析マネージャ130は、物体110が追跡される期間にわたって該物体110の線形速度成分vx、vy、及び回転速度ωzの推定値を生成するように構成及び配置されている。分析マネージャ130は、このような推定を2段階で実施するように構成されている。まず、所与の時点で、分析マネージャ130が、初期運動アナライザ132によって、一対の変位データセット、例えば、その時点を中心とする140(1)及び140(2)を使用して物体110の横方向運動の最初の推定を実施する。次に、分析マネージャ130は、運動微調整マネージャ134によって、実際のデータ収集時間及び必要な場合はこれに続く変位データセット、例えば140(3)などを使用して初期推定値を微調整することができる。
初期運動アナライザ132は、初期速度データ136、すなわちvx、vy、ωzを変位データセット140(1)及び140(2)から生成するように構成されている。しかしながら、これらの初期データ136は、最初の推定値であり、実際のデータ収集時間及び必要な場合はこれに続く変位データセット、例えば140(3)などを使用して微調整することができることを理解されたい。この能力により、運動微調整マネージャ134は、実際のデータ収集時間及び場合によってはこれに続く変位データセットから微調整138、すなわちδvx、δvy、δωzを計算するように構成されている。さらに、運動微調整マネージャ134は、いつ十分な収束が達成されるかを決定して、それ以上の微調整の計算が必要ないように構成されている。
変位データセット、例えば変位データセット140(1)のそれぞれは、それぞれの時間におけるデカルト座標xとyの関数としてのz方向における変位値の配列を含む。図1に示されている物体110は、LIDARシステム120に面する平坦な表面を有するが、実際には、該物体110は、例えば、人間の顔、身体の一部、無生物などを含み得、従って、任意の時点tにおいて複雑なプロファイルz=f(x, y)を有することを理解されたい。物体110は剛体であると仮定するため、ある時間から別の時間への変位プロファイル間の差は、平行移動Δx、Δyと回転θzの組み合わせ(すなわち、変形なし)である。次いで、分析マネージャ130は、これらの平行移動及び回転から速度及び回転速度を見つける。
照明システム150は、変位データセット140(1)、...、140(T)を生成する動作において、物体110から反射される照明を生成するように構成及び配置されている。図1に示されているように、この照明は、z軸に沿って向けられた放射線の複数のビーム190(1)、...、190(N)の形態をとる。図1に示されているビーム190(1)、...、190(N)は、z軸に対してある角度で向けられるが、実際にはビームは、実質的にz軸に沿って移動し、図の角度は誇張されていることを理解されたい。照明システム150は、レーザアレイ154を有する走査機構152、及びアパーチャ170を備える。
走査機構152は、走査運動でレーザアレイ154を移動させるように構成及び配置されている。図1に示されているように、走査機構152は、レーザアレイ154内の各レーザをy方向に沿って、すなわちビーム190(1)、...、190(N)の方向に対して直角に前後に移動させるように構成されている。しかしながら、いくつかの構成では、走査は、その代わり又はそれに加えて、x方向に沿って行うことができる。走査機構152は、全ての走査が1回の走査運動で行われるようにレーザアレイ154全体を移動させる。さらに、一方向における各個々の走査は、1つの瞬間に行われたとみなすのに十分な速度で行われることを理解されたい。この線に沿って、たとえ走査における第1の点及び走査における通過点からのデータがLIDARシステム120で同時に受信されなくても、正のy方向におけるレーザアレイ154の第1の走査は、瞬間T0で行われたとみなされ得る。
レーザアレイ154は、レーザ放射線、すなわち実質的にコヒーレントな準単色光のビーム(例えば、ビーム190(1)、...、190(N))のアレイを生成するように構成及び配置されている。多くの構成では、レーザアレイ154は、レーザの矩形アレイを含み、それぞれが、ある波長のレーザ放射線を生成する。矩形アレイ内の各レーザは、そのレーザによって生成されるビームが物体110から反射される該物体110上のサンプル点に対応する。他の構成では、ビーム190(1)、...、190(N)のアレイは、ファイバー結合されて、ファイバー−エミッタアレイに配置される複数のファイバー(不図示)に分割された単一レーザ(不図示)を使用して生成される。
いくつかの構成では、レーザアレイ154によって生成される各ビーム190(1)、...、190(N)の光の波長は1550nmである。この波長は、例えば人間の顔である物体に適しているという利点を有する。とはいえ、他の波長(例えば、1064nm、532nm)も同様に使用することができる。
アパーチャ170は、レーザアレイ154によって生成されたビーム190(1)、...、190(N)をLIDARシステム120を通過させて物体110に到達させるように構成されている。いくつかの構成では、アパーチャ170は、単純にビーム190(1)、...、190(N)を通過させるための開口としてもよい。他の構成では、アパーチャ170は、特定の仕様(例えば、物体上のスポットサイズ)を満たすための光学系(不図示)を含み得る。
受信機システム160は、物体110から反射されるビームを受信し、この受信したビームから変位データセット140(1)、...、140(T)を生成するように構成及び配置されている。受信機システム160は、様々な公知の技術(例えば、ヘテロダイン検波)を使用して変位データセット140(1)、...、140(T)を生成することができ、これ以上は説明しない。受信機システムは、受信したビームを、受信機システム160が変位データセット140(1)、...、140(T)を生成することができる電気信号に変換するように構成及び配置された検出器180を含む。いくつかの構成では、検出器180は、光電子増倍管(PMT)又は電荷結合素子(CCD)のアレイを含む。
図2A及び図2Bは、LIDARシステム120によって観察することができる(例えば、標的とする)例示的な物体210を例示している。物体210は、任意の形状を有することができるが、図2A及び2Bでは円として表されている。図2Aでは、時間T1において、物体210上の点220が、LIDARシステム120によって観察されている。時間T1において、点220は、(x、y)平面の(3、3)に位置する。図2Bに例示されているように、時間T2において、点220は、(x、y)平面の(4、3)に位置する。点の移動は、物体80の異なるタイプの運動の結果であり得る。例えば、物体220は、ある位置から別の位置に移動(並進運動)してもよいし、又は物体220は、(例えば、x−y平面のy軸に平行な軸を中心に)回転してもよい。
図2C、図2D、及び図2Eに示されているように、個人の頭又は顔290を、LIDARシステム120によって追跡又は観察することができる。具体的には、頭又は顔290の点又は位置292を観察することができる。図2Cに例示されているように、時間T1において、点292は、(x、y)平面の(3、2)に位置する。時間T2において、点292は、(4、2)にあることを観察することができる。点の移動は、異なるタイプの運動の結果であり得る。例えば、人又は個人は、図2Dに例示されているように、(例えば、y軸に平行な軸を中心に)頭を回転させてもよい。あるいは、人又は個人は、図2Eに例示されているように、(まったく回転しないで)頭を移動させてもよい。
図3は、本明細書に記載される改良された技術を実行する例示的な方法300を例示している。方法300は、図1に関連して説明された構成によって実施することができ、この方法は、LIDARシステム120のメモリ126に存在させることができ、かつ処理回路124によって実行することができる。
302において、LIDARシステムは、走査機構から放射される電磁放射線のビームを使用する物体の第1の走査に基づいて第1のデータセットを定義する。例えば、LIDARシステム120は、走査機構152によって、ある時点で物体110に対して光線190(1)、...、190(N)を走査する。LIDARシステム120は、受信機システム160によってビーム190(1)、...、190(N)を受信し、この受信したビームから変位データセット140(1)を生成する。
304において、LIDARシステムは、走査機構から放射される電磁放射線のビームを使用する物体の第2の走査に基づいて第2のデータセットを定義する。例えば、LIDARシステム120は、走査機構152を介して、第2の時点で物体110に対して光線190(1)、...、190(N)を走査する。LIDARシステム120は、受信機システム160によってビーム190(1)、...、190(N)を受信し、この受信したビームから変位データセット140(2)を生成する。
第2の時点でLIDARシステム120によって行われる走査は、次の走査、すなわち第1の走査とは逆走査であってもよいことを理解されたい。しかしながら、他の構成では、第2の時点で行われる走査は、第1の走査と同じ方向の次の走査である。いくつかの実施では、第1及び第2の走査が同じ方向で行われる場合は変位データセット間に良好な相関性が存在し得るため、このような状況が好ましいであろう。しかしながら、他の状況では、第2の走査とは逆方向の走査を考慮することが好ましい場合もある。
306において、LIDARシステムは、第1のデータセット及び第2のデータセットから第1の速度(例えば、vx)、第2の速度(例えば、vy)、及び回転速度(例えば、ωz)の初期値を生成する。第1の走査と第2の走査が同じ方向で行われる場合、これらの速度及び回転速度は、第1の走査と第2の走査との間の走査(すなわち、反対方向の走査)時に評価される。LIDARシステム120がこれらの値をどのように生成するかの詳細は、図7を参照して説明される。
308において、LIDARシステムは、走査機構から放射される電磁放射線のビームを使用する物体の第3の走査に基づいて第3のデータセットを定義する。例えば、LIDARシステム120は、走査機構152によって、第3の時点で物体110に対して光線190(1)、...、190(N)を走査する。LIDARシステム120は、受信機システム160によってビーム190(1)、...、190(N)を受信し、この受信したビームから変位データセット140(3)を生成する。この場合もまた、第3の走査は、第2の走査に続く走査又は該第2の走査と同じ方向の次の走査のいずれでもよいが、同じ方向であることが好ましい。
310において、LIDARシステムは、第1の速度、第2の速度、及び回転速度の初期値、及び実際のデータ収集時間、及び必要な場合は第3のデータセットに基づいて、第1の速度、第2の速度、及び回転速度の微調整された値を生成する。この場合もまた、微調整は、第1の走査と第2の走査との間の時間における速度及び回転速度について行われる。LIDARシステム120がこれらの微調整された値をどのように生成するかの詳細は、少なくとも図8に関連して説明される。
図4は、例示的なレーザアレイ154から得られる、LIDARシステム120を使用した例示的な走査ジオメトリの上面図を例示している。この場合、レーザアレイ154は、2×8のアレイに配置された16個のレーザを含む。図4に示されているレーザアレイ154のこの構成は、単なる例であり、様々な数のレーザ(例えば、2×4、2×6、3×4、2×6、2×8、3×8、4×4など)を使用した多くの構成を使用することができる。
図1の例示的な環境を参照して既に述べられたように、走査機構152は、走査中にレーザアレイ154全体を移動させるように構成されている。従って、レーザアレイ154における各レーザは、同期して同じ方向に物体110を走査する。走査機構152によって追跡される走査経路は、任意のパターンであってよいが、単純にするために、1つの軸(図4に示されているy軸)に沿った直線に沿っているものとする。
走査機構152によって行われるこのような線形走査パターンは、図4に示されている物体110に対して走査線420(1)を生成する。第1の近似として、走査線420(1)を生成する走査は、たとえ物体110を横断する走査時間が有限であっても、1つの瞬間T0に行われたとみなされることを理解されたい。第1の近似の微調整では、有限の走査時間を考慮することができる。
また、同じ列のレーザアレイ154のレーザによって生成されるビームの走査線が重なり合ってもよいことを理解されたい。これは、各走査線420(1)が実際に重なり合う2つの走査線であるとして図4に示されている。いくつかの実施では、この重なり合いは、走査機構152によって行われる走査の距離が、レーザアレイ154の各列におけるレーザ間の距離よりも長いために生じる。
物体110が運動しているため、次の走査の走査線は、物体110上の異なる位置に現れる。図4では、走査線420(2)は、時間T2、すなわち同じ方向の次の走査の時間における走査から生成される。走査線420(2)は、走査線420(1)と区別するために破線で図4に示されている。この場合もまた、各走査線420(2)は、実際には重なり合う2つの走査線である。
図5は、図4に示されている走査線に基づいたデータサンプリング500を例示している。図5に示されている軸は、図4に示されている軸に対して回転され、図5の走査方向が水平であることに留意されたい。データサンプリング500は、ビーム190(1)、...、190(N)が検出器で受信された後、かつ変位データセット140(1)、...、140(T)が生成される前のメモリ126に格納されたものを表している。図5に示されているサンプル点は、LIDARシステム120の基準座標系ではなく物体の基準座標系にあることに留意されたい。それぞれの小さな円は、時間T0、すなわち正のy方向における最初の走査中のz方向における物体110の表面の変位を表している。それぞれの小さな正方形は、時間T2、すなわち正のy方向における第2の走査中のz方向における物体110の表面の変位を表している。それぞれの円又は正方形の塗りつぶしは、レーザアレイ154の各列における第1又は第2のレーザによって生成されるビームを表している。各走査線の中心に沿った2つのビーム間に重なり合いが存在し、これが、図5にクロスハッチングによって表されていることを理解されたい。
また、物体110の横方向運動により、第1の走査の距離と第2の走査の距離が異なることも理解されたい。例えば、第1の走査線は、y方向に沿って10cm〜200cmの距離であり得るが、第2の走査線は、y方向に沿って0cm〜190cmの距離であり得る。この場合もまた、座標系の原点を定義するために使用される基準座標系は、LIDARシステム120の慣性座標系である。
さらに、x方向に沿ったサンプリングは、典型的には非常に疎であることを理解されたい。y方向に沿って取られるサンプルの数は、必要に応じて多くても少なくてもよいが、x方向に沿ったサンプルの数は、レーザアレイ154の行内のレーザの数によって制限される。図5に示されているケースでは、数十のサンプルが存在し、走査方向に沿って数百のこのようなサンプルが存在してもよいが、走査方向に垂直なサンプルは8個しか存在しなくてもよい。
図5に表されているデータの収集を使用して、横方向の線形速度vx、vy及び横方向の回転速度ωzの初期推定値を計算することができる。これは、時間T0でのデータセットと時間T2でのデータセットとの間の平行移動Δx、Δy及び回転θzの推定値を計算することによって達成される。ここでは、横方向運動のみが考慮されるが、時間T0と時間T2との間にはある軸方向の変位もまだ存在し得ることを理解されたい。しかしながら、この変位は、T0、Tl、及びT2からのLIDAR距離及び速度データを使用して取り除く又は補償することができる。
いくつかの実施では、推定を進める前に、生データが疎にサンプリングされすぎて物体の意味のあるカバーを提供できないことが観察され得る。小さな平行移動及び回転を計算するために必要な柔軟性を提供するために、いくつかの実施では、データセットを再サンプリングすることが有利であり得る。例えば、高密度グリッドを生成する補間スキームを導入することにより、平行移動及び回転の初期推定値を比較的容易に得ることができる。
図6は、そのような補間スキーム610の一例を例示している。図6は、図5の走査線の2つの列を示し、列のサンプル点間に三角形のグリッドが描かれている。従って、各サンプル点は、グリッド内の2つの三角形の頂点である。各三角形領域内で、例えば、重心座標又は直角座標を使用してそれぞれの線形補間関数を定義することができる。
しかしながら、補間スキーム610を使用して、三角形領域内の座標の連続関数として補間された物体の変位を定義することができることを理解されたい。このようにして、平行移動と回転を見つけることができる。例えば、T0及びT2における2つのデータセット間の相関を平行移動及び/又は回転の関数として決定することができる。次いで、最初の推定された平行移動及び回転は、データセット間の相関を最大にする値であってもよい。この線に沿って、一実施におけるデータセット間の相関を最大にすることは、平行移動及び/又は回転に対する補間された物体の変位値間の差の二乗和を最小にすることを意味する。さらなる詳細は、図7を参照して説明される。
図7は、図3に示されている方法300の要素306のさらなる詳細を例示し、ここで、LIDARシステム120は、第1のデータセット及び第2のデータセットから第1の速度(例えば、vx)、第2の速度(例えば、vy)、及び回転速度(例えば、ωz)の初期値を生成する。
702において、LIDARシステム120は、補間によって時間T0での物体の変位の高密度サンプリングを得る。高密度サンプリングとは、元のデータセットの密度の2倍を超える高密度の物体の変位のサンプリングであり、例えば、生データセットが200×8個のデータ点を有する場合、補間によって得られる高密度サンプリングは800×800個以上であり得る。例えば、一実施では、図1に示されているLIDARシステム120は、変位データセット140(1)におけるマンハッタングリッドを使用して、図を参照して説明されたように線形補間を行う。この補間の結果は、時間T0におけるデータセットの長方形グリッドに対する物体の変位の高密度サンプリングである。図6に示されているマンハッタングリッドに対する補間では、最近接近似を使用するスキームよりも計算時間が速くなることが分かった。
次いで、704において、LIDARシステム120は、時間T2での物体の変位の高密度サンプリング(例えば、変位データセット140(2))を生成して、物体の変位Δx、Δyの関数である補間データセットを生成する。一実施では、LIDARシステム120は、(Δx、Δy)=(0、0)を、T0での補間サンプル点と同じ座標を有するT2での補間サンプル点とみなす。第2のデータセットによって定義された補間関数を使用して、LIDARシステム120は、時間T0での各補間サンプル点に対応するが、それぞれの個々の方向において平行移動Δx、Δyだけシフトした補間された物体の変位を計算する。いくつかの構成では、シフトは一方向のみで行ってもよい。
f0(x、y)が時間T0における物体の変位を表し、そしてf2(x、y)が時間T2での物体の変位を表す場合、高密度(補間)グリッドにおける各サンプル点(xi、yj)について、LIDARシステム120が、Δx及びΔyの関数とみなされる関数f2(xi+Δx、yj+Δy)を生成する。
706において、LIDARシステム120は、T0での補間データセットとT2での補間データセットとの間の相関を最適化するΔx及びΔyの値を決定する。いくつかの実施では、相関の最適化は、T0での変位とT2での平行移動変位との間の差の二乗和を最小にする、又は実質的に小さくすることを含む。言い換えれば、LIDARシステム120は、以下の数を最小にするΔx及びΔyの値を見つけることができる:
Figure 2019518957
式中、K及びLはそれぞれ、x方向及びy方向における補間サンプル点の数である。補間サンプル点xi及びyjが必ずしも長方形グリッド上にあるものではないことを理解されたい。LIDARシステム120は、当分野で公知の任意の方法を使用してEtrans(Δx、Δy)の最小化を行うことができる。この関数を最小にする値は、(Δx0、Δy0)で示され、時間T0と時間T2との間の時間T1での物体の平行移動の初期推定値を表す。
708において、LIDARシステム120は、角度θzのサンプル点の回転に基づいて、時間T2でのデータセットから別の補間関数を生成する。回転の初期推定値は、平行移動の初期推定値とは独立に決定されることを理解されたい。
710において、LIDARシステム120は、T0での補間データセットとT2での補間データセットとの間の相関を最大にする回転θzの値を決定する。いくつかの実施では、相関の最大化は、T0での変位とT2での平行移動変位との間の差の二乗和を最小にすることを含む。言い換えれば、LIDARシステム120は、以下の数を最小にするθzの値を見つけることができる:
Figure 2019518957
式中、Erot(θz)は、0に近いθzの離散値で評価される。LIDARシステム120は、当分野で公知の任意の方法を用いてErot(θz)の最小化を行うことができる。この関数を最小にする値は、θz 0として示され、時間T0と時間T2との間の時間T1での物体の回転の初期推定値を表す。
712において、LIDARシステム120は、値Δx0、Δy0、及びθz 0に基づいて速度vx、vy及び回転速度ωzの時間T1での初期推定値を決定する。
図8は、図3に示されている方法300の要素310の詳細の例を例示し、ここで、LIDARシステム120は、第1の速度、第2の速度、及び回転速度の初期推定値に基づいて、時間T1における第1の速度、第2の速度、及び回転速度の微調整値を生成する。いくつかの実施では、LIDARシステム120はまた、後続のデータセット及びそれらのそれぞれの速度推定値を使用して、第1の速度、第2の速度、及び回転速度のこれらの値をさらに微調整する。
802において、LIDARシステム120は、走査速度に基づいてT0及びT2での走査のサンプル点の実際の位置を決定する。この線に沿って、初期推定値に関連して既に議論されたように、速度の推定を行う際には、単一走査のサンプル点が全て、単一の時点で取られたと仮定した。これは、走査が有限速度を有するときには当てはまらない。従って、LIDARシステム120は、時間T1での速度vx、vy及び回転速度ωzの初期推定値に基づいて、走査の時間に従って走査におけるサンプル点の位置の補正を行う。
一例として、時間T0に対応する第1の走査が完了に10ミリ秒かかると仮定する。最初の推定のために、走査は、T0=5ミリ秒で行われたとみなした。さらに、走査のサンプル点(xi、yj)がT=1ミリ秒で生成されたことが分かっていると仮定する。(例えば、サンプル点は、一定速度で生成されてもよい。)次いで、線形に補正された(回転のない)サンプル点は、(xi'、yj')=(xi+vxΔT、yj+vyΔT)に等しい位置を有し、式中、ΔT=T0−Tである。回転を考慮した補正サンプル点は、(xi''、yj'')=(xi' cos θz0-yj、sin θz0、xi' sin θz0+yj' cos θz0)に等しい位置を有する。この後者の位置は、そのサンプル点の微調整位置である。サンプル点の微調整位置を見つけるためのこのプロセスは、T0及びT2走査における全てのサンプル点で続ける。
804において、T0及びT2でのサンプル点の微調整位置が見つかったら、LIDARシステム120は、図7の702、704、及び706を繰り返す。この線に沿って、LIDARシステム120は、時間T0及び時間T2における補間された物体の変位間の相関を最大にする平行移動及び回転を見つける。いくつかの実施では、LIDARシステム120は、xy平面内の様々なサンプル点における物体の変位間の差の二乗和を最小にする、又は少なくとも実質的に小さくする。和の最小化の結果、すなわち相関の最適化は、新しい平行移動Δx1、Δy1及び回転θz1の規定である。
806において、LIDARシステム120は、新しい平行移動及び回転からの時間T1における線形速度及び回転速度に対する微調整δvx、δvy、及びδωzを決定する。
808において、LIDARシステム120は、速度vx、vy及び回転速度ωzの初期推定値に対するこれらの微調整が閾値よりも小さいか否かを決定する。
810において、微調整が閾値よりも小さい場合は、プロセス310は収束し、時間T0における物体110の運動が決定される。
812において、微調整が閾値以上である場合は、プロセス310は収束せず、線形速度及び回転速度に対するさらなる微調整が存在する。この線に沿って、LIDARシステム120は、偶数時間(例えば、T4、T6など)で取られた後続のデータセットを使用することによって、その後の(奇数)時間における物体110の運動を決定することができる。一実施では、LIDARシステム120が、時間T2及びT4における物体のサンプル点の微調整位置に基づいて、時間T3における微調整速度vx、vy、及び微調整回転速度ωzを生成したと仮定する。次いで、速度を時間の関数とみなすことができる。2つのデータ点(T1及びT3での速度)では、各速度は、線形プロファイル:v(T)=v(T1)+a(T−T1)を使用してモデル化することができ、式中、係数aは、T1及びT3における速度から決定される。各速度に対するこの時間依存モデルは、T0及びT2における速度の新たな調整値を生成する。これらの速度の新しい調整値から、LIDARシステム120は、サンプル点のさらに微調整された位置を決定することができ、その位置から、T1での速度に対する新たな微調整を決定することができる。これらの微調整が閾値以上である場合は、LIDARシステム120は、T6での走査データを使用してT5での速度を決定し、この速度から二次速度モデルを生成し、速度に対する微調整が閾値未満になるまで、これを続ける。上記のプロセスが迅速に収束することが分かった。
さらなる微調整のために使用される時間依存速度は、時間内の速度の単純な線形補間である必要はない。いくつかの実施では、3つ以上の速度推定値が分かっている場合は、3次スプラインのような、より一層正確な速度の補間を使用することができる。
LIDARシステム120(例えば、分析マネージャ130)の構成要素(例えば、モジュール、プロセッサ(例えば、シリコン基板などの基板内で定義されたプロセッサ))は、1種類以上のハードウェア、ソフトウェア、ファームウェア、オペレーティングシステム、及び/又はランタイムライブラリなどを含み得る1つ以上のプラットフォーム(例えば、1つ以上の同様の又は異なるプラットフォーム)に基づいて作動するように構成することができる。いくつかの実施では、LIDARシステム120の構成要素は、装置のクラスタ(例えば、サーバファーム)内で作動するように構成することができる。
いくつかの実施では、図3に示されている第2の走査は、第1の走査とは反対方向で行うことができる。このように決定された速度及び回転速度は、前述と同様に、第1の走査と第2の走査との中間の時点で評価される。
いくつかの実施では、図1のLIDARシステム120に示されている構成要素の1つ以上の部分は、ハードウェアベースのモジュール(例えば、デジタル信号プロセッサ(DSP)、フィールドプログラマブルゲートアレイ(FPGA)、メモリ)、ファームウェアモジュール、及び/又はソフトウェアベースのモジュール(例えば、コンピュータコードのモジュール、コンピュータで実行することができる一連のコンピュータ可読命令)であってもよいし、又はこれらを含んでもよい。例えば、いくつかの実施では、LIDARシステム120の1つ以上の部分は、少なくとも1つのプロセッサ(不図示)によって実行されるように構成されたソフトウェアモジュールであってもよいし、又はこれを含んでもよい。いくつかの実施では、構成要素の機能性は、図1に示されているものとは異なるモジュール及び/又は異なる構成要素に含めることができる。
いくつかの実施では、LIDARシステム120の1つ以上の構成要素は、メモリに格納された命令を処理するように構成されたプロセッサであってもよいし、又はこれを含んでもよい。例えば、分析マネージャ130(及び/又はその一部)は、1つ以上の機能を実施する処理に関する命令を実行するように構成されたプロセッサとメモリとの組み合わせであってもよい。
図示されていないが、いくつかの実施では、LIDARシステム120(又はその一部)の構成要素は、例えば、データセンター(例えば、クラウドコンピューティング環境)、コンピュータシステム、及び/又は1つ以上のサーバ/ホスト装置などの内部で作動するように構成することができる。いくつかの実施では、LIDARシステム120(又はその一部)の構成要素は、ネットワーク内で作動するように構成することができる。このため、LIDARシステム120(又はその一部)は、1つ以上の装置及び/又は1つ以上のサーバ装置を含み得る様々な種類のネットワーク環境内で機能するように構成することができる。例えば、ネットワークは、ローカルエリアネットワーク(LAN)及び/又はワイドエリアネットワーク(WAN)などであってもよいし、又はこれらを含んでもよい。ネットワークは、例えば、ゲートウェイ装置、ブリッジ、及び/又はスイッチなどを用いて実施されるワイヤレスネットワーク及び/又はワイヤレスネットワークであってもよいし、又はこれらを含んでもよい。ネットワークは、インターネットプロトコル(IP)及び/又は専用プロトコルなどの様々なプロトコルに基づいて1つ以上のセグメントを含んでもよいし、かつ/又は一部を有してもよい。ネットワークは、インターネットの少なくとも一部を含んでもよい。
いくつかの実施では、LIDARシステム120は、メモリを含んでもよい。メモリは、ランダムアクセスメモリ、ディスクドライブメモリ、及び/又はフラッシュメモリなどのいずれの種類のメモリであってもよい。いくつかの実施では、メモリは、LIDARシステム120の構成要素に関連付けられた2つ以上のメモリ構成要素(例えば、2つ以上のRAM構成要素又はディスクドライブメモリ)として実施してもよい。
いくつかの実施では、LIDARシステムは、追跡している物体に対して1つのパターン又は複数のパターンで移動するように構成されたレーザ又はレーザビームを含むレーザシステムを含む。例えば、いくつかの実施では、LIDARシステム120の走査機構152は、追跡している物体に対して1つのパターン又は複数のパターンで移動するように構成された複数のレーザ又はビームを含む。
例えば、いくつかの実施では、LIDARシステム120は、レーザビームを固定又は静止させる1つのモードと、レーザビームが形状などの1つのパターン又は複数のパターンで移動する第2のモードとを有し得る。いくつかの実施では、LIDARシステム120が第2のモードである場合、2つ以上のレーザビームは、1つのパターン又は複数のパターンで移動する。いくつかの実施では、異なるレーザビームは、異なるパターンで独立して移動してもよい。
他の実施では、LIDARシステム120は、いくつかのレーザを含む、又は静止しているいくつかのレーザビーム、及び1つのパターン(又は複数のパターン)又は形状で移動するように構成されたいくつかのレーザビームを生成する。
レーザ又はビームは、任意のパターン又は形状で移動することができる。例えば、いくつかの実施では、レーザ又はビームは、楕円形状で移動するように構成されている。他の実施では、レーザ又はビームは、線、円形、正方形、長方形、三角形、又は任意の他の形状で移動するように構成されている。いくつかの実施では、レーザ又はビームが移動する形状又はパターンは、追跡している物体によって決定又は判断される。例えば、いくつかの実施では、レーザの移動のパターン又は形状は、追跡している物体の形状と同様であってもよい。例えば、個人の顔は一般的に楕円形状であるため、個人の顔を追跡する場合には、楕円形状又はパターンを使用することができる。
本明細書に記載の様々な技術の実施は、デジタル電子回路、又はコンピュータハードウェア、ファームウェア、ソフトウェア、又はそれらの組み合わせで実施することができる。実施は、コンピュータプログラム製品として、すなわち、情報担体に、例えば、機械可読記憶装置(コンピュータ可読媒体、非一時的なコンピュータ可読記憶媒体、有形のコンピュータ可読記憶媒体)に、又はデータ処理装置、例えば、プログラマブルプロセッサ、コンピュータ、若しくは複数のコンピュータで処理するための、若しくは該データ処理装置の操作を制御するための伝播信号に具体的に具現されたコンピュータプログラムとして実施してもよい。上述のコンピュータプログラム(複数可)などのコンピュータプログラムは、コンパイラ型言語又はインタプリタ型言語を含む任意の形式のプログラミング言語で書き込んでもよく、かつスタンドアロンプログラム又はモジュール、コンポーネント、サブルーチン、若しくはコンピューティング環境での使用に適した他のユニットを含む任意の形式で展開してもよい。コンピュータプログラムを展開して、1台のコンピュータで、又は1つのサイトに配置された若しくは複数のサイトにわたって分散され、かつ通信ネットワークによって相互接続された複数台のコンピュータで処理することができる。
方法のステップは、入力データに対して動作して出力を生成することで機能を果たすコンピュータプログラムを実行する1つ以上のプログラマブルプロセッサによって実施することができる。方法のステップは、特定用途論理回路、例えば、FPGA(フィールドプログラマブルゲートアレイ)又はASIC(特定用途向け集積回路)によって実施してもよく、かつ装置を、該特定用途論理回路として実施してもよい。
コンピュータプログラムを処理するのに適したプロセッサは、例として、汎用及び特定用途マイクロプロセッサの両方、及びあらゆる種類のデジタルコンピュータのいずれか1つ以上のプロセッサを含む。一般に、プロセッサは、読み取り専用メモリ又はランダムアクセスメモリ、又はこれらの両方から命令及びデータを受信する。コンピュータの要素は、命令を実行する少なくとも1つのプロセッサ、並びに命令及びデータを格納する1つ以上のメモリ装置を含み得る。一般に、コンピュータはまた、データを格納する1つ以上の大容量記憶装置、例えば、磁気ディスク、光磁気ディスク、又は光ディスクを備えてもよいし、又はこれらにデータを受信する又は送信する、又は送受信するように動作可能に連結してもよい。コンピュータプログラム命令及びデータを具現するのに適した情報担体は、例として、半導体メモリ装置、例えば、EPROM、EEPROM、及びフラッシュメモリ装置;磁気ディスク、例えば、内部ハードディスク又はリムーバブルディスク;光磁気ディスク;並びにCD-ROM及びDVD-ROMディスクを含む、あらゆる形態の不揮発性メモリを含む。プロセッサ及びメモリは、特定用途論理回路によって補完してもよいし、又はその内部に設けてもよい。
ユーザとの対話を提供するために、実施は、ユーザに情報を提示する表示装置、例えば、液晶ディスプレイ(LCD又はLED)モニタ、タッチスクリーンディスプレイ、並びにユーザがコンピュータに入力することができるキーボード及びポインティングデバイス、例えば、マウス又はトラックボールを備えるコンピュータ上で行うことができる。他の種類の装置を使用しても同様に、ユーザとの対話を提供することができ;例えば、ユーザに提供されるフィードバックは、感覚フィードバック、例えば、視覚フィードバック、聴覚フィードバック、又は触覚フィードバックなどの任意の形態にすることができ;そしてユーザの入力は、音響入力、音声入力、又は触覚入力を含む任意の形態で受信することができる。
実施は、コンピューティングシステムで行うことができ、該コンピューティングシステムは、例えば、データサーバのようなバックエンドコンポーネントを含む、又はミドルウェアコンポーネント、例えば、アプリケーションサーバを含む、又はフロントエンドコンポーネント、例えば、ユーザが実施と対話することができる、グラフィカルユーザインタフェース若しくはウェブブラウザを有するクライアントコンピュータを含む、又はそのようなバックエンドコンポーネント、ミドルウェアコンポーネント、若しくはフロントエンドコンポーネントの任意の組み合わせを含む。コンポーネントは、任意の形式又は媒体のデジタルデータ通信、例えば、通信ネットワークによって相互接続してもよい。通信ネットワークの例としては、ローカルエリアネットワーク(LAN)及びワイドエリアネットワーク(WAN)、例えば、インターネットが挙げられる。
いくつかの実施では、LIDARシステム120は、対象又は個人の移動する顔のミリメートル範囲の精度性能を達成することができる。しかしながら、いくつかの実施では、固体物体の速度の推定は、会話及び他の生物学的要素からの有意な速度成分を除去するために、多数のサンプルの処理を必要とする。0.05mm(50ミクロン)の振幅を有する500Hzの振動は、約16cm/秒の最大速度(2×π×500×5E-5=0.157m/秒)を有する。たとえ振動の振幅が、対象又は個人の顔の追跡処理にとって重要でない距離の変化であっても、瞬間速度は重要であり得、振動速度が除去され得る。いくつかの実施では、振動速度の除去は、除去すべき振動の期間よりも有意に長い速度データサンプルの処理、及びノイズ又はバイアスを回避するための配慮を必要とし得る。例えば、速度(例えば、z方向の速度)におけるノイズは、物体の回転又は物体のz速度を検出又は決定するための能力に影響を与える又はこの能力を低下させる可能性がある。いくつかの実施では、振動ノイズ又は速度ノイズは、比較的小さく、その影響を除去するために平均化することができる。
上記の実施のある特徴を本明細書に記載されるように例示してきたが、当業者であれば、多くの修正、置き換え、変更、及び均等物に想到するであろう。従って、添付の特許請求の範囲は、実施の範囲内であるとしてそのような修正及び変更の全てを網羅することを意図することを理解されたい。実施は、限定としてではなく単なる例として提示されたものであり、形態及び詳細の様々な変更が可能であることを理解されたい。本明細書に記載の装置及び/又は方法のどの部分も、相互排他的な組み合わせを除いて、あらゆる組み合わせで組み合わせることができる。本明細書に記載の実施は、記載された異なる実施の機能、構成要素、及び/又は特徴の様々な組み合わせ及び/又は部分的な組み合わせを含み得る。

Claims (20)

  1. 走査機構から放射される電磁放射線の複数のビームを使用する、物体の第1の時間での第1の走査の実施に基づいて第1のデータセットを定義するステップ;
    該走査機構から放射される該電磁放射線の複数のビームを使用する、該物体の第2の時間での第2の走査の実施に基づいて第2のデータセットを定義するステップであって、該第1の走査及び該第2の走査のそれぞれが、該複数のビームの方向に対して実質的に垂直な方向で行われる、該ステップ;
    該第1のデータセット及び該第2のデータセットに基づいて、(i)該複数のビームの方向に対して直交する第1の軸に沿った該物体の第1の速度の初期値、(ii)該複数のビームの方向に対して直交する第2の軸に沿った該物体の第2の速度の初期値、及び(iii)該複数のビームの方向に対して平行な軸を中心とする該物体の回転速度の初期値を生成するステップを含む、方法。
  2. 前記走査機構の前記電磁放射線の複数のビームが、長方形グリッドに配置され、
    該走査機構の該電磁放射線の複数のビームのそれぞれが、該ビームとして準−コヒーレントな光学的放射線を生成するレーザから放射され、
    前記第1のデータセットを定義するステップが、前記第1の時間に、該長方形グリッドによって定義される該第1のデータセットのサンプル点における該複数のビームの方向に対して平行な軸に沿った前記物体の変位の値を得るステップを含み、該変位の値が、該物体上のそれぞれの点から反射される各ビームの相対光路長によって決定され、かつ
    前記第2のデータセットを定義するステップが、前記第2の時間に、該長方形グリッドによって定義される該第2のデータセットのサンプル点における該複数のビームの方向に対して平行な軸に沿った該物体の変位の値を得るステップを含み、該変位の値が、該物体上のそれぞれの点から反射される各ビームの相対光路長によって決定される、請求項1記載の方法。
  3. 前記第1の速度の初期値及び前記第2の速度の初期値を生成するステップが:
    前記第1のデータセットを再サンプリングして第1の再サンプルデータセットを生成するステップであって、該第1の再サンプルデータセットが、長方形グリッドの点でサンプリングされ、該長方形グリッドのグリッド線が、前記第1の軸又は前記第2の軸のいずれかに平行である、該ステップ;
    前記第2のデータセットを再サンプリングして第2の再サンプルデータセットを生成するステップであって、該第2の再サンプルデータセットが、該長方形グリッドの点内でサンプリングされる、該ステップ;
    運動推定動作を行って、該第1の再サンプルデータセット及び該第2の再サンプルデータセットに基づいて運動推定値を推定するステップ;並びに
    該運動推定動作を行うステップの後に、該運動推定値に基づいて該第1の速度及び該第2の速度の初期値を生成するステップを含む、請求項2記載の方法。
  4. 前記第1のデータセットを再サンプリングするステップが、線形補間動作を行って前記第1の再サンプルデータセットのサンプル点、及び該第1の再サンプルデータセットの該サンプル点における前記物体の補間変位を生成するステップを含み;かつ
    前記第2のデータセットを再サンプリングするステップが、線形補間動作を行って前記第2の再サンプルデータセットのサンプル点、及び該第2の再サンプルデータセットの該サンプル点における該物体の補間変位を生成するステップを含む、請求項3記載の方法。
  5. 前記線形補間動作を行うステップが:
    データセットの4つのサンプル点を長方形領域の頂点として使用して該長方形領域を形成するステップ、及び
    該長方形領域の該頂点における前記物体の変位の線形組み合わせとして該長方形領域内のサンプル点における該物体の補間変位を生成するステップを含む、請求項4記載の方法。
  6. 前記第2の再サンプルデータセットのサンプル点が、前記第1の軸に沿った第1の平行移動及び前記第2の軸に沿った第2の平行移動分、前記第1の再サンプルデータセットのサンプル点からずれており;かつ
    前記運動推定動作を行うステップが、前記運動推定値として、該第1の再サンプルデータセットのサンプル点における前記物体の補間変位と該第2の再サンプルデータセットのサンプル点における該物体の補間変位との間の相関を最大にする第1の平行移動及び第2の平行移動を見つけるステップを含む、請求項4記載の方法。
  7. 前記第1の平行移動及び前記第2の平行移動を見つけるステップが、前記第1の再サンプルデータセットのサンプル点における前記物体の補間変位と前記第2の再サンプルデータセットのサンプル点における該物体の補間変位との間の相関として、該第1の再サンプルデータセットのサンプル点における該物体の補間変位と該第2の再サンプルデータセットのサンプル点における該物体の補間変位との間の差の二乗和の逆数を生成するステップを含む、請求項6記載の方法。
  8. 前記複数のビームの方向に対して平行な軸を中心とする前記物体の回転速度の初期値を生成するステップが:
    前記第1の再サンプルデータセットから調整データセットを生成するステップ;
    回転推定動作を行って、該調整データセットに基づいて回転推定値を生成するステップ;及び
    該回転推定動作を行うステップの後に、該回転推定値に基づいて、該複数のビームの方向に対して平行な軸を中心とする該物体の回転速度の初期値を生成するステップを含む、請求項4記載の方法。
  9. 前記第1の再サンプルデータセットから前記調整データセットを生成するステップが、線形補間動作を行って、該調整データセットのサンプル点及び該サンプル点における前記物体の変位を生成するステップを含み、該調整データセットのサンプル点が前記運動推定値に基づいている、請求項8記載の方法。
  10. 前記調整データセットのサンプル点が、前記複数のビームの方向に対して平行な軸を中心とする前記第1の再サンプルデータセットのサンプル点の回転分、該第1の再サンプルデータセットのサンプル点からずれており;かつ
    前記回転推定動作を行うステップが、前記回転推定値として、該第1の再サンプルデータセットのサンプル点における前記物体の補間変位と該調整データセットのサンプル点における該物体の変位との間の相関を最大にする回転を見つけるステップを含む、請求項9記載の方法。
  11. 前記回転を見つけるステップが、前記第1の再サンプルデータセットのサンプル点における前記物体の補間変位と前記調整データセットのサンプル点における該物体の変位との間の相関として、該第1の再サンプルデータセットのサンプル点における該物体の補間変位と該調整データセットのサンプル点における該物体の変位との間の差の二乗和の逆数を生成するステップを含む、請求項10記載の方法。
  12. 前記第1の速度、前記第2の速度、及び前記回転速度の初期値を生成するステップの後に、該第1の速度の初期値、該第2の速度の初期値、及び該回転速度の初期値に基づいて該第1の速度の微調整値、該第2の速度の微調整値、及び該回転速度の微調整値を生成するステップをさらに含む、請求項2記載の方法。
  13. 前記第1の速度の微調整値、前記第2の速度の微調整値、及び前記回転速度の微調整値を生成するステップが:
    該第1の速度の初期値、該第2の速度の初期値、及び該回転速度の初期値に基づいて前記第1のデータセットの微調整サンプル点を生成して第1の微調整データセットを生成するステップ;
    該第1の速度の初期値、該第2の速度の初期値、及び該回転速度の初期値に基づいて前記第2のデータセットの微調整サンプル点を生成して第2の微調整データセットを生成するステップ;
    該第1の微調整データセットを再サンプリングして第1の再サンプル微調整データセットを生成するステップであって、該第1の再サンプル微調整データセットが、前記長方形グリッドの点でサンプリングされ、該長方形グリッドの点における各点での変位のそれぞれの再サンプル値を有する、該ステップ;
    該第2の微調整データセットを再サンプリングして第2の再サンプル微調整データセットを生成するステップであって、該第2の再サンプルデータセットが、該長方形グリッドの点でサンプリングされ、該長方形グリッドの点における各点での変位のそれぞれの再サンプル値を有する、該ステップ;
    該第1の再サンプル微調整データセットの変位の再サンプル値と該第2の再サンプル微調整データセットの変位の再サンプル値との間の相関を最大にする微調整された第1の平行移動、微調整された第2の平行移動、及び微調整された回転を見つけるステップ;並びに
    該微調整された第1の平行移動、該微調整された第2の平行移動、及び該微調整された回転に基づいて、該第1の速度の微調整値、該第2の速度の微調整値、及び該回転の微調整値を生成するステップを含む、請求項12記載の方法。
  14. 前記第1のデータセットの各微調整サンプル点が、前記第1の時間とは異なるそれぞれの瞬間に収集され、かつ
    前記第1のデータセットの微調整サンプル点を生成するステップが、該第1のデータセットの各微調整サンプル点について:
    該サンプル点が収集された瞬間と該第1の時間との間の差に等しい時間差を生じさせるステップ;
    該サンプル点の第1の微調整を生成するステップであって、該第1の微調整が、該時間差と該第1の速度の値との積及び該時間差と該第2の速度の値との積に基づいている、該ステップ;
    該第1のデータセットの該微調整サンプル点として、該サンプル点の第2の微調整を生成するステップであって、該第2の微調整が、前記回転速度の値と該時間差との積に等しい回転角に対する該サンプル点の第1の微調整の回転に基づいている、該ステップを含む、請求項13記載の方法。
  15. 前記第1の速度の値が、前記第1の速度の初期値であり、前記第2の速度の値が、前記第2の速度の初期値であり、かつ前記回転速度の値が、前記回転速度の初期値である、請求項14記載の方法。
  16. 前記第2の時間の後の瞬間に、前記第1の速度の値、前記第2の速度の値、及び前記回転速度の値を収集するステップ;並びに
    該収集された第1の速度の値に基づいて時間内に第1の速度プロファイルを生成し、該収集された第2の速度の値に基づいて時間内に第2の速度プロファイルを生成し、かつ該収集された回転速度の値に基づいて時間内に回転速度プロファイルを生成するステップをさらに含み、かつ
    該第1の速度の値が、前記第1の時間で評価される該第1の速度プロファイルに等しく、該第2の速度の値が、該第1の時間で評価される該第2の速度プロファイルに等しく、かつ該回転速度の値が、該第1の時間で評価される該回転速度プロファイルに等しい、請求項14記載の方法。
  17. ある方向に電磁放射線の複数のビームを放射して、該複数のビームを、該複数のビームの該方向に対して実質的に垂直な方向に物体の領域に対して走査するように構成及び配置された走査機構;並びに
    メモリ及び該メモリに結合された制御回路を備えるコンピューティング装置を含むシステムであって、該制御回路が:
    走査機構から放射される電磁放射線の複数のビームを使用する、物体の第1の時間での第1の走査の実施に基づいて第1のデータセットを定義し;
    該走査機構から放射される該電磁放射線の複数のビームを使用する、該物体の第2の時間での第2の走査の実施に基づいて第2のデータセットを定義し、該第1の走査及び該第2の走査のそれぞれが、該複数のビームの方向に対して実質的に垂直な方向で行われ;
    該第1のデータセット及び該第2のデータセットに基づいて、(i)該ビームの方向に対して直交する第1の軸に沿った該物体の第1の速度の初期値、(ii)該ビームの方向に対して直交する第2の軸に沿った該物体の第2の速度の初期値、及び(iii)該ビームの方向に対して平行な軸を中心とする該物体の回転速度の初期値を生成するように構成及び配置されている、前記システム。
  18. 前記走査機構の前記電磁放射線の複数のビームが、長方形グリッド内に配置され、
    該走査機構の該電磁放射線の複数のビームのそれぞれが、該ビームとして、準−コヒーレントな光学的放射線を生成するレーザから放射され、
    前記第1のデータセットを定義するように構成及び配置された前記制御回路が、前記第1の時間に、該長方形グリッドによって定義されるサンプル点における該複数のビームの方向に対して平行な軸に沿った前記物体の変位の値を得るようにさらに構成及び配置され、該変位の値が、該物体上のそれぞれの点から反射される各ビームの相対光路長によって決定され、かつ
    該第1のデータセットを定義するように構成及び配置された該制御回路が、前記第2の時間に、該長方形グリッドによって定義されるサンプル点における該複数のビームの方向に対して平行な軸に沿った該物体の変位の値を得るようにさらに構成及び配置され、該変位の値が、該物体上のそれぞれの点から反射される各ビームの相対光路長によって決定される、請求項17記載のシステム。
  19. 前記第1の速度の初期値及び前記第2の速度の初期値を生成するように構成及び配置された前記制御回路が:
    前記第1のデータセットを再サンプリングして第1の再サンプルデータセットを生成するステップであって、該第1の再サンプルデータセットが、長方形グリッドの点でサンプリングされ、該長方形グリッドのグリッド線が、前記第1の軸又は前記第2の軸のいずれかに平行である、該ステップ;
    前記第2のデータセットを再サンプリングして第2の再サンプルデータセットを生成するステップであって、該第2の再サンプルデータセットが、該長方形グリッドの点でサンプリングされる、該ステップ;
    運動推定動作を行って、該第1の再サンプルデータセット及び該第2の再サンプルデータセットに基づいて運動推定値を推定するステップ;並びに
    該運動推定動作を行うステップの後に、該運動推定値に基づいて該第1の速度及び該第2の速度の初期値を生成するステップを行うようにさらに構成及び配置されている、請求項18記載のシステム。
  20. 前記第1のデータセットを再サンプリングするように構成及び配置された前記制御回路が、線形補間動作を行って前記第1の再サンプルデータセットのサンプル点、及び該第1の再サンプルデータセットのサンプル点における前記物体の補間変位を生成するようにさらに構成及び配置され;かつ
    前記第2のデータセットを再サンプリングするように構成及び配置された該制御回路が、線形補間動作を行って前記第2の再サンプルデータセットのサンプル点、及び該第2の再サンプルデータセットのサンプル点における前記物体の補間変位を生成するようにさらに構成及び配置されている、請求項19記載のシステム。
JP2018563814A 2016-06-07 2017-06-06 Lidarを使用した運動の推定 Active JP7057289B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201662346866P 2016-06-07 2016-06-07
US62/346,866 2016-06-07
US15/613,974 2017-06-05
US15/613,974 US10557942B2 (en) 2016-06-07 2017-06-05 Estimation of motion using LIDAR
PCT/US2017/036152 WO2017214144A1 (en) 2016-06-07 2017-06-06 Estimation of motion using lidar

Publications (3)

Publication Number Publication Date
JP2019518957A true JP2019518957A (ja) 2019-07-04
JP2019518957A5 JP2019518957A5 (ja) 2020-07-16
JP7057289B2 JP7057289B2 (ja) 2022-04-19

Family

ID=60578124

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018563814A Active JP7057289B2 (ja) 2016-06-07 2017-06-06 Lidarを使用した運動の推定

Country Status (8)

Country Link
US (2) US10557942B2 (ja)
EP (1) EP3465259A4 (ja)
JP (1) JP7057289B2 (ja)
CN (2) CN109416398B (ja)
AU (1) AU2017279528B2 (ja)
CA (1) CA3026638A1 (ja)
TW (1) TWI781106B (ja)
WO (1) WO2017214144A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11029399B2 (en) 2018-02-01 2021-06-08 Beijing Voyager Technology Co., Ltd. System and method for calibrating light intensity
US20190383942A1 (en) * 2018-06-18 2019-12-19 DSCG Solutions, Inc. Lidar-only lock-on tracking system
US11556000B1 (en) 2019-08-22 2023-01-17 Red Creamery Llc Distally-actuated scanning mirror
US11740360B2 (en) * 2020-11-02 2023-08-29 Motional Ad Llc Light detection and ranging (LiDaR) scan smoothing

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10510352A (ja) * 1994-08-24 1998-10-06 トリコーダー テクノロジー ピーエルシー 走査装置および走査方法
JP2002202319A (ja) * 2001-01-04 2002-07-19 Omron Corp 車両用検知装置
JP2006030147A (ja) * 2004-07-22 2006-02-02 Hitachi Ltd 環境認識システムおよび移動機構
JP2007527548A (ja) * 2003-12-31 2007-09-27 シンボル テクノロジーズ, インコーポレイテッド カラーレーザープロジェクションディスプレイを用いて画像をキャプチャするための方法および装置
US20100109938A1 (en) * 2007-01-31 2010-05-06 Gordon Kenneth Andrew Oswald Adaptive radar
WO2011070927A1 (ja) * 2009-12-11 2011-06-16 株式会社トプコン 点群データ処理装置、点群データ処理方法、および点群データ処理プログラム
US20150338518A1 (en) * 2014-05-21 2015-11-26 DSCG Solutions, Inc. Devices, systems, and methods for real time tracking of an object
JP2015535925A (ja) * 2012-09-04 2015-12-17 デジタル・シグナル・コーポレーション 3次元測定システムから取得された画像の解像度を上げること

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5988862A (en) 1996-04-24 1999-11-23 Cyra Technologies, Inc. Integrated system for quickly and accurately imaging and modeling three dimensional objects
US9402601B1 (en) * 1999-06-22 2016-08-02 Teratech Corporation Methods for controlling an ultrasound imaging procedure and providing ultrasound images to an external non-ultrasound application via a network
US6937774B1 (en) 2000-10-24 2005-08-30 Lockheed Martin Corporation Apparatus and method for efficiently increasing the spatial resolution of images
US7689321B2 (en) 2004-02-13 2010-03-30 Evolution Robotics, Inc. Robust sensor fusion for mapping and localization in a simultaneous localization and mapping (SLAM) system
US8855848B2 (en) 2007-06-05 2014-10-07 GM Global Technology Operations LLC Radar, lidar and camera enhanced methods for vehicle dynamics estimation
US7999923B2 (en) 2009-02-19 2011-08-16 Northrop Grumman Systems Corporation Systems and methods for detecting and analyzing objects
JP5614489B2 (ja) 2011-03-01 2014-10-29 トヨタ自動車株式会社 状態推定装置
US11284846B2 (en) 2011-05-12 2022-03-29 The John Hopkins University Method for localization and identification of structures in projection images
CN102305932B (zh) * 2011-07-26 2013-10-30 中国科学院上海光学精密机械研究所 菲涅耳望远镜成像激光雷达运动目标成像方法
US9134402B2 (en) 2012-08-13 2015-09-15 Digital Signal Corporation System and method for calibrating video and lidar subsystems
US9188676B2 (en) 2012-08-15 2015-11-17 Digital Signal Corporation System and method for detecting a face contour using a three-dimensional measurement system
US9523772B2 (en) 2013-06-14 2016-12-20 Microsoft Technology Licensing, Llc Object removal using lidar-based classification
US10564285B2 (en) 2015-11-19 2020-02-18 DSCG Solutions, Inc. Estimation of motion in six degrees of freedom (6DOF) using LIDAR

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10510352A (ja) * 1994-08-24 1998-10-06 トリコーダー テクノロジー ピーエルシー 走査装置および走査方法
JP2002202319A (ja) * 2001-01-04 2002-07-19 Omron Corp 車両用検知装置
JP2007527548A (ja) * 2003-12-31 2007-09-27 シンボル テクノロジーズ, インコーポレイテッド カラーレーザープロジェクションディスプレイを用いて画像をキャプチャするための方法および装置
JP2006030147A (ja) * 2004-07-22 2006-02-02 Hitachi Ltd 環境認識システムおよび移動機構
US20100109938A1 (en) * 2007-01-31 2010-05-06 Gordon Kenneth Andrew Oswald Adaptive radar
WO2011070927A1 (ja) * 2009-12-11 2011-06-16 株式会社トプコン 点群データ処理装置、点群データ処理方法、および点群データ処理プログラム
JP2015535925A (ja) * 2012-09-04 2015-12-17 デジタル・シグナル・コーポレーション 3次元測定システムから取得された画像の解像度を上げること
US20150338518A1 (en) * 2014-05-21 2015-11-26 DSCG Solutions, Inc. Devices, systems, and methods for real time tracking of an object

Also Published As

Publication number Publication date
US20180348372A1 (en) 2018-12-06
CN109416398B (zh) 2023-12-08
CN117761657A (zh) 2024-03-26
AU2017279528B2 (en) 2022-03-24
EP3465259A4 (en) 2020-01-15
US20200150273A1 (en) 2020-05-14
US10557942B2 (en) 2020-02-11
WO2017214144A1 (en) 2017-12-14
TW201743076A (zh) 2017-12-16
TWI781106B (zh) 2022-10-21
CA3026638A1 (en) 2017-12-14
CN109416398A (zh) 2019-03-01
JP7057289B2 (ja) 2022-04-19
AU2017279528A1 (en) 2019-01-03
EP3465259A1 (en) 2019-04-10

Similar Documents

Publication Publication Date Title
US20200150274A1 (en) Estimation of motion in six degrees of freedom (6dof) using lidar
US20200150273A1 (en) Estimation of motion using lidar
TWI764322B (zh) 被搭載於移動體處之雷射掃描系統、被搭載於移動體處之雷射掃描器之雷射掃描方法及雷射掃描程式
JP2017516110A (ja) 物体をリアルタイムで追跡するためのデバイス、システム、および方法
US11262454B2 (en) Dwell-angle-independent tracking and monitoring objects using LIDAR
US11513229B2 (en) Multi-beam processing of lidar vibration signals
US20190383942A1 (en) Lidar-only lock-on tracking system
US20190377066A1 (en) Tracking objects using video images and lidar

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200605

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200605

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210324

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210406

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211005

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220407

R150 Certificate of patent or registration of utility model

Ref document number: 7057289

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150