JP2022533119A - 電子走査lidarシステム用同期画像捕捉 - Google Patents

電子走査lidarシステム用同期画像捕捉 Download PDF

Info

Publication number
JP2022533119A
JP2022533119A JP2021568199A JP2021568199A JP2022533119A JP 2022533119 A JP2022533119 A JP 2022533119A JP 2021568199 A JP2021568199 A JP 2021568199A JP 2021568199 A JP2021568199 A JP 2021568199A JP 2022533119 A JP2022533119 A JP 2022533119A
Authority
JP
Japan
Prior art keywords
array
tof
light
image
emitter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021568199A
Other languages
English (en)
Inventor
アンガス パカラ
Original Assignee
アウスター インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アウスター インコーポレイテッド filed Critical アウスター インコーポレイテッド
Publication of JP2022533119A publication Critical patent/JP2022533119A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/484Transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/42Simultaneous measurement of distance and other co-ordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/87Combinations of systems using electromagnetic waves other than radio waves
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • G01S7/4815Constructional features, e.g. arrangements of optical elements of transmitters alone using multiple transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4861Circuits for detection, sampling, integration or read-out
    • G01S7/4863Detector arrays, e.g. charge-transfer gates
    • HELECTRICITY
    • H03ELECTRONIC CIRCUITRY
    • H03KPULSE TECHNIQUE
    • H03K3/00Circuits for generating electric pulses; Monostable, bistable or multistable circuits
    • H03K3/02Generators characterised by the type of circuit or by the means used for producing pulses
    • H03K3/42Generators characterised by the type of circuit or by the means used for producing pulses by the use, as active elements, of opto-electronic devices, i.e. light-emitting and photoelectric devices electrically- or optically-coupled
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/44Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by partially reading an SSIS array

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)

Abstract

実施形態では、フィールドに光を放出するように構成されたエミッタアレイと、フィールドから反射された放出光を検出するように構成された飛行時間(TOF)センサアレイと、フィールド内の周囲光を検出するように構成された画像センサアレイと、を含む、電子走査光学システムを記載しており、エミッタアレイの視野は、TOFセンサアレイの視野および画像センサアレイの視野の少なくともサブセットに対応している。光学システムは、複数の光エミッタのサブセットを一度に起動するように構成されたエミッタコントローラと、対応する光エミッタの発射と同時に個々のTOF光センサの読み出しを同期させるように構成されたTOFセンサコントローラと、放出サイクル中にフィールドを提示する画像を捕捉するように構成された画像センサコントローラと、をさらに含む。【選択図】図1

Description

光撮像、検出および測距(LIDAR(ライダー))システムは、標的にパルスレーザ光を照射し、センサで反射パルスを測定することにより、標的までの距離を測定する。その後、飛行時間測定を使用して、標的のデジタル3D表現を作製することができる。LIDARシステムは、考古学、地理学、地質学、森林学、マッピング、建設、医療用画像処理、軍事用途など、3D深度画像が役立つ様々な用途に使用することができる。自律車両は、障害物の検出および回避、ならびに車両のナビゲーションにもLIDARを使用することができる。
一部のLIDARシステムには、フィールド内のシーンの画像を捕捉するために360°以下の回転角度で送受信要素を物理的に走査する機械的な可動部品が含まれている。車両の障害物の検出および回避に使用可能なこのようなシステムの一例は、多くの場合、回転またはスピニングLIDARシステムと称される。回転LIDARシステムでは、LIDARセンサが、典型的にはハウジング内で、360度回転またはスピンする列に取り付けられている。LIDARセンサは、LIDARセンサがシーン内で連続的に回転するときに車両の周囲のシーンを照明するためのコヒーレント光エミッタ(例えば、赤外または近赤外スペクトルのパルスレーザ)を含む。コヒーレント光エミッタが回転すると、LIDARシステムから放射パルスがシーン内の様々な方向に送信される。シーン内の周囲の物体に入射する放射の一部は、車両の周囲のこれらの物体から反射され、その後、これらの反射は異なる時間間隔撮像システムでLIDARセンサの撮像システム部分によって検出される。撮像システムは、検出された光を電気信号に変換する。
このようにして、距離および形状など、LIDARシステムの周囲の物体に関する情報が収集され、処理される。LIDARシステムのデジタル信号処理ユニットは、電気信号を処理し、物体の情報を深度画像または3Dポイントクラウドで再現することができ、これらの情報は、障害物の検出および回避、ならびに車両ナビゲーションなどの目的で使用することができる。追加的に、画像処理および画像ステッチングモジュールは、情報を取得し、車両周辺の物体のディスプレイを組み立てることができる。
可動機械部品を含まない固体LIDARシステムも存在する。一部の固体LIDARシステムは、シーンを回転する代わりに、光で捕捉し、反射光を感知する予定のシーン全体部分をフラッシュする。そのようなシステムでは、送信器は、すべての光を一度に放出してシーンを照明するエミッタのアレイを含むため、「フラッシュ」LIDARシステムと呼ばれることもある。フラッシュLIDARシステムは、可動部品がないため、作製がそれほど複雑ではない。ただし、すべてのエミッタが一度に起動するため、動作には大量の電力が必要になり、すべてのピクセル検出器からの信号を一度に処理するには大量の処理能力が必要になる。さらに、既存のLIDARシステムは、シーンの3次元画像を構築するために、測距目的で放出された光のみを捕捉するように設計されている。このような画像は単色であり、可視光スペクトル中の肉眼で知覚されるものを反映していない。
本開示のいくつかの実施形態は、シーンの3次元画像を生成するための距離測定に加えて、2次元画像を捕捉することができるスピニング列がない静止した固体LIDARシステムに関する。実施形態は、現在利用可能なスピニングLIDARシステムと比較して、改善された精度、信頼性、サイズ、統合および外観で、高解像度および低電力消費でシーンの画像を捕捉できる。
いくつかの実施形態によれば、固体電子走査LIDARシステムは、光送信モジュールと、光感知モジュール内のエミッタアレイの発射シーケンスが、飛行時間(TOF:time-of-flight)測定のための光感知モジュール内の飛行時間センサアレイの捕捉シーケンスに対応するように動作が同期される光感知モジュールと、を含むことができる。LIDARシステムは、エミッタアレイおよびTOFセンサアレイと同じ視野から周囲光画像を捕捉することができる画像センサアレイを含む画像捕捉モジュールをさらに含むことができる。様々な実施形態において、画像センサアレイは、ローリングシャッタカメラまたはグローバルシャッタカメラとして動作され得、いくつかの実施形態において、画像センサアレイは、TOFセンサアレイと同期する方法で、またはTOFセンサアレイと非同期の方法で動作させることができる。
いくつかの実施形態では、エミッタアレイ、TOFセンサアレイ、および画像センサアレイはそれぞれ、物体空間においてエミッタ、TOFセンサ、および画像センサの視野をそれぞれコリメートする画像空間テレセントリックバルク光学系と結合することができる。エミッタアレイは、垂直キャビティ表面放出レーザ(VCSEL)のアレイであり、TOFセンサアレイは、TOF光センサのアレイを含むことができ、TOFセンサアレイ内の各TOF光センサは、狭いスペクトル内の光、例えば、赤外スペクトル内の光を検出するための単一光子アバランシェダイオード(SPAD)などの光検出器の集合体を含む。しかしながら、TOFセンサアレイとは異なり、画像センサアレイは、可視光スペクトル内で知覚されるシーンの画像を捕捉するための画像光センサのアレイを含むことができる。
動作中、エミッタアレイは、エミッタアレイから1つ以上の列の光エミッタを連続的に発射して、光(例えば、近赤外波長範囲のパルス光ビーム)をシーンに向けて投射することができ、反射光は、TOFセンサアレイ内のTOF光センサの1つ以上の対応する列によって受信することができる。発射シーケンスと捕捉シーケンスとを同期させることにより、固体走査LIDARシステムは、特定の時点で、その対応するTOF光センサのセットによって効率的に検出できるエミッタのセットから一定量の光のみを照射することで、効率的に画像を捕捉することができ、これにより、シーンの過度の照明を最小限に抑え、システムに利用可能な電力を最大限に活用する方法でエネルギーを集中させる。
発射および捕捉シーケンスとさらに同期して、対応する画像光センサのグループを起動し、シーンの周囲光を測定することができる。画像センサアレイの視野は、エミッタアレイの視野(これは、TOFセンサアレイの視野と同じにすることができる)と重複できるので、電子走査LIDARシステムは、シーン内の物体の2次元カラー画像を捕捉すると同時に、シーン内のそれらの物体までの距離を捕捉することができる。これにより、電子走査LIDARシステムは、シーン内の物体までの距離に加えて、シーンの高解像度カラー画像を提供することができるので、ユーザは、シーンのどの部分が電子走査LIDARシステムによって走査されているかをよりよく理解することができる。
いくつかの実施形態では、本明細書の電子走査LIDARシステムは、マイクロ光学系を利用して、シーンの飛行時間測定値が捕捉される効率をさらに改善することもできる。マイクロ光学系は、エミッタアレイから放出される光の輝度および強度を改善し、電子走査LIDARシステムのTOFセンサアレイのセンサピクセル間のクロストークを最小限に抑えることができる。例えば、いくつかの実施形態では、TOFセンサアレイのTOF光センサの前に位置付けすることができる。各光エミッタは、アパーチャ層のアパーチャに対応することができ、各アパーチャは、各光エミッタが特定のTOF光センサに対応するように、TOFセンサアレイ要素のTOF光センサに対応することができる。アパーチャは、隣接するTOF光センサへの迷光の露光を緩和し、TOF光センサの視野をフィールド内の単一ポイントに狭めることができる。
いくつかの実施形態では、光学システムの外部のフィールドに光を放出するように構成された複数の光エミッタを有するエミッタアレイと、フィールドから反射された放出光を検出するように構成され飛行時間(TOF)光センサを含むTOFセンサアレイと、フィールド内の周囲光を検出するように構成された複数の画像光センサを含む画像センサアレイと、を含む、電子走査光学システムを記載しており、エミッタアレイの視野は、TOFセンサアレイの視野および画像センサアレイの視野の少なくともサブセットに対応している。光学システムは、エミッタアレイに結合され、かつ複数の光エミッタのサブセットを一度に起動することにより、各放出サイクルにおいて複数の光エミッタを起動するように構成されたエミッタコントローラと、TOFセンサアレイに結合され、かつTOFセンサアレイ内の個々のTOF光センサの読み出しを、エミッタアレイ内の対応する光エミッタの発射と同時に同期させるように構成され、このため、エミッタアレイ内の各光エミッタが起動され得、TOFセンサアレイ内の各TOF光センサが、放出サイクルを通じて読み出され得る、TOFセンサコントローラと、画像光センサのアレイに結合され、かつ視野がエミッタアレイ全体の視野と重複する画像光センサのアレイの少なくとも一部分を読み出して、放出サイクル中のフィールドを提示する画像を捕捉するように構成されている画像センサコントローラと、をさらに含む。
いくつかの実施形態では、飛行時間(TOF)センサアレイ、画像センサアレイ、エミッタアレイ、エミッタコントローラ、TOFセンサコントローラ、および画像センサコントローラを含む固体光学システムが開示されている。TOFセンサアレイは、エミッタアレイから放出され、固体光学システムの外部のフィールドから反射された、放出光を検出するように動作可能な複数のTOF光センサを含み得、複数のTOF光センサ内の各TOF光センサが、フィールドにおいて、光学システムからの閾値距離を超えて、複数のTOF光センサの他のTOF光センサの視野と重複しない個別の視野を有する。画像センサアレイは、フィールド内の周囲光を検出するように構成された複数の画像光センサを含み得、このため、複数のTOF光センサにおける各TOF光センサの個別の視野が、TOFセンサアレイの視野を画定し、画像センサアレイの視野がTOFセンサアレイの視野を包含する。エミッタアレイは、各光エミッタが、光学システムの外部のフィールド内に動作波長の光の個別のビームを放出するように構成されている複数の光エミッタを含み得、このため、システムからのある範囲の距離にわたってサイズおよび幾何学的形状においてTOFセンサアレイの視野に実質的に一致する照明パターンに従って、エミッタアレイが、複数の光の個別のビームを出力する。エミッタコントローラは、エミッタアレイに結合され得、一度に複数の光エミッタのサブセットを起動することによって、各放出サイクルにおいて複数の光エミッタを起動するように動作可能である。TOFセンサコントローラは、TOFセンサアレイに結合され、かつTOFセンサアレイ内の個々のTOF光センサの読み出しを、エミッタアレイ内の対応する光エミッタの発射と同時に同期させるように動作可能であり、このため、エミッタアレイ内の各光エミッタが起動され得、TOFセンサアレイ内の各TOF光センサが、放出サイクルを通じて読み出され得る。画像センサコントローラは、画像光センサのアレイに結合され、かつ視野がエミッタアレイの視野と重複する画像光センサのアレイの少なくとも一部分を読み出して、放出サイクル中のフィールドを提示する画像を捕捉するように動作可能である。
さらに他の実施形態では、光検出システム、画像捕捉システム、および光放出システムを含む固体光学システムが提供される。光検出システムは、焦点距離を有する第1のバルク光学系と、第1のバルク光学系から焦点距離だけ離間した複数のアパーチャを含むアパーチャ層と、飛行時間(TOF)光センサを含むTOFセンサアレイと、アパーチャ層とTOFセンサアレイとの後方に配設された複数のレンズを含むレンズ層と、第1の波長を中心とした狭帯域の光を通過させるように動作可能で、かつ第1のバルク光学系とTOFセンサアレイとの間に配設された光学フィルタと、を含み得る。アパーチャ層、レンズ層、およびTOFセンサアレイは、複数のTOFチャネルを形成するように配置され、複数のTOFチャネル内の各TOFチャネルが、複数のアパーチャからのアパーチャ、複数のレンズからのレンズ、および複数のTOF光センサからのTOF光センサを含み得る。複数のTOFチャネル内の各TOF光センサは、複数の単一光子アバランシェダイオード(SPAD)を含むことができ、複数のTOFチャネル内の各TOFチャネルは、光学システムからの閾値距離を超えて重複しない光学システム前方のフィールドに個別の視野を画定することができ、各TOFチャネルは、第1のバルク光学系に入射した光をTOFチャネルの複数のSPADに通信することができる。画像捕捉システムは、第2のバルク光学系と、第2のバルク光学系を通して受信されたフィールド内の周囲光を検出するように動作可能な複数の画像光センサを含む画像センサアレイと、を含むことができる。複数のTOF光センサ内の各TOF光センサの個別の視野は、TOFセンサアレイの視野を画定することができ、画像センサアレイの視野は、TOFセンサアレイの視野を包含することができる。光放出システムは、第3のバルク光学系と、複数の垂直キャビティ表面放出レーザ(VCSEL)を含むエミッタアレイであって、垂直キャビティ表面放出レーザ(VCSEL)の各々が、第3のバルク光学系を通じて光学システムの外部のフィールド内に第1の波長の個別の光ビームを放出するように構成されている、エミッタアレイと、を含み得、このため、エミッタアレイが、システムからのある範囲の距離にわたって、サイズおよび幾何学的形状において、TOFセンサアレイの視野に実質的に一致する照明パターンに従って、複数の光の個別のビームを出力する。
固体光学システムは、エミッタコントローラ、TOFセンサコントローラ、および画像センサコントローラをさらに含むことができる。エミッタコントローラは、エミッタアレイに結合され得、一度に複数の光エミッタのサブセットを起動することによって、各放出サイクルにおいて複数のVCSELを起動するように動作可能である。TOFセンサコントローラは、TOFセンサアレイに結合され、TOFセンサアレイ内の個々のTOF光センサの読み出しを、エミッタアレイ内の対応する光エミッタの発射と同時に同期させるように動作可能であり、このため、エミッタアレイ内の各光エミッタが起動され得、TOFセンサアレイ内の各TOF光センサが、放出サイクルを通じて読み出され得る。画像センサコントローラは、画像光センサのアレイに結合され、かつ視野がエミッタアレイの視野と重複する画像光センサのアレイの少なくとも一部分を読み出して、放出サイクル中のフィールドを提示する画像を捕捉するように動作可能である。
本開示の実施形態の性質および利点のより良好な理解は、以下の詳細な説明および添付の図面を参照して得ることができる。しかしながら、図の各々は、例示のみを目的として提供されており、本開示の範囲の限界の定義として意図されていないことを理解されたい。また、原則として、説明から反対のことが明らかでない限り、異なる図の要素が同一の参照番号を使用する場合、要素は、一般に、機能または目的が同一であるか、または少なくとも類似している。
本開示のいくつかの実施形態による、例示的な固体電子走査LIDARシステムのブロック図である。 本開示のいくつかの実施形態による、例示的な固体電子走査LIDARシステム用のエミッタアレイと、TOFセンサアレイと、画像センサアレイとの簡略図である。 本開示のいくつかの実施形態による、エミッタアレイの例示的な発射シーケンスおよびTOFセンサアレイと画像センサアレイとのセンサ読み出しシーケンスを示す簡略図である。 本開示のいくつかの実施形態による、シナリオにおける電子走査LIDARシステムの光送信および検出動作の例示的な例である。 本開示のいくつかの実施形態による、エミッタアレイと、TOFセンサアレイと、画像センサアレイとの重複視野の簡略図である。 本開示のいくつかの実施形態による、エミッタアレイの視野と画像センサアレイの視野との重複する視野を示す簡略図である。 本開示のいくつかの実施形態による、エミッタアレイの視野と画像センサアレイの視野との重複する視野を示す簡略図であり、対応するエミッタアレイと画像センサアレイとは不完全に位置合わせされている。 本開示のいくつかの実施形態による、画像センサアレイとエミッタアレイとの同期を示すタイミング図である。 本開示のいくつかの実施形態による、画像センサアレイとエミッタアレイとの同期を示すタイミング図であり、画像センサアレイの起動速度は、エミッタアレイの起動速度よりもはるかに速い。 本発明のいくつかの実施形態による、例示的な固体電子走査LIDARシステムの詳細な側面図を示す簡略図である。 本発明のいくつかの実施形態による、例示的な増強された光放出システムの簡略断面図である。 本発明のいくつかの実施形態による、道路車両の外側領域に実装された固体電子走査LIDARシステムの簡略図である。 本開示のいくつかの実施形態による、道路車両の上部に実装された固体電子走査LIDARシステムの簡略図である。
本開示のいくつかの実施形態は、スピニング列が存在しない静止した固体LIDARシステムに関する。実施形態は、LIDARシステムの外部のフィールドに狭帯域光を放出し、飛行時間測定のためにフィールド内の物体で反射した後に放出された狭帯域光を捕捉するだけでなく、フィールドで周囲の可視光を感知することもできる。次に、実施形態は、捕捉された放出光を使用してフィールドの3次元表現を作成し、捕捉された周囲の可視光を使用して、フィールドの高解像度の2次元画像を作成することができる。次に、フィールドの3次元表現をシーンの2次元画像と一致させることができることにより、固体LIDARシステムの状況認識が向上する。
本開示のいくつかの実施形態による固体アレイ電子走査LIDARシステムは、光送信モジュールおよび光感知モジュールを含むことができる。光送信モジュールは、個々のエミッタのアレイを含む送信器層を含むことができ、光感知モジュールは、TOF光センサのアレイを含むTOFセンサ層を含むことができる。エミッタアレイの各エミッタは、TOFセンサアレイの対応するセンサ(すなわち、TOF光センサ)と対にすることができる。いくつかの実施形態では、エミッタのセット全体でシーンをフラッシュする代わりに、エミッタのサブセットのみが一度に起動され、TOF光センサの対応するサブセットのみがエミッタの発射と同時に読み出される。その後、異なる時間にエミッタの異なるサブセットが起動され、その対応するTOF光センサのサブセットが同時に読み出されるため、エミッタアレイ内のすべてのエミッタが起動され得、TOFセンサアレイ内のすべてのTOF光センサが1つの放出サイクルを通して読み取られ得る。
電子走査LIDARシステムはまた、システムがシーンの周囲光からの可視光スペクトル内で知覚されるシーンの高解像度画像を捕捉することができるように、画像捕捉モジュールを含むことができる。画像捕捉モジュール内の画像センサアレイの視野は、エミッタアレイの視野と重複することができる(すなわち、エミッタアレイの視野は、画像センサアレイの視野のサブセットであり得、サブセットは視野全体の一部だけに限定されるのではなく、視野全体と等しくすることができる)、これにより、電子走査LIDARシステムは、シーン内の物体のカラー画像を捕捉すると同時に、シーン内のそれらの物体までの距離を捕捉することができるようになる。いくつかの実施形態では、画像センサアレイは、それぞれが可視光に感度を持つ画像光センサのアレイから形成される。
いくつかの実施形態では、画像捕捉モジュールは、ローリングシャッタカメラとして動作させることができ、このため、画像光センサアレイのサブグループは、対応するエミッタバンクと同時に、同じ順序で起動させることができるようになり、画像センサアレイは、距離を測定するためにエミッタアレイによっても照明されているシーンの周囲光を感知することができる。いくつかの実施形態では、画像捕捉モジュールは、画像光センサアレイ全体を一度に起動して、エミッタバンクを起動するたびにその視野内の周囲光を感知することができるように、グローバルシャッタカメラとして動作することができる。その場合、本明細書でさらに詳細に論じられるように、起動されたエミッタバンクと視野を共有する画像センサアレイの部分のみが読み出され、画像を生成するために使用される。
I.電子走査LIDARシステム
本開示のいくつかの実施形態による固体電子走査LIDARシステムのより良い理解は、図1を参照して確認することができ、図1は、本開示のいくつかの実施形態による例示的な固体電子走査LIDARシステム100のブロック図を示す。固体電子走査LIDARシステム100は、測距システムコントローラ104、光送信(Tx)モジュール106、光感知(Rx)モジュール108、および画像捕捉(IRx)モジュール150を含むことができる。
Txモジュール106およびRxモジュール108は、一緒に動作して、視野内の物体までの距離を表す測距データを生成することができ、一方、IRxモジュール150は、Txモジュール106の動作と同期して、同じ視野内の物体の画像を表す画像データを同時に生成することができる。固体電子走査LIDARシステム100は、光送信モジュール106から1つ以上の光パルス110を、システム100を囲む視野内の物体に送信することによって、測距データを生成することができる。次いで、透過光の反射部分112が、いくらかの遅延時間の後、光感知モジュール108によって検出される。遅延時間に基づいて、反射面までの距離が判定され得る。測距データに加えて、固体電子走査LIDARシステム100はまた、光パルス110が放出され、透過光の反射部分112が反射されるのと同じ視野から周囲の可視光を感知することによって画像データを生成することができる。画像データを使用して、視野内の物体の高解像度画像をレンダリングできるため、測距データを対応する画像データと照合して、シーンのより詳細な画像を提供することができる。
光送信モジュール106は、エミッタアレイ114(例えば、エミッタの二次元アレイ)と、エミッタアレイ114と一緒になって光放出システム138を形成することができるTx光学システム116と、を含む。Tx光学システム116は、画像空間テレセントリックであるバルク送信器光学系144を含むことができる。いくつかの実施形態では、Tx光学システム116は、エミッタアレイ114と組み合わせてマイクロ光学送信器チャネルのアレイを形成することができる、アパーチャ層、コリメートレンズ層、および光学フィルタなどの1つ以上のTx光学部品146をさらに含むことができ、図11を参照して本明細書で説明するように、各マイクロ光学送信器チャネルは、バルク送信器光学系から発せられるビームの輝度を増加させ、および/またはビーム成形、ビームステアリングなどのために増加させることができる。エミッタアレイ114または個々のエミッタは、垂直キャビティ表面放出レーザ(VCSEL)、レーザダイオードなどの狭帯域レーザ源であり得る。Txモジュール106は、オプションのプロセッサ118およびメモリ120をさらに含むことができるが、いくつかの実施形態では、これらのコンピューティングリソースは測距システムコントローラ104に組み込むことができる。いくつかの実施形態では、例えばバーカーコードなどのパルスコーディング技術を使用することができる。そのような場合、メモリ120は、光をいつ送信すべきかを示すパルスコードを格納することができる。いくつか実施形態では、パルスコードは、メモリに格納された整数のシーケンスとして格納される。
光感知モジュール108は、TOFセンサアレイ126(例えば、TOF光センサの二次元アレイ)を含むことができ、TOFセンサアレイ126の各TOF光センサは、例えば、Rxモジュール108およびTxモジュール106の幾何学的構成の結果として、エミッタアレイ114の特定のエミッタに対応し得る。いくつかの実施形態では、各TOF光センサ(本明細書では単に「センサ」または「ピクセル」とも呼ばれる)は、例えばSPADなどの光検出器の集合体を含むことができ、一方、他の実施形態では、TOF光センサは、単一の光子検出器(例えば、APD)であり得る。光感知モジュール108は、受信器光感知システム128を含み、TOFセンサアレイ126と一緒にされると、光検出システム136を形成することができる。いくつかの実施形態では、受信器光感知システム128は、受信器バルク受信器光学系140と、アパーチャ層、レンズ層、光学フィルタなどの受信器光学部品142と、を含むことができ、TOFセンサアレイ126と組み合わせてマイクロ光学受信器チャネルのアレイを形成することができ、各マイクロ光学受信器チャネルは、光測距デバイス102が位置付けられている周囲の視野の異なる視野内の画像ピクセルに対応する光を測定する。
本開示のいくつかの実施形態によるRxおよびTx光学システムのさらなる詳細は、図10と併せて後述するとともに、2018年5月14日に出願された、「Optical Imaging Transmitter with Brightness Enhancement」と題する共通割当米国特許出願第15/979,235号に記載されており、あらゆる目的のためにその全体が参照によって本明細書に組み込まれている。
本開示のいくつかの実施形態によれば、光測距デバイス102は、Rxモジュール108およびTxモジュール106に加えて、IRxモジュール150を含むことができる。IRxモジュール150は、画像センサアレイ152(例えば、可視光を検出するための画像光センサの2次元アレイ)を含むことができ、IRxモジュール150およびTxモジュール106の幾何学的構成の結果として、画像センサアレイ152の視野の少なくとも一部がエミッタアレイ114の視野全体と重複する。画像センサアレイ152は、帯電結合デバイス(CCD)センサまたは相補型金属酸化物半導体(CMOS)画像センサなどの任意の適切な可視光センサであり得る。IRxモジュール150はまた、画像光感知システム154を含むことができ、これは、画像センサアレイ152と一緒にされると、画像捕捉システム156を形成することができる。いくつかの実施形態では、画像光感知システム154は、画像センサアレイ152に焦点を合わせて露光するために、周囲光が通過する画像化バルク受信器光学系158を含むことができる。
本明細書で述べたように、光測距デバイス102は、一度にエミッタバンクのみを起動し、エミッタの発射と同時に対応するTOF光センサバンクのみを読み出すことにより、シーン内の物体までの距離に基づく画像を捕捉することができる電子走査LIDARデバイスであり得る。異なる時間に異なるエミッタバンクが起動され、その対応するTOF光センサバンクが同時に読み出されるため、最終的にすべてのエミッタが起動し、TOFセンサアレイ内のすべてのTOF光センサを1回の放出サイクルで読み出すことができる。TOF光センサバンクに加えて、対応する画像光センサのグループを同時に読み出し、周囲光を測定することでシーンの画像を捕捉できる。例として、エミッタアレイは、各放出サイクルに対して、左から右に順番に、一度に1つのバンクを起動することによって、光を放出することができるが、TOFセンサアレイと画像センサの両方は、対応するTOF光センサバンクおよび対応するグループの画像光センサをそれぞれ対応するシーケンスで読み出すように構成することができる。したがって、本開示の実施形態は、光の放出と感知を同期させるための1つ以上の部品を含むことができる。
例えば、光送信モジュール106は、エミッタアレイ114に結合されたエミッタコントローラ115を含むことができる。エミッタコントローラ115は、例えば、発射所望のシーケンスに従って各エミッタバンクを選択的に発射することによって、エミッタアレイ126の動作を制御するように構成される。エミッタコントローラ115は、エミッタアレイ114を動作させるための1つ以上の駆動部品とともに、ASIC、マイクロコントローラ、FPGA、または他の好適な処理要素などの好適なプロセッサを含むことができる。同様に、光検出システム136は、TOFセンサアレイ126に結合され、TOFセンサアレイ126の動作を制御するように構成されたTOFセンサコントローラ125を含むことができる。そして、画像捕捉システム156は、画像センサアレイ152に結合され、画像センサアレイ152の動作を制御するように構成された画像センサコントローラ160を含むことができる。TOFセンサコントローラ125および画像センサコントローラ160は、各々が、ASIC、マイクロコントローラ、FPGA、またはマルチプレクサなどの選択回路に結合された他の好適なプロセッサなど、1つ以上の光センサを選択して光を感知することができる任意の好適な部品または部品グループであり得る。
いくつかの実施形態では、エミッタコントローラ115、TOFセンサコントローラ125、および画像センサコントローラ160は、エミッタアレイ114内の光放出のシーケンスが、TOFセンサアレイ126内のTOF光センサおよび画像センサアレイ152内の画像光センサを起動および/または読み出すシーケンスと同期するように同期される。一例として、エミッタコントローラ115、TOFセンサコントローラ125および画像センサコントローラ160のすべてをクロック117に結合して、すべてのコントローラが同じタイミングスキームに基づいて動作できるようにすることができる。クロック117は、デジタル回路の動作を調整するために、特定の速度で高状態と低状態との間で振動する特定の信号を生成する電気部品であり得る。任意選択で、エミッタコントローラ115、TOFセンサコントローラ125および画像センサコントローラ160は、独自の動作を調整するための独自のクロック回路を含むことができる。そのような実施形態では、エミッタコントローラ115、TOFセンサコントローラ125、および画像センサコントローラ160は、TOFセンサコントローラ125および画像センサコントローラ160がそれらのクロックをエミッタコントローラ115と同期させることができるように、通信線119および162を介して互いに通信可能に結合することができる。そのようにして、TOFセンサコントローラ125、画像センサコントローラ160およびエミッタコントローラ115は、TOFセンサアレイ126、画像センサアレイ152、およびエミッタアレイ114をそれぞれ同期して動作させて、画像捕捉を達成することができる。
いくつかの実施形態では、画像センサコントローラ160は、画像センサアレイ152をローリングシャッタカメラとして動作させることができ、画像光センサのアレイ全体の一部を順番に起動および読み取ることによって、シーンの画像が捕捉される。画像センサアレイ152の部分を起動させて読み出すシーケンスは、エミッタアレイ内のエミッタが発射されるシーケンス、および/または、TOFセンサアレイ内のTOF光センサが読み出されるシーケンスに対応することができる。
特定の実施形態では、画像センサコントローラ160は、画像センサアレイ152を、画像光センサのアレイ全体を一度に、かつ一定の起動速度で起動することによってシーンの画像を捕捉するグローバルシャッタカメラとして動作させることができるが、順番に従って画像光センサの一部のみを読み出すことができる。画像センサアレイ152が起動する速度は、場合によっては、エミッタアレイ内のエミッタバンクが発射される速度に対応する。画像センサアレイ152全体から画像データを読み取る代わりに、発射されている対応するエミッタバンクの視野に対応する視野を有する画像光センサの部分のみを読み出して、シーンのカラー画像を生成するための画像データを生成してもよい。
本明細書で述べたように、画像センサアレイ152の起動速度は、TOFセンサアレイ126の動作と同期させることができる。そのような場合、画像センサアレイ152が起動される速度は、TOFセンサアレイ126が読み取られる速度(およびエミッタアレイ114が発射される速度)以上であり得る。例えば、速度が同じである場合、画像光センサが起動されるたびに、図6に関して本明細書でさらに説明されるように、TOF光センサが同時ではあるが、同じまたは異なる持続時間で起動され得る。画像センサアレイ152の起動速度がTOFセンサアレイ126の起動速度よりも速い場合、例えば、TOFセンサアレイ126の速度の2倍、4倍、または8倍である場合、図7A~図7Cに関して本明細書でさらに説明するように、画像センサアレイ152を、所定の時間内にTOFセンサアレイ126よりも数回多く起動することができる。
いくつかの追加の実施形態では、画像センサコントローラ160は、エミッタアレイ114およびTOFセンサアレイ126の動作に関して非同期的に画像センサアレイ152を動作させることができる。例えば、画像センサアレイ152の起動速度は、TOFセンサアレイ126およびエミッタアレイ114の起動速度とは異なり得、TOF光センサの起動またはエミッタの発射のすべてが、同時に起動する画像光センサに対応するとは限らない。このような実施形態では、TOFセンサアレイ126またはエミッタアレイ114の起動に時間的に最も近いTOFセンサ光センサのグループの起動から取り出された画像データを読み出すことによって、取り込まれた三次元画像の二次元カラー画像表現を生成することができる。
いくつかのさらなる実施形態では、測距システムコントローラ104は、光感知モジュール108、画像捕捉モジュール150、および光送信モジュール106の動作を同期させるように構成することができ、そのため、エミッタアレイ114による光放出のシーケンスは、TOFセンサアレイ126および画像センサアレイ152による感知光のシーケンスと同期する。例えば、測距システムコントローラ104は、各放出サイクルに対して一度に1つのバンクずつ左から右に順番に起動することにより、光送信モジュール106のエミッタアレイ114に光を放出するよう指示し、それに応じて光感知モジュール108内のTOFセンサアレイ126および画像捕捉モジュール150内の画像センサアレイ152に、それぞれ対応するTOF光センサバンクおよび画像光センサのグループを一度に1つのバンクずつ同じ順番で光を感知するように指示することができる。そのような実施形態では、測距システムコントローラ104は、光感知モジュール108、画像捕捉モジュール150、および光送信モジュール106へのそのシーケンス命令の基礎となる独自のクロック信号を有することができる。本明細書でさらに議論されるように、光検出のためのシーケンスの他の形態が本明細書で想定され、そのようなシーケンスは限定的ではないことを理解されたい。
エミッタアレイの連続発射およびTOFセンサアレイと画像センサアレイとの感知の一例を示すために、本開示のいくつかの実施形態による例示的な固体電子走査LIDARシステム200用のエミッタアレイ210およびTOFセンサアレイ220の簡略化された図である図2Aを参照する。エミッタアレイ210は、m個の数の列およびn個の数の行を有するエミッタ212の二次元m×nアレイとすることができ、TOFセンサアレイ220は、各TOF光センサ222がエミッタアレイ210のそれぞれのエミッタ212にマッピングされるように、エミッタアレイ210と対応することができる。したがって、TOFセンサアレイ220は、TOF光センサ222の対応する二次元m×nアレイとすることができる。他方、画像感知アレイ230は、y個の列およびz個の行を有する画像光センサ232の2次元y×zアレイであり得る。いくつかの実施形態では、画像光センサ232の2次元y×zアレイの列および行の数は、エミッタ212のm×nアレイよりも実質的に大きいかまたは実質的に大きくなり得、その結果、画像感知アレイの解像度は、エミッタアレイの解像度よりも実質的に高くなる。例えば、いくつかの実施形態では、画像センサアレイ230は、TOFセンサアレイ126に含まれるTOF光センサの列および/または行の数よりも2倍、4倍、8倍、16倍、またはそれ以上の列および/または行の画像光センサを含むことができる。
いくつかの実施形態では、エミッタアレイ210およびTOFセンサアレイ220は、一般に、回転LIDARシステムで典型的に採用されるエミッタまたはTOFセンサアレイよりも多くの要素(すなわち、より多くのエミッタおよびより多くのTOF光センサ)を含む大きなアレイである。TOFセンサアレイ220(およびTOFセンサアレイ220に対応する視野を照明するための対応するエミッタアレイ210)のサイズ、すなわち全体的な物理的寸法、およびTOFセンサアレイ220内のTOF光センサのピッチは、TOFセンサアレイ220で捕捉することができる画像の視野および解像度を決定することができる。サイズの大きいアレイは、一般に視野が広くなり、ピッチのサイズが小さいと一般に高解像度の画像が捕捉される。いくつかの実施形態では、画像センサアレイ230の全体の寸法は、エミッタアレイ210の全体の寸法以上であり得るが、そのピッチは、エミッタアレイ210のピッチよりも小さいか、または実質的に小さくできる。したがって、画像センサアレイ230は、より大きな解像度を達成しながら、エミッタアレイ210と同じまたはより大きな視野を有することができる。いくつかの実施形態では、画像センサアレイ230の全体の寸法は、図5A~図5Bに関して本明細書でさらに説明するように、アライメント公差を増加させることができ、異なるサイズのエミッタアレイとの互換性を達成することができるように、エミッタアレイ210の全体的なサイズよりも大きくなっている。
いくつかの実施形態では、エミッタアレイ210、TOFセンサアレイ220および画像センサアレイ230は各々、単一の半導体ダイから形成され、他の実施形態では、アレイ210、220、および230のうちの1つ以上は、本明細書で説明するように、共通基板に取り付けられた複数のチップで形成することができる。いくつかの実施形態では、エミッタアレイ210、TOFセンサアレイ220、および画像センサアレイ230の各々は、図4に関して本明細書でさらに説明されるように、重複する視野を有するように構成された独立した半導体ダイ上に形成される。
エミッタアレイ210は、エミッタの1つ以上のセット(本明細書では、各セットを「バンク」と呼ぶ)を同時に発射することができるように動作するように構成することができる。例えば、図2Aに示される実施形態では、エミッタアレイ210は、各バンクが4列のエミッタを含む6個のバンク214(1)..214(6)を含むように構成されている。TOFセンサアレイ220は、TOF光センサ222が同様に配置されたバンクに配置されるように、エミッタアレイ210と同様の形状で構成することができる。他方、画像センサアレイ230は、エミッタアレイ210よりも高い解像度を有し、対応するエミッタバンクの視野内に位置付けられる画像光センサの特定のグループがそれらエミッタバンクに割り当てられるように構成することができる。したがって、図2Aに示される実施形態では、TOFセンサアレイ220は、各バンクに4列のTOF光センサを含む6つのバンク224(1)...224(6)を含むようにも構成され、また、画像センサアレイ230は、各グループが対応するエミッタバンク214(1)~214(6)と同じ視野を有する6つのグループ234(1)~234(6)に分割することができる。
図2B~図2Dは、画像センサアレイ230がローリングシャッタ技術で動作する本開示のいくつかの実施形態による、エミッタアレイ210の発射シーケンスおよびTOFセンサアレイ220および画像センサアレイ230のセンサ読み出しシーケンスを示す簡略図である。図2Bに示されるように、画像捕捉シーケンスの第1の段階は、エミッタアレイ210のエミッタバンク214(1)を発射し、同時にTOFセンサアレイ220のセンサバンク224(1)および画像センサアレイ220の画像センサバンク234(1)を読み出すことにより開始することができる。この第1の段階では、エミッタバンク214(1)の個々の各エミッタから放出される光のパルスがフィールドに放出される。次に、放出光は、フィールド内の1つ以上の物体で反射され、TOFセンサアレイ220のセンサバンク224(1)内のTOF光センサのそれぞれのサブセットによって捕捉され得る。一方、視野内のシーンに存在する周囲光は、画像光センサ232のそれぞれのグループ234(1)によって捕捉される。
次に、シーケンスの第2の段階で、エミッタアレイの第2のバンク214(2)からのエミッタを起動して、図2Cに示されるように、画像センサアレイのグループ234(2)の画像光センサがその場所の周囲光を測定している間に、TOFセンサアレイのTOFセンサバンク224(2)のTOF光センサで読み取ることができる光のパルスを放出することができる。エミッタバンクの連続発射および対応する画像光センサバンクおよびグループにおけるTOF光センサの同時読み出しは、図2Dに示されるように、TOF光センサ224(6)および画像光センサ234(6)の最後のバンクが読み取られると同時にエミッタ214(6)の最後のバンクが起動するまで継続する。1つの完全なサイクルが完了すると(図2B~図2Dに示された例では、画像捕捉シーケンスの6段階)、エミッタアレイ210のすべてのエミッタバンクが起動され、TOFセンサアレイ220のすべての対応するTOF光センサバンクが読み出されて、対応するエミッタバンクアレイ210のから放出された光子を検出し、画像センサアレイ230の画像光センサのすべての対応するグループが読み出されて、エミッタアレイ210によって光が放出された視野内の周囲光を検出することになる。次いで、LIDARシステム200が動作している間、サイクルを連続的に繰り返すことができる。
図2Aでは、エミッタアレイおよび両方のセンサアレイを、各々が特定の数のエミッタまたは光センサを有する6個の異なるバンク/グループに分割して示しているが、実施形態はこのような構成に限定されるものではない。他の実施形態は、6個より多いまたは少ないバンク/グループ、およびバンク/グループごとに多いまたは少ないエミッタもしくは光センサを有することができる。例えば、いくつかの実施形態では、エミッタのk個のバンク/グループおよび光センサのk個のバンク/グループが採用され、ここで、kは、図2Aのエミッタアレイに示される6個のバンクよりも多いか、または少ない。さらなる例として、いくつかの実施形態では、LIDARセンサ200は、本開示の精神および範囲から逸脱することなく、各バンクが1、2、4、8、またはそれ以上のエミッタ列を含む16、32、64、128、またはそれ以上のバンクに分割することができる。追加的に、図2Aは、エミッタの列および光センサの列に関してバンクを論じているが、他の実施形態では、エミッタおよび光センサアレイは、エミッタの1つ以上の列が発射されると同時に光センサの1つ以上の対応する列を読み取るように、列の代わりにエミッタの1つ以上の列および光センサの1つ以上の列を有するバンクに分割することができる。さらに他の実施形態では、エミッタアレイ210内の1つのバンクは、複数の列および複数の行のエミッタを含むエミッタのサブセット(例えば、正方形または長方形のパターンで配置されたエミッタ)を含むことができ、TOFセンサアレイ220または画像センサアレイ230のバンク/グループは、エミッタのサブセットに対応するパターンで配置されたTOF光センサ/画像光センサのサブセットを含むことができる。
追加的に、図2B~図2Dは、発射されたエミッタが段階ごとに1つのバンク/1つのグループずつ進む画像捕捉シーケンスを示しているが、本発明の実施形態は、いずれの特定のシーケンスにも限定されない。例えば、いくつかの実施形態では、k個のバンク/グループを有するLIDARシステムにおいて次のシーケンスを採用することができる。段階1では、エミッタアレイ210の第1のバンクが発射される。段階2では、バンク(k/2+1)が発射される。段階3では、バンク2が発射され、段階4では、バンク(K/2+2)が発射されるなど、バンクkが発射されるk番目の段階まで発射される。そのような実施形態は、隣接するセンサバンクが連続した段階で読み出されないため、TOFセンサアレイ内のクロストークを最小化するのに有益であり得る。別の例として、エミッタの2つ以上の隣接するバンクが同時に発射され、対応するセンサの2つ以上の隣接するバンク/グループが読み出される。2つのバンクが同時に発射され、読み取られる例として、例えば、画像捕捉シーケンスの第1の段階の間に、エミッタアレイ210のバンク214(1)および214(2)が発射され、第2の段階でバンク214(3)および214(4)が発射され得る、などが挙げられる。
図2B~図2Dは、画像光センサの特定のサブセットが特定の順序で起動され、読み取られるローリングシャッタ技術に従って画像センサアレイが動作される実施形態を示すが、実施形態はそのような動作に限定されない。例えば、いくつかの実施形態は、画像センサアレイの画像光センサのアレイ全体がエミッタ発射シーケンスの各段階で起動されるが、発射されたエミッタバンクの視野および/または起動されたTOFセンサバンクの視野に対応する視野を有する画像光センサのみを読み出して、シーンの2次元カラー画像を捕捉するための画像データを生成するグローバルシャッタ技法で画像センサアレイを動作させるように構成される。図2B~図2Dに関して説明されたこれらの例は、可能な多くの異なる発射および読み出しシーケンスのほんの一部であり、他の実施形態では他の発射および読み出しシーケンスが可能である。
図3は、特定のシナリオにおける、本開示のいくつかの実施形態による電子走査LIDARシステム300の光透過およびTOF検出動作の例の図である。具体的には、図3は、図1に示されるLIDARシステム100を代表することができる固体電子走査LIDARシステム300が、システムを囲む容積またはシーンの三次元距離データおよび画像データを収集する様子を示している。図3は、エミッタとセンサとの間の関係を強調する理想化された図であり、したがって、他の部品は示されていない。図4は、図3で説明されたTOFアプローチを使用する範囲判定技術のより良い理解を提供するために、参照されている。実施形態におけるLIDARシステムがどのように測距を実行するかについての説明を単純化するために、画像センサアレイは図3および図4に示されていないが、画像センサアレイは、図5Aおよび図5Bに関して本明細書で説明されるように、エミッタおよびTOFセンサアレイと同じまたは重複する視野からの周囲光を感知するために、TOFセンサアレイおよび/またはエミッタアレイに近接して位置付けられ得ることを理解されたい。
図3を参照すると、電子走査LIDARシステム300は、エミッタアレイ310(例えば、エミッタアレイ114)およびTOFセンサアレイ320(例えば、TOFセンサアレイ126)を含む。エミッタアレイ310は、エミッタ312(1)~312(n)のバンクを含む、光エミッタのアレイ、例えば、垂直キャビティ面放出レーザ(VCSEL)のアレイなどとすることができる。TOFセンサアレイ320は、TOF光センサバンク322(1)~322(n)を含む光センサのアレイとすることができる。TOF光センサは、各TOF光センサに対して、単一光子アバランシェダイオード(SPAD)などの個別の光検出器のセットを採用するピクセル化照明センサであってもよい。しかしながら、様々な実施形態は、任意の種類の光子センサを配置することができる。
図示を容易にするために、エミッタアレイ310は、各バンクが3つのエミッタの単一列を含むエミッタの7個のバンクを有するものとして示されており、TOFセンサアレイ320は、TOF光センサの対応する配置を有するものとして示されている。エミッタバンク312(1)~312(n)およびセンサバンク322(1)~322(n)は、それぞれエミッタアレイ310およびTOFセンサアレイ320のはるかに大きなバンクの一部を代表することができることも理解されたい。したがって、図3Aは、図示を容易にするために21個の異なる点についてのエミッタおよびTOFセンサを示しているだけであるが、他の実装は、各列が3個を超える多くの個々のエミッタを含むエミッタの複数の列を有するバンクを含む、かなり多くのエミッタを有することができることを理解することができる。すなわち、より高密度のエミッタアレイと、対応するより高密度のTOF光センサのアレイを有することで、より高密度のポイントのサンプリングを実現することができる。
各エミッタは、隣接するエミッタからピッチ距離によって離間され得、かつ隣接するエミッタから異なる視野内に光パルスを送信するように構成され得るため、そのエミッタのみに関連付けられたそれぞれの視野を照明することができる。例えば、エミッタ312(1)のバンクは、視野の領域315(1)に照明ビーム314(1)(各々が1つ以上の光パルスから形成される)を放出し、したがって、フィールド内の木330で反射する。同様に、エミッタ312(n)のバンクは、視野の領域315(n)に照明ビーム314(n)を放出する。図3Aに示される実施形態では、エミッタアレイ310は、そのバンクを左から右へ順番に走査することを理解されたい。したがって、図3Aは、エミッタのバンク312(1)が起動される第1の時間の事例と、最後のバンク、すなわちエミッタのバンク312(n)が起動される最後の時間の事例を示す。他のバンクは、バンク312(1)とバンク312(n)との間で左から右に連続的に移動することができる。図3Aは、エミッタならびにTOFセンサアレイ310および320が垂直方向に配向されたバンクによって順番に動作する実施形態を示しているが、実施形態はそのような構成に限定されない。他の実施形態では、上記および本明細書でさらに詳細に説明するように、エミッタならびにTOFセンサアレイ310および320は、クロストークを最小化するために順番ではない垂直方向に配向されたバンクで、または順番であるか、もしくは順番ではない垂直方向に配向されたバンクで、または光を放出および受信するために他の任意の好適な順序で動作することができる。
エミッタによって照明される各視野は、測距データから生成される対応する3D画像内のピクセルまたはスポットと考えられ得る。したがって、各エミッタは他のエミッタとは異なり、他のエミッタと非重複とすることができ、エミッタのセットと非重複視野のセットとの間に1対1のマッピングがある。いくつかの実施形態では、エミッタアレイ310およびTOFセンサアレイ320は各々、非常に小さく、互いに非常に近くなり得る固体デバイスである。例えば、本実施形態によるエミッタまたはTOFセンサアレイのサイズは、数ミリメートルから数センチメートルの範囲であり得る。そのため、2つのアレイの寸法、および数センチ以下になり得るそれらの分離距離は、シーン内の物体までの距離と比較して無視することができる。エミッタおよびTOFセンサアレイのこの配置が、エミッタアレイから放出された光をコリメートし、反射光をTOFセンサアレイに集束することができるそれぞれのバルク光学系と対になっているとき、TOFセンサアレイおよびエミッタアレイは、閾値距離を超えて顕著に類似した視野を有することができるため、各エミッタと対応するTOFセンサは、フィールド内の本質的に同じスポットを見ることができる。この概念は、図4を参照してよりよく理解できる。
図4は、本発明のいくつかの実施形態による、エミッタアレイ310およびTOFセンサアレイ320の重複視野の簡略図である。エミッタアレイ310の各エミッタは、図4に円錐402として示される光のパルスを放出することができ、これはバルク送信器光学系404を通してコリメートされ、放出光406としてフィールドに出力される。次に、放出光406は、フィールド内の1つ以上の物体で反射し、バルク受信器光学系410を最初に伝搬する反射光412としてTOFセンサアレイ320に向かって伝搬することができ、これは、反射光412を集束させてパルス光408の円錐として焦点に戻し、次いでTOFセンサアレイ320内の対応するTOF光センサに集束させる。図4を参照して理解することができるように、例えば、1~3cmの範囲であり得るバルク送信器光学系184とバルク受信器光学系410との間の距離は、シーンまでの距離と比較して比較的小さい。したがって、シーンが遠くなるにつれて、エミッタアレイの視野はTOFセンサアレイの視野と次第に重複する。例えば、図4に示すように、エミッタアレイ310およびTOFセンサアレイ320の視野の重複領域414、416、および418は、シーンまでの距離が増加するにつれて大きくなる。したがって、シーンの終わり近くの距離、例えばフィールド内の物体では、エミッタアレイ310の視野は、TOFセンサアレイ320の視野と実質的に重複する可能性がある。したがって、バルク受信器および送信器の光学系が1センチメートル以上分離されていても、その対応する各エミッタおよびTOF光センサは、シーン内の本質的に同じポイントを観察することができる。すなわち、バルク送信器光学系184からシステムの前方のフィールドに投射される各照明ビームは、システムからの距離において、対応するTOF光センサ(または対応するTOF光センサのマイクロ光学受信器チャネル)の視野と実質的に同じサイズおよび幾何学的形状にすることができる。いくつかの実施形態では、エミッタアレイ310は、システム300からのある範囲の距離にわたってサイズおよび幾何学的形状が入力チャネルの視野に実質的に一致する照明パターンに従って、システム300の前方のフィールドに照明ビームを選択的に投射することができる。エミッタアレイとTOFセンサアレイとの間に実質的に重複する視野を有することにより、固体電子走査LIDARシステム300は、高い信号対ノイズ比(SNR)を達成することができる。
いくつかの実施形態では、送信器アレイおよびTOFセンサアレイは、一致する幾何学的形状を有し、エミッタアレイのバルク光学系は、TOFセンサアレイのバルク光学系と実質的に同一である。他の実施形態では、TOFセンサアレイ320の寸法およびバルク光学系は、エミッタアレイ310のものと同一ではない場合があるが、対応するエミッタアレイ310およびTOFセンサアレイ320バンクが顕著に同じ視野を有するように選択することができる。例えば、TOFセンサアレイ320のサイズは、エミッタアレイ310のサイズより大きくなり得る。これは、TOFセンサアレイ320のバルク受信器光学系410がエミッタアレイ310のバルク送信器光学系184と異なる必要があることを意味し、2つのバルク光学系は、2つのアレイにおける対応するバンクの視野が顕著に同じになるように慎重に選択する必要がある。例えば、エミッタアレイ310のレンズ要素の2倍の大きさのレンズ要素を備えた同様のバルク光学系を使用することができる。結果として得られるバルク受信器光学系の焦点距離は、バルク送信器光学系の焦点距離の2倍になる。この場合、TOFセンサアレイ320はエミッタアレイ310の2倍の高さおよび2倍の幅で、受光口径が放出口径の2倍である必要がある。これにより、すべてのTOF光センサおよびエミッタの視野角が一致する。
エミッタアレイ310およびTOFセンサアレイ320の対応するバンクが同じ視野を確実に見るために、LIDARシステム300の位置合わせプロセスは、例えば製造業者によるフィールド使用の前に実施することができる。本発明のいくつかの実施形態の設計機能(例えば、エミッタアレイ用の単一の半導体ダイまたはマルチチップモジュールおよびTOFセンサアレイ用のマルチチップモジュールの単一の半導体ダイを有する)により、製造業者はこの位置合わせ一度だけ実施することができ、それによりLIDARシステム300が製造され、製造後に維持される方法が容易になる。光学系の位置合わせ中に、すべてのピクセルおよびすべてのエミッタの視野を測定して、それらが顕著に同一であることを確認することができる。位置合わせプロセスは、収差、歪み、焦点距離などのレンズ特性の考慮、ならびに外部部品に対するレンズ要素の位置および配向の調整をすることができる。
エミッタの視野はそれぞれのセンサの視野と重複しているため、各TOF光センサは理想的には、その対応するエミッタを起源とし、理想的にはクロストークのない反射照明ビームを検出することができる、すなわち、他の照明ビームからの反射光は検出されない。例えば、図3Aに戻ると、エミッタ312(1)のバンクは、視野の領域315(1)に照明ビーム314(1)を放出し、照明ビームの一部は、物体330、すなわち木から反射する。理想的には、光324(1)の反射部分は、TOF光センサバンク322(1)のみによって検出される。したがって、エミッタバンク312(1)およびTOF光センサバンク322(1)は、同じ視野を共有する。同様に、エミッタバンク312(n)およびTOF光センサバンク322(n)は、光324(n)の反射部分がTOF光センサ322(n)によってのみ検出されるように、同じ視野を共有することもできる。例えば、放出サイクルの最後の反復中に、エミッタ312(n)のバンクは視野の領域315(n)に照明ビーム314(n)を放出し、照明ビームの一部は物体332、すなわち物体330の隣に駐車されている車から反射する。1サイクルでは、図3Aの固体電子走査LIDARシステム350は、木330および車332の部分を含むシーンを表す画像を捕捉および生成することができる。図12および図13に関して本明細書でさらに説明するように、特にシステム300が車に取り付けられているときなど、システム300が動いている場合、追加のサイクルはシーンの他の領域をさらに捕捉することができる。図3Aでは対応するエミッタおよびTOF光センサは、それぞれのアレイ内の同じ相対的場所にあるものとして示されているが、システムで使用される光学系の設計に応じて、任意のエミッタを任意のTOF光センサと対にすることができる。
測距測定中、LIDARシステムを取り巻く容積の周りに分布する様々な視野からの反射光が様々なTOF光センサによって収集されて処理され、それぞれの視野内の任意の物体の範囲情報をもたらす。上記のように、正確にタイミングを合わせたパルスを光エミッタが放出し、ある経過時間の後にパルスの反射がそれぞれのTOF光センサによって検出される、飛行時間技術を使用することができる。次に、放出と検出との間の経過時間と、既知の光速度と、を使用して、反射面までの距離を計算する。いくつかの実施形態では、範囲に加えて、反射面の他の特性を判定するために、TOF光センサにより追加情報を取得することができる。例えば、パルスのドップラーシフトをセンサで測定し、TOF光センサと反射面との間の相対速度を計算するために使用することができる。パルス強度を使用して標的の反射率を推定することができ、パルス形状を使用して、標的が硬質または拡散材料であるかどうかを判定することができる。
いくつかの実施形態によれば、LIDARシステム300は、複数の光のパルスを送信することができる。いくつかの実施形態では、各コード化パルスは、光強度によって形成される埋め込まれた正の値のパルスコードを有する。システムは、異なる時間ビンにおいて検出された反射光の強度ヒストグラムを作成することによって、背景光の存在下で、光パルスの時間的位置および/または振幅を判定することができる。各時間ビンに対して、システムは、検出された光の強度に依存する強度ヒストグラムに加重値を加える。加重値は、正または負で、様々な大きさを有することができる。
正値のパルス符号の異なる組み合わせを選択し、異なる重みを適用することによって、システムは、標準デジタル信号処理アルゴリズムに好適な正値および負値コードを検出することができる。この方法は、反射光パルスの測定された時間的位置における低い不確定度を維持しながら、高い信号対ノイズ比を与える。
II.画像捕捉用の画像センサアレイの構成および動作
本明細書で述べたように、電子走査LIDARシステムのエミッタアレイおよび画像センサアレイは、重複する視野を有することができるので、画像センサアレイは、エミッタアレイの視野に対応するシーンの画像を捕捉することができる。
A.重複する視野
図5Aは、本開示のいくつかの実施形態による、エミッタアレイの視野500と画像センサアレイの視野502との重複する視野を示す簡略図である。エミッタアレイの視野500全体は、画像センサアレイの視野502の少なくとも一部分と重複することができるので、画像センサは、エミッタアレイの視野全体に対応するシーンの画像を捕捉することができる。すなわち、いくつかの実施形態では、エミッタアレイの視野500は、画像センサアレイの視野502と等しいか、またはそのサブセットであり得る。画像センサの視野502は、画像センサアレイ内の個々の画像光センサの個々の視野を表す複数の長方形のブロックで示されている。
エミッタアレイの視野500は、エミッタアレイ内のエミッタバンクの数に対応する別個の視野バンク504a~fを含むことができ、図5Aに示される例では6つである。各視野バンク504a~fは、図2A~図2Dおよび図3~図4に関して本明細書で説明されるように、対応するエミッタバンクからの放出光で照射される視野の領域であり得る。画像センサアレイの視野502はまた、周囲光を感知するための画像光センサのグループの数に対応する6つの視野グループ506a~fを含むことができる。各視野のグループ506a~fは、図2A~図2Dおよび図3~図4に関して本明細書で説明されるように、対応するエミッタバンク光が光を放出する領域に対応する視野の領域であり得る。したがって、動作中、エミッタバンクが視野バンク504a~fに向かってシーケンシャルな順番で放出すると、対応する視野506a~fを有する画像光センサのグループは、シーンの画像を捕捉するために、同じ順序で画像光センサデータを同時に読み出すことができる。
画像センサアレイがローリングシャッタ技術に従って動作するいくつかの実施形態では、画像センサアレイ内のすべての画像光センサを起動させなくても、例えば、エミッタバンクの発射および/またはTOF光センサバンクの作動と視野が重複しない画像光センサを起動させなくても、光を感知するために画像光センサの特定のグループを順次に起動させることができるように、各画像光センサは個々にアドレス指定可能である。このような場合、各画像光センサを対応するエミッタバンクにマッピングして、コントローラが制御信号を用いて画像光センサを起動させることができる。画像光センサとエミッタバンク間のマッピングは、メモリに記録され、コントローラによって使用され得る。例えば、制御信号バスは、画像センサコントローラ(例えば、画像センサコントローラ160)から画像センサアレイに結合することができる。制御信号は、画像光センサのどのグループを起動させるかを示す画像センサアレイに送信することができ、その結果、今度はどの視野グループ506a~fを測定するかを示すことができる。図5Aに示される例を続けると、制御信号は1~6であり得、ここで、1はグループ506aを測定することを示し、6はグループ506fを測定することを示す。したがって、視野グループ506aに関連付けられた画像光センサのグループは、図5Aに示されるように、制御信号1が受信されたときに起動するように構成することができる。同じことが、残りのグループ506b~fについても言うことができる。画像センサアレイを個々にアドレス指定できるように構成すると、光を感知するために画像光センサのサブセットのみが起動されるため、電力を節約することができ、それにより、一度にすべての画像光センサを照射することによる電力浪費を最小限に抑えることができる。
画像センサアレイがグローバルシャッタ技術に従って動作される実施形態では、画像光センサのアレイ全体を毎回起動することができる。したがって、画像センサアレイ全体の視野502の画像データは、視野の一部だけがエミッタバンクの発射、例えばバンク504aの視野に対応していても、捕捉することができる。このような場合には、エミッタバンクの発射504aの視野に対応する画像光センサ、例えば、画像光センサのグループ506aのみからの画像データが読み取られ、バンク504aの視野外の視野を有する画像光センサはすべて無視される。したがって、エミッタアレイの視野500の外側の視野を有するこれらの画像光センサは、完全に無視され得る。
各画像光センサに正しいグループ制御信号を割り当てるために、LIDARシステムの製造時または起動時に較正処理を行うことができる。各エミッタバンクは、どの画像光センサが光を受け取るかを追跡しながら、光を放出するように発射することができる。エミッタの1つのバンクが発射されたときに光を受け取るこれらの画像光センサは、エミッタの1つのバンクが発射されたときに作動するようにプログラムすることができる。残りのエミッタバンクについても同様のことができる。
個々にアドレス指定可能な構成に関して本明細書で説明される方法および構成は、個々にアドレス指定できない画像センサアレイ、例えば、グローバルシャッタとして構成された画像センサアレイによっても実装することができる。このような場合、画像センサアレイが起動されるたびに、画像光センサのサブセットのみではなく、画像光センサのアレイ全体が一度に起動される。したがって、いくつかの実施形態は、すべての画像光センサが光を感知するように起動されたにもかかわらず、特定の視野グループ506a~fに対応する画像光センサの画像データのみを読み出すように画像センサアレイを構成することができる。画像センサアレイをグローバルシャッタとして構成すると、設計コストが節約でき製造が容易になるため、図7A~図7Cに関して本明細書で説明した理由から、LIDARシステムが既存の高品質画像センサを活用することができる。
いくつかの実施形態では、画像センサアレイの視野502は、図5Aに示されるように、エミッタアレイの視野500よりも大きくすることができる。したがって、画像センサアレイの物理的寸法は、エミッタアレイの物理的寸法よりも大きくなる可能性がある。より大きな画像センサアレイを持つことで、サイズの異なるエミッタ構成との互換性を高めることができる。より大きな画像センサアレイはまた、より緩い製造公差を可能にし、それによって製造の容易さを改善し、製造コストを節約する。
例えば、図5Bは、エミッタアレイの視野510と画像センサアレイの視野512との重複する視野を示す簡略図であり、対応するエミッタアレイと画像センサアレイとは不完全に位置合わせされている。本発明のいくつかの実施形態は、本明細書で説明されるように、この不整合を修正することができる。例えば、画像センサアレイの物理的寸法、ひいては視野512を、エミッタアレイの物理的寸法、ひいては視野510よりも大きくすることによって、図5Bに示すように、画像センサアレイがエミッタアレイに対して斜めに配置されていても、エミッタアレイ視野510全体が画像センサアレイ視野512の少なくとも一部と重複することができる。画像センサアレイの視野512が傾斜している場合でも、エミッタアレイの視野に対応するこれらの画像光センサは、依然として、エミッタアレイと同期して作動するようにプログラムすることができる。例えば、視野グループ514aに関連付けられた画像光センサのグループは、図5Bに示されるように、制御信号1が受信されたときに起動するように構成することができる。傾斜している配置は、画像センサアレイの視野512とエミッタアレイの視野510との間の角度の不一致のアーティファクトとして、ギザギザの縁を有する画像光センサのグループ化をもたらす可能性がある。
より大きな寸法はまた、いくつかの光学収差の許容範囲を考慮に入れている。一例として、不完全なバルク撮像光学素子は、画像センサアレイの視野512にある程度の歪みをもたらす可能性があり、これにより、視野の縁が内側に陥没する可能性がある。しかしながら、画像センサアレイの視野512は、エミッタアレイの視野510よりも大きいので、エミッタアレイの視野510全体は、依然として、画像センサアレイの視野512の少なくとも一部分と重複することができ、エミッタアレイの視野510の画像を捕捉する能力に悪影響を与えないであろう。
B.画像光センサの同期とタイミング
本明細書で説明されるように、画像センサアレイ内の画像光センサの起動は、エミッタアレイ内のエミッタの発射およびTOFセンサアレイ内のTOF光センサの起動と同期させることができる。さらに、いくつかの実施形態では、最適な露光時間を実現するために、同期した画像光センサの露光を起動期間の間に修正することができる。図6は、本開示のいくつかの実施形態による、画像センサアレイとTOFセンサアレイとの同期を示すタイミング図である。TOF露光シーケンス600は、TOFセンサアレイ内のTOF光センサバンクの時間的起動(ならびにエミッタアレイ内の対応するエミッタバンクの発射)を表し、画像感知シーケンス602は、画像センサアレイ内の画像光センサの対応するグループの時間的な起動を表す。図6に示すように、4つのTOF光センサバンクは、4つのそれぞれの時間、例えば、各時間t(0)-t(3)で起動することができ、その起動の持続時間はそれぞれ、各々の時間t(0)-t(3)を中心とされ得る。いくつかの実施形態では、画像センサアレイの同期化された起動は、その対応する起動も時間t(0)-t(3)を中心にされるように構成することができる。したがって、画像センサアレイの起動速度は、TOFセンサアレイの起動速度と等しくすることができる。しかしながら、図7A~図7Cに関して本明細書でさらに説明するように、画像センサアレイが速いシャッタ速度を有する実施形態では特に、画像センサアレイの起動速度は、TOFセンサアレイの起動速度よりも実質的に速くすることができることを理解されたい。
特定の実施形態では、画像センサアレイを制御して、各起動の間の露光時間を修正し、画像光センサが最適な量の光を受けるように露光時間を調整することができる。露光時間は、各起動の持続時間によって画定することができる。例えば、画像光センサの第1、第2、第3、および第4のグループの起動は、それぞれ、第1、第2、第3、および第4の露光604、606、608、および610を有することができる。前の起動の明るさを使用して、後続の起動のための露光を修正することができる。一例として、前の起動が明るすぎる場合、後続の起動のための露光を減少させることができ、その逆も可能である。例えば、図6に示されるように、画像センサコントローラは、画像光センサの第1のグループの起動中に感知された光が明るすぎると判定することができる。したがって、画像光センサの第2のグループの露光606を減少することができる。次に、画像センサコントローラは、画像光センサの第2のグループの起動中に感知された光が明るすぎると判定することができ、したがって、画像光センサの第3のグループの露光608を増加させる。その後、画像センサコントローラは、画像光センサの第3のグループの起動中に感知された光がちょうど良かったと判定することができ、したがって、画像センサアレイ全体が起動されるまで、その後の各起動についても露光610を同じに保つことができる。
本明細書で述べたように、実施形態は、画像センサアレイの起動速度がエミッタアレイの起動速度に等しい構成に限定されず、画像センサアレイの起動速度がエミッタアレイの起動速度よりも大きい、速いシャッタ速度を有するグローバルシャッタとして設計された画像センサアレイを用いて、いくつかの実施形態を構成することができることを示している。図7Aは、本開示のいくつかの実施形態による、画像センサアレイとTOFセンサアレイとの同期(したがって、エミッタアレイのエミッタの発射との同期)を示すタイミング図であり、ここでは、画像センサアレイの起動速度がTOFセンサアレイの起動速度よりもはるかに速い。起動シーケンス700は、TOFセンサアレイ内のTOF光センサバンクの時間的起動を表し、画像感知シーケンス702は、画像センサアレイ内の画像光センサのアレイ全体の時間的起動を表す。
図6のように、4つのTOF光センサバンクは、4つ別個の時間、例えば、各時間t(0)-t(3)で起動することができ、その起動の持続時間はそれぞれ、対応する時間t(0)-t(3)を中心とされ得る。逆に、図6とは異なり、画像感知シーケンス702は、実質的により速い起動速度を有することができるので、画像センサアレイは、所与の期間にわたって、TOFセンサアレイよりも多くの回数で起動する。したがって、画像センサアレイのすべての起動が、TOFセンサアレイの対応する起動と同期するわけではない。例えば、図7Aに示すように、画像センサアレイは、TOFセンサアレイの連続した発射の間に4回起動することができる(すなわち、図7Aの画像センサアレイのフレームレートは、エミッタが発射される速度に合わせたTOFセンサアレイのフレームレートよりも5倍速くなっている)。画像センサアレイの速い起動速度は、各起動のための露光時間の減少をもたらすことができる。しかしながら、画像センサコントローラは、画像センサアレイの追加の起動を利用して、捕捉された画像の露光を改善するように構成することができる。例えば、図7Bに示すように、画像センサコントローラは、TOF光センサバンクの単一の起動704の間に、視野の画像を捕捉するための3つの起動706a-cの画像データを受信することができる。3つの起動706a-cが発生する時間は、TOF光センサバンクが起動される時間t(1)の中心とされ得る。ある程度の起動の数からの画像データを受信して、視野の画像を捕捉することができる。一例として、図7Cに示されるように、画像センサコントローラは、TOF光センサバンクの1回の起動704の間に視野の画像を捕捉するために、起動706a-cに2回の起動708a-bを加えて合計5回の起動から画像データを受信することができる。5つの起動が発生する時間は、TOF光センサバンクが起動される時間t(1)の中心とされ得る。
III.光測距用増強された光放出システム
本開示のいくつかの実施形態は、他の用途の中でもとりわけ、自律車両における障害物検出および回避に使用することができるLIDARセンサに関する。いくつかの特定の実施形態は、センサを十分に安価で十分な信頼性を備えて製造し、大量市場の自動車、トラック、および他の車両での使用に十分に小さいフットプリントを可能にする設計機能を含むLIDARセンサに関する。例えば、いくつかの実施形態は、放射線をフィールドに放出する照明源として垂直キャビティ面放出レーザ(VCSEL)のセットを含み、TOF光センサ(検出器)のセットとして単一光子アバランシェダイオード(SPAD)検出器のアレイを含むフィールド内の表面から反射された放射線を検出する。VCSELをエミッタとして使用し、SPADを検出器として使用すると、複数の測定を同時に行うことができ(すなわち、VCSELエミッタを同時に発射できる)、かつ、エミッタのセットとTOF光センサのセットをそれぞれ単一チップ上の標準CMOSプロセスを使用して製造できるため、製造および組み立てプロセスが大幅に簡素化される。
しかしながら、特定の実施形態でVCSELおよびSPADを使用することは、本開示の様々な実施形態が克服する課題を提示する。例えば、VCSELは、既存のLIDARアーキテクチャで使用される一般的なレーザに比べそれほど強力ではなく、SPADは、既存のLIDARアーキテクチャで使用される一般的な検出器よりもはるかに効率が劣る。これらの課題、および複数のエミッタを同時に発射させることによって提示される課題に対処するために、本開示の特定の実施形態は、様々な光学部品(例えば、レンズ、フィルタ、および開口層)を含み、これは、本明細書で説明するように、各アレイが異なるピクセル(例えば、フィールド内の位置)に対応するSPADの複数のアレイと連携して機能することができる。例えば、図1に関して本明細書で説明するように、光感知モジュール108の光学システム128は、TOF光センサのアレイを含み得るTOFセンサアレイ126によって検出される光を増強するためのマイクロ光学受信器層(図1には図示せず)を含むことができ、各々がSPADのアレイとすることができる。
図8は、本開示のいくつかの実施形態による、例示的な固体電子走査LIDARシステム800の詳細な側面図を示す簡略図である。固体電子走査LIDARシステム800は、光検出システム801、光放出システム803および画像捕捉システム807を含むことができる。光放出システム803は、システム800が狭帯域光線805で位置付けられたフィールドの少なくとも一部分のアクティブ照明を提供する。光検出システム801は、光放出システム803から放出された狭帯域光を、フィールド内の物体によって反射光線806として反射した後に検出する。画像捕捉システム807は、光放出システム803が放出するフィールドの部分に存在する可視スペクトルの周囲光を検出する。
光検出システム801は、図1に関して上述した光検出システム136を代表とすることができる。光検出システム801は、光感知システムおよびTOFセンサアレイを含むことができる。光感知システムは、バルク受信器光学系、アパーチャ層、コリメートレンズ層、および光学フィルタ層を含むことができ、TOFセンサアレイはTOF光センサのアレイを含むことができ、各TOF光センサは光を測定するための1つ以上の光検出器を含むことができる。いくつかの実施形態によれば、これらの部品は一緒に動作して、フィールドから光を受信する。例えば、光検出システム801は、バルク受信器光学系802およびマイクロ光学受信器(Rx)層804を含むことができる。動作中、光線806は複数の方向からバルク受信器光学系802に入り、バルク受信器光学系802によって集束されて光円錐808を形成する。マイクロ光学受信器層804は、アパーチャ810がバルク受信器光学系802の焦点面と一致するように位置付けられる。いくつかの実施形態では、マイクロ光学受信器層804は、マイクロ光学受信器チャネル812の二次元アレイであり得、各マイクロ光学受信器チャネル812は、光送信の方向に同じ軸に沿って、例えば図8に示されるように左から右に水平に位置付けられたそれぞれのアパーチャ810、コリメートレンズ814、およびTOF光センサ816から形成される。さらに、各マイクロ光学受信器チャネル812は、本明細書でさらに議論されるように、TOF光センサ間の迷光からの干渉を軽減するための様々な方法で構成され得る。動作中、各マイクロ光学受信器チャネル812は、異なるピクセル(すなわち、フィールド内の位置)の光情報を測定する。
光線806は、バルク受信器光学系802の焦点で集束し、開口層811のアパーチャ810を通過し、それぞれのコリメートレンズ814に入る。各コリメートレンズ814は、光線がすべてほぼ同じ角度で、例えば互いに平行に光学フィルタに入るように、受信光をコリメートする。バルク受信器光学系802のアパーチャおよび焦点距離は、アパーチャ810で焦点を結ぶそれぞれの光線の円錐角を判定する。コリメートレンズ814のアパーチャサイズおよび焦点距離は、入射光線がどれだけ良好にコリメートすることができるかを判定し、これにより、光学フィルタ818でどの程度狭い帯域通過を実装することができるかが判定される。開口層は、光検出システム800の動作中に様々な機能を果たすことができる。例えば、(1)アパーチャ810は、ピクセルの視野を制限することができるため、TOF光センサ面のピッチが大きいにもかかわらず、空間選択性が厳しくなる。(2)アパーチャ810は、エミッタ光の効率的な使用のために、視野をエミッタ視野に類似または等しいサイズに制限することができる。(3)アパーチャは、コリメートレンズの焦点面に小さな点状の光源を提供し、フィルタを通過する前に光ビームの厳密なコリメーションを実現し、コリメーションが改善されると、フィルタを通過することができる帯域が狭くなる。(4)各アパーチャを囲む開口層の停止領域は、迷光を排除することができる。いくつかの実施形態では、コリメートレンズ814は含まれず、帯域通過フィルタの通過帯域はそれほど狭くない。
光学フィルタ818は、不要な波長の光を遮断する。干渉ベースのフィルタは、性能に強い角度依存性を呈する傾向がある。例えば、ゼロ度の入射角で900nmの中心波長(CWL)を有する1nm幅の帯域通過フィルタは、15度の入射角で898nmのCWLを有する場合がある。撮像システムは、典型的に、この影響に対応するために幅数十ナノメートルのフィルタを使用するため、CWLのシフトは帯域通過幅よりもはるかに小さくなる。しかしながら、マイクロ光学層804の使用は、すべての光線がほぼ同じ入射角で光学フィルタ818に入ることを可能にし、したがって、CWLのシフトを最小限にし、非常にタイトなフィルタ(例えば8nm未満の幅)の使用を可能にする。TOF光センサ816は、入射光子に応答して電流または電圧を生成する。いくつかの実施形態では、光学フィルタ818は、マイクロ光学受信器チャネル812のアレイ全体にわたって均一であるため、アレイ内の各個々のマイクロ光学受信器チャネル812は、同じ波長範囲の光を受信する。
いくつかの実施形態では、TOF光センサ816は、光線806がコリメートレンズ814および光学フィルタ818を最初に通過してからTOF光センサ816に露光するように、コリメートレンズ814の反対側に位置付けられる。各TOF光センサ816は、複数の単一光子アバランシェ検出器(SPAD)のミニアレイなどの複数の光検出器であってもよい。SPADのミニアレイのアレイは、単一のモノリシックチップ上に製造されることでき、それにより、製造が簡素化される。いくつかの代替的な実施形態では、各TOF光センサ816は、単一の光検出器、例えば標準フォトダイオード、アバランシェフォトダイオード、共振空洞フォトダイオード、または別の種類の光検出器であってもよい。
光放出システム803は、バルク送信器光学系820と、光エミッタ824の二次元アレイで形成された光放出層822と、を含むことができる。各光エミッタ824は、狭帯域光の個別のビームを生成するように構成することができる。いくつかの実施形態では、光放出層822は、光放出システム803からのある範囲の距離にわたってサイズおよび幾何学的形状がマイクロ光学受信器層804の受信器チャネルの視野に一致する照明パターンに従って、バルク送信器光学系820を通して個別の光ビームを選択的に投射するように構成される。光エミッタ824は、1つ以上のモノリシックチップ上に統合された垂直キャビティ面放出レーザ(VCSELS)または任意の他の種類のレーザダイオードなどの任意の好適な光放出デバイスであり得る。光エミッタ824は、バルク送信器光学系820に方向付けられた狭帯域光826の円錐を生成することができ、それは光の円錐826をコリメートし、放出光線805としてフィールド内の遠方の標的にコリメートされた光を出力することができる。いくつかの実施形態では、バルク送信器光学系820は画像空間テレセントリックである。
図8の平行光線805および806の図から明らかなように、各マイクロ光学受信器チャネル812は、閾値距離を超えて非重複視野を有する。図8に示すように、各マイクロ光学受信器チャネル812は、複数のアパーチャからのアパーチャ、複数のレンズからのレンズ、および複数の光検出器からの光検出器を含み、各チャネルのアパーチャは、他のマイクロ光学受信器チャネルの視野内で閾値距離を超えて非重複のチャネル内のピクセルの個別の視野を画定する。そのようにして、各マイクロ光学受信器チャネルは、マイクロ光学受信器層804内の任意の他のマイクロ光学受信器チャネルによって測定されないフィールド内の個別の位置に対応する反射光を受信する。
追加および代替的な実施形態では、光円錐826からの光線805は、バルク送信器光学系820によって遠くの標的に方向付けられる前に、マイクロ光学送信器層(図示せず)によって空間の中間面に焦点を合わせられ、光放出システム803から放出される光の輝度および強度を増強させる。そのような実施形態では、光放出システム803および光検出システム801は、各マイクロ光学送信器チャネル(図示せず)が対応するマイクロ光学受信器層804と対になるように構成され、それらの視野の中心は、センサから一定の距離で重複するように位置合わせされているか、主光線が平行になっている。さらなる追加および代替的な実施形態では、光放出システム803によって放出される遠視の光ビームは、各マイクロ光学受信器層804の遠視の視野と同様のサイズおよび発散角のものである。出力される光の輝度および強度を増強させるためのマイクロ光学送信器層を有する光放出システム803の詳細は、以下で詳細に議論される。
VCSELは、いくつかの既存のLIDARアーキテクチャの典型的なレーザよりも強力ではないため、いくつかの実施形態では、光放出システム803は、LIDARシステム800の光測距機能を実施する能力を改善するように構成されることができる。すなわち、光放出システム803によって放出される光の品質を増強させて、光測距の精度および効率を改善することができる。光測距と撮像のための透過光の品質は、輝度および強度の観点から画定することができる。バルク送信器光学系820から放出される光線の輝度および強度は、1つ以上の光学送信器層を修正および/または実装することによって増強させることができる。
画像捕捉システム807は、図1に関して上述した画像捕捉システム156を表すことができる。画像捕捉システム807は、バルク画像受信器光学系830と、画像光センサ834の二次元アレイで形成された画像感知層832と、を含むことができる。各画像光センサ834は、シーンに存在する可視波長スペクトルの周囲光を検出するように構成することができる。バルク画像受信器光学系830は、入射してくる周囲光838を光円錐836として画像感知層832に焦点を合わせて、画像光センサ834が周囲光838を検出できるようにすることができる。いくつかの実施形態では、バルク画像受信器光学系830は、画像空間テレセントリックである。画像感知層832は、帯電結合デバイス(CCD)センサまたは相補型金属酸化物半導体(CMOS)画像センサなどの任意の適切な可視光センサであり得る。
図9は、本開示のいくつかの実施形態による、例示的な増強された光放出システム900の簡略断面図である。光放出システム900は、例えば、光913を放出するためのLED、レーザダイオード、VCSELなどのいずれかを制限なく含む光エミッタ904を有する光エミッタアレイ902を含むことができる。VCSELは、上面から垂直にレーザビームを放出する半導体レーザダイオードの一種である。図9に示される線形アレイは、円形、長方形、線形、または他の幾何学的形状を含むがこれらに限定されないエミッタアレイの任意の幾何学的形態であり得ることに留意されたい。
増強された光放出システム900は、開放空間918によって光エミッタアレイ902から分離されたマイクロ光学送信器チャネルアレイ906を含むことができる。各マイクロ光学送信器チャネル908は、対応する受信器チャネル(例えば、図5の受信器チャネル512)と対にされ得、それらの視野の中心は、光学撮像装置システムから一定の距離で重複するように位置合わせされる。マイクロ光学送信器チャネルアレイ906は、光エミッタアレイ902に面する側に位置付けられた第1の光学面920と、光エミッタアレイ902から離れた反対側に位置付けられた第2の光学面921との間に挟まれた基板919から形成され得る。第1および第2の光学面920および921の両方は、第1の光学面920の各凸レンズが第2の光学面920の各凸レンズと光学的に位置合わせされるように構成される、凸状のマイクロ光学レンズのアレイとして各々構成され得、第1の光学面920を透過する光は、その後、第2の光学面921を透過することができる。第1および第2の光学面920および921からの対応する凸レンズは、図9に示されるように互いに反対側を向くことができる。特定の実施形態では、第1の光学面920の凸レンズは、第1の屈折力を有し、第2の光学面921の凸レンズは、第1の屈折力とは異なる第2の屈折力を有する。例えば、第2の屈折力の焦点距離が第1の屈折力の焦点距離よりも短くなるように、第2の屈折力は第1の屈折力より大きくてもよい。基板919は、シリコン、二酸化ケイ素、ホウケイ酸ガラス、ポリマーなどの光エミッタ904の波長範囲で透過性の任意の好適な材料で形成することができる。第1および第2の光学面920および921は、基板919のそれぞれの対向する表面に刻印された透明なポリマーで形成することができる。
いくつかの実施形態では、マイクロ光学送信器チャネルアレイ906は、マイクロ光学送信器チャネル908のモノリシックアレイで形成することができる。各マイクロ光学送信器チャネル908は、第1の光学面920からの第1の凸レンズ、第2の光学面921からの対応する第2の凸レンズ、および2つの凸レンズの間に位置付けられた基板919の対応する部分を含むことができる。各マイクロ光学送信器チャネル908は、それぞれの光エミッタ904に対応することができ、光エミッタ904から出力された光は、最初に第1の凸レンズ、基板919の対応する領域、次に動作中に第2の凸レンズを通過する。
光が第2の光学面921の第2の凸レンズから放出されると、光は、対応する光エミッタ904の実像であるが対応する光エミッタ904の縮小サイズである小型スポット画像910を形成する。いくつかの実施形態では、小型スポット画像910は、マイクロ光学送信器チャネルアレイ906とバルク送信器光学系914との間に位置付けられる。例えば、小型スポット画像910は、開口層909のそれぞれのアパーチャ内に形成され得る。各アパーチャは、放出光が焦点を合わせて小型スポット画像910を形成する反射層または不透明層のピンホールとすることができる。開口層909は任意選択であり、開口層909がなくてもマイクロ光学送信器チャネルアレイ906の光増強能力を達成できることを理解されたい。そのような実施形態では、小型スポット画像910は、第2の光学面921の第2の凸レンズの焦点面に形成することができる。そこから、光エミッタおよびマイクロ光学チャネルの両方から離れていくと、光は、光円錐912を形成し、バルク送信器光学系914に向かって伸びる。
本開示のいくつかの実施形態によれば、放出光913の発散の程度は、光円錐912の発散の程度よりも小さくてもよい。発散におけるこの不一致は、マイクロ光学送信器チャネル908、特に第2の光学面921の光出力によって生成され得る。マイクロ光学送信器チャネル908からの光の発散は、光エミッタ904からの放出光913の発散よりも大きいため、小型スポット画像910は、光エミッタ904の実際の画像であり得るが、光エミッタ904のサイズよりも小さく、放出光913と同じ数の光子を有する多数のものであり得る。実スポット画像が形成された後に形成される結果として得られる光円錐912は、バルク送信器光学系914を通過した後、各光エミッタ904に対する個別の光ビーム925としてフィールドに投射される。結果として得られる光放出システム900から発せられる光線は、小さな断面積を有する高度にコリメートされた光ビーム925であり、それにより、増強された輝度および強度を有する光を出力することができる光放出システム900をもたらす。対照的に、バルク送信器光学系914の焦点面に代わりに光エミッタアレイ902を有するマイクロ光学チャネルアレイのないシステムは、コリメートが顕著に少ないビームを生成し、したがってこれらのビームは、遠視野でより大きな断面積を有する。
バルク送信器光学系914は、単一のレンズまたは2つ以上のレンズが一緒に機能してバルク送信器光学系914を形成するレンズのクラスタのいずれかを含むことができることに留意されたい。バルク送信器光学系914内で複数のレンズを使用すると、アパーチャの数を増やし、RMSスポットサイズを低減し、画像面を平坦化し、テレセントリック性を改善するか、または別様にバルク送信器光学系914の性能を改善することができる。また、いくつかの実施形態では、光円錐912が重複して円錐重複領域916を形成することに留意されたい。
バルク送信器光学系914は、バルク撮像光学系の焦点面が小型スポット画像910と一致するように、マイクロ光学層および放出層の前に位置付けられる。バルク送信器光学系914は、発散光円錐912を受け入れ、コリメートビームを出力する。そのアパーチャの数は、発散光ビーム円錐の角度の全範囲を捕捉するのに少なくとも十分に大きい可能性がある。また、バルク送信器光学系914は、マイクロ光学層を出る光円錐912が(バルク光学系の中心を中心軸とするのではなく)すべて平行であり得るため、画像空間テレセントリックとすることができる。一実施形態では、光は、ほぼコリメートされたバルク送信器光学系914を出ることができる。ビームコリメーションの品質は、焦点面での「放出物体」(小型スポット画像910)のサイズに関連することに留意されたい。この「放出物体」のサイズは、マイクロ光学スタックを使用することで低減されているため、エミッタ物体を単純に直接撮像する場合よりも優れた視準角が得られる。
図9は、第1および第2の光学面の間に挟まれた基板で形成され、光放出システムから出力される光の輝度および強度を改善するために開放空間によって光エミッタアレイから距離を置いて位置付けられたマイクロ光学チャネルアレイを有する増強された光放出システムを示しているが、実施形態は、そのような構成に限定されない。むしろ、2018年5月14日に提出され、あらゆる目的のためにその全体が参照により本明細書に組み込まれる「Optical Imaging Transmitter with Brightness Enhancement」と題する関連する米国特許出願第15 / 979,235号でさらに詳細に議論されているように、他の実施形態は必ずしも開放空間または2つの光学面を実装しない場合がある。
実施形態は、エミッタアレイを電子的に走査するための画像捕捉モジュールについて論じているが、実施形態は、そのような構成に限定されない。いくつかの実施形態では、画像捕捉モジュールは、ミラー検流計などを使用して、光放出を機械的に走査するLIDARシステムに実装することができる。このようなシステムは、ミラー検流計を使用して、所定の走査パターンに沿ってレーザビームの2次元アレイを走査することができる。したがって、光感知モジュールおよび画像捕捉モジュールは、レーザビームの走査パターンと一致するシーンの画像を捕捉するように構成することができる。
いくつかの実施形態では、本開示による複数の電気走査LIDARユニットが協働して、単一のユニットよりも広い視野を提供することができる。例えば、図10は、本発明のいくつかの実施形態による、自動車などの道路車両1005の外側領域に固体電子走査LIDARシステム1002a~dが実装される実施態様1000を示す。図11は、本発明のいくつかの実施形態による、固体電子走査LIDARシステム1102a~bが道路車両1105の上部に実装される実施態様1100を示す。各実装では、LIDARシステムの数、LIDARシステムの配置、および各LIDARシステムの視野は、全体ではないにしても、車両を囲む環境の360度の視野の大部分を取得するために、選択され得る。LIDARシステムの自動車実施態様は、本明細書では単に説明のために選択したものであり、本明細書で説明されるセンサは、例えば、ボート、航空機、列車などの他の種類の車両で、ならびに医用撮像、携帯電話、拡張現実、測地学、ジオマティクス、考古学、地理学、地質学、地形学、地震学、林業、大気物理学、レーザ誘導、空中レーザスワスマッピング(ALSM)、レーザ高度計などの、3D深度画像が有用な様々な他の用途で、採用され得る。
図10を参照すると、固体電子走査LIDARシステム1002a~dは、車両の外側領域、フロントおよびバックフェンダーの近くに取り付けることができる。LIDARシステム1002a~dは各々、車両1005の最も外側のコーナーの近くに位置付けられるように、車両1005のそれぞれのコーナーに位置付けることができる。このようにして、LIDARシステム1002a~dは、エリア1006a~dのフィールド内の物体から車両1005までの距離をより適切に測定し、エリア1006a~dのフィールド内の物体の画像を捕捉できる。測距/3D撮像の目的で放出された光と感知された反射放出光は実線で示され、撮像(すなわち2D撮像)の目的で反射された周囲光は点線で示される。各固体LIDARシステムは、各ユニットがそれ自体で捕捉することができるよりも大きい複合視野を捕捉することができるように、異なる方向を(おそらくユニット間で部分的に重複するおよび/または重複しない視野を有して)向くことができる。
図10に示されるように、シーン内の物体は、LIDAR Txモジュール1008から放出される光パルス1010の部分を反射することができる。次いで、光パルス1010の1つ以上の反射部分1012は、LIDARシステム1002aに戻り、Rxモジュール1009により受信され得る。さらに、シーン内の物体によって反射された周囲光1014は、LIDARシステム1002aに移動し、IRxモジュール1011によって受信され得る。Rxモジュール1009とIRxモジュール1011は、Txモジュール1008と同じハウジングに配設することができる。本明細書で説明されるように、電子走査LIDARシステム1002a~dは、シーンを電子的に走査して、シーンの画像を捕捉することができる。したがって、LIDARシステム1002aは、ポイント1020とポイント1022との間を走査して、エリア1006aのフィールド内の物体を捕捉することができ、システム1002b~dおよびエリア1006b~dについても同様である。
図10は、車両の四隅に取り付けられた4つの固体電子走査LIDARシステムを示しているが、実施形態はそのような構成に限定されない。他の実施形態は、車両の他の領域に取り付けられたより少ないまたはより多い固体電子走査LIDARシステムを有することができる。例えば、図11に示されるように、電子走査LIDARシステムは車両の屋根に取り付けることができる。そのような実施形態では、電子走査LIDARシステム1102a~bは、車両1105の周囲のエリア1107a~bをより良好に観察するためにより高い視点を有することができる。いくつかの実施形態では、走査は、チップベースのビームステアリング技術などの他の手段、例えば、デジタルマイクロミラー(DMD)デバイス、デジタル光処理(DLP)デバイスなどのような1つ以上のMEMSベースの反射器を採用するマイクロチップの使用によって、実装されることができる。
本明細書で言及されるように、LIDARシステムの数、LIDARシステムの配置、および各LIDARシステムの視野は、全体ではないにしても、車両を囲む環境の360度の視野の大部分を取得できる。したがって、各LIDARシステム1002a~dは、およそ90度の視野を有するように設計することができ、4つのシステム1020a~dすべてが実装されると、車両1005の周りの360度の視野の実質的な大部分を観察することができる。各LIDARシステム1002a~dが、45度の視野など、90度未満の視野を有する実施形態では、追加のLIDARシステムを必要に応じて含めて、視野を拡張して、特定の実施態様で必要とされるであろう組み合わされた視野を達成することができる。
本開示を特定の実施形態に関して説明してきたが、本開示は、添付の特許請求の範囲内のすべての修正および同等物を網羅することを意図していることが理解されよう。

Claims (20)

  1. 電子走査光学システムであって、
    前記光学システムの外部のフィールド内に光を放出するように構成された複数の光エミッタを含む、エミッタアレイと、
    前記フィールドから反射された放出光を検出するように構成された複数の飛行時間(TOF)光センサを含むTOFセンサアレイと、
    前記フィールド内の周囲光を検出するように構成された複数の画像光センサを含む画像センサアレイであって、前記エミッタアレイの視野が、前記TOFセンサアレイの視野と、前記画像センサアレイの視野の少なくともサブセットとに対応する、画像センサアレイと、
    前記エミッタアレイに結合され、かつ前記複数の光エミッタのサブセットを一度に起動することにより、各放出サイクルにおいて前記複数の光エミッタを起動するように構成されたエミッタコントローラと、
    前記TOFセンサアレイに結合され、かつ前記TOFセンサアレイ内の個々のTOF光センサの読み出しを、前記エミッタアレイ内の対応する光エミッタの発射と同時に同期させるように構成され、このため、前記エミッタアレイ内の各光エミッタが起動され得、前記TOFセンサアレイ内の各TOF光センサが、前記放出サイクルを通じて読み出され得る、TOFセンサコントローラと、
    前記画像光センサのアレイに結合され、かつ視野が前記エミッタアレイの視野と重複する前記画像光センサのアレイの少なくとも一部分を読み出して、前記放出サイクル中の前記フィールドを提示する画像を捕捉するように構成されている画像センサコントローラと、を含む、電子走査光学システム。
  2. 前記エミッタコントローラが前記複数の光エミッタのサブセットを起動する各事例において、前記画像センサコントローラが、前記起動した光エミッタのサブセットの前記視野を共有する画像光センサのサブセットを起動し、かつ読み出す、請求項1に記載の電子走査光学システム。
  3. 前記エミッタコントローラが前記複数の光エミッタのサブセットを起動する各事例において、前記画像センサコントローラが、画像センサアレイ全体を起動するが、前記起動された光エミッタのサブセットの前記視野を共有する画像光センサのサブセットを読み出す、請求項1に記載の電子走査光学システム。
  4. 前記画像光センサの起動が、前記対応する光エミッタのそれぞれの発射に対して一時的に中心とされる、請求項1に記載の電子走査光学システム。
  5. 前記画像光センサのアレイ内の各個々の画像光センサが、個々に起動されるように構成されており、前記画像センサコントローラが、画像光センサのグループの起動を、順番に、対応する光エミッタバンクの発射と同時に同期させるように構成されている、請求項1に記載の電子走査光学システム。
  6. 画像光センサの第1のグループの第1の起動の期間が、画像光センサの第2のグループの第2の起動の期間とは異なる、請求項5に記載の電子走査光学システム。
  7. 画像光センサのアレイ全体が、一度に起動されるように構成されており、前記画像センサコントローラが、画像光センサのアレイ全体の前記起動と、画像光センサのそれぞれのグループの前記読み出しと、を順番に、対応する光エミッタバンクの前記発射と同時に同期させるように構成されている、請求項1に記載の電子走査光学システム。
  8. 前記画像光センサアレイの起動速度が、前記光エミッタのアレイの起動速度よりも速い、請求項7に記載の電子走査光学システム。
  9. 前記画像センサコントローラが、画像光センサのアレイ全体の2つ以上の起動から画像データを読み出し、かつ前記読み出した画像データを、対応する光エミッタバンクの起動と関連付けるように構成されている、請求項8に記載の電子走査光学システム。
  10. 前記画像光センサのアレイの視野が、前記エミッタアレイの前記視野よりも広い、請求項1に記載の電子走査光学システム。
  11. 前記画像光センサのアレイの全体的な寸法が、前記個々の光エミッタのアレイの全体的な寸法よりも広い、請求項1に記載の電子走査光学システム。
  12. 複数のアパーチャを有するアパーチャ層をさらに含み、前記アパーチャ層およびTOF光センサのアレイが、複数の受信器チャネルを形成するように配置され、前記複数の受信器チャネル内の各受信器チャネルが、前記複数のアパーチャからのアパーチャと、前記TOF光センサのアレイからのTOF光センサと、を含み、前記アパーチャが、前記受信器チャネル内の前記TOF光センサの前記視野を画定する、請求項1に記載の電子走査光学システム。
  13. 固体光学システムであって、
    前記エミッタアレイから放出され、かつ前記固体光学システムの外部のフィールドから反射された、放出光を検出するように動作可能な飛行時間(TOF)光センサを含むTOFセンサアレイであって、前記複数のTOF光センサ内の各TOF光センサが、前記フィールドにおいて、前記光学システムからの閾値距離を超えて、前記複数のTOF光センサの他のTOF光センサの前記視野と重複しない個別の視野を有する、飛行時間(TOF)センサアレイと、
    前記フィールド内の周囲光を検出するように構成された複数の画像光センサを含む画像センサアレイであって、前記複数のTOF光センサ内の各TOF光センサの前記個別の視野が、前記TOFセンサアレイの視野を画定し、前記画像センサアレイの前記視野が前記TOFセンサアレイの視野を包含する、画像センサアレイと、
    前記システムからのある範囲の距離にわたってサイズおよび幾何学的形状において前記TOFセンサアレイの前記視野に実質的に一致する照明パターンに従って前記光学システムの外部のフィールド内に動作波長で光の個別のビームを放出するように構成された複数の光エミッタを含む、エミッタアレイと、
    前記エミッタアレイに結合され、かつ前記複数の光エミッタのサブセットを一度に起動することにより、各放出サイクルにおいて前記複数の光エミッタを起動するように構成されたエミッタコントローラと、
    前記TOFセンサアレイに結合され、かつ前記TOFセンサアレイ内の個々のTOF光センサの読み出しを前記エミッタアレイ内の対応する光エミッタの発射と同時に同期させ、このため、前記エミッタアレイ内の各光エミッタが起動することができ、前記TOFセンサアレイ内の各TOF光センサが、前記放出サイクルを通じて読み出され得るように構成された、TOFセンサコントローラと、
    前記画像光センサのアレイに結合され、かつ視野が前記エミッタアレイの視野と重複する前記画像光センサのアレイの少なくとも一部分を読み出して、前記放出サイクル中の前記フィールドを提示する画像を捕捉するように構成された画像センサコントローラと、を含む、固体光学システム。
  14. 前記エミッタコントローラが前記複数の光エミッタのサブセットを起動する各事例において、前記画像センサコントローラが、前記起動された光エミッタのサブセットの前記視野を共有する画像光センサのサブセットを起動し、かつ読み出す、請求項13に記載の電子走査光学システム。
  15. 前記エミッタコントローラが前記複数の光エミッタのサブセットを起動する各事例において、前記画像センサコントローラが、画像センサアレイ全体を起動するが、前記起動された光エミッタのサブセットの前記視野を共有する画像光センサのサブセットから読み出す、請求項13に記載の固体光学システム。
  16. 前記画像光センサの起動が、前記対応する光エミッタのそれぞれの発射に対して一時的に中心とされる、請求項13に記載の固体光学システム。
  17. 前記画像光センサのアレイ内の画像光センサのグループが、個別に起動され得、前記画像センサコントローラが、所定の順番で、対応する光エミッタバンクの前記発射と同時に画像光センサのグループを起動させ、かつ同期させるように動作可能である、請求項13に記載の固体光学システム。
  18. 前記複数の画像光センサ内のすべての画像光センサが同時に起動され、前記画像センサコントローラが、画像光センサのアレイ全体の前記起動と、画像光センサのそれぞれのグループの前記読み出しと、を順番に、対応する光エミッタバンクの前記発射と同時に同期させるように構成され、前記画像光センサのアレイの起動速度が、前記光エミッタのアレイの起動速度よりも高い、請求項13に記載の固体光学システム。
  19. 複数のアパーチャを有するアパーチャ層をさらに含み、前記アパーチャ層およびTOF光センサのアレイが、複数の受信器チャネルを形成するように配置され、前記複数の受信器チャネル内の各受信器チャネルが、前記複数のアパーチャからのアパーチャと、前記TOF光センサのアレイからのTOF光センサと、を含み、前記アパーチャが、前記受信器チャネル内の前記TOF光センサの前記視野を画定する、請求項13に記載の固体光学システム。
  20. 固体光学システムであって、
    焦点距離を有する第1のバルク光学系と、前記第1のバルク光学系から前記焦点距離だけ離間した複数のアパーチャを含むアパーチャ層と、複数の飛行時間(TOF)光センサを含むTOFセンサアレイと、前記アパーチャ層と前記TOFセンサアレイとの後方に配設された複数のレンズを含むレンズ層と、第1の波長を中心とした狭帯域の光を通過させるように動作可能であり、かつ前記第1のバルク光学系と前記TOFセンサアレイとの間に配設された光学フィルタと、を含む、光検出システムであって、前記アパーチャ層と、レンズ層と、TOFセンサアレイとが、複数のTOFチャネルを形成するように配置され、前記複数のTOFチャネル内の各TOFチャネルが、前記複数のアパーチャからのアパーチャと、前記複数のレンズからのレンズと、前記複数のTOF光センサからのTOF光センサと、を含み、前記複数のTOFチャネル内の各TOF光センサが、複数の単一光子アバランシェダイオード(SPAD)を含み、前記複数のTOFチャネル内の各TOFチャネルが、前記光学システムからの閾値距離を超えて重複しない前記光学システムの前方のフィールドに個別の視野を画定し、各TOFチャネルが、前記第1のバルク光学系に入射した光を前記TOFチャネルの前記複数のSPADに通信する、光検出システムと、
    第2のバルク光学系と、前記第2のバルク光学系を通して受信された前記フィールド内の周囲光を検出するように動作可能な複数の画像光センサを含む画像センサアレイと、を含む、画像捕捉システムであって、前記複数のTOF光センサ内の各TOF光センサの前記個別の視野が、前記TOFセンサアレイの視野を画定し、前記画像センサアレイの視野が、前記TOFセンサアレイの前記視野を包含する、画像捕捉システムと、
    光放出システムであって、第3のバルク光学系と、複数の垂直キャビティ表面放出レーザ(VCSEL)を含むエミッタアレイであって、垂直キャビティ表面放出レーザ(VCSEL)の各々が、前記第3のバルク光学系を通じて前記光学システムの外部のフィールド内に前記第1の波長の個別の光ビームを放出するように構成されている、エミッタアレイと、を含み、このため、前記エミッタアレイが、前記システムからのある範囲の距離にわたって、サイズおよび幾何学的形状において、前記TOFセンサアレイの前記視野に実質的に一致する照明パターンに従って、複数の光の個別のビームを出力する、光放出システムと、
    前記エミッタアレイに結合され、かつ前記複数の光エミッタのサブセットを一度に起動することにより、各放出サイクルにおいて前記複数のVCSELを起動するように構成されたエミッタコントローラと、
    前記TOFセンサアレイに結合され、かつ前記TOFセンサアレイ内の個々のTOF光センサの読み出しを、前記エミッタアレイ内の対応する光エミッタの発射と同時に同期させ、このため、前記エミッタアレイ内の各光エミッタが起動され得、前記TOFセンサアレイ内の各TOF光センサが、前記放出サイクルを通じて読み出され得るように構成された、TOFセンサコントローラと、
    前記画像光センサのアレイに結合され、かつ視野が前記エミッタアレイの視野と重複する前記画像光センサのアレイの少なくとも一部分を読み出して、前記放出サイクル中の前記フィールドを提示する画像を捕捉するように構成された画像センサコントローラと、を含む、固体光学システム。
JP2021568199A 2019-05-13 2020-05-12 電子走査lidarシステム用同期画像捕捉 Pending JP2022533119A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201962847208P 2019-05-13 2019-05-13
US62/847,208 2019-05-13
PCT/US2020/032511 WO2020232016A1 (en) 2019-05-13 2020-05-12 Synchronized image capturing for electronic scanning lidar systems

Publications (1)

Publication Number Publication Date
JP2022533119A true JP2022533119A (ja) 2022-07-21

Family

ID=73289614

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021568199A Pending JP2022533119A (ja) 2019-05-13 2020-05-12 電子走査lidarシステム用同期画像捕捉

Country Status (6)

Country Link
US (1) US11953600B2 (ja)
EP (1) EP3969938A4 (ja)
JP (1) JP2022533119A (ja)
KR (1) KR20220006638A (ja)
CN (1) CN114096883A (ja)
WO (1) WO2020232016A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11681048B2 (en) * 2020-07-31 2023-06-20 Uatc, Llc Multi-channel light detection and ranging (LIDAR) unit having a telecentric lens assembly and single circuit board for emitters and detectors
EP4281805A4 (en) * 2021-06-23 2024-03-20 Huawei Tech Co Ltd OPTICAL DETECTION SYSTEM WITH ANAMORPHIC PRISM
DE102021006248A1 (de) 2021-12-17 2023-06-22 Automotive Research & Testing Center Objekterfassungsverfahren
WO2023143593A1 (zh) * 2022-01-30 2023-08-03 睿镞科技(北京)有限责任公司 激光系统及激光测量方法
US20240071093A1 (en) * 2022-08-23 2024-02-29 Waymo Llc Time-Division Multiple Access Scanning for Crosstalk Mitigation in Light Detection and Ranging (Lidar) Devices
WO2024076194A1 (ko) * 2022-10-06 2024-04-11 엘지이노텍 주식회사 광 출력 장치 및 이를 포함하는 3차원 센싱 장치
KR20240062036A (ko) 2022-11-01 2024-05-08 윤주호 콜치신과 메트포르민을 유효성분으로 하는 퇴행성 신경계 질환의 예방 또는 치료용 조성물
JP2024068423A (ja) * 2022-11-08 2024-05-20 ソニーセミコンダクタソリューションズ株式会社 センシングシステム、センシング制御装置、及び、センシング方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5448617B2 (ja) 2008-08-19 2014-03-19 パナソニック株式会社 距離推定装置、距離推定方法、プログラム、集積回路およびカメラ
US8648702B2 (en) * 2010-08-20 2014-02-11 Denso International America, Inc. Combined time-of-flight and image sensor systems
JP2013207415A (ja) 2012-03-27 2013-10-07 Osaka City Univ 撮像システム及び撮像方法
US9831630B2 (en) * 2014-02-06 2017-11-28 GM Global Technology Operations LLC Low cost small size LiDAR for automotive
US20160182891A1 (en) * 2014-12-22 2016-06-23 Google Inc. Integrated Camera System Having Two Dimensional Image Capture and Three Dimensional Time-of-Flight Capture With A Partitioned Field of View
US20160182846A1 (en) * 2014-12-22 2016-06-23 Google Inc. Monolithically integrated rgb pixel array and z pixel array
US9992477B2 (en) 2015-09-24 2018-06-05 Ouster, Inc. Optical system for collecting distance information within a field
JP6822230B2 (ja) 2017-03-09 2021-01-27 株式会社リコー 撮像装置および撮像方法
JP7189156B2 (ja) * 2017-05-15 2022-12-13 アウスター インコーポレイテッド 色によるパノラマlidar結果の増強
TWI773149B (zh) 2017-07-05 2022-08-01 美商奧斯特公司 具有電子掃描發射器陣列及同步感測器陣列之光測距裝置
US11585906B2 (en) 2018-12-26 2023-02-21 Ouster, Inc. Solid-state electronic scanning laser array with high-side and low-side switches for increased channels
CN115066634A (zh) * 2020-02-10 2022-09-16 上海禾赛科技有限公司 用于Lidar系统的自适应发射器和接收器

Also Published As

Publication number Publication date
EP3969938A4 (en) 2023-05-17
US11953600B2 (en) 2024-04-09
WO2020232016A1 (en) 2020-11-19
US20220120906A1 (en) 2022-04-21
CN114096883A (zh) 2022-02-25
EP3969938A1 (en) 2022-03-23
KR20220006638A (ko) 2022-01-17

Similar Documents

Publication Publication Date Title
TWI719325B (zh) 具有電子掃描發射器陣列及同步感測器陣列之光測距裝置
US11585906B2 (en) Solid-state electronic scanning laser array with high-side and low-side switches for increased channels
JP2022533119A (ja) 電子走査lidarシステム用同期画像捕捉
US20230393245A1 (en) Integrated long-range narrow-fov and short-range wide-fov solid-state flash lidar system
US20230408694A1 (en) Segmented flash lidar using stationary reflectors
EP4283330A1 (en) Lidar device with spatial light modulators

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220114

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230210

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231204

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240304

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240513