JP7426377B2 - マルチスペクトル測距/撮像センサアレイ及びシステム - Google Patents

マルチスペクトル測距/撮像センサアレイ及びシステム Download PDF

Info

Publication number
JP7426377B2
JP7426377B2 JP2021506647A JP2021506647A JP7426377B2 JP 7426377 B2 JP7426377 B2 JP 7426377B2 JP 2021506647 A JP2021506647 A JP 2021506647A JP 2021506647 A JP2021506647 A JP 2021506647A JP 7426377 B2 JP7426377 B2 JP 7426377B2
Authority
JP
Japan
Prior art keywords
sensor
channel
channels
light
ambient light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021506647A
Other languages
English (en)
Other versions
JP2021534378A (ja
JPWO2020033749A5 (ja
Inventor
アンガス パカラ
マーク フリクトル
Original Assignee
アウスター インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by アウスター インコーポレイテッド filed Critical アウスター インコーポレイテッド
Publication of JP2021534378A publication Critical patent/JP2021534378A/ja
Publication of JPWO2020033749A5 publication Critical patent/JPWO2020033749A5/ja
Priority to JP2024007360A priority Critical patent/JP2024056706A/ja
Application granted granted Critical
Publication of JP7426377B2 publication Critical patent/JP7426377B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4814Constructional features, e.g. arrangements of optical elements of transmitters alone
    • G01S7/4815Constructional features, e.g. arrangements of optical elements of transmitters alone using multiple transmitters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J1/00Photometry, e.g. photographic exposure meter
    • G01J1/42Photometry, e.g. photographic exposure meter using electric radiation detectors
    • G01J1/4204Photometry, e.g. photographic exposure meter using electric radiation detectors with determination of ambient light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4816Constructional features, e.g. arrangements of optical elements of receivers alone
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/1462Coatings
    • H01L27/14621Colour filter arrangements
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14625Optical elements or arrangements associated with the device
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14643Photodiode arrays; MOS imagers
    • H01L27/14645Colour imagers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/705Pixels for depth measurement, e.g. RGBZ

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Power Engineering (AREA)
  • Electromagnetism (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Sustainable Development (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Measurement Of Optical Distance (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Light Receiving Elements (AREA)

Description

(関連出願の相互参照)
本出願は、以下の4つの仮出願、2018年8月9日に出願された米国特許出願第62/716,900号、 2018年9月4日に出願された米国特許出願第62/726,810号、2018年10月11日に出願された米国特許出願第62/744,540号、及び2019年7月23日に出願された米国特許出願第62/877,778号の利益を主張する。これら4つの仮出願すべての開示は、参照により本明細書に組み込まれる。
本開示は、全般的に、光学撮像システム、特に、異なる光特徴または光特性に調節され、測距のために使用可能なセンサチャネルを含む複数のセンサチャネルを備えるセンサシステムに関する。
光撮像、検出及び測距(LIDAR)システムは、標的にパルスレーザ光を照射し、センサで反射パルスを測定することにより、標的までの距離を測定する。その後、飛行時間測定を使用して、標的のデジタル3D表現を作成することができる。LIDARシステムは、とりわけ、考古学、地理学、地質学、林学、地図作製、建設、医療用画像処理、及び軍事用途を含む3D深度画像が役立つ様々な用途に使用され得る。自律車両は、障害物の検出と回避、及び車両のナビゲーションにもLIDARを使用することができる。
車両ナビゲーションなどの用途では、深度情報(例えば、環境内の物体までの距離)は、非常に有用であるが、危険を回避して安全にナビゲートするには十分ではない。また、特定の物体、例えば、交通信号、車線区分線、車両の走行経路と交差する可能性のある移動物体などを特定する必要もある。したがって、自律型車両などのシステムは、LIDARシステム、ならびに環境内の物体からの反射光及び環境内に存在し得る任意の光源からの直接光を含む周囲光を撮像することができる可視光カメラなどの別の撮像システムの両方を含み得る。各撮像システム(LIDAR及び可視光)は、深度データまたはスペクトルデータのいずれかを含む画像を独立して提供する。幾つかの用途では、例えば、画像登録を実行して、異なる画像内の同じ物体の位置を特定することにより、異なる画像を互いに位置整合することが有益である。画像登録は、複雑かつ計算量の多いタスクであり得る。例えば、異なる撮像システムは、異なる解像度及び/またはフレーム境界を有し得、独立して構築された及び/または独立して制御された撮像システム間の位置整合は、不正確であり得る。
本明細書に記載の本発明の特定の実施形態は、同じセンサアレイ(例えば、モノリシックASICセンサアレイであり得る)内の、深度チャネル(例えば、LIDARセンサチャネル)及び1または複数の異なる周囲光センサチャネルを含む、複数のセンサチャネルタイプを組み込むマルチスペクトルセンサアレイに関する。異なるタイプのチャネルは、同じセンサアレイ内にあるため、チャネルは、互いに高精度に本質的に位置整合され得る。特定の波長範囲(必要に応じて広帯域または狭帯域であり得る)、特定の偏光特性(例えば、特定の方向に直線偏光した、円偏光したなど)などの特定の特性を有する光に敏感になるように、(例えば、光学フィルタを使用して)異なるチャネルを調節することができる。センサアレイを撮像光学素子と組み合わせて使用して、各チャネルタイプに対応するピクセルデータを含む画像を生成することができる。同じセンサアレイ内の異なるセンサタイプから生成された画像は、センサアレイ内のチャネル位置整合により、互いに「本質的に」登録される。つまり、異なるタイプのピクセル(またはチャネル)間の空間的関係は、センサアレイの設計で確立され、異なるセンサタイプからのピクセルデータを視野内の同じピクセル場所にマッピングするために使用することができる。
幾つかの実施形態では、チャネルの一部またはすべては、アレイ内のチャネルの場所及び/またはチャネルが調節される特定の波長範囲に依存するチャネル別(またはチャネルタイプ別)の補償マイクロ光学素子を有することができる。このようなマイクロ光学素子は、例えば、バルク撮像光学素子の色収差、焦点面曲率、または他の光学特性を補償するために使用することができる。
幾つかの実施形態では、異なる周囲光センサチャネルを、異なる重なる波長帯域に調節することができ(例えば、重なる通過帯域を備える光学フィルタを使用して)、算術論理回路を使用して、重なる波長帯域内の測定値に基づいて、様々な波長帯域内の光強度を決定することができる。
幾つかの実施形態では、測距/撮像システムは、例えば、列に直角な軸の周りにセンサアレイを回転させることによって、マルチスペクトルセンサアレイを使用して視野をスキャンすることができる。この動作の間、空間内の所与の場所は、チャネルタイプの各々によって連続的に撮像され得、それにより、撮像モダリティ(またはチャネル)間の固有の登録を備えるマルチスペクトル画像セットを提供する。アレイ内のチャネルの空間的関係、撮像光学素子の光学特性(例えば、バルク撮像光学素子の焦点距離歪みプロファイル)、及びセンサアレイの動作(例えば、回転)に対する撮像速度は、異なるチャネルからのデータが、視野を表すピクセルの均一なグリッドに簡単にマッピングされるように、選択することができる。
マルチスペクトルセンサアレイがスキャンされる幾つかの実施形態では、ある行内の2つ以上の周囲光センサチャネルのグループは、グループ内の異なる周囲光センサチャネルに対して異って位置付けられる同じタイプの光学フィルタ及びサブピクセルサイズの開口を有することができる。グループ内の周囲光センサチャネルからの光強度測定値(例えば、光子カウント)に基づいて、スキャン方向及び/または非スキャン方向の解像度が増加した周囲光画像を取得することができる。
幾つかの実施形態では、「2D」(二次元)マルチスペクトルセンサアレイを提供することができ、アレイは、マルチスペクトルピクセルの二次元配置を含む。各マルチスペクトルピクセルは、1または複数の周囲光センサチャネルと共に深度チャネルを含むことができる。このようなアレイは、移動する(例えば、回転する)測距/撮像システム、ならびにセンサアレイを移動せずに視野の撮像が達成される「静的」システムで使用することができる。
幾つかの実施形態は、幾つかのセンサ行に配置されたセンサチャネルを備えるセンサアレイに関する。各センサ行は、測距センサチャネル(例えば、LIDARセンサチャネル)及び1または複数の周囲光センサチャネルのセットを含むことができる。各周囲光センサチャネルは、開口(例えば、チャネルの視野を確定するための)、光センサ(例えば、1または複数のシングルフォトンアバランシェダイオード)、チャネル別特性(例えば、望ましい色、偏光状態など)を有する光を選択的に通過させるチャネル別光学フィルタを含むことができる。幾つかの実施形態では、センサチャネルの一部またはすべては、チャネル別特性を有する光を開口を通して光センサに向けるための、例えば、アレイの前に配置することができるバルク撮像光学素子における色収差を補償するチャネル別マイクロ光学素子を含むことができる。幾つかの実施形態では、周囲光センサチャネルは、異なる特性を有する光を検出するように調節された(例えば、パターン化された光学フィルタを使用して)複数の光センサを含むマルチスペクトルチャネルである。幾つかの実施形態では、センサアレイは、深度動作(例えば、LIDAR感知)のために構成された光センサの1つのグループ、及び様々な特徴を有する周囲光の感知のために構成された光センサの1または複数の他のグループを含む「ハイブリッド」センサチャネルの2Dアレイを含むことができる。本明細書に記載の種類のセンサアレイは、光測距/撮像システム及び/または他の光学系に組み込むことができる。
幾つかの実施形態は、センサチャネルの配置及び開口面内の開口の対応する配置を有する光センサアレイに関する。バルク光学モジュールを使用して、撮像されている領域からの光をセンサアレイ上に向けて、集束させることができる。バルク光学モジュールが、湾曲した焦点面を有する場合、様々な処方及び/または開口面からの様々なオフセット距離のチャネル別マイクロ光学素子を、開口の前に配置して、開口の場所と湾曲した焦点面上の対応する場所との間のオフセットを補正することができる。同様に、光エミッタアレイは、エミッタチャネル(例えば、LIDAR用途に使用可能な波長で光を生成する狭帯域エミッタ)の配置及び開口面内の対応する開口の配置を有することができる。バルク光学モジュールを使用して、開口部を通過する放出光を、撮像される領域に向けることができる。バルク光学モジュールが、湾曲した焦点面を有する場合、様々な処方及び/または開口面からの様々なオフセット距離のチャネル別マイクロ光学素子を、開口の前に配置して、開口の場所と湾曲した焦点面上の対応する場所との間のオフセットを補正することができる。そのような実施形態では、処方(例えば、集束力)、及び/または開口面からのチャネル別マイクロ光学素子のスタンドオフ距離は、例えば、開口面内の光軸からの半径方向距離の関数として変化させることができる。これにより、光放出及び/または光収集の効率を向上させることができる。バルク光学モジュールの焦点面曲率を補正するためのチャネル別マイクロ光学は、光エミッタまたは光センサの特定の特徴に関係なく、光受信モジュール及び/または光送信モジュールで使用することができる。異なるチャネルが、異なる波長の光を放出または受信するように調節される幾つかの実施形態では、チャネル別マイクロ光学素子は、バルク光学モジュールに存在し得る焦点面曲率及び色収差の両方を補正することができる。
幾つかの実施形態は、センサ行を有するセンサアレイに関する。各センサ行には、LIDARセンサチャネル、及び1または複数の周囲光センサチャネルのセット(例えば、1つ、3つ、5つ、6つ以上)が含まれる。各周囲光センサチャネルは、チャネル入力開口、光センサ、及びチャネル別特性を有する光を光センサに選択的に通過させるチャネル別光学フィルタを含む。各周囲光センサチャネルの光センサは、例えば、フォトンカウンティングモードで動作する1または複数のシングルフォトンアバランシェダイオード(SPAD)などの1または複数のフォトダイオードであり得る。幾つかの実施形態では、各LIDARセンサチャネルはまた、フォトンカウンティングモードで動作する1または複数のSPADを含むことができ、同じタイプの光センサを、LIDARセンサチャネル及び周囲光センサチャネルの両方に使用することができる。
幾つかの実施形態では、周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含むことができる。例えば、周囲光センサチャネルのセットは、チャネル別光学フィルタが、赤色光を選択的に通過させる赤色チャネル、チャネル別光学フィルタが、緑色光を選択的に通過させる緑色チャネル、及びチャネル別光学フィルタが、青色光を選択的に通過させる青色チャネルを含むことができる。別の例として、周囲光センサチャネルのセットは、少なくとも5つの異なる色チャネルを含み、少なくとも5つの異なる色チャネルの各々のチャネル別光学フィルタは、異なる波長範囲を有する光を選択的に通過させる。異なるチャネル別光学フィルタは、必要に応じて、重なる通過帯域または重ならない通過帯域を有することができ、特定の光学フィルタは、広い通過帯域(例えば、可視光スペクトル全体)または狭い通過帯域(例えば、典型的な発光ダイオード(LED)の放出スペクトルに対応する通過帯域など25nm以下)を有することができる。例えば、第1色チャネルは、第1波長範囲を有する光を選択的に通過させる光学第1チャネル別光学フィルタを有し得、第2色チャネルは、第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する。第2範囲は、特定の物質の吸収帯に対応することができ、2つの色チャネルからのデータを、物質を特定することに使用することができる。
幾つかの実施形態では、周囲光センサチャネルはまた、波長以外の光の特性に選択的に敏感であり得る。例えば、周囲光センサチャネルのセットは、チャネル別光学フィルタが、特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含むことができる。色チャネル及び偏光チャネルを組み合わせて提供して、周囲光のスペクトル特性及び偏光特性の両方に関する情報を提供することができる。
幾つかの実施形態では、ある列の周囲光センサチャネルは、複数の光センサ及びパターン化された光学フィルタを含み得る、「マルチスペクトル」センサチャネルを含み得、パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、マルチスペクトルセンサチャネル内の光センサの異なるサブセットに選択的に通過させる。パターン化された光学フィルタの異なる部分は、例えば、第1波長帯域内の光を通過させる第1部分、第2波長帯域(部分的に重なる波長帯域であり得る)内の光を通過させる第2部分、特定の偏光特性を有する光を通過させる部分などを含み得る。
アレイ内のセンサチャネルは、必要に応じて配置することができる。例えば、1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含む実施形態では、所与のセンサ行内の周囲光センサチャネルは、均一なピッチだけ互いに離間することができる。所与のセンサ行内のLIDARセンサチャネルは、均一なピッチだけ、または均一なピッチの整数倍数である距離だけ、所与のセンサ行内の周囲光センサチャネルのうちの最も近いものから離間することができる。隣接するセンサ行は、均一なピッチだけ互いに離間することもできる。これにより、センサアレイをスキャン動作で使用するときに、物体空間の均一なサンプリングが可能になる。
幾つかの実施形態では、センサアレイは、単一のASICとして製造される。ASICはまた、ASIC内に配設され、LIDARセンサチャネルのうちの2つ以上及び周囲光センサチャネルのうちの2つ以上からデータを格納するように構成されたデータバッファ、ならびに/またはASIC内に配設され、データバッファに格納されるデータに対して、画像処理操作を実行するように構成された処理回路などの他のコンポーネントを含み得る。
幾つかの実施形態は、固定ベース、固定ベースに回転結合されたセンサアレイ、バルク光学モジュール、及びコントローラを有する測距/撮像システムに関する。センサアレイは、センサ行を含むセンサアレイであり得、各センサ行は、LIDARセンサチャネル、及びチャネル別光学フィルタリングを備える1または複数の周囲光センサチャネルのセットを有する。バルク光学モジュールは、センサアレイの前に配設され、入射光を、LIDARセンサチャネル及び周囲光センサチャネルに共通の開口面に集束するように構成され得る。コントローラは、センサアレイの回転と光センサの動作を同期させて、固定ベースに対する空間内の所与の場所が、センサ行のうちの1つ内のLIDARセンサチャネル及び周囲光センサチャネルの各々によって、連続的に撮像されるようにし得る。コントローラはまた、センサアレイの周囲光センサチャネルを使用して決定されたピクセルごとの光強度データ、及びセンサアレイのLIDARセンサチャネルを使用して決定されたピクセルごとの深度データを含むマルチスペクトル画像ピクセルデータを生成するように構成され得る。幾つかの実施形態では、所与のセンサ行内の周囲光センサチャネルは、均一なピッチだけ互いに離間し、コントローラは、連続する撮像動作が、均一なピッチに対応するピッチ角だけ離された角度位置で発生するように、測距/撮像システムを回転させるように更に構成される。所与のセンサ行内のLIDARセンサチャネルは、均一なピッチだけ、または均一なピッチの整数倍数である距離だけ、所与のセンサ行内の周囲光センサチャネルのうちの最も近いものから離間することができる。幾つかの実施形態では、隣接するセンサ行もまた、均一なピッチだけ互いに離間する。
幾つかの実施形態は、ハイブリッドセンサピクセルの二次元アレイを有するセンサアレイに関する。各ハイブリッドセンサピクセルは、LIDARセンサチャネル及び1または複数の周囲光センサチャネルのセットを含むことができ、各周囲光センサチャネルは、センサ別特性を有する光の強度を選択的に測定するように調節される。センサアレイはまた、二次元アレイ内の各ハイブリッドセンサピクセルに結合された読み出し電子機器を含むことができ、各ハイブリッドセンサピクセルの読み出し電子機器は、LIDARセンサチャネルに結合され、LIDARセンサチャネルにおける光子の到着の時間を計るように、かつ光子到着時間を表すデータをメモリに格納するように構成されたタイミング回路と、周囲光センサチャネルに結合され、周囲光センサチャネルで検出された光子の数をカウントするように、かつ光子カウントをメモリに格納するように構成されたカウンタ回路と、を含む。
幾つかの実施形態では、ハイブリッドセンサピクセルの二次元アレイは、単一のASICとして形成される。各ハイブリッドセンサピクセルは、光センサの平面アレイ及びパターン化された光学フィルタを含み得、パターン化された光学フィルタの異なる部分は、異なる特性を有する光を、平面アレイ内の光センサの異なるサブセットに選択的に通過させる。パターン化された光学フィルタは、光センサの第1サブセットが、LIDARエミッタの波長に一致する狭い通過帯域内で赤外光を受信し、それによって、LIDARセンサチャネルを提供し、光センサの第2サブセットが、可視光スペクトルの少なくとも一部分から可視光を受信し、それによって、周囲光センサチャネルのうちの1つを提供するように配置することができる。幾つかの実施形態では、光センサの第1サブセットは、ハイブリッドセンサピクセルのピクセル領域内の中央領域に位置しており、光センサの第2サブセットは、ピクセル領域内の中央領域の周りの周辺領域に位置する。幾つかの実施形態では、光センサの第2サブセットは、2つ以上の光センサを含み、パターン化された光学フィルタは、第2サブセット内の2つ以上の光センサの各々が、異なる波長範囲または異なる分極特性などの異なる特性を有する光を受信するように更に配置される。
幾つかの実施形態では、ハイブリッドセンサチャネルの二次元アレイのLIDARセンサチャネルは、第1ASICとして形成され、周囲光センサチャネルは、第1ASIC上に重ねられ、第1ASICと位置整合されている第2ASICとして形成される。第2ASICは、その中に形成された複数の開口を有し、光がLIDARセンサチャネルに通過することを可能にする。
幾つかの実施形態は、ハイブリッドセンサピクセルの二次元アレイを有するセンサアレイ及びコントローラを含む測距/撮像システムに関する。各ハイブリッドセンサピクセルは、光センサの平面アレイ及びパターン化された光学フィルタを含み得、パターン化された光学フィルタの異なる部分は、異なる特性を有する光を、平面アレイ内の光センサの異なるサブセットに選択的に通過させる。パターン化された光学フィルタは、光センサの第1サブセットが、LIDARエミッタの波長に一致する狭い通過帯域内で赤外光を受信し、それによって、LIDARセンサチャネルを提供し、光センサの第2サブセットが、可視光スペクトルの少なくとも一部分から可視光を受信し、それによって、周囲光センサチャネルのうちの1つを提供するように配置することができる。コントローラは、視野内の所与の場所が、ハイブリッドセンサピクセルのうちの1つのLIDARセンサチャネル及び周囲光センサチャネルによって撮像されるように、LIDARセンサチャネル及び周囲光センサチャネルを動作させるように構成することができる。幾つかの実施形態では、測距/撮像システムはまた、LIDARセンサチャネルによって検出可能な光を放出するためのエミッタを含み、コントローラは、エミッタの動作を、LIDARセンサチャネルの動作と調整して、各ハイブリッドセンサピクセルの深度測定値を決定するように更に構成することができる。コントローラはまた、エミッタ及びLIDARセンサチャネルを動作させて、視野の電子スキャンを実行し、視野の異なる部分が、LIDARセンサチャネルのうちの異なるものによって、異なる時間に撮像されるように更に構成することができる。
幾つかの実施形態は、固定ベース、固定ベースに回転結合されたセンサアレイ、バルク光学モジュール、及びコントローラを有する撮像システムに関する。センサアレイは、複数のセンサ行を有することができ、各センサ行は、1または複数の周囲光センサチャネルのセットを含み、その各々は、チャネル入力開口、光センサ、及びチャネル別特性を有する光を、光センサに選択的に通過させるチャネル別光学フィルタ、を含むことができる。バルク光学モジュールは、センサアレイの前に配設し、入射光を、周囲光センサチャネルに共通の開口面に集束させるように構成することができる。コントローラは、センサアレイの回転と光センサの動作を同期させて、周囲光センサチャネルを使用して決定された光強度データを含む画像ピクセルデータを生成するように構成することができる。幾つかの実施形態では、1または複数の周囲光センサチャネルのセットは、少なくとも2つの周囲光センサチャネルを含み、異なる周囲光センサチャネルは、異なるチャネル別光学フィルタを有する。所与のセンサ行内の周囲光センサチャネルは、均一なピッチだけ互いに離間する。幾つかの実施形態では、隣接するセンサ行もまた、同じ均一なピッチだけ互いに離間する。これにより、視野の均一なサンプリングが容易になり得る。幾つかの実施形態では、撮像システムはまた、ASIC内に配設され、2つ以上の周囲光センサチャネルからのデータを格納するように構成されたデータバッファと、ASIC内に配設され、データバッファに格納されたデータに対して、画像処理動作を実行するように構成された処理回路と、を含むことができる。
幾つかの実施形態は、センサアレイ、バルク光学モジュール、コントローラ、及び複数のチャネル別マイクロ光学素子を含む撮像システムに関する。センサアレイは、開口面内の対応する開口を通して光を受信するように配置されたセンサチャネルを有することができる。バルク光学モジュールは、センサアレイの前に配設し、入射光を、開口面に集束させて、視野の画像を形成するように構成することができる。コントローラは、センサアレイを動作させて、視野の画像データを生成することができる。チャネル別マイクロ光学素子の各々は、開口のうちの異なるものの前に配設することができ、異なるセンサチャネルに対して異なる光学処方を有することができる。チャネル別マイクロ光学素子のうちの特定のものの光学処方は、色収差(色選択性であるセンサチャネルの場合)及び/または焦点面曲率(光学処方が、バルク光学モジュールの光軸からの半径方向の距離の関数であり得る場合)など、バルク光学モジュールの光学特性に少なくとも部分的に基づくことができる。光学処方には、焦点距離(または集束力)及び/またはスタンドオフ距離を含めることができる。
幾つかの実施形態では、センサチャネルは、センサ行に配置され、各センサ行は、LIDARセンサチャネル、及び1または複数の周囲光センサチャネルのセットを含み、各周囲光センサチャネルは、チャネル入力開口、光センサ、及びチャネル別特性を有する光を、光センサに選択的に通過させるチャネル別光学フィルタを含む。チャネル別マイクロ光学素子は、周囲光センサチャネルの少なくとも幾つかに対して提供することができる。例えば、各周囲光センサチャネルのチャネル別マイクロ光学素子は、例えば、バルク光学モジュールの色収差を補償するための、チャネル別光学フィルタに少なくとも部分的に基づく処方を有することができる。
幾つかの実施形態では、センサチャネルは、LIDARセンサチャネルを含み、LIDARセンサチャネルの少なくとも幾つかは、部分的にLIDAR動作波長、及び部分的にバルク光学モジュールの光学特性に基づくそれぞれの光学処方を備える対応するチャネル別光学素子を有することができる。
幾つかの実施形態は、エミッタアレイ、バルク光学モジュール、及びチャネル別マイクロ光学素子を含むLIDARトランスミッタデバイスに関する。エミッタアレイは、開口面内の対応する複数の開口を通して光を放出するように配置された複数のエミッタチャネルを有することができる。バルク光学モジュールは、エミッタアレイの前に配設し、開口面からの光を視野に向けるように構成され得る。チャネル別マイクロ光学素子は、各々、開口のうちの異なるものの前に配設され得、各々、異なるセンサチャネルに対して異なる光学処方を有することができる。チャネル別マイクロ光学素子の光学処方は、バルク光学モジュールの光学的特性に少なくとも部分的に基づくことができる。例えば、バルク光学モジュールが湾曲した焦点面を有する場合、チャネル別マイクロ光学素子の各々の光学処方は、バルク光学モジュールの光軸から対応する開口までの開口面内の半径方向距離の関数である、各チャネル別マイクロ光学素子の光学処方を使用することによって、開口の場所と湾曲した焦点面上の対応する場所との間のオフセットを補償することができる。光学処方には、焦点距離(または集束力)及び/またはスタンドオフ距離を含めることができ、したがって、異なる開口の前に配設されたチャネル別マイクロ光学素子は、異なる集束力及び/または開口面からの異なるスタンドオフ距離を備える光学処方を有することができる。
幾つかの実施形態は、スキャン方向に固定解像度を有する画像を提供するためのスキャン撮像システムに関する。スキャン撮像システムは、センサアレイ、回転制御システム、及びバルク光学モジュールを含むことができる。センサアレイは、二次元に配置されたセンサチャネルのセットを含むことができ、各センサチャネルは、(同じ特徴または異なる特性を備える)光を検出するように構成される。回転制御システムは、角度測定位置のシーケンスを通じて、センサアレイをスキャン方向に回転させて、均一な角度ピッチに従ってスキャン方向に離間する画像ピクセルのグリッドなどの、視野の画像を表すデータのフレームを取得するように構成することができる。バルク光学モジュールは、光をセンサアレイに向けて集束するように構成され得、焦点距離及び焦点距離歪みプロファイルを有することができ、両方とも、センサチャネルのセットの配置に調節されており、センサアレイを、均一な角度ピッチを通じて、スキャン方向に沿って回転させることにより、光線がセンサアレイに入射する場所が、1つのセンサチャネルから隣接するセンサチャネルにシフトする。
センサチャネルのセットには、チャネルタイプの様々な組み合わせを含めることができる。例えば、センサチャネルのセットには、スキャン方向を横切る方向に延びる列を画定するLIDARセンサチャネルの千鳥グリッドを含めることができる。加えて(または代わりに)、センサチャネルのセットは、LIDARセンサチャネルの各々に対してスキャン方向に沿って配設された1または複数の周囲光センサチャネルを含むことができる。
幾つかの実施形態では、センサアレイは、スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、バルク光学モジュールは、Fθ焦点距離歪みプロファイルまたはFtanθ焦点距離歪みプロファイルのいずれかを有する。
他の実施形態では、センサアレイは、隣接するセンサチャネル間の可変距離を有し得る。例えば、バルク光学モジュールの焦点距離歪みプロファイルがバレル歪みを示す場合、センサアレイ内の隣接するセンサチャネル間の距離は、センサアレイの端から中心に向かって増加する可能性がある。同様に、バルク光学モジュールの焦点距離歪みプロファイルがピンクッション歪みを示す場合、センサアレイ内の隣接するセンサチャネル間の距離は、センサアレイの端から中心に向かって減少する可能性がある。そのような配置は、物体空間の均一なサンプリングを提供することができる。
幾つかの実施形態は、スキャン方向に固定解像度を有する画像を提供するためのスキャン撮像システムに関する。スキャン撮像システムは、センサアレイ、ミラーサブシステム、及びバルク光学モジュールを含むことができる。センサアレイは、一次元または二次元に配置されたセンサチャネルのセットを含むことができ、各センサチャネルは、(同じ特徴または異なる特性を備える)光を検出するように構成される。ミラーサブシステムは、視野の異なる部分からの光を、異なる時間にセンサアレイ上に向け、センサアレイが、視野の画像を表すデータのフレームを取得するように構成され得、例えば、データのフレームは、均一な角度ピッチに従ってスキャン方向に離間された画像ピクセルのグリッドであり得る。バルク光学モジュールは、光をセンサアレイに向けて集束するように構成することができ、焦点距離及び焦点距離歪みプロファイルを有することができ、両方とも、センサチャネルのセットの配置に調節されており、センサアレイを、均一な角度ピッチを通じて、スキャン方向に沿って回転させることにより、光線がセンサアレイに入射する場所が、1つのセンサチャネルから隣接するセンサチャネルにシフトする。
センサチャネルのセットには、チャネルタイプの様々な組み合わせを含めることができる。例えば、センサチャネルのセットには、スキャン方向を横切る方向に延びる列を画定するLIDARセンサチャネルの千鳥グリッドを含めることができる。加えて(または代わりに)、センサチャネルのセットは、LIDARセンサチャネルの各々に対してスキャン方向に沿って配設された1または複数の周囲光センサチャネルを含むことができる。
幾つかの実施形態では、センサアレイは、スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、バルク光学モジュールは、Fθ焦点距離歪みプロファイルまたはFtanθ焦点距離歪みプロファイルのいずれかを有する。
他の実施形態では、センサアレイは、隣接するセンサチャネル間の可変距離を有し得る。例えば、バルク光学モジュールの焦点距離歪みプロファイルが、バレル歪みを示す場合、センサアレイ内の隣接するセンサチャネル間の距離は、センサアレイの端から中心に向かって増加し得る。同様に、バルク光学モジュールの焦点距離歪みプロファイルが、ピンクッション歪みを示す場合、センサアレイ内の隣接するセンサチャネル間の距離は、センサアレイの端から中心に向かって減少し得る。そのような配置は、物体空間の均一なサンプリングを提供することができる。
幾つかの実施形態は、二次元でスキャンすることによって、固定解像度を有する画像を提供するためのラスタースキャン撮像システムに関する。ラスタースキャン撮像システムは、センサアレイ、ラスタースキャン機構、及びバルク光学モジュールを含むことができる。センサアレイは、一次元または二次元に配置されたセンサチャネルのセットを含むことができ、センサチャネルの各々は、光を検出するように構成される。ラスタースキャン機構は、視野の異なる部分からの光を、異なる時間にセンサアレイ上に向けて、センサアレイが、視野の画像を表すデータのフレームを取得する、一次元または二次元でラスタースキャンを実行するように構成することができ、データのフレームは、例えば、均一なピッチに従って二次元の各々に離間された画像ピクセルの二次元グリッドであり得、画像ピクセルのグリッドの両方の次元は、センサアレイの次元よりも大きい。バルク光学モジュールは、光をセンサアレイに向けて集束するように構成することができ、焦点距離及び焦点距離歪みプロファイルを有することができ、両方とも、センサアレイが視野を均一にサンプリングするように、センサチャネルのセットの配置に調節される。
幾つかの実施形態では、ラスタースキャンは、センサアレイを二次元で移動させて、センサチャネルを視野の異なる部分に向けることによって動作することができる。他の実施形態では、ラスタースキャン機構は、視野の異なる部分からの光を、異なる時間にセンサアレイ上に向けるための、二次元で移動可能なチップチルトミラーを含むことができる。
センサチャネルのセットには、チャネルタイプの様々な組み合わせを含めることができる。幾つかの実施形態では、センサチャネルは、LIDARセンサチャネルを含み、また、様々なタイプの周囲光センサチャネルを含むことができる。他の実施形態では、センサチャネルは、1または複数の「ハイブリッド」センサチャネルを含むことができ、各ハイブリッドセンサチャネルは、複数の光センサ、及びパターン化された光学フィルタ有し、パターン化された光学フィルタの異なる部分は、異なる特性を有する光を選択的に通過させ、パターン化された光学フィルタは、異なる光センサが異なる特性を有する光を受信するように配置される。パターン化された光学フィルタは、複数の光センサの第1サブセットが、LIDARエミッタの波長に一致する狭い通過帯域内で赤外光を受信し、複数の光センサの第2サブセットが、可視光スペクトルの少なくとも一部分からの可視光を受信するように更に配置することができる。別の例として、ハイブリッドセンサチャネルは、第1センサチャネル層上に配設されたLIDARセンサチャネルと、開口層であって、第1センサチャネル層に重なり、その中に、光がLIDARセンサチャネルに入ることを可能にするための開口を有する開口層と、開口の周りの開口層の少なくとも一部分に配設された周囲光センサチャネルであって、各周囲光センサチャネルは、光センサ、及び特定の特性を有する光を選択的に通過させる光学フィルタを含み、周囲光センサチャネルの異なるものの光学フィルタは、異なる特性を有する光を選択的に通過させる、周囲光センサチャネルと、を含むことができる。
幾つかの実施形態では、ラスタースキャン撮像システムのセンサアレイは、センサチャネル間に固定ピッチを有し、バルク光学モジュールは、Ftanθ焦点距離歪みプロファイルまたはFθ焦点距離歪みプロファイルのいずれかを有する。
幾つかの実施形態は、複数のセンサ行、論理回路、及びコントローラを有するセンサアレイに関する。各センサ行は、ある範囲の波長に敏感な2つ以上の高解像度周囲光センサチャネルのグループを含むことができ、グループ内の各高解像度周囲光センサチャネルは、チャネル別入力開口であって、グループ内の異なる高解像度周囲光センサチャネルのチャネル別入力開口は、チャネル領域の異なる部分を露出する、チャネル別入力開口と、光センサと、を含むことができる。論理回路は、高解像度周囲光センサチャネルのグループ内の光センサからの強度データに基づいて、複数のサブピクセル光強度値を決定することができる。コントローラは、センサアレイを、視野内の異なる領域に異なる時間に露出するスキャン操作を実行して、2つ以上の高解像度周囲光センサチャネルのグループ内の各周囲光センサチャネルが、異なる時間に視野内の同じピクセル領域に露出されるように構成することができる。
幾つかの実施形態では、グループ内の各高解像度周囲光センサチャネルは、特定の特性を有する光を選択的に通過させる光学フィルタを含むことができ、特定の特性は、グループ内のあらゆる高解像度周囲光センサチャネルに対して同じである。
幾つかの実施形態では、グループ内の異なる高解像度周囲光センサチャネルの開口によって露出されたチャネル領域の異なる部分は、チャネル領域の重ならない部分である。例えば、高解像度周囲光センサチャネルのグループは、4つの高解像度周囲光センサチャネルを含むことができ、重ならない部分は、チャネル領域の異なる象限に対応することができる。
他の実施形態では、グループ内の異なる高解像度周囲光センサチャネルの開口によって露出されたチャネル領域の異なる部分は、チャネル領域の重なる部分を含むことができる。算術論理回路を提供して、2つ以上の高解像度周囲光センサチャネルのグループからのセンサデータに基づいて、チャネル領域の重ならない部分のセットの強度値をデコードすることができる。デコーディングを容易にするために、グループ内の高解像度周囲光センサチャネルのうちの1つ(または複数)は、チャネル領域全体を露出する開口を有することができる。
幾つかの実施形態では、各センサ行は、高解像度周囲光センサチャネルのグループに空間的に登録されたLIDARセンサチャネルを更に含む。LIDARセンサチャネルは、第1解像度を有する深度画像を提供することができ、一方、高解像度周囲光センサチャネルは、行単位の方向及び/またはセンサ行に直角な方向において、第1解像度よりも高い第2解像度を有する強度画像を提供する。
幾つかの実施形態は、センサアレイ、算術論理回路、及びコントローラを含むスキャン撮像システムに関する。センサアレイは、ある範囲の波長に敏感な2つ以上の高解像度周囲光センサチャネルのグループを含むことができ、その各々は、チャネル別入力開口であって、グループ内の異なる高解像度周囲光センサチャネルのチャネル別入力開口は、チャネル領域の異なる部分を露出する、チャネル別入力開口と、光センサと、2つ以上の時間ビンに細分化された時間間隔中に光センサからの光子カウントを累積するための2つ以上のレジスタであって、レジスタの各々は、時間ビンのうちの異なる1つの間に光子カウントを累積する、2つ以上のレジスタと、を含むことができる。算術論理回路は、グループ内の高解像度周囲光センサチャネルのすべての複数のレジスタに累積された光子カウントに基づいて、複数のサブピクセル光強度値を計算することができる。コントローラは、センサアレイを、視野内の異なる領域に異なる時間に露出するスキャン操作を実行して、2つ以上の高解像度周囲光センサチャネルのグループ内の各周囲光センサチャネルが、異なる時間に視野内の同じピクセル領域に露出されるように構成することができる。
幾つかの実施形態では、グループ内の各高解像度周囲光センサチャネルは、特定の特性を有する光を選択的に通過させる光学フィルタを含むことができ、特定の特性は、グループ内のあらゆる高解像度周囲光センサチャネルに対して同じである。
幾つかの実施形態では、スキャン撮像システムはまた、高解像度周囲光センサチャネルのグループに空間的に登録されたLIDARセンサチャネルを含むことができる。LIDARセンサチャネルは、第1解像度を有する深度画像を提供することができ、一方、高解像度周囲光センサチャネルは、一次元または二次元において、第1解像度よりも高い第2解像度を有する強度画像を提供する。
グループ内の異なる高解像度周囲光センサチャネルの開口によって露出されたチャネル領域の異なる部分は、チャネル領域の重なる部分及び/または重ならない部分を含むことができる。例えば、2つ以上の高解像度周囲光センサチャネルのグループは、4つの周囲光センサチャネルを含むことができ、2つ以上のレジスタは、4つのレジスタを含むことができ、算術論理回路は、16個のサブピクセル光強度値を計算することができる。例えば、高解像度周囲光センサチャネルのうちの第1のもののチャネル別入力開口は、チャネル領域の4分の1を露出し、高解像度周囲光センサチャネルのうちの第2、第3、及び第4のもののそれぞれのチャネル別入力開口は、各々、チャネル領域の4分の1の異なる部分を露出し、16個のサブピクセル光強度値は、チャネル領域に対応する4×4のグリッドの異なる部分を露出する。
幾つかの実施形態は、複数のセンサ行を有するセンサアレイに関する。各センサ行は、少なくとも2つの周囲光センサチャネルのセットを含むことができ、セット内の各周囲光センサチャネルは、チャネル入力開口、光センサ、及びチャネル別特性を有する光を光センサに選択的に通過させるチャネル別光学フィルタを含むことができる。各センサ行内の少なくとも2つの周囲光センサチャネルのセットは、光のチャネル別特性が重なる、それぞれのチャネル別光学フィルタを有する少なくとも2つの重なる周囲光センサチャネルを含むことができる。センサアレイはまた、3つ以上の周囲光センサチャネルからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードし得る算術論理回路を含むことができる。
幾つかの実施形態では、チャネル別特性は、光の波長範囲を含む。少なくとも2つの重なる周囲光センサチャネルのセットは、第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、第3波長範囲を有する光を選択的に通過させる第3チャネル別光学フィルタを有する第3色チャネルと、を含み、第1波長範囲及び第2波長範囲は、部分的に重複しており、第3波長範囲は、第1波長範囲及び第2波長範囲の両方を包含する。例えば、第3波長帯域は、可視光スペクトルに対応することができる。
幾つかの実施形態では、チャネル別特性は、光の偏光特性などの異なる特性であり得る。
幾つかの実施形態では、各センサ行は、LIDARセンサチャネルを更に含み、LIDARセンサチャネルから決定された深度データは、周囲光センサチャネルから決定された強度データに本質的に登録され得る。
幾つかの実施形態は、センサアレイ、コントローラ、及び算術論理回路を含む撮像システムに関する。センサアレイは、複数のセンサ行を有することができる。各センサ行は、少なくとも2つの周囲光センサチャネルのセットを含むことができ、各周囲光センサチャネルは、チャネル入力開口、光センサ、及びチャネル別特性を有する光を光センサに選択的に通過させるチャネル別光学フィルタを含む。各センサ行内の少なくとも2つの周囲光センサチャネルのセットは、光のチャネル別特性が重なる、それぞれのチャネル別光学フィルタを有する少なくとも2つの重なる周囲光センサチャネルを含むことができる。コントローラは、3つ以上の周囲光センサチャネルの各々が、視野の同じ部分からの光に露出されるように、センサアレイを動作させることができる。算術論理回路は、少なくとも2つの重なる周囲光センサチャネルからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードすることができる。
幾つかの実施形態は、マルチスペクトルセンサチャネルを含む複数のセンサチャネルを含むセンサアレイに関する。各マルチスペクトルセンサチャネルは、チャネル入力開口、少なくとも3つの光センサ、及び少なくとも3つの異なる部分を有するパターン化された光学フィルタであって、パターン化された光学フィルタの異なる部分は、異なる特性を有する光を、少なくとも3つの光センサの異なるサブセットに選択的に通過させる、パターン化された光学フィルタを有することができる。パターン化された光学フィルタの異なる部分は、少なくとも3つの光センサの第1サブセットに光を通過させる少なくとも第1部分と、少なくとも3つの光センサの第2サブセットに光を通過させる第2部分と、を含むことができ、第1部分及び第2部分によって通過する光のそれぞれの特性は、重なる。算術論理回路は、光センサの第1サブセット及び第2サブセットからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードすることができる。他の実施形態と同様に、特性は、波長範囲及び/または偏光特性を含むことができる。
幾つかの実施形態では、センサチャネルは、各LIDARセンサチャネルが、マルチスペクトルセンサチャネルのうちの異なるものとセンサ行を形成するように配設された複数のLIDARセンサチャネルを含むことができ、LIDARセンサチャネルから決定された深度データは、周囲光センサチャネルから決定された強度データに本質的に登録され得る。
幾つかの実施形態では、各マルチスペクトルセンサチャネルは、LIDAR光センサを含むことができ、パターン化された光学フィルタは、LIDARエミッタに対応する波長を有する光を、LIDAR光センサに選択的に通過させる第4部分を含むことができる。
以下の詳細な説明は、特許請求された発明の性質及び利点のより良い理解を提供するであろう。
本明細書に記載の1または複数の実施形態による、センサアレイに含めることができる単一のマイクロ光学センサチャネルの簡略断面図を示す。 本明細書に記載の1または複数の実施形態による、センサアレイに含めることができる単一のマイクロ光学センサチャネルの簡略断面図を示す。
本明細書に記載の1または複数の実施形態による、センサアレイの簡略正面図を示す。
図2のセンサアレイのセンサ行の簡略側断面図を示す。
1または複数の実施形態による、別のセンサアレイの簡略上面図を示す。
1または複数の実施形態による、別のセンサアレイの簡略上面図を示す。
1または複数の実施形態による、別のセンサアレイの簡略上面図を示す。
図6のセンサアレイに含めることができるマルチスペクトルセンサチャネルの簡略上面図を示す。
図6のセンサアレイの一部分の概略側面図を示す。
本発明の実施形態による、センサアレイの一部分の簡略側断面図を示す。
図9のセンサアレイの簡略上面図を示す。
幾つかの実施形態において、周囲光強度測定値を提供するために使用することができる3つのフィルタの重ならない通過帯域の例を示す。
幾つかの実施形態において、エンコードされたスペクトル情報を用いて周囲光強度測定値を提供するために使用することができる3つのフィルタの重なる通過帯域の例を示す。
幾つかの実施形態による、センサアレイの簡略正面図を示す。
幾つかの実施形態による、パターン化された光学フィルタを有するマルチスペクトルセンサチャネルの例を示す。 幾つかの実施形態による、パターン化された光学フィルタを有するマルチスペクトルセンサチャネルの例を示す。
図2のセンサアレイを組み込むことができる光測距/撮像デバイスの簡略側面図を示す。
1または複数の実施形態による、チャネル別補償マイクロ光学素子を備えるセンサアレイの一部分の簡略断面図である。
1または複数の実施形態による、チャネル別補償マイクロ光学素子を備えるセンサアレイの一部分の簡略断面図である。
1または複数の実施形態による、チャネル別補償マイクロ光学素子を備えるセンサアレイの一部分の簡略断面図である。
1または複数の実施形態による、アクロマティックバルク光学モジュールを備えるセンサアレイの一部分の簡略断面図である。
1または複数の実施形態による、アクロマティックバルク光学モジュールを備える別のセンサアレイの一部分の簡略断面図である。
1または複数の実施形態による、バルク光学モジュールの焦点距離を補正するためのチャネルごとのマイクロ光学素子を備えるセンサモジュールの例を示す。
1または複数の実施形態による、チャネル別マイクロ光学素子を備える受信モジュールの別の例を示す。
1または複数の実施形態による、チャネル別マイクロ光学素子を備える送信モジュールの例を示す。
センサアレイを使用したスキャンシステムにおけるポインティングエラーの可能性を示す簡略概念図である。 センサアレイを使用したスキャンシステムにおけるポインティングエラーの可能性を示す簡略概念図である。
1または複数の実施形態による、バルク光学モジュールの焦点距離歪み特性を示す簡略光学図である。
スキャンシステムの幾つかの実施形態において定量化及び制約することができるピクセル内ポインティングエラーの例を示す。
1または複数の実施形態による、バルク光学モジュール内のバレル歪み及びピンクッション歪みを補償するためのセンサチャネル位置付けの例を示す。 1または複数の実施形態による、バルク光学モジュール内のバレル歪み及びピンクッション歪みを補償するためのセンサチャネル位置付けの例を示す。
本発明の一実施形態による、センサアレイを使用したラスタースキャンの一例を示す。
ピンクッション歪みを示すバルク光学素子を備えるアレイを使用するラスタースキャンの結果として生じ得る不均一なサンプリングパターンを示す。
1または複数の実施形態による、回転撮像/LIDARシステムの例を示し、図31Aは、簡略上面図であり、図31Bは、簡略側面図である。 1または複数の実施形態による、回転撮像/LIDARシステムの例を示し、図31Aは、簡略上面図であり、図31Bは、簡略側面図である。
1または複数の実施形態による、回転撮像/LIDARシステムのブロック図を例解する。
1または複数の実施形態による、センサアレイを使用するハイパースペクトル撮像動作の例を例解する。 1または複数の実施形態による、センサアレイを使用するハイパースペクトル撮像動作の例を例解する。
幾つかの実施形態による、センサアレイの簡略正面図を示す。
幾つかの実施形態による、空間的にエンコードされたサブピクセル開口を備える4つの周囲光センサチャネルのセットを示す。
幾つかの実施形態による、複数の積算レジスタを備える読み出しデータパスの簡略概略図を示す。
幾つかの実施形態による、複数の積算レジスタを使用する周囲光測定を例解する。
幾つかの実施形態による、空間的にエンコードされたサブピクセル開口を提供する周囲光センサチャネルのセットを示す。
図38Aの周囲光センサチャネルを使用する時間的細分化の効果を示す。
1または複数の実施形態による、静的撮像/LIDARシステムの例を示す。
1または複数の実施形態による、静的撮像/LIDARシステムの例示的な自動車用途を示す。
1または複数の実施形態による、静的撮像/LIDARシステムの別の例示的な自動車用途を示す。
1または複数の実施形態による、拡大された視野を備える静止撮像/LIDARシステムの例を示す。
1または複数の実施形態による、静的撮像/LIDARシステムのブロック図を例解する。
1または複数の実施形態による、マルチスペクトル測距/撮像センサアレイを使用して取得することができるハイパースペクトル画像の例を示す。
そこに含まれる材料を特定するために注釈が付けられた画像の例を示す。
1.マルチスペクトルセンサアレイ
本明細書で使用される場合、マルチスペクトルセンサアレイは、センサのアレイを指し、その各々は、異なる波長で視野の一部分(ピクセル)を撮像するように構成される。同じピクセルを撮像する異なるセンサからのデータを組み合わせて、画像にマルチスペクトルピクセルを提供することができる。次に、マルチスペクトルセンサアレイの例について説明する。これらの例は、マルチスペクトルセンサアレイの構築に関連する様々な原理及び概念を例解し、具体化する。マルチスペクトルセンサアレイの他の多くの実装が可能であり、提供される例は、限定することを意図しないことが明らかになるであろう。
1.1.センサチャネルの例
本明細書に記載のマルチスペクトルセンサアレイの例には、特定用途向け集積回路(ASIC)などのモノリシック半導体デバイス上に形成または配置されたセンサチャネルから構築されたアレイが含まれる。図1Aは、マルチスペクトルセンサアレイの幾つかの実施形態で使用することができる単一のマイクロ光学センサチャネル100の断面を示す。センサチャネル100は、広範囲の波長を潜在的に含む光の入力円錐を受け入れ、波長の選択されたサブセット(特定のチャネルに応じて選択されたサブセットを含む)を除くすべてをフィルタで除去し、光センサ152(時には、「ピクセル」と呼ばれる)は、波長の選択されたサブセット内の光子のみまたは実質的にそれのみを検出することを可能にする。本発明の実施形態は、センサチャネルの特定の構成に限定されず、センサチャネル100は、センサアレイ200に実装することができるセンサチャネルの一例にすぎない。
幾つかの実施形態では、センサチャネル100は、光学的に透明な開口112及び光学的に非透明な絞り領域114を含む入力開口層110を含む。本明細書で使用される場合、「光学的に透明」という用語は、ほとんどまたはすべての入射光を通過させる材料を指す。本明細書で使用される場合、「光学的に非透明」という用語は、光をほとんどまたはまったく通過させない材料、例えば、反射または吸収表面を指す。開口112は、撮像光学素子の焦点面に配置されたときに狭い視野を画定するように成形及びサイズ設定されており、その例を以下に説明する。開口層110は、入力周辺光線120によって示されるように、入力光円錐を受信するように構成される。マルチスペクトルセンサアレイにおいて、その例が以下に説明されるが、開口層110は、光学的に透明な基板などの単一のモノリシックピース上に構築された光学的に透明な開口及び光学的に非透明な絞り領域のアレイを含んでもよい。幾つかの実施形態では、開口層110は、絞り領域114を形成する光学的に非透明な材料から形成することができ、開口112は、層110の穴または開口部であり得る。
幾つかの実施形態では、センサチャネル100は、焦点距離によって特徴付けられるコリメートレンズ132を含む光学レンズ層130を含む。コリメートレンズ132は、焦点距離によって開口112及び絞り領域114の平面からオフセットされ、かつ開口112と軸方向に位置整合され得る(すなわち、コリメートレンズの光軸は、開口の中心と位置整合する)。このようにして、コリメートレンズ132は、光線がコリメートレンズ132の光軸とほぼ平行に進行するように、開口112を通過した光線をコリメートするように構成され得る。光学レンズ層130は、任意で、センサアレイ内の近くのセンサチャネル100間のクロストークを低減するために、開口、光学的に不透明な領域、及び管構造を含み得る。
幾つかの実施形態では、センサチャネル100は、光学フィルタ142を含む光学フィルタ層140を含む。幾つかの実施形態では、光学フィルタ層140は、光学レンズ層130の検出器側(開口側の反対側)に配置される。光学フィルタ層140は、特定の動作波長及び通過帯域で通常入射する光子を通過させるように構成することができる。光学フィルタ層140は、任意の数の光学フィルタ142を含むことができる。センサチャネル100の特定のインスタンスにおける光学フィルタ(複数可)は、例えば、以下に説明するように、センサチャネル100のその特定のインスタンスの使用目的に基づいて選択することができる。光学フィルタ層140は、クロストークを低減するために、開口、光学的に不透明な領域、及び管構造を任意で含むことができる。
幾つかの実施形態では、センサチャネル100は、光学フィルタ層140の後ろに配設された1または複数の個別の光センサ152を含む光センサ層150を含む。各光センサ152は、例えば、1または複数の標準フォトダイオード、アバランシェフォトダイオード(APD)、シングルフォトンアバランシェダイオード(SPAD)、RCP(共振空洞フォトダイオード)、光学ナノアンテナ、マイクロボロメータ、またはその他の好適な光検出器からなる検出器活性領域を備える光子を検出することができる光センサであり得る。光センサ152は、単一の大きなフォトン検出領域と比較して、しばしばより高いダイナミックレンジ、より速い応答時間、または他の有益な特性を有し、単一のセンサとして機能するように協調し合う幾つかの光子検出器領域(例えば、各々異なるSPAD)で構成され得る。任意の数のセンサチャネルのための光センサ152に加えて、光センサ層150は、検出効率を改善し、隣接するセンサチャネルとのクロストークを低減するための任意の構造を含むことができる。光センサ層150は、任意で、拡散器、収束レンズ、開口、光学的に非透明な管スペーサ構造、光学的に非透明な円錐スペーサ構造などを含んでもよい。
迷光は、光学表面の粗さ、透明媒体の欠陥、後方反射などによって引き起こされる可能性があり、センサチャネル100内またはセンサチャネル100の外部の多くの特徴で生成される可能性がある。迷光は、コリメートレンズ132の光軸に非平行な経路に沿って光学フィルタ層140を通るように向けられ、開口層110とコリメートレンズ132との間で反射し、一般的には、多くの反射及び屈折を含む可能性のある他の経路または軌跡を取る。複数のレシーバチャネルが互いに隣接して配列される場合、あるレシーバチャネル内の迷光は、別のチャネル内の光センサに吸収され、それにより、受信された光子に関するタイミング、位相、強度、または他の情報が汚染される可能性がある。したがって、センサチャネル100はまた、クロストークを低減し、レシーバチャネル間の信号を増大させるための構造を特徴としてもよい。このような構造及び他の好適なレシーバチャネルの例は、2018年5月14日に出願された「Micro-optics for Imaging Module with Multiple Converging Lenses per Channel」と題する米国特許出願第15/979,295号に説明されており、その開示は、あらゆる目的でその全体が参照により本明細書に組み込まれる。
センサチャネル100のコンポーネント及び配置は、必要に応じて変更することができる。例示として、図1Bは、マルチスペクトルセンサアレイの幾つかの実施形態で使用することができる単一のマイクロ光学センサチャネル100’の断面を示す。マイクロ光学センサチャネル100’は、一般に、図1Aのマイクロ光学センサチャネル100と同様であり、部品には、対応する番号が付けられている。この例では、レンズ素子132’は、図1Aに示されるレンズ132とは異なる構成を有し、平面が開口に配向され、凸面が光学フィルタ層140に配向される。レンズ素子132と同様に、レンズ素子132’は、周辺光線120によって示されるように、入射光をコリメートし、コリメートされた光を光学フィルタ層140に向ける。他の変更も可能であることを理解されたい。例えば、光学レンズ層130は、レンズ素子に加えて、またはレンズ素子の代わりに光ガイドを含み得、光学フィルタは、光学レンズ層130の開口側に配置され得る、など。別の例として、センサチャネルは、任意のマイクロ光学素子を含む必要があり、光学フィルタが配設された光センサ(または光センサのグループ)と同じくらい単純であり得る。場合によっては、光学フィルタは、光センサの金属層内に製造され得る(例えば、以下に説明される偏光チャネルの場合)。代替センサチャネル構成の追加の例を以下に示す。同じセンサアレイ内の異なるセンサチャネルが、異なる構成を有することができることも理解されたい。
1.2.例示的なマルチスペクトルセンサアレイ
幾つかの実施形態では、マルチスペクトルセンサアレイは、共通の基板上に製造された位置整合されたセンサチャネルのグループを組み込む。異なる波長または波長範囲に調節されたセンサチャネル(本明細書では「センサタイプ」とも呼ばれる)は、基板上の異なる場所に配置することができ、場所は、視野の所与の部分が、同時にまたは異なる時間に、異なるセンサチャネルによって見ることができるように選択される。多くの特定の配置が可能であり、次に例を説明する。
1.2.1.列ベースのマルチスペクトルセンサアレイ
図2は、本発明の実施形態による、センサアレイ200の簡略正面図を示す。センサアレイ200は、幾つかのLIDARセンサチャネル202を含むことができ、この例は、16個のLIDARセンサチャネル202を示しているが、任意の数のLIDARセンサチャネル202を含めることができる。この例では、LIDARセンサチャネル202は、千鳥状に配置されているが、しかしながら、これは必須ではなく、幾つかの実施形態では、LIDARセンサチャネル202は、単一の列に配置することができる(この例では、列は、図2の左側に示されるz軸に平行に走る)。
この例では、各LIDARセンサ202は、センサアレイ200の「行」204に関連付けられる。(ここでの「行」という用語は、素子の線形またはほぼ線形の配置を示すために使用され、図2の行は、破線で示される。)LIDARセンサ202に加えて、センサアレイ200の各行は、1または複数の周囲光センサチャネル206を含む。この例では、周囲光センサチャネル206Rは、赤色光を検出し、周囲光センサチャネル206Gは、緑色光を検出し、周囲光センサチャネル206Bは、青色光を検出するが、しかしながら、周囲光センサチャネルの任意の数及び組み合わせを使用することができる。追加の例を以下に説明する。各行は、マルチスペクトルピクセルを生成するためのセンサの完全なセットを含むことができ、センサアレイ200などのセンサアレイは、本明細書では「行ベース」または「1D」センサアレイと呼ばれる。
図3は、図2のセンサアレイ200の行204の簡略側断面図を示す。センサアレイ200の各センサチャネル206R/G/B、202は、上記のセンサチャネル100の別個のインスタンスとして実装することができる。幾つかの実施形態では、異なるセンサチャネル206R/G/B、202は、異なる光学フィルタを有する点で異なる。例えば、LIDARセンサチャネル202の光学フィルタ342Lは、例えば、狭い通過帯域を備えるLIDAR信号波長で光を通過させるためのブラッグ反射器タイプのフィルタなどを含むことができる。所与の周囲光センサチャネルの光学フィルタは、スペクトルの所与の領域内の光を通過させ、バンドパス領域外の光を遮断するバンドパスフィルタを含むことができる。例えば、赤色光センサチャネル206Rの場合、光学フィルタ342Rは、スペクトルの赤色領域の波長(例えば、約620nm~約750nmの波長)を有する光を通過させることができ、緑色光センサチャネル206Gの場合、光学フィルタ342Gは、緑色領域の波長(例えば、約495nm~約570nmの波長)を有する光を通過させることができ、青色光センサチャネル206Bの場合、光学フィルタ342Bは、青色領域の波長(例えば、約450nm~約495nmの波長)を有する光を通過させることができる。当業者は、所与の色の特定のバンドパスフィルタを必要に応じて選択することができ、異なる実施形態は、(適切な光学フィルタの適用によって)紫外線、近赤外線(NIR)、短波赤外線(SWIR)、中波赤外線(MWIR)、または長波赤外線(LWIR、つまり熱画像)などの非可視光波長を含む、任意の所望の範囲の光波長に「調節された」センサチャネルを含むことができ、所与のセンサアレイ内の異なるタイプのセンサチャネルに関連付けられた異なる波長範囲は、重なる場合と重複しない場合があることを理解するであろう。本明細書に記載の種類の光学系は、光学素子が、動作波長で機能するように選択され、光センサが、それらの同じ波長で電磁エネルギーを感知することができるという条件で、300nm~20μmに及ぶ波長範囲で動作することができる。この範囲のすべての波長に好適な材料及びセンサは、当技術分野で知られており、同じ光学原理(光線光学素子、屈折など)が適用される。他の周囲光センサチャネルは、光の他の特性を検出するように調節することができ、例を以下に説明する。
入力開口層310は、図1A(または図1B)の入力開口層110に対応することができ、単一の入力開口層310は、センサアレイ200の各センサチャネル206R/G/B、202に対して、開口312R/G/B、312Lが同じ平面内にあるように、これらの開口を提供することができる。幾つかの実施形態では、開口層310は、厚さdを有することができ、開口312R/G/B/Lは、開口層310の出口表面360において、出口開口幅が開口よりも広くなり得るように、例えば、それぞれのセンサチャネルと同じ幅(362R/G/B/Lで示されている)であるように、テーパー開口部で形成され得る。代替的に、テーパーの方向を逆にして、開口部が、入力側で最も広く、センサチャネルに向かって狭くなるようにすることもできる。開口は、各チャネルの周辺光線によって画定される光線円錐に従うことができ、それによって、チャネル光学素子332の開口数に一致するチャネルの開口数、及び光をセンサアレイ上に向けるバルク光学素子を画定する(その例は以下に説明される)。開口層310の特定の厚さ及び構造は、必要に応じて変化させることができる。
幾つかの実施形態では、チャネル別補償マイクロ光学素子370R、370G、及び370Bは、入力開口312R/G/Bの真正面に配置することができる。以下に説明するように、そのようなチャネル別マイクロ光学素子は、例えば、システムのバルク光学素子の色収差を補償することによって、改善された集光効率を提供することができる。
幾つかの実施形態では、センサアレイ200は、例えば、CMOS技術を使用して、単一の基板上にモノリシックデバイスの一部として製造することができる。モノリシックデバイスは、センサアレイ200内の個々の光センサ152(または光センサ152のグループ)からの生信号を処理するためのプロセッサ及びメモリ(図2~3には示されていない)と共に光センサ152のアレイを含むことができる。センサアレイ200、プロセッサ、及びメモリを含むモノリシックデバイスは、専用のASICとして製造され得る。幾つかの実施形態では、センサアレイ200は、3Dスタッキング技術を使用して製造され得、2つ以上のモノリシックデバイスを含むことができ、各々は、単一の基板上に製造され、それらの間を走る電気接続で積み重ねられる。上部のモノリシックデバイスは、光センサ152のアレイを含み、最適な光感知のために調節され得、一方、下にある基板は、プロセッサ及びメモリを含み、デジタル論理のために最適化され得る。幾つかの実施形態では、センサアレイ200は、複数のモノリシックデバイスに分割することができ、各々は、光の異なる波長(または複数の異なる波長)を感知するために最適化されるか、または深度感知対周囲光撮像のために最適化され、モノリシックデバイスは、並べて配置され、図3に示されるセンサアレイの異なるチャネルに関連付けられ得る。幾つかの実施形態では、センサアレイ200はまた、モノリシック構造の一部として、マイクロ光学コンポーネント(例えば、マイクロ光学素子332R/G/B/L及び/またはチャネル別補償マイクロ光学素子370R/G/B)を含むことができる。このような場合、マイクロ光学コンポーネントは、センサアレイ200を備える同じASIC上に形成されるか、または別個のウェーハ基板上に製造され、ウェーハレベルでセンサアレイASICに結合して、それらが、センサチャネルの各層の別個の基板層を備えるモノリシック構造の一部となるようにすることができる。例えば、補償マイクロ光学層、開口層、コリメートレンズ層、光学フィルタ層、及び光検出器層を積み重ねて、ダイシング前にウェーハレベルで複数のASICに接合することができる。開口層は、透明基板の上に非透明基板を置くか、透明基板に不透明フィルムをコーティングすることによって形成され得る。このような実施形態では、ダイシングステップにより複数のASICが形成され、各々は、各々に直接接合された独自のマイクロ光学素子構造を有する。別の例として、マイクロ光学素子コンポーネントは、ASICがダイシングプロセスによってより大きなウェーハから分離された後、ASICに直接接合され得る別個のモノリシック構造として形成され得る。このようにして、ASICとマイクロ光学素子構造とを互いに接合して、単一のモノリシック構造を形成することができる。更に他の実施形態では、センサアレイ200の1または複数のコンポーネントが、モノリシック構造の外側にあってもよい。例えば、開口層310は、ピンホールを備える別個の金属シートとして実装されてもよい。
上記の例では、3つの周囲光チャネル(それぞれ赤、緑、青の光に調節された)が提供される。これは説明を容易にするためのものであり、本発明の実施形態は、特定の数または周囲光チャネルの組み合わせに限定されない。幾つかの実施形態では、センサ行は、3つ未満の周囲光チャネルを有することができ、例えば、センサ行は、「白色光」を通過させる光学フィルタを備える(例えば、可視光スペクトル全体を含む)または光学フィルタを備えない(この場合、スペクトル選択性は、光センサの感度によって決定される)1つの周囲光チャネルを有することができる。他の実施形態では、センサ行は、3つを超える周囲光チャネルを有することができる。例解として、図4は、追加のマルチスペクトル撮像機能を提供するために各行に幾つかの周囲光チャネルを有する本発明の実施形態によるセンサアレイ400の簡略上面図を示す。繰り返すが、センサチャネルの数及び組み合わせは、例解のためのものである。
センサアレイ400は、64個のLIDARセンサチャネル402を含む。この例では、LIDARセンサチャネル402は、千鳥グリッドに配置されるが、この配置は、必須ではない。64個のLIDARセンサチャネルのうちの32個は、周囲光センサ406の関連付けられた行404を有するが、他の実施形態では、あらゆるLIDARセンサチャネル404は、周囲光センサ406の関連付けられた行を有することができる。この例では、各行の周囲光センサ406は、各々が異なるバンドパスフィルタによって画定された8つのスペクトル色チャネル410、2つのIR帯域色チャネル412、4つの偏光チャネル414、及び2つの超狭吸収帯チャネルを含む。各チャネルは、図1Aまたは1Bを参照して上記で説明したような内部構造を有することができ、センサアレイ400は、上記の技術または他の技術を使用して製造することができる。
スペクトル色チャネル410は、光学フィルタ142として適切なバンドパスフィルタを使用することによって作成することができる。赤色、緑色、及び青色のチャネルに加えて、この例のスペクトル色チャネル410は、オレンジ、イエロー、シアン、インディゴ、及びバイオレットに対応する波長範囲に調節されたチャネルを含む。スペクトルチャネルの他の例には、赤外線、紫外線、及び/または白色(例えば、広域スペクトル)チャネル、ならびに可視光線、赤外線、または紫外線スペクトルの任意の部分に調節されたチャネルが含まれ得る。幾つかの実施形態では、各スペクトル色チャネル410は、補償チャネル別マイクロ光学素子(図3のマイクロ光学素子370R/G/Bと同様)を有し得、その光学特性は、少なくとも部分的に、チャネルが調節されている波長範囲に基づいており、チャネル別マイクロ光学素子の例を以下に説明する。
IR帯域色チャネル412は、スペクトルの赤外線部分に調節されたバンドパスフィルタを備える追加のスペクトル色チャネルであり得る。幾つかの実施形態では、迷LIDAR放射が周囲IRと混同されないように、LIDAR動作周波数を回避することが望ましい場合がある。幾つかの実施形態では、各IR帯域色チャネル412は、チャネル別補償マイクロ光学素子を有し得、その光学特性は、チャネルが調節される波長範囲に少なくとも部分的に基づく。
偏光チャネル414は、光学バンドパスフィルタ142の代わりに、またはそれに加えて、回折格子などの光学偏光フィルタを使用することによって作成することができる。グループの各チャネル414内の偏光フィルタは、異なるチャネルの偏光フィルタを異なる角度に配向することにより、直線偏光に対して異なる角度に調節することができる。一実施形態では、4つの偏光チャネル414は、0度、90度、45度、及び135度のそれぞれの配向を有する。偏光フィルタはまた、円形及び/またはスパイラル偏光などの他の形態の偏光に調節することもできる。偏光フィルタは、バンドパスフィルタと同様の方法で、マイクロ光学センサチャネル200の異なる表面に適用することができ、またはそれらは、光センサ(複数可)152の金属層内に直接、金属格子として製造することができる。幾つかの実施形態では、各偏光チャネル414は、チャネル別補償マイクロ光学素子を有し得る。幾つかの場合、例えば、偏光チャネル414が特定の波長帯域に制限されない場合では、補償マイクロ光学素子は、省略されてもよく、または帯域内の中心波長に調節されてもよい。
吸収帯チャネル416は各々、対象となる特定の物質の特徴である吸収帯に対応する狭帯域光学フィルタによって画定することができる。この場合、吸収帯チャネルに信号がないことは、その帯域の光を吸収する物質の存在を示すものとして解釈することができる(例えば、他のスペクトル色チャネルからの情報と組み合わせて)。例えば、幾つかの用途では、葉(例えば、樹木、草、他の植物)を他のカテゴリの物体(例えば、車、建物)から区別することが有用な場合がある。一般に、葉に関連付けられているクロロフィルは、IRスペクトルに複数の狭い吸収帯を有しており、吸収帯チャネルは、これらの帯域の一部またはすべてに調節することができる。別の例として、多くのガスは、短波、中波、及び長波のIR領域に吸収帯を有しており、吸収帯チャネルをこれらの帯域に調節して、ガス状の大気汚染物質を特定することができる。システムはまた、物体までの距離も提供するため、ガス吸収検出の場合、この距離情報を使用して、吸収測定が行われた大気中の距離を計算することができ、これは、検出の信頼レベル及び/または汚染物質の濃度を決定することに役立つ。他のチャネルと同様に、幾つかの実施形態では、各吸収帯チャネル416は、チャネル別補償マイクロ光学素子を有し得、その光学特性は、チャネルが調節される帯域に少なくとも部分的に基づく。
周囲光センサチャネルのこれらの例は、例解であり、変更することができる。センサまたはセンサチャネルに適用される修飾子である周囲光は、一般に、チャネルが調節される特徴(複数可)(例えば、波長範囲及び/または偏光)を有する入射光の量(強度)を測定するように動作するセンサを指すと理解されるべきである。周囲光センサチャネルは、視野の意図的な照明に依存しないが(意図的に放出された光を検出するように設計されるLIDARセンサチャネルとは対照的に)、しかしながら、意図的な照明(自動車のヘッドライトまたはカメラフラッシュの使用など)は排除されない。
センサアレイの行には、LIDARセンサチャネル(またはそれぞれが異なる波長で動作する複数のLIDARセンサチャネル)に加えて、任意の所望の色または色の範囲に調節された1または複数の可視光センサチャネル、1または複数の偏光センサチャネル、1または複数の赤外線センサチャネル、1または複数の紫外線センサチャネル、1または複数の吸収帯センサチャネルなどを含む任意の数及び組み合わせの周囲光センサチャネルを含めることができる。別の例として、所与の行内の周囲光センサチャネルは、同じ波長範囲に調節されるが異なる減衰フィルタを備える2つ以上のセンサチャネルを含み得、画像においてより高いダイナミックレンジを可能にする。
更に、センサアレイ内のあらゆるLIDARセンサチャネルが、関連付けられた周囲光センサチャネルの行を有すること、または周囲光センサチャネルのあらゆる行が、関連付けられたLIDARセンサチャネルを有することは、必要ではない。以下に説明するように、LIDARセンサチャネル及び周囲光センサチャネルのセットを単一の行に配置すると、スキャン動作中に様々な波長で撮像された画像と深度データとの間の登録が容易になるが、異なるセンサチャネル間のオフセットが固定されており、既知である限り、補間を使用して、マルチスペクトル画像ピクセルを生成することができる。
1.2.2.マルチスペクトルセンサチャネルを備えるセンサアレイ
上記の実施形態では、マルチスペクトルピクセルの各センサタイプは、別個のセンサチャネルとして提供される。単一のセンサチャネルで複数のセンサタイプを組み合わせることも可能である。例えば、LIDARセンサチャネルは、複数のSPADを光センサとして使用し得、深度測定値は、所与の時間間隔でトリガーされるSPADの数に基づく。周囲光チャネルは、半導体デバイスのより小さな領域を占める単一のSPADまたは標準フォトダイオードを使用し得る。したがって、幾つかの実施形態は、センサのある行に1または複数の「マルチスペクトル」センサチャネルを含み得る。
図5は、本発明の実施形態による、マルチスペクトルセンサチャネルを組み込んだセンサアレイ500の簡略上面図を示す。センサアレイ500は、64個のLIDARセンサチャネル502を含む。この例では、LIDARセンサチャネル502は、千鳥グリッドに配置されるが、この配置は、必須ではない。64個のLIDARセンサチャネルのうちの32個は、関連付けられたマルチスペクトルセンサチャネル506を有するが、他の実施形態では、あらゆるLIDARセンサチャネル504は、関連付けられたマルチスペクトルセンサチャネル506を有することができる。この例では、挿入図510に見られるように、マルチスペクトルセンサチャネル506は、赤色センサ512、緑色センサ514、青色センサ516、偏光センサ518、520、522、及びIR帯域色チャネル524を組み込むことができる。
幾つかの実施形態では、各マルチスペクトルセンサチャネル506は、図1Aまたは1Bを参照して上記で説明したように、センサチャネルの単一のインスタンスとして実装することができる。光センサ層150は、検出される光の各タイプに対して異なる光センサ152を含むことができる。この文脈において、各光センサ152は、例えば、増幅器を備える標準的なフォトダイオードであり得、容量電荷バケットに結合され、アナログ-デジタルコンバータ(ADC)を使用して読み取られることができる。代替的に、各光センサ152は、アナログフロントエンド及び光子をカウントするための積算レジスタを備える1または複数のSPADであり得る。1または複数のパターン化された光学フィルタを光学フィルタ層140で使用して、所望の特性を有する光を特定の光センサ152に向けることができる。各光センサ152は、(適切な電子機器を使用して)別々に読み出すことができ、それによって複数の出力を提供する。本明細書で使用される「マルチスペクトルセンサチャネル」という用語は、単一の光学チャネルが、そこに配設された異なる光センサに対して別個のデータ出力を提供し、その各々を(例えば、光学フィルタを介して)調節して、異なる特徴を有する光を検出することができる構成を指す。図に示すように、マルチスペクトルセンサチャネルを使用すると、所与のセンサタイプのセットによって消費される領域を減らすことができる。
マルチスペクトルセンサチャネルに含まれるセンサタイプの特定の数及び組み合わせは、示されているものとは異なる可能性があることを理解されたい。例えば、マルチスペクトルセンサチャネルは、可視、紫外線、赤外線、偏光、広帯域、及び/または狭帯域センサを含む、上記の周囲光センサタイプのいずれかまたはすべてを含むことができる。幾つかの実施形態では、センサアレイ500などのセンサアレイ内の行は、1または複数のLIDARセンサチャネル(異なる波長で動作する)に加えて、各々がセンサタイプの異なる組み合わせを組み込んだ任意の数のマルチスペクトルセンサチャネルを含むことができる。センサアレイ500などのセンサアレイ内の行はまた、1または複数のマルチスペクトルセンサチャネルと組み合わせて、1または複数の「シングルタイプ」周囲光センサチャネル(図4に示されるセンサチャネルのいずれかなど)を含むことができる。
1.2.3.ハイブリッドセンサチャネルを備えるセンサアレイ
図5のセンサアレイ500では、LIDAR(測距)センサチャネルは、(周囲光を測定する)マルチスペクトルセンサチャネルから離れている。他の実施形態では、センサアレイは、測距(例えば、LIDAR)センサと1または複数の周囲光センサの両方を組み込むチャネルを含むことができる。このようなチャネルは、本明細書では「ハイブリッドセンサチャネル」または「ハイブリッドセンサピクセル」と呼ばれる。
図6は、本発明の実施形態による、ハイブリッドセンサチャネルを組み込むセンサアレイ600の簡略上面図を示す。センサアレイ600は、直線グリッドに配置された128個のハイブリッドセンサチャネル602を含む。センサチャネルの数及び配置は、変化させることができることを理解されたい。
挿入図610に示されるように、各ハイブリッドセンサチャネル602は、LIDAR光センサ素子650のセット、及び特定の特性を有する光を検出するように調節された(例えば、光学フィルタを使用して)幾つかの周囲光光センサを含むことができる。この例では、周囲光光センサは、赤色センサ612、オレンジ色センサ614、イエロー色センサ616、緑色センサ618、紫外線色センサ620、シアン色センサ622、バイオレット色センサ624、青色センサ626、偏光センサ628、630、632、及びIR帯域色センサ634を含む。示される例では、LIDAR光センサ素子650は、ハイブリッドセンサチャネル602のチャネル領域内の中央領域を占め、一方、周囲光光センサは、中央領域を取り囲むチャネル領域の周辺領域に配置される。他の構成も可能である。
幾つかの実施形態では、マルチスペクトルセンサチャネル506と同様に、各ハイブリッドセンサチャネル602は、図1Aまたは1Bを参照して上記で説明したように、センサチャネルの単一のインスタンスとして実装することができる。光センサ層150は、検出される光の各タイプに対して異なる光センサ152(または光センサ152のグループ)を含むことができる。1または複数のパターン化された光学フィルタを光学フィルタ層140で使用して、所望の特性を有する光を特定の光センサ152(または光センサ152のグループ)上に向けることができる。各光センサ152(または光センサ152のグループ)は、適切な電子機器を使用して、別々に読み取ることができ、それによって複数の出力を提供する。
「ハイブリッドセンサチャネル」は、放出光/反射光の飛行時間を決定するために構成された光センサ及び関連付けられた読み出し回路、ならびに光強度を測定するために構成された他の光センサ及び関連付けられた読み出し回路を含むマルチスペクトルセンサチャネルの特殊なケースとして理解することができる。図7は、ハイブリッドセンサチャネル602の簡略概略図を示し、関連付けられた読み出し回路を示す。この例では、各周囲光光センサ612~634は、容量電荷バケット712~734に結合された増幅器を備える標準的なフォトダイオードを使用して実装される。容量電荷バケット712~734は、各々、マルチチャネルカウンタ回路750に接続されており、これは、各周囲光光センサ612~634によって(例えば、シャッター間隔中に)検出された光子の数を決定することができる。
この例のLIDAR光センサ素子650は、タイミング回路760に接続されたSPADを使用して実装することができ、これは、光子の到着の時間を計り、時間の経過共もに光子のメモリバンクに到着時間を格納することができ、それによって深度測定を可能にする。
上述のように、各ハイブリッドセンサチャネル602は、図1Aのセンサチャネル100(または図1Bのセンサチャネル100’)の単一のインスタンスとして実装することができる。図8は、チャネル構造を示すセンサアレイ600の一部分の簡略概略側面図である。各ハイブリッドセンサチャネル602は、開口812(開口層810内)、光学層830、フィルタ層840、及び光センサ層850(例示を明確にするために斜視図で示されている)を有する。フィルタ層840は、パターン化されたフィルタ842(例示を明確にするために斜視図で示される)を含むことができ、これは、フィルタウェーハ上に位置するか、または適切な光センサ素子の上に光センサASIC上に直接堆積させることができる。
動作中、光860は、開口812に向けられ、矢印862によって示されるように、チャネル602を通って伝播する。パターン化されたフィルタ842は、光センサ層850内の個々の光センサ852上に所望の特性を有する光を向ける。上で説明したように、適切な読み出し電子機器を使用して、LIDAR光センサから到着時間情報、ならびに色、偏光、及び/または他の周囲光光センサの累積光子カウントを抽出することができる。
ハイブリッドセンサチャネルに含まれるセンサタイプの特定の数及び組み合わせは、示されているものとは異なる可能性があることを理解されたい。例えば、ハイブリッドセンサチャネルには、LIDARセンサに加えて、可視、紫外、赤外線、偏光、広帯域、及び/または狭帯域センサを含む、上記の周囲光センサタイプのいずれかまたはすべてを含めることができる。更に、センサアレイ600は、同一のセンサチャネル602の2Dアレイとして示されるが、これは必須ではない。ハイブリッドセンサチャネルは、1Dアレイに、または図4のセンサアレイ400または図5のセンサアレイ500と同様に他のセンサタイプとある行に含まれ得る。センサチャネルの配置及び構成は、必要に応じて変化させることができる。
1.2.4.二重平面マルチスペクトルセンサアレイ
上記の実施形態では、様々なチャネルタイプの光センサが1つの平面に配置されると想定される。他の実施形態では、異なる光センサは、異なる平面にあり得る。
例として、図9は、センサアレイ900の別の実施形態の一部分の簡略側断面図を示す。センサアレイ900は、1または複数のLIDARチャネル902を含み、その各々は、図1Aのセンサチャネル100(または図1Bのセンサチャネル100’)の別個のインスタンスであり得る。LIDARチャネル902は、ASIC904上に製造され、これは、各LIDARチャネル902の1または複数の光センサ906を含む。開口層910は、LIDARチャネル902の上にあり、その中に、光を各LIDARチャネル902に向けるために形成された開口912を有する。これらの点では、センサアレイ900は、上記の他の実施形態と同様であり得る。
この例では、開口層910は、開口912を遮らない場所で、その上面の中またはその上面上に製造またはそうでなければ配設された光センサ916R、916G、916Bを有する第2ASICである。光センサ916R/G/Bは、開口912と同じ平面に位置し、これは、センサアレイのバルク撮像光学素子の焦点面であり得る。色フィルタ918R、918G、918Bは、その各々が、異なる波長帯域(この例では赤、緑、及び青)内の光を受け入れるバンドパスフィルタであり得、光センサ916R、916B、916Gの上に配置される。この配置は、周囲光センサチャネル920R、920G、920Bを提供する。開口層910は、ワイヤボンド922によって概略的に示されるように、ASIC904に位置する読み出し及び/または制御回路(例えば、プロセッサ及びメモリ)に電気的に接続され得る。(ワイヤボンディングは必須ではなく、ASIC間の電気的接続を確立するための他の技術に置き換えることができるか、または2つのASICを各々、別のデバイスに位置する読み出し及び制御回路に接続することができる。)
図10は、センサアレイ900の簡略上面図を示す。センサアレイ900は、マルチスペクトルピクセル1020の2Dアレイを提供する。センサアレイ900のサイズ及び次元は、必要に応じて変化させることができる。挿入図1010に示されるように、各マルチスペクトルピクセル1020は、LIDARセンサチャネル902及び1または複数の周囲光センサチャネル920を含むことができる。周囲光センサチャネル920は、(図9に示されるように)LIDARセンサチャネル902のための開口を覆い、提供するASICで製造され得る。上記の特定のチャネルタイプのいずれかを含む(例えば、赤外線、可視光、及び/または紫外線チャネルを含む色チャネル、偏光チャネル、狭帯域吸収チャネルなど)、周囲光センサチャネル920の任意の数及び組み合わせを提供することができる。
幾つかの実施形態では、開口層ASIC910は、LIDARセンサチャネル902をサポートする「ベース」ASIC904よりも著しく高い密度の光センサ(またはチャネル)920を有することができる。例えば、LIDARセンサチャネルは、100~400μmの間隔及び直径30μmの開口を有する。開口層ASIC910内のセンサチャネル(光センサまたはピクセル)は、著しく小さくすることができ(例えば、1~10μmのサイズ範囲で)、これは、各ハイブリッドピクセル1020が、多数の周囲光ピクセルを含むことができることを意味する。これにより、LIDARチャネルよりも高い周囲光撮像チャネルの解像度を有するマルチスペクトルピクセル及び/または複数のマルチスペクトルピクセルごとに、センサタイプの数を増やすことを可能にし得る。
開口層ASIC910を使用して得られたマルチスペクトル画像は、開口912またはLIDARチャネル902の場所に対応するギャップを含み得る。幾つかの実施形態では、補間を使用して、ギャップを埋めることができる。
1.2.5.エンコードされたスペクトル選択的な通過帯域を備えるマルチスペクトルピクセル
上記の例では、異なる周囲光センサチャネルは、異なる通過帯域を備える光学フィルタを含み得る。幾つかの実施形態では、異なる周囲光センサチャネルの通過帯域は、一般に重なっていないことがあり、したがって、異なる周囲光センサチャネルは、光スペクトルの異なる部分(赤外線、可視光、及び/または紫外線を含む)をサンプリングする。図11は、幾つかの実施形態、例えば、図2のマルチスペクトルセンサアレイにおいて、周囲光強度測定値を提供するために使用することができる3つのフィルタの重ならない通過帯域の例を示す。この例では、「青」(B)フィルタ1102は、約425nm~約515nmの通過帯域を有し、「緑」フィルタ(G)1104は、約515nm~約610nmの通過帯域を有し、「赤」(R)フィルタ1106は、約610nm~約700nmの通過帯域を有する。これらの範囲及び境界は、例示的なものであり、変化させることができることを理解されたい。幾つかの実施形態では、異なるフィルタの通過帯域は、いくらかの重複を有し得る。例えば、Bフィルタ1102は、約410nm~約510nmの通過帯域を有し得、一方、Gフィルタ1104は、約490nm~約620nmの通過帯域を有し、Rフィルタ1106は、約600nm~約700nmの通過帯域を有する。別の例として、Bフィルタ1102は、約410nm~約440nmの通過帯域を有し得、一方、Gフィルタ1104は、約490nm~約620nmの通過帯域を有し、Rフィルタ1106は、約600nm~約700nmの通過帯域を有する。他の変化も可能である。図11に示されるフィルタセットは、マルチスペクトルピクセルの「R」、「G」、及び「B」スペクトル強度測定値を提供することができる。(ここでは、R、G、及びBという名前は、赤、緑、及び青を示唆するものとして使用されるが、これらの名前を有するフィルタの通過帯域は、任意の特定の色に関連付けられた通過帯域に対応する必要はない。)
幾つかの実施形態では、異なる周囲光センサチャネルは、スペクトル情報をエンコードするために選択される重なる通過帯域を有し得る。図12は、幾つかの実施形態において、エンコードされたスペクトル情報を用いて周囲光強度測定値を提供するために使用することができる3つのフィルタの重なる通過帯域の例を示す。この例では、第1フィルタ1202は、ほぼ全可視光スペクトル(約425nm~約700nmの波長)を包含する「W」通過帯域を有する。第2フィルタ1204は、約425nm~約610nmの「Cb」通過帯域を有し、第3フィルタ1204は、約515nm~約700nmの「Cr」通過帯域を有する。図12に示される通過帯域を有する周囲光センサチャネルからの強度測定値を使用して、図11のフィルタセットからのスペクトル測定値に対応するR、G、及びBスペクトル情報を抽出することができる。例えば、フィルタ1202、1204、及び1206からの強度測定値がそれぞれW、Cb、及びCrとして示される場合、図11で特定されるR、G、及びB帯域における強度は、以下のように計算することができる。
R=W-Cb (1a)
B=W-Cr (1b)
G=W-(R+B)=Cb+Cr-W (1c)
これらの計算は、例えば、センサアレイと同じASIC上で製造することができる従来の設計の算術論理回路を使用して実施することができる。
このようにして、図11の重ならないフィルタセットまたは図12のスペクトルエンコードフィルタセットのいずれかが、同等のスペクトル情報を提供することができる。図12のエンコードスキームは、各チャネルがより多くの光を受け入れることを可能にし、それは、測定精度を向上し得る。
図12のフィルタセットは、様々なマルチスペクトルセンサアレイに組み込むことができる。図13は、幾つかの実施形態による、センサアレイ1300の簡略正面図を示す。センサアレイ1300は、図2のセンサアレイ200と同様であり得、LIDARセンサチャネル202(上記のように)を含み得、これらのチャネルの各々は、周囲光センサチャネル1306a(W通過帯域)、1306b(Cb通過帯域)、及び1306c(Cr通過帯域)を含む行1304に関連付けられ得、W、Cb、及びCr通過帯域は、図12に示すように画定される。所与の行1304の周囲光センサチャネル1306a、1306b、1306cからのセンサデータは、式(1a)~(1c)を実装してR、G、及びB出力信号を生成するオンチップ算術論理回路1310に提供することができる。センサ行1304はまた、例えば、図4を参照して上記で説明したように、他のタイプの周囲光センサチャネルを含むことができることを理解されたい。
スペクトルエンコードされた通過帯域は、マルチスペクトルセンサチャネルまたはハイブリッドセンサチャネルを有するセンサアレイに実装することもできる。図14Aは、幾つかの実施形態による、マルチスペクトルセンサチャネル1400の簡略正面図を示す。マルチスペクトルセンサチャネル1400は、W通過帯域(図12に示される)を有する領域1402、Cb通過帯域を有する領域1404、及びCr通過帯域を有する領域1406を含むパターン化された光学フィルタを有する。この例では、領域は正方形であるが、特定のフィルタジオメトリは、必須ではない。図5を参照して上記で説明したように、別個の光センサ(例えば、1または複数のSPAD)を各領域の後ろに配置することができる。図14Aは、各通過帯域に対して3つの領域を示すが、所与の通過帯域に対して任意の数の領域を提供することができることを理解されたい(各領域に対して別個の光センサが提供される限り)。
同じ通過帯域に関連付けられたすべての光センサは、同じ積算レジスタに周囲光強度測定値(例えば、光子カウントを表す電子信号の形式で)を提供することができる。したがって、例えば、レジスタ1412は、領域1402における光センサからの光子カウントを累積(または統合)することができ、レジスタ1414は、領域1404における光センサからの光子カウントを累積することができ、レジスタ1416は、領域1406における光センサからの光子カウントを累積することができる。レジスタ1412、1414、及び1416は、式(1a)~(1c)を実装して、R、G、及びB出力信号を生成するオンチップ算術論理回路1420への入力として累積光子カウントを提供することができる。マルチスペクトルセンサチャネル1400はまた、例えば、図5を参照して上記で説明したように、異なるタイプの光学フィルタを有する他の領域を含むことができることを理解されたい。更に、図14Aは、チャネル領域内の隣接領域を占める同じ通過帯域を有する光学フィルタを示すが、これは必須ではない。例えば、図14Bは、同じ通過帯域を有する領域1402、1404、1406がチャネル領域全体に分散され、測定精度を更に向上し得る代替のパターン化された光学フィルタ1400’を示す。図14Aのように、同じタイプの光学フィルタに関連付けられた異なる光センサからの強度測定値(例えば、光子カウント)は、同じ積算レジスタに累積(または統合)することができる。
スペクトルエンコードされた通過帯域及びそのようなフィルタを組み込む周囲光センサチャネルを備える光学フィルタの前述の例は、例示的であり、限定的ではない。スペクトルにエンコードされた通過帯域は、1Dアレイ、2Dアレイ、マルチスペクトルピクセルを備えるアレイ、ハイブリッドピクセルを備えるアレイを含む、上記のマルチスペクトルセンサアレイのいずれかに組み込むことができる。本明細書の例は、3つの通過帯域を使用して、3つの色チャネルをエンコードするが、重なる通過帯域を有する任意の数の異なる光学フィルタを使用して、所望の任意の粒度でスペクトル情報をエンコードすることができることが理解されよう。このエンコード技術は、光のスペクトル特徴に限定されない。例えば、同様の配置は、偏光フィルタを使用して(例えば、非偏光フィルタと組み合わせて)実装されて、所望の任意の粒度で偏光情報をエンコードすることができる。
上記のマルチスペクトルセンサアレイは、例示的なものであり、多くの変更及び修正が可能であることを理解されたい。所与のマルチスペクトルセンサアレイは、深度チャネル(例えば、LIDARセンサチャネルまたはハイブリッドセンサチャネル)、周囲光センサチャネル、マルチスペクトルセンサチャネル、及び/またはハイブリッドセンサチャネルの任意の組み合わせを含むことができ、これらは、上記の任意の技術または他の技術を使用して構築することができる。一例または実施形態を参照して説明されたコンポーネントは、他の実施形態で使用され得る。
2.マルチスペクトルセンサアレイのための光学素子
上記の様々なセンサアレイは、各チャネルに関連付けられた開口を通過する光に応答して動作する。幾つかの実施形態では、光を開口面上に向けて集束させるために、光学系が提供される。次に、マルチスペクトルセンサアレイ(例えば、センサアレイ200、400、500、600、及び/または900)に関連して使用することができる光学系及び光学素子の例を説明する。
本明細書で使用される場合、バルク光学素子(複数可)という用語は、焦点面を有し、アレイ内のすべてのマイクロ光学チャネルからまたはアレイ内のすべてのマイクロ光学チャネルに同時に光を送信する単一レンズ及び/またはレンズアセンブリを指す。幾つかの実施形態では、バルク光学素子は、市販のカメラレンズ及び顕微鏡レンズで使用されるものなど、ミリメートルまたはセンチメートルもしくはそれを超えるほどのサイズ(例えば、直径)を有し得る。本開示では、バルク光学素子という用語は、特定のセンサチャネルに対して提供される光学素子または光学素子のアレイを指すマイクロ光学素子という用語と対比される。幾つかの実施形態では、マイクロ光学素子は、単一のセンサチャネルのサイズに対応する個々の素子直径を有し得る(例えば、サイズが数マイクロメートル~数ミリメートルほどの、またはそれ未満)。一般に、マイクロ光学素子は、エミッタのアレイまたはセンサチャネルのアレイの、異なるエミッタ及び/または異なる検出器に対して光を異なる方法で変更することができる一方、バルク光学素子はアレイ全体の光を変更する。
2.1.バルク光学モジュール
マルチスペクトルセンサアレイ(上記のセンサアレイのいずれかなど)は、図15に示されるように、光測距/撮像デバイス1500に組み込むことができる。光測距/撮像デバイス1500は、光送信(Tx)モジュール1510及び光感知(Rx)モジュール1540を含み、それは、センサアレイ200(または上記の他の任意のセンサアレイ)の実装を含むことができる。光送信モジュール1510及び光感知モジュール1540の構成の追加的な例は、2018年5月14日に出願された「Optical Imaging Transmitter with Brightness Enhancement」と題する米国特許出願第15/979,235号、及び2018年5月14日に出願された「Spinning LIDAR Unit with Micro-optics Aligned behind Stationary Window」と題する米国出願第15/979,266号に述べられており、これらの各々の開示は、あらゆる目的のためにそれらの全体が参照により本明細書に組み込まれる。
図15に示されるように、Txモジュール1510は、Tx側マイクロ光学素子パッケージ1520及びバルク光学素子1530を含むことができる。Tx側マイクロ光学素子パッケージ1520は、幾つかの光エミッタ1522を含み、任意で、マイクロレンズ層1524及び開口層1526を含む。エミッタ1522は、トランスミッタチャネルの一次元アレイまたは二次元アレイ、例えば、ボックス領域に示されたチャネル1525に配置され得る。トランスミッタチャネルの各トランスミッタチャネルは、狭帯域光を放出することができる1または複数の光エミッタ1522、例えば近赤外線(NIR)垂直キャビティ半導体レーザ(VCSEL)などと、任意でのレンズ層1524からのマイクロレンズ及び開口層1526からの開口と、を有する。
動作中、Txモジュール1510は、例えば、狭帯域光、例えば、10nm、2nm、1nm、0.5nm、0.25nm、またはそれより小さいスペクトル幅を有するNIR光のパルスを、1または複数の視野内に送信することにより、LIDARシステムの周囲の領域内の物体のアクティブな照明を提供する。Rxモジュール1540は、特に、そのLIDARセンサチャネル202は、シーン内の物体によって反射される、送信された狭帯域光の反射部分を検出する。同時に、Rxモジュール1540の各周囲光感知チャネル206R/G/Bは、その特定の波長帯域の周囲光を検出することができる。
トランスミッタの各トランスミッタから放出された光は、Tx側マイクロ光学素子レンズ層1524のマイクロ光学素子のうちの1つに近づくにつれて発散する。マイクロレンズ層1524からのマイクロレンズは発散光を捕捉し、マイクロ光学素子のアレイ及びエミッタのアレイの位置に対応する開口のアレイを含む開口層1526の開口と一致する焦点面に発散光を再集束する。開口アレイ1526は、システムにおけるクロストークを低減することができる。マイクロレンズを出た後、集束した光は再び円錐の形態に発散し、次いでTx側のバルク撮像光学モジュール1530に衝突する。幾つかの実施形態では、マイクロレンズ層1524とTx側バルク撮像光学素子モジュール1530との間の分離は、それらの焦点距離の合計に等しく、これにより開口アレイ1526で集束された光は、Tx側バルク撮像光学素子モジュール1530の出力にコリメートされた光として現れ、コリメートされた各光線束は異なる主光線角度でTx側バルク撮像光学素子モジュール1530を出る。したがって、各エミッタからの光は、デバイスの前方の異なる視野に向けられる。幾つかの実施形態では、Tx側バルク撮像光学素子1530は、レンズの撮像側(エミッタ側である)でテレセントリックであり、すなわち、バルク撮像光学素子1530の画像側の主光線は、互いに実質的に平行であり、画像平面(エミッタ平面)上のあらゆる位置について、画像平面に垂直である。この構成では、エミッタアレイは、有利にもテレセントリック光源として動作し、すなわち、光学素子は、エミッタアレイによって生成される実質的にすべての光、アレイの外縁部上のエミッタから放出される光をも、捕捉する。テレセントリック設計がないと、レンズの斜めの光線円錐と一致する放出された光線円錐の一部のみがレンズによって捕捉されるため、外部エミッタによって捕捉される光が減少する可能性がある。Rxモジュール1540のLIDAR感知チャネル202は、Tx側マイクロ光学素子パッケージ1520と一致するように配置することができ、LIDARセンサチャネル202は、各マイクロ光学素子トランスミッタチャネル1525に対応する。
Rxモジュール1540は、Rx側バルク撮像光学素子モジュール1560及びセンサアレイ200を含む。光線1505として示される、フィールド内の物体で反射する放出光の部分は、複数の方向からRx側バルク撮像光学素子モジュール1560に入る。Rx側バルク撮像光学素子モジュール1560は、光線1505をRx側入力開口層310と一致する平面に集束させ、光がLIDARセンサチャネル202に入ることを可能にする単一レンズまたはマルチレンズグループを含むことができる。幾つかの実施形態では、Rxモジュール1540は、それぞれのエミッタ1522の視野と一致する各個々のLIDARセンサチャネル202の視野を備える、各エミッタ1522のLIDARセンサチャネルを含む。
Rx側バルク撮像光学素子モジュール1560はまた、周囲光を収集することができる。本明細書で使用される場合、「周囲」光は、環境内で伝搬する可能性があり、Txモジュール1510から発生しなかった任意の光線を指す。周囲光には、環境内にたまたま存在する任意の光源(例えば、太陽、人工照明器具、信号機など)からの直接光、及び環境内の物体によって反射または散乱された光(例えば、道路標識、車両、路面、樹木などで反射された光)が含まれる。周囲光は、任意の方向に伝搬することができ、光線1505と同様の方向にたまたま伝搬している周囲光は、Rx側バルク撮像光学素子モジュール1560に入り、かつ通過することができる。
2.2.チャネルごとの補償マイクロ光学素子
幾つかの実施形態では、Rx側バルク撮像光学素子モジュール1560は、特定の狭い波長帯域、例えば、LIDAR動作波長をターゲット平面、例えば、入力開口面310上に集束するように最適化される単色レンズとして設計され得る。Rx側バルク撮像光学素子モジュール1560は、色収差(すなわち、波長に依存する焦点距離)を示し得る。これは、周囲光センサチャネルの収集効率を低下させる可能性があり、色収差を有するRx側バルク撮像光学素子モジュール1560の実装が、LIDAR動作波長の光を入力開口面310に集束させる場合、LIDAR動作波長以外の波長の光は、入力開口層310に集束せず、その光の幾つかは、周囲光センサチャネル206R/G/Bに入るのではなく、開口絞りによって遮断されるであろう。更に、この効果によって失われる光の量は、波長に依存するため、撮像データの分析が複雑になる可能性がある。更に、これらのチャネルの空間解像度は、開口部310がそれらの波長帯域の焦点面にないため、または単色レンズが帯域外光のための小さな集束スポットを提供することができないため、低減する(視野は、より大きく、明確に輪郭を示さない、つまり、「ぼやけた」状態になる)。
したがって、センサアレイ200(または本明細書に記載の他のマルチスペクトルセンサアレイ)の幾つかの実施形態は、より効率的な光捕捉を可能にするために入力開口面の前に配置することができるチャネル別補償マイクロ光学素子を含む。図16は、センサアレイ200の一部分の簡略断面図であり、入射光の挙動を例解するための注釈が付いている。(この例では、開口の先細りは、図3に対して逆であり、開口312R/G/B/Lは、開口層310の底面360に示される。ただし、開口面の正確な場所に関係なく、同じ原理が適用される。)
図16の例では、破線は、色収差の影響を例解する。チャネル206R、206G、及び206B上の収束する破線は、色収差を有するバルク光学素子(例えば、図15のRx側バルク撮像光学素子モジュール1560)によって集束された赤、緑、及び青の光線に対するそれぞれの周辺光線を示す。図に示すように、LIDAR光線1620Lは、開口面360に収束するが、しなしながら、より短い波長の光(この例では可視光)は、波長に応じた距離で、開口面360の前に収束する。したがって、この例では、赤色光の焦点1612Rは、入力開口312Rのわずかに前にあり、緑色光の焦点1612Gは、入力開口312Gの更に前にあり、青色光の焦点1612Bは、入力開口312Bの更にもっと前にある。補正光学素子がない場合、集束された赤、緑、及び青の光線(破線)は、開口面360に到達する前に発散し、開口312R、312G、及び312Bで様々な程度の光損失をもたらす。
幾つかの実施形態では、チャネル別補償マイクロ光学素子を使用して、そのような効果を補正することができる。例えば、図16に示されるように、第1補償マイクロ光学素子、この例では第1平凹レンズ1650Rが、開口層310の前に配置され、赤チャネル206Rの開口部362Rと位置整合される。平凹レンズ1650Rは、入射光の発散を低減し、赤色光の焦点を、補正されていない焦点1612Rから開口312Rにシフトする光学処方(例えば、表面曲率または焦点距離)を有する。第2補償マイクロ光学素子、この例では第2平凹レンズ1650Gは、開口部362Gと位置整合される。平凹レンズ1650Gは、平面凹レンズ1650Rよりも入射光の発散をより強く低減し、緑色光の焦点を、補正されていない焦点1612Gから開口312Gにシフトする処方を有する。第3補償マイクロ光学素子、この例では第3平凹レンズ1650Bは、開口部362Bと位置整合される。平凹レンズ1650Bは、平面凹レンズ1650Gよりも入射光の発散をより強く低減し、青色光の焦点を、補正されていない焦点1612Bから開口312Bにシフトする処方を有する。この例の平凹レンズ1650R、1650G、1650Bの各々は、対応するセンサチャネル206R、206G、206Bが検出するように調節される波長(または波長範囲)に対して最適化される異なる処方を有することを理解されたい。この例では、Rx側バルク撮像モジュール1560がすでにLIDAR動作波長の光を開口312Lに集束させるので、補償マイクロ光学素子は、LIDARチャネル202に提供されない。
他の実施形態では、Rx側バルク撮像モジュールが光を入力開口面上に集束させる特定の波長は、異なってもよい。例示として、図17は、色収差を有するRx側バルク撮像モジュール1560が青色光を開口面360上に集束させる実施形態のためのチャネル別補償マイクロ光学素子の例を示す。この例では、青色チャネル202Bは、補償マイクロ光学素子を使用しないが、(色収差のために)補償マイクロ光学素子がないと、他のチャネルのための所望の光波長の焦点は、開口面360を越えて位置し、再び、波長に依存する光損失量及び空間選択性をもたらす。これを補償するために、チャネル別補償マイクロ光学素子、この例では平凸レンズ1750R、1750G、及び1750Lを、赤チャネル206R、緑チャネル206G、及びLIDARチャネル202のチャネル開口部の前に配置することができる。この例では、平凸レンズは、入射光の発散を増加させる処方を有し、焦点を開口面360に向かう方向にシフトして、所与のセンサチャネルについて、センサチャネルが調節される色の光の焦点は、開口面360と一致する。前の例のように、各チャネルのチャネル別補償マイクロ光学素子は、特定のチャネルの焦点を開口面360上にもたらす異なる処方を有する。
図16及び17の例では、光は、開口面に集束され、次いで、センサチャネル内の光学素子によってコリメートされる(例えば、図1Aまたは1Bに示されるように)。別のオプションは、チャネル別波長で光をコリメートする、周囲光チャネルのチャネル別補償マイクロ光学素子を提供することである。図18は、幾つかの実施形態で使用することができるコリメートチャネル別補償マイクロ光学素子を備えるセンサアレイ1800の例を示す。この例では、基板アレイ1800は、一般に、基板アレイ200と同様であるが、各周囲光チャネルの開口1812R、1812G、1812Bは、チャネルと実質的に同じ幅である。(LIDARチャネル1802の開口1812Lは、例えば、示されるように、より狭くすることができる。)この構成では、少なくとも周囲光チャネル1806R、1806G、1806Bについては、光学素子132(図1Aまたは1Bに示される)は省略され得、それ以外は、上記の周囲光チャネル206R、206G、206Bと同様である。この配置では、周囲光チャネル1806R、1806G、1806Bを、LIDARチャネル1802よりも小さくし、より密に詰めることができることに留意されたい。周囲光チャネルでは、狭いチャネル幅は、チャネル幅よりも狭い開口を必要とせずに空間選択性を提供することができるが、しかしながら、コリメーション角度が大きくなるため、バンドパスフィルタの幅の下限が大きくなる。
図16の例と同様に、Rx側バルク撮像モジュール1560は、LIDAR動作波長(光線1822L)の光を開口1812Lに集束させる。より短い波長の光は、破線で示されるように、後面1814からの異なる距離に集束される。平凸レンズ1850R、1850G、1850Bは、それぞれ赤、緑、青の光の発散を減らし、色付きの線で示されるように、チャネルに入るときに所望の波長の光をコリメートする。前の例のように、異なる色チャネルのチャネル別補正マイクロ光学素子は、入射光の波長依存の焦点距離を補償する異なる処方を有する。
これらの例は、例示的なものであり、限定的ではない。色収差を有するRx側のバルク撮像モジュールは、任意の所望の波長の光を開口面上に集束させるように適合させることができ、他の波長に敏感であるチャネルは、開口の前に配置された波長別(またはチャネル別)の正(集束する)または負(デフォーカシング)の処方を備える補償マイクロ光学素子を有することができる。組み立てを容易にするために、センサアレイ内のすべてのチャネル(またはそのような素子を含むすべてのチャネル)の補償マイクロ光学素子を、同じ平面上(例えば、開口層の上)に配置することができる。補償マイクロ光学素子の特定の形状は、変化させることができ、例えば、所与のチャネルの補償マイクロ光学素子は、平凸レンズ、平凹レンズ、両凸レンズ、両凹レンズ、凸凹レンズ、自由形状レンズ、または複数のレンズの組み合わせを含むことができる。必要に応じて、様々なチャネルタイプに様々な形状を使用することができる。上記の例が示すように、所与のセンサアレイ内のすべてのセンサチャネルに、補正マイクロ光学素子を提供する必要はなく、幾つかの実施形態では、Rx側バルク撮像モジュールは、センサチャネルタイプのうちの1つの所望の波長を有する光が、チャネルの開口に集束されるように設計することができる。しかしながら、Rx側バルク撮像モジュールの特定の設計は必要ではなく、幾つかの実施形態では、例えば、システムが、補正が必要な光パワーを備える窓またはハウジングを含む場合、システム内のいずれの収差も補償するためのチャネル別補償マイクロ光学素子を有することができる。センサアレイは、例えば上記に説明したように、所与の波長に関連付けられた複数のセンサチャネルを含むことができる。幾つかの実施形態では、同じチャネルタイプ(例えば、波長範囲)の異なるセンサチャネルを、同一に設計することができるので、補償マイクロ光学素子処方は、チャネルタイプごとに一度だけ決定される必要がある。
代替的に、異なるチャネルが、Rx側バルク撮像モジュールに対して異なる場所にあり、光学モジュール内の収差効果(色収差を含む)が、モジュールの光軸からの距離に依存し得るため、各チャネルの補償マイクロ光学素子を個別に設計することが望ましい場合がある。いずれの場合も、特定のチャネル設計及びRx側バルク撮像モジュールの特定の設計に従来の光学モデリング技術を適用することにより、所与のチャネル別補償マイクロ光学素子に対する適切な処方を決定することができる。
チャネル別補償マイクロ光学素子は、関連する波長で光学的に透明な任意の材料から製造することができる。成形または他のプロセスを使用して、マイクロ光学素子を成形することができる。幾つかの実施形態では、センサアレイのすべてのチャネルのマイクロ光学素子は、チャネルごとのマイクロ光学素子を画定する表面特徴(例えば、局所的に凸状または凹状の曲率の領域)を有する単一の構造として製造され、モノリシックセンサアレイの他の層と組み立てられ得る。更に、チャネル別マイクロ光学素子の処方は、色収差に限らず、バルク光学素子の任意の光学特性に基づいて選択することができる。チャネル別マイクロ光学素子を使用して、バルク光学素子の焦点面曲率を補償する例を以下に説明する。
2.3.アクロマティックバルク光学素子
幾つかの実施形態では、チャネルごとの補償マイクロ光学素子は、省略され得る。例えば、バルク光学モジュールの色収差は、ごくわずかである(またはまったくない)ため、関連するすべての波長の光は、同じ開口面に集束される。アクロマティックバルク光学モジュールは、マルチスペクトルセンサチャネル(例えば、センサアレイ500)及び/またはハイブリッドセンサチャネル(例えば、センサアレイ600)を含むセンサアレイ、ならびに光センサの幾つかが開口面(例えば、センサアレイ900)に配置されるセンサアレイに特に有用であり得る。
図19は、開口面310内のすべての色を集束させるアクロマティックバルク光学モジュールを備えるシステムにおけるセンサアレイ200の例を示す。この例では、チャネルごとの補正マイクロ光学素子は使用されない。広い通過帯域を備えるチャネル(例えば、チャネル206R/G/B)の場合、光フィルタは、チャネル内のどこにでも位置することができる。偏光チャネル(図示せず)の場合、1または複数の偏光回折格子を、スタック(例えば、光学フィルタ層)または下にあるASIC光センサ(複数可)の金属層に含めることができる。
図20は、開口面2010内のすべての色を集束させるアクロマティックバルク光学モジュールを備えるシステムにおけるセンサアレイ2000の別の例を示す。この例では、LIDARセンサチャネル2002及び周囲光センサチャネル2004R、2004G、2004Bは、並べて配置された別個のモノリシックデバイスとして製造される。各センサチャネル2002、2004R/G/Bは、同じ開口面2010に位置する開口2012L、2012R/G/Bを有する。LIDARセンサチャネル2002には、コリメート光学素子2020が含まれる。この例における周囲光センサチャネル2004R/G/Bには、コリメート光学素子は含まれていない。代わりに、非屈折光学素子(例えば、光ガイド)を使用して、チャネルを通して、光を光センサ2030R、2030G、2030Bに向けることができる。広い通過帯域の場合、色フィルタは、チャネルのどこにでも配置することができる。単一のセンサタイプを有するセンサチャネルについて示されるが、非屈折光学素子を備えるチャネル構成は、マルチスペクトルセンサチャネル(例えば、図5のマルチスペクトルセンサチャネル506)またはハイブリッドセンサチャネル(例えば、図6のハイブリッドセンサチャネル602)にも有用であり得る。
2.4.焦点面曲率を補償するマイクロ光学素子
上記の例は、光がバルク光学モジュールを通過する場所に関係なく、バルク光学モジュールが(所与の波長の)光を(平坦な)画像平面に集束させることを想定する。上に示した例(例えば、図19及び20)では、画像平面は、開口面と一致する。
幾つかの実施形態では、バルク光学モジュールは、所与の波長の光を、平面ではなく曲面(「湾曲した焦点面」と呼ばれる)に集束させることができる。これが当てはまる場合、上記の例と同様のチャネルごとのマイクロ光学素子を使用して、各開口の場所での湾曲した焦点面と(平坦な)開口面との間のオフセットを補償することができる。図21は、幾つかの実施形態で使用することができるバルク光学モジュールの焦点距離を補正するためのチャネルごとのマイクロ光学素子の例を示す。センサアレイ2100は、平面に配置されたセンサチャネル2102の行を有する。(例示を簡単にするために一次元センサアレイが示されており、同じ原理が二次元センサアレイにも当てはまることを理解されたい。)平面開口層2104は、開口2106を有し、各開口2106が対応するセンサチャネル2102に光を通過させるように配置される。この例では、バルク光学モジュール2108は、点線2110によって表される湾曲した焦点面を有する。各開口2106の前には、焦点面2110の曲率を補償するチャネル別マイクロ光学素子2112がある。例えば、各チャネル別マイクロ光学素子2112は、光が、対応する開口2106に(開口2106の前または後ろよりも)集束されるように、対応する開口2106の場所と湾曲した焦点面2110上の対応する場所との間のオフセットを補正する処方を有することができる。この例では、開口2106のほとんどについて、湾曲した焦点面2110上の対応する場所は、平面開口層2104の前にあり、対応するチャネル別マイクロ光学素子2112は、正の集束力を有する。この例では、異なるチャネル別マイクロ光学素子2112の集束力の大きさは、バルク光学モジュール2108の光軸2114からの半径方向距離rと共に増加する。他の例(図示せず)では、湾曲した焦点面2110は、開口場所2106の一部またはすべてにおいて平面開口層2104の後ろにあり得、任意の特定のチャネル別マイクロ光学素子2112は、必要に応じて正または負の集束力を有することができる。幾つかの実施形態では、バルク光学モジュール2108の湾曲した焦点面2110は、1または複数のセンサチャネルの開口面と一致し得、そのようなセンサチャネルのチャネル別マイクロ光学素子2112は、省略され得るか、またはゼロの集束力を備えるマイクロ光学素子が提供され得る。
図22は、チャネル別マイクロ光学素子を備える受信(Rx)モジュール2200の別の例を示す。Rxモジュール2200は、上記の図15のRxモジュール1540と同様であり得、センサチャネルタイプの任意の組み合わせを含むことができる。例えば、すべてのチャネル2202は、LIDARセンサチャネルであり得、すべてのチャネルは、周囲光センサチャネルであり得、すべてのチャネル2202は、ハイブリッドセンサチャネルであり得るか、または異なるセンサチャネルタイプの組み合わせが存在し得る。この例では、チャネル別マイクロ光学素子2204が、バルク光学モジュール2208の焦点面の曲率を補償するために、開口面2206の前に提供される。図21の例のように、チャネル別マイクロ光学素子2204の処方は、バルク光学モジュール2208の焦点面の曲率に対応する、光軸からの半径方向距離の関数であり得る。この例では、チャネル別マイクロ光学素子2204は、光軸からの半径方向の距離と共に増加する正の集束力を有するが、しかしながら、上記のように、チャネル別マイクロ光学素子2204の一部またはすべては、負またはゼロの集束力を有することができる。
幾つかの実施形態では、焦点距離を補正するチャネル別マイクロ光学素子を、LIDARトランスミッタアレイ及びセンサアレイで使用することができる。図23は、チャネル別マイクロ光学素子を備える送信(Tx)モジュール2300の例を示す。Txモジュール2300は、上記の図15のTxモジュール1510と同様であり得、エミッタチャネル2302の1Dまたは2Dアレイを含むことができる。この例では、チャネル別マイクロ光学素子2304が、バルク光学モジュール2308の焦点面の曲率を補償するために提供される。図21及び22の例のように、チャネル別マイクロ光学素子2304の処方は、バルク光学モジュール2308の焦点面の曲率に対応する、光軸からの半径方向距離の関数であり得る。
これらの例は、例示的なものであり、限定的ではない。例えば、上記の例では、チャネル別マイクロ光学素子の処方(集束力)は、バルク光学素子の焦点面の曲率を補償するように変化する。他の実施形態では、同様のチャネルごとの補償は、同じ処方、及びチャネル別マイクロ光学素子と開口面との間の可変スタンドオフ距離を備えるチャネル別マイクロ光学素子を使用することによって達成することができ、スタンドオフ距離は、光軸からの半径方向の距離に基づくことができる。処方及びスタンドオフ距離を変化させることの組み合わせも使用することができる。
バルク光学モジュールの焦点面の曲率を補償するチャネル別マイクロ光学素子は、マルチスペクトルセンサアレイ以外の状況で有用であり得ることを理解されたい。例えば、周囲光センサチャネルを含まないLIDARシステムも、バルク光学モジュールの焦点面曲率の補正に関連付けられたより鮮明な撮像の恩恵を受ける可能性がある。チャネル別マイクロ光学素子は、各モジュールに提供されるバルク光学素子の特性に応じて、トランスミッタモジュール、レシーバモジュール、またはその両方に組み込むことができる。周囲光センサチャネルのみを備える撮像システムも恩恵を受けることができ、送信モジュールの存在は、必須ではない。焦点面曲率を備えないバルクレンズシステムが、焦点面曲率を備えるバルクレンズシステムよりも、一般により大きく、より複雑であるため、バルク光学モジュールの焦点面曲率を補償するためのチャネル別マイクロ光学素子の使用は、バルク光学モジュールのコスト及び/またはサイズの削減を可能にし得る。
マルチスペクトルセンサアレイ(例えば、上記の例のいずれか)またはバルク光学モジュールが色収差及び焦点面曲率を示す他のシステムの幾つかの実施形態では、任意の所与のチャネルのチャネル別マイクロ光学素子を、両方の効果を補償して、所与のチャネルの所望の波長の光が開口面に集束されるように設計することができる。より一般的には、チャネル別マイクロ光学素子は、アレイ内の異なる位置にあるチャネルに対して異なる効果を有するバルク光学モジュールの任意の光学特性(または光学特徴)を補償するように設計された処方を有することができる。
2.5.物体空間の均一なサンプリング
本明細書に記載の種類のセンサアレイは、各々が異なるタイプのセンサから得られたデータを含むマルチスペクトル画像ピクセルから構成される画像を生成する様々な測距/撮像システムに組み込むことができる。そのような画像は、センサシステムの視野(「物体空間」とも呼ばれる)の均一なサンプリングを表すことが望ましい場合がよくある。具体的には、行及び列に配置することができる物体空間(本明細書では「物体空間ピクセル」と呼ぶ)のサンプリング領域の規則的な「グリッド」を画定し、センサシステム及びその動作を画像ピクセルのグリッドを生成するように設計することが望ましく、各ピクセルは、センサアレイ内の各センサタイプによって撮像された単一の物体空間ピクセルに対応する。測距/撮像システムの幾つかの実施形態では、バルク光学素子は、物体空間のこの均一なサンプリングをサポートするように設計される。
2.5.1.静的システムの光学素子
幾つかの実施形態では、上記の種類のマルチスペクトルセンサアレイは、「静的」測距/撮像システムで使用され得る。そのようなシステムは、2Dセンサアレイ(例えば、上記のセンサアレイ600またはセンサアレイ900)を組み込み、以下に説明するように、アレイを動かさずにセンサアレイの表面上の画像を取得する。そのようなシステムの画像ピクセルは、ハイブリッドセンサチャネル(例えば、ハイブリッドセンサチャネル602)またはマルチスペクトルピクセル(例えば、マルチスペクトルピクセル1020)に対応することができる。このようなアレイは、バルク撮像光学素子に局所的な歪みがない場合、物体空間を均一にサンプリングすることができる。幾つかの実施形態では、フラットフィールド焦点距離歪みプロファイルの使用が望ましい場合があり、その結果、光は、アレイ全体にわたって開口面に集束される。
2.5.2.スキャンシステムの光学素子
幾つかの実施形態では、上記の種類のマルチスペクトルセンサアレイを、角度スキャンまたは回転モードで使用して、センサアレイの行内の異なるセンサチャネルが、視野内の特定の領域を連続して撮像する(すなわち、視野内の特定の領域からの光子を感知する)。スキャン操作の例を以下に説明する。この説明の目的のために、スキャン操作中に、センサシステムは、行に直角である軸の周りを回転し、センサシステムが異なる角度で回転するときに、センサチャネルは、動作すると想定される。(例えば、MEMSミラーを使用して、物体空間の異なる領域からの光を、異なる時間にアレイ上に反射させることにより、センサアレイを移動せずに、スキャン挙動を実現することができることも理解されたい。)センサアレイ及びバルク光学モジュールは、センサシステム内で互いに固定された関係に保持されるため、所与のセンサチャネルは、空間内のシステムの配向に関係なく、バルク撮像光学素子の光軸に対して固定された空間的関係を有し、バルク光学モジュールの同じ部分を通して「見る」ことも想定される。
画像分析を単純化するために、スキャンセンサシステムが物体空間を均一にサンプリングすることが一般に望ましい。この状況では、物体空間ピクセルのグリッドは、スキャン方向に沿った行及びスキャン方向に直角な方向の列で配置されると考えらる。スキャン方向では、同じ行内の異なるセンサチャネル(例えば、図2のセンサアレイ202の同じ行204内のすべてのセンサチャネル)が、センサアレイが回転するときに、同じ物体空間ピクセルを(幾分異なる時間に)サンプリングすることが望ましい。これは、以下に説明するように、サンプリング間隔をセンサアレイの回転と調整することによって部分的に達成することができる。ただし、バルク光学モジュールの光軸に対する異なるセンサチャネルの場所の相違によるポインティングエラーを回避することも重要である。したがって、幾つかの実施形態では、スキャンセンサシステム内のセンサアレイと共に使用されるバルク光学モジュールは、スキャン方向及び非スキャン方向の両方で均一なサンプリングを提供するように設計される。
図24A及び24Bは、センサアレイを使用するスキャンシステムにおけるポインティングエラーの可能性を示す簡略概念図である。図24Aは、均一に離間されたセンサチャネル2402a~2402dを有するセンサアレイ2400の行を示し、これは、例えば、図2のセンサアレイ200の行204内のセンサチャネルに対応し得る。各センサチャネルは、破線で示されるように、バルク光学素子2410を通るチャネル視野を有する。
楕円形の2404a~2404dで示される均一に離間された物体空間ピクセルは、センサチャネル2402a~2402dのチャネル視野と位置整合される。図24Bは、センサチャネル2402aが、ほぼ物体空間ピクセル2404bを指すような角度で回転した後のセンサアレイ2400を示す。センサチャネル2402bは、物体空間ピクセル2404cの左側を指し、センサチャネル2402cは、ほぼ物体空間ピクセル2404dを指す。
図24Bに見られるように、ポインティングエラーが存在する。例えば、センサチャネル2402bの視野は、物体空間ピクセル2404cを指しておらず、センサチャネル2402cの視野は、物体空間ピクセル2404dと正確に位置整合されていない。「ピクセル内ポインティングエラー」という用語は、本明細書では、同じ物体空間ピクセルに名目上向けられるセンサチャネル間の視野の相違を指すために使用される。(これらの相違は、物体空間ピクセルに関して「ピクセル内」である。)幾つかの実施形態では、マルチスペクトルピクセルデータを収集する場合、ピクセル内ポインティングエラーを制御することが望ましい。
ピクセル内ポインティングエラーに加えて、センサシステムは、「ピクセル間ポインティングエラー」を有し得、これは、行(スキャン)方向または列(非スキャン)方向の物体空間ピクセル間の不均一な間隔を指す。スキャンセンサシステムでは、スキャン方向のピクセル間隔の均一性は、センサシステムの回転角に対してシャッター間隔を制御することによって(例えば、以下に説明するように)、及びピクセル内ポインティングエラーを制限することによって達成することができる。非スキャン方向では、列に沿った物体空間ピクセルが均等に離間され、物体空間の列が画像空間の列にマッピングされることが望ましい。これに関連して、幾つかのセンサアレイ(例えば、センサアレイ200)は、千鳥センサチャネル(例えば、LIDARチャネル202)のセットを含み得ることにも留意されたい。この場合、アレイをスキャンし、シャッター間隔を制御して、列配置を作成することにより、物体空間ピクセルの単一の列を撮像することができる。例えば、センサアレイ200の場合、16個のセンサチャネル202がセンサアレイ200上の列に位置整合されていなくても、画像の列は、16個のピクセルを有することができる。
所望の撮像挙動は、幾つかの実施形態において、光線の変位が光線の入射角(θ)の接線の変化に対して線形である焦点距離歪みプロファイルを有するバルク光学モジュールを提供することによって達成される。このタイプの焦点距離歪みプロファイルを備えるレンズ(またはレンズシステム)は、一般に「Ftanθ」レンズ(画像平面での変位距離がtanθの線形関数であることを意味する)または「フラットフィールド」レンズと呼ばれる。小さい角度θの場合、Ftanθレンズは、画像平面(つまりセンサアレイ)上の光線の変位が、光線の入射角(θ)の変化に対してほぼ線形であるという特性を有する。スキャン方向では、これにより、ピクセル内ポインティングエラーを低減するという所望の挙動が提供される。非スキャン方向では、これにより、均一なピッチで離間されたセンサ行の物体空間での均一なサンプリングが提供され、また、センサが千鳥状に配置されている場合でも、物体空間ピクセルの列を画像空間ピクセルの列にマッピングすることを可能にする。
図25は、Ftanθバルク光学モジュールを使用する撮像システムの例を例解する。画像平面2502は、均一な距離p(本明細書では「線形ピッチ」とも呼ばれる)だけ離されたセンサ2504a~gの行を含む。センサ2504a~gは、例えば、上記のマルチスペクトルセンサアレイのいずれかにおけるセンサチャネルの行(または行の一部分)、または所与の方向からの光子を検出する他のセンサであり得る。バルク光学モジュール2506は、画像平面2502の上に距離fだけ置いて位置付けられ、fは、バルク光学モジュール2506の焦点距離である。この例では、バルク光学モジュール2506は、単一の両凸レンズとして表されているが、しかしながら、他のレンズまたはマルチレンズシステムが使用され得ることを理解されたい。
バルク光学モジュール2506は、視野(または物体空間)からの光を画像平面2502に集束するように設計することができる。例えば、光線2520a~2520gは、センサ2504a~2504gの主光線を示す。(バルク光学モジュール2506を通る光の実際の経路は示されていないことを理解されたい。)
バルク光学モジュール2506は、Ftanθ焦点距離歪みプロファイルを有する。(当業者は、このプロファイルを有するバルク光学モジュールを作成する方法を理解し、詳細な説明は省略される。)その結果、少なくとも小さな角度の場合、光線の入射角の均一な変化は、元の入射角に関係なく、屈折した光線が画像平面と交差する点を均一の距離だけシフトさせる。例えば、光線2520a、2520bの場合、入射角の差はαであり、光線2520a、2520bは、画像平面で線形ピッチpだけ離されている。光線2520b、2520cもまた、αの入射角の差を有し、対応する屈折光線2520b、2520cもまた、画像平面で線形ピッチpだけ離されている。したがって、画像平面2502及びバルク光学モジュール2506が一緒に角度αだけ回転される場合、点2530aから発生する光線2520aは、(ほぼ)センサ2504bの主光線になり、一方、点2530bから発生する光線2520bは、(ほぼ)センサ2504cの主光線になる、など。画像平面での直線ピッチpに対応する回転角αは、本明細書ではスキャンシステムの「角度ピッチ」と呼ばれ、αの値は、センサピッチp及びバルク光学モジュールの特性に基づいて決定される。角度αを通ってシステムをスキャンすると、入射光線が1つの線形ピッチ単位pだけシフトするような角度ピッチαを、バルク光学モジュールが提供するスキャン測距/撮像システムでは、ある行内の異なるセンサチャネルは、タイムステップのシーケンスで画像を取得することによって、視野の同じ部分を撮像することができ、センサアレイは、各タイムステップで角度ピッチαだけ(またはαがスキャンピッチの整数倍であるようなより小さい角度で)回転する。このタイプのスキャン動作の例については、以下で詳しく説明する。
Ftanθレンズを使用すると、ピクセル内ポインティングエラーを、ごくわずかなレベルに低減することができ、センサチャネルの視野のサイズに基づいて「ごくわずかな」を定量化することができる。図26は、スキャンシステムの幾つかの実施形態において、定量化及び制約され得るピクセル内ポインティングエラーの例を示す。円2602は、物体空間ピクセルの名目上の場所を表し、点2604は、円2602の中心である。円2612(破線)は、名目上、円2602の方向に向けられたときに特定のセンサチャネルによってサンプリングされた視野を表す。図のように、円2612の中心点2614は、オフセット量εだけ、物体空間ピクセル2602の中心2604からオフセットされている。このオフセット量は、ピクセル内ポインティングエラーを定量化するために使用することができる。幾つかの実施形態では、センサ行内の任意の所与のセンサチャネルのオフセット量εが、チャネル視野の直径の50%未満である場合、ピクセル内ポインティングエラーは、ごくわずかであると考えられる。他の実施形態では、例えば、ピクセル内ポインティングエラーが、チャネル視野の直径の10%未満であるというより厳密な定義が使用される。所与のセンサシステムがこの制約を満たすかどうかは、例えば、テストパターンを撮像することによって決定することができる。他の定義も使用することができる。
スキャンセンサシステムのバルク光学素子はまた、非スキャン方向にFtanθ焦点距離歪みプロファイルを有することもできる。したがって、図25に示される例では、センサ2504a~gはまた、上記のマルチスペクトルセンサアレイのいずれかにおけるセンサチャネルの列(または列の一部分)に対応するものとして理解することもできる。センサチャネルの列の一部またはすべてが千鳥に配置されている場合(例えば、図2のLIDARセンサチャネル202)、両方向にFtanθ焦点距離歪みプロファイルを有するバルク光学素子により、千鳥センサチャネル列が、スキャン操作を介して物体空間ピクセルの均一に離間された列をサンプリングすることを可能にし、同じ行内の異なるセンサチャネルがごくわずかなピクセル内ポインティングエラーを有することを可能にすることができる。
Ftanθバルク光学モジュールは、マルチスペクトルセンサアレイ以外の状況で有用であることに留意されたい。例えば、スキャンLIDARセンサアレイは、列に配置された千鳥LIDARチャネルのアレイを含み得、これは、視野を撮像するためにスキャン/回転モードで動作され得る。そのようなシステムの例は、例えば、2017年8月24日に出願された米国特許出願第15/685,384号(米国特許出願公開第2018/0059222号として公開)に記載されており、その開示は、参照によりその全体が本明細書に組み込まれる。Ftanθバルク光学モジュールを使用して、千鳥アレイの異なる列に位置するセンサチャネルによって撮像された物体空間ピクセルを互いに垂直に(つまり、画像空間の列方向に)位置整合させることを提供し、及び/または列に沿ったサンプリングされた場所の均一な間隔を提供することができる。
センサアレイ(マルチスペクトルまたはLIDARのみ)のバルク光学モジュールは、Ftanθ焦点距離歪みプロファイルまたは他の特定の焦点距離歪みプロファイルを有する必要がないことを理解されたい。例えば、幾つかのレーザスキャンシステムで使用されるレンズは、変位が(tan(θ)ではなく)θの線形関数であるような焦点距離歪みプロファイルを有し、そのようなレンズは、「Fθ」レンズと呼ばれることもある。小さな入射角θの場合、tan(θ)は、θにほぼ等しく、Fθレンズは、ほぼ望ましい挙動を提供することができる。したがって、幾つかの実施形態では、バルク光学素子は、Fθ焦点距離歪みプロファイルを有することができる。更に、スキャン方向及び非スキャン方向の焦点距離歪みプロファイルは、同じである必要はない。
幾つかの実施形態では、センサアレイの異なるセンサによってサンプリングされた領域のサイズまたは場所の不均一性は、画像処理技術を使用して説明することができる。例えば、画像処理アルゴリズムは、バルク光学素子の歪みプロファイルが局所的な偏差(例えば、高周波雑音)の影響を受けない限り、魚眼歪みなどを伴う画像を解釈することができる。
代替的に、センサチャネルは、物体空間の均一なサンプリング及び一貫したポインティング挙動が達成されるように、バルク光学素子の歪みプロファイルを補償するパターンで、直線アレイではなく不均一アレイに配置することができる。例えば、図27は、バレル歪みを補償する不均一なアレイパターン2750を示す。センサチャネルは、例えば、頂点2752に配置することができる。(幾つかの頂点2752は、赤いドットとして強調表示されているが、センサチャネルは、任意の頂点2752に配置することができることを理解されたい。)この例では、隣接するセンサチャネル間の間隔は、アレイの中心に向かって増加する。図28は、ピンクッション歪みを補償する不均一なアレイパターン2860を示す。センサチャネルは、例えば、頂点2862に配置することができる。この例では、隣接するセンサチャネル間の間隔は、アレイの中心に向かって減少する。
より一般的には、特定のバルク光学素子の設計に基づいて、画像平面の歪みプロファイルをマッピングすることができ、サンプリング密度が物体空間で均一になるように、センサチャネルを不均一に配置することができる。(この技術は、センサアレイの設計及び製造を複雑にする可能性があり、センサアレイを特定のバルク光学素子に適合させる必要がある場合があることに留意されたい。)
更に、幾つかの実施形態では、シャッター間隔は、異なるセンサチャネルに対して個別に制御することができ、その結果、異なるセンサチャネルは、異なる時間に所与のピクセルのデータ収集を開始及び終了することができる。個々のシャッター制御を使用して、スキャン方向に沿った特定のチャネルのピクセル内ポインティングエラーを補償することができる。(これにより、センサ電子機器の設計が複雑になる可能性があることに留意されたい。)
2.5.3.ラスタースキャンシステムの光学素子
幾つかの実施形態では、上記の種類のマルチスペクトルセンサアレイは、ラスタースキャンモードで使用され得る。ラスタースキャンモードでは、比較的少ない数のセンサチャネルを有するセンサアレイは、視野を2方向にスキャンして、センサチャネルの数よりも多いピクセル数を有する画像を生成することができる。便宜上、スキャン方向は、本明細書では「水平」及び「垂直」と呼ばれるが、しかしながら、当業者は、ラスタースキャンの空間的配向が任意であることを理解するであろう。ラスタースキャンは、ハイブリッドセンサチャネルの2Dアレイ(例えば、センサアレイ600)もしくはマルチスペクトルピクセル(例えば、センサアレイ900)を含むセンサアレイ、または列単位の方向にスキャンもする、行ベースのスキャンセンサアレイ(例えば、センサアレイ200)を使用して実行することができる。
図29は、本発明の実施形態による、センサアレイを使用したラスタースキャンの例を示す。センサアレイ2900は、通常のセンサグリッドに配置された幾つかのセンサチャネル2902を含む。この例では、センサグリッドは、3×3であるが、しかしながら、寸法は、必要に応じて変化させることができる。センサチャネル2902は、上記のセンサチャネルタイプのいずれかを含むことができる。矢印2904は、センサアレイ2900の動作経路を示す。示されるように、センサアレイ2900は、位置2912及び2914を含む視野2920内の一連の撮像位置を通って、水平線に沿って右に移動することができる。各撮像位置で、センサチャネル2902を動作させて、画像を捕捉することができる。水平線の終わり(位置2914)で、センサアレイ2900は、例えば、センサアレイ2900内の行数に基づくピッチ距離だけ、位置2916にシフトダウンして、次の画像を捕捉することができる。次に、センサアレイ2900を左に移動して、次の水平線の画像を捕捉することができる。捕捉された画像は、視野2920全体をカバーするより大きな画像に累積することができる。
センサアレイ2900は、例えば、上記のマルチスペクトルセンサアレイのいずれかであり得る。センサアレイ2900が2Dアレイ(例えば、センサアレイ600またはセンサアレイ900)である場合、センサアレイ2900が水平スキャン線に沿って、連続する画像間を移動する距離は、図29に示されるような均一、かつ重ならないサンプルを提供するために、アレイの水平サイズに基づくことができる。センサアレイ2900が行ベースのアレイであり、行が水平スキャン線に沿って配向されている場合、水平スキャン線に沿った連続する画像間の距離は、チャネルピッチに等しくなり得、センサアレイの同じ行内の異なるセンサが、同じ物体空間ピクセルを撮像することを可能にする。スキャン線間の垂直方向のシフトは、アレイ内の行数に基づいて決定することができる。
ラスタースキャンの動作パターンは、図29に示すものとは異なる場合がある。例えば、「水平帰線」パターンを使用することができ、水平スキャン線の終わりに、センサアレイ2900が左端に戻り、次の水平スキャン線にシフトダウンし、その結果、各水平スキャン線の画像が、同じ進行方向を使用して捕捉される。別の例として、行ベースのセンサアレイの場合、行を垂直方向に配向することができ、水平スキャン線間の垂直距離を、行内のチャネルピッチに等しくすることができる。(上述のように、「垂直」及び「水平」は、任意である。)ラスタースキャンは、アレイを二次元で物理的に移動させるか、またはラスターパターンで光を操縦することができるチップチルトミラーを備える光学系を提供することによって、実施することができる。
ラスタースキャンシステムの幾つかの実施形態は、センサアレイ2900と、視野2920の均一なサンプリングをサポートするバルク光学モジュールとを含むことができる。バルク光学モジュールが全体的な歪み(例えば、バレル歪みまたはピンクッション歪み)を導入する場合、結果として得られる視野2920の画像は、均一にサンプリングされない。例示として、図30は、ピンクッション歪みを示すバルク光学素子を備えるセンサアレイを使用するラスタースキャンから生じ得る不均一なサンプリングパターンを示す。各グリッド3001~3006は、ラスターパターンで異なる場所でセンサによって撮像された場所を表す。図に示すように、歪みは、局所的な偏差の影響を受ける。このタイプの局所的な歪みパターンは、その後の画像処理及び分析に大きな困難をもたらし得る(全体的なピンクッション歪みよりもはるかに困難である)。
上記のように、Ftanθ焦点距離歪みプロファイルを備えるバルク光学モジュールを使用すると、センサアレイ全体で均一なサンプリングを提供することができる。したがって、Ftanθバルク光学モジュールは、ラスタースキャンシステムで使用することができる。代替的に、ラスタースキャンシステムのセンサアレイのセンサチャネルは、例えば、図27及び28を参照して上記で説明したように、バルク光学モジュールの歪みプロファイルを補償するように配置することができる。
光学素子及び光学モジュールの前述の例は、例示的なものであり、変更及び修正が可能であることを理解されたい。更に、1つのタイプのセンサアレイに関連して示される光学素子はまた、他のタイプのセンサアレイでも使用することができる。例えば、アクロマティックバルク光学モジュールは、行ベース(または1D)及び2Dの両方のマルチスペクトルセンサアレイで使用することができる。アクロマティックバルク光学モジュールは、必要に応じて、Ftanθ焦点距離歪みプロファイル、Fθ焦点距離歪みプロファイル、または異なるプロファイルを有することができる。同様に、色収差を備えるバルク光学モジュールは、必要に応じて、Ftanθ焦点距離歪みプロファイル、Fθ焦点距離歪みプロファイル、または異なるプロファイルを有することができる。上記のように、アクロマティックバルク光学素子は、マルチスペクトルセンサチャネル及び/またはハイブリッドセンサチャネルを含むセンサアレイに望ましい場合があるが、しかしながら、これは、必須ではない。
3.マルチスペクトルセンサアレイを備える測距/撮像システム
上記の種類のマルチスペクトルセンサアレイは、本質的に相互に登録され、深度情報(例えば、マルチスペクトルセンサアレイ内のLIDARセンサチャネルから抽出される)に登録される視野のマルチスペクトル画像(例えば、色画像、吸収画像、偏光画像、及び/または周囲光センサチャネルから抽出された他の画像)を提供する測距/撮像システムに組み込むことができる。マルチスペクトル測距/撮像システムの特定の実装は、特定のマルチスペクトルセンサアレイに部分的に依存する。例示のために、2つのタイプの測距/撮像システムについて説明する。本明細書で「角度スキャン」(「回転」または「スピニング」とも呼ばれる)測距/撮像システムと呼ばれる第1タイプは、異なる時間に、視野の異なる部分を指すようにセンサアレイ(及びそれに関連付けられた光学素子)を回転させるか、または制御可能な光学素子(例えば、MEMSガルバノメータ)を使用して、異なる時間に、視野の異なる部分からの光をアレイ上に向ける。いずれの場合も、角度スキャンシステムは、同じアレイ上の異なるセンサチャネル(例えば、図2のセンサアレイ200の列内の異なるセンサ)が、異なる時間に、視野内の所与の領域を撮像(そこからの光子を検出)することを可能にする。本明細書で「静的」(または「固体」)測距/撮像システムと呼ばれる第2タイプは、センサアレイの移動を伴わずに、複数のチャネルで視野を撮像することができる2Dマルチスペクトルセンサアレイを使用する。
3.1.角度スキャン測距/撮像システム
図31Aは、本明細書に記載のセンサアレイを組み込む角度スキャン(例えば、回転またはスピニング)撮像/LIDARシステム3100の自動車用途の例を示す。自動車用途は、ここでは単に例示のために選択したものであり、本明細書で説明されるセンサは、例えば、ボート、航空機、列車などの他のタイプの車両で、ならびに医用撮像、測地学、ジオマティクス、考古学、地理学、地質学、地形学、地震学、林学、大気物理学、レーザ誘導、空中レーザスワスマッピング(ALSM)、及びレーザ高度計などの、スペクトル画像に空間的及び一時的に登録されている3D深度画像が有用である多様な他の用途で、使用され得る。幾つかの実施形態によれば、スキャン撮像/LIDARシステム3100は、示されるように、車両3105の屋根上に取り付けることができる。他の実施形態では、1または複数のLIDARセンサ及び/または撮像センサを、車両の前部または後部、車両の側部及び/または車両のコーナを含むがこれらに限定されない車両の他の場所に取り付けることができる。
図31Aに示されるスキャン撮像/LIDARシステム3100は、図15の送信モジュール1510などのレーザパルスを放出するための光源モジュール3102、及び/または図15の受信モジュール1540などの光感知モジュール3104を組み込むことができ、これは、LIDARセンサチャネル及び周囲光センサチャネルの両方を含むセンサアレイ(例えば、上記のマルチスペクトルセンサアレイのいずれか)を組み込むことができる。幾つかの実施形態では、光送信モジュール3102は、光感知モジュール3104と同じハウジング内に配設することができる。
スキャン撮像/LIDARシステム3100は、スキャンアーキテクチャを採用することができ、LIDAR光送信モジュール3102及び光感知モジュール3104の配向は、車両3105の外部にある外部フィールドまたはシーン内の1または複数の視野3110(例えば、幾つかの実施形態では360度の視野)の周りをスキャンすることができる。スキャンアーキテクチャの場合、放出光3112は、示されるように周囲環境にわたってスキャンされ得る。例えば、スキャン撮像/LIDARシステム3100内に位置する1または複数の光源(図示しない、赤外線または近赤外線パルスIRレーザなど)の出力ビーム(複数可)は、車両の周囲のシーンを照明するためにスキャン、例えば回転することができる。幾つかの実施形態では、回転矢印3115によって表されるスキャンは、機械的手段、例えば、光エミッタ及びセンサを回転柱または回転プラットフォームに取り付けることによって実施することができる。幾つかの実施形態では、スキャンは、検流計の使用などの他の機械的手段を通じて実施することができる。例えば、例えばデジタルマイクロミラー(DMD)デバイス、デジタル光処理(DLP)デバイスなどの1または複数のMEMSベースの反射器を用いるマイクロチップを使用することによって、チップベースの操縦技術を使用することもできる。エミッタの場合、そのようなミラーサブシステムは、異なる時間に視野の異なる部分上に光を向けるように制御することができ、センサの場合、そのようなミラーサブシステムは、異なる時間に、視野からの光をセンサアレイの異なる部分上に向けるように制御することができる。幾つかの実施形態では、スキャンは、非機械的手段を介して、例えば、電子信号を使用して1または複数の光フェーズドアレイを操縦することにより達成することができる。
シーン内の物体(例えば、物体3110)は、LIDAR光源から放出される光パルスの一部分を反射することができる。その後、1または複数の反射部分が撮像/LIDARシステムに戻り、検出器回路によって検出され得る。例えば、反射部分3114は、光センサモジュール3104によって検出することができる。更に、周囲光3116は、検出器回路3104に入ることができる。
図31Bは、幾つかの実施形態による、スキャン撮像/LIDARシステム3100の構造の簡略化された例を示す側面図である。スキャン撮像/LIDARシステム3100は、例えば、車両3105の屋根に取り付けることができる固定ベース3120を含むことができる。エミッタモジュール(Tx)3102及び光センサモジュール(Rx)3104を保持する回転ハウジング3122は、固定ベース3120に回転結合することができる。
図32は、幾つかの実施形態による、回転画像/LIDARシステム3200(例えば、図31のスキャン撮像/LIDARシステム3100を実装する)のブロック図を例解する。回転撮像/LIDARシステム3200は、任意で、無線データ及び電力の送信能力及び受信能力を有する回転アクチュエータを使用することができる。幾つかの実施形態では、回転アクチュエータは、回転回路基板の表面上に統合されたロータと、固定回路基板の表面上に統合されたステータと、を含み、両方の基板アセンブリは、無線電力及びデータ転送の能力を具備している。
図32に示される回転撮像/LIDARシステム3200は、2つの主要モジュール、すなわち、光測距/撮像(R/I)デバイス3220及び回転アクチュエータ3215を含む。また、回転撮像/LIDARシステム3200は、ユーザインターフェースハードウェア及びソフトウェア3205の1または複数のインスタンス化と相互作用することができる。ユーザインターフェースハードウェア及びソフトウェア3205の異なるインスタンス化は、変化することができ、例えば、モニタ、キーボード、マウス、CPU、及びメモリを有するコンピュータシステム、自動車のタッチスクリーン、タッチスクリーンを有するハンドヘルドデバイス、または他の任意の適切なユーザインターフェースを含み得る。ユーザインターフェースハードウェア及びソフトウェア3205は、回転撮像/LIDARシステム3200が上に取り付けられる物体に対してローカルであってもよいが、遠隔操作システムであってもよい。例えば、回転撮像/LIDARシステム3200への/からのコマンド及びデータは、セルラーネットワーク(LTEなど)、パーソナルエリアネットワーク(Bluetooth、Zigbeeなど)、ローカルエリアネットワーク(Wi-Fi、IRなど)、またはインターネットなどの広域ネットワークを通してルーティングされ得る。
ユーザインターフェースハードウェア及びソフトウェア3205は、デバイスからのLIDARデータをユーザに提示し、及び/またはユーザまたは上位のプログラムが、1または複数のコマンドで回転撮像/LIDARシステム3200を制御することを可能にすることができる。コマンドの例として、撮像/LIDARシステムを作動させるまたは不作動にするコマンド、光検出器の露出レベル、バイアス、サンプリング期間、及び他の動作パラメータ(例えば、放出パルスパターン及び信号処理)を指定し、輝度などの光エミッタパラメータを指定するコマンドを挙げることができる。加えて、コマンドは、ユーザまたは上位のプログラムが、結果を表示または解釈するための方法を選択することを可能にする。ユーザインターフェースは、撮像/LIDARシステムの結果を表示することができ、これには、例えば、単一フレームのスナップショット画像、絶えず更新されるビデオ画像、及び/または一部またはすべてのピクセルについての他の光測定値の表示が含まれる。LIDARピクセルの他の光測定の例には、周囲雑音強度、リターン信号強度、キャリブレーションされたターゲット反射率、ターゲット分類(ハードターゲット、拡散ターゲット、再帰反射ターゲット)、範囲、信号対雑音比、ターゲット視線速度、リターン信号の時間パルス幅などが含まれる。幾つかの実施形態では、ユーザインターフェースハードウェア及びソフトウェア3205は、車両からの物体の距離(近接)を追跡し、及び/または周囲光センサチャネルから決定された視覚的特徴を分析することができる。視覚的特徴及び距離情報に基づいて、ユーザインターフェースハードウェア及びソフトウェアは、例えば、視野内の物体を特定及び追跡し、潜在的に運転者に警告を提供するか、または運転者の行動の分析のためにそのような追跡情報を提供することができる。
幾つかの実施形態では、撮像/LIDARシステムは、車両制御ユニット3210と通信することができ、車両の制御に関連付けられた1または複数のパラメータは、受信されたLIDARデータ及び/または周囲光データに基づいて修正することができる。例えば、完全自律走行車両では、撮像/LIDARシステムは、ナビゲーションを支援するために、車を取り巻く環境のリアルタイム3Dハイパースペクトル画像を提供することができる。他の場合では、撮像/LIDARシステムは、先進運転支援システム(ADAS)の一部として、または、任意の数の異なるシステム(例えば、適応型クルーズコントロール、自動駐車、運転者の眠気監視、死角監視、衝突回避システムなど)に3Dハイパースペクトル画像データを提供することができる安全システムの一部として、使用され得る。車両制御ユニット3210が光測距/撮像デバイス3220に通信可能に結合されるとき、警報を運転者に提供することができるか、または物体の近接を追跡及び/または表示することができる。
光測距/撮像デバイス3220は、光感知モジュール3230、光送信モジュール3240、及び光測距/撮像システムコントローラ3250を含む。光センサモジュール3230は、上記の光感知モジュール1540と同様であり得、図2のセンサアレイ200または図4のセンサアレイ400などのセンサアレイを含むことができる。光送信モジュール3240は、上記の光送信モジュール1510と同様であり得る。回転アクチュエータ3215は、少なくとも2つの回路基板アセンブリ、下部回路基板アセンブリ3260(本明細書ではベースサブシステムとも呼ばれる)、及び上部回路基板アセンブリ3280(本明細書ではタレットサブシステムとも呼ばれる)を含む。下部回路基板アセンブリ3260は、筐体またはハウジング(図示せず)の定置部分に機械的に取り付けられることができる一方、上部回路基板アセンブリ3280は、通常は、筐体にも(直接的または間接的に)取り付けられたシャフト(図32に表されていない)によって画定される回転軸を中心に自由に回転する。光測距/撮像デバイス3220は、回転可能な上部回路基板アセンブリ3280に機械的に取り付けられることができ、したがって、ハウジング内で自由に回転する。
図32は、光測距/撮像デバイス3220及び回転アクチュエータ3215内のコンポーネントの1つの特定の配置を示すが、幾つかの実施形態では、特定のコンポーネントは、示されるものとは異なり、一方または他方のモジュールに統合され得る。一例として、例えば、FPGA、ASIC、または組み込みシステムまたはシステムオンチップ(SOC)と同様のより一般的なコンピューティングデバイスであり得る測距/撮像システムコントローラ3250は、上部回路基板アセンブリ3280の一部であるプリント回路基板に、直接取り付けられ(例えば、はんだ付けされ)得る。言い換えれば、幾つかの実施形態では、回転アクチュエータの部品は、光測距/撮像デバイス3220内に統合されることができ、逆もまた同様である。
回転アクチュエータ3215は、下部回路基板アセンブリ3260及び上部回路基板アセンブリ3280の1または複数のプリント回路基板上に統合された幾つかの異なるシステムを含む。例えば、回転アクチュエータ3215は、ブラシレス電気モータアセンブリ、光通信サブシステム、無線電力送信サブシステム、及びベースコントローラを含むことができる。これらのシステムは、上部回路基板アセンブリ3280上の1または複数の回路素子と協調して動作する(例えば、相補的である機能を有する)下部回路基板アセンブリ3260上の1または複数の回路素子を含む各ペアとの協調回路素子のペアによって形成される。以下でより詳細に説明するように、相補的機能は、例えば、電力及び/またはデータ通信信号の送信(Tx)及び受信(Rx)を含む。
ブラシレス電気モータアセンブリは、下部回路基板アセンブリ3260のプリント回路基板上に統合されたステータアセンブリ3262と、上部回路基板アセンブリ3280のプリント回路基板上に統合されたロータアセンブリ3282と、を含む。ロータアセンブリ3282の回転は、モータドライバ回路3264から生じる駆動信号、例えば、三相駆動電流を基に駆動される。幾つかの実施形態では、1または複数のモータ制御線が、モータドライバ回路をステータアセンブリ3262のコイルに接続して、駆動信号をモータステータに提供することを可能にする。更に、モータドライバ回路3264は、ベースコントローラ3266がロータアセンブリの回転速度、それゆえ、光測距/撮像デバイス3220の回転速度(すなわち、フレームレート)を制御することができるように、ベースコントローラ3266に電気的に接続され得る。
幾つかの実施形態では、ロータアセンブリ3282は、10~30Hzの速度で回転することができる。幾つかの実施形態では、ロータアセンブリ3282は、上部回路基板アセンブリの回路基板に取り付けられた一連の永久磁石を含む受動デバイスであり得る。これらの永久磁石は、下部回路基板アセンブリ3260に対する上部回路基板アセンブリ3280の回転を駆動するために、ステータアセンブリのコイルによって生成される電磁力、例えば磁力に誘引されるか、または反発されるかのいずれかである。上部回路基板アセンブリ3280の回転方向は、ロータリエンコーダ3274上の1または複数の特徴の通過を検出することによって上部回路基板アセンブリの角度位置を追跡することができるロータリエンコーダレシーバ3294によって追跡され得る。多様なロータリエンコーダ技術を使用することができる。幾つかの実施形態では、ロータリエンコーダ3274は、下部回路基板アセンブリ3260の回路基板の表面に直接統合される。
回転アクチュエータ3215はまた、本明細書で回転変圧器と呼ばれる構成をなす無線電力トランスミッタ3272及び無線電力レシーバ3292を含む無線電力システムを含むことができる。トランスミッタ3272から無線電力レシーバ3292に送信された電力は、光測距/撮像デバイス3220、及び/または、タレット/上部回路基板アセンブリ上の電力を必要とする任意の回路によって消費され得る。幾つかの実施形態では、光測距/撮像デバイス3220が必要とするすべての電力は、無線電力レシーバ3292を通して提供され、それゆえ、スリップリングまたは水銀ベースのデバイスと同様の回転電気カプラの必要がなく、それによってシステム全体の信頼性を高め、コストを減少させる。
回転アクチュエータ3210はまた、幾つかの光トランスミッタ(例えば、光トランスミッタ3278及び3296)と、回転アクチュエータ3215と光測距/撮像デバイス3220との間の(または回転アクチュエータ3215の上部回路基板アセンブリ3280に機械的に接続された他の任意のデバイスまたはシステムへの/からの)双方向非接触データ送信に使用される幾つかの光レシーバ(例えば、光レシーバ3276及び3298)と、を含む光通信サブシステムを含むことができる。より具体的には、光通信サブシステムは、撮像/LIDARシステム3200の固定ベースの一部である下部回路基板アセンブリ3260に取り付けられた(例えば、はんだ付けされた)ベース光通信コンポーネントのセットを含み、LIDARシステム3200の回転タレットの一部である回転上部回路基板アセンブリ3280に取り付けられた(例えば、はんだ付けされた)タレット光通信コンポーネントのセットを含むことができる。これらの光通信コンポーネントは、制御信号を含む光信号を光測距/撮像デバイス3220に提供するためのアップリンクデータチャネルを提供し、測距及び運用データを含む光信号を、光測距/撮像デバイス3220からベースコントローラ3266、ユーザインターフェースハードウェア及びソフトウェア3205、及び/または車両制御ユニット3210に提供するためのダウンリンクデータチャネルも提供する。
上部回路基板アセンブリ3260から下部回路基板アセンブリ3280へのダウンリンク光通信チャネルは、光ダウンリンクトランスミッタ3296と光ダウンリンクレシーバ3276との間に作成され得る。光測距/撮像デバイス3220は、上部回路基板アセンブリ3280に直接接続されることが可能であり、したがって、ダウンリンク光通信チャネルにアクセスして、さらなる使用のために測距データ及び動作データを下部回路基板アセンブリ3260に渡すことができる。幾つかの実施形態では、光ダウンリンクを介して光信号で受け渡されるデータは、フィールド内の個々のポイント(ピクセル)の範囲データ(または、場合によっては、例えば霧/雨の間にガラス窓を通してみるときの単一のピクセル及び角度についての複数の範囲)、方位角及び天頂角のデータ、戻り値または信号強度の信号対雑音比(SNR)、目標反射率、各ピクセルの視野から到来する周囲近赤外線(NIR)レベル、温度などの光測距/撮像デバイスからの診断動作情報、電圧レベルなどを含むことができる。加えて、回転アクチュエータの上部回路基板3280に接続された他の任意のシステムからのデータは、光ダウンリンクを介して受け渡され得る。例えば、高速RGBまたはサーマルカメラ、ラインスキャンカメラなどからのデータ。
下部回路基板アセンブリ3260からのアップリンク光通信チャネルは、光アップリンクトランスミッタ3278と光アップリンクレシーバ3298との間に作成され得る。幾つかの実施形態では、ベースコントローラ3266からの制御信号は、光アップリンク通信チャネルを介して光測距/撮像デバイス3220に渡され得る。例えば、幾つかの実施形態では、ベースコントローラ3266は、(ダウンリンクチャネルから受信した)デバイスにおける様々な温度を監視することができ、過熱状態の場合、緊急シャットダウン信号をアップリンクチャネルを介して光測距/撮像デバイス3220に送出することができる。幾つかの実施形態では、ベースコントローラは、モバイルコンピュータ、例えば、関連付けられたメモリ及びI/O能力(例えば、イーサネットなど)を有するARM+FPGAアーキテクチャを使用するプログラム可能なシステムオンチップであり得る。
1または複数の光パルスを光送信モジュール3240から光測距/撮像デバイスを取り囲む視野内の物体に送信することにより、光測距/撮像デバイス3220によって測距データが生成され得る。次いで、送信された光の反射部分が、いくらかの遅延時間の後、光感知モジュール3230によって検出される。
一般に「飛行時間」と呼ばれる遅延時間に基づいて、反射表面までの距離が決定され得る。例えば、連続波、ドップラーなどの他の測距法も使用することができる。
測距データに加えて、光測距/撮像デバイス3220は、周囲光に基づいて光強度データを生成することができる。例えば、光感知モジュール3230は、(例えば、上記のように)様々な波長帯域に調節された1または複数の周囲光センサチャネルを含むことができ、周囲光センサチャネルは、特定の時間間隔(本明細書では「シャッター間隔」と呼ばれる)中に検出されたチャネル波長帯域の光子をカウントするように動作することができる。特定のチャネルの光子カウントは、その波長帯域の光の強度を示す。他の周囲光センサチャネルを使用して、偏光(例えば、異なる配向の偏光チャネルによって検出された光子カウントの差を決定することによって)及び/または特定の波長での吸収(例えば吸収帯を含むより広い帯域に調節されたチャネルの光子の数に対する、吸収帯に調節された別のチャネルの光子の数と、吸収を示す吸収帯の欠如とを比較することによって)などの周囲光の他の特徴を測定することができる。
光送信モジュール3240は、エミッタアレイ3242(例えば、上記のエミッタアレイ1520)及び送信(Tx)光学系3244(例えば、上記のTx光学モジュールを含む)を含むことができる。光送信モジュール3240は、プロセッサ3246及びメモリ3248を更に含むことができるが、幾つかの実施形態では、これらのコンピューティングリソースは、測距/撮像システムコントローラ3250に組み込むことができる。幾つかの実施形態では、例えばバーカーコードなどのパルスコーディング技術を使用することができる。そのような場合、メモリ3248は、光をいつ送信すべきかを示すパルスコードを格納することができる。一実施形態では、パルスコードは、メモリに格納された整数のシーケンスとして格納される。
光感知モジュール3230は、センサアレイ3232及びレシーバ(Rx)光学系3234を含むことができる。センサアレイ3232は、例えば、センサアレイ200またはセンサアレイ400(または同様のセンサアレイ)の実装であり得、上記のように、LIDARセンサチャネル(または他の測距センサチャネル)及び周囲光センサチャネルの両方を組み込んだセンサチャネルの行を含むことができる。
上述のように、プロセッサ3236及びメモリ3238(例えば、SRAM)は、信号処理を実行することができる。測距センサチャネルに対する信号処理の例として、各光子検出器、または各光子検出器のグループについて、光感知モジュール3230のメモリ3238は、連続する時間ビンにわたって検出された光子のカウントを累積することができ、これらの時間ビンを組み合わせて使用して、反射された光パルスの時系列(すなわち、光子のカウント対時間)を再作成することができる。集計された光子カウントのこの時系列は、本明細書では強度ヒストグラム(または単にヒストグラム)と称される。加えて、プロセッサ3236は、SPADの飽和及びクエンチングに起因して起こり得るパルス形状歪みの影響を受けにくい光子時系列を回復するのに役立つ、整合フィルタリングなどの特定の信号処理技術を適用し得る。周囲光センサチャネルの信号処理の例として、各光センサ、または光センサのグループについて、光感知モジュール3230のメモリ3238は、単一の時間間隔(本明細書では「シャッター間隔」と呼ばれる)にわたって検出された光子のカウントを累積することができる。シャッター間隔は、例えば、測距センサチャネルの強度ヒストグラムを構築するために使用される時間ビンの総計の長さと同じくらいであり得るか、またはより長いまたはより短い時間間隔であり得る。シャッター間隔中に特定の周囲光センサチャネルによって累積された光子カウントは、その周囲光センサチャネルによって受信された光の強度を示すことができる。幾つかの実施形態では、プロセッサ3236は、信号処理技術、例えば、雑音を低減するため、及び/または強度測定値におけるチャネル間の変化量を補償するための較正ベースの補正を適用することができる。幾つかの実施形態では、測距/撮像システムコントローラ3250の1または複数のコンポーネントを、センサアレイ3232、プロセッサ3236、及びメモリ3238と同じASICに統合することもでき、それにより、測距コントローラモジュールを分離する必要がなくなる。
幾つかの実施形態では、プロセッサ3236からの出力は、さらなる処理のために測距/撮像システムコントローラ3250に送出される。例えば、データは、測距/撮像システムコントローラ3250の1または複数のエンコーダによってエンコードされ、次いで、光ダウンリンクを介してデータパケットとして下部回路基板アセンブリ3260に送出され得る。測距/撮像システムコントローラ3250は、例えば、ASICまたはASICの一部としてのFPGAなどのプログラマブルロジックデバイスを使用すること、プロセッサ3252をメモリ3254と共に使用すること、及び上記の何らかの組み合わせ、によることを含む複数の方式で実現され得る。測距/撮像システムコントローラ3250は、ベースコントローラ3266と協調するか、またはベースコントローラとは独立して(事前にプログラムされた命令を介して)動作して、光検出の開始及び停止を含み、光検出器パラメータを調節するコマンドを送出することにより、光感知モジュール3230を制御することができる。同様に、測距/撮像システムコントローラ3250は、発光の開始及び停止の制御と、(波長調節のための)エミッタ温度制御、エミッタ駆動電力及び/または電圧などの他の光エミッタパラメータを調整し得る制御と、を含むコマンドを送出するか、またはベースコントローラ3266からのコマンドを中継することにより、光送信モジュール3240を制御することができる。
エミッタアレイ3242が複数の独立した駆動回路を有する場合には、測距/撮像システムコントローラ3250によって適切に順序付けられ得る複数のオン/オフ信号があり得る。同様に、エミッタアレイがアレイ内の異なるエミッタを異なるように調節するために複数の温度制御回路を含む場合、トランスミッタパラメータは複数の温度制御信号を含むことができる。幾つかの実施形態では、測距/撮像システムコントローラ3250は、光感知モジュール3230及び光送信モジュール3240とデータを交換するための1または複数の有線インターフェースまたはコネクタを有する。他の実施形態では、測距/撮像システムコントローラ3220は、光通信リンクなどの無線相互接続を介して、光感知モジュール3230及び光送信モジュール1840と通信する。
スキャン測距/撮像システムの特定の例が詳細に説明されているが、本開示にアクセスすることができる当業者は、二次元でラスタースキャンを実行するスキャン測距/撮像システムを含む他の実装が可能であることを認識するであろう。ラスタースキャン機構は、例えば、センサアレイを二次元で移動させるための電気モータ(例えば、直交軸に沿ったまたはその周りの線形または回転運動と組み合わされた1つの軸の周りの回転運動)、2つ以上の直交軸の周りで回転可能であるチップチルトミラーシステム、またはセンサアレイ及びミラーシステムの動作の組み合わせ(例えば、ラスタースキャン機構は、センサアレイを一方向に移動させ、ミラーを移動させて直交方向のスキャンを提供し得る)を含み得る。
3.2.スキャン測距/撮像システムの動作
撮像動作の例では、光測距/撮像デバイス3220の回転(または他のスキャン)は、視野内の所与の場所が、センサアレイの行の各センサチャネルによって連続的に撮像されるように、シャッター間隔(LIDARアクティブ感知間隔に対応し得る)と調整され得る。つまり、シャッター間隔間の時間は、隣接する画像ピクセル間の角距離を撮像/LIDARセンサアレイの回転速度で割った値に基づくことができる。センサチャネルは空間内の同じ点を(わずかに異なる時間に)撮像するため、異なるチャネルから取得された画像間の登録は固有であり、物体の特定またはポイントマッピングアルゴリズムは必要ない。更に、撮像動作の速度が十分に速い場合、連続するチャネルでの撮像の間でほとんど変化が生じていないと想定することができ、画像は同じシーンに対応する。したがって、幾つかの実施形態では、センサアレイ200またはセンサアレイ400などの行ベースのセンサアレイは、広い視野(例えば、最大360度)にわたるマルチスペクトル撮像を可能にすることができる。
図33A及び33Bは、上記のセンサアレイ200またはセンサアレイ400と同様の撮像/LIDARセンサアレイを使用する、撮像チャネル間の固有の登録を伴うマルチスペクトル撮像の例を例解する。図33Aは、スキャンされる視野3300(例えば、360度の視野)を示す。例示のために、撮像プロセスの説明は、視野3300内の特定の画像領域3302を参照するが、しかしながら、同じ原理は、視野3300のすべての部分に適用することができる。
図33Bは、行ベースの撮像/LIDARセンサアレイ(例えば、センサアレイ200、400、または500のいずれか)を使用して、領域3302の本質的に登録された画像のセットを作成するスキャン動作における連続する段階でのデータ収集の進行を示す。この例では、センサアレイ(明示的には示されない)は、各センサ行内に、異なる色(または波長領域)に調節された5つの周囲光チャネル、及び1つのLIDARチャネルを有すると想定される。また、センサアレイの列内の周囲光センサチャネルは、均一な線形ピッチpだけ離間され、撮像/LIDARセンサアレイに提供されたバルク光学モジュールは、ピッチ角αを通った撮像/LIDARシステムの回転が、視野をほぼ線形ピッチpだけシフトするような(例えば、上記のように)Ftanθ焦点距離歪みプロファイルを有すると想定される。
第1時間(t=1)で、センサアレイは、第1シャッター間隔で動作する。各チャネルは、代表的な色付きのドット3305によって示されるように、領域3302内の異なる位置(または物体空間ピクセル)に対応するデータを収集する。例えば、ボックス3309によって示される物体空間ピクセルは、緑色のセンサチャネル3306Gによってサンプリング(または撮像)される。センサチャネルの実際の数は、図33Bに示される色付きのドット3305の数よりも著しく大きくなり得、例えば、センサの行が5つを超えている場合があり、行の密度が表示されるものよりも著しく高い場合があることを理解されたい。
時間t=2で、センサアレイは、ピッチ角αを通って移動し、これは、領域3302に対して、ライナーピッチpに等しい距離だけ各チャネルを右にシフトし、色付きのドット3305は、1ピッチ右にシフトしている。このとき、センサアレイは、第2シャッター間隔で動作し、そこでは物体空間ピクセル3309が黄色のセンサチャネル3306Yによってサンプリングされる。(時間t=2以降の場合、白いドット3307は、前のシャッター間隔で、付きのドット3305に対応する少なくとも1つのセンサチャネルによってサンプリングされたが、現在、色付きのドット3305のいずれかに対応するチャネルによってサンプリングされていない場所を示す。)
時間t=3で、センサアレイは、再び同じピッチ角αを通って移動し、各チャネルをもう1つのピッチだけ右にシフトし、時間t=3で、物体空間ピクセル3309がオレンジ色のセンサチャネル3306Oによってサンプリングされるようにする。同様に、時間t=4で、物体空間ピクセル3309は、赤色のセンサチャネル3306Rによってサンプリングされる。このように進めると、物体空間ピクセル3309(及び領域3302内の他の場所)は、LIDARセンサチャネル3312を含む、センサアレイの特定の行内に存在するあらゆるセンサチャネルによって最終的にサンプリングされ得る。チャネルピッチは、小さくてもよく、360度回転あたりのサンプリング間隔の数は、大きくてもよく(例えば、1回転あたり1024、2048、または4096のサンプリング間隔)、図33Bで示唆されるよりも高い画像解像度を提供することを理解されたい。物体空間ピクセルのサイズ及び形状は、センサアレイの行の間隔(及び視野のサイズ)によって非スキャン方向に決定され、連続するサンプリング動作間の角度によってスキャン方向に決定される。特定のシステム設計に応じて、物体空間ピクセルは、単純なアスペクト比(例えば、1:1または2:1など)を有することができ、画像処理及び画像分析を容易にすることができる。
この例では、行内の隣接する周囲光センサチャネルは、異なるセンサを使用して捕捉された画像の固有の登録を容易にする均一なピッチpを有する。示されるように、LIDARセンサチャネル3302は、周囲光センサチャネルの均一なピッチよりも大きな間隔を有する。幾つかの実施形態では、ある行内のLIDARセンサチャネル3312と隣接する周囲光センサとの間の間隔は、周囲光センサチャネルの均一ピッチpの整数倍であり得(例では、センサの最上行は、最も近い周囲光センサチャネルから2pだけ離間されたLIDARセンサチャネル3312を有する)、これにより、更に、LIDARセンサチャネルと周囲光センサチャネルとの間の固有の登録が可能になる。(これは図33Bに示される。)より一般的には、ある行内の異なるセンサチャネルからのデータは、センサチャネルの角度ピッチが、連続するシャッター間隔間の角度変位(または測定角度)の整数倍であるという条件で、視野内の同じ場所に本質的に登録され得、これは、撮像/LIDARセンサアレイに提供されたバルク光学モジュールがFtanθ焦点長歪みプロファイルを有する場合である。この条件が満たされない実施形態では、撮像動作を実行することができ、異なるセンサチャネルからのデータを使用して、確実に登録された画像を生成することができる(異なるセンサチャネル間の空間的関係が固定されているため)が、しかしながら、画像処理は、より複雑になる可能性がある。
幾つかの実施形態では、回転測距/撮像システムは、連続的に(例えば、10~30Hzの速度で)回転することができ、現在の回転角に基づいて、データ収集をいつ開始及び停止するかを決定することができる。例えば、図32を参照して上で説明したように、回転アクチュエータ3215は、回転エンコーダ3274を含むことができ、回転エンコーダレシーバ3294は、上部回路基板アセンブリ3280(センサアレイ3232にしっかりと接続されている)の角度位置を追跡することができる。均一に離間された角度位置に対応するM「測定角度」のセットφi(i=1,2...Mの場合)は、整数Nの場合にφi-φi-1=α/N(式中、αは、センサアレイのピッチ角である)となるように画定することができる。幾つかの実施形態では、N=1である。測定角度の数字Mは、M=360°/(α/N)(またはより一般的にはΘ/(α/N)として選択することができ、式中、Θは、スキャン中にセンサアレイが移動する角度である。一例では、回転エンコーダ3274は、2048ステップを有し、センサアレイ及びバルク光学モジュールは、α=360°/2048となるように設計される。
センサアレイ3232は、(光測距/撮像デバイス3220の残りの部分と共に)均一な角速度で連続的に回転することができ、LIDARセンサチャネルは、信号を連続的に生成することができる。メモリ3238は、連続する時間ビンにわたって検出された光子のカウントを累積することができ、これを使用して、上記のように強度ヒストグラムを作成することができる。コントローラ(例えば、図32のR/Iシステムコントローラ3250)は、エンコーダ位置が測定角のうちの1つφiに対応するときを示す信号を受信することができる。この信号は、「マーカー」信号とも呼ばれ、LIDARセンサチャネルの連続する測定期間の間の境界を示す。この信号に応答して、メモリ3238に収集されたヒストグラムデータは、分析のためにデジタル信号プロセッサ(DSP)(例えば、プロセッサ3236)に送信することができ、これには、例えば、ヒストグラムデータにフィルタを適用して、反射されたLIDARパルスの受信の正確な時間を決定することが含まれ得る。同じ信号に応答して、メモリ3238は、次のヒストグラムのためにデータの累積を開始することができる。幾つかの実施形態では、メモリ3238は、光子カウントを格納するための専用の2つ(またはそれ以上)のバンクを含むことができ、代替の測定期間からの光子カウントデータを、代替のバンクに格納することができる。
幾つかの実施形態では、マーカー信号はまた、周囲光センサチャネルのシャッター間隔を開始するためのトリガーとして使用することができる。シャッター間隔中、(シャッター間隔全体で累積された)単一の光子カウントは、各周囲光センサチャネルで受信された信号から決定することができる。各周囲光センサチャネルからの光子カウントは、LIDARセンサチャネルからのヒストグラムデータと共にDSPに送信することができる。シャッター間隔は、必要に応じて、測定期間と同じ期間、または異なる(例えば、より短い)期間を有することができる。幾つかの実施形態では、シャッター間隔は、例えば、1または複数の周囲光センサチャネルの現在の光レベルに基づいて、動的に可変であり得、光センサを飽和させることを回避するためにより短いシャッター間隔が選択され、低光量の条件下では、より長いシャッター間隔が選択される。
測定中の連続回転は、上記のようにマルチスペクトルセンサアレイで使用することができる。測定中の連続回転はまた、LIDARチャネルの複数の列を含むLIDARのみのセンサアレイ(例えば、図1に示すように千鳥状であり得る、及び/または異なる放出周波数に調節され得る)などの他のタイプのセンサアレイでも使用することができる。連続回転は、必須ではないことも理解されたい。幾つかの実施形態では、回転測距/撮像システムは、段階的にデータを回転及び収集することができ、例えば、第1測定角度に回転し、測定期間のデータを収集し、次いで次の測定角度に回転し、データ収集を繰り返す。
3.3.周囲光チャネルでの解像度を増加させたスキャン
図33A~33Bの例では、マルチスペクトルセンサアレイを使用するスキャン測距/撮像システムは、すべてのチャネルタイプに対して同じ空間解像度を有する画像を生成する。幾つかの用途では、LIDARチャネルの数に比べて周囲光センサチャネルの空間解像度を増加させることが望ましい場合がある。次に、スキャン方向及び非スキャン方向の両方で周囲光センサチャネルの空間解像度を向上させる(増加させる)ことができるマルチスペクトルセンサアレイの例について説明する。
図34は、幾つかの実施形態による、センサアレイ3400の簡略正面図を示す。センサアレイ3400は、LIDARセンサチャネル202を備える、上記の図2のセンサアレイ200と同様の1Dセンサアレイであり得、LIDARセンサチャネルの各々は、周囲光センサチャネル3406a~dを含む行3404に関連付けられる。この例では、周囲光センサチャネル3406a~dは各々、同じタイプの光学フィルタを有し、これは、例えば、広域スペクトル可視光フィルタ(例えば、約425nm~約700nmの通過帯域を有する)であり得る。様々なタイプの光学フィルタ(例えば、偏光フィルタ、色フィルタなど)を使用することができ、幾つかの実施形態では、周囲光センサチャネル3406a~dは、光学フィルタを有しない場合があり、その場合、周囲光センサチャネル3406a~dによって検出可能な波長範囲は、周囲光センサチャネル3406a~d内の光センサの波長範囲によって決定される。周囲光センサチャネル3406a~dは、異なる「サブピクセル」開口を有する(暗い四角3410によって示される)。暗い正方形3410は、開口面内の開口部を示し、開口面は、チャネル3406a~dに関連付けられた領域の他の部分上で不透明であることを理解されたい。この例では、各サブピクセル開口は、チャネル領域の異なる象限を露出する。
動作中、センサアレイ3400は、図33A及び33Bを参照して、上記のようにスキャンを実行することができる。周囲光センサチャネル3406a~dが、物体空間ピクセルを横切ってスキャンされると、各チャネル3406a~dは、同じタイプの光学フィルタを使用して、異なる「サブピクセル」(すなわち、物体空間ピクセルの総面積のサブセット)をサンプリングする。このようにして、LIDARチャネル202の解像度の4倍の解像度を有する周囲光画像を生成することができる。したがって、チャネル3406a~dなどの周囲光センサチャネルは、「高解像度」周囲光センサチャネルとも呼ばれる。
図34の例では、各周囲光センサチャネル3406aは、入射光の4分の1を受信する。他の実施形態では、空間エンコードスキームを使用して、より多くの光を受け入れながら、更に、サブピクセル解像度を有するデータを提供することができる。例えば、図35は、幾つかの実施形態による、空間的にエンコードされたサブピクセル開口を備える4つの周囲光センサチャネル3506a~dのセットを示す。この例では、チャネル3506aの開口(暗い領域)は、チャネル領域全体を露出し、チャネル3506b、3506c、及び3506dの開口は、各々、チャネル領域の異なる象限(白い領域)を閉塞する。チャネル3506a~dからの強度測定値(例えば、光子カウント)C0~C3は、算術論理回路3520に提供することができ、算術論理回路3520は、以下の方程式を実装して、ピクセル3524のサブピクセル(S0、S1、S2、S3)のサブピクセル値を計算することができる。
S1=C0-C3 (2a)
S2=C0-C2 (2b)
S3=C0-C1 (2c)
S0=C0-(C1+C2+C3)=C1+C2+C3-2C0 (2d)
図34及び35の例は、各方向の画像解像度を2倍にするチャネル領域の象限としてのサブピクセルを示す。他の実施形態は、解像度の異なる増加を提供することができる。例えば、より小さな(チャネル領域と比較して)サブピクセル開口を有するより多くの周囲光チャネル3406または3506を提供することによって、より高い解像度を達成することができ、解像度の上限は、許容可能な精度で強度を測定するために必要な開口サイズに基づき得る。幾つかの実施形態では、サブピクセル開口は、サブピクセルが正方形グリッドを形成するように配置される(例えば、図34及び35に示されるように)が、これは必須ではなく、他のサンプリングパターン(正方形パターンではなく長方形パターンを含む)を使用することができる。更に、図34及び35に示される開口は、正方形または6面領域(一隅に正方形のくぼみがある)のいずれかであるが、これも必須ではなく、円形開口または他の形状を有する開口を使用することもできる。サブピクセルサンプリングに使用される周囲光センサチャネルのグループ内のすべての周囲光センサチャネルは、同じタイプの光学フィルタを有するため、各情報で同じスペクトル情報がサンプリングされ、その効果は、サンプリングの空間解像度を増加させることであると想定される。広域スペクトルフィルタ、狭帯域フィルタ、またはその他のタイプの光学フィルタを含む、特定のフィルタタイプを必要に応じて選択することができる。
図34及び35の例では、空間解像度は、サブピクセル開口を使用することによって、スキャン方向及び非スキャン方向の両方で増加する。このアプローチ(空間エンコーディングを伴うまたは伴わない)は、サブピクセルごとに1つの周囲光センサチャネルを使用して、例えば、4つの周囲光センサチャネルを使用して空間解像度を4倍に増大させるか、16個の周囲光センサチャネルを使用して16倍に増大させることを含む。他の実施形態では、スキャン方向のサンプリング解像度は、時間的細分化を使用することによって増加させることができ、非スキャン方向のサンプリング解像度は、サブピクセル開口を使用することによって増加させることができる。これにより、例えば、4つの周囲光センサチャネルが、空間解像度を16倍に増大させることを可能にすることができる。
幾つかの実施形態では、時間的細分化は、複数の積算レジスタを使用して、各周囲光センサチャネルの強度データ(例えば、光子カウント)を累積することによって提供することができ、異なる積算レジスタは、シャッター間隔の異なる部分の間、アクティブである(シャッター間隔は、図33Bを参照して上記に説明される)。センサアレイが、シャッター間隔中に連続的に回転していると仮定すると、これは、物体空間ピクセルが占める領域のスキャン方向(便宜上「列領域」と呼ばれる)に沿った異なる部分の強度を個別に測定する効果を有する。
図36は、幾つかの実施形態による、複数の積算レジスタ3602を備える読み出しデータパスの簡略概略図を示す。この例では、特定の周囲光センサチャネルの光センサ3604が、各時間ビン(図32を参照して上で説明したように)のデータ(例えば、光子カウント)を提供すると想定され、時間ビンは、シャッター間隔より短い。各時間ビンの光子カウントは、積算レジスタ3610のバンク内の選択された積算レジスタ3602に配信され、選択された積算レジスタ3602は、光センサ3604から受信した光子カウントをその現在の格納された値に追加する。選択信号は、バンク選択論理3606によって提供され、積算レジスタ3602のうちの1つを選択する。
示される例では、積算レジスタは、次のように動作し、各クロックサイクルで、マルチプレクサ3620は、選択論理3606によって制御されて、現在選択されている積算レジスタ3602のうちの1つから格納された値を読み出す。このように選択された現在値3622は、算術論理演算装置(ALU)3624に送られ、算術論理演算装置(ALU)3624はまた、光センサ3604から新しい光子カウントを受信する。ALU3624は、新しい光子カウントを現在値3622に追加し、その結果を積算レジスタバンク3610に配信する。選択論理3606は、積算レジスタ3602のうちの現在のものを選択して、新しい値を受信する。他の実装も使用することができる。
(N)個の積算レジスタを備えるスキャン測距/撮像システム(例えば、上記のシステム3200)の幾つかの実施形態では、選択論理3606は、シャッター間隔を、N個のサブ間隔に分割し(各サブ間隔は、1または複数のクロックサイクルを含む)、各サブ間隔に対して積算レジスタ3602のうちの異なるものを選択し、その結果、各積算レジスタ3602は、サブ間隔の異なる時間部分(1/N)のピクセルカウントを累積する。例えば、選択論理3606は、(図32に示されるように)回転エンコーダ3274を使用して、サブ間隔を画定することができ、またはサブ間隔は、既知のスキャン速度に基づく位置のプロキシとして使用されるタイマーに基づいて画定することができる。シャッター間隔の終わりに、各積算レジスタ3602を読み出して、ピクセルあたりN個の強度測定値を提供することができる。
このように各シャッター間隔を一時的に細分化すると、スキャン方向のサンプリング解像度を増加させることができる。図37は、幾つかの実施形態による、車両3703のための複数の積算レジスタを使用する周囲光測定を例解する。この例では、スキャン測距/撮像システム3701(例えば、上記のシステム3200の実装であり得る)は、車両3703の上部に取り付けられ得る。スキャン測距/撮像システム3701は、その中心軸の周りを毎秒何回も(例えば、30Hzで)回転して、周囲領域をスキャンし、図33Bを参照して上で説明したように、マルチスペクトル画像を生成するように構成され得る。
スキャン測距/撮像システムが周囲光センサチャネルの時間的細分化を提供する実施形態では、スキャン方向における周囲光画像の空間解像度は、積算レジスタの数に基づいて増加させることができる。図37の例では、積算レジスタバンク3710(上記の積算レジスタバンク3610と同様に動作することができる)は、4つの積算レジスタ3712a~dを含む。シャッター間隔に対応する角回転3702の増分は、4つの角度増分に細分化することができ、その各々の間に、受信した光子カウントは、積算レジスタ3712a~dのうちの対応するもの(矢印3716a、3716bによって示される)に累積される。これにより、周囲光画像の空間解像度がスキャン方向で4倍に増加する。
非スキャン方向の周囲光画像の空間解像度を増加させることも望ましい場合がある。幾つかの実施形態では、空間的にエンコードされたサブピクセル開口を有する複数の周囲光センサチャネルを、この目的のために使用することができる。図38Aは、幾つかの実施形態による、空間的にエンコードされたサブピクセル開口を提供する4つの周囲光センサチャネル3806a~dのセットを示す。周囲光センサチャネル3806a~dを使用して、スキャン方向及び非スキャン方向の両方で解像度を4倍に増加させることができる。この例では、周囲光センサチャネル3806aの開口(斜線領域)は、総チャネル面積の4分の1を露出し、一方、周囲光センサチャネル3806b~dの開口は、各々、総チャネル面積の3/16を露出する。チャネル3806a~3806dからの強度測定値(例えば、光子カウント)C0~C3は、算術論理回路3820に提供することができ、これは、以下の方程式を実装して、ピクセル3824の4つのサブピクセル(S0、S1、S2、S3)のサブピクセル値を計算することができる。
S1=C0-C2 (3a)
S2=C0-C3 (3b)
S3=C0-C1 (3c)
S1=C0-(S1+S2+S3)=C2+C3+C1-2C0 (3d)
ピクセル3824について示されるように、4つのサブピクセルS0、S1、S2、S3は、ピクセル3824の全領域の幅(スキャン方向)の4分の1である列領域内の異なる行を占める4つのピクセルに対応する。
ピクセルのすべての列領域内にサブピクセルを完全に配置するために、図37に例解するような時間的細分化を使用して、単一の周囲光センサチャネルが、シャッター間隔中に異なる列領域を順次サンプリングすることを可能にすることができる。図38Bは、幾つかの実施形態による、図38Aの周囲光センサチャネル3806aの時間的細分化の効果を示す。この例では、シャッター間隔は、図37を参照して上で説明したように4つのサブ間隔に分割される。シャッター間隔は、t=0~t=1まで続くと想定される。第1サブ間隔(t=0で始まる)の間に、周囲光チャネル3806aの開口は、物体空間ピクセル3824の列領域3832aに露出され、列領域3832aの強度C00が測定される。第2サブ間隔(t=0.25で始まる)の間に、周囲光チャネル3806aの開口は、物体空間ピクセル3824の列領域3832bに露出され、列領域3832bの強度C01が測定される。第3サブ間隔(t=0.5で始まる)の間に、周囲光チャネル3806aの開口は、物体空間ピクセル3824の列領域3832cに露出され、列領域3832cの強度C02が測定される。第4サブ間隔(t=0.75で始まる)の間に、周囲光センサチャネル3806aの開口は、物体空間ピクセル3824の列領域3832dに露出され、列領域3832dの強度C03が測定される。したがって、シャッター間隔の時間的細分化を使用して、周囲光センサチャネル3860aは、物体空間ピクセル3824の各列領域を連続的にサンプリングして、4つの強度値を提供することができる。図33Bを参照して上記で説明したように、周囲光センサチャネル3806bは、1つのシャッター間隔(またはシャッター間隔の幾つかの他の整数)のオフセットを用いて、図38Bに示されるのと同じ方法で物体空間ピクセル3824を横断し、4つの強度値を生成することができ、周囲光センサチャネル3806c及び3806dの場合も同様である。図38A及び式(3a)~(3d)の計算論理を、各列の4つの強度値に別々に適用すると、4つの周囲光センサチャネルを使用して合計16個のサブピクセルサンプルが提供される。したがって、物体空間ピクセルの空間的及び時間的細分化の組み合わせは、スキャン方向及び非スキャン方向の両方で解像度が増大した周囲光画像を提供することができる。ここに示される例は、各方向で4倍の解像度を増加させるが、他の実施形態は、必要に応じて、より大きいまたはより少ない増大を提供し得る。
本明細書で説明される空間的及び時間的細分化の例は例示的であることが理解されよう。特定の周囲光センサチャネルに割り当てられた開口の特定の数、形状、及びサイズを変化させることができ、任意の増大係数を実現することができる(光センササイズ及び製造し得る開口の最小サイズなどの物理的制約の影響を受ける)。したがって、スキャン方向及び/または非スキャン方向の空間解像度は、所望の程度まで増大することができ、スキャン方向及び非スキャン方向の増大は、等しい必要はない。本明細書で説明される空間解像度の増大は、使用される光学フィルタに関係なく、任意のタイプの周囲光センサチャネルに適用することができる。
3.4.静的測距/撮像システム
上記で説明したような回転測距/撮像システムは、センサアレイ200、センサアレイ400、またはセンサアレイ500などのマルチスペクトルセンサアレイを使用して実装することができ、異なるタイプのセンサチャネルが、視野にわたってスキャンされる行に沿って配置される。上記の他のセンサアレイの例(例えば、センサアレイ600、センサアレイ900)は、同一のマルチスペクトル及び/またはハイブリッドセンサチャネル(またはピクセル)の2Dアレイを提供する。このようなアレイは、回転システムで使用され得るが、マルチスペクトルまたはハイブリッドピクセルの2Dアレイには、二次元の視野を撮像するために、回転またはその他のスキャン動作は必須ではない。したがって、幾つかの実施形態は、撮像操作を実行するために、センサアレイが移動しない静的(または「固体」)測距/撮像システムを提供する。静的測距/撮像システムは可動性であり得ることを理解されたい。例えば、1または複数の静的測距/撮像システムを車両に取り付けることができる。
図39は、幾つかの実施形態による、静的撮像/LIDARシステム3900の構造の簡略化された例を示す側面図である。静的測距/撮像システムの一例である撮像/LIDARシステム3900は、ハウジング3922を含むことができ、ハウジングは、エミッタモジュール(Tx)3902及び光センサモジュール(Rx)3904を保持する。ハウジング3922は、車両または測距/撮像センサが望ましい任意の他の場所に取り付けることができる。
図40及び41は、様々な実施形態による車載静的電子測距/撮像システムの例示的な実装の簡単な図解である。具体的には、図40は、静的測距/撮像システム4002a~dが自動車などの道路車両4005の外側領域に実装される実装4000を例解し、図41は、静的測距/撮像システム4102a~bが道路車両4105の上部に実装される実装4100を例解する。各実装では、LIDARシステムの数、LIDARシステムの配置、及び各LIDARシステムの視野は、全体ではないにしても、車両を囲む環境の360度の視野の大部分を取得するために、選択され得る。LIDARシステムの自動車実装は、本明細書では単に説明のために選択され、本明細書で説明されるセンサは、例えば、ボート、航空機、列車などの他のタイプの車両で、及び図32を参照して上記に述べた用途のいずれかなどの、3D深度画像が有用な様々な他の用途で、利用され得る。静的及び回転測距/撮像システムを一緒に使用することができ、幾つかの測距/撮像システムは、静的モードまたは回転モードで選択可能な動作のために構成され得ることも理解されたい。
図40を参照すると、静的測距/撮像システム4002a~dは、車両の外側領域、フロント及びバックフェンダーの近くに取り付けることができる。静的測距/撮像システム4002a~dは各々、車両4005の最も外側のコーナの近くに位置付けられるように、車両4005のそれぞれのコーナに位置付けることができる。このようにして、静的測距/撮像システム4002a~dは、領域4006a~dのフィールド内の物体からの車両4005の距離をより良好に測定することができる。各静的測距/撮像システムは、各ユニットがそれ自体で捕捉することができるよりも大きい複合視野を捕捉することができるように、異なる方向を(おそらくユニット間で部分的に重なる及び/または重ならない視野を有して)向くことができる。シーン内の物体は、LIDAR Txモジュール4008から放出される光パルス4010の部分を反射することができる。次いで、光パルス4010の1または複数の反射部分4012は、静的測距/撮像システム4002aに戻り、Txモジュール4008と同じハウジング内に配設することができるRxモジュール4009によって受信することができる。Rxモジュール4009は、周囲光ならびにLIDAR Txモジュール4008からの反射光を受信するマルチスペクトルセンサアレイ(例えば、上記で説明したように)を含むことができる。
幾つかの実施形態では、静的測距/撮像システム4002a~dの各々は、その視野全体(それぞれ、領域4006a~dとして示される)を一度に撮像することができる。他の実施形態では、静的測距/撮像システム4002a~dは、シーンを電子的にスキャンして、シーンの画像を捕捉することができる。本明細書で使用される場合、「電子スキャン」は、センサアレイの物理的移動(例えば、再配向)を伴わずに、異なる時間にシーンの異なる部分のデータを収集することを指し、したがって、電子スキャンは、上記の回転/スピニング動作とは区別される。電子スキャンは、例えば、LIDARエミッタアレイの異なる部分及びLIDARセンサチャネルの対応するサブセットを異なる時間に作動させることによって、またはチップベースのビーム操縦技術などの他の手段によって、例えば、デジタルマイクロミラー(DMD)デバイス、デジタル光処理(DLP)デバイスなどの1または複数のMEMSベースの反射器を採用するマイクロチップを使用することによって、Txモジュール4008からの光を操縦して、異なる時間にセンサアレイの異なる部分上に反射することによって、実施することができる。したがって、静的測距/撮像システム4002aは、ポイント4020と4022の間を電子的にスキャンして、領域4006aのフィールド内の物体を捕捉することができ、システム4002b~d及び領域4006b~dについても同様である。
図40は、車両の四隅に取り付けられた4つの静的電子スキャンLIDARシステムを例解するが、実施形態は、そのような構成に限定されない。他の実施形態は、車両の他の領域に取り付けられたより少ないまたはより多い静的測距/撮像システムを有することができる。例えば、図41に示すように、静的測距/撮像システムシステムは、車両の屋根に取り付けることができる。そのような実施形態では、静的測距/撮像システム4102a~bは、車両4105の周りの領域4107a~bをより良好によく観察するために、より高い視点を有することができる。
言及されたように、静的測距/撮像システムの数、静的測距/撮像システムの配置、及び各静的測距/撮像システムの視野は、全体ではないにしても、車両を囲む環境の360度の視野の大部分を取得するように選択され得る。したがって、各静的測距/撮像システム4002a~dは、4つのシステム4020a~dすべてが実装されたとき、車両4005の周りの360度の視野の実質的な大部分を観察することができるように、約90度の視野を有するように設計され得る。各静的測距/撮像システム4002a~dが、90度未満の視野、例えば45度の視野を有する実施形態では、視野を拡大して単一の静的測距/撮像システムの視野より大きい複合視野を達成するように、1または複数の追加の静的測距/撮像システムを実装することができる。
図42は、本開示の幾つかの実施形態による、拡大された視野を達成するための、放出及び検出システムの複数のセットを含む例示的な静的測距/撮像システム4200の簡略平面図である。図42に示すように、静的測距/撮像システム4200は、中央支持構造4204に取り付けられた放出及び検出システム4202a~iのセットを含むことができ、放出及び検出システムの各セットは、それぞれの光放出システム、例えば、図15の光送信システム1510、及び光検出システム、例えば、図15の光検出システム1540を含む。各セットは、支持構造4204の中心から半径方向外側に配置され得、セットは、それらの視野が互いに隣接して、単一の放出及び検出システムの単一セットの視野よりも何倍も大きい複合視野4206を形成するように、並んで位置付けられ得る。複数の放出検出システムはすべて、共通のLIDARコントローラによって同期及び制御され得、エンドユーザが単一のシステムのように見えるものと対話するようになる。加えて、個々の放出検出システムを、すべて固定ピクセルグリッドに位置整合させて、データがより広い視野、固定視野グリッドで動作する高解像度システムをシミュレートするようにする。
図43は、本開示の幾つかの実施形態による、例示的な静的測距/撮像システム4300のブロック図を例解する。静的測距/撮像システム4300は、光測距/撮像デバイス4302及びユーザインターフェース4350を含むことができる。光測距/撮像デバイス4302は、測距/撮像システムコントローラ4304、光送信(Tx)モジュール4306、及び光感知(Rx)モジュール4308を含むことができる。1または複数の光パルス4310を光送信モジュール4306から光測距/撮像デバイス4302を取り囲む視野内の物体に送信することにより、測距データが光測距/撮像デバイス4302によって生成され得る。次いで、透過光の反射部分4312が、いくらかの遅延時間の後、光感知モジュール4308によって検出される。遅延時間に基づいて、反射面までの距離が決定され得る。例えば連続波、光復調、ドップラーなどの他の測距法も使用することができる。スペクトル画像データは、光子カウンティングモードでセンサアレイ4308に含まれる周囲光センサチャネルを動作させることによって、光測距/撮像デバイス4302によって生成され得る。
光送信モジュール4306は、エミッタの一次元または二次元アレイであり得るエミッタアレイ4314と、エミッタアレイ4314と一緒になって、図15の光送信システム1510と同様の光放出システム4338を形成することができるTx光学系4316とを含む。Txモジュール4306は、任意のプロセッサ4318及びメモリ4320を更に含むことができるが、幾つかの実施形態では、これらのコンピューティングリソースは、測距/撮像システムコントローラ4304に組み込むことができる。幾つかの実施形態では、例えばバーカーコードなどのパルスコーディング技術を使用することができる。そのような場合、メモリ4320は、光をいつ送信すべきかを示すパルスコードを格納することができる。幾つかの実施形態では、パルスコードは、メモリに格納された整数のシーケンスとして格納される。
光感知モジュール4308は、センサアレイ4326を含むことができ、これは、例えば、センサアレイ600またはセンサアレイ900などの、上記の2Dマルチスペクトルセンサアレイのいずれかであり得る。
幾つかの実施形態では、光測距/撮像デバイス4302は、電子スキャンモードで動作することができ、シーンの少なくともLIDAR画像は、一度にエミッタのサブセットのみを起動し、エミッタの発射と同時にLIDARセンサチャネルの対応するサブセットのみを読み出すことによって捕捉される。異なる時間にエミッタの異なるサブセットが起動され、LIDARチャネルの対応するサブセットが同時に読み出され得るため、最終的にすべてのエミッタが起動され得、センサアレイ内のすべてのLIDARチャネルを1つの放出サイクルを通して読み出すことができる。例として、エミッタアレイは、各放出サイクルで左から右に順番に1列ずつ起動することで光を放出することができるが、センサアレイは、対応するシーケンスで対応するLIDARチャネルを読み出すように構成することができる。周囲光チャネルは、同じマルチスペクトルピクセルに対応するLIDARチャネルと同期して、または幾つかの他の方法で読み出すことができる(例えば、すべての周囲光チャネルを同時に読み出すことができる)。
電子スキャンを容易にするために、静的測距/撮像システムの幾つかの実施形態は、光の放出及び感知を同期させるための1または複数のコンポーネントを含むことができる。幾つかの実施形態では、光検出システム4336は、センサアレイ4326に結合され、センサアレイ4326の動作を制御するように構成されたセンサコントローラ4325を含むことができる。センサコントローラ4325は、ASIC、マイクロコントローラ、FPGA、またはマルチプレクサなどの選択回路に結合された他の任意の好適なプロセッサなど、1または複数の光センサを選択して光を感知することができる任意の好適なコンポーネントまたはコンポーネントグループであり得る。同様に、光放出システム4338は、エミッタアレイ4314に結合され、センサアレイ4326の動作を制御するように構成されたエミッタコントローラ4315を含むことができる。エミッタコントローラ4315はまた、センサコントローラ4325について上述した任意の好適なプロセッサであり得、エミッタアレイ4314を動作させるための1または複数の駆動部品を含み得る。
幾つかの実施形態では、センサコントローラ4325及びエミッタコントローラ4315は、エミッタアレイ4314内の光放出のシーケンスが、センサアレイ4326内の光センサ(すべてのセンサタイプまたはLIDARチャネルのみの)を読み出すシーケンスと同期するように同期される。一例として、センサコントローラ4325及びエミッタコントローラ4315の両方を、両方のコントローラが同じタイミングスキームに基づいて動作され得るように、クロック4317に結合することができる。クロック4317は、デジタル回路の動作を調整するために、特定の速度で高状態と低状態との間で振動する特定の信号を生成する電気部品であり得る。任意選択で、センサコントローラ4325及びエミッタコントローラ4315は、独自の動作を調整するための独自のクロック回路を含むことができる。そのような実施形態では、センサコントローラ4325及びエミッタコントローラ4315は、センサコントローラ4325がそのクロックをエミッタコントローラ4315と同期させることができるように、通信線4319を介して互いに通信可能に結合することができる。そのようにして、センサコントローラ4325及びエミッタコントローラ4315は、画像捕捉を達成するために、それぞれ同期して、センサアレイ4326及びエミッタアレイ4314を操作することができる。
幾つかのさらなる実施形態では、センサコントローラ4325及びエミッタコントローラ4315の代わりに、またはそれに加えて、測距/撮像システムコントローラ4304は、光感知モジュール4308及び光送信モジュール4306の動作を同期させるように構成することができ、そのため、エミッタアレイ4314による光放出のシーケンスは、センサアレイ4326による感知光のシーケンスと同期する。例えば、測距/撮像システムコントローラ4304は、各放出サイクルに対して一度に1列ずつ左から右に順番に起動することにより、光送信モジュール4306のエミッタアレイ4314に光を放出するよう指示し、それに応じて光感知モジュール4308のセンサアレイ4326に、一度に1列ずつ同じ順番で光を感知するように指示することができる。そのような実施形態では、測距/撮像システムコントローラ4304は、光感知モジュール4308及び光送信モジュール4306へのそのシーケンス命令の基礎となる独自のクロック信号を有することができる。光検出のためのシーケンスの他の形態が想定され、そのようなシーケンスは限定的ではないことを理解されたい。更に、所与のマルチスペクトルピクセルの周囲光センサチャネルの(強度)データの収集は、そのマルチスペクトルピクセルのLIDARセンサチャネルの動作と一致するようにタイミングを合わせることができるが、タイミングを合わせる必要はない。
光測距/撮像システム4300はまた、図32の対応するコンポーネントと同様であり得る他のコンポーネントを含むことができる。プロセッサ4322及びメモリ4324による信号処理は、図32を参照して上記で説明した処理操作と同様であり得る。ユーザインターフェース4350及びその動作は、図32を参照して上記で説明したユーザインターフェースと同様であり得る。更に、本明細書に記載の測距/撮像システムのいずれも、ユーザと直接的(または間接的に)ではなく、他のシステム(例えば、車両制御ユニット)と相互作用することができ、そのようなシステムは、適切な制御命令、データ、または他の信号を測距/撮像システムコントローラ4304と交換することによって、測距/撮像システムの動作を制御することができる。
3.5.静的測距/撮像システムの動作
上記のように、静的測距/撮像システム4300を用いる撮像動作は、様々なモードで実行することができる。「フルフレーム」モードと呼ばれる1つのモードでは、アレイ内のすべてのセンサチャネル(または所与のタイプのすべてのセンサチャネル)が同時に動作され得る。「電子スキャン」モードと呼ばれる別のモードでは、チャネルの異なるサブセットが異なる時間に動作され得る。例えば、上記のように、Txモジュール4306は、例えば、Txモジュール4306内の異なるエミッタを起動させて、または同じエミッタを、MEMSベースのビーム操縦コンポーネント(例えば、「ガルボ」と呼ばれることもあるMEMSミラー検流計)と組み合わせて使用して、放出光の方向を制御することによって、異なる時間にRxモジュール4308内のセンサアレイの異なる部分上に反射される光を放出するように動作され得る。LIDARセンサチャネルの異なるサブセットは、光がそれらのチャネルに向けられているときに(例えば、選択的な放出及び/または操縦によって)選択的に起動することができる。
特定の周囲光センサチャネル(またはマルチスペクトルまたはハイブリッドセンサチャネルの特定の周囲光光センサ)は、フルフレームまたは電子スキャンモードのいずれかで動作することもできる。フルフレームモードでは、すべての周囲光センサチャネルを同時に起動することができるか、または異なるタイプのセンサチャネルを異なる時間に起動することができる。電子スキャンモードでは、センサアレイ内の異なる領域に対応する周囲光センサチャネルの異なるサブセットを異なる時間に起動することができる。例えば、マルチスペクトルピクセルの特定のグループに対応する周囲光センサチャネルは、LIDARセンサチャネルの対応するサブセットが起動されるときに起動され得るか、またはマルチスペクトルピクセルの特定のグループに対応する周囲光センサチャネルは、LIDARセンサチャネルの対応するサブセットがアクティブでないときに起動され得る。
幾つかの実施形態では、LIDAR及び/または周囲光センサチャネルの動作モードを選択可能であり得る。更に、LIDAR及び周囲光センサチャネルは、異なるモードで動作することができる。例えば、LIDARチャネルは、電子スキャンモードで動作し、周囲光センサチャネルは、フルフレームモードで動作して、各スキャン期間に1つのスペクトル画像を捕捉する。
これら及びその他の動作モードのいずれにおいても、センサアレイ内の各マルチスペクトルピクセルの各センサタイプにデータを収集することができる。バッファリングは、同じマルチスペクトルピクセルに対応する異なるチャネルまたはセンサタイプからデータを収集するために使用することができる。したがって、上記の回転測距/撮像システムと同様に、視野全体にわたるマルチスペクトル画像ピクセルのセットを含む画像を取得することができる。
4.マルチスペクトル画像の処理
上記のように、回転及び静的測距/撮像システムの両方で、視野のマルチスペクトル画像を生成することができる。マルチスペクトル画像は、マルチスペクトル画像ピクセルのアレイ(直線アレイであり得る)を含むことができ、各画像ピクセルについて、1または複数のLIDARセンサチャネルから抽出された深度情報、ならびに光スペクトル(可視光、赤外線、紫外線を含む)内の様々な帯域の強度値、偏光フィルタ処理された光の強度、及び/または上記の他の測定値のような周囲光センサから抽出された情報を含むことができる。マルチスペクトル撮像は、撮像される領域内の特定の場所に豊富なデータセットを提供する。例えば、図4のセンサアレイ400の場合、所与の画像ピクセルのデータセットは、撮像された物体(すなわち、画像ピクセルに関連付けられた特定の方向にたまたま見える任意の物体)までの距離、可視及び近赤外スペクトルにわたって撮像された物体の色特徴(例えば、異なる波長帯域内で収集された光の強度または量)、偏光特徴、及び吸収特徴を含むことができる。センサアレイに含まれるセンサチャネルタイプの特定の組み合わせに応じて、ピクセルごとの画像データの他の組み合わせも可能である。
例として、図44は、上記の回転または静的マルチスペクトル測距/撮像システム(または他の同様のシステム)のいずれかを使用して、領域4402について取得することができるマルチスペクトル画像データの例を示す。画像グループ4402は、異なる波長帯域で取得されたスペクトル画像を含む。画像グループ4404は、偏光画像(特定の偏光方向を有する光の強度)を含む。画像グループ4406は、LIDARセンサチャネルによって提供されるデータに基づく深度画像を表す。
画像グループ4402、4404、4406の画像は、異なるセンサタイプの固定された空間配置により、本質的に相互に登録することができる。回転測距/撮像システムのセンサアレイの場合、アレイは、所与の行内のすべてのセンサが同じ領域を順番に(例えば、上記のように)撮像し、明白な(または固有の)登録を提供するように配置及び動作することができる。静的測距/撮像システムの2Dマルチスペクトルセンサアレイの場合、画像ピクセルは、異なるタイプのセンサの各グループが占める領域に基づいて画定することができる。例えば、図6のセンサアレイ600において、各ハイブリッドセンサチャネル602は、画像ピクセルに対応することができ、センサアレイ900において、各マルチスペクトルピクセル1020(図10に示される)は、画像ピクセルに対応することができる。これらの例では、センサ間の(小さな)空間オフセットにより、異なるセンサタイプがマルチスペクトル画像ピクセル内の異なる場所をサンプリングする場合がある。幾つかの実施形態では、このオフセットは無視することができ、データは、すべてのセンサが画像ピクセルの中心に位置するかのように扱うことができる。代替的に、オフセット補償は、必要に応じて、例えば、近くのセンサ場所から各画像ピクセルの幾何学的中心に補間することによって適用することができる。
幾つかの実施形態では、センサアレイASICは、ピクセルデータを、取得されるときに別のシステムコンポーネント(または別のデバイス)にストリーミングすることができ、すべての画像処理は、他のシステムコンポーネントによって実行することができる。他の実施形態では、センサアレイASICは、異なる画像ピクセル(ピクセルごとに単一のチャネルまたはピクセルごとに複数のチャネルを含む)のデータを累積することができる「オンボード」データバッファを含むことができる。実装に応じて、オンボードデータバッファは、1つまたは2つのピクセルからフル画像サイズまで、任意の数のマルチスペクトル画像ピクセルのデータを保持することができる。バッファリングされたピクセルデータを使用して、シーンの「ローカル画像」(1Dまたは2D画像であり得、フル画像サイズよりも小さい場合がある)を再構築でき、及びセンサアレイASIC内またはセンサアレイ外部のプロセッサは、ピクセルごとの分析及びローカルまたはフルシーンの推論の両方を含む、ローカル画像に対する様々な画像処理動作を実行することができる。オンボードデータバッファのサイズは、累積されるデータの量及び必要な機能に応じて、必要に応じて変化させることができる。したがって、画像処理及び画像分析動作は、必要に応じてオンチップまたはオフチップで実行することができる。
幾つかの実施形態では、マルチスペクトル画像分析は、機械学習アルゴリズムを使用する自動分類器、及び既知の(及びラベル付けされた)物体を含む画像のトレーニングセットをトレーニングすることを含むことができる。機械学習アルゴリズムには、人工ニューラルネットワークまたは他の分類器(例えば、古典的な統計技術に基づく分類器)を含めることができる。トレーニングが完了すると、1または複数の自動分類器をセンサアレイASIC内(例えば、機械学習コプロセッサ)、またはセンサアレイASICからデータを受信するクライアントシステムに展開することができる。
マルチスペクトル画像に対して、様々な画像処理及び画像分析動作を実行することができる。次に例を説明する。
4.1.マルチスペクトル画像ピクセルのピクセルごとの分析
幾つかの実施形態では、画像ピクセルごとの豊富なデータセットは、画像内の材料を特定するなどの高度な分析を可能にすることができる。例示として、図45は、そこに含まれる材料を特定するために注釈が付けられた画像の例を示す。場合によっては、異なる材料は、人間の目に同様の色を有し得る(例えば、緑の車及び緑の茂み)が、材料は、微妙に異なるスペクトルシグネチャ、異なる偏光特徴、及び/またはそれらを画像ピクセルごとの分析に基づいて区別可能にする吸収シグネチャを有し得る。複数の周囲光チャネル(任意の吸収帯チャネルを含む)からのスペクトル応答情報を深度チャネルデータと組み合わせることで、岩、植物、アスファルト、金属、ガラス、水、皮膚、毛皮、衣類、などの硬い、柔らかい、拡散した物体、及びメタン、二酸化炭素、ブラックカーボンなどの様々なガス及び粒子の分類が可能になり得る。マルチスペクトルピクセル情報を使用して、異なる狭域スペクトル光源及び広域スペクトル光源を分類して、ピクセルのスペクトルパターンに基づいて存在する照明のタイプなど、他の環境要因を提供することもできる。このような分類は、ピクセルごとにリアルタイムで実行することができる。幾つかの実施形態では、人工ニューラルネットワークまたは他の機械学習システム(必要に応じてオンセンサまたはオフセンサで実装することができる)をトレーニングして、深度特徴、色特徴、及び偏光特徴、及び/または吸収特徴の組み合わせに基づいて、マルチスペクトル画像データから材料を分類することができ、手作業で注釈を付けた画像をトレーニング入力として使用することができる。トレーニングが完了すると、機械学習システムは、環境内に存在する物体のタイプ及び場所をリアルタイムで特定することができる。
別の例として、リアルタイム偏光撮像は、センサプロセッサで発生することができ、複数の偏光チャネルからのデータを組み合わせて、偏光角及び/または偏光度を計算することができる。偏光測定を使用して、例えば、車両のフロントガラスまたは水面上のグレア除去をリアルタイムで提供し、影の領域のコントラストを強化し、ヘイズまたはその他の大気の障害物が存在する場合の撮像を強化し、及び/または環境中、またはより具体的には路面上の水、氷、及びその他の分極物質のリアルタイムの特定及び分類を提供することができる。
4.2.マルチスペクトル画像からのシーン推論用システム
幾つかの実施形態では、シーンレベルの推論は、画像ピクセルのセットにわたるマルチスペクトル画像データを分析することによって抽出することができ、これは、2ピクセルから画像視野全体までの任意の場所を含むことができる。シーンレベルの推論は、センサASICのオンボードデータバッファを使用してオンチップで実行すること、及び/または例えば、別のシステムコンポーネントまたは別のデバイスでオフチップで実行することができる。多くのタイプのシーンレベルの推論を実装することができる。
例えば、視野内の別個の物体の特定は、色、偏光、及び/または距離の変化を特定することに基づくことができる。幾つかの実施形態では、可能性のある材料組成のピクセルごとの分析の結果を使用して、可能性のある材料組成に部分的に基づいて物体を特定することができる。物体を更に評価して、距離、構成などを決定することができる。これは、マルチスペクトルピクセルからの深度情報と組み合わせると、画像内の内容(例えば、車、壁、茂み、道路)及び場所を確実に特定することができる。機械学習システムは、本明細書に記載の種類の測距/撮像システムを使用して取得されたマルチスペクトル画像データ(深度データを含む)に基づいて、環境内に存在する物体のタイプ及び場所を高い信頼性で決定することができると考えられる。そのような情報には、運転支援及び/または自動運転技術を含むがこれらに限定されない、様々な利用法及び用途がある。
他の推論も行うことができる。例えば、場合によっては、太陽または月が視野内の物体として特定可能である場合がある。マルチスペクトル画像データを使用して、太陽及び月を特定し、互いに区別することができ、これにより、時刻及び/または一般的な照明条件に関する手がかりを提供し得る。太陽または月が視野内にない場合でも、異なる光源の異なるスペクトル特性により、周囲の照明が、人工照明に対して(トンネルまたは駐車場などの夜間状況または屋内状況を示す)自然光(日中または屋外状況を示す)によって有意に立つかどうかについての手がかりが得られる場合がある。別の例として、現代の車のキセノンベースまたはLEDヘッドライトは、ナトリウム蒸気街路灯と区別することができる。更に別の例として、LEDベースの交通信号は、赤、黄、または緑の比較的狭い(約50nm)スペクトルを放出し、これらのスペクトルは、一時停止の標識、緑の草、黄色の車線などの物体のより広いスペクトルと区別することができる。
5.追加の実施形態
本発明は、特定の実施形態を参照して説明されてきたが、本開示にアクセスできる当業者は、多数の変形及び修正が可能であることを理解するであろう。例えば、本明細書に記載の種類のマルチスペクトルセンサアレイは、任意の数の行、及び列ごとの任意の数のセンサチャネルを含むように製造され得る。(「行」及び「列」という用語は、特にスキャンモードで使用されるアレイの状況で、センサアレイの2つの次元を区別するために使用され、アレイの任意の特定の空間的配向を意味するものではない。)チャネル別マイクロ光学素子を含む特定のセンサチャネルの構造を変化させることができる。各行で使用される周囲光感知チャネルの組み合わせは、必要に応じて変更することができ、幾つかの実施形態では、異なる行は、周囲光感知チャネルの異なる組み合わせを有し得る。更に、周囲光感知チャネルは、上記の所与の特定の例に限定されず、他のタイプの光学フィルタを使用して、画像データを収集するために使用することができる様々な周囲光感知チャネルを作成することができる。
「周囲光感知チャネル」という用語は、本明細書では、センサチャネルが(タイミングまたは他の測距データとは対照的に)光強度を測定することを示すために使用される。そのようなチャネルは、センサシステムから放出される意図的な照明がない場合に有用なデータを提供し得る。ただし、これは、視野の意図的な照明を排除するものではない。例えば、白色光を視野に向けることができる(例えば、車のヘッドライトまたはカメラのフラッシュから)。別の例として、吸収チャネルを使用する用途では、吸収帯を包含する波長を有する光を視野に向けることができ、吸収チャネルに光がないことは、フィールド内の物質が光を吸収していることを示し得る。
周囲光感知チャネル(複数可)に加えて、上記のセンサアレイは、タイミングデータ(例えば、上記のヒストグラム)または視野内の物体までの距離を導出するために使用可能である他のデータを提供する1または複数のLIDARセンサチャネル(及び/または他の深度感知チャネル)を含み得る。LIDARセンサチャネルは、近赤外線、短波赤外線(例えば、1600nm)、中波赤外線、及び/または長波赤外線(例えば、最大15μm)を含む様々な波長で動作することができる。更に、幾つかの実施形態では、追加のセンサチャネル(例えば、LIDARセンサチャネル)をセンサ行の間の場所に含めることができ、またはLIDARセンサチャネル(または他の深度感知チャネル)を含まない幾つかのセンサ行があり得、異なるセンサチャネル(またはセンサタイプ)からの画像は、同じ解像度を有することができるが、同じである必要はない。マルチスペクトルアレイは、視野を撮像するためにスキャンモードで動作可能な行ベース(または「1D」)アレイであり得、またはマルチスペクトルセンサチャネルまたはマルチスペクトルピクセルを備える2Dアレイであり得る。
本明細書に記載の種類のセンサアレイは、上記のような複合撮像/LIDARシステムを含むがこれらに限定されない様々な感知システムに組み込むことができる。複合撮像/LIDARシステムは、上記のように回転及び/または静的プラットフォームを使用して実装することができ、周囲光及び測距データを同時に収集することが望ましい任意の用途で使用することができる。
本明細書に記載のシステムは、光スペクトルの様々な部分(必要に応じて広い及び/または狭い通過帯域を有する可視、赤外線、及び紫外線、様々な偏光状態を有する光、上記の他の例を含む)の光強度データ、及び視野全体の深度情報(これは、必要に応じて広くすることができ、幾つかの実施形態では最大360度にすることができる)の両方を含むことができるマルチスペクトル画像データを生成することができる。様々なセンサタイプ(LIDARなどの測距センサを含む)によって捕捉された画像は、センサアレイ上の異なるセンサタイプの位置整合の結果として、本質的に相互に登録することができる。幾つかの実施形態では、この固有の登録は、画像のマルチスペクトルピクセルデータの生成を容易にすることができる。
マルチスペクトル画像データは、データの任意の部分で動作する様々なコンピュータ実装アルゴリズムを使用して分析することができる。幾つかの実施形態では、マルチスペクトル画像データを使用して、ユーザに表示するための画像を生成することができ、これは、画像データを直接レンダリングすること、及び/またはデータからのアルゴリズム推論に基づいてシーン(またはその一部分)の画像をレンダリングすることを含むことができる。上記の例は、車両ナビゲーション及び/または運転者支援に関するものであるが、本発明は、任意の特定のデータ分析またはマルチスペクトル画像データの任意の特定の用途に限定されない。
本発明の例示的な実施形態の上記の説明は、例示及び説明の目的で提示されている。包括的であること、または本発明を説明された正確な形態に限定することは意図されず、多くの修正及び変更が、先の教示に鑑みて可能である。実施形態は、本発明の原理及びその実際の用途を説明するために選択及び説明され、それにより、当業者が、本発明を様々な実施形態で、企図される特定の用途に適した様々な修正を加えて使用することを可能にする。したがって、本発明は、特定の実施形態を参照して説明されてきたが、本発明は、以下の特許請求の範囲によってのみ限定されると理解されるべきである。
なお、出願時の請求項は以下の通りである。
<請求項1>
複数のセンサ行を有するセンサアレイであって、
各センサ行は、
LIDARセンサチャネルと、
1または複数の周囲光センサチャネルのセットと、
を有し、
各周囲光センサチャネルは、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、
を含む、センサアレイ。
<請求項2>
前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含む、請求項1に記載のセンサアレイ。
<請求項3>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが少なくとも可視光スペクトルを包含する通過帯域を有する白色チャネル、を含む、請求項1に記載のセンサアレイ。
<請求項4>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが赤色光を選択的に通過させる赤色チャネル、前記チャネル別光学フィルタが緑色光を選択的に通過させる緑色チャネル、及び、前記チャネル別光学フィルタが青色光を選択的に通過させる青色チャネル、を含む、請求項1に記載のセンサアレイ。
<請求項5>
前記周囲光センサチャネルのセットは、少なくとも5つの異なる色チャネルを含み、
前記少なくとも5つの異なる色チャネルの各々の前記チャネル別光学フィルタは、異なる波長範囲を有する光を選択的に通過させる、請求項1に記載のセンサアレイ。
<請求項6>
前記周囲光センサチャネルのセットは、
第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、
第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、
を含み、
前記第1範囲及び前記第2範囲は、重なる範囲を有している、請求項1に記載のセンサアレイ。
<請求項7>
前記第2範囲は、特定の物質の吸収帯に対応し、
前記第1範囲は、前記第2範囲を包含する、請求項6に記載のセンサアレイ。
<請求項8>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含む、請求項1に記載のセンサアレイ。
<請求項9>
前記周囲光センサチャネルのセットは、
1または複数の色チャネルであって、当該1または複数の色チャネルの各々の前記チャネル別光学フィルタが異なる波長範囲を有する光を選択的に通過させる、1または複数の色チャネルと、
前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる、1または複数の偏光チャネルと、を含む、請求項1に記載のセンサアレイ。
<請求項10>
前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含み、
所与のセンサ行内の前記周囲光センサチャネルは、均一なピッチだけ互いに離間されている、請求項1に記載のセンサアレイ。
<請求項11>
所与のセンサ行内の前記LIDARセンサチャネルは、前記均一なピッチだけ、または、前記均一なピッチの整数倍数である距離だけ、前記所与のセンサ行内の前記周囲光センサチャネルのうちの最も近いものから離間されている、請求項10に記載のセンサアレイ。
<請求項12>
隣接するセンサ行は、前記均一なピッチだけ、互いに離間して配置されている、請求項11に記載のセンサアレイ。
<請求項13>
各周囲光センサチャネルの前記光センサは、フォトンカウンティングモードで動作される1または複数のシングルフォトンアバランシェダイオード(SPAD)を含み、
各LIDARセンサチャネルもまた、フォトンカウンティングモードで動作される1または複数のSPADを含む、請求項1に記載のセンサアレイ。
<請求項14>
前記センサアレイは、単一のASICとして製造される、請求項1に記載のセンサアレイ。
<請求項15>
前記ASIC内に配設され、前記LIDARセンサチャネルのうちの2つ以上及び前記周囲光センサチャネルのうちの2つ以上からのデータを格納するように構成されたデータバッファと、
前記ASIC内に配設され、前記データバッファに格納された前記データに対して画像処理動作を実行するように構成された処理回路と、
を更に備える、請求項14に記載のセンサアレイ。
<請求項16>
前記周囲光センサチャネルのうちの少なくとも1つは、マルチスペクトルセンサチャネルであって、
当該マルチスペクトルセンサチャネルは、
複数の光センサと、
パターン化された光学フィルタと、
を有しており、
前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、前記マルチスペクトルセンサチャネル内の前記複数の光センサの異なるサブセットに、選択的に通過させる、請求項1に記載のセンサアレイ。
<請求項17>
前記パターン化された光学フィルタの前記異なる部分は、第1波長帯域内の光を通過させる第1部分と、第2波長帯域内の光を通過させる第2部分と、を含む、請求項16に記載のセンサアレイ。
<請求項18>
固定ベースと、
前記固定ベースに回転可能に結合されたセンサアレイと、
を備え、
前記センサアレイは、複数のセンサ行を有し、
各センサ行は、
LIDARセンサチャネルと、
1または複数の周囲光センサチャネルのセットと、
を有し、
各周囲光センサチャネルは、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、を含み、
前記センサアレイの前方に配設され、入射光を前記LIDARセンサチャネル及び前記周囲光センサチャネルに共通の開口面上に集束させるように構成されたバルク光学モジュールと、
前記センサアレイの回転と前記光センサの動作とを同期させて、前記固定ベースに対する空間内の所与の場所が、前記センサ行のうちの1つ内の前記LIDARセンサチャネル及び前記周囲光センサチャネルの各々によって連続的に撮像されるようにする、ためのコントローラと、
を更に備えた、測距/撮像システム。
<請求項19>
前記コントローラは、前記センサアレイの前記周囲光センサチャネルを使用して決定されたピクセルごとの光強度データ、及び、前記センサアレイの前記LIDARセンサチャネルを使用して決定されたピクセルごとの深度データ、を含むマルチスペクトル画像ピクセルデータを生成する、ように更に構成されている、請求項18に記載の測距/撮像システム。
<請求項20>
所与のセンサ行内の前記周囲光センサチャネルは、均一なピッチだけ互いに離間されており、
前記コントローラは、連続する撮像動作が前記均一なピッチに対応するピッチ角だけ離された角度位置で発生するように、当該測距/撮像システムを回転させるように更に構成されている、請求項18に記載の測距/撮像システム。
<請求項21>
所与のセンサ行内の前記LIDARセンサチャネルは、前記均一なピッチだけ、または、前記均一なピッチの整数倍数である距離だけ、前記所与のセンサ行内の前記周囲光センサチャネルのうちの最も近いものから離間されている、請求項20に記載の測距/撮像システム。
<請求項22>
隣接するセンサ行は、前記均一なピッチだけ、互いに離間されている、請求項21に記載の測距/撮像システム。
<請求項23>
前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含む、請求項18に記載の測距/撮像システム。
<請求項24>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含む、請求項18に記載の測距/撮像システム。
<請求項25>
前記周囲光センサチャネルのセットは、
1または複数の色チャネルであって、当該1または複数の色チャネルの各々の前記チャネル別光学フィルタが異なる波長範囲を有する光を選択的に通過させる、1または複数の色チャネルと、
前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる、1または複数の偏光チャネルと、を含む、請求項18に記載の測距/撮像システム。
<請求項26>
前記周囲光センサチャネルのうちの少なくとも1つは、マルチスペクトルセンサチャネルであって、
当該マルチスペクトルセンサチャネルは、
複数の光センサと、
パターン化された光学フィルタと、
を有しており、
前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、前記マルチスペクトルセンサチャネル内の前記複数の光センサの異なるサブセットに、選択的に通過させる、請求項18に記載の測距/撮像システム。
<請求項27>
ハイブリッドセンサピクセルの二次元アレイと、
前記二次元アレイ内の各ハイブリッドセンサピクセルに結合された読み出し電子機器と、
を備え、
各ハイブリッドセンサピクセルは、
LIDARセンサチャネルと、
1または複数の周囲光センサチャネルのセットと、
を有し、
各周囲光センサチャネルは、センサ別特性を有する光の強度を選択的に測定するように調節されており、
各ハイブリッドセンサピクセルの前記読み出し電子機器は、
前記LIDARセンサチャネルに結合され、前記LIDARセンサチャネルでの光子の到着時間を計るように且つ光子の到着時間を表すデータをメモリ内に格納するように構成されたタイミング回路と、
前記周囲光センサチャネルに結合され、前記周囲光センサチャネルで検出された光子の数をカウントするように且つ光子のカウント数を前記メモリ内に格納するように構成されたカウンタ回路と、を含む、センサアレイ。
<請求項28>
ハイブリッドセンサピクセルの前記二次元アレイは、単一のASICとして形成される、請求項27に記載のセンサアレイ。
<請求項29>
各ハイブリッドセンサピクセルは、
光センサの平面アレイと、
パターン化された光学フィルタと、
を含み、
前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、前記平面アレイ内の前記光センサの異なるサブセットに選択的に通過させ、
前記パターン化された光学フィルタは、前記光センサの第1サブセットが、LIDARエミッタの波長に一致する狭い通過帯域内で赤外光を受信し、それによって、前記LIDARセンサチャネルを提供し、前記光センサの第2サブセットが、可視光スペクトルの少なくとも一部分から可視光を受信し、それによって、前記周囲光センサチャネルのうちの1つを提供する、ように配置されている、請求項28に記載のセンサアレイ。
<請求項30>
前記ハイブリッドセンサピクセルの各々において、前記光センサの前記第1サブセットは、当該ハイブリッドセンサピクセルのピクセル領域内の中央領域に位置しており、前記光センサの前記第2サブセットは、前記ピクセル領域内の前記中央領域の周りの周辺領域に位置している、請求項29に記載のセンサアレイ。
<請求項31>
前記光センサの前記第2サブセットは、2つ以上の光センサを含み、
前記パターン化された光学フィルタは、前記第2サブセット内の前記2つ以上の光センサの各々が異なる特性を有する光を受信するように、更に配置されている、請求項29に記載のセンサアレイ。
<請求項32>
前記第2サブセット内の異なる光センサは、異なる波長範囲を有する光を受信する、請求項31に記載のセンサアレイ。
<請求項33>
前記パターン化された光学フィルタは、前記第2サブセット内の前記光センサのうちの少なくとも1つが特定の偏光特性を有する光を受信するように、更に配置されている、請求項31に記載のセンサアレイ。
<請求項34>
前記パターン化された光学フィルタは、前記第2サブセット内の前記光センサのうちの少なくとも1つが特定の物質の吸収帯に対応する波長範囲の光を受信するように、更に配置されている、請求項31に記載のセンサアレイ。
<請求項35>
ハイブリッドセンサチャネルの前記二次元アレイの前記LIDARセンサチャネルは、第1ASICとして形成され、
前記周囲光センサチャネルは、前記第1ASIC上に重ねられ且つ前記第1ASICと位置整合される第2ASICとして形成され、
前記第2ASICは、その中に形成された複数の開口を有し、光が前記LIDARセンサチャネル内へと通過することを許容している、請求項27に記載のセンサアレイ。
<請求項36>
ハイブリッドセンサピクセルの二次元アレイを含むセンサアレイであって、各ハイブリッドセンサピクセルは、LIDARセンサチャネルと、1または複数の周囲光センサチャネルのセットと、を有し、各周囲光センサチャネルは、チャネル別特性を有する光の強度を選択的に測定するように調節されている、センサアレイと、
視野内の所与の場所が、前記ハイブリッドセンサピクセルのうちの1つの前記LIDARセンサチャネル及び前記周囲光センサチャネルによって撮像されるように、前記LIDARセンサチャネル及び前記周囲光センサチャネルを動作させるように構成されたコントローラと、
を含む、測距/撮像システム。
<請求項37>
前記LIDARセンサチャネルによって検出可能な光を放出するためのエミッタ
を更に含み、
前記コントローラは、前記エミッタの動作を前記LIDARセンサチャネルの動作と調整して、各ハイブリッドセンサピクセルの深度測定値を決定するように、更に構成されている、請求項36に記載の測距/撮像システム。
<請求項38>
前記コントローラは、前記エミッタ及び前記LIDARセンサチャネルを動作させて、視野の電子スキャンを実行し、前記視野の異なる部分が、前記LIDARセンサチャネルのうちの異なるものによって、異なる時間に撮像されるように、更に構成されている、請求項37に記載の測距/撮像システム。
<請求項39>
前記ハイブリッドセンサチャネルは、単一のASICとして形成される、請求項36に記載の測距/撮像システム。
<請求項40>
前記LIDARセンサチャネルは、第1ASICとして形成され、
前記周囲光センサチャネルは、前記第1ASIC上に重ねられ且つ前記第1ASICと位置整合される第2ASICとして形成され、
前記第2ASICは、その中に形成された複数の開口を有し、光が前記LIDARセンサチャネル内へと通過することを許容している、請求項36に記載の測距/撮像システム。
<請求項41>
固定ベースと、
前記固定ベースに回転可能に結合されたセンサアレイと、
を備え、
前記センサアレイは、複数のセンサ行を有し、
各センサ行は、2つ以上の周囲光センサチャネルのセットを含み、
各周囲光センサチャネルは、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、
を含み、
前記チャネル別特性は、前記センサ行のうちの所与のもの内の異なる周囲光センサチャネルに対して異なり、
前記センサアレイの前方に配設され、入射光を前記周囲光センサチャネルに共通の開口面上に集束させるように構成されたバルク光学モジュールと、
前記センサアレイの回転と前記光センサの動作とを同期させて、前記周囲光センサチャネルを使用して決定された光強度データを含む画像ピクセルデータを生成するためのコントローラと、を更に含む、撮像システム。
<請求項42>
各周囲光センサチャネルの前記光センサは、フォトンカウンティングモードで動作される1または複数のシングルフォトンアバランシェダイオード(SPAD)を含む、請求項41に記載の撮像システム。
<請求項43>
各周囲光センサチャネルの前記光センサは、フォトダイオードを含む、請求項41に記載の撮像システム。
<請求項44>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが赤色光を選択的に通過させる赤色チャネル、前記チャネル別光学フィルタが緑色光を選択的に通過させる緑色チャネル、及び、前記チャネル別光学フィルタが青色光を選択的に通過させる青色チャネル、を含む、請求項41に記載の撮像システム。
<請求項45>
前記周囲光センサチャネルのセットは、少なくとも5つの異なる色チャネルを含み、
前記少なくとも5つの異なる色チャネルの各々の前記チャネル別光学フィルタは、異なる波長範囲を有する光を選択的に通過させる、請求項41に記載の撮像システム。
<請求項46>
前記周囲光センサチャネルのセットは、
第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、
第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、
を含み、
前記第1範囲及び前記第2範囲は、重なる範囲を有している、請求項41に記載の撮像システム。
<請求項47>
前記第2範囲は、特定の物質の吸収帯に対応する、請求項46に記載の撮像システム。
<請求項48>
前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含む、請求項41に記載の撮像システム。
<請求項49>
前記周囲光センサチャネルのセットは、
1または複数の色チャネルであって、当該1または複数の色チャネルの各々の前記チャネル別光学フィルタが異なる波長範囲を有する光を選択的に通過させる、1または複数の色チャネルと、
前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる、1または複数の偏光チャネルと、を含む、請求項41に記載の撮像システム。
<請求項50>
所与のセンサ行内の前記周囲光センサチャネルは、均一なピッチだけ、互いに離間されている、請求項41に記載の撮像システム。
<請求項51>
隣接するセンサ行は、前記均一なピッチだけ、互いに離間して配置されている、請求項50に記載の撮像システム。
<請求項52>
前記センサアレイは、単一のASICとして製造される、請求項41に記載の撮像システム。
<請求項53>
前記ASIC内に配設され、前記周囲光センサチャネルのうちの2つ以上からのデータを格納するように構成されたデータバッファと、
前記ASIC内に配設され、前記データバッファに格納されたデータに対して画像処理動作を実行するように構成された処理回路と、
を更に備えた、請求項52に記載の撮像システム。
<請求項54>
開口面内の対応する複数の開口を通して光を受信するように配置された複数のセンサチャネルを有するセンサアレイと、
前記センサアレイの前方に配設され、入射光を、前記開口面上に集束させて、視野の画像を形成するように構成されたバルク光学モジュールと、
前記センサアレイを動作させて、前記視野の画像データを生成するためのコントローラと、
複数のチャネル別マイクロ光学素子であって、各チャネル別マイクロ光学素子は、前記開口のうちの異なるものの前方に配設されており、異なるセンサチャネルに対して異なる光学処方を有する、複数のチャネル別マイクロ光学素子と、
を含む、撮像システム。
<請求項55>
前記チャネル別マイクロ光学素子のうちの特定のものの前記光学処方は、前記バルク光学モジュールの光学特性に少なくとも部分的に基づいている、請求項54に記載の撮像システム。
<請求項56>
前記センサチャネルは、複数のセンサ行内に配置されており、
各センサ行は、
LIDARセンサチャネルと、
1または複数の周囲光センサチャネルのセットと、
を有し、
各周囲光センサチャネルは、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、を含み、
前記周囲光センサチャネルのうちの少なくとも幾つかが、対応するチャネル別マイクロ光学素子を有する、請求項54に記載の撮像システム。
<請求項57>
各周囲光センサチャネルの前記チャネル別マイクロ光学素子は、前記チャネル別光学フィルタに少なくとも部分的に基づいている処方を有する、請求項56に記載の撮像システム。
<請求項58>
前記バルク光学モジュールは、色収差を示し、
前記周囲光センサチャネルのうちの少なくとも幾つかの前記光学処方は、部分的に前記チャネル別光学フィルタに、及び、部分的に前記バルク光学モジュールの前記色収差に、基づいている、請求項57に記載の撮像システム。
<請求項59>
前記複数のセンサチャネルは、複数のLIDARセンサチャネルを含み、
前記LIDARセンサチャネルのうちの少なくとも幾つかは、部分的にLIDAR動作波長に、及び、部分的に前記バルク光学モジュールの光学特性に基づくそれぞれの光学処方を有する対応するチャネル別マイクロ光学素子を有する、請求項54に記載の撮像システム。
<請求項60>
前記バルク光学モジュールは、湾曲した焦点面を有し、
前記チャネル別マイクロ光学素子の各々の前記光学処方は、前記開口の場所と前記湾曲した焦点面上の対応する場所との間のオフセットを補償する、請求項54に記載の撮像システム。
<請求項61>
各チャネル別マイクロ光学素子の前記光学処方は、前記バルク光学モジュールの光軸から前記対応する開口までの前記開口面における半径方向距離の関数である、請求項60に記載の撮像システム。
<請求項62>
異なる開口の前方に配設された前記チャネル別マイクロ光学素子は、異なる集束力を有する光学処方を有する、請求項60に記載の撮像システム。
<請求項63>
異なるチャネルの前方に配設された前記チャネル別マイクロ光学素子は、前記開口面からの異なるスタンドオフ距離を有する、請求項60に記載の撮像システム。
<請求項64>
前記バルク光学モジュールは、色収差を示し、
前記センサチャネルのうちの異なるものは、異なる波長の光を感知するように構成されており、
前記チャネル別マイクロ光学素子はまた、前記バルク光学モジュールの前記色収差を補償する、請求項60に記載の撮像システム。
<請求項65>
前記センサチャネルは、飛行時間測定を提供するLIDARセンサチャネルを含む、請求項60に記載の撮像システム。
<請求項66>
前記センサチャネルは、光強度測定を提供する周囲光センサチャネルを含む、請求項60に記載の撮像システム。
<請求項67>
前記センサチャネルは、飛行時間測定を提供するLIDARセンサチャネルと、強度測定を提供する周囲光センサチャネルと、の組合せを含む、請求項60に記載の撮像システム。
<請求項68>
開口面内の対応する複数の開口を通して光を放出するように配置された複数のエミッタチャネルを有するエミッタアレイと、
前記エミッタアレイの前方に配設され、前記開口面からの光を視野内に向けるように構成されたバルク光学モジュールと、
複数のチャネル別マイクロ光学素子であって、各チャネル別マイクロ光学素子は、前記開口のうちの異なるものの前方に配設されており、異なるチャネル別マイクロ光学素子に対して異なる光学処方を有する、複数のチャネル別マイクロ光学素子と、
を含む、LIDARトランスミッタデバイス。
<請求項69>
前記チャネル別マイクロ光学素子のうちの特定のものの前記光学処方は、前記バルク光学モジュールの光学特性に少なくとも部分的に基づいている、請求項68に記載のLIDARトランスミッタデバイス。
<請求項70>
前記バルク光学モジュールは、湾曲した焦点面を有し、
前記チャネル別マイクロ光学素子の各々の前記光学処方は、前記開口の場所と前記湾曲した焦点面上の対応する場所との間のオフセットを補償する、請求項68に記載のLIDARトランスミッタデバイス。
<請求項71>
各チャネル別マイクロ光学素子の前記光学処方は、前記バルク光学モジュールの光軸から前記対応する開口までの前記開口面における半径方向距離の関数である、請求項68に記載のLIDARトランスミッタデバイス。
<請求項72>
異なる開口の前方に配設された前記チャネル別マイクロ光学素子は、異なる集束力を有する光学処方を有する、請求項68に記載のLIDARトランスミッタデバイス。
<請求項73>
異なるチャネルの前方に配設された前記チャネル別マイクロ光学素子は、前記開口面からの異なるスタンドオフ距離を有する、請求項68に記載のLIDARトランスミッタデバイス。
<請求項74>
スキャン方向に固定解像度を有する画像を提供するためのスキャン撮像システムであって、
二次元に配置されたセンサチャネルのセットを含むセンサアレイであって、前記センサチャネルの各々は光を検出するように構成されている、センサアレイと、
角度測定位置のシーケンスを通じて前記センサアレイをスキャン方向に回転させて、データのフレームを取得するように構成された回転制御システムであって、前記データのフレームは、視野の画像を表し、前記データのフレームは、均一な角度ピッチに従って前記スキャン方向に離間された画像ピクセルのグリッドを含む、回転制御システムと、
前記光を前記センサアレイに向けて集束させるように構成されたバルク光学モジュールであって、焦点距離及び焦点距離歪みプロファイルを有し、それらは両方とも、前記センサアレイを前記均一な角度ピッチを通じて前記スキャン方向に沿って回転させることにより光線が前記センサアレイに入射する場所が1つのセンサチャネルから隣接するセンサチャネルにシフトする、というように、前記センサチャネルのセットの配置に対して調節されている、バルク光学モジュールと、
を含む、スキャン撮像システム。
<請求項75>
前記センサチャネルのセットは、前記スキャン方向に直角な方向に延びる列を画定するLIDARセンサチャネルの千鳥グリッドを含む、請求項74に記載のスキャン撮像システム。
<請求項76>
前記センサチャネルのセットは、前記LIDARセンサチャネルの各々に対して前記スキャン方向に沿って配設された少なくとも1つの周囲光センサチャネルを更に含む、請求項75に記載のスキャン撮像システム。
<請求項77>
前記センサチャネルのセットは、前記LIDARセンサチャネルの各々に対して前記スキャン方向に沿って配設された複数の周囲光センサチャネルを更に含む、請求項75に記載のスキャン撮像システム。
<請求項78>
前記センサアレイは、前記スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Fθ焦点距離歪みプロファイルを有する、請求項74に記載のスキャン撮像システム。
<請求項79>
前記センサアレイは、前記スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Ftanθ焦点距離歪みプロファイルを有する、請求項74に記載のスキャン撮像システム。
<請求項80>
前記バルク光学モジュールの前記焦点距離歪みプロファイルは、バレル歪みを示し、
前記センサアレイ内の隣接するセンサチャネル間の距離は、前記センサアレイの端から中心に向かって増加する、請求項74に記載のスキャン撮像システム。
<請求項81>
前記バルク光学モジュールの前記焦点距離歪みプロファイルは、ピンクッション歪みを示し、
前記センサアレイ内の隣接するセンサチャネル間の距離は、前記センサアレイの端から中心に向かって減少する、請求項74に記載のスキャン撮像システム。
<請求項82>
スキャン方向に固定解像度を有する画像を提供するためのスキャン撮像システムであって、
一次元または二次元に配置されたセンサチャネルのセットを含むセンサアレイであって、前記センサチャネルの各々は光を検出するように構成されている、センサアレイと、
視野の異なる部分からの光を異なる時間に前記センサアレイ上に向けて、前記センサアレイが前記視野の画像を表すデータのフレームを取得するように構成されたミラーサブシステムであって、前記データのフレームは、均一な角度ピッチに従ってスキャン方向に離間された画像ピクセルのグリッドを含む、ミラーサブシステムと、
前記光を前記センサアレイに向けて集束させるように構成されたバルク光学モジュールであって、焦点距離及び焦点距離歪みプロファイルを有し、それらは両方とも、前記センサアレイを前記均一な角度ピッチを通じて前記スキャン方向に沿って回転させることにより光線が前記センサアレイに入射する場所が1つのセンサチャネルから隣接するセンサチャネルにシフトするというように、前記センサチャネルのセットの配置に対して調節されている、バルク光学モジュールと、
を含む、スキャン撮像システム。
<請求項83>
前記センサチャネルのセットは、前記スキャン方向に直角な方向に延びる列を画定するLIDARセンサチャネルの千鳥グリッドを含む、請求項82に記載のスキャン撮像システム。
<請求項84>
前記センサチャネルのセットは、前記LIDARセンサチャネルの各々に対して前記スキャン方向に沿って配設された少なくとも1つの周囲光センサチャネルを更に含む、請求項83に記載のスキャン撮像システム。
<請求項85>
前記センサチャネルのセットは、前記LIDARセンサチャネルの各々に対して前記スキャン方向に沿って配設された複数の周囲光センサチャネルを更に含む、請求項83に記載のスキャン撮像システム。
<請求項86>
前記センサアレイは、前記スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Fθ焦点距離歪みプロファイルを有する、請求項82に記載のスキャン撮像システム。
<請求項87>
前記センサアレイは、前記スキャン方向に沿って隣接するセンサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Ftanθ焦点距離歪みプロファイルを有する、請求項82に記載のスキャン撮像システム。
<請求項88>
前記バルク光学モジュールの前記焦点距離歪みプロファイルは、バレル歪みを示し、
前記センサアレイ内の隣接するセンサチャネル間の距離は、前記センサアレイの端から中心に向かって増加する、請求項82に記載のスキャン撮像システム。
<請求項89>
前記バルク光学モジュールの前記焦点距離歪みプロファイルは、ピンクッション歪みを示し、
前記センサアレイ内の隣接するセンサチャネル間の距離は、前記センサアレイの端から中心に向かって減少する、請求項82に記載のスキャン撮像システム。
<請求項90>
二次元でスキャンすることによって、固定解像度を有する画像を提供するためのラスタースキャン撮像システムであって、
一次元または二次元に配置されたセンサチャネルのセットを含むセンサアレイであって、前記センサチャネルの各々は光を検出するように構成されている、センサアレイと、
視野の異なる部分からの光を異なる時間に前記センサアレイ上に向けて、前記センサアレイが前記視野の画像を表すデータのフレームを取得するように、一次元または二次元でラスタースキャンを実行するように構成されたラスタースキャン機構であって、前記データのフレームは、均一なピッチに従って前記二次元の各々に離間された画像ピクセルの二次元グリッドを含み、画像ピクセルの前記グリッドの両方の次元が前記センサアレイの前記次元よりも大きい、ラスタースキャン機構と、
前記光を前記センサアレイに向けて集束させるように構成されたバルク光学モジュールであって、焦点距離及び焦点距離歪みプロファイルを有し、それらは両方とも、前記センサアレイが前記視野を均一にサンプリングするというように、前記センサチャネルのセットの配置に対して調節されている、バルク光学モジュールと、
を含む、ラスタースキャン撮像システム。
<請求項91>
前記ラスタースキャン機構は、前記センサアレイを二次元で移動させる、請求項90に記載のラスタースキャン撮像システム。
<請求項92>
前記ラスタースキャン機構は、視野の異なる部分からの光を異なる時間に前記センサアレイ上に向けるための、二次元で移動可能なチップチルトミラーを含む、請求項90に記載のラスタースキャン撮像システム。
<請求項93>
前記センサチャネルは、LIDARセンサチャネルを含む、請求項90に記載のラスタースキャン撮像システム。
<請求項94>
前記センサチャネルは、1または複数のハイブリッドセンサチャネルを含み、
各ハイブリッドセンサチャネルは、
複数の光センサと、
パターン化された光学フィルタと、
を有し、
前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を選択的に通過させ、
前記パターン化された光学フィルタは、前記複数の光センサのうちの異なるものが異なる特性を有する光を受信するように配置されており、
前記パターン化された光学フィルタは、前記複数の光センサの第1サブセットが、LIDARエミッタの波長に一致する狭い通過帯域内で赤外光を受信し、前記複数の光センサの第2サブセットが、可視光スペクトルの少なくとも一部分からの可視光を受信するように、更に配置されている、請求項90に記載のラスタースキャン撮像システム。
<請求項95>
前記センサチャネルは、1または複数のハイブリッドセンサチャネルを含み、
各ハイブリッドセンサチャネルは、
第1センサチャネル層上に配設されたLIDARセンサチャネルと、
開口層であって、前記第1センサチャネル層に重なり、その中に開口を有して光が前記LIDARセンサチャネルに入ることを許容している、開口層と、
前記開口の周りの前記開口層の少なくとも一部分に配設された複数の周囲光センサチャネルであって、各周囲光センサチャネルは、光センサと、特定の特性を有する光を選択的に通過させる光学フィルタと、を含み、前記周囲光センサチャネルのうちの異なるものの前記光学フィルタは、異なる特性を有する光を選択的に通過させる、複数の周囲光センサチャネルと、
を含む、請求項90に記載のラスタースキャン撮像システム。
<請求項96>
前記センサアレイは、センサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Ftanθ焦点距離歪みプロファイルを有する、請求項90に記載のラスタースキャン撮像システム。
<請求項97>
前記センサアレイは、センサチャネル間に固定ピッチを有し、
前記バルク光学モジュールは、Fθ焦点距離歪みプロファイルを有する、請求項90に記載のラスタースキャン撮像システム。
<請求項98>
複数のセンサ行を有するセンサアレイであって、各センサ行は、
ある範囲の波長に敏感な2つ以上の高解像度周囲光センサチャネルのグループであって、前記グループ内の各高解像度周囲光センサチャネルが、チャネル別入力開口と、光センサと、を含み、前記グループ内の異なる高解像度周囲光センサチャネルの前記チャネル別入力開口がチャネル領域の異なる部分を露出する、2つ以上の高解像度周囲光センサチャネルのグループと、
前記高解像度周囲光センサチャネルのグループ内の前記光センサからの強度データに基づいて、複数のサブピクセル光強度値を決定するための論理回路と、
前記センサアレイを、視野内の異なる領域に異なる時間に露出するスキャン操作を露出実行するスキャン動作を実行し、特定の行内の前記2つ以上の高解像度周囲光センサチャネルのグループ内の各周囲光センサチャネルが異なる時間で前記視野内の同じピクセル領域に露出される、というように構成されたコントローラと、
を含む、センサアレイ。
<請求項99>
前記グループ内の各高解像度周囲光センサチャネルは、特定の特性を有する光を選択的に通過させる光学フィルタを更に含み、
前記特定の特性は、前記グループ内のあらゆる高解像度周囲光センサチャネルに対して同じである、請求項98に記載のセンサアレイ。
<請求項100>
前記グループ内の異なる高解像度周囲光センサチャネルの前記開口によって露出される前記チャネル領域の前記異なる部分は、前記チャネル領域の重ならない部分である、請求項98に記載のセンサアレイ。
<請求項101>
前記高解像度周囲光センサチャネルのグループは、4つの高解像度周囲光センサチャネルを含み、
前記重ならない部分は、前記チャネル領域の異なる象限に対応する、請求項100に記載のセンサアレイ。
<請求項102>
前記グループ内の異なる高解像度周囲光センサチャネルの前記開口によって露出される前記チャネル領域の前記異なる部分は、前記チャネル領域の重なる部分である、請求項98に記載のセンサアレイ。
<請求項103>
前記2つ以上の高解像度周囲光センサチャネルのグループからのセンサデータに基づいて、前記チャネル領域の重ならない部分のセットの強度値をデコードするための算術論理回路を更に含む、請求項102に記載のセンサアレイ。
<請求項104>
前記2つ以上の高解像度周囲光センサチャネルのグループは、前記チャネル領域全体を露出する開口を有する第1高解像度周囲光センサチャネルを更に含む、請求項102に記載のセンサアレイ。
<請求項105>
前記2つ以上の高解像度周囲光センサチャネルのグループからのセンサデータに基づいて、前記チャネル領域の重ならない部分のセットの強度値をデコードするための算術論理回路を更に含む、請求項104に記載のセンサアレイ。
<請求項106>
各センサ行は、前記高解像度周囲光センサチャネルのグループに空間的に登録されたLIDARセンサチャネルを更に含む、請求項98に記載のセンサアレイ。
<請求項107>
前記LIDARセンサチャネルは、第1解像度を有する深度画像の深度データを提供し、
前記高解像度周囲光センサチャネルは、少なくとも一次元において、前記第1解像度よりも高い第2解像度を有する強度画像を提供する、請求項106に記載のセンサアレイ。
<請求項108>
前記第2解像度は、行単位の次元及び前記行単位の次元に直角な次元の両方において、前記第1解像度よりも高い、請求項107に記載のセンサアレイ。
<請求項109>
センサアレイであって、
ある範囲の波長に敏感な2つ以上の高解像度周囲光センサチャネルのグループであって、前記グループ内の各高解像度周囲光センサチャネルが、チャネル別入力開口と、光センサと、複数の時間ビンに細分化される時間間隔中の前記光センサからの光子カウントを累積するための複数のレジスタと、を含み、前記グループ内の異なる高解像度周囲光センサチャネルの前記チャネル別入力開口がチャネル領域の異なる部分を露出し、前記複数のレジスタの各々が前記複数の時間ビンのうちの異なるものの間の光子カウントを累積する、2つ以上の高解像度周囲光センサチャネルのグループ
を含む、センサアレイと、
前記グループ内の前記高解像度周囲光センサチャネルの全ての前記複数のレジスタに累積された前記光子カウントに基づいて、複数のサブピクセル光強度値を計算するための算術論理回路と、
前記センサアレイを、視野内の異なる領域に異なる時間に露出するスキャン操作を実行し、前記2つ以上の高解像度周囲光センサチャネルのグループ内の各周囲光センサチャネルが異なる時間に前記視野内の同じピクセル領域に露出される、というように構成されたコントローラと、
を含む、スキャン撮像システム。
<請求項110>
前記グループ内の各高解像度周囲光センサチャネルは、特定の特性を有する光を選択的に通過させる光学フィルタを更に含み、
前記特定の特性は、前記グループ内のあらゆる高解像度周囲光センサチャネルに対して同じである、請求項109に記載のスキャン撮像システム。
<請求項111>
前記高解像度周囲光センサチャネルのグループに空間的に登録されたLIDARセンサチャネル
を更に備えた、請求項109に記載のスキャン撮像システム。
<請求項112>
前記LIDARセンサチャネルは、第1解像度を有する深度画像の深度データを提供し、
前記高解像度周囲光センサチャネルは、行単位の次元及び前記行単位の次元に直角な次元の両方において、前記第1解像度よりも高い第2解像度を有する強度画像を提供する、請求項111に記載のスキャン撮像システム。
<請求項113>
前記グループ内の異なる高解像度周囲光センサチャネルの前記開口によって露出される前記チャネル領域の前記異なる部分は、前記チャネル領域の重ならない部分である、請求項109に記載のスキャン撮像システム。
<請求項114>
前記グループ内の前記高解像度周囲光センサチャネルのうちの少なくとも2つの前記開口によって露出される前記チャネル領域の前記異なる部分は、前記チャネル領域の重なる部分である、請求項109に記載のスキャン撮像システム。
<請求項115>
前記2つ以上の高解像度周囲光センサチャネルのグループは、4つの周囲光センサチャネルを含み、
前記複数のレジスタは、4つのレジスタを含み、
前記算術論理回路は、16個のサブピクセル光強度値を計算する、請求項109に記載のスキャン撮像システム。
<請求項116>
前記高解像度周囲光センサチャネルのうちの第1のものの前記チャネル別入力開口は、前記チャネル領域の4分の1を露出し、
前記高解像度周囲光センサチャネルのうちの第2、第3及び第4のもののそれぞれの前記チャネル別入力開口は、各々、前記チャネル領域の前記4分の1の異なる部分を露出する、請求項115に記載のスキャン撮像システム。
<請求項117>
複数のセンサ行を有するセンサアレイであって、
各センサ行は、
少なくとも2つの周囲光センサチャネルのセットであって、前記セット内の各周囲光センサチャネルが、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、を含み、
各センサ行内の前記少なくとも2つの周囲光センサチャネルのセットは、前記光の前記チャネル別特性が重なるそれぞれのチャネル別光学フィルタを有する少なくとも2つの重なる周囲光センサチャネルを含む、少なくとも2つの周囲光センサチャネルのセットと、
前記少なくとも2つの周囲光センサチャネルからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードするための算術論理回路と、
を含む、センサアレイ。
<請求項118>
前記チャネル別特性は、光の波長を含む、請求項117に記載のセンサアレイ。
<請求項119>
前記少なくとも2つの重なる周囲光センサチャネルのセットは、
第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、
第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、
第3波長範囲を有する光を選択的に通過させる第3チャネル別光学フィルタを有する第3色チャネルと、を含み、
前記第1波長範囲及び前記第2波長範囲は、部分的に重複しており、前記第3波長範囲は、前記第1波長範囲及び前記第2波長範囲の両方を包含する、請求項118に記載のセンサアレイ。
<請求項120>
前記第3波長帯域は、可視光スペクトルに対応する、請求項119に記載のセンサアレイ。
<請求項121>
前記チャネル別特性は、光の偏光特性を含む、請求項117に記載のセンサアレイ。
<請求項122>
各センサ行は、LIDARセンサチャネルを更に含む、請求項117に記載のセンサアレイ。
<請求項123>
複数のセンサ行を有するセンサアレイであって、各センサ行は、少なくとも2つの周囲光センサチャネルのセットを含み、各周囲光センサチャネルが、
チャネル入力開口と、
光センサと、
チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、を含み、
各センサ行内の前記少なくとも2つの周囲光センサチャネルのセットは、前記光の前記チャネル別特性が重なるそれぞれのチャネル別光学フィルタを有する少なくとも2つの重なる周囲光センサチャネルを含む、センサアレイと、
前記3つ以上の周囲光センサチャネルの各々が視野の同じ部分からの光に露出されるように、前記センサアレイを動作させるためのコントローラと、
前記少なくとも2つの重なる周囲光センサチャネルからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードするための算術論理回路と、
を含む、撮像システム。
<請求項124>
前記チャネル別特性は、波長範囲を含む、請求項123に記載の撮像システム。
<請求項125>
前記少なくとも2つの重なる周囲光センサチャネルは、
第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、
第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、
第3波長範囲を有する光を選択的に通過させる第3チャネル別光学フィルタを有する第3色チャネルと、
を含み、
前記第1波長範囲及び前記第2波長範囲は、部分的に重複しており、前記第3波長範囲は、前記第1波長範囲及び前記第2波長範囲の両方を包含する、請求項124に記載の撮像システム。
<請求項126>
前記第3波長範囲は、可視光スペクトルに対応する、請求項125に記載の撮像システム。
<請求項127>
前記チャネル別特性は、光の偏光特性を含む、請求項123に記載の撮像システム。
<請求項128>
各センサ行は、LIDARセンサチャネルを更に含む、請求項123に記載の撮像システム。
<請求項129>
複数のマルチスペクトルセンサチャネルを含む複数のセンサチャネルであって、各マルチスペクトルセンサチャネルは、チャネル入力開口と、少なくとも3つの光センサと、少なくとも3つの異なる部分を有するパターン化された光学フィルタと、を有し、前記パターン化された光学フィルタの前記異なる部分が、異なる特性を有する光を、前記少なくとも3つの光センサの異なるサブセットに選択的に通過させ、前記パターン化された光学フィルタの前記異なる部分は、前記少なくとも3つの光センサの第1サブセットに光を通過させる第1部分と、前記少なくとも3つの光センサの第2サブセットに光を通過させる第2部分と、を少なくとも含み、前記第1部分及び前記第2部分によって通過する光のそれぞれの特性は重なる、という複数のセンサチャネルと、
前記光センサの前記第1サブセット及び前記第2サブセットからの信号を、複数の重ならない特性を有する光のそれぞれの光強度レベルにデコードするための算術論理回路と、
を含む、センサアレイ。
<請求項130>
前記それぞれの特性は、波長範囲を含む、請求項129に記載のセンサアレイ。
<請求項131>
前記パターン化された光学フィルタの前記異なる部分は、
第1波長範囲を有する光を、前記光センサの第1サブセットに選択的に通過させる第1部分と、
第2波長範囲を有する光を、前記光センサの第2サブセットに選択的に通過させる第2部分と、
第3波長範囲を有する光を、前記光センサの第3サブセットに選択的に通過させる第3部分と、を含み、
前記第1波長範囲及び前記第2波長範囲は、部分的に重複しており、前記第3波長範囲は、前記第1波長範囲及び前記第2波長範囲の両方を包含する、請求項130に記載のセンサアレイ。
<請求項132>
前記第3波長帯域は、前記可視光スペクトルに対応する、請求項131に記載のセンサアレイ。
<請求項133>
前記パターン化された光学フィルタの前記第1部分及び前記第2部分によって選択される前記特性は、光の偏光特性を含む、請求項129に記載のセンサアレイ。
<請求項134>
前記複数のセンサチャネルは、各LIDARセンサチャネルが前記マルチスペクトルセンサチャネルのうちの異なるものとセンサ行を形成するように配設された、複数のLIDARセンサチャネルを更に含む、請求項129に記載のセンサアレイ。
<請求項135>
前記マルチスペクトルセンサチャネルは、LIDAR光センサを含み、
前記パターン化された光学フィルタは、LIDARエミッタに対応する波長を有する光を、前記LIDAR光センサに選択的に通過させる第4部分を含む、請求項129に記載のセンサアレイ。

Claims (26)

  1. 複数のセンサ行を有するセンサアレイであって、
    各センサ行は、
    反射光の到着タイミングを測定するためのLIDARセンサチャネルと、
    1または複数の周囲光センサチャネルのセットと、
    を有し、
    各LIDARセンサチャネルは、
    チャネル入力開口と、
    光センサと、
    LIDAR波長を有する光を、前記光センサに選択的に通過させるLIDAR光学フィルタと、
    を含み、
    各周囲光センサチャネルは、チャネル別特性を有する周囲光の強度を測定するように構成されており、
    各周囲光センサチャネルは、
    チャネル入力開口と、
    光センサと、
    前記チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、
    を含み、
    前記複数のセンサ行の前記周囲光センサチャネルの前記セットは、同一セットのチャネル別特性のために構成されており、
    前記LIDARセンサチャネル及び前記周囲光センサチャネルは、所与の時に同一行内の各LIDARセンサチャネル及び各周囲光センサチャネルが当該センサアレイの視野内の異なる位置を撮像するように、構成されている、
    センサアレイ。
  2. 前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含む、請求項1に記載のセンサアレイ。
  3. 前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが少なくとも可視光スペクトルを包含する通過帯域を有する白色チャネル、を含む、請求項1に記載のセンサアレイ。
  4. 前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが赤色光を選択的に通過させる赤色チャネル、前記チャネル別光学フィルタが緑色光を選択的に通過させる緑色チャネル、及び、前記チャネル別光学フィルタが青色光を選択的に通過させる青色チャネル、を含む、請求項1に記載のセンサアレイ。
  5. 前記周囲光センサチャネルのセットは、少なくとも5つの異なる色チャネルを含み、
    前記少なくとも5つの異なる色チャネルの各々の前記チャネル別光学フィルタは、異なる波長範囲を有する光を選択的に通過させる、請求項1に記載のセンサアレイ。
  6. 前記周囲光センサチャネルのセットは、
    第1波長範囲を有する光を選択的に通過させる第1チャネル別光学フィルタを有する第1色チャネルと、
    第2波長範囲を有する光を選択的に通過させる第2チャネル別光学フィルタを有する第2色チャネルと、
    を含み、
    前記第1波長範囲及び前記第2波長範囲は、重なる範囲を有している、請求項1に記載のセンサアレイ。
  7. 前記第2波長範囲は、特定の物質の吸収帯に対応し、
    前記第1波長範囲は、前記第2波長範囲を包含する、請求項6に記載のセンサアレイ。
  8. 前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含む、請求項1に記載のセンサアレイ。
  9. 前記周囲光センサチャネルのセットは、
    1または複数の色チャネルであって、当該1または複数の色チャネルの各々の前記チャネル別光学フィルタが異なる波長範囲を有する光を選択的に通過させる、1または複数の色チャネルと、
    前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる、1または複数の偏光チャネルと、を含む、請求項1に記載のセンサアレイ。
  10. 前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含み、
    所与のセンサ行内の前記周囲光センサチャネルは、均一なピッチだけ互いに離間されている、請求項1に記載のセンサアレイ。
  11. 所与のセンサ行内の前記LIDARセンサチャネルは、前記均一なピッチだけ、または、前記均一なピッチの整数倍数である距離だけ、前記所与のセンサ行内の前記周囲光センサチャネルのうちの最も近いものから離間されている、請求項10に記載のセンサアレイ。
  12. 隣接するセンサ行は、前記均一なピッチだけ、互いに離間して配置されている、請求項11に記載のセンサアレイ。
  13. 各周囲光センサチャネルの前記光センサは、フォトンカウンティングモードで動作される1または複数のシングルフォトンアバランシェダイオード(SPAD)を含み、
    各LIDARセンサチャネルもまた、フォトンカウンティングモードで動作される1または複数のSPADを含む、請求項1に記載のセンサアレイ。
  14. 前記センサアレイは、単一のASICとして製造される、請求項1に記載のセンサアレイ。
  15. 前記ASIC内に配設され、前記LIDARセンサチャネルのうちの2つ以上及び前記周囲光センサチャネルのうちの2つ以上からのデータを格納するように構成されたデータバッファと、
    前記ASIC内に配設され、前記データバッファに格納された前記データに対して画像処理動作を実行するように構成された処理回路と、
    を更に備える、請求項14に記載のセンサアレイ。
  16. 前記周囲光センサチャネルのうちの少なくとも1つは、マルチスペクトルセンサチャネルであって、
    当該マルチスペクトルセンサチャネルは、
    複数の光センサと、
    パターン化された光学フィルタと、
    を有しており、
    前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、前記マルチスペクトルセンサチャネル内の前記複数の光センサの異なるサブセットに、選択的に通過させる、請求項1に記載のセンサアレイ。
  17. 前記パターン化された光学フィルタの前記異なる部分は、第1波長帯域内の光を通過させる第1部分と、第2波長帯域内の光を通過させる第2部分と、を含む、請求項16に記載のセンサアレイ。
  18. 固定ベースと、
    前記固定ベースに回転可能に結合されたセンサアレイと、
    を備え、
    前記センサアレイは、複数のセンサ行を有し、
    各センサ行は、
    反射光の到着タイミングを測定するためのLIDARセンサチャネルと、
    1または複数の周囲光センサチャネルのセットと、
    を有し、
    各LIDARセンサチャネルは、
    チャネル入力開口と、
    光センサと、
    LIDAR波長を有する光を、前記光センサに選択的に通過させるLIDAR光学フィルタと、
    を含み、
    各周囲光センサチャネルは、チャネル別特性を有する周囲光の強度を測定するように構成されており、
    各周囲光センサチャネルは、
    チャネル入力開口と、
    光センサと、
    前記チャネル別特性を有する光を、前記光センサに選択的に通過させるチャネル別光学フィルタと、
    を含み、
    前記複数のセンサ行の前記周囲光センサチャネルの前記セットは、同一セットのチャネル別特性のために構成されており、
    前記LIDARセンサチャネル及び前記周囲光センサチャネルは、所与の時に同一行内の各LIDARセンサチャネル及び各周囲光センサチャネルが当該センサアレイの視野内の異なる位置を撮像するように、構成されており、
    前記センサアレイの前方に配設され、入射光を前記LIDARセンサチャネル及び前記周囲光センサチャネルに共通の開口面上に集束させるように構成されたバルク光学モジュールと、
    前記センサアレイの回転と前記光センサの動作とを同期させて、前記固定ベースに対する空間内の所与の場所が、前記センサ行のうちの1つ内の前記LIDARセンサチャネル及び前記周囲光センサチャネルの各々によって連続的に撮像されるようにする、ためのコントローラと、
    を更に備えた、測距/撮像システム。
  19. 前記コントローラは、前記センサアレイの前記周囲光センサチャネルを使用して決定されたピクセルごとの光強度データ、及び、前記センサアレイの前記LIDARセンサチャネルを使用して決定されたピクセルごとの深度データ、を含むマルチスペクトル画像ピクセルデータを生成する、ように更に構成されている、請求項18に記載の測距/撮像システム。
  20. 所与のセンサ行内の前記周囲光センサチャネルは、均一なピッチだけ互いに離間されており、
    前記コントローラは、連続する撮像動作が前記均一なピッチに対応するピッチ角だけ離された角度位置で発生するように、当該測距/撮像システムを回転させるように更に構成されている、請求項18に記載の測距/撮像システム。
  21. 所与のセンサ行内の前記LIDARセンサチャネルは、前記均一なピッチだけ、または、前記均一なピッチの整数倍数である距離だけ、前記所与のセンサ行内の前記周囲光センサチャネルのうちの最も近いものから離間されている、請求項20に記載の測距/撮像システム。
  22. 隣接するセンサ行は、前記均一なピッチだけ、互いに離間されている、請求項21に記載の測距/撮像システム。
  23. 前記1または複数の周囲光センサチャネルのセットは、各々が異なるチャネル別光学フィルタを有する少なくとも2つの周囲光センサチャネルを含む、請求項18に記載の測距/撮像システム。
  24. 前記周囲光センサチャネルのセットは、前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる1または複数の偏光チャネルを含む、請求項18に記載の測距/撮像システム。
  25. 前記周囲光センサチャネルのセットは、
    1または複数の色チャネルであって、当該1または複数の色チャネルの各々の前記チャネル別光学フィルタが異なる波長範囲を有する光を選択的に通過させる、1または複数の色チャネルと、
    前記チャネル別光学フィルタが特定の偏光特性を有する光を選択的に通過させる、1または複数の偏光チャネルと、を含む、請求項18に記載の測距/撮像システム。
  26. 前記周囲光センサチャネルのうちの少なくとも1つは、マルチスペクトルセンサチャネルであって、
    当該マルチスペクトルセンサチャネルは、
    複数の光センサと、
    パターン化された光学フィルタと、
    を有しており、
    前記パターン化された光学フィルタの異なる部分が、異なる特性を有する光を、前記マルチスペクトルセンサチャネル内の前記複数の光センサの異なるサブセットに、選択的に通過させる、請求項18に記載の測距/撮像システム。
JP2021506647A 2018-08-09 2019-08-08 マルチスペクトル測距/撮像センサアレイ及びシステム Active JP7426377B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024007360A JP2024056706A (ja) 2018-08-09 2024-01-22 マルチスペクトル測距/撮像センサアレイ及びシステム

Applications Claiming Priority (11)

Application Number Priority Date Filing Date Title
US201862716900P 2018-08-09 2018-08-09
US62/716,900 2018-08-09
US201862726810P 2018-09-04 2018-09-04
US62/726,810 2018-09-04
US201862744540P 2018-10-11 2018-10-11
US62/744,540 2018-10-11
US201962877778P 2019-07-23 2019-07-23
US62/877,778 2019-07-23
US16/534,838 US10739189B2 (en) 2018-08-09 2019-08-07 Multispectral ranging/imaging sensor arrays and systems
US16/534,838 2019-08-07
PCT/US2019/045783 WO2020033749A1 (en) 2018-08-09 2019-08-08 Multispectral ranging/imaging sensor arrays and systems

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024007360A Division JP2024056706A (ja) 2018-08-09 2024-01-22 マルチスペクトル測距/撮像センサアレイ及びシステム

Publications (3)

Publication Number Publication Date
JP2021534378A JP2021534378A (ja) 2021-12-09
JPWO2020033749A5 JPWO2020033749A5 (ja) 2022-08-15
JP7426377B2 true JP7426377B2 (ja) 2024-02-01

Family

ID=69415141

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021506647A Active JP7426377B2 (ja) 2018-08-09 2019-08-08 マルチスペクトル測距/撮像センサアレイ及びシステム
JP2024007360A Pending JP2024056706A (ja) 2018-08-09 2024-01-22 マルチスペクトル測距/撮像センサアレイ及びシステム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024007360A Pending JP2024056706A (ja) 2018-08-09 2024-01-22 マルチスペクトル測距/撮像センサアレイ及びシステム

Country Status (11)

Country Link
US (1) US10739189B2 (ja)
EP (1) EP3834003A4 (ja)
JP (2) JP7426377B2 (ja)
KR (1) KR20210046697A (ja)
CN (2) CN112805584A (ja)
AU (1) AU2019319946A1 (ja)
CA (1) CA3108884A1 (ja)
IL (1) IL280547B1 (ja)
SG (1) SG11202101312QA (ja)
TW (1) TW202011045A (ja)
WO (1) WO2020033749A1 (ja)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9992477B2 (en) 2015-09-24 2018-06-05 Ouster, Inc. Optical system for collecting distance information within a field
US11475550B2 (en) * 2017-07-18 2022-10-18 Sony Group Corporation Information processing apparatus, information processing method, program, and information processing system
US11284785B2 (en) * 2019-06-20 2022-03-29 Cilag Gmbh International Controlling integral energy of a laser pulse in a hyperspectral, fluorescence, and laser mapping imaging system
CN110381272B (zh) * 2019-08-22 2022-05-13 睿镞科技(北京)有限责任公司 图像传感器组合系统及产生单一和复合视野图像的装置
US11604259B2 (en) * 2019-10-14 2023-03-14 Infineon Technologies Ag Scanning LIDAR receiver with a silicon photomultiplier detector
US11573302B2 (en) * 2019-10-17 2023-02-07 Argo AI, LLC LiDAR system comprising a Geiger-mode avalanche photodiode-based receiver having pixels with multiple-return capability
US11499911B2 (en) * 2019-11-15 2022-11-15 Montana State University Systems and methods for detecting thermodynamic phase of clouds with optical polarization
US11127147B2 (en) * 2019-12-10 2021-09-21 GM Global Technology Operations LLC Three-dimensional point cloud generation using a polarimetric camera in a drive assistance system equipped vehicle
US11521063B1 (en) * 2019-12-17 2022-12-06 Bae Systems Information And Electronic Systems Integration Inc. System and method for terminal acquisition with a neural network
US11500092B2 (en) 2019-12-20 2022-11-15 Stmicroelectronics (Research & Development) Limited Method for operating a ToF ranging array, corresponding circuit and device
US11269075B2 (en) 2020-04-17 2022-03-08 Samsung Electronics Co., Ltd. Hybrid sensor system and method for providing 3D imaging
US11695911B2 (en) 2020-04-27 2023-07-04 Ouster, Inc. Stereoscopic image capturing systems
US20210333371A1 (en) * 2020-04-28 2021-10-28 Ouster, Inc. Lidar system with fog detection and adaptive response
CN111638185B (zh) * 2020-05-09 2022-05-17 哈尔滨工业大学 基于无人机平台的遥感探测方法
US11650428B2 (en) 2020-06-11 2023-05-16 Samsung Electronics Co., Ltd. Progressive metalens for sensing system
US11201993B1 (en) 2020-06-15 2021-12-14 Samsung Electronics Co., Ltd. Multi-camera on a chip and camera module design
EP4182750A1 (en) * 2020-07-20 2023-05-24 CSEM Centre Suisse d'Electronique et de Microtechnique SA - Recherche et Développement Multi-spectral light-field device
CN215953855U (zh) * 2020-09-11 2022-03-04 神盾股份有限公司 Tof光学感测模块
CN215953845U (zh) * 2020-09-11 2022-03-04 神盾股份有限公司 Tof光学感测模块
US20220102409A1 (en) * 2020-09-25 2022-03-31 Visera Technologies Company Limited Semiconductor device
US11536608B2 (en) 2021-01-04 2022-12-27 Argo AI, LLC Systems and methods for characterizing spectral reflectance of real world objects
DE102021201074A1 (de) 2021-02-05 2022-08-11 Robert Bosch Gesellschaft mit beschränkter Haftung Detektorbaugruppe und optischer Sensor
KR20220140329A (ko) 2021-04-09 2022-10-18 엘지전자 주식회사 블렌더
US20220334053A1 (en) * 2021-04-14 2022-10-20 Advanced Growing Resources Inc. Optical spectroscopy scanner
US11435451B1 (en) 2021-10-14 2022-09-06 Motional Ad Llc SiPM based sensor for low level fusion
US11428791B1 (en) 2021-10-14 2022-08-30 Motional Ad Llc Dual-mode silicon photomultiplier based LiDAR
CN116367003B (zh) * 2021-12-22 2023-10-20 荣耀终端有限公司 多光谱传感器以及电子设备
CN114518171B (zh) * 2022-02-11 2024-04-30 南京大学 一种集成式的全斯托克斯偏振成像方法
WO2023249407A1 (ko) * 2022-06-24 2023-12-28 주식회사 에스오에스랩 레이저 출력 어레이, 수신 옵틱 및 이를 이용하는 라이다 장치
JP2024011627A (ja) * 2022-07-15 2024-01-25 キヤノン株式会社 光学装置、車載システム、および移動装置
CN115408442B (zh) * 2022-08-15 2023-03-10 云南大学 基于扩展空间同位模式的土地覆盖分布关系挖掘方法
CN117692064B (zh) * 2024-01-30 2024-04-30 陕西旋星电子科技有限公司 一种带挡光圈的非接触光通信滑环及其光器件布置方法

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008008700A (ja) 2006-06-28 2008-01-17 Fujifilm Corp 距離画像センサ
US20100020306A1 (en) 2006-07-13 2010-01-28 Velodyne Acoustics, Inc. High definition lidar system
JP2010035168A (ja) 2008-07-25 2010-02-12 Samsung Electronics Co Ltd イメージング装置および方法
JP2010249626A (ja) 2009-04-15 2010-11-04 Panasonic Corp 温度分布検出装置
WO2011015196A1 (de) 2009-08-07 2011-02-10 Conti Temic Microelectonic Gmbh Bildgebender lidarsensor
JP2011199798A (ja) 2010-03-24 2011-10-06 Sony Corp 物理情報取得装置、固体撮像装置、物理情報取得方法
JP2014195296A (ja) 2009-04-07 2014-10-09 Rohm Co Ltd 画素回路およびそれを用いた光電変換装置
DE102014224857A1 (de) 2014-12-04 2016-06-09 Conti Temic Microelectronic Gmbh Sensorsystem und Verfahren zur Klassifikation von Fahrbahnoberflächen
WO2017044204A1 (en) 2015-09-08 2017-03-16 Microvision, Inc. Mixed-mode depth detection
WO2018057084A1 (en) 2015-09-24 2018-03-29 Ouster, Inc. Optical system for collecting distance information within a field
WO2018074064A1 (ja) 2016-10-17 2018-04-26 ソニー株式会社 画像処理装置と画像処理方法および撮像装置

Family Cites Families (170)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4358851A (en) 1980-02-28 1982-11-09 Xerox Corporation Fiber optic laser device and light emitter utilizing the device
JPS58211677A (ja) 1982-06-02 1983-12-09 Nissan Motor Co Ltd 光レ−ダ装置
DE3426868A1 (de) 1984-07-20 1986-01-30 LITEF Litton Technische Werke der Hellige GmbH, 7800 Freiburg Verfahren und einrichtung zur drehratenauslesung mittels eines passiven optischen resonators
JPS6137911U (ja) 1984-08-10 1986-03-10 内山工業株式会社 材料注入成形金型
US4676599A (en) 1985-08-14 1987-06-30 The United States Of America As Represented By The Secretary Of The Air Force Micro-optical lens holder
US4744667A (en) 1986-02-11 1988-05-17 University Of Massachusetts Microspectrofluorimeter
US4851664A (en) 1988-06-27 1989-07-25 United States Of America As Represented By The Secretary Of The Navy Narrow band and wide angle hemispherical interference optical filter
JPH0749417Y2 (ja) 1990-09-28 1995-11-13 三菱重工業株式会社 電気抵抗探傷用探触子
US5267016A (en) 1991-11-27 1993-11-30 United Technologies Corporation Laser diode distance measurement
US5288992A (en) 1992-12-15 1994-02-22 Gte Laboratories Incorporated Wide angle, narrow band optical filter
US6133989A (en) 1993-02-09 2000-10-17 Advanced Scientific Concepts, Inc. 3D imaging laser radar
JP3251150B2 (ja) 1994-12-29 2002-01-28 日本板硝子株式会社 平板マイクロレンズアレイおよびその製造方法
US5760899A (en) 1996-09-04 1998-06-02 Erim International, Inc. High-sensitivity multispectral sensor
GB9618720D0 (en) 1996-09-07 1996-10-16 Philips Electronics Nv Electrical device comprising an array of pixels
US6362482B1 (en) 1997-09-16 2002-03-26 Advanced Scientific Concepts, Inc. High data rate smart sensor technology
US6721262B1 (en) 1997-09-22 2004-04-13 Seagate Technology Llc Aperture stop for a flying optical head
JP2000138792A (ja) 1998-10-30 2000-05-16 Sharp Corp イメージセンサ及びその製造方法
US6371924B1 (en) 1998-11-09 2002-04-16 Medacoustics, Inc. Acoustic window identification
US6201293B1 (en) 1998-11-19 2001-03-13 Xerox Corporation Electro optical devices with reduced filter thinning on the edge pixel photosites and method of producing same
US6564168B1 (en) 1999-09-14 2003-05-13 Immersion Corporation High-resolution optical encoder with phased-array photodetectors
US6414746B1 (en) 1999-11-24 2002-07-02 Advanced Scientific Concepts, Inc. 3-D imaging multiple target laser radar
TW527518B (en) 2000-07-14 2003-04-11 Massachusetts Inst Technology Method and system for high resolution, ultra fast, 3-D imaging
US7045833B2 (en) 2000-09-29 2006-05-16 Board Of Regents, The University Of Texas System Avalanche photodiodes with an impact-ionization-engineered multiplication region
US6707230B2 (en) 2001-05-29 2004-03-16 University Of North Carolina At Charlotte Closed loop control systems employing relaxor ferroelectric actuators
DE10127204A1 (de) 2001-06-05 2003-03-20 Ibeo Automobile Sensor Gmbh Erfassungsverfahren und - vorrichtung
US7091462B2 (en) 2002-08-26 2006-08-15 Jds Uniphase Corporation Transmitter with laser monitoring and wavelength stabilization circuit
DE10244641A1 (de) 2002-09-25 2004-04-08 Ibeo Automobile Sensor Gmbh Optoelektronische Erfassungseinrichtung
JP2006517340A (ja) 2003-01-23 2006-07-20 オーボテック リミテッド 高輝度照明を提供するためのシステムおよび方法
US20040223071A1 (en) 2003-05-08 2004-11-11 David Wells Multiple microlens system for image sensors or display units
US7266248B2 (en) 2003-08-08 2007-09-04 Hewlett-Packard Development Company, L.P. Method and apparatus for generating data representative of an image
DE10345555A1 (de) 2003-09-30 2005-05-04 Osram Opto Semiconductors Gmbh Strahlungsemittierendes und -empfangendes Halbleiterbauelement und Verfahren zu dessen Herstellung
US7433042B1 (en) 2003-12-05 2008-10-07 Surface Optics Corporation Spatially corrected full-cubed hyperspectral imager
US7808706B2 (en) 2004-02-12 2010-10-05 Tredegar Newco, Inc. Light management films for displays
US7738026B2 (en) 2005-05-02 2010-06-15 Andrew G. Cartlidge Increasing fill-factor on pixelated sensors
US7279764B2 (en) 2004-06-01 2007-10-09 Micron Technology, Inc. Silicon-based resonant cavity photodiode for image sensors
USD531525S1 (en) 2004-11-02 2006-11-07 Sick Ag Optoelectronic sensor
US20090295910A1 (en) 2005-03-24 2009-12-03 Jose Mir Hyperspectral Imaging System and Methods Thereof
WO2006116637A2 (en) 2005-04-27 2006-11-02 Massachusetts Institute Of Technology Raman spectroscopy for non-invasive glucose measurements
US8294809B2 (en) 2005-05-10 2012-10-23 Advanced Scientific Concepts, Inc. Dimensioning system
US8130367B2 (en) 2005-12-08 2012-03-06 Roger Stettner Laser ranging, tracking and designation using 3-D focal planes
US7421159B2 (en) 2005-12-13 2008-09-02 Board of Supervisor of Louisiana State University and Agricultural and Mechanical College Integral pre-aligned micro-optical systems
EP1969395B1 (en) 2005-12-19 2017-08-09 Leddartech Inc. Object-detecting lighting system and method
DE102006004802B4 (de) 2006-01-23 2008-09-25 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Bilderfassungssystem und Verfahren zur Herstellung mindestens eines Bilderfassungssystems
US7423821B2 (en) 2006-03-24 2008-09-09 Gentex Corporation Vision system
TWI433052B (zh) 2007-04-02 2014-04-01 Primesense Ltd 使用投影圖案之深度製圖
EP1978394A1 (en) 2007-04-06 2008-10-08 Global Bionic Optics Pty Ltd. Optical system for increasing depth of field
US7848478B1 (en) 2007-05-04 2010-12-07 General Electric Company System for optical communication between stationary and non-stationary parts and method of making same
CA2635155C (en) 2007-06-18 2015-11-24 Institut National D'optique Method for detecting objects with visible light
US8494252B2 (en) 2007-06-19 2013-07-23 Primesense Ltd. Depth mapping using optical elements having non-uniform focal characteristics
EP3206046B1 (en) 2007-12-21 2021-08-25 Leddartech Inc. Detection and ranging methods and systems
TWI358606B (en) 2007-12-28 2012-02-21 Ind Tech Res Inst Method for three-dimension (3d) measurement and an
US8384997B2 (en) 2008-01-21 2013-02-26 Primesense Ltd Optical pattern projection
EP2124069B1 (de) 2008-03-20 2012-01-25 Sick Ag Omnidirektionales Lidar System
CN102027388B (zh) 2008-04-11 2013-08-28 瑞士联邦理工大学,洛桑(Epfl) 采用显示器作为照明源的基于飞行时间的成像系统
US9041915B2 (en) 2008-05-09 2015-05-26 Ball Aerospace & Technologies Corp. Systems and methods of scene and action capture using imaging system incorporating 3D LIDAR
WO2010006081A1 (en) 2008-07-08 2010-01-14 Chiaro Technologies, Inc. Multiple channel locating
US8456517B2 (en) 2008-07-09 2013-06-04 Primesense Ltd. Integrated processor for 3D mapping
CN201298079Y (zh) 2008-11-17 2009-08-26 南京德朔实业有限公司 激光测距装置
US20100204964A1 (en) 2009-02-09 2010-08-12 Utah State University Lidar-assisted multi-image matching for 3-d model and sensor pose refinement
EP2396744B1 (en) * 2009-02-11 2016-06-01 Datalogic ADC, Inc. High-resolution optical code imaging using a color imager
US8717417B2 (en) 2009-04-16 2014-05-06 Primesense Ltd. Three-dimensional mapping and imaging
US8743176B2 (en) 2009-05-20 2014-06-03 Advanced Scientific Concepts, Inc. 3-dimensional hybrid camera and production system
US8675181B2 (en) 2009-06-02 2014-03-18 Velodyne Acoustics, Inc. Color LiDAR scanner
US8803967B2 (en) 2009-07-31 2014-08-12 Mesa Imaging Ag Time of flight camera with rectangular field of illumination
US8330840B2 (en) 2009-08-06 2012-12-11 Aptina Imaging Corporation Image sensor with multilayer interference filters
CN102006402B (zh) 2009-08-28 2014-02-19 鸿富锦精密工业(深圳)有限公司 摄像装置及其身份识别方法
KR20120058597A (ko) * 2009-09-01 2012-06-07 코닌클리즈케 필립스 일렉트로닉스 엔.브이. 비분산 요소들을 이용하는 높은 스펙트럼 해상도의 컬러 센서
US20110116262A1 (en) 2009-11-13 2011-05-19 Phoseon Technology, Inc. Economical partially collimating reflective micro optical array
JP5588310B2 (ja) 2009-11-15 2014-09-10 プライムセンス リミテッド ビームモニタ付き光学プロジェクタ
CA2782235A1 (en) * 2009-11-30 2011-06-03 Imec Integrated circuit for spectral imaging system
US20150358601A1 (en) 2009-12-23 2015-12-10 Mesa Imaging Ag Optical Filter on Objective Lens for 3D Cameras
US8786757B2 (en) 2010-02-23 2014-07-22 Primesense Ltd. Wideband ambient light rejection
EP3901653A3 (en) 2010-05-17 2022-03-02 Velodyne Lidar USA, Inc. High definition lidar system
NL2004996C2 (nl) 2010-06-29 2011-12-30 Cyclomedia Technology B V Werkwijze voor het vervaardigen van een digitale foto, waarbij ten minste een deel van de beeldelementen positieinformatie omvatten en een dergelijke digitale foto.
USD659030S1 (en) 2010-07-30 2012-05-08 Sick Ag Optoelectronic sensor
US9167138B2 (en) 2010-12-06 2015-10-20 Apple Inc. Pattern projection and imaging using lens arrays
JP2012128270A (ja) 2010-12-16 2012-07-05 Denso Corp 干渉フィルタアセンブリ
EP2469295A1 (en) 2010-12-23 2012-06-27 André Borowski 3D landscape real-time imager and corresponding imaging methods
US8717488B2 (en) 2011-01-18 2014-05-06 Primesense Ltd. Objective optics with interference filter
US8908159B2 (en) 2011-05-11 2014-12-09 Leddartech Inc. Multiple-field-of-view scannerless optical rangefinder in high ambient background light
WO2012174401A2 (en) 2011-06-16 2012-12-20 Lenny Lipton Stereoscopic camera with polarizing apertures
DE102011107360A1 (de) 2011-06-29 2013-01-03 Karlsruher Institut für Technologie Mikrooptisches Element, mikrooptisches Array und optisches Sensorensystem
US8797512B2 (en) 2011-09-15 2014-08-05 Advanced Scientific Concepts, Inc. Automatic range corrected flash ladar camera
US20160150963A1 (en) 2011-09-26 2016-06-02 Michael Lee Roukes One-photon integrated neurophotonic systems
US8743923B2 (en) 2012-01-31 2014-06-03 Flir Systems Inc. Multi-wavelength VCSEL array to reduce speckle
JP5985661B2 (ja) 2012-02-15 2016-09-06 アップル インコーポレイテッド 走査深度エンジン
JP6309459B2 (ja) 2012-02-15 2018-04-11 ヘプタゴン・マイクロ・オプティクス・ピーティーイー・エルティーディーHeptagon Micro Optics Pte.Ltd. ストライプ照明の飛行時間型カメラ
AU2013237061B2 (en) 2012-03-22 2015-11-26 Apple Inc. Gimbaled scanning mirror array
US9335220B2 (en) 2012-03-22 2016-05-10 Apple Inc. Calibration of time-of-flight measurement using stray reflections
US9195914B2 (en) 2012-09-05 2015-11-24 Google Inc. Construction zone sign detection
US9383753B1 (en) 2012-09-26 2016-07-05 Google Inc. Wide-view LIDAR with areas of special attention
US9071763B1 (en) 2012-09-26 2015-06-30 Google Inc. Uniform illumination image capture
US9019267B2 (en) 2012-10-30 2015-04-28 Apple Inc. Depth mapping with enhanced resolution
US9111444B2 (en) 2012-10-31 2015-08-18 Raytheon Company Video and lidar target detection and tracking system and method for segmenting moving targets
KR102004987B1 (ko) 2012-12-11 2019-07-29 삼성전자주식회사 광자 계수 검출 장치 및 독출 회로
US9823351B2 (en) 2012-12-18 2017-11-21 Uber Technologies, Inc. Multi-clad fiber based optical apparatus and methods for light detection and ranging sensors
US20160047901A1 (en) 2012-12-25 2016-02-18 Quanergy Systems, Inc. Robust lidar sensor for broad weather, shock and vibration conditions
WO2014102341A1 (en) 2012-12-31 2014-07-03 Iee International Electronics & Engineering S.A. Optical system generating a structured light field from an array of light sources by meand of a refracting or reflecting light structuring element
US9285477B1 (en) 2013-01-25 2016-03-15 Apple Inc. 3D depth point cloud from timing flight of 2D scanned light beam pulses
US20140211194A1 (en) 2013-01-27 2014-07-31 Quanergy Systems, Inc. Cost-effective lidar sensor for multi-signal detection, weak signal detection and signal disambiguation and method of using same
US9063549B1 (en) * 2013-03-06 2015-06-23 Google Inc. Light detection and ranging device with oscillating mirror driven by magnetically interactive coil
US9086273B1 (en) 2013-03-08 2015-07-21 Google Inc. Microrod compression of laser beam in combination with transmit lens
US9470520B2 (en) 2013-03-14 2016-10-18 Apparate International C.V. LiDAR scanner
EP2972081B1 (en) 2013-03-15 2020-04-22 Apple Inc. Depth scanning with multiple emitters
US9164511B1 (en) 2013-04-17 2015-10-20 Google Inc. Use of detected objects for image processing
US10132928B2 (en) 2013-05-09 2018-11-20 Quanergy Systems, Inc. Solid state optical phased array lidar and method of using same
CN109755859B (zh) 2013-06-19 2021-12-17 苹果公司 集成结构化光投影仪
US10078137B2 (en) 2013-06-21 2018-09-18 Irvine Sensors Corp. LIDAR device and method for clear and degraded environmental viewing conditions
US20150002636A1 (en) 2013-06-28 2015-01-01 Cable Television Laboratories, Inc. Capturing Full Motion Live Events Using Spatially Distributed Depth Sensing Cameras
EP3019824B1 (en) 2013-07-09 2018-01-10 Xenomatix NV Surround sensing system
US8742325B1 (en) 2013-07-31 2014-06-03 Google Inc. Photodetector array on curved substrate
GB2529070B (en) 2013-08-02 2017-07-12 Verifood Ltd Spectrometer comprising a plurality of isolated optical paths
US10126412B2 (en) 2013-08-19 2018-11-13 Quanergy Systems, Inc. Optical phased array lidar system and method of using same
US8836922B1 (en) 2013-08-20 2014-09-16 Google Inc. Devices and methods for a rotating LIDAR platform with a shared transmit/receive path
US9368936B1 (en) 2013-09-30 2016-06-14 Google Inc. Laser diode firing system
US9299731B1 (en) 2013-09-30 2016-03-29 Google Inc. Systems and methods for selectable photodiode circuits
US9425654B2 (en) 2013-09-30 2016-08-23 Google Inc. Contactless electrical coupling for a rotatable LIDAR device
WO2015052616A1 (en) 2013-10-09 2015-04-16 Koninklijke Philips N.V. Monolithic led arrays for uniform and high-brightness light sources
US10203399B2 (en) 2013-11-12 2019-02-12 Big Sky Financial Corporation Methods and apparatus for array based LiDAR systems with reduced interference
AU2014352833B2 (en) 2013-11-22 2019-12-05 Aurora Operations, Inc. LiDAR scanner calibration
KR101582572B1 (ko) 2013-12-24 2016-01-11 엘지전자 주식회사 차량 운전 보조 장치 및 이를 구비한 차량
US20150192677A1 (en) 2014-01-03 2015-07-09 Quanergy Systems, Inc. Distributed lidar sensing system for wide field of view three dimensional mapping and method of using same
US10061111B2 (en) 2014-01-17 2018-08-28 The Trustees Of Columbia University In The City Of New York Systems and methods for three dimensional imaging
US9756263B2 (en) 2014-05-01 2017-09-05 Rebellion Photonics, Inc. Mobile gas and chemical imaging camera
WO2015198331A1 (en) * 2014-06-25 2015-12-30 Ramot At Tel-Aviv University Ltd. System and method for light-field imaging
US9754192B2 (en) 2014-06-30 2017-09-05 Microsoft Technology Licensing, Llc Object detection utilizing geometric information fused with image data
US9753351B2 (en) 2014-06-30 2017-09-05 Quanergy Systems, Inc. Planar beam forming and steering optical phased array chip and method of using same
US9575184B2 (en) 2014-07-03 2017-02-21 Continental Advanced Lidar Solutions Us, Inc. LADAR sensor for a dense environment
AU2015301488B2 (en) 2014-08-15 2019-08-08 Aeye, Inc. Methods and systems for ladar transmission
US9869753B2 (en) 2014-08-15 2018-01-16 Quanergy Systems, Inc. Three-dimensional-mapping two-dimensional-scanning lidar based on one-dimensional-steering optical phased arrays and method of using same
EP3002548B1 (de) 2014-10-02 2016-09-14 Sick Ag Beleuchtungseinrichtung und Verfahren zum Erzeugen eines Beleuchtungsfeldes
US9772405B2 (en) 2014-10-06 2017-09-26 The Boeing Company Backfilling clouds of 3D coordinates
JP2016092146A (ja) 2014-10-31 2016-05-23 セイコーエプソン株式会社 量子干渉装置、原子発振器、電子機器および移動体
US10101206B2 (en) * 2014-11-06 2018-10-16 Ramot At Tel-Avi University Ltd. Spectral imaging method and system
US20160161332A1 (en) * 2014-12-09 2016-06-09 Stmicroelectronics (Research & Development) Limited Image sensor using pixels with combined rgb and ir sensing
EP3045935A1 (en) 2015-01-13 2016-07-20 XenomatiX BVBA Surround sensing system with dome-filter assembly
EP3045936A1 (en) 2015-01-13 2016-07-20 XenomatiX BVBA Surround sensing system with telecentric optics
JP6867947B2 (ja) 2015-01-20 2021-05-12 ディジレンズ インコーポレイテッド ホログラフィック導波路ライダー
WO2016125165A2 (en) 2015-02-05 2016-08-11 Verifood, Ltd. Spectrometry system with visible aiming beam
US9369689B1 (en) 2015-02-24 2016-06-14 HypeVR Lidar stereo fusion live action 3D model video reconstruction for six degrees of freedom 360° volumetric virtual reality video
GB201503912D0 (en) * 2015-03-06 2016-02-03 Bae Systems Plc Method and apparatus for processing spectral images
US10215553B2 (en) 2015-03-12 2019-02-26 Apple Inc. Thin PSD for laser-scanning systems
US9529079B1 (en) 2015-03-26 2016-12-27 Google Inc. Multiplexed multichannel photodetector
US9694498B2 (en) * 2015-03-30 2017-07-04 X Development Llc Imager for detecting visual light and projected patterns
US9880263B2 (en) 2015-04-06 2018-01-30 Waymo Llc Long range steerable LIDAR system
US9525863B2 (en) 2015-04-29 2016-12-20 Apple Inc. Time-of-flight depth mapping with flexible scan pattern
US10063849B2 (en) 2015-09-24 2018-08-28 Ouster, Inc. Optical system for collecting distance information within a field
EP3159711A1 (en) 2015-10-23 2017-04-26 Xenomatix NV System and method for determining a distance to an object
US10539661B2 (en) 2015-11-25 2020-01-21 Velodyne Lidar, Inc. Three dimensional LIDAR system with targeted field of view
US9989406B2 (en) 2016-01-29 2018-06-05 Ouster, Inc. Systems and methods for calibrating an optical distance sensor
US10627490B2 (en) 2016-01-31 2020-04-21 Velodyne Lidar, Inc. Multiple pulse, LIDAR based 3-D imaging
CA3012691C (en) 2016-01-31 2023-02-28 Velodyne Lidar, Inc. Lidar based 3-d imaging with far-field illumination overlap
CA3017735C (en) 2016-03-19 2023-03-14 Velodyne Lidar, Inc. Integrated illumination and detection for lidar based 3-d imaging
CA3017811C (en) 2016-03-21 2021-04-27 Velodyne Lidar, Inc. Lidar based 3-d imaging with varying pulse repetition
US10197669B2 (en) 2016-03-21 2019-02-05 Velodyne Lidar, Inc. LIDAR based 3-D imaging with varying illumination intensity
EP3433634B8 (en) 2016-03-21 2021-07-21 Velodyne Lidar USA, Inc. Lidar based 3-d imaging with varying illumination field density
US10412291B2 (en) * 2016-05-19 2019-09-10 Scenera, Inc. Intelligent interface for interchangeable sensors
WO2017210418A1 (en) 2016-06-01 2017-12-07 Velodyne Lidar, Inc. Multiple pixel scanning lidar
JP6812554B2 (ja) 2016-08-24 2021-01-13 アウスター インコーポレイテッド フィールド内の距離情報を収集するための光学システム
US10693843B2 (en) 2016-09-02 2020-06-23 Scenera, Inc. Security for scene-based sensor networks
EP3301477A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301478A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System for determining a distance to an object
EP3301479A1 (en) 2016-10-03 2018-04-04 Xenomatix NV Method for subtracting background light from an exposure value of a pixel in an imaging array, and pixel for use in same
EP3301480A1 (en) 2016-10-03 2018-04-04 Xenomatix NV System and method for determining a distance to an object
EP3316000A1 (en) 2016-10-28 2018-05-02 Xenomatix NV Vehicular system for measuring a distance to an object and method of installing same
EP3343246A1 (en) 2016-12-30 2018-07-04 Xenomatix NV System for characterizing surroundings of a vehicle
EP3392674A1 (en) 2017-04-23 2018-10-24 Xenomatix NV A pixel structure
CA3063605A1 (en) 2017-05-15 2018-11-22 Ouster, Inc. Optical imaging transmitter with brightness enhancement
US10809380B2 (en) 2017-05-15 2020-10-20 Ouster, Inc. Augmenting panoramic LIDAR results with color
AU2018297291B2 (en) 2017-07-05 2024-03-07 Ouster, Inc. Light ranging device with electronically scanned emitter array and synchronized sensor array

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008008700A (ja) 2006-06-28 2008-01-17 Fujifilm Corp 距離画像センサ
US20100020306A1 (en) 2006-07-13 2010-01-28 Velodyne Acoustics, Inc. High definition lidar system
JP2010035168A (ja) 2008-07-25 2010-02-12 Samsung Electronics Co Ltd イメージング装置および方法
JP2014195296A (ja) 2009-04-07 2014-10-09 Rohm Co Ltd 画素回路およびそれを用いた光電変換装置
JP2010249626A (ja) 2009-04-15 2010-11-04 Panasonic Corp 温度分布検出装置
WO2011015196A1 (de) 2009-08-07 2011-02-10 Conti Temic Microelectonic Gmbh Bildgebender lidarsensor
JP2011199798A (ja) 2010-03-24 2011-10-06 Sony Corp 物理情報取得装置、固体撮像装置、物理情報取得方法
DE102014224857A1 (de) 2014-12-04 2016-06-09 Conti Temic Microelectronic Gmbh Sensorsystem und Verfahren zur Klassifikation von Fahrbahnoberflächen
WO2017044204A1 (en) 2015-09-08 2017-03-16 Microvision, Inc. Mixed-mode depth detection
WO2018057084A1 (en) 2015-09-24 2018-03-29 Ouster, Inc. Optical system for collecting distance information within a field
WO2018074064A1 (ja) 2016-10-17 2018-04-26 ソニー株式会社 画像処理装置と画像処理方法および撮像装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KIM, Wonjoo 外6名,"A 1.5Mpixel RGBZ CMOS Image Sensor for Simultaneous Color and Range Image Capture",2012 IEEE INTERNATIONAL SOLID-STATE CIRCUITS CONFERENCE,2012年04月03日,Pages 392-394,<doi: 10.1109/ISSCC.2012.6177061 >

Also Published As

Publication number Publication date
US20200116558A1 (en) 2020-04-16
SG11202101312QA (en) 2021-03-30
IL280547B1 (en) 2024-05-01
CN112805584A (zh) 2021-05-14
JP2024056706A (ja) 2024-04-23
IL280547A (en) 2021-03-25
EP3834003A4 (en) 2022-04-06
CA3108884A1 (en) 2020-02-13
US10739189B2 (en) 2020-08-11
KR20210046697A (ko) 2021-04-28
CN113189567A (zh) 2021-07-30
JP2021534378A (ja) 2021-12-09
TW202011045A (zh) 2020-03-16
EP3834003A1 (en) 2021-06-16
WO2020033749A1 (en) 2020-02-13
AU2019319946A1 (en) 2021-02-25

Similar Documents

Publication Publication Date Title
JP7426377B2 (ja) マルチスペクトル測距/撮像センサアレイ及びシステム
US11733092B2 (en) Channel-specific micro-optics for optical arrays
JP7429274B2 (ja) 輝度を増強した光学撮像送信器
CN109313345B (zh) 用于图像采集和分析的有源脉冲4d 摄像装置的方法和装置
CN114616489A (zh) Lidar图像处理
US11953600B2 (en) Synchronized image capturing for electronic scanning LIDAR systems comprising an emitter controller and plural sensor controllers
US20140085629A1 (en) Active Hyperspectral Imaging Systems
CN105452807A (zh) 测距系统、以及信号产生装置
US11695911B2 (en) Stereoscopic image capturing systems
US20230047931A1 (en) Coaxial lidar system using a diffractive waveguide

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220804

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230802

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20231010

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231109

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240122

R150 Certificate of patent or registration of utility model

Ref document number: 7426377

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150