JP2019197055A - 構造化された光イメージングシステム及びその方法 - Google Patents

構造化された光イメージングシステム及びその方法 Download PDF

Info

Publication number
JP2019197055A
JP2019197055A JP2019089749A JP2019089749A JP2019197055A JP 2019197055 A JP2019197055 A JP 2019197055A JP 2019089749 A JP2019089749 A JP 2019089749A JP 2019089749 A JP2019089749 A JP 2019089749A JP 2019197055 A JP2019197055 A JP 2019197055A
Authority
JP
Japan
Prior art keywords
sub
predetermined number
projector
scene
structured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019089749A
Other languages
English (en)
Inventor
一 兵 王
yi bing Wang
一 兵 王
承 勲 韓
Byung-Hun Han
承 勲 韓
立 ロング 石
Li Long Shi
立 ロング 石
炳 勲 羅
Byeonghun Na
炳 勲 羅
オフシァンニコフ,イリア
Ovsiannikov Ilia
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JP2019197055A publication Critical patent/JP2019197055A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/254Image signal generators using stereoscopic image cameras in combination with electromagnetic radiation sources for illuminating objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/02Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
    • G01S13/06Systems determining position data of a target
    • G01S13/42Simultaneous measurement of distance and other co-ordinates
    • G01S13/426Scanning radar, e.g. 3D radar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/88Radar or analogous systems specially adapted for specific applications
    • G01S13/89Radar or analogous systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/481Constructional features, e.g. arrangements of optical elements
    • G01S7/4817Constructional features, e.g. arrangements of optical elements relating to scanning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/296Synchronisation thereof; Control thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules

Landscapes

  • Engineering & Computer Science (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】高感度且つ低電力の、デプス(深さ)に関連して構造化された光パターンを応用するカメラシステムを提供する。【解決手段】構造化された光パターンを1つ以上の客体を含むシーンの選択されたスライスに投影し、シーンの選択されたスライスは第1方向への第1の所定のサイズ及び第1方向に垂直である第2方向への第2の所定のサイズを有するプロジェクタと、シーンの選択されたスライスをスキャンし選択されたスライスの領域に対応する出力を生成するイメージセンサと、ここでイメージセンサ及びプロジェクタはエピポーラ方式において同期化されイメージセンサに連結され、客体がスキャンされた領域内に位置するか否かを探知し、客体がスキャンされた領域で探知されている場合プロジェクタを制御して構造化された光パターンをシーンの選択されたスライスのスキャンされた領域から離れた他の領域に向かって第1複数回投影するコントローラとを含む。【選択図】図1

Description

本発明は、構造化された(structured)光イメージングシステム及びその方法に係り、更に詳細には、デプスに関連して構造化された光パターンを応用した、高感度を有する低電力のカメラシステム及びその方法に関する。
高周辺光条件下で(即ち、周辺環境が明るい場合)、3次元(3D)構造化された光カメラ(structured light camera)は、更に遠く離れた客体を探知可能である一方で大略4m以内の客体を探知するためには、大きいダイナミックレンジ(動的範囲、dynamic range)を必要とする。高周辺光条件は、遠距離(longer−range)の客体に対する信号対雑音比(signal−to−noise ratio;SNR)を顕著に減少する一方で近距離(short−range)の客体に対してカメラのセンサのピクセルを飽和させ得る。
米国特許第6,754,370号公報 米国特許第9,874,638号公報 米国特許公開第2015/0094606号明細書 米国特許公開第2016/0061034号明細書
本発明の目的は高感度且つ低電力の、デプス(深さ)に関連して構造化された光パターンを応用するイメージング(カメラ)システム及びその方法を提供することにある。
本発明の例示的な実施形態に係る構造化された光イメージングシステムは、
構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有するプロジェクタ、
前記シーンの前記選択されたスライスをスキャンし、前記選択されたスライスの領域に対応する出力を生成するイメージセンサ、及び
前記イメージセンサに連結され、客体が前記スキャンされた領域内に位置するか否かを探知し、そして前記客体が前記スキャンされた領域で探知されている場合、前記プロジェクタを制御して前記構造化された光パターンを、前記シーンの前記選択されたスライスの前記スキャンされた領域から離れた他の領域に向かって第1複数回投影するコントローラを含み、
前記イメージセンサ及び前記プロジェクタは、エピポーラ方式において(in)同期化される。
本発明の他の例示的な実施形態に係る構造化された光イメージングシステムは、
構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有し、前記第1方向への前記選択されたスライスの前記第1予め定められたサイズが前記第2方向への前記選択されたスライスの前記第2予め定められたサイズより大きいプロジェクタ、
前記シーンの前記選択されたスライスをスキャンし、前記選択されたスライスの領域に対応する出力を生成するイメージセンサ、及び
前記イメージセンサに連結され、客体が前記スキャンされた領域内に位置するか否かを探知し、そして前記客体が前記スキャンされた領域で探知されている場合、前記プロジェクタを制御して前記構造化された光パターンを前記シーンの前記選択されたスライスの前記スキャンされた領域から離れた他の領域に向かって第1複数回投影するコントローラを含み、
前記イメージセンサ及び前記プロジェクタはエピポーラ方式において同期化される。
本発明のその他の例示的な実施形態に係る、シーンをスキャンする構造化された光イメージングシステムの動作方法は、
プロジェクタを利用して構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有する段階、
イメージセンサを利用して前記シーンの前記選択されたスライスをスキャンする段階、
前記選択されたスライスの領域に対応する出力を生成する段階、
客体が前記スキャンされた領域内に位置するか否かを探知する段階、及び
前記客体が前記スキャンされた領域で探知されている場合、コントローラを利用して前記プロジェクタを制御して前記構造化された光パターンを、前記シーンの前記選択されたスライスの前記スキャンされた領域から離れた他の領域に向かって第1複数回投影する段階を含み、
前記イメージセンサ及び前記プロジェクタはエピポーラ方式において同期化される。
本発明によれば、
シーンの選択されたスライスのスキャンした領域内に客体が位置するか否かを探知し、客体がスキャンされた領域で探知されている場合、コントローラを利用してプロジェクタを制御して構造化された光パターンをシーンの選択されたスライスのスキャンされた領域から離れた他の領域に向かって、第1複数回投影して客体が領域内に位置するか否かを探知するので、
高感度を有する低電力の、デプス(深さ)に関連して構造化された光パターンを応用するイメージング(カメラ)システム及び方法を提供し得る。
本発明に係る構造化された光イメージングシステムの例示的な実施形態のブロック図を図示する。 (A)は、基準(reference)光パターンの例示的な実施形態を図示し、(B)は、基本(base)光パターンの例示的な実施形態を図示する。 本発明に係ってエピポーラスキャン又はポイントスキャンが3Dデプス測定のために遂行される方法の例示を図示する。 (A)は、エピポーライメージング技法を使用しないカメラによってイメージングされた、光を反射するディスコボールのシーンであり、(B)は、エピポーライメージング技法を使用してイメージングされた、光を反射するディスコボールの同一のシーンである。 本発明の実施形態に係ってスライスバイスライス(slice−by−slice)方式において(in)シーンに投影されるスライスに分割された例示的な基準光パターンを図示する。 本発明の実施形態に係ってスライスバイスライス方式においてシーンを選択的に投影/スキャンするための構造化された光カメラを使用する方法の例示的な順序図を図示する。 (A)は、本発明に係るカメラ内のセンサのために使用される例示的な積層アーキテクチャを図示し、(B)は、本発明に係るピクセルアレイのピクセルの例示的な実施形態を図示する。 本発明に係るシーンの感知されたスライスの出力の例示的な部分を図示する。
以下の本文で、多様な詳細な説明は本文の理解を提供するために提示される。しかし、このような詳細な説明が無くとも、特許請求の範囲に記載された本発明の思想が通常の技術者によって容易に具現されることはよく理解されるべきである。他の例で、広く公知された方法、手続、構成、及び回路は本文を曖昧にしないために説明されない。
詳細な説明で“1つの実施形態”又は“一実施形態”を参照することは実施形態と連関された特定な特徴、構造、又は特性が本文の少なくとも1つの実施形態に含まれることを意味する。即ち、本文の多様な位置で使用される“1つの実施形態で”又は“一実施形態で”又は“1つの実施形態に係って”又は類似な意味を有する他の表現は同一の実施形態を参照することを要求しない。更に、特定な特徴、構造、又は特性は適切な方式に1つ以上の実施形態で組み合わされ得る。
又は、本文で言及された内容に従って、単数用語は複数の形態を含み、複数用語は単数形態を含み得る。構成図面を含む多様な図面はただ説明の目的のために本文で言及され、図示され、正量化されない。類似に、多様な波形及びタイミング図は単純に説明の目的のために図示される。例えば、一部要素の寸法は明確性のために他の要素に比べて誇張され得る。また、適切なことと考慮される場合、参照番号は対応する要素及び/又は類似な要素を示すために図面で反複される。
本文で使用された用語は特定な実施形態を記述するための目的のみに使用されるものであり、本発明の装置と方法に限定する意図としては使用されない。文脈の上に明確に異なって指示しない限り、単数形態は本発明の概念の説明及び付加された請求項に使用される時、複数の形態を含む意図として使用されたことと理解されなければならない。
そして、“含む”又は“含み、限定されない”の用語が本明細書に使用される場合、記述された特徴、数字、段階、動作、構成、及び/又は部品の存在を明記することであり、これらの1つ以上の他の特徴、数字、段階、動作、構成、部品、及び/又はグループの存在又は付加を排除しないことと更に理解されなければならない。“第1”、“第2”のような用語は先に説明された構成に対するラベルとして使用され、別の定義が無い限り特定な順序(例えば、空間的、時間的、論理的、等)を意図することではない。
その上に、同一の参照番号は同一であるか、或いは類似な機能を有する部品、構成、ブロック、回路、ユニット、又はモジュールと関連された2つ以上の図面にわたって使用され得る。しかし、このような使用は単純に説明の簡易化のためのことであり、このような構成及びユニットの構成又は構造的な細部事項が全ての実施形態又は共通的に参照される部分/モジュールで同一のことと意図されなく、単純に、本発明の特定実施形態を指称するための1つの手段である。
異なって定義されない限り、本明細書で使用された全ての用語(技術的そして科学的用語を含む)は本発明が属する技術分野で通常の技術者によって一般的に理解される同一の意味を有する。一般的に使用される事前に定義されたこのような用語は本明細書及び/又は関連技術の文脈でそれらの意味と一致する意味を有することと解釈されるべきであり、本明細書で明確に定義されない限り、理想化されるか、或いは過度に形式的に解釈されてはならない。
本発明の実施形態は中距離(mid−range)の適用のために屋外で使用される構造化された光3Dシステムを提供し、例えばスマートフォン、ドローン、及びAR/VR装置[拡張現実(altered(augmented) reality)/仮想現実(virtual reality)装置]での使用のために適合し得る。
本発明の一実施形態は、スライスバイスライス(slice−by−slice)方式においてシーンを選択的に投影/スキャンするために制御されるプロジェクタ/スキャナを含む、構造化された光イメージングシステムを提供する。一実施形態で、プロジェクタ/スキャナが制御される選択された順序はランダムな順序である。プロジェクタ/スキャナは相対的に高いピークの光出力(optical power)及び相対的に短いパルス持続時間(pulse duration)を有するパルスを使用し得る。イメージセンサはプロジェクタ/スキャナに同期化されて、プロジェクタのエピポーラ(epipolar)平面に対応する広域シャッター配置を有するサブピクセルアレイを使用してイメージをキャプチャし得る。その結果、デプスエラーを引き起こす多重反射を除去し得、高いSNRを提供しながら、光センサの飽和を防止し得る。
各スライスのスキャン反複はスライス内の客体の感知された距離及び感知された反射度に基づいて決定され得る。代案的に、各エピポーラ平面のスキャン反複はエピポーラ平面内の客体の感知された距離及び感知された反射度に基づいて決定され得る。投影された光は同一のスライス又は平面上の客体が探知された後、スライス又は平面の他の部分に向け直される(redirect)。従って、中距離の3D探知のために必要である光出力は、一般的なCMOSイメージセンサCISを使用する一般的な方式より数百倍少ない。
一実施形態で、イメージセンサは高変換利得及び高速読出し時間を有するイメージセンサであり、高周辺光条件を克服するためのエピポーラ−平面イメージング技法を提供する光プロジェクタ/スキャナと共に使用され得る。一般的なCISは近距離及び遠距離で客体が反射した全ての光電子を探知するための十分に高い変換利得を有しないこともある。
大きいピクセルピッチ及び広域シャッターを含む一般的なCISが、3Dイメージングのための十分に精細なディスパリティ(disparity、視差)解像度を有するのに十分に大きい空間解像度を有しないのに反して、2Dイメージングのための小さいピクセルピッチ(pitch)を有する一般的なCISは、殆ど全ての範囲の客体を探知するのに十分に大きい動的範囲を有しないフルウェル(full well)を含む。他の実施形態で、本明細書で開示されたシステムのためのイメージセンサは非常に小さいピクセルピッチ、高感度、低いフルウェル容量(full well capacity)、及び高速読出し時間を有する特別なCISである。
本明細書で開示される他の実施形態は一般的な技法とは異なり、少ない電力を使用するデプスマップ情報を生成する方法と関連され得る。短い持続時間と高いピークのパルス状光出力(optical power)を有するプロジェクタは構造化された光パターンを投影するのに使用され得る。広域シャッター及びセンサの各サブアレイに対する短い露出時間を有するセンサは、強い周辺光条件を顕著に抑制するように、そしてプロジェクタによって使用される平均光出力を削減するように、プロジェクタとエピポーラ同期して(in an epipolar synchronism with)制御され得る。
カメラに隣接する客体はイメージセンサの小さいピクセルピッチから利用可能である、より精細な視差に起因する更に深い解像度を有し得る。もし、イメージセンサに近い客体が探知されれば、投影された光は、更に遠く離れた任意の客体を探知するためにシーンの他の領域に向け直される。客体の反射率は、客体から反射された光から周辺光を差し引いた光量に基づいて決定され得る。
図1は本発明に係る構造化された光イメージングシステム100の例示的な実施形態のブロック図を図示する。構造化された光システム100はプロジェクタ101、カメラ102、及びコントローラ又はプロセシング装置103を含む。動作中、コントローラ103は基準(reference)光パターン104をプロジェクタ101に送信し、プロジェクタ101は基準光パターン104を図1の線で表示されたシーン105に投影する。カメラ102は投影された基準光パターン104を有するシーン105をイメージ106としてキャプチャする。イメージ106はコントローラ103に送信され、コントローラ103は基準光パターン104と、イメージ106としてキャプチャされた基準光パターン104とのディスパリティ(disparity、差異=視差)に基づいてデプスマップ(depth map)107を生成する。デプスマップ107はイメージ106の断片(patch)に対応する推定されたデプス情報を含む。
実施形態において、コントローラ103は、エピポーラ(epipolar)方式において(in)同期するようにプロジェクタ101とカメラ102を制御する。その上に、プロジェクタ101及びカメラ102は、高いピーク電力及び短い持続時間の光パルスを利用して、エピポーラ方式において1ライン毎に、シーン105を照射するメタフォトニクス(metaphotonics、高次光工学)プロジェクタ/スキャナシステムを形成し得る。
コントローラ103はソフトウェア命令語、専用集積回路、又はこれらの組み合わせを通じてプログラムされたマイクロプロセッサ又はパーソナルコンピュータである。実施形態において、コントローラ103によって提供されるプロセシングは、ソフトウェアを通じて、若しくは、GPU(graphics processing unit)、マルチコアシステム、又はプロセシング動作を具現し得る専用ハードウェアによって加速されるソフトウェアを通じて、完全に具現され得る。ハードウェア及びソフトウェア構成の全ては並列性の異なる段階を提供し得る。構造化された光イメージングシステム100の一実施形態はスマートフォン(smart phone)、セルラフォン(cell phone)、又はデジタルカメラ(digital camera)のような携帯用装置の一部であるが、これに限定されない。
実施形態において、プロジェクタ101及びカメラ102は、可視光又は人の目に見えない赤外線スペクトルでマッチングされ得る。投影された基準光パターンはプロジェクタ101及びカメラ102の双方のスペクトル範囲内にある。その上に、プロジェクタ101及びカメラ102の解像度は異なり得る。例えば、プロジェクタ101はビデオグラフィックアレイ(video graphics array;VGA)解像度(例えば、640×480ピクセル)に従って(in)基準光パターン104を投影し、カメラ102は更に高い解像度(例えば、1280×720ピクセル)を有し得る。このような構成で、デプスマップ107を生成するために、イメージ106はダウンサンプリングされるか、及び/又は、プロジェクタ101によって照明されたイメージ106の領域のみが分析され得る。
図2(A)は図1に図示された一般的な基準光パターン104の例示的な実施形態を図示する。実施形態において、基準光パターン104は基準光パターン104を完全に満たすように水平及び垂直方向に反複される複数の基準光パターン要素を含み得る。図2(B)は水平方向(即ち、図2(B)のx方向)に48ドット(dot)幅であり,垂直方向(即ち、図2(B)のy方向)に4ドット高さである基本光パターン118の例示的な実施形態を図示する。他の基本光パターンも可能である。単純化のために、ドット対ピクセルの比は1:1であり、即ち、各投影されたドットはカメラ102のようなカメラの、正確に1つのピクセルによってキャプチャされる。実施形態において、図2(A)の基準光パターン104は、基本光パターン118を水平方向に10回、垂直方向に160回繰り返すことによって形成され得る。
例えば、4x4ピクセルウインドーが基本光パターン118に重畳され(エッジを包む)、水平方向にスライディングされれば、48個の固有(unique)サブパターンがあり得る。4x4ピクセルウインドーが垂直方向にスライディングする時、4x4ピクセルウインドーが(包む)基本光パターン118の4ピクセル高さに亘って垂直方向にスライディングされれば、総計192個の固有(unique)サブパターンがあり得る。
再び図1を参照すれば、x軸は構造化された光イメージングシステム100の前面に沿った水平方向を示し、y軸は垂直方向を示し、z軸は、イメージングシステム100から離れて、イメージングされるシーン105の一般的な方向に向かって延長される。デプス測定のために、プロジェクタ101及びカメラ102の光軸はz軸に平行である。他の光学的配置が、本明細書で開示された原理を具現するのに使用され得るだけでなく、本明細書に開示された主題の範囲内にあると考慮され得る。
実施形態において、プロジェクタ101はダイオードレーザ、可視光を発するLED(Light Emitting Diode)、NIR(near infrared)レーザ、点光源(point light source)、可視光スペクトル内の(白色ランプとモノクロメーター(monochromator)との組み合わせのような)単色照明光(monochromatic illumination source)、又は他のレーザ光源などの、しかし、これに限定されない光源を含み得る。実施形態において、レーザ光源はイメージングシステム100のハウジング内の任意の位置に固定され得、x方向及びy方向に回転し得る。その上に、プロジェクタ101はフォーカシングレンズ、ガラス/プラスチック表面、及び/又はレーザ光源からのレーザビームをシーン105の客体の表面上に点(point)又はスポット(spot)として集束させる他の円筒形の光要素のような(しかし、これに限定されない)投影光学系(projection optics)を含み得る。
カメラ102は、シーン105内の客体上の光スポットを、画素アレイを含むイメージセンサ上の光スポットとして集束させ得る光学系を含む。カメラ102はまた、フォーカシングレンズ、ガラス/プラスチック表面、またはシーン105内の客体から受信した反射光を二次元(2D)アレイ内の1つまたは複数のピクセル上に集光する他の円筒形光学要素を含む。2Dのピクセルのアレイはピクセルの各行がシーン105上の走査線(scanning line)のエピポーララインを形成するイメージ平面を形成する。
一実施形態において、カメラ102のイメージセンサは高い変換利得及び速い読出し速度を有するイメージセンサであり、高周辺光条件を克服するためにエピポーラ平面イメージング技法を提供する光プロジェクタ/スキャナの一部として使用され得る。実施形態において、イメージセンサの各ピクセルは約200e(電子)未満のフルウェル容量(full well capacity)を有するフォトダイオードを含み得、約500μV/e(電子)より大きい変換利得を有し得る。イメージセンサは1μm程度の小さいピクセルピッチ(pitch)を有し得る。
プロジェクタ101は、ポイントスキャン又はエピポーラスキャン技法を使用して、投影(プロジェクト)線(破線で図示)108、109によって指示されるように、シーンを照明し得る。即ち、レーザ光源からの光ビームはシーン105を横切ってx−y方向にプロセシング装置103の制御の下にポイントスキャニングされ得る。ポイント−スキャン技法は、図3を参照してより詳細に説明されるように、スキャンラインに沿ってシーン105の任意の客体の表面上に光スポットを投影し得る。
シーン105のポイントスキャンから反射された光は、プロジェクタ101のレーザソースから光を受信した時にシーン105の客体の表面から反射された又は表面によって散乱されたフォトン(photon)を含み得る。例えば、照明された客体から受信された光はカメラ102の集光光学系を通じて2Dピクセルアレイの1つ以上のピクセルにフォーカシングされ得る。カメラのピクセルアレイは収集されたフォトンを対応する電気的信号に変換し得、以後、該電気的信号はコントローラ103によってシーン105の3Dデプスマップとして処理され得る。実施形態において、コントローラ103はデプス測定のための三角測量技法(triangulation technique)を使用し得る。
図3は本発明の一実施例に係って、エピポーラスキャン又はポイントスキャンが3Dデプス測定のために遂行される方法を図示する。図3で、プロジェクタ101の一部であるレーザ光源203のx−y回転能力(rotational capabilitiy)は矢印201、202によって指示され、(角“β”を有する)x方向及び(角“α”を有する)y方向へのレーザの角運動(angular motion)を各々示す。実施形態において、コントローラ103は、例えばスキャン命令語に基づいて、レーザ光源203のx−y回転動作を制御し得る。
図3に図示されたように、レーザ光源203は、1次元(1D)水平スキャニングラインに沿って光スポットを走査することによって、客体204の表面をポイントスキャニングする。ここで第R、第(R+1)行の、2つの水平スキャニングラインS(205)、SR+1(206)が図3に点線で表示されている。客体204の表面の曲率(curvature)の結果、光スポット207乃至210が第R行スキャニングラインSを形成する。簡単かつ明瞭にするために、スキャンラインSR+1(206)を形成する光スポットは参照番号の添付を省略する。レーザ203は、例えば左側から右側方向に1回に1つのスポットずつ、第R、第(R+1)、第(R+2)スキャニング行S、SR+1、SR+2、…等に沿って客体204をスキャンする。
値R、R+1等はカメラ102の2Dピクセルアレイ211のピクセルの特定行番号を指し、この値は既知である。例えば、図3の2Dピクセルアレイ211で、第Rピクセル行は参照番号212を使用して識別され、第(R+1)ピクセル行は参照番号213を使用して識別される。ピクセルアレイ211の第R、第(R+1)行は単なる図示の目的のためにピクセルの複数の行から選択されたことが理解されなければならない。
2Dピクセルアレイ211のピクセルの行を含む平面はイメージ平面と称され、第R、第(R+1)ラインS、SR+1のようなスキャニングラインを含む平面はスキャニング平面と称される。図3の実施形態で、イメージ平面とスキャニング平面はエピポーラ幾何学を使用して配向され(oriented)て2Dピクセルアレイ211の第R、第(R+1)ピクセル行等は、第R、第(R+1)スキャニングラインS、SR+1等に対応するエピポーララインを形成し得る。(第RスキャニングラインSにおける)照明されたスポットのイメージ平面への投影が行Rその自体であるラインに沿って明瞭なスポットを形成する場合、第Rピクセル行は対応する第RスキャニングラインSに対してエピポーラであると考えられ得る。
例えば、図3で、矢印214はレーザ光源203からの、光スポット208を形成するレーザ光を示し、矢印215は光スポット208がフォーカシングレンズ216によってピクセルアレイ211の行212に沿ってイメージングされるか、或いは投影されていることを示す。図3には表示されていないが、光スポット207乃至210の全てはピクセルアレイ211の第R行に対応するピクセルによってイメージングされると理解されるべきである。即ち、実施形態において、レーザ203及びピクセルアレイ211の位置及び方向などの物理的配置は、客体204の表面上のスキャニングラインの照明された光スポットがピクセルアレイ211の対応する行のピクセルによってキャプチャされるか、或いは探知され得ることであり、従って、ピクセルの行はスキャニングラインのエピポーララインを形成し得る。
2Dピクセルアレイ211のピクセルは行と列に配列され得る。照明された光スポットはピクセルアレイ211の行及び列によって参照され得る。例えば、図3で、第RスキャニングラインSの光スポット208はX(R、i)と命名されてスポット208がピクセルアレイ211の第Rピクセル行(212)及び第iピクセル列(217、即ち、C)によってイメージングされることを示し得る。第iピクセル列Cは点線217によって指定される。他の照明されたスポットも同様に識別される。2つ以上の光スポットから反射された光が行の1つのピクセルによって受信され得、或いは、逆に1つの光スポットから反射された光がピクセルの行の2つ以上のピクセルによって受信され得ることが理解されなければならない。タイムスタンプが光スポットを識別するのに使用され得る。
図3で、矢印218は、図1に図示されたx軸のようにカメラ102の前方に沿うx軸219から光スポット208までの(z軸に沿う)デプス又は長さZを示す。図3で、x軸は、プロジェクタ101の投影光学系(図示せず)及びカメラ102の集光光学系(図示せず)も更に含む垂直平面に含まれることによって視覚化され得る、219によって指示される。しかし、三角測量方法の説明を容易にするために、図3で、投影光学系の代わりにレーザソース203がx軸219で図示されている。三角測量ベースのアプローチを使用することによって、下の数学式を使用してZの値が決定され得る。
[数学式1]

Z= (h・d)/(q−(h・tanθ))
数学式1で、パラメータhは収集光学系(図示せず)及び(収集光学系後方の垂直平面にあると仮定される)イメージセンサ211の間の(z軸に沿う)距離であり、パラメータdは光源203及びカメラ102と関連された(レンズ216によって代表される)収集光学系の間のオフセット距離であり、パラメータqはカメラ102及び対応する光スポットを探知するピクセル間のオフセット距離であり(図3の例で、ピクセルiを探知/イメージングすることは光スポットX(R、i)、(208)と関連された第iピクセル列Cによって表示される)、パラメータθは考慮中である光スポット(図2(B)の例では、光スポット208)のための光源のスキャン角度又はビーム角度である。代案的に、パラメータqはピクセルアレイ211の観測視野内の光スポットのオフセットとして考慮され得る。数学式1のパラメータは図3に図示されている。イメージングシステム100の物理的構成に基づいて、数学式1の右側のパラメータ値は予め決定され得る。
所与のポイントスキャンにおいてパラメータθ、qのみが可変であることが数学式1から分かる。パラメータh、dはイメージングシステム100の物理的幾何学(構造)によって本質的に固定される。第R行212は第RスキャニングラインSのエピポーララインであるので、デプス差又は客体204のデプスプロフィールは、イメージングされる他の光スポットに対するパラメータqの値によって表示されるように、水平方向へのイメージシフトによって反映され得る。
従って、スキャン角度θ及び(パラメータqによって表示されるような)対応するイメージングされた光スポットの位置から、光スポットまでの距離Zは数学式1を使用して決定され得る。距離測定のための三角法は、例えば三角測量ベースの距離測定と関連された開示が全体として参照されて本明細書に含まれる、米国特許出願番号2011/0102763A1(Brown外)を含む関連文献において説明されていることを理解しなければならない。
高周辺光条件は、遠距離の客体の信号対雑音比(signal−to−noise ratio;SNR)を顕著に減少させ得る一方、近距離の客体に対してはセンサのピクセルを飽和させ得る。エピポーラ、又はポイント−スキャン技法はデプス情報の推定値を生成する時、高周辺光条件によって生じる悪影響を減少させるために使用され得る。例えば、図4(A)は、エピポーライメージング技法を使用しないカメラによってイメージングされた、光を反射するディスコボール(illuminated mirrored disco ball)のシーンである。図4(A)でイメージングされたシーンはディスコボールの反射された複数のマルチパス(multipath)反射を含む。マルチパス反射は3Dデプス測定でエラーを惹起し得る。
図4(A)とは異なり、図4(B)は、エピポーライメージング技法を使用してイメージングされた、光を反射するディスコボールの同一のシーンである。エピポーライメージング技法がマルチパス反射を除去するので、図4(A)に比べて図4(B)では、ディスコボールから反射された光スポットが著しく少ないことが確認される。その上に、距離と関連されたディスパリティはセンサエピポーララインのみで感知される。
図1を再び参照すれば、構造化された光イメージングシステム100のコントローラ103はプロジェクタ101及びカメラ102を制御してエピポーラ技法でシーンのスライスをイメージングし得る。例えば、図5は本発明の実施形態に係ってスライスバイスライス(slice−by−slice)方式においてシーンに投影されるスライス401乃至408に分割された例示的な基準光パターン400を図示する。図5では、例示的な基準光パターン400が8個のスライスに分割されたが、多様な数のスライスがシーンをスキャンするために使用され得ることが理解されなければならない。
基準光パターン400の各スライス401乃至408は相対的に高いピーク光出力及び相対的に短い周期のパルスを使用してエピポーラ方式においてプロジェクタ101によって選択的に投影され得る。実施形態において、ピーク光出力は約0.2μsのパルス持続時間を有し、約4Wである。カメラ102はプロジェクタ101に同期され得、低ビットのアナログデジタルコンバータ(analog−to−digital converter;ADC)を備えた高速読出し回路を含み得る。
相対的に近い範囲にあるスキャンされたスライスの客体は殆ど1回のスキャンでカメラ102の出力において探知される。客体が探知された後、客体が未だ探知されないスキャンされたスライスの領域に向かってパルスが向け直される(redirect)ことによって、プロジェクタ101の光出力はより効率的に使用され得る。一実施形態において、プロジェクタ101の光出力は向け直されて近距離の客体が探知されないスライスの領域を選択された複数回だけ繰り返しスキャンし得る。反射されたフォトンを蓄積するか、又はビニングする(binning)ことに基づいて、光出力が向け直されたスライスの領域にある如何なる客体であっても探知され得る。繰り返しスキャンされる領域は任意の順序でよい。
シーンのスライスがスキャンされる順序(sequence)は、ランダムな順序を含む任意の順序である。その上に、スライスは、一般的に水平方向に長い長方形の形状を有する図5のように図示されるが、カメラ及びプロジェクタ/スキャナが垂直の変位(displacement)を有する場合、代案的に、スライスは一般的に垂直方向に長い長方形の形状を有し得る。他の実施形態として、このようなスライスを使用する代わりに、任意の閉じた形状を有するシーンの領域が選択的にスキャンされ得る。
図6は本発明の実施形態に係って、スライスバイスライス方式において、シーンを選択的に投影/スキャンするための構造化された光カメラを使用する方法500の例示的な順序図を図示する。本方法は501で開始する。502で、インデックスnが初期化される。503で、構造化された光パターンがエピポーライメージング技法を使用してシーンの選択されたスライスに向かって投影される。プロジェクタは相対的に短いパルスを有する相対的に高い光出力を使用するように制御される。504で、503の投影されたパルスに同期化して、エピポーライメージング技法を使用してシーンがスキャンされる。505で、客体が選択されたスライス内で探知されるか否かが決定される。近距離の客体が受信された複数の光電子(photoelectron)に基づいて探知される。
505で客体が探知されれば、手続は506に続き、506で、客体が探知されない選択されたスライスの領域がエピポーライメージング技法を使用してスキャンされる。即ち、プロジェクタの光出力は客体が探知されない選択されたスライスの領域に再び向け直され、エピポーライメージング技法を使用して領域がスキャンされる。
構造化された光パターンの反複的な投影が、客体が探知されない領域のみに向け直されると、比較的遠距離の客体の存在を明らかにし得る。507で、スキャンされる領域で客体が探知されるか否かが決定される。手続は508に続き、インデックスnは増加する。509で、インデックスnは、予め定められた数N(例えば、N=8)と同一になる(‘Y’)まで繰り返される(‘N’)。但し、予め定められた数Nとしては、他の(8以外の)予め定められた値が使用され得る。
509でインデックスnが予め定められた数Nと等しくないと判断されれば、手続は506に続き、客体が探知されない選択されたスライスの領域がエピポーライメージング方式においてスキャンされる。509でインデックスnが予め定められた数Nと等しいと判断されれば、手続は512に続き、全てのスライスがスキャンされるか否かが決定される。そうであれば、手続は513に続き、本方法は終了する。512で全てのスライスがスキャンされていなければ、手続は502に戻る。
505で客体が探知されなかったと判断されれば、手続は510に続き、インデックスnは増加し、511が実行される。511でインデックスnが予め定められた数Nと等しくなければ、手続は503に戻る。511でインデックスnが予め定められた数Nと同一であれば、手続は512に続き、全てのスライスがスキャンされるか否かが決定される。
図7(A)は本発明に係るカメラ102のセンサのために使用される例示的な積層アーキテクチャ(stacked architecture)600を図示する。積層アーキテクチャ600は最上層のピクセルアレイ601を含み、最下層の周辺及びADC回路602を含む。ピクセルアレイ601は1つのピクセル603のみが表示されているが、複数のピクセル603を含み得る。ピクセルアレイ601は1つの広域シャッターアレイ604のみが破線で表示されているが、複数の広域シャッターアレイを含むように配置され得る。
実施形態において、各広域シャッターアレイ604は1つのエピポーラ投影/スキャンラインに対応し得る。広域シャッターアレイのための他のサイズが可能である。その他の実施形態において、ピクセルアレイ601はローリングシャッター(rolling shutter mode)モードで動作するシャッターアレイを含むように配置され得る。最下層602は、1つのADC606のみが表示された複数のADC606を含む低ビットのADCアレイ605を含む。実施形態において、各ADC606は(縦方向の破線で示されたような)高速読出し回路を通じて対応するピクセル603に連結され、4ビット以下の解像度を有し得る。最下層602は行ドライバアレイ607並びにバイアス及び他の回路608を含む。
図7(B)は本発明に係るピクセルアレイ601のピクセル603の例示的な実施形態を図示する。実施形態において、ピクセル603はQIS光検出器(photodetector)を含む広く公知された4トランジスタ(4T)構造を有し得る。他の実施形態において、ピクセル603は共有された構造を有し得る。各ピクセル603は約200e−(電子)以下のフルウェル容量を有し、約500μV/e−(電子)以上の変換利得を有する光検出器を含み得る。約1μmの小さいピクセルピッチが使用され得る。
図8は本発明に係るシーンの感知されたスライスの出力の例示的な部分700を図示する。実施形態において、スライスはピクセルからの探知された出力が4x4のビンにビニング(binning)される480個のスキャンラインを含み得る。黒色で表示された例示的な部分700の領域は周辺光フォトンのみを受信したピクセルを示す。白色で表示されたピクセルは周辺光フォトンと基準光パターンの反射されたフォトンとの合計を受信したピクセルを示す。
例えば、例示的な部分700の領域701は0.3mの範囲を有する探知された客体を含み得る。白色ピクセルは30個の電子を受信することに反して、黒いピクセルは1つ未満の電子を受信する。領域702は1mの範囲を有する探知された客体を含む。10回のスキャンで、黒いピクセルは総計0.2個の電子を受信し、白色ピクセルは30個の電子を受信する。領域703は4mの範囲を有する探知された客体を含み得る。10回のスキャン及び4x4ビニングで、黒いピクセルは3.2個の電子を受信し得、白色ピクセルは40個の電子を受信し得る。
遠く離れた客体がピクセルアレイによって探知された、より少ないフォトンを反射することに対して、カメラに最も近い客体はピクセルアレイによって探知された、より多いフォトンを反射する。客体の距離に基づく探知されたフォトンの個数の差が探知された基準光パターンの白色部分の強さとして図8に図示されている。
客体が探知されれば、例えば、図1のプロジェクタ101からの投影された光は、客体が探知される時まで非常に少ない反射されたフォトンが探知されるか、或いは反射されたフォトンが探知されない、他の領域に繰り返しに向け直される。ビニングが使用されて客体を探知するために充分な反射されたフォトンが収集され得る。例えば、10回のスキャンが領域702、703の客体を探知するのに必要とすることに反して、領域701は1回のスキャンのみで客体を探知し得る。
客体の反射度は黒いピクセルと白いピクセルとの差に基づいて推定され得る。即ち、白色で表示されたピクセルが周辺光フォトンと基準光パターンの反射されたフォトンとの合計を受信したピクセルを示すのに反して、黒色で表示された例示的な部分700の領域は周辺光フォトンのみを受信するピクセルを示す。2種のピクセル間の差は活性電子の数を示し得る。活性電子の理論的な数は、数学式1の三角測量基盤の接近法を使用して獲得され得る客体の距離と関連され得る。活性電子の受信された数と理論的な数との比率を決定することによって、特定なピクセルによってキャプチャされた客体の反射度が決定され得る。
本発明が属する技術分野で通常の知識を有する者によって認識されるように、本明細書で開示された技術的思想は広い範囲の適用で変形され、応用され得る。従って、権利化された主題の範囲は前述した特定な例示に限定されなく、後続する請求項によって決定され得る。
100 構造化された光システム
101 プロジェクタ
102 カメラ
103 コントローラ又はプロセシング装置
104 基準光パターン
105 シーン
106 イメージ
107 デプスマップ
108、109 プロジェクタ照明線
118 基本光パターン
201、202 レーザ光源の回転能力
203 レーザ光源
204 客体
205、206 第R、第(R+1)(水平)スキャニングラインS、SR+1
207、209、210 (光)スポット
208 (光)スポットX(R、i)
211 (2D)ピクセルアレイ
212、213 第R、第(R+1)(ピクセル)行
214 光スポットを形成するレーザ光を示す矢印
215 イメージング/投影される光スポットを示す矢印
216 フォーカシングレンズ
217 第i(ピクセル)列C
218 z軸に沿うデプス(Z)を示す矢印
219 x軸

500 シーンを選択的に投影/スキャンするための構造化された光カメラを使用する方法
600 カメラ102のセンサの例示的な積層アーキテクチャ
601 最上層のピクセルアレイ
602 最下層の周辺及びADC回路
603 1つのピクセル
604 広域シャッターアレイ
605 ADCアレイ
606 ADC
607 行ドライバアレイ
608 バイアス及び他の回路
700 シーンの感知されたスライスの出力の例示的な部分
CIS CMOSイメージセンサ

Claims (20)

  1. 構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有するプロジェクタと、
    前記シーンの前記選択されたスライスをスキャンし、前記選択されたスライスの領域に対応する出力を生成するイメージセンサと、
    前記イメージセンサに連結され、客体が前記スキャンされた領域内に位置するか否かを探知し、そして前記客体が前記スキャンされた領域で探知されている場合、前記プロジェクタを制御して前記構造化された光パターンを、前記シーンの前記選択されたスライスの、前記スキャンされた領域から離れた他の領域に向かって第1複数回投影するコントローラと、を含み、
    前記イメージセンサ及び前記プロジェクタは、エピポーラ方式において(in)同期化される、ことを特徴とする構造化された光イメージングシステム。
  2. 前記構造化された光パターンは、前記第1方向に延長する複数のサブパターンの行を含み、
    各サブパターンは、少なくとも1つの他のサブパターンに隣接し、
    各サブパターンは、各他のサブパターンとは異なり、
    各サブパターンは、サブ行に第1予め定められた数の領域及びサブ列に第2予め定められた数の領域を含み(前記第1予め定められた数及び前記第2予め定められた数は整数)、
    各領域は、同一サイズを有し、
    各サブ行は、前記第1方向に延長し、
    各サブ列は、前記第2方向に延長する、ことを特徴とする請求項1に記載の構造化された光イメージングシステム。
  3. 前記複数のサブパターンは、48個のサブパターンを含み、
    前記第1予め定められた数と前記第2予め定められた数とは、互いに同一であり、
    各領域は、前記構造化された光パターンのドットに対応する、ことを特徴とする請求項2に記載の構造化された光イメージングシステム。
  4. 前記第1複数回は、10回である、ことを特徴とする請求項1に記載の構造化された光イメージングシステム。
  5. 前記コントローラは、前記スキャンされた領域の黒色ピクセルと白色ピクセルとの間の強度差に基づいて、探知された客体の反射度を決定する、ことを特徴とする請求項1に記載の構造化された光イメージングシステム。
  6. 前記第1方向への前記選択されたスライスの前記第1予め定められたサイズは、前記第2方向への前記選択されたスライスの前記第2予め定められたサイズより大きく、
    前記コントローラは、前記プロジェクタを制御して選択された順序に第3予め定められた数のスライスに向かって前記構造化された光パターンを投影し、
    前記イメージセンサは、前記選択された順序に前記第3予め定められた数のスライスをスキャンする、ことを特徴とする請求項1に記載の構造化された光イメージングシステム。
  7. 前記選択された順序は、ランダム順序である、ことを特徴とする請求項6に記載の構造化された光イメージングシステム。
  8. 構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有し、前記第1方向への前記選択されたスライスの前記第1予め定められたサイズが、前記第2方向への前記選択されたスライスの前記第2予め定められたサイズより大きいプロジェクタと、
    前記シーンの前記選択されたスライスをスキャンし、前記選択されたスライスの領域に対応する出力を生成するイメージセンサと、
    前記イメージセンサに連結され、客体が前記スキャンされた領域内に位置するか否かを探知し、そして前記客体が前記スキャンされた領域で探知されている場合、前記プロジェクタを制御して前記構造化された光パターンを、前記シーンの前記選択されたスライスの前記スキャンされた領域から離れた他の領域に向かって第1複数回投影するコントローラと、を含み、
    前記イメージセンサ及び前記プロジェクタは、エピポーラ方式において同期化される、ことを特徴とする構造化された光イメージングシステム。
  9. 前記コントローラは、前記プロジェクタを制御して選択された順序に第3予め定められた数のスライスに向かって前記構造化された光パターンを投影し、
    前記イメージセンサは、前記選択された順序に前記第3予め定められた数のスライスをスキャンし、
    前記選択された順序は、ランダム順序である、ことを特徴とする請求項8に記載の構造化された光イメージングシステム。
  10. 前記構造化された光パターンは、前記第1方向に延長する複数のサブパターンの行を含み、
    各サブパターンは、少なくとも1つの他のサブパターンに隣接し、
    各サブパターンは、各他のサブパターンとは異なり、
    各サブパターンは、サブ行に第1予め定められた数の領域及びサブ列に第2予め定められた数の領域を含み(前記第1予め定められた数及び前記第2予め定められた数は整数)、
    各領域は、同一サイズを有し、
    各サブ行は、前記第1方向に延長し、
    各サブ列は、前記第2方向に延長する、ことを特徴とする請求項9に記載の構造化された光イメージングシステム。
  11. 前記複数のサブパターンは、48個のサブパターンを含み、
    前記第1予め定められた数と前記第2予め定められた数は、互いに同一である、ことを特徴とする請求項10に記載の構造化された光イメージングシステム。
  12. 前記第1複数回は、10回である、ことを特徴とする請求項8に記載の構造化された光イメージングシステム。
  13. 前記コントローラは、前記スキャンされた領域の黒色ピクセルと白色ピクセルとの間の強度差に基づいて、探知された客体の反射度を決定する、ことを特徴とする請求項10に記載の構造化された光イメージングシステム。
  14. シーンをスキャンする構造化された光イメージングシステムの動作方法において、
    プロジェクタを利用して構造化された光パターンを、1つ以上の客体を含むシーンの選択されたスライスに投影し、前記シーンの前記選択されたスライスが第1方向への第1予め定められたサイズ及び前記第1方向に垂直である第2方向への第2予め定められたサイズを有する段階と、
    イメージセンサを利用して前記シーンの前記選択されたスライスをスキャンする段階と、
    前記選択されたスライスの領域に対応する出力を生成する段階と、
    客体が前記スキャンされた領域内に位置するか否かを探知する段階と、
    前記客体が前記スキャンされた領域で探知されている場合、コントローラを利用して前記プロジェクタを制御して前記構造化された光パターンを、前記シーンの前記選択されたスライスの前記スキャンされた領域から離れた他の領域に向かって第1複数回投影する段階と、を含み、
    前記イメージセンサ及び前記プロジェクタは、エピポーラ方式において同期化される、ことを特徴とする方法。
  15. 前記構造化された光パターンは、前記第1方向に延長する複数のサブパターンの行を含み、
    各サブパターンは、少なくとも1つの他のサブパターンに隣接し、
    各サブパターンは、各他のサブパターンとは異なり、
    各サブパターンは、サブ行に第1予め定められた数の領域及びサブ列に第2予め定められた数の領域を含み(前記第1予め定められた数及び前記第2予め定められた数は整数)、
    各領域は、同一サイズを有し、
    各サブ行は、前記第1方向に延長し、
    各サブ列は、前記第2方向に延長する、ことを特徴とする請求項14に記載の方法。
  16. 前記複数のサブパターンは、48個のサブパターンを含み、
    前記第1予め定められた数と前記第2予め定められた数とは、互いに同一であり、
    前記第1複数回は、10回である、ことを特徴とする請求項14に記載の方法。
  17. 前記第1方向への前記選択されたスライスの前記第1予め定められたサイズは、前記第2方向への前記選択されたスライスの前記第2予め定められたサイズより大きく、
    前記プロジェクタを制御して選択された順序に第3予め定められた数のスライスに向かって前記構造化された光パターンを投影する段階と、
    前記選択された順序に前記第3予め定められた数のスライスをスキャンする段階と、を更に含み、
    前記選択された順序は、ランダム順序である、ことを特徴とする請求項14に記載の方法。
  18. 前記イメージセンサは、広域シャッターがエピポーラスキャンラインに対応する、複数の広域シャッターアレイを含み、
    前記イメージセンサをランダムシャッターモード及びローリングシャッターモードの中の1つに動作させる段階を更に含む、ことを特徴とする請求項14に記載の方法。
  19. 前記プロジェクタを利用して、前記構造化された光パターンを前記スキャンされた領域から離れて前記第1複数回投影して、前記スキャンされた領域で探知された前記客体より遠く離れた客体を探知する段階を更に含む、ことを特徴とする請求項14に記載の方法。
  20. 前記コントローラを利用して、前記スキャンされた領域の黒色ピクセルと白色ピクセルとの間の強度差に基づいて、前記スキャンされた領域で探知された前記客体の反射度を決定する段階を更に含む、ことを特徴とする請求項14に記載の方法。
JP2019089749A 2018-05-10 2019-05-10 構造化された光イメージングシステム及びその方法 Pending JP2019197055A (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201862669931P 2018-05-10 2018-05-10
US62/669,931 2018-05-10
US16/038,146 US20190349569A1 (en) 2018-05-10 2018-07-17 High-sensitivity low-power camera system for 3d structured light application
US16/038,146 2018-07-17

Publications (1)

Publication Number Publication Date
JP2019197055A true JP2019197055A (ja) 2019-11-14

Family

ID=68463427

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019089749A Pending JP2019197055A (ja) 2018-05-10 2019-05-10 構造化された光イメージングシステム及びその方法

Country Status (5)

Country Link
US (1) US20190349569A1 (ja)
JP (1) JP2019197055A (ja)
KR (1) KR20190129693A (ja)
CN (1) CN110471050A (ja)
TW (1) TW202002626A (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11689708B2 (en) * 2020-01-08 2023-06-27 Corephotonics Ltd. Multi-aperture zoom digital cameras and methods of using same
TWI771112B (zh) 2021-07-21 2022-07-11 舞蘊股份有限公司 用於合光的超穎光學元件

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012150054A (ja) * 2011-01-20 2012-08-09 Ricoh Co Ltd 物体検出装置及びこれを備えた車両衝突回避システム
JP2014077668A (ja) * 2012-10-09 2014-05-01 Optex Co Ltd 寸法計測装置および寸法計測方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5003166A (en) * 1989-11-07 1991-03-26 Massachusetts Institute Of Technology Multidimensional range mapping with pattern projection and cross correlation
US6754370B1 (en) * 2000-08-14 2004-06-22 The Board Of Trustees Of The Leland Stanford Junior University Real-time structured light range scanning of moving scenes
EP1191306B1 (en) * 2000-09-26 2006-11-22 Fuji Photo Film Co., Ltd. Distance information obtaining apparatus and distance information obtaining method
US9939233B2 (en) * 2007-10-02 2018-04-10 Doubleshot, Inc. Laser beam pattern projector
US8890953B1 (en) * 2011-06-27 2014-11-18 Rawles Llc Optical-based scene detection and audio extraction
US9396382B2 (en) * 2012-08-17 2016-07-19 Flashscan3D, Llc System and method for a biometric image sensor with spoofing detection
US10368053B2 (en) * 2012-11-14 2019-07-30 Qualcomm Incorporated Structured light active depth sensing systems combining multiple images to compensate for differences in reflectivity and/or absorption
US9547222B2 (en) * 2013-02-08 2017-01-17 University Of South Australia Method and apparatus for calibration of multiple projector systems
US9524059B2 (en) * 2013-03-15 2016-12-20 Texas Instruments Incorporated Interaction detection using structured light images
JP6547104B2 (ja) * 2013-10-23 2019-07-24 フェイスブック・テクノロジーズ・リミテッド・ライアビリティ・カンパニーFacebook Technologies, Llc 動的構造化光を用いた三次元深度マッピング
US20150138320A1 (en) * 2013-11-21 2015-05-21 Antoine El Daher High Accuracy Automated 3D Scanner With Efficient Scanning Pattern
US20160150219A1 (en) * 2014-11-20 2016-05-26 Mantisvision Ltd. Methods Circuits Devices Assemblies Systems and Functionally Associated Computer Executable Code for Image Acquisition With Depth Estimation
US20180364045A1 (en) * 2015-01-06 2018-12-20 Discovery Robotics Robotic platform with mapping facility
KR102287958B1 (ko) * 2015-02-06 2021-08-09 한국전자통신연구원 차량 창유리 가시광선 투과율 원격 검사 시스템 및 방법
CN107637074B (zh) * 2015-03-22 2020-09-18 脸谱科技有限责任公司 使用立体摄像机与结构化光的头戴显示器的深度绘制
US10225544B2 (en) * 2015-11-19 2019-03-05 Hand Held Products, Inc. High resolution dot pattern
US10973581B2 (en) * 2016-06-17 2021-04-13 7D Surgical Inc. Systems and methods for obtaining a structured light reconstruction of a 3D surface
US10306203B1 (en) * 2016-06-23 2019-05-28 Amazon Technologies, Inc. Adaptive depth sensing of scenes by targeted light projections
US9947099B2 (en) * 2016-07-27 2018-04-17 Microsoft Technology Licensing, Llc Reflectivity map estimate from dot based structured light systems
CN109891187A (zh) * 2016-08-18 2019-06-14 特拉维夫大学拉莫特有限公司 结构光投影仪
US10380749B2 (en) * 2016-09-26 2019-08-13 Faro Technologies, Inc. Device and method for indoor mobile mapping of an environment
GB2556910A (en) * 2016-11-25 2018-06-13 Nokia Technologies Oy Virtual reality display
CN110402399B (zh) * 2017-01-03 2023-07-18 应诺维思科技有限公司 用于检测和分类物体的激光雷达系统和方法
US10007001B1 (en) * 2017-03-28 2018-06-26 Luminar Technologies, Inc. Active short-wave infrared four-dimensional camera
US10545240B2 (en) * 2017-03-28 2020-01-28 Luminar Technologies, Inc. LIDAR transmitter and detector system using pulse encoding to reduce range ambiguity
JP2018189443A (ja) * 2017-04-28 2018-11-29 キヤノン株式会社 距離測定装置、距離測定方法及び撮像装置
US20180373348A1 (en) * 2017-06-22 2018-12-27 Microsoft Technology Licensing, Llc Systems and methods of active brightness depth calculation for object tracking
US20190072771A1 (en) * 2017-09-05 2019-03-07 Facebook Technologies, Llc Depth measurement using multiple pulsed structured light projectors
US11297300B2 (en) * 2018-01-29 2022-04-05 Samsung Electronics Co., Ltd. Robust structured-light patterns for 3D camera system

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012150054A (ja) * 2011-01-20 2012-08-09 Ricoh Co Ltd 物体検出装置及びこれを備えた車両衝突回避システム
JP2014077668A (ja) * 2012-10-09 2014-05-01 Optex Co Ltd 寸法計測装置および寸法計測方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
O'TOOLE, M. ET AL.: "Homogeneous Codes for Energy-Efficient Illumination and Imaging", ACM TRANSACTIONS ON GRAPHICS, vol. Vol.34, No.4, Article 35, JPN6022050924, August 2015 (2015-08-01), ISSN: 0005091290 *

Also Published As

Publication number Publication date
CN110471050A (zh) 2019-11-19
US20190349569A1 (en) 2019-11-14
KR20190129693A (ko) 2019-11-20
TW202002626A (zh) 2020-01-01

Similar Documents

Publication Publication Date Title
JP7146004B2 (ja) 同期スピニングlidarおよびローリングシャッターカメラシステム
JP7114728B2 (ja) 物体を多次元捕捉するためのマルチパルスlidarシステム
US10795001B2 (en) Imaging system with synchronized scan and sensing
CN111239708B (zh) 光检测和测距传感器
US10324171B2 (en) Light detection and ranging sensor
WO2021072802A1 (zh) 一种距离测量系统及方法
US10041787B2 (en) Object detection device
CN101124453B (zh) 用于二维和三维图像检测的系统
US20150130932A1 (en) Apparatus and method for profiling a depth of a surface of a target object
KR102481774B1 (ko) 이미지 장치 및 그것의 동작 방법
US10679370B2 (en) Energy optimized imaging system with 360 degree field-of-view
WO2019076072A1 (zh) 一种光学测距的方法及装置
WO2021212916A1 (zh) 一种tof深度测量装置、方法及电子设备
CN110780312B (zh) 一种可调距离测量系统及方法
JP2019197055A (ja) 構造化された光イメージングシステム及びその方法
WO2020115017A1 (en) Patterned illumination for three dimensional imaging
CN211148917U (zh) 一种距离测量系统
US8144968B2 (en) Method and apparatus for scanning substrates
US11747135B2 (en) Energy optimized imaging system with synchronized dynamic control of directable beam light source and reconfigurably masked photo-sensor
US10697887B2 (en) Optical characteristic measuring apparatus
JP7215472B2 (ja) 撮像装置および撮像方法
Maas Close range photogrammetry sensors
WO2022201502A1 (ja) センサ装置
JP4032556B2 (ja) 3次元入力装置
JP2021018081A (ja) 撮像装置、計測装置、及び、計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220408

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221122

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221206

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230627