JP6621836B2 - 光パターンの強度変動を利用した体積内の物体の深さマッピング - Google Patents

光パターンの強度変動を利用した体積内の物体の深さマッピング Download PDF

Info

Publication number
JP6621836B2
JP6621836B2 JP2017544937A JP2017544937A JP6621836B2 JP 6621836 B2 JP6621836 B2 JP 6621836B2 JP 2017544937 A JP2017544937 A JP 2017544937A JP 2017544937 A JP2017544937 A JP 2017544937A JP 6621836 B2 JP6621836 B2 JP 6621836B2
Authority
JP
Japan
Prior art keywords
intensity
stripe
light
additional
light pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017544937A
Other languages
English (en)
Other versions
JP2018508019A5 (ja
JP2018508019A (ja
Inventor
グロッシンガー、ナダブ
ロマーノ、ニタイ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Meta Platforms Technologies LLC
Original Assignee
Facebook Technologies LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Facebook Technologies LLC filed Critical Facebook Technologies LLC
Publication of JP2018508019A publication Critical patent/JP2018508019A/ja
Publication of JP2018508019A5 publication Critical patent/JP2018508019A5/ja
Application granted granted Critical
Publication of JP6621836B2 publication Critical patent/JP6621836B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/521Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/14Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/22Measuring arrangements characterised by the use of optical techniques for measuring depth
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • G06V40/28Recognition of hand or arm movements, e.g. recognition of deaf sign language
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Psychiatry (AREA)
  • Social Psychology (AREA)
  • Optics & Photonics (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本開示は、概して深さマッピングに関し、特に、体積内への光学投影を使用した深さマッピングにより、3次元における物体の検出および追跡を可能にする方法に関する。
ユーザが特定の装置を遠隔制御することが可能となる種々の方法が存在する。例えば、ユーザの身体部分(例えば、腕、脚)の所定のジェスチャまたは姿勢により装置を制御することができる。装置を制御するためにジェスチャまたは姿勢を用いる方法では、ユーザの身体部分が特定の位置に一致するときジェスチャが識別され、コンピュータまたは他の装置が機能を実行するか、または識別されたジェスチャに対応する動作を実行する。
いくつかの実施形態では、ユーザによるジェスチャは、画像撮像装置によってユーザの画像または動画を撮像し、その画像または動画のデータの複数の画素を解析することによって識別される。従来のジェスチャ検出方法は、画素の色の値をその画素に近接する他の画素の色の値と比較することによって、画像内の画素を解析する。したがって、これらの従来の方法は、ユーザの身体部分と画像の背景内の物体との間において色の値に大きな差があることに依存している。
ジェスチャ検出のための他の方法は、ユーザの1つ以上の身体部分の骨格モデル(例えば、ユーザの手の3次元モデル)を形成し、その骨格モデルを解析することでユーザによるジェスチャを識別する。あるいは、ジェスチャ検出のための代替方法は、各画素が深さカメラから画素に対応する物体の部分までの距離を含む3次元深さマップを使用する。深さマップは、種々の方法を使用して計算することができる。例えば、風景の深さマッピングは、既知の光パターン(すなわち、構造化光パターン)を風景に投影することによって行われ、画像撮像装置は、既知の光パターンが風景に投影されたときの風景の画像を撮像する。光パターンは一定であり予め分かっているので、光パターンの下位部分または固有の特徴を識別することができる。風景の部分と画像撮像装置との間の距離(すなわち、風景の部分の「深さ」)は、画像撮像装置によって撮像された画像内の光パターンの識別された特徴のずれに基づいて計算される。しかしながら、風景に投影された光パターンの画像を撮像する場合には、既知の光パターンの特徴と相関付けし得る撮像画像内の光パターンの特徴を識別するために、より多くの量の撮像画像を解析する必要がある。加えて、既知の光パターンを投影するプロジェクタと画像撮像装置との間の分離が比較的大きい場合には、風景内における物体の深さずれに関して既知の光パターンの画像のより大きなずれを生成することによって、より高い分解能での深さ検出を提供する必要がある。
しかしながら、深さマップを決定するこれらの従来の方法は計算コストが高く、また、特定の物体の正確な決定を可能にする結果を生成しない。例えば、従来の深さマッピング方法は、密接に関連するジェスチャまたは姿勢を区別するための指または身体部分の正確な検出を可能としない。
光パターンが体積内に投影されることによって、体積内の深さをマッピングするために使用される識別可能な強度変動がもたらされる。いくつかの実施形態では、光パターンの2つ以上の変動が少なくとも1つの次元内に投影される。例えば、垂直軸内に光パターンの2つの強度変動が投影される。互いに異なる変動を測定することにより、体積の異なる位置での深さ情報を決定することが可能となる。また、光パターンの異なる変動を利用することにより、パターンの相対的および絶対的な指標化を行うことが可能となる。
例えば、パターンは光の複数のストライプすなわち複数のラインを含み、異なるストライプは、体積内に投影された際に固有の強度に基づく特徴を有する。異なる強度に基づく特徴からパターン内の各ストライプを一意に識別可能となることで、識別されたストライプ内のずれから、体積内の個々の位置の三角測量が可能となる。これにより、ジェスチャまたは姿勢を識別可能とする領域の深さマップを生成することが可能となる。
いくつかの実施形態では、体積内に構造化光パターンを投影することによって、体積内の物体が3次元にマッピングされる。構造化光パターンは、複数の特徴を有し所定の構造を有する光パターンである。例えば、構造化光パターンは、各特徴が所定の変動を有するように或る次元に延びる縞模様を含む。例えば、特徴は、強度レベルである。いくつかの実施形態では、構造化光パターンは、複数の回折素子を用いて形成される。また、構造化光パターンは、一つの次元に沿った変動と、別の次元に沿った追加の変動とを有し得る。いくつかの実施形態では、追加変動は、その次元に沿って変化する。例えば、追加変動の変化は、周期的な強度変動であり、この周期的な強度変動は、2値変動、3段階変動、4段階変動、5段階変動、6段階変動、7段階変動、および8段階変動のうちの1つ以上であり得る。あるいは、追加変動は、その次元に沿って変化する均一ピーク強度の分布である。一実施形態では、変動は次元内での強度の周期であり、この場合、構造化光パターンはそれぞれの強度で投影される周期内の一群のストライプである。いくつかの実施形態では、周期的変動に対するストライプの相対的指標を確立することができる。追加変動は、ストライプに沿った強度変動を含み得る。これにより、異なるストライプの各ピーク強度の位置はその群の異なるストライプ毎に異なり、いくつかの実施形態では、各ピーク強度の位置を用いて体積内の物体の深さ情報を取得することができる。いくつかの実施形態では、光ビームが光学素子および追加の素子を介して投影されることにより構造化光パターンが生成され、この場合、光学素子は、他の次元に沿ったストライプ群を規定し、追加の光学素子は、各ストライプについてそれぞれ異なるピーク強度の位置を与えるように他の次元に対して軸オフセットを有するグリッド内の追加変動を特定する。
体積内の1つ以上の物体によって反射された光は、1つ以上の特徴を含む状態で検出される。このため、検出光は、構造化光パターンの1つ以上の変動を含む。検出光における構造化光パターンの変動は、その構造化光パターンの所定の構造と相関付けされる。この相関付けは、検出光における構造化光パターンの変動を指標化して、その検出光における構造化光パターンの変動に関連付けられた物体の深さを決定するために使用される。例えば、検出光における構造化光パターンの変動が、体積内の物体を含む検出画像内の物体についての対応する位置と比較されることによって、構造化光パターンの変動に関連付けられた物体の深さ情報が取得されるとともに、その検出光における構造化光パターンの他の変動に関連付けられた物体の深さ情報が得られる。いくつかの実施形態では、構造化光パターンの特徴は、その構造化光パターンに従って直交に指標化される。
体積内の物体の深さ情報は、体積内の種々の物体の3次元深さマッピングをもたらすように使用され得る。構造化光パターンが或る変動とともに追加の変動を有する実施形態では、物体の深さ情報は、変動に基づく構造化光パターンの局所的な強度値と、追加の変動の局所的な測定ピーク強度との比に基づき、体積内の深さを計算することによって決定される。構造化光パターンが、或る次元に沿った変動とともに別の次元に沿った追加の変動を有する場合は、変動および追加の変動を用いて、体積内の1つ以上の物体に関する深さ情報を決定することができる。
他の実施形態では、或る次元における変動と追加の次元における追加の変動とを有する光パターンが体積内に投影される。例えば、変動は周期的な強度変動であり、追加の変動は、次元によって変化する追加の次元に沿った均一ピーク強度の分布である。いくつかの実施形態では、光パターンは次元に延在するストライプを含む。次元内における変動は、パターン内の異なるストライプを異なる強度で投影して、少なくとも追加のストライプ群について異なる強度を繰り返す。また、追加の変動は、強度ピークを形成するパターン内のストライプに沿ったガウス変動であってもよい。いくつかの実施形態では、周期的変動に対するストライプの相対的指標を決定するために物体のセグメント化を使用することができる。追加の次元に対してオフセットされた軸を有するグリッド内の第2の変動を規定する光学素子によりストライプを投影して追加の変動を生じさせることにより、異なるストライプにそれぞれ異なるピーク強度の位置がもたらされる。いくつかの実施形態では、追加の光学素子を介して光を投影することにより、光パターン内のストライプを形成することができる。
光パターンを反射する体積内の少なくとも1つの位置が見出され、その位置において、変動に応じた強度と追加の変動に応じた強度との比が決定される。そして、決定された比に基づいて、その位置における深さが決定される。いくつかの実施形態では、周期的変動に対する光パターン内のストライプの相対的指標が、体積内の物体をセグメント化することによって得られる。相対的指標に基づくそれぞれのピークの位置を用いることにより、体積内の物体の深さ情報を識別する深さマップを確立することができる。
体積内に光パターンを投影するために、光源は、或る方向に変動強度を有する光ビームを生成するように構成されている。光ビームは、光源から光学素子に向けて投影される。この光学素子は、光ビームの強度が変化する方向と直交する追加の方向において光ビームに強度特性を適用するように構成され、これにより、光学素子から出力された光が様々な強度特性を有するようになる。いくつかの実施形態では、追加の光学素子は、光学素子によって適用された強度特性を有する光ビームに追加の強度特性を適用するように構成されている。例えば、追加の光学素子は、グリッド配列で追加の強度特性を適用する。追加の光学素子は方向に対してオフセットされているので、追加の強度特性は光パターンの異なる部分の異なる位置に存在する。いくつかの実施形態では、光パターンは複数のストライプを含み、各ストライプ内の異なる位置に追加の強度特性を有する。
いくつかの実施形態では、プロジェクタは、体積内に光パターンを投影するように構成されている。光パターンは、或る次元に沿った周期的な強度変動と、追加の次元における追加の変動とを含む。追加の次元における追加の変動は、均一輝度のピーク強度分布を含む。コリメータは、投影された光ビームをコリメートするように構成されている。また、検出器は、光パターンの画像を取得するように構成され、深さ演算器は、光パターン内の位置における深さを計算するように構成されている。ここで、光パターン内の位置における深さは、周期的な強度変動によるその位置における光パターンの強度と、均一輝度のピーク強度分布に基づくその位置における光パターンのピーク強度との比に基づいて決定される。
プロジェクタは、第1の方向における平行ストライプを光源ビームに重ね合わせるように構成された光学素子と、その方向に対してオフセットされ、平行ストライプに重ね合わせるべき表記を生成するように構成された追加の光学素子とを含み得る。平行ストライプに重ね合わせるべきこの表記はグリッド配列で提供される。方向に対して追加の光学素子をオフセットすることにより、各ストライプ内の異なる位置に表記が生成される。複数の光源は、その方向と直交する方向に強度が変化するように電源が供給された状態で、光学素子および追加の光学素子を介して体積内に投影するための光源ビームを生成するように構成されている。
他の実施形態では、体積の深さ情報を決定するための装置は、体積内に投影するための特徴化光のパターンを生成するように構成された光源を含む。光学素子は、体積内に投影された光の各特徴にシグネチャを適用するように構成されている。いくつかの実施形態では、各特徴に対して固有のシグネチャが適用される。別の例では、シグネチャは、特徴群にわたって適用される少なくとも1つの周期的変動である。また、シグネチャは、特徴群にわたって適用される周期的変動および追加の周期的変動を含むものでもよい。いくつかの実施形態では、周期的変動および追加の周期的変動は異なる位相を有していてもよい。また、カメラは体積からの光を検出するように構成されている。プロセッサは、カメラに接続されるとともに、カメラによって検出された光から識別された特徴の位置を用いて、体積内の深さ情報を計算するように構成されている。
一実施形態によるスクリーンに示されたソフトキーボードを含むコンピュータインターフェースにテキストを入力するためのハンドジェスチャの利用を示す簡易概念図。 一実施形態による仮想現実システムを示す図。 一実施形態による仮想現実装置を示す図。 一実施形態による検出装置を示す簡易ブロック図。 一実施形態による識別された光パターンの検出角から深さ情報への変換を示す簡易ライン図。 一実施形態による体積内に伝播され受信機に向けて物体で反射された光を示す簡易ブロック図。 一実施形態による2値光パターンを示す図。 一実施形態による光特徴の種々の例を示す図。 一実施形態による光のストライプを含む光パターン内に組み込まれるシグネチャの種々の例を示す図。 一実施形態によるシグネチャを与えるために強度を用いた光パターンによる手の照明を示す簡易図。 一実施形態による周期的に方向を変化させる特徴強度を用いた手の照明を示す図。 一実施形態による図6Aの方向の変化の詳細を示す図。 一実施形態による体積内の深さを計算する方法を示すフローチャート。 一実施形態による光パターンを生成する方法を示すフローチャート。 一実施形態による光パターンから3次元深さマップを得る方法を示すフローチャート。 一実施形態による光パターンを生成するための光学構成要素の例示的な配置を示す図。 一実施形態による光パターンを生成するための光学構成要素の別の配置例を示す図。 一実施形態による光パターンのストライプの特徴に加えられる例示的な表記の概念図。 一実施形態による光パターンのストライプにシグネチャを与えるための表記の使用を示す概念図。 一実施形態による光パターンのストライプ上における一連の表記についての例示的な強度図。 一実施形態による追加の深さ情報を得るための検出器の移動を示す概念図。 一実施形態による光パターンのストライプ上における一連の不規則な離間表記についての概念図。 一実施形態による光パターンの隣接ストライプの輝度レベルを変化させるための概念図。
図面は例示のみを目的として種々の実施形態を示しており、当業者は、本明細書に記載される原理から逸脱することなく本明細書に例示される構造および方法の代替の実施形態を使用し得ることを以下の説明から容易に認識し得る。
種々の実施形態は、体積内への光学投影を使用して体積の深さマッピングを行うことを可能とし、ユーザの骨格モデルの生成や、デバイス(例えば、コンピュータ、仮想現実システムなど)を制御するためのユーザインターフェースの実現を可能にする。パターン化された光は、体積内に投影され、物体または物体の動きを識別して姿勢またはジェスチャの識別を可能にする体積の深さマップを取得するために使用される。開示された実施形態は、身体または物体の動きまたはジェスチャを追跡する任意のデバイスによって使用することができる。
光パターンは「構造化光」とも呼ばれ、体積内に投影される。カメラまたは他の検出器は、深さによって引き起こされるずれや他の歪みを含む元の構造化光の歪みを含んだ体積からの光を検出する。ずれまたは他の歪みは、取り込まれた構造化光の歪みを元の構造化光と比較することによって、あるいは構造化光の一部を識別することによって識別され、体積の深さマップを生成するために使用される。このように、構造化光の歪みを構造化光と相関付けることによって深さマップを得ることができる。構造化光に含まれる特徴は、取り込まれた構造化光の歪みと構造化光との相関付けに役立つように個別化することで、一連の調整された特徴によって、取り込まれた構造化光の歪みと構造化光との相関付けを決定することが可能となる。構造化光の歪みを構造化光と相関付けることによって得られた深さマップによって、体積内の物体について深さを決定することが可能となる。種々の実施形態では、構造化光の歪みと構造化光との相関付けは、構造化光の全体、構造化光の個々の特徴、または種々の実施形態では構造化光の個々の特徴および一部分に基づく。
一実施形態では、構造化光(または「光パターン」)が直交方向に1つ以上の異なる変動を含むことにより、深さマッピングのための構造化光の特定の特徴をより正確に識別することが可能となる。この変動は強度変動とすることができ、これにより、構造化光の特徴の異なる部分に固有のシグネチャを与えることができる。あるいは、変動は異なる位相を有する異なる変動による周期的なものとすることができ、これにより、固有の特徴を識別するために使用される演算リソースを減少して固有の特徴を識別することが可能となる。2つ以上の変動が構造化光に含まれる場合、異なる変動を互いに測定して、異なる位置に深さを与えることができる。
例えば、構造化光の特徴は一次元におけるストライプである。一意のシグネチャまたは周期的に一意のシグネチャが、垂直軸に沿う等のようにして、或る次元での各ストライプに適用される。元の構造化光における対応するストライプの位置に対する、取り込まれた構造化光の歪みにおける各ストライプのずれに基づいて、深さマップを決定することができる。いくつかの実施形態では、深さマップを決定する際に、ストライプの強度とストライプのピーク強度との比も使用することができる。ストライプのずれを決定するために、構造化光の異なるストライプが、それら異なるストライプに適用されるシグネチャに基づいて個別に識別される。例えば、各ストライプは、各ストライプに適用されるシグネチャに基づいて識別される。例えば、シグネチャがストライプに沿った強度変動である場合、各ストライプは、弱い強度から、中程度の強度、強い強度まで、異なる強度を有することができ、例えば、検出されたストライプは、弱い強度、強い強度、中程度の強度をこの順に含み、構造化光の特定の位置が、弱い強度、強い強度、中程度の強度の順を有するストリップを含むことで、検出されたストライプの指標化が可能となる。しかしながら、他の実施形態では、任意の適切な特徴が構造化光に含まれてもよい。例えば、別の実施形態では、構造化光は、異なる強度を有する正方形を含む。
いくつかの実施形態では、構造化光の2つの強度変動が使用される。2つの強度変動は、例えば、電子および光学構成要素をより効率的に使用するために個々の画素に対して設定され得る利用可能なグレーレベルに基づいた周期的なものであってもよい。2つの周期的変動の位相がずれている場合、それら変動の比較的大きな全体周期が提供されてもよい。従って、構造化光の少なくとも2つの変動は、構造化光の絶対的な指標化を可能にする。例えば、構造化光(または「光パターン」)は平行ストライプを含む。この平行ストライプは、或る方向に沿って(例えば、ストライプの向きに直交する方向に)ベース強度が周期的に変化し得る。また、各ストライプは、ストリップが向く方向に沿った表記を含むことができる。この表記は、個々のストライプまたはストライプの集合を識別し指標化することが可能となるように、異なるストライプ上に異なる方法で配置される。いくつかの実施形態では、表記は、一定に維持されるピーク強度を有する。異なるストライプ上の異なる強度および異なる表記の分布により、個々のストライプの識別、およびストリップの個々のセクタの識別が可能となり、深さマッピング精度が改善される。いくつかの実施形態では、表記はガウス輝度分布から構築される。光源と検出器との間の距離が増加するにつれて強度が低下するように見えるが、ストライプの検出強度が減少することで深さが示される。しかしながら、絶対輝度も光が反射された面に依存するため、追加の情報なしに正確に深さを決定することができない。しかしながら、ストライプのベース強度とストライプのピーク強度との比によって、特に、セグメント化または三角測量結果と組み合わせることで、より正確な深さ計算を行うことが可能となる。
1つ以上の特定の強度変動を有する光パターンが投射され、各強度変動は距離に応じた固有の強度変化関数を有する。例えば、光パターンは、ガウス距離を有するストライプに沿った強度を有する連続的なストライプを含む。ストライプの強度は、光パターンの光源との距離が増加するにつれて(例えば、光パターンの光源が水平に配向されてい場合、光パターンの光源までの水平距離が増加するにつれて)直線的に低下するが、検出器によって取得されるときのストライプのピーク強度は一定のままである。従って、ストライプのピーク強度をストライプの強度と比較することによって、光パターンを検出器(例えば、カメラ)に反射する物体までの距離を抽出することができる。
距離に応じて光パターン強度を変化させる複数の強度関数は、距離に応じて異なる伝播を行い、異なる範囲において異なる強度比を生成する複数の位相関数を生成することによって提供されてもよい。例えば、強度関数は入力光からストライプの特徴を生成し、追加の強度関数はストライプに沿った強度のガウス分布を生成する。一般に、物体での反射光の強度は、反射光が球状に広がって検出器に戻されるため、物体と検出器との間の距離の2乗に反比例する(すなわち、物体とセンサとの間の距離をzとすると、1/zとなる)。ストライプは単一の軸に沿ってコリメートされ、検出器の各画素の物理的範囲は角度付けされるため、コリメートされたストライプは検出器のより少ない画素によって撮像され、ストライプの強度が増加する。従って、ストライプを反射する物体と検出器との間の距離をzとすると、ストライプの強度は、z/zすなわち1/zだけ減少する。
回折光学素子を使用して、光パターン内のストライプに沿った強度を変化させる追加の強度関数を個別の位相関数を使用して生成することにより、ストライプに沿った強度を、放射状にコリメートされたガウス分布とすることができる。このため、ガウス強度分布をサンプリングする検出器内の画素は、検出器に平行かつ垂直な軸に沿って(例えば、検出器が水平に配向されている場合、水平軸と垂直軸の両方に沿って)低減され、その結果、z/z(zはストライプを反射する物体までの距離)のストライプの位置におけるピーク強度は一定となる。ストライプのピーク強度とストライプの輝度との比は、ストライプの強度が1/zに基づいて変化するため、ストライプを反射する物体と検出器との間の距離が変化するに伴って変化するが、ピーク強度は一定のままである。ストライプを反射する物体の反射面の性質は、ストライプの強度とストライプのピーク強度との両方に等しく影響を及ぼすので、絶対強度とは異なり、比は実質的に影響を受けない。
図面を参照すると、図1Aは、コンピュータユーザ1が手2によるジェスチャを行うことで、スクリーン6に提示されたソフトキーボード4上をタイプするための概念図である。ジェスチャを検出するために、構造化光(「光パターン」とも呼ばれる)が手2に投影されることで、手2で反射された光が検出される。検出された構造化光を三角測量することにより、手2を含む体積の深さマップを生成することができる。図1Bは、仮想現実システムのユーザ8の概念図である。図1Bの例では、ユーザは仮想現実眼鏡を着用して、空中での手10のジェスチャにより仮想現実システムを制御する。図1Cは、図1Bに関連して上述したような仮想現実システムで使用するヘッドマウント装置200を示す。装置200は、ヘッドバンド230を使用してユーザの頭に取り付けられ、ユーザの目に画像を投影する。
図2は、体積内の構造化光を検出可能な仮想現実装置の実施形態のブロック図である。仮想現実装置は、図1Bおよび図1Cに関して説明した仮想現実システムなどのような仮想現実システム内のユーザに仮想現実表示を提示することができる。仮想現実装置において、ブロック400は、照明器442を用いてIR光ビームを提供する。照明器442からの光はIRカメラ406によって検出され、検出光はプリプロセッサ404によって処理される。また、ブロック410は、可視光カメラ412によって検出された可視光を提供する。プロセッサ414は、可視光カメラ412によって撮像された可視光を処理するとともにプリプロセッサ404からの情報も処理し、これによりプロセッサ414は、プリプロセッサ404による処理後にIRカメラ406からの検出光をさらに処理する。また、プロセッサ414は、種々の機能を提供するためにメモリに記憶された命令416を実行する。また、仮想現実装置は、仮想現実表示をユーザに提示するように構成されたニアアイディスプレイ420を含む。
図3は、図3においてレーザ300として示される光源を示す。この光源は、体積305内に光パターンを投影する。レーザ300からの光は、図3の例では、深さZ1、深さZ2、深さZ3として示される体積305内の異なる深さにおいて物体で反射される。カメラ310または他の画像撮像装置は、物体で反射された光パターンの光を検出する。深さZ1および深さZ2から同じ角度でカメラ310に到達する光の差は、光パターンの異なる部分である。このように、パターンの一部を検出することにより、パターンの一部を構成する光を反射した物体の深さを検出することが可能となる。
図4は、送信機11および受信機12のブロック図である。種々の実施形態において、送信機11はレーザ光源13であり、その後段に1つ以上の光学素子14.1,14.2が位置している。光学素子14.1,14.2は、レーザ光源13によって伝播された光から光パターンを形成する。送信機11は、得られた光パターンを体積15内に放出し、その光パターンは物体16などの体積15内の種々の物体によって反射される。反射光は、受信器12によって検出される。受信器12は、電荷結合素子(CCD)、相補型金属酸化膜半導体(CMOS)検出器、または他の適切なタイプの検出器とすることができる。一実施形態によれば、検出された光パターンの一部が検出され、光パターンが解析されることによりそれらが関心物体からのものであるか否かが判定される。例えば、光パターンの一部を反射する物体が関心物体であるか否かを判定するためにセグメント化処理が使用される。例えば、関心物体はコマンドジェスチャが識別される実施形態では人体の一部であるが、種々の実施形態では任意のものを関心物体とすることができる。しかしながら、他の実施形態では、関心物体が光パターンの一部を反射するか否かを判定するために、検出された光パターンが解析されない。反射光パターンの異なる部分が解析されることによりそれらが反射された深さが決定される(例えば、反射光パターンの異なる部分を反射する体積内の物体の深さが決定される)。反射光パターンの異なる部分から決定された異なる深さに基づいて、後述するように、体積15内の種々の物体の深さ情報を含む深さマップが生成される。
図5Aは、人体を検出するために使用される2値光パターン(「構造化光」とも呼ばれる)の一例である。図5Aの例では、2値光パターンは複数のストライプを含み、この2値光パターンは異なるストライプにシグネチャを追加することによって強調される。例えば、ストライプに追加されるシグネチャは、図5Bに示される特徴のうちの1つ以上である。一実施形態では、2値光パターンの異なるストライプは、異なるパターン(a)に配列された異なる強度を有する。例えば、互いに異なる強度を有した異なるストライプのパターンによって2値光パターンが構成される。他の実施形態では、四角形(b)、三角形(c)、(d)、または他の形状を異なるストライプに重ね合わせることができる。ストライプ上に重ねられた異なる形状は、異なる三角形(c)、(d)によって示されるように強度または他の特性の内部変動を含み得る。シグネチャを規則的なパターン(e)内のストライプに加えることが可能であり、または規則的または不規則的な強度変動(f)に加えてストライプにシグネチャを加えることが可能である。ストライプ(g)の長さに沿った不規則的な強度変動が、ストライプにシグネチャとして加えられてもよい。いくつかの実施形態では、図5Bに示されるシグネチャの任意の組み合わせを異なるストライプに加えることにより、異なるストライプを互いに区別することが可能となる。
シグネチャまたは特徴は、均一強度を有してもよいし、またはストライプの異なる部分において強度変動を有していてもよい。例えば、2値光パターンの異なる位置の特徴は、異なる均一強度を有していてもよいし、または異なる強度変動を有していてもよい。図5Cは、ストライプの幅にわたる正方形の強度変動、ストライプの幅にわたるガウス強度の変動、およびストライプの幅にわたる不規則的な強度変動の例を示す。
図5Dは、異なる強度を有する複数のストライプを含む光パターンを手に投影した例である。異なる強度は、パターン内の参照を提供する。図6Aは、図5Dに示された例とは異なるストライプ間の強度の別の変動を有する光パターンの別の例を示す。また、図6Bは、光パターンにおけるストライプの幅にわたる強度の別の変動を示す。
図7は、体積内の深さを計算する方法の一実施形態のフローチャートである。他の実施形態では、この方法は、図7に関して説明するものとは異なるまたは追加のステップを含んでもよい。また、いくつかの実施形態では、本方法のステップは、図7に関して説明する順序とは異なる順序で実行されてもよい。
最初に、光が体積内に投影される(21)。一実施形態では、投射光は、或る方向において互いに平行な複数のストライプを有する光パターンを含み、異なるストライプは異なる強度または異なる輝度を有する。異なるストライプの強度または輝度は、図5Bに関連して上述したように、ストライプが互いに平行となる方向と直交する方向に沿って繰り返される周期に従って変化し得る。しかしながら、他の実施形態では、投影光の光パターンは、投影光の光パターンに含まれ得る任意の適切な1つまたは複数の特徴を含む。追加的または代替的に、図5Bおよび図5Cにおいて上述したように、各ストライプは、ストライプが互いに平行となる方向と直交する方向においてストライプの幅にわたるガウス強度分布を含んでもよいし、あるいはストライプが互いに平行となる方向と直交する方向においてストライプにわたる他の強度変動を含んでもよい。ストライプが互いに平行となる方向と直交する方向における強度変動は、本明細書では「シグネチャ」または「表記」と呼ばれる。異なるストライプの異なる強度は個々のストライプの識別を可能とし、異なるストライプ上に含まれる表記は、個々のストライプを識別する追加の方法を提供する(逆も同様である)。異なるストライプ上における表記またはシグネチャの変化は周期的でなく、異なるストライプの強度の変動とは異なる周期に従うので、ストライプの強度とストライプ上の表記との組み合わせにより個々のストライプの識別が可能となる。いくつかの実施形態では、異なるストライプ上の表記は周期的であってもよく、この場合、表記は各ストライプ上で異なって見える。
カメラまたは他の画像撮像装置は、体積内の物体によって反射された光パターンから光を取得する(22)。光パターンからのストライプが関心物体に投影されると、関心物体のエッジは、図5Dに示されるように、ストライプ内の不連続によって示される。従って、体積の撮像画像をセグメント化することにより、体積内の物体の迅速な識別、および体積内の手や指などの関心物体の選択が可能となる。また、セグメント化により、ストライプの相対的指標化を行うことが可能となる。体積の撮像画像をセグメント化することにより背景物体を除去し、これにより、背景物体ではなく関心物体の深さ情報が決定される。
光パターンの特徴、関心物体にわたって出現する光パターンのストライプ、および光パターンの特徴の絶対的指標を使用して、カメラによって取得された光(22)の光パターンの種々の特徴(例えば、各特徴)の深さを分析する(24)。最初は、光パターンのストライプの指標は相対的であり、体積に対する深さ情報ではなく関心物体内の深さを識別する。しかしながら、特定のストライプ上の表記のパターンが参照パターンと比較されることで、表記に基づいて異なるストライプが識別される。表記、ストライプの強度、または表記とストライプの強度との組み合わせに基づいて、絶対的指標を提供することができる。その絶対的指標から、以下にさらに説明するように、体積内の関心物体の深さが計算される(28)。
図8は、体積内に投影された光パターンを生成する方法のフローチャートである。いくつかの実施形態では、この方法は、図8に関して説明するものとは異なるまたは追加のステップを含む。また、いくつかの実施形態では、本方法のステップは、図8に関して説明する順序とは異なる順序で実行される。
最初に、レーザなどの光源から光ビームが得られる(30)。いくつかの実施形態では、光源は半導体レーザのアレイ、例えば垂直共振器面発光レーザ(VCSEL)アレイである。アレイ内のレーザは、個々にまたは行内で動作可能であり、アレイの行間の周期的な変動を提供するために、アレイの異なる行におけるレーザの強度を変化させることによって、或る次元における光ビームの強度を変化させることができる(32)。
追加の次元に沿って光ビームに対する追加の変動がもたらされる(34)。この追加変動は強度の変動とすることができる。例えば、追加変動は、追加の次元に沿ったガウス強度ピークなどの一連の表記である。ガウス強度の分布は次元に沿って変化し得る。例えば、強度ピーク間の間隔は、光ビーム源からの距離が増加するにつれて増加または減少し得るものであり、ガウス間隔は不規則であってもよいし、または図2に関連して上述したように、表記の位置がずれていてもよい。いくつかの実施形態では、光パターンの異なるストライプまたは他の部分に含まれる表記に基づいて、光ビームから生成された光パターンの個々のストライプまたは他の部分を識別するために、予め記憶されたパターンが使用される。次元に沿って光の強度を変化させ(32)、光に追加の変動をもたらす(34)ことによって生成された光パターンは、体積に投影される(36)。
一実施形態では、追加の次元に沿ってガウス強度を変動させる光学構成要素は、規則的な形状を有するが、次元に対してオフセットされた角度を有するため、各ストライプは互いにわずかにオフセットされたガウス強度の変動を有する。しかしながら、他の実施形態では、異なるストライプ内で互いにガウス強度の変動をずらして、各ストライプを個々に識別可能とするために、任意の適切な構成を使用することができる。
種々の実施形態では、光ビームの強度が次元で変化し(32)、追加の次元で追加の変動ももたらされる(34)。他の実施形態においては、光ビームの強度が次元で変化(32)するか、もしくは、追加の次元で追加の変動がもたらされる(34)。例えば、光ビームの強度は、次元で変化(32)しないが、追加の次元で各ストライプの固有の特性を含むように追加の次元で追加の変動がもたらされる(34)。各ストライプが追加の次元における追加の変動とは異なるシグネチャを含むとき、各ストライプの固有のシグネチャから深さマップを直接提供することができる。従って、光パターンの各ストライプに一意の表記を与えることで、体積内の物体の深さを正確に決定することが可能となる。光パターンの各ストライプに表記を一意的に分配する一例は、図15に関連して以下でさらに説明する。
あるいは、光ビームの強度は方向で変化する(32)が、追加の次元で追加の変動は光ビームにもたらされない(34)。例えば、異なるストライプに対して強度の周期が適用されることで方向の強度が変化する(32)。しかしながら、追加の次元に追加の変動を与える(34)ことなく光ビームの強度を次元で変化させる(32)ことにより、複数の周期でストライプの強度が得られ、各ストライプを、絶対的指標ではなく、ストライプを含む強度の周期に対して指標化することが可能となる。図5Cの例に示されるように、比較的少数のストライプが関心物体に投影されるときに、ストライプの強度が2値周期を用いて変化(32)する場合にはストライプを指標化することが困難である。
別の実施形態では、光ビームの強度が方向で変化し(32)、追加の次元における追加の変動も光ビームにもたらされる(34)。例えば、異なるストライプに対して強度の周期が適用されることで方向の強度が変化する(32)一方、ストライプの表記が追加の方向においてシフトされる。強度変動および表記シフトは周期的とすることができ、異なる周期を有することにより、少なくともより大きな周期の精度に対して、各ストライプの固有の識別が可能となる。指標化の周期が十分でなく、各ストライプの完全な指標化が妨げられる場合、物体のセグメント化が、関心物体内のストライプの考慮を限定するために使用される。以下でさらに説明するように、ストライプのピーク強度を異なるストライプの強度と比較することによって、さらなる精度を得ることができる。
このように、図8に関連して上述した方法は、光ビームの強度が或る方向に変化するとともに、追加の方向にも追加的に変化する光パターンを生成する。図4に関連して上述した方法は、光ビームの強度を方向に変化させて光パターンの各ストライプの指標化を可能とするために、種々の実施形態において使用することができる。
図9は、光パターンから関心物体の3次元深さマップを得る方法の実施形態のフローチャートである。いくつかの実施形態では、この方法は、図9に関して説明するものに対して追加のステップを含んでもよい。また、いくつかの実施形態では、本方法は、図9に関して説明する順序とは異なる順序で実行されてもよい。
カメラなどの光センサは、体積からの光を検出する(38)。いくつかの実施形態では、複数のカメラまたは光センサが、体積からの光を検出する(38)。あるいは、単一のカメラまたは光センサが、体積からの光を検出する(38)。
いくつかの実施形態では、体積内の物体から関心物体を識別するために、検出光を含む画像がセグメント化される(40)。関心物体を識別するためにセグメント化(40)することにより、関心物体の他の部分に対して深さが得られる相対的な指標化が可能になる。いくつかの実施形態では、光パターンの異なるストライプ間の強度の変動を使用することにより、各ストライプを、強度周期のうちの1つの特定の成分として識別する(42)。しかしながら、光パターンのストライプ間の強度の変動はストライプの一意の識別を可能にしないので、個々のストライプの識別を可能にする相対的指標とともに異なるストライプに含まれる表記(例えば、各ストライプの絶対的指標)を使用して各ストライプが識別される(44)。例えば、各ストライプの絶対的指標は異なるストライプの表記の強度に基づく。
ストライプの絶対的指標により、体積からの検出光の画像において各ストライプの実際の位置から深さを決定することが可能となる。深さ情報は表記の間隔に基づいて決定(46)されるか、またはストライプ位置に基づいて深さ情報をより正確に決定するために、ストライプの強度とストライプ内の表記のピーク輝度との強度分配に基づいて深さ情報が決定される(46)。体積内の種々の点(例えば、関心物体の種々の点)における深さ情報に基づいて体積の深さマップが決定される(48)ことにより、体積内の関心物体(例えば、手)の3次元移動を追跡することが可能となる。従って、深さマップを使用して体積内のジェスチャを認識することができる。例えば、深さマップを使用して部分的に認識されるジェスチャは、コンピュータまたは仮想現実システムなどの装置とインターフェースするためのコマンドに対応する。
図10は、投影用の光パターンを生成するための例示的な一連の構成要素の概念図である。説明を目的として、図10は、構成要素を側面図で示している。レーザアレイなどの光源50は、光ビームをコリメートするコリメータ52に光ビームを提供する。コリメートされた光ビームは、回折光学素子または任意の他の適切な光学素子とすることができる光学素子54に向けられることにより、コリメートされた光ビーム内にストライプが生成される。光は、光学素子54から追加の光学素子56に導かれる。この追加の光学素子56も、回折素子または任意の他の適切な光学素子とすることができる。追加の光学素子56は、ストライプ上にガウス強度のピークを重ね合わせる。種々の実施形態では、追加の光学素子56が光学素子54に対してわずかにオフセットされることにより、強度のピークが、異なるストライプにおいて異なる位置で生成される。従って、追加の光学素子54は、図13に関連して以下でさらに説明するように、異なるストライプ上で表記を周期的にシフトすることができる。デュプリケータ58は、光学素子54と追加の光学素子56とによって生成されたパターンを繰り返す。
いくつかの実施形態では、光源50は、異なる強度を生成するように個々に制御可能なレーザ列を含む。上述したように、ストライプの強度は、光源50からの距離が増加するにつれて減少する(すなわち、光源50からの距離をzとした場合、強度は1/zに比例する)。しかしながら、ストライプ内のピーク強度は、光源50からの距離が増加したときに一定であるので、ストライプのピーク強度とストライプ強度の平均強度との比により、ストライプの深さを推定することができる。
コリメータ52、光学素子54、および追加の光学素子56は、種々の実施形態において、図10に示された順序と異なる順序であってもよい。例えば、コリメータ50の出力が最初に追加の光学素子54に向けられてガウス強度のピークをもたらし、追加の光学素子54の出力が光学素子52に向けられてストライプを生成する。また、いくつかの実施形態では、個別の構成ではなく、コリメータ52、光学素子54、および追加の光学素子56の組み合わせを含む構成要素を使用してもよい。
図11は、光パターンを生成するための構成要素の別の構成である。説明を目的として、図11は、構成要素の上面図を示す。図11の例では、素子60は、マルチエミッタ光源と、マルチエミッタ光源からの光のストライプを生成するように構成された光学素子とを含む。コリメータ62は素子60の後ろに配置され、コリメータ62からのコリメート光は追加の光学素子56に向けられる。この追加の光学素子56は、上述したように素子60によって生成されたストライプ上にガウス強度のピークを重畳する。種々の実施形態において、これらの光学素子は、組み合わせでもよいし、分離されていてもよいし、または互いに異なる順序を有していてもよい。
図12は、光パターンのストライプの特徴に追加された例示的な表記の概念図である。図12に示された光パターンは、図10および図11に関連して上述したように構成された構成要素を介して生成することができる。説明を目的として、図12は、手18に投影された光パターンを示す。光パターンは複数のストライプ19を含み、各ストライプ19は、離間した複数の表記20を含む。図12の例では、これらの表記20は規則的に配置されており、互いに光パターンを生成する光学素子の角度ずれによって生じ得る表記20の間における一定のずれを有する。例えば、表記20は、分布の中心にピーク強度を有するガウス強度分布である。他の実施形態では、表記20は不規則的に離間される。
図12に関して説明した光パターンを使用して、光パターンに不連続性がある場所として手18のエッジが識別される。セグメント化、または物体の輪郭の検知は、光パターンの不連続性を識別することに基づいており、2010年9月19日に出願された米国特許出願第13/497,589号に詳細に記載され、その全体が参照によって本明細書内に組み込まれる。
深さは光パターンの個々のストライプの位置を決定することによって得られ、個々のストライプの位置を決定し、それに基づいて深さを得ることにより、物体の3次元形状のモニタリングが可能となる。光パターンの異なるストライプから深さを決定することにより、物体の1つ以上のジェスチャを識別するための物体の動きの識別を可能にする深さマップの生成が可能となる。例えば、物体の表面が湾曲する位置ではストライプ19も湾曲しているように見える。また、物体の表面が後退する位置ではストライプ19は消失点に向かう傾向がある。ストライプ19のこれらの挙動により、個々のストライプ19を識別することによって深さマップの生成が可能となる。図12に示されるように、各ストライプ19上の表記20が他のストライプ19に対してわずかにずれていると、個々のストライプ19を表記20から識別することができ、消失点へと向かう個々のストライプ19のずれから異なる位置の深さを決定することが可能となる。相対的な深さマップは、物体をセグメント化することによって生成することができ、絶対的な深さは、光パターンと物体とを含む画像内の各ラインを指標化することによって各ストライプの深さから生成することができる。より詳細には、光パターンは或る次元において各々延びる複数のストライプ19を含み、異なるストライプ19は追加の次元において異なる強度を有する。ストライプ19の強度は、ストライプ19に重ね合わせることが可能な、ストライプ19に沿った均一なピーク強度の分布に基づいて変化してもよい。ストライプ19のピーク強度は、ストライプ19に表記20を与えるガウス強度分布のピークであってもよく、これにより各ストライプに沿って表記が与えられる。
図12における手18などの体積内の物体の位置を特定するために、体積の1つまたは複数の画像のセグメント化が実行されることにより関心物体が識別される。上述したように、関心物体内の相対的な深さを得ることができる。一実施形態では、さらなる深さ計算が表記20間の距離に基づいて得られる。追加の深さ計算は、ストライプ19の局所的な強度値と、ストライプ19内における表記20の局所的な測定ピーク強度との比に基づいて決定することができる。さらなる深さ計算は、ストライプ19間の距離に基づくものであってもよい。
ストライプ19の強度変動およびストライプ19内の表記20のピーク強度は、各々、光源からの距離に基づく強度変化の固有の関数を有する。ストライプ19の強度は、ストライプ19を含む光パターンの光源からの距離が増加するにつれて直線的に低下するが、ストライプ19内の各表記20の測定ピーク強度は一定のままである。カメラなどのセンサに光パターンを反射する物体との距離は、表記20を含むストライプ19の強度と表記20のピーク強度との比から抽出することができる。ストライプ19の絶対的な反射強度は、ストライプ19を反射する物体の表面に依存するが、ストライプ内の表記20のピーク強度とストライプ19の強度との比は概して保たれ得る。
光源から距離を様々伝播する複数の位相関数は、光源からの距離に応じて変化する複数の強度関数を引き起こし、光源からの異なる距離の範囲にわたって異なる強度比を生成する。上述した実施形態は、ストライプの特徴を生成する関数と、ストライプに沿ってガウス強度ピークを生成する追加の関数とを含む。一般に、物体での反射光の強度は、反射光が球状に広がってセンサに戻されるとき、物体から光を放出する光源までの距離をzとすると、1/zの割合で減少する。しかしながら、ストライプの特徴は単一の軸でコリメートされ、また、センサ内の各画素の物理的範囲は角度付けされるため、コリメートされたストライプはセンサ上のより少ない画素によって見られ、ストライプの輝度を増加させる。従って、ストライプの強度は、物体からストライプを放出する光源までの距離をzとすると、z/zすなわち1/zの割合で減少する。
回折光学素子を使用して、ストライプに沿った強度ピークを生成する追加の関数を個別の位相関数を使用して生成することで、強度ピークが、放射状にコリメートされたガウス分布を含むようにすることができる。放射状コリメートにより、物体と光源との間の距離全体にわたってガウス分布をサンプリングする多数の画素が、水平軸および垂直軸の両方で低減され、その結果、z/z(zは物体からストライプを放出する物体までの距離)の強度ピーク位置における強度が一定となる。強度ピークを含むストライプの全体強度に対する各強度ピークの強度比は、ストライプの全体強度が1/z(zは物体からストライプを放出する光源までの距離)の係数に従って変化するため、ストライプを反射する物体とストライプを放出する光源との距離が変化するにつれて変化するが、強度ピークは一定のままである。
図13において、手70は、水平座標、垂直座標、および深さ座標で示されている。手が光源の位置に対して垂直にまたは相対的に移動すると、手70のエッジは、手に投影された光パターンのいくつかのストライプに沿ってまたはいくつかのストライプを横切って移動する。光パターンはビーム源72によって伝播され、カメラ74または他のセンサで受光される。図13では、画像76は、光パターンのストライプを示し、他の画像78は、後続ラインに沿った表記のずれの例を示す。カメラ74は、手の水平移動および垂直移動に追従し、ストライプと表記との間の距離およびストライプ内の表記のピーク強度とストリップの強度との強度比は変化しないままである。
図14Aは、光パターンにおける表記80の移動に基づいて深さ情報を取得する概念図である。例えば、手70と手70によって反射された光パターンの光を撮像するセンサとの間の距離によって、図14Aに矢印によって示されるように、表記80の位置がシフトする。手70がセンサから遠ざかる場合、表記80は光パターンのストライプの消失点に向かってシフトする。しかしながら、手70がセンサに近づく場合、表記80は光パターンのストライプの消失点から離れるようにシフトする。あるいは、図14Bに示されるように、手70が静止したまま、センサまたは光パターンを放射する光源が手70に対して別の場所に変位すると、表記80がシフトし得る。例えば、図14Bの例では、手70が静止したままで光源72がカメラ74に対して軸75に沿って別の場所に変位することにより、図14Aに示されるような表記80のシフトが生じる。
図15は、ストライプ81の表記82の不規則な分布を示す概念図である。図15の例では、ストライプ81の一端に近い表記82は広く離間しており、そのストライプ81の端からの距離が増加するにつれて表記82間の間隔が減少する。
図16は、光パターンの隣接ストリップにおける輝度レベルの変化の一例の概念図である。いくつかの実施形態において、図16に示された例は、ライン生成器と、その後続に位置し、特定のストライプ上で動作し他のストライプ上では動作しない増幅器とによって生成される。ライン生成器は、均等に分布するとともに均一な強度を有するストライプ90,92,94,96を生成する。続いて、増幅器素子は、ライン94を増幅強度98に増幅する。これによりライン94はストライプ90,92,96に対して増幅強度を有するものとなり、固有のシグネチャを有するストライプのパターンをもたらす。
[概要]
上述した実施形態の説明は、例示を目的として提示されるものであり、包括的であることまたは開示された正確な形態に特許権を限定することを意図するものではない。当業者であれば、上記の開示内容をもとに、多くの変更および変形が可能である。
この説明のいくつかの部分は、情報に関する操作のアルゴリズムおよび記号表現に関する実施形態を説明する。これらのアルゴリズム記述や表現は、データ処理技術の当業者によって一般的に使用され、その作業の実体を当業者に効果的に伝えるためのものである。これらの動作は、機能的に、計算的に、または論理的に記載されているが、コンピュータプログラムまたは同等の電気回路、マイクロコードなどによって実現される。さらに、これらの操作の構成は、一般性を失うことなく、モジュールと呼ばれる場合もある。記載された動作およびそれらに関連するモジュールは、ソフトウェア、ファームウェア、ハードウェア、またはそれらの任意の組み合わせで具体化されてもよい。
本明細書に記載のステップ、動作、または処理のいずれかは、単独で、または他の装置との組み合わせによって、1つ以上のハードウェアまたはソフトウェアモジュールで実行または実装することができる。一実施形態では、ソフトウェアモジュールは、記述されたステップ、動作、または処理のいずれかまたはすべてを実行するコンピュータプロセッサによって実行可能なコンピュータプログラムコードを含むコンピュータ可読媒体を備えるコンピュータプログラム製品で具現化される。
また、実施形態は、本明細書の動作を実行するための装置に関連し得る。この装置は、必要な目的のために特別に構成することができ、および/またはコンピュータに記憶されたコンピュータプログラムによって選択的に起動または再構成された汎用演算装置を含み得る。このようなコンピュータプログラムは、非一時的な有形のコンピュータ可読記憶媒体、または電子命令を記憶するのに適しておりコンピュータシステムバスに接続され得る任意の種類の媒体に記憶され得る。さらには、本明細書で説明される任意の演算システムは、単一のプロセッサを含むことができ、または演算能力を高めるために複数のプロセッサ設計を採用するアーキテクチャであってもよい。
また、実施形態は、本明細書で説明される演算プロセスによって生成される製品に関連し得る。そのような製品は、非一時的な有形のコンピュータ可読記憶媒体に情報が記憶される演算処理から得られる情報を含むことができ、本明細書で説明されるコンピュータプログラム製品または他のデータ組み合わせの任意の実施形態を含むことができる。
本明細書で使用される用語は、主として読みやすさおよび教授目的のために選択されており、特許権を描写または制限するために選択されていない場合がある。従って、本発明の範囲は、詳細な説明によって限定されるものではなく、本明細書に基づく出願の任意の請求項によって限定されることが意図される。従って、実施形態の開示内容は、特許請求の範囲に記載された特許権の範囲を例示するものであって、これに限定されるものではない。

Claims (17)

  1. 方法であって、
    各々第1の次元に沿った所定の変動を含む複数の特徴を有した所定の構造からなる構造化光パターンを体積内に投影することであって、前記構造化光パターンの前記所定の構造が前記第1の次元に延びるストライプを含み、前記所定の変動が追加の次元における強度の周期を含み、前記周期内におけるストライプ群の各ストライプがそれぞれの強度で投影され、前記所定の構造がさらに前記各ストライプに沿った強度変動を含むとともに異なるストライプのピーク強度が互いに異なる位置に存在し、前記構造化光パターンがさらに、前記追加の次元にわたる追加の変動を含み、前記追加の変動も前記第1の次元に沿って変化する、前記構造化光パターンを体積内に投影すること、
    前記体積内の1つ以上の物体で反射された光を検出することであって、検出光が、前記構造化光パターンの前記所定の構造の前記複数の特徴のうち1つ以上の特徴を含む、前記反射された光を検出すること、
    前記検出光における前記1つ以上の特徴を前記所定の構造と相関付けること、
    前記異なるストライプのピーク強度の位置に基づいて物体の深さ情報を決定すること、
    を備える方法。
  2. 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
    前記検出光における少なくとも1つの前記特徴を前記体積内に含まれる物体を含む検出画像内の対応する位置と比較することにより、前記検出光における前記1つ以上の特徴に関連付けられた物体の深さ情報を前記相関付けに基づいて取得することを含む、請求項1に記載の方法。
  3. 前記物体の深さ情報は、前記物体の3次元深さ情報を含む、請求項1に記載の方法。
  4. 前記構造化光パターンの前記所定の構造の前記1つ以上の特徴は強度レベルを含む、請求項1に記載の方法。
  5. 前記所定の変動または前記追加の変動が周期的な強度変動である、請求項1に記載の方法。
  6. 前記周期的な強度変動が、2値変動、3段階変動、4段階変動、5段階変動、6段階変動、7段階変動、および8段階変動からなる群から選択される、請求項に記載の方法。
  7. 前記所定の変動は、前記第1の次元に沿って変化する均一ピーク強度の分布である、請求項1に記載の方法。
  8. 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
    前記検出光における特徴と関連付けられた物体の深さ情報を、前記特徴の強度の値と、前記特徴内における前記追加の変動のピーク強度との比に基づいて計算することを含む、請求項1に記載の方法。
  9. 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
    前記強度の周期に対して前記ストライプ群の相対的指標を決定すること、
    前記相対的指標に基づいて前記物体の深さ情報を決定すること、
    を含む、請求項1に記載の方法。
  10. 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
    前記強度の周期に対して前記ストライプ群の相対的指標を決定すること、
    前記相対的指標と、異なるストライプのピーク強度の位置とに基づいて前記物体の深さ情報を決定すること、を含む、請求項1に記載の方法。
  11. 方法であって、
    体積内に光パターンを投影することであって、前記光パターンは、第1の次元の周期的な強度変動と、追加の次元に沿った均一ピーク強度の分布とを含み、前記追加の次元に沿った前記分布も前記第1の次元によって変化する、前記光パターンを投影すること、
    前記光パターンを反射する前記体積内の位置を見出すこと、
    前記周期的な強度変動に従った前記位置における強度と、前記均一ピーク強度の分布に従った前記位置における強度との比を決定すること、
    決定された前記比を用いて前記位置における深さを決定すること、
    を備える方法。
  12. 前記光パターンは前記追加の次元に延びるストライプを含む、請求項11に記載の方法。
  13. 前記周期的な強度変動は、ストライプ群の各ストライプを異なる強度で投影すること、および少なくとも追加のストライプ群について異なる強度を繰り返すことを含む、請求項12に記載の方法。
  14. 前記追加の次元に沿った前記均一ピーク強度の分布は、ピーク強度を有するストライプに沿ったガウス強度の変動を含む、請求項13に記載の方法。
  15. 前記決定された比を用いて前記位置における深さを決定することは、
    前記周期的な強度変動に対する前記ストライプ群の相対的指標を、物体セグメント化を用いて決定すること、
    1つ以上のストライプにおける前記相対的指標およびピーク強度の位置とともに前記決定された比に基づいて、前記位置における深さを決定すること、を含む、請求項13に記載の方法。
  16. 装置であって、
    或る方向に強度を変化させて変動強度の特徴を有する光ビームを生成するように構成された光源であって、前記光ビームは第1の次元に延びるストライプを含み、前記ストライプが前記光ビームの方向に直交する追加の次元における強度の周期を有する、前記光源と、
    前記光ビームの方向と直交する方向に強度特性を適用して、第1の次元における周期的な強度変動を有するとともに、前記光ビームの方向と直交する前記追加の次元に沿った均一ピーク強度の分布を有する光パターンを生成するように構成された光学素子であって、前記追加の次元に沿った前記分布も前記第1の次元で変化する、前記光学素子と、を備えた装置。
  17. 前記光学素子によって適用された前記強度特性を有する前記光ビームに追加の強度特性を適用するように構成された追加の光学素子をさらに備え、前記追加の強度特性は、グリッド配列で適用され、前記追加の光学素子は、前記追加の強度特性が各特徴における異なる位置に生じるように前記方向に対してオフセットされている、請求項16に記載の装置。
JP2017544937A 2015-02-25 2016-02-24 光パターンの強度変動を利用した体積内の物体の深さマッピング Active JP6621836B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201562120500P 2015-02-25 2015-02-25
US62/120,500 2015-02-25
PCT/US2016/019375 WO2016138143A1 (en) 2015-02-25 2016-02-24 Using intensity variations in a light pattern for depth mapping of objects in a volume

Publications (3)

Publication Number Publication Date
JP2018508019A JP2018508019A (ja) 2018-03-22
JP2018508019A5 JP2018508019A5 (ja) 2019-02-14
JP6621836B2 true JP6621836B2 (ja) 2019-12-18

Family

ID=56789621

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017544937A Active JP6621836B2 (ja) 2015-02-25 2016-02-24 光パターンの強度変動を利用した体積内の物体の深さマッピング

Country Status (6)

Country Link
US (1) US9934574B2 (ja)
EP (2) EP4141793A1 (ja)
JP (1) JP6621836B2 (ja)
KR (1) KR101954855B1 (ja)
CN (1) CN107532885B (ja)
WO (1) WO2016138143A1 (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102656543A (zh) * 2009-09-22 2012-09-05 泊布欧斯技术有限公司 计算机装置的远程控制
EP3243188A4 (en) * 2015-01-06 2018-08-22 Facebook Inc. Method and system for providing depth mapping using patterned light
US10066933B2 (en) 2015-05-04 2018-09-04 Facebook, Inc. Camera depth mapping using structured light patterns
US10785393B2 (en) * 2015-05-22 2020-09-22 Facebook, Inc. Methods and devices for selective flash illumination
US9858672B2 (en) 2016-01-15 2018-01-02 Oculus Vr, Llc Depth mapping using structured light and time of flight
US10089738B2 (en) * 2016-08-30 2018-10-02 Microsoft Technology Licensing, Llc Temperature compensation for structured light depth imaging system
US10620316B2 (en) * 2017-05-05 2020-04-14 Qualcomm Incorporated Systems and methods for generating a structured light depth map with a non-uniform codeword pattern
CN110892716B (zh) * 2017-07-12 2022-11-22 镜泰公司 从环境中用于获取信息的系统及方法
TWI647661B (zh) * 2017-08-10 2019-01-11 緯創資通股份有限公司 影像深度感測方法與影像深度感測裝置
CN107450190B (zh) 2017-09-08 2019-12-13 深圳奥比中光科技有限公司 一种衍射光学元件及配制方法
CN107703641B (zh) * 2017-09-08 2019-12-13 深圳奥比中光科技有限公司 一种结构光投影模组和深度相机
US20190220677A1 (en) * 2018-01-17 2019-07-18 GM Global Technology Operations LLC Structured light illumination system for object detection
CN108594454B (zh) 2018-03-23 2019-12-13 深圳奥比中光科技有限公司 一种结构光投影模组和深度相机
US11182914B2 (en) * 2018-05-21 2021-11-23 Facebook Technologies, Llc Dynamic structured light for depth sensing systems based on contrast in a local area
US10877622B2 (en) * 2018-08-29 2020-12-29 Facebook Technologies, Llc Detection of structured light for depth sensing
CN109712350B (zh) * 2019-01-31 2024-06-11 浙江云澎科技有限公司 一种智能识别的自助结算机
JP7251240B2 (ja) * 2019-03-20 2023-04-04 株式会社リコー 光学装置、検出装置及び電子機器
US10890839B1 (en) * 2019-11-06 2021-01-12 Himax Technologies Limited Structured light imaging device
US20220233096A1 (en) * 2021-01-27 2022-07-28 Covidien Lp Systems and methods for non-contact respiratory monitoring

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3388684B2 (ja) * 1997-03-05 2003-03-24 株式会社オプトン 3次元形状測定方法
US6341016B1 (en) * 1999-08-06 2002-01-22 Michael Malione Method and apparatus for measuring three-dimensional shape of object
KR100544979B1 (ko) * 2003-11-28 2006-01-24 한국전자통신연구원 물체의 반사율 획득 시스템 및 물체 표현 방법
EP1994503B1 (en) * 2006-03-14 2017-07-05 Apple Inc. Depth-varying light fields for three dimensional sensing
US20090189858A1 (en) * 2008-01-30 2009-07-30 Jeff Lev Gesture Identification Using A Structured Light Pattern
US9582889B2 (en) * 2009-07-30 2017-02-28 Apple Inc. Depth mapping based on pattern matching and stereoscopic information
US9098931B2 (en) * 2010-08-11 2015-08-04 Apple Inc. Scanning projectors and image capture modules for 3D mapping
TWI435051B (zh) * 2011-03-15 2014-04-21 Largan Precision Co Ltd 位置及深度之檢出裝置及其方法
US9628843B2 (en) 2011-11-21 2017-04-18 Microsoft Technology Licensing, Llc Methods for controlling electronic devices using gestures
DE112013000590B4 (de) * 2012-01-17 2016-05-04 Leap Motion, Inc. Verbesserter Kontrast zur Objekterfassung und Charakterisierung durch optisches Abbilden
EP2823462B1 (en) * 2012-03-05 2019-10-16 Microsoft Technology Licensing, LLC Generation of depth images based upon light falloff
US20140267701A1 (en) * 2013-03-12 2014-09-18 Ziv Aviv Apparatus and techniques for determining object depth in images
EP2799810A1 (de) * 2013-04-30 2014-11-05 Aimess Services GmbH Vorrichtung und Verfahren zum simultanen dreidimensionalen Vermessen von Oberflächen mit mehreren Wellenlängen
US10019843B2 (en) * 2013-08-08 2018-07-10 Facebook, Inc. Controlling a near eye display

Also Published As

Publication number Publication date
EP3262439A4 (en) 2019-02-27
KR20170120655A (ko) 2017-10-31
CN107532885A (zh) 2018-01-02
JP2018508019A (ja) 2018-03-22
EP3262439A1 (en) 2018-01-03
EP4141793A1 (en) 2023-03-01
US9934574B2 (en) 2018-04-03
WO2016138143A1 (en) 2016-09-01
US20160253812A1 (en) 2016-09-01
KR101954855B1 (ko) 2019-03-06
EP3262439B1 (en) 2022-11-02
CN107532885B (zh) 2020-03-03

Similar Documents

Publication Publication Date Title
JP6621836B2 (ja) 光パターンの強度変動を利用した体積内の物体の深さマッピング
EP3788403B1 (en) Field calibration of a structured light range-sensor
EP3907702B1 (en) Three-dimensional sensor system and three-dimensional data acquisition method
JP6377863B2 (ja) 反射マップ表現による奥行きマップ表現の増補
GB2564794B (en) Image-stitching for dimensioning
US7768656B2 (en) System and method for three-dimensional measurement of the shape of material objects
JP5587137B2 (ja) 測定装置及び測定方法
JP5631025B2 (ja) 情報処理装置、その処理方法及びプログラム
KR101605224B1 (ko) 패턴 광을 이용한 깊이 정보 획득 장치 및 방법
KR102424135B1 (ko) 2개의 카메라로부터의 곡선의 세트의 구조형 광 매칭
US20130106833A1 (en) Method and apparatus for optical tracking of 3d pose using complex markers
US12067083B2 (en) Detecting displacements and/or defects in a point cloud using cluster-based cloud-to-cloud comparison
US20130147785A1 (en) Three-dimensional texture reprojection
CN111971525A (zh) 用立体镜测量物体的方法和系统
JP6782239B2 (ja) パターン光を用いた深さマップを提供するための方法およびシステム
CN110462688B (zh) 使用基于模型的峰值选择的三维轮廓确定系统及方法
KR101296365B1 (ko) 카메라를 이용한 홀로그램 터치 인식방법
KR101907057B1 (ko) 구면 모델링을 통한 깊이 정보 보정 방법과 보정장치
US11758077B1 (en) Employing sequences of light patterns to synchronize cameras
KR20240077350A (ko) 센서 융합 장치 및 방법
TW201301078A (zh) 體感偵測方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181227

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181227

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20181227

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20190218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190226

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190508

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190520

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20190604

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190618

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191008

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191120

R150 Certificate of patent or registration of utility model

Ref document number: 6621836

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250