JP6546349B2 - 構造化光およびタイムオブフライトを用いた深度マッピング - Google Patents
構造化光およびタイムオブフライトを用いた深度マッピング Download PDFInfo
- Publication number
- JP6546349B2 JP6546349B2 JP2018533883A JP2018533883A JP6546349B2 JP 6546349 B2 JP6546349 B2 JP 6546349B2 JP 2018533883 A JP2018533883 A JP 2018533883A JP 2018533883 A JP2018533883 A JP 2018533883A JP 6546349 B2 JP6546349 B2 JP 6546349B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- group
- pixels
- carrier signal
- detector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013507 mapping Methods 0.000 title description 4
- 238000003384 imaging method Methods 0.000 claims description 58
- 238000005286 illumination Methods 0.000 claims description 46
- 230000010363 phase shift Effects 0.000 claims description 25
- 230000002123 temporal effect Effects 0.000 claims description 12
- 238000000034 method Methods 0.000 claims description 10
- 230000008859 change Effects 0.000 claims description 2
- 230000003287 optical effect Effects 0.000 description 26
- 230000009471 action Effects 0.000 description 16
- 230000010354 integration Effects 0.000 description 9
- 238000005259 measurement Methods 0.000 description 8
- 230000003190 augmentative effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000004075 alteration Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 229920001621 AMOLED Polymers 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 230000005855 radiation Effects 0.000 description 2
- 238000002366 time-of-flight method Methods 0.000 description 2
- 241000226585 Antennaria plantaginifolia Species 0.000 description 1
- 206010010071 Coma Diseases 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 239000006117 anti-reflective coating Substances 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 201000009310 astigmatism Diseases 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000003990 capacitor Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S17/36—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/46—Indirect determination of position data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
- G02B26/06—Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the phase of light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/35—Determination of transform parameters for the alignment of images, i.e. image registration using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/529—Depth or shape recovery from texture
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Computer Graphics (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
Description
図1は、VRコンソール110が動作する仮想現実(VR:virtual reality)システム環境100の一実施形態のブロック図である。なお、図1は、例示のためのVRシステム環境を示しており、本明細書に記載された構成要素および機能は、様々な実施形態における拡張現実(AR:augmented reality)システムに含まれてもよい。本明細書で使用されるように、VRシステム環境100は、ユーザが対話することができる仮想環境をユーザに提示する仮想現実システム環境を含み得る。図1に示すVRシステム環境100は、VRコンソール110に接続されたVRヘッドセット105およびVR入出力(I/O)インタフェース115を備える。なお、図1は、1つのVRヘッドセット105および1つのVR I/Oインタフェース115を含む例示的なシステム100を示しているが、他の実施形態では、任意の数のこれらの構成要素がVRシステム環境100に含まれてもよい。例えば、複数のVRヘッドセット105が設けられ、各VRヘッドセット105が関連するVR I/Oインタフェース115を有し、各VRヘッドセット105およびVR I/Oインタフェース115がVRコンソール110と通信してもよい。代替の構成では、異なる構成要素および/または追加の構成要素をVRシステム環境100に含ませることができる。さらに、いくつかの実施形態において、図1に示される1つまたは複数の構成要素と関連して説明される機能が、図1に関連して説明したのとは異なる方法で複数の構成要素に分配されてもよい。例えば、VRコンソール110の機能の一部または全部は、VRヘッドセット105によって提供される。
Claims (22)
- 装置であって、
発光体に接続されたコントローラを含む照明源であって、前記コントローラは、前記発光体によって放射された光をキャリア信号によって変調して、前記照明源から放射された変調された光パターンの強度が前記キャリア信号に基づいて空間的かつ経時的に変化するように構成されている、前記照明源と、
変調された光パターンの反射を捕捉するように構成された撮像デバイスであって、前記撮像デバイスは、検出器を含み、前記検出器は、複数の画素群を含み、前記複数の画素群の各々は、1つまたは複数の画素を含み、各画素群は、画素群が光を捕捉する時期を決定する制御信号を受信するように構成され、前記制御信号は、各画素群に他の画素群とは異なる時間に光を捕捉させる、前記撮像デバイスと、
前記撮像デバイスに接続されたプロセッサであって、前記プロセッサは、
前記検出器の個々の画素群によって受光される光の強度に基づいてキャリア信号の位相を決定し、
前記キャリア信号の決定された位相に基づいて、変調された光パターンが局所領域内の1つの対象物から反射されて前記検出器によって捕捉される時間を決定し、
前記光の強度に基づいて空間的情報を決定し、
前記時間および前記空間的情報に基づいて前記局所領域内の対象物に関する深度情報を決定するように構成されている、前記プロセッサと
を備える装置。 - 画素群は、前記画素群によって受信される前記制御信号が値を有するときに光を捕捉し、前記画素群によって受信される前記制御信号が別の値を有するときに光を捕捉しないように構成されている、請求項1に記載の装置。
- 個々の画素群によって受信される複数の制御信号は、個々の時間に前記値を有する、請求項2に記載の装置。
- 前記個々の時間に隣接する画素群によって受信される制御信号は、前記画素群によって捕捉される光が、前記画素群に隣接する他の画素群によって捕捉された光に対して特定の位相シフトを有するようにする、請求項2に記載の装置。
- 前記特定の位相シフトは、90度の位相シフトである、請求項4に記載の装置。
- 画素群によって受信される制御信号は、特定の時間に前記値を有し、他の画素群によって受信される制御信号は、前記特定の時間に前記別の値を有する、請求項5に記載の装置。
- 画素群によって受信される制御信号は、特定の時間に前記値を有し、前記画素群に隣接する各画素群によって受信される制御信号は、前記特定の時間に前記別の値を有する、請求項5に記載の装置。
- 前記検出器の個々の画素群によって受光される光の強度に基づいて前記キャリア信号の位相を決定することは、
画素群によって捕捉された光の強度と前記画素群に隣接する他の画素群によって捕捉された光の強度との間の差を決定すること、
別の画素群によって捕捉された光の強度と、前記別の画素群に隣接するさらなる画素群によって捕捉された光の強度との間の追加の差を決定すること、ここで、前記別の画素群およびさらなる画素群は、前記画素群に隣接し、
前記差と前記追加の差との比に基づいて前記キャリア信号の位相を決定することを含む、請求項5に記載の装置。 - 前記差と前記追加の差との比に基づいて前記キャリア信号の位相を決定することは、
前記追加の差に対する前記差の逆正接としてキャリア信号の位相を決定することを含む、請求項8に記載の装置。 - 前記検出器に含まれる前記複数の画素群は、繰り返しパターンで配置される、請求項1に記載の装置。
- 前記繰り返しパターンは、2×2の格子を含み、前記2×2の格子内の各画素群は、前記2×2の格子内の別の画素群によって捕捉される光に対して90度の位相シフトを有する光を捕捉する、請求項10に記載の装置。
- 前記キャリア信号は正弦波を含む、請求項1に記載の装置。
- 前記キャリア信号は方形波を含む、請求項1に記載の装置。
- 方法であって、
変調された光パターンの強度がキャリア信号に基づいて空間的かつ経時的に変化するように前記光パターンをキャリア信号によって変調するステップと、
変調された光パターンを局所領域に放射するステップと、
複数の画素群を含む検出器を使用して変調された光パターンの反射を捕捉するステップであって、各画素群は、他の画素群とは異なる時間に光を捕捉するように構成されている、前記放射するステップと、
前記検出器の個々の画素群によって受光される光の強度に基づいて前記キャリア信号の位相を決定するステップと、
前記キャリア信号の決定された位相に基づいて、前記変調された光パターンが局所領域内の1つの対象物から反射されて前記検出器によって検出される時間を決定するステップと、
前記光の強度に基づいて空間的情報を決定するステップと、
前記時間および前記空間的情報に基づいて前記局所領域内の対象物に関する深度情報を決定するステップと
を含む方法。 - 複数の画素群を含む前記検出器を使用して前記変調された光パターンを捕捉することは、個々の時間に個々の画素群を使用して光を捕捉することを含む、請求項14に記載の方法。
- 個々の画素群を使用して光を個々の時間に捕捉することは、
画素群によって捕捉された光が前記画素群に隣接する他の画素群によって捕捉された光に対して特定の位相シフトを有するように個々の画素群を使用して光を捕捉することを含む、請求項15に記載の方法。 - 前記特定の位相シフトが90度の位相シフトを含む、請求項16に記載の方法。
- 前記検出器の個々の画素群によって受光される光の強度に基づいて前記キャリア信号の位相を決定することは、
前記検出器の画素群によって捕捉される光の強度と、前記画素群に隣接する画素群内の他の画素群によって捕捉される光の強度との間の差を決定すること、
前記検出器の別の画素群によって捕捉された光の強度と、別の画素群に隣接する前記検出器のさらなる画素群によって捕捉された光の強度との間の追加の差を決定すること、
前記差と前記追加の差との比に基づいて前記キャリア信号の位相を決定することを含む、請求項17に記載の方法。 - 差と追加の差との比に基づいて前記キャリア信号の位相を決定することは、
前記キャリア信号の位相を前記追加の差に対する前記差の逆正接として決定することを含む、請求項17に記載の方法。 - 装置であって、
変調された光パターンの強度がキャリア信号に基づいて空間的かつ経時的に変化するように前記光パターンをキャリア信号によって変調し、
変調された光パターンを放射するように構成された照明源と、
前記変調された光パターンの反射を捕捉するように構成された撮像デバイスであって、前記撮像デバイスは、検出器を含み、前記検出器は、複数の画素群を含み、各画素群は1つまたは複数の画素を含み、各画素群は、複数の電荷格納領域を含み、前記検出器は、画素群によって捕捉された光からの電荷を前記キャリア信号の周波数および位相に基づいて前記画素群に含まれる前記電荷格納領域のうちの1つに蓄積するように構成されている、前記撮像デバイスと、
前記撮像デバイスに接続されたプロセッサであって、前記プロセッサは、
前記検出器の個々の画素群によって受光される光の強度に基づいて前記キャリア信号の位相を決定し、
前記キャリア信号の決定された位相に基づいて、変調された光パターンが局所領域内の1つの対象物から反射されて前記検出器により捕捉される時間を決定し、
前記光の強度に基づいて空間的情報を決定し、
前記時間および前記空間的情報に基づいて前記局所領域内の対象物に関する深度情報を決定するように構成されている、前記プロセッサと
を備える装置。 - 前記画素群は、光と、前記キャリア信号に基づいて変更された画素群に含まれる格納領域に蓄積された電荷とを同時に捕捉する、請求項20に記載の装置。
- 各画素群は、100%のデューティサイクルまで光を捕捉するように構成される、請求項21に記載の装置。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201662279629P | 2016-01-15 | 2016-01-15 | |
US62/279,629 | 2016-01-15 | ||
US15/268,325 US9858672B2 (en) | 2016-01-15 | 2016-09-16 | Depth mapping using structured light and time of flight |
US15/268,325 | 2016-09-16 | ||
PCT/US2017/012346 WO2017123452A1 (en) | 2016-01-15 | 2017-01-05 | Depth mapping using structured light and time of flight |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019114525A Division JP6827073B2 (ja) | 2016-01-15 | 2019-06-20 | 構造化光およびタイムオブフライトを用いた深度マッピング |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019504313A JP2019504313A (ja) | 2019-02-14 |
JP6546349B2 true JP6546349B2 (ja) | 2019-07-17 |
Family
ID=59312060
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018533883A Active JP6546349B2 (ja) | 2016-01-15 | 2017-01-05 | 構造化光およびタイムオブフライトを用いた深度マッピング |
JP2019114525A Active JP6827073B2 (ja) | 2016-01-15 | 2019-06-20 | 構造化光およびタイムオブフライトを用いた深度マッピング |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019114525A Active JP6827073B2 (ja) | 2016-01-15 | 2019-06-20 | 構造化光およびタイムオブフライトを用いた深度マッピング |
Country Status (6)
Country | Link |
---|---|
US (3) | US9858672B2 (ja) |
EP (2) | EP3745185A1 (ja) |
JP (2) | JP6546349B2 (ja) |
KR (2) | KR101949950B1 (ja) |
CN (1) | CN108463740B (ja) |
WO (1) | WO2017123452A1 (ja) |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10481195B2 (en) | 2015-12-02 | 2019-11-19 | Machinesense, Llc | Distributed IoT based sensor analytics for power line diagnosis |
US10648735B2 (en) | 2015-08-23 | 2020-05-12 | Machinesense, Llc | Machine learning based predictive maintenance of a dryer |
JP6598673B2 (ja) * | 2015-12-24 | 2019-10-30 | キヤノン株式会社 | データ処理装置およびその方法 |
US9858672B2 (en) * | 2016-01-15 | 2018-01-02 | Oculus Vr, Llc | Depth mapping using structured light and time of flight |
US10033988B2 (en) | 2016-10-31 | 2018-07-24 | Verizon Patent And Licensing Inc. | Methods and systems for capturing depth data using frequency-segregated structured light |
US10025384B1 (en) * | 2017-01-06 | 2018-07-17 | Oculus Vr, Llc | Eye tracking architecture for common structured light and time-of-flight framework |
US10154254B2 (en) | 2017-01-17 | 2018-12-11 | Facebook Technologies, Llc | Time-of-flight depth sensing for eye tracking |
CN110785741B (zh) * | 2017-06-16 | 2024-04-26 | 微软技术许可有限责任公司 | 生成用户界面容器 |
DE102017117211B3 (de) | 2017-07-31 | 2018-09-06 | Dr. Ing. H.C. F. Porsche Aktiengesellschaft | Verfahren zur trajektorienbasierten Merkmalszuordnung in einem von einer Bilderfassungseinheit eines Fahrzeugs erfassten Bild |
US10692279B2 (en) * | 2017-07-31 | 2020-06-23 | Quantum Spatial, Inc. | Systems and methods for facilitating making partial selections of multidimensional information while maintaining a multidimensional structure |
US10061352B1 (en) * | 2017-08-14 | 2018-08-28 | Oculus Vr, Llc | Distributed augmented reality system |
US10791283B2 (en) * | 2017-09-01 | 2020-09-29 | Facebook Technologies, Llc | Imaging device based on lens assembly with embedded filter |
JP6637936B2 (ja) * | 2017-09-14 | 2020-01-29 | 株式会社Subaru | 車両の路面判定装置 |
US10491877B1 (en) * | 2017-12-21 | 2019-11-26 | Facebook Technologies, Llc | Depth camera assembly using multiplexed sensor phase measurements to determine depth using fringe interferometry |
US10855973B1 (en) * | 2017-12-21 | 2020-12-01 | Facebook Technologies, Llc | Depth mapping using fringe interferometry |
JP7253323B2 (ja) * | 2018-02-14 | 2023-04-06 | オムロン株式会社 | 3次元計測システム及び3次元計測方法 |
US11716548B2 (en) | 2018-03-13 | 2023-08-01 | Meta Platforms Technologies, Llc | Timing of multiplexed sensor phase measurements in a depth camera assembly for depth determination using fringe interferometry |
CN108648222B (zh) * | 2018-04-27 | 2021-08-17 | 华中科技大学 | 结构光深度数据空间分辨率的提升方法及装置 |
JP7214363B2 (ja) * | 2018-04-27 | 2023-01-30 | ソニーセミコンダクタソリューションズ株式会社 | 測距処理装置、測距モジュール、測距処理方法、およびプログラム |
US10529128B1 (en) * | 2018-04-27 | 2020-01-07 | Facebook Technologies, Llc | Apparatus, system, and method for mapping a 3D environment |
US11187804B2 (en) | 2018-05-30 | 2021-11-30 | Qualcomm Incorporated | Time of flight range finder for a structured light system |
KR102596053B1 (ko) * | 2018-08-27 | 2023-11-01 | 엘지이노텍 주식회사 | 영상 처리 장치 및 영상 처리 방법 |
WO2020045770A1 (en) * | 2018-08-31 | 2020-03-05 | Samsung Electronics Co., Ltd. | Method and device for obtaining 3d images |
KR102543027B1 (ko) * | 2018-08-31 | 2023-06-14 | 삼성전자주식회사 | 3차원 이미지를 획득하기 위한 방법 및 장치 |
US10616550B1 (en) * | 2018-09-14 | 2020-04-07 | Facebook Technologies, Llc | Generating a representation of an object from depth information determined in parallel from images captured by multiple cameras |
US10916023B2 (en) | 2018-09-14 | 2021-02-09 | Facebook Technologies, Llc | Depth measurement assembly with a structured light source and a time of flight camera |
CN109343070A (zh) * | 2018-11-21 | 2019-02-15 | 深圳奥比中光科技有限公司 | 时间飞行深度相机 |
CN109283508A (zh) * | 2018-11-21 | 2019-01-29 | 深圳奥比中光科技有限公司 | 飞行时间计算方法 |
US10855896B1 (en) * | 2018-12-13 | 2020-12-01 | Facebook Technologies, Llc | Depth determination using time-of-flight and camera assembly with augmented pixels |
US10791282B2 (en) | 2018-12-13 | 2020-09-29 | Fenwick & West LLP | High dynamic range camera assembly with augmented pixels |
US10791286B2 (en) | 2018-12-13 | 2020-09-29 | Facebook Technologies, Llc | Differentiated imaging using camera assembly with augmented pixels |
JP7438555B2 (ja) | 2019-04-22 | 2024-02-27 | 国立大学法人 奈良先端科学技術大学院大学 | 三次元計測方法および三次元計測装置 |
WO2021030034A1 (en) | 2019-08-15 | 2021-02-18 | Apple Inc. | Depth mapping using spatial multiplexing of illumination phase |
US10902623B1 (en) | 2019-11-19 | 2021-01-26 | Facebook Technologies, Llc | Three-dimensional imaging with spatial and temporal coding for depth camera assembly |
US11194160B1 (en) | 2020-01-21 | 2021-12-07 | Facebook Technologies, Llc | High frame rate reconstruction with N-tap camera sensor |
US20210255327A1 (en) * | 2020-02-17 | 2021-08-19 | Mediatek Inc. | Emission And Reception Of Patterned Light Waves For Range Sensing |
WO2021176873A1 (ja) * | 2020-03-03 | 2021-09-10 | ソニーグループ株式会社 | 情報処理装置と情報処理方法およびプログラム |
US11763472B1 (en) | 2020-04-02 | 2023-09-19 | Apple Inc. | Depth mapping with MPI mitigation using reference illumination pattern |
CN115552285A (zh) | 2020-06-11 | 2022-12-30 | 苹果公司 | 具有飞行时间感测能力的全局快门图像传感器 |
CN113298778B (zh) * | 2021-05-21 | 2023-04-07 | 奥比中光科技集团股份有限公司 | 一种基于飞行时间的深度计算方法、系统及存储介质 |
JP2024005071A (ja) * | 2022-06-29 | 2024-01-17 | ソニーセミコンダクタソリューションズ株式会社 | 測距装置、測距システム、および測距方法 |
Family Cites Families (39)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3298081B2 (ja) | 1994-12-06 | 2002-07-02 | 日本電信電話株式会社 | ヘッドマウントディスプレイ装置 |
US6600168B1 (en) * | 2000-02-03 | 2003-07-29 | Genex Technologies, Inc. | High speed laser three-dimensional imager |
JP4466260B2 (ja) * | 2004-07-30 | 2010-05-26 | パナソニック電工株式会社 | 画像処理装置 |
WO2006013901A1 (ja) | 2004-08-04 | 2006-02-09 | Asahi Glass Company, Limited | 液晶レンズ素子および光ヘッド装置 |
US20060210111A1 (en) | 2005-03-16 | 2006-09-21 | Dixon Cleveland | Systems and methods for eye-operated three-dimensional object location |
US8427426B2 (en) * | 2005-05-27 | 2013-04-23 | Sony Computer Entertainment Inc. | Remote input device |
KR100791389B1 (ko) * | 2006-12-26 | 2008-01-07 | 삼성전자주식회사 | 스트럭쳐드 라이트를 이용한 거리 측정 장치 및 방법 |
US8150142B2 (en) * | 2007-04-02 | 2012-04-03 | Prime Sense Ltd. | Depth mapping using projected patterns |
US8224068B2 (en) * | 2007-09-18 | 2012-07-17 | University Of Kentucky Research Foundation (Ukrf) | Lock and hold structured light illumination |
JP5280030B2 (ja) * | 2007-09-26 | 2013-09-04 | 富士フイルム株式会社 | 測距方法および装置 |
US7986321B2 (en) * | 2008-01-02 | 2011-07-26 | Spatial Integrated Systems, Inc. | System and method for generating structured light for 3-dimensional image rendering |
BR112012000189B1 (pt) * | 2009-06-17 | 2020-01-21 | 3Shape As | aparelho de varredura com foco. |
EP2500687A3 (en) * | 2011-03-14 | 2013-02-20 | Heliotis SA | Structured light projector |
KR101788032B1 (ko) * | 2011-03-24 | 2017-10-19 | 삼성전자주식회사 | 깊이 센서, 상기 깊이 센서의 깊이 정보 에러 보상 방법, 및 상기 깊이 센서를 포함하는 신호 처리 시스템 |
KR20130011692A (ko) * | 2011-07-22 | 2013-01-30 | 삼성전자주식회사 | 깊이 영상과 컬러 영상을 획득하는 픽셀 구조를 가진 이미지 센서 |
CA2750287C (en) | 2011-08-29 | 2012-07-03 | Microsoft Corporation | Gaze detection in a see-through, near-eye, mixed reality display |
US9349182B2 (en) * | 2011-11-10 | 2016-05-24 | Carestream Health, Inc. | 3D intraoral measurements using optical multiline method |
JP2013104784A (ja) * | 2011-11-14 | 2013-05-30 | Mitsubishi Electric Corp | 光3次元カメラ |
WO2013078349A1 (en) * | 2011-11-23 | 2013-05-30 | The Trustees Of Columbia University In The City Of New York | Systems, methods, and media for performing shape measurement |
US8955973B2 (en) | 2012-01-06 | 2015-02-17 | Google Inc. | Method and system for input detection using structured light projection |
US20140085426A1 (en) | 2012-09-24 | 2014-03-27 | Alces Technology, Inc. | Structured light systems with static spatial light modulators |
TWI481901B (zh) * | 2012-12-03 | 2015-04-21 | Wistron Corp | 頭戴式顯示裝置 |
RU2012154657A (ru) | 2012-12-17 | 2014-06-27 | ЭлЭсАй Корпорейшн | Способы и устройство для объединения изображений с глубиной, генерированных с использованием разных способов формирования изображений с глубиной |
JP6241793B2 (ja) * | 2012-12-20 | 2017-12-06 | パナソニックIpマネジメント株式会社 | 3次元測定装置および3次元測定方法 |
JP2014219621A (ja) | 2013-05-10 | 2014-11-20 | 株式会社タイトー | 表示装置、表示制御プログラム |
KR102098277B1 (ko) | 2013-06-11 | 2020-04-07 | 삼성전자주식회사 | 시선 추적을 이용한 시인성 개선 방법, 저장 매체 및 전자 장치 |
JP6403776B2 (ja) * | 2013-08-19 | 2018-10-10 | ビーエーエスエフ ソシエタス・ヨーロピアBasf Se | 光学検出器 |
US10061028B2 (en) * | 2013-09-05 | 2018-08-28 | Texas Instruments Incorporated | Time-of-flight (TOF) assisted structured light imaging |
TWI485361B (zh) * | 2013-09-11 | 2015-05-21 | Univ Nat Taiwan | 三維形貌輪廓量測裝置及其方法 |
US20150102981A1 (en) | 2013-10-11 | 2015-04-16 | Microsoft Corporation | Eye tracking |
JP6146293B2 (ja) * | 2013-12-25 | 2017-06-14 | ソニー株式会社 | 制御装置、制御方法および制御システム |
US9671612B2 (en) | 2014-01-29 | 2017-06-06 | Google Inc. | Dynamic lens for head mounted display |
US9749513B2 (en) * | 2014-04-29 | 2017-08-29 | Facebook, Inc. | System and method for generating a light pattern for object illumination |
US9753140B2 (en) * | 2014-05-05 | 2017-09-05 | Raytheon Company | Methods and apparatus for imaging in scattering environments |
US9330464B1 (en) * | 2014-12-12 | 2016-05-03 | Microsoft Technology Licensing, Llc | Depth camera feedback |
US9712806B2 (en) * | 2014-12-19 | 2017-07-18 | Datalogic ADC, Inc. | Depth camera system using coded structured light |
WO2016138143A1 (en) * | 2015-02-25 | 2016-09-01 | Oculus Vr, Llc | Using intensity variations in a light pattern for depth mapping of objects in a volume |
US10241569B2 (en) | 2015-12-08 | 2019-03-26 | Facebook Technologies, Llc | Focus adjustment method for a virtual reality headset |
US9858672B2 (en) * | 2016-01-15 | 2018-01-02 | Oculus Vr, Llc | Depth mapping using structured light and time of flight |
-
2016
- 2016-09-16 US US15/268,325 patent/US9858672B2/en active Active
-
2017
- 2017-01-05 JP JP2018533883A patent/JP6546349B2/ja active Active
- 2017-01-05 EP EP20186409.7A patent/EP3745185A1/en active Pending
- 2017-01-05 KR KR1020187019263A patent/KR101949950B1/ko active IP Right Grant
- 2017-01-05 WO PCT/US2017/012346 patent/WO2017123452A1/en active Application Filing
- 2017-01-05 KR KR1020197002260A patent/KR102456961B1/ko active IP Right Grant
- 2017-01-05 EP EP17738752.9A patent/EP3403131B1/en active Active
- 2017-01-05 CN CN201780006774.7A patent/CN108463740B/zh active Active
- 2017-11-03 US US15/803,328 patent/US9976849B2/en active Active
-
2018
- 2018-04-10 US US15/949,529 patent/US10228240B2/en active Active
-
2019
- 2019-06-20 JP JP2019114525A patent/JP6827073B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
KR20180081634A (ko) | 2018-07-16 |
US9858672B2 (en) | 2018-01-02 |
JP2019504313A (ja) | 2019-02-14 |
EP3745185A1 (en) | 2020-12-02 |
US20170206660A1 (en) | 2017-07-20 |
US10228240B2 (en) | 2019-03-12 |
CN108463740A (zh) | 2018-08-28 |
CN108463740B (zh) | 2020-01-21 |
US9976849B2 (en) | 2018-05-22 |
US20180058844A1 (en) | 2018-03-01 |
EP3403131A1 (en) | 2018-11-21 |
KR102456961B1 (ko) | 2022-10-21 |
KR101949950B1 (ko) | 2019-02-19 |
US20180231372A1 (en) | 2018-08-16 |
WO2017123452A1 (en) | 2017-07-20 |
KR20190010742A (ko) | 2019-01-30 |
JP6827073B2 (ja) | 2021-02-10 |
EP3403131A4 (en) | 2019-08-21 |
EP3403131B1 (en) | 2020-11-18 |
JP2019219399A (ja) | 2019-12-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6546349B2 (ja) | 構造化光およびタイムオブフライトを用いた深度マッピング | |
CN113016177B (zh) | 具有结构光源和飞行时间相机的深度测量组件 | |
JP6866365B2 (ja) | ステレオカメラと構造化光とを用いたヘッドマウントディスプレイを伴う奥行きマッピング | |
US10469722B2 (en) | Spatially tiled structured light projector | |
CN108370438B (zh) | 范围选通的深度相机组件 | |
CN109565585B (zh) | 用于深度信息确定的多发射器照明源 | |
CN109425306B (zh) | 深度测量组件 | |
US20190072771A1 (en) | Depth measurement using multiple pulsed structured light projectors | |
US10957059B1 (en) | Multi-pattern depth camera assembly | |
WO2018038763A1 (en) | Array detector for depth mapping | |
US10574938B1 (en) | Variable frame rate depth camera assembly | |
US10855973B1 (en) | Depth mapping using fringe interferometry | |
US10852434B1 (en) | Depth camera assembly using fringe interferometery via multiple wavelengths |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20181218 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190108 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190327 |
|
TRDD | Decision of grant or rejection written | ||
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190517 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190521 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190620 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6546349 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |