JP2021506168A5 - - Google Patents

Download PDF

Info

Publication number
JP2021506168A5
JP2021506168A5 JP2020530983A JP2020530983A JP2021506168A5 JP 2021506168 A5 JP2021506168 A5 JP 2021506168A5 JP 2020530983 A JP2020530983 A JP 2020530983A JP 2020530983 A JP2020530983 A JP 2020530983A JP 2021506168 A5 JP2021506168 A5 JP 2021506168A5
Authority
JP
Japan
Prior art keywords
color
transfer function
primary color
channel
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020530983A
Other languages
English (en)
Other versions
JP7245835B2 (ja
JP2021506168A (ja
Filing date
Publication date
Application filed filed Critical
Priority claimed from PCT/CA2018/051554 external-priority patent/WO2019109182A1/en
Publication of JP2021506168A publication Critical patent/JP2021506168A/ja
Publication of JP2021506168A5 publication Critical patent/JP2021506168A5/ja
Application granted granted Critical
Publication of JP7245835B2 publication Critical patent/JP7245835B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Claims (20)

  1. シーンの三次元画像データを捕捉する方法であって、
    a)回折された光学波面を生成するよう、格子軸に沿った格子間隔を有する回折格子パターンに従って前記シーンから生じる光学波面を回折することと、
    b)各々が色フィルタと関連付けられた複数の感光画素を含む画素アレイを使用して、近接場領域内で前記回折された光学波面を検出し、画素データを獲得することであって、前記色フィルタは、一次色と関連付けられた異なる隣接した画素が前記回折された光学波面の全サイクルにわたって前記回折された光学波面の異なる空間的部分を検出するように配列された前記一次色及び1つ以上の二次色を定義した色モザイクを形成して前記検出することと、
    c)前記一次色及び前記二次色に従って、前記画素データを対応する一次色チャネル及び二次色チャネルに解析することと、
    d)前記一次色チャネルと関連付けられた前記回折された光学波面の強度プロファイルの主基底成分及び主変調成分を判定することと、
    e)前記二次チャネルの各々と関連付けられた前記回折された光学波面の強度プロファイルの二次基底成分及び二次変調成分を判定することと、
    f)前記主基底成分及び前記二次基底成分を使用して、前記シーンの2D画像を再構築することと、
    g)前記色チャネルの関連する1つの前記変調成分から物体距離情報を提供するよう較正された少なくとも1つの色放射伝達関数を使用して、前記シーンの奥行マップを作成することと、
    を備える、前記方法。
  2. 各々の色放射伝達関数は、前記関連する色チャネルの前記回折された光学波面の前記強度プロファイルを、前記検出するステップのために使用される画像捕捉デバイスの対応する焦点平面に関連付ける、請求項1に記載の方法。
  3. ステップe)の二次基底成分及び二次変調成分を判定することは、隣接したバンクが強め合う干渉オフセットまたは弱め合う干渉オフセットを有するかどうかを判定するために、前記画素の隣接したバンクについての前記一次色チャネルと関連付けられた前記回折された光学波面の前記強度プロファイルを使用することを含む、請求項1または2に記載の方法。
  4. ステップg)の前記奥行マップを作成することは、前記主変調成分及び前記関連する色放射伝達関数を使用して、粗い奥行マップを作成することを含む、請求項1〜のいずれか1項に記載の方法。
  5. 前記粗い奥行マップを作成することは、
    前記一次色チャネルについての相対的な奥行情報を、それに関連付けられた前記主変調成分から獲得することと、
    前記相対的な奥行情報と、前記一次色チャネルと関連付けられた前記色放射伝達関数との比較から、前記一次色チャネルについての絶対的な奥行情報を獲得することと、
    を含む、請求項に記載の方法。
  6. 前記一次色チャネルは、緑色チャネルであり、
    前記二次色チャネルは、赤色チャネル及び青色チャネルであり、
    前記関連する色放射伝達関数はそれぞれ、緑色放射伝達関数GRTF、赤色放射伝達関数RRTF、及び青色放射伝達関数BRTFを定義する、請求項1〜のいずれか1項に記載の方法。
  7. 前記色モザイクは、Bayerパターンである、請求項に記載の方法。
  8. 前記画素アレイは、前記格子間隔よりも短い、前記格子軸に沿った画素ピッチを有する請求項1〜7のいずれか1項に記載の方法。
  9. 前期画素ピッチの前記格子間隔に対する比率は実質的に2に等しい請求項8に記載の方法。
  10. 主基底成分及び主変調成分を判定することは、それぞれ、前記一次色に関連した隣接画素バンクから強度画素データを加算し及び減算することを含む請求項1〜9のいずれか1項に記載の方法。
  11. 非一時的コンピュータ可読記憶媒体に記憶され、シーンから生じ、格子軸に沿った格子間隔を有する回折格子パターンに従って回折された、回折された光学波面から前記シーンの三次元画像データを獲得するためのコンピュータ実行可能命令を有する、前記非一時的コンピュータ可読記憶媒体であって、
    前記回折された光学波面は、各々が色フィルタと関連付けられた複数の感光画素を含む画素アレイを使用して近接場領域で回折されて、画素データを獲得し、
    前記色フィルタは、一次色と関連付けられた異なる隣接した画素が前記回折された光学波面の全サイクルにわたって前記回折された光学波面の異なる空間的部分を検出するように配列された前記一次色及び1つ以上の二次色を定義した色モザイクを形成し、
    記コンピュータ実行可能命令は、前記画素データを受信したプロセッサによって実行されるとき、前記プロセッサに、
    a)前記一次色及び前記二次色に従って、前記画素データを対応する一次色チャネル及び二次色チャネルに解析することと、
    b)前記一次色チャネルと関連付けられた前記回折された光学波面の強度プロファイルの主基底成分及び主変調成分を判定することと、
    c)前記二次チャネルの各々と関連付けられた前記回折された波面の強度プロファイルの二次基底成分及び二次変調成分を判定することと、
    d)前記主基底成分及び前記二次基底成分を使用して、前記シーンの2D画像を再構築することと、
    e)前記色チャネルの関連する1つの前記変調成分から物体距離情報を提供するよう較正された少なくとも1つの色放射伝達関数を使用して、前記シーンの奥行マップを作成することと、
    を実行させる、前記非一時的コンピュータ可読記憶媒体。
  12. 各々の色放射伝達関数は、前記関連する色チャネルの前記回折された光学波面の前記強度プロファイルを、前記検出するステップのために使用される画像捕捉デバイスの対応する焦点平面に関連付ける、請求項11に記載の非一時的コンピュータ可読記憶媒体。
  13. ステップc)の二次基底成分及び前記二次変調成分を判定することは、隣接したバンクが強め合う干渉オフセットまたは弱め合う干渉オフセットを有するかどうかを判定するために、前記画素の隣接したバンクについての前記一次色チャネルと関連付けられた前記回折された光学波面の前記強度プロファイルを使用することを含む、請求項11又は12に記載の非一時的コンピュータ可読記憶媒体。
  14. ステップe)の前記奥行マップを作成することは、前記主変調成分及び前記関連する色放射伝達関数を使用して、粗い奥行マップを作成することを含む、請求項11〜13のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。
  15. 前記粗い奥行マップを作成することは、
    前記一次色チャネルについての相対的な奥行情報を、それに関連付けられた前記主変調成分から獲得することと、
    前記相対的な奥行情報と、前記一次色チャネルと関連付けられた前記色放射伝達関数との比較から、前記一次色チャネルについての絶対的な奥行情報を獲得することと、
    を含む、請求項14に記載の非一時的コンピュータ可読記憶媒体。
  16. 前記一次色チャネルは、緑色チャネルであり、
    前記二次色チャネルは、赤色チャネル及び青色チャネルであり、
    前記関連する色放射伝達関数はそれぞれ、緑色放射伝達関数GRTF、赤色放射伝達関数RRTF、及び青色放射伝達関数BRTFを定義する、請求項11〜15のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。
  17. 前記色モザイクは、Bayerパターンである、請求項16に記載の非一時的コンピュータ可読記憶媒体。
  18. 前記画素アレイは、前記格子間隔よりも短い、前記格子軸に沿った画素ピッチを有する請求項11〜17のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。
  19. 前期画素ピッチの前記格子間隔に対する比率は実質的に2に等しい請求項18に記載の方法。
  20. 主基底成分及び主変調成分を判定することは、それぞれ、前記一次色に関連した隣接画素バンクから強度画素データを加算し及び減算することを含む請求項11〜19のいずれか1項に記載の方法。
JP2020530983A 2017-12-05 2018-12-05 奥行取得のためのライトフィールド画像処理方法 Active JP7245835B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201762594718P 2017-12-05 2017-12-05
US62/594,718 2017-12-05
PCT/CA2018/051554 WO2019109182A1 (en) 2017-12-05 2018-12-05 Light field image processing method for depth acquisition

Publications (3)

Publication Number Publication Date
JP2021506168A JP2021506168A (ja) 2021-02-18
JP2021506168A5 true JP2021506168A5 (ja) 2022-01-11
JP7245835B2 JP7245835B2 (ja) 2023-03-24

Family

ID=66750041

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020530983A Active JP7245835B2 (ja) 2017-12-05 2018-12-05 奥行取得のためのライトフィールド画像処理方法

Country Status (8)

Country Link
US (1) US11438571B2 (ja)
EP (1) EP3721621A4 (ja)
JP (1) JP7245835B2 (ja)
KR (1) KR102543392B1 (ja)
CN (1) CN111670576B (ja)
CA (1) CA3084679C (ja)
TW (1) TW201925860A (ja)
WO (1) WO2019109182A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190257987A1 (en) * 2016-06-07 2019-08-22 Airy3D Inc. Light Field Imaging Device and Method for Depth Acquisition and Three-Dimensional Imaging
IL251636B (en) 2017-04-06 2018-02-28 Yoav Berlatzky A system and method for a coherent camera
CA3084679C (en) * 2017-12-05 2023-03-07 Airy3D Inc. Light field image processing method for depth acquisition
EP3522106A1 (en) * 2018-01-31 2019-08-07 InterDigital CE Patent Holdings A filter array enabling easy demosaicing
KR102513680B1 (ko) * 2018-06-08 2023-03-24 엘지이노텍 주식회사 카메라 모듈 및 그의 깊이 정보 추출 방법
US11686935B2 (en) * 2019-01-29 2023-06-27 Meta Platforms Technologies, Llc Interferometric structured illumination for depth determination
EP3981143A4 (en) 2019-06-05 2023-07-26 Airy3d Inc. LIGHT FIELD IMAGING DEVICE AND 3D DETECTION METHOD
CN110398477B (zh) * 2019-07-03 2022-06-24 香港光云科技有限公司 材质分类及识别方法
CN110928035A (zh) * 2019-12-20 2020-03-27 京东方科技集团股份有限公司 一种显示装置
US11704929B2 (en) * 2020-07-06 2023-07-18 Visera Technologies Company Limited Optical structure and method of fabricating the same
WO2022016412A1 (zh) * 2020-07-22 2022-01-27 深圳市汇顶科技股份有限公司 深度信息图像采集装置和电子设备
US11741748B2 (en) * 2020-10-14 2023-08-29 Shenzhen GOODIX Technology Co., Ltd. Passive image depth sensing for object verification based on chromatic differentiation
WO2022104467A1 (en) * 2020-11-20 2022-05-27 Airy3D Inc. Diffraction-grating-based systems and methods for stereoscopic and multiscopic imaging
US20220179147A1 (en) * 2020-12-04 2022-06-09 Facebook Technologies, Llc Patterned backlight for display panel
US11740471B2 (en) 2020-12-04 2023-08-29 Meta Platforms Technologies, Llc Display device with transparent illuminator
US20240114235A1 (en) * 2021-01-22 2024-04-04 Airy3D Inc. Power management techniques in depth imaging
KR102325647B1 (ko) 2021-08-04 2021-11-12 파이어슈라이크게임즈 주식회사 라이트맵 기반 모바일 게임의 3d 객체 데이터 처리 방법, 장치 및 시스템
US11832001B2 (en) * 2021-12-20 2023-11-28 Visera Technologies Company Limited Image processing method and image processing system
US11683604B1 (en) * 2022-02-23 2023-06-20 Omnivision Technologies, Inc. Circuit and method for image artifact reduction in high-density, highpixel-count, image sensor with phase detection autofocus
CN115166993B (zh) * 2022-05-31 2023-11-10 北京邮电大学 自适应三维光场显示方法及系统
TWI837061B (zh) * 2023-09-06 2024-03-21 國立中山大學 利用彩色條紋投影技術進行三維形貌量測的系統及方法

Family Cites Families (29)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0120397B1 (ko) 1992-04-28 1997-10-22 나카무라 히사오 화상표시장치
US5675407A (en) * 1995-03-02 1997-10-07 Zheng Jason Geng Color ranging method for high speed low-cost three dimensional surface profile measurement
KR100416548B1 (ko) * 2001-10-10 2004-02-05 삼성전자주식회사 3차원 영상 표시장치
US20060072005A1 (en) 2004-10-06 2006-04-06 Thomas-Wayne Patty J Method and apparatus for 3-D electron holographic visual and audio scene propagation in a video or cinematic arena, digitally processed, auto language tracking
US20090128911A1 (en) * 2005-09-14 2009-05-21 Moti Itzkovitch Diffraction Grating With a Spatially Varying Duty-Cycle
US7456881B2 (en) * 2006-01-12 2008-11-25 Aptina Imaging Corporation Method and apparatus for producing Bayer color mosaic interpolation for imagers
EP2016620A2 (en) 2006-04-17 2009-01-21 Omnivision Cdm Optics, Inc. Arrayed imaging systems and associated methods
FR2917845B1 (fr) 2007-06-19 2011-08-19 Christophe Brossier Procede de visualisation d'une sequence d'images produisant une sensation de relief
EP3836215A1 (en) * 2008-07-25 2021-06-16 Cornell University Light field image sensor, method and applications
US8809758B2 (en) 2008-07-25 2014-08-19 Cornell University Light field image sensor with an angle-sensitive pixel (ASP) device
US8289440B2 (en) * 2008-12-08 2012-10-16 Lytro, Inc. Light field data acquisition devices, and methods of using and manufacturing same
JP5500879B2 (ja) * 2009-06-19 2014-05-21 キヤノン株式会社 画像処理装置および画像処理方法
US20110013056A1 (en) 2009-07-17 2011-01-20 Searete Llc, A Limited Liability Corporation Of The State Of Delaware Color filters and demosaicing techniques for digital imaging
WO2012018887A2 (en) 2010-08-03 2012-02-09 Cornell University Angle sensitive pixel (asp)-based image processing system, method, and applications
EP2633277B1 (en) * 2010-10-27 2020-06-17 Cornell University Angle-sensitive pixel device
US8610813B2 (en) * 2011-05-31 2013-12-17 Omnivision Technologies, Inc. System and method for extending depth of field in a lens system by use of color-dependent wavefront coding
EP2800380B1 (en) * 2011-12-28 2018-02-28 Fujifilm Corporation Imaging device and imaging processing method
US8861850B2 (en) 2012-01-31 2014-10-14 Apple Inc. Digital image color correction
WO2013179538A1 (ja) * 2012-05-28 2013-12-05 パナソニック株式会社 奥行き推定撮像装置
JP2015037102A (ja) 2013-08-12 2015-02-23 株式会社東芝 固体撮像装置
US9515113B2 (en) 2013-08-27 2016-12-06 Rambus Inc. Optical sensing of nearby scenes with tessellated phase anti-symmetric gratings
EP3084513A1 (en) 2013-12-20 2016-10-26 Koninklijke Philips N.V. Autostereoscopic display device
JP5944578B2 (ja) 2014-02-21 2016-07-05 AvanStrate株式会社 ガラス板の製造方法、及び、ガラス板の製造装置
US9426383B1 (en) * 2014-06-20 2016-08-23 Amazon Technologies, Inc. Digital camera for capturing spectral and spatial information
JP6595161B2 (ja) 2014-07-31 2019-10-23 ソニーセミコンダクタソリューションズ株式会社 画像処理装置、画像処理方法、及び、撮像装置
EP3113478A1 (en) * 2015-06-30 2017-01-04 Thomson Licensing Plenoptic foveated camera
EP3113475B1 (en) * 2015-06-30 2018-12-19 Thomson Licensing An apparatus and a method for modifying colours of a focal stack of a scene according to a colour palette
US20190257987A1 (en) * 2016-06-07 2019-08-22 Airy3D Inc. Light Field Imaging Device and Method for Depth Acquisition and Three-Dimensional Imaging
CA3084679C (en) * 2017-12-05 2023-03-07 Airy3D Inc. Light field image processing method for depth acquisition

Similar Documents

Publication Publication Date Title
JP2021506168A5 (ja)
JP6509914B2 (ja) 深度推定のための画像センサ
JP6565371B2 (ja) 多視点画像システムの視差推定
JP5929553B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP7350343B2 (ja) 対象物の3次元画像を生成するための方法およびシステム
US9344700B2 (en) System and method for imaging with pinhole arrays
JP2016510108A5 (ja)
JP5734425B2 (ja) 多開口撮像のためのフラッシュシステム
JP5818697B2 (ja) 画像生成方法、撮像装置および表示装置、プログラム、記憶媒体
WO2014024500A1 (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
TWI577171B (zh) 用於獲得影像深度資訊之系統及方法
CN106575035B (zh) 用于光场成像的系统和方法
JP6131546B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2012239103A (ja) 画像処理装置、および画像処理方法、並びにプログラム
TW201711176A (zh) 攝像元件、影像感測器、攝像裝置、及資訊處理裝置
US20170031318A1 (en) Apparatus and Method for Performing In-Line Lens-Free Digital Holography of an Object
US20150192898A1 (en) Apparatus and method for measuring and evaluating field of view (fov) of reconstructed image of hologram
TWI569647B (zh) 用於穩健晶片內建相位檢測之影像感測器以及相關系統和方法
JP5943393B2 (ja) 撮像装置
JP2011182237A (ja) 複眼撮像装置及び該装置における画像処理方法
JP2009010847A (ja) 色成分補間装置及びその方法
US20120274799A1 (en) Calibrating image sensors
JP6291189B2 (ja) ハイパースペクトル画像の分解能を制御する方法
CN112804513A (zh) 一种光场相机及成像方法
JP2017069815A (ja) 画像処理装置および画像処理方法、撮像装置およびその制御方法