JP2021506168A5 - - Google Patents
Download PDFInfo
- Publication number
- JP2021506168A5 JP2021506168A5 JP2020530983A JP2020530983A JP2021506168A5 JP 2021506168 A5 JP2021506168 A5 JP 2021506168A5 JP 2020530983 A JP2020530983 A JP 2020530983A JP 2020530983 A JP2020530983 A JP 2020530983A JP 2021506168 A5 JP2021506168 A5 JP 2021506168A5
- Authority
- JP
- Japan
- Prior art keywords
- color
- transfer function
- primary color
- channel
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Claims (20)
- シーンの三次元画像データを捕捉する方法であって、
a)回折された光学波面を生成するよう、格子軸に沿った格子間隔を有する回折格子パターンに従って前記シーンから生じる光学波面を回折することと、
b)各々が色フィルタと関連付けられた複数の感光画素を含む画素アレイを使用して、近接場領域内で前記回折された光学波面を検出し、画素データを獲得することであって、前記色フィルタは、一次色と関連付けられた異なる隣接した画素が前記回折された光学波面の全サイクルにわたって前記回折された光学波面の異なる空間的部分を検出するように配列された前記一次色及び1つ以上の二次色を定義した色モザイクを形成して前記検出をすることと、
c)前記一次色及び前記二次色に従って、前記画素データを対応する一次色チャネル及び二次色チャネルに解析することと、
d)前記一次色チャネルと関連付けられた前記回折された光学波面の強度プロファイルの主基底成分及び主変調成分を判定することと、
e)前記二次チャネルの各々と関連付けられた前記回折された光学波面の強度プロファイルの二次基底成分及び二次変調成分を判定することと、
f)前記主基底成分及び前記二次基底成分を使用して、前記シーンの2D画像を再構築することと、
g)前記色チャネルの関連する1つの前記変調成分から物体距離情報を提供するよう較正された少なくとも1つの色放射伝達関数を使用して、前記シーンの奥行マップを作成することと、
を備える、前記方法。 - 各々の色放射伝達関数は、前記関連する色チャネルの前記回折された光学波面の前記強度プロファイルを、前記検出するステップのために使用される画像捕捉デバイスの対応する焦点平面に関連付ける、請求項1に記載の方法。
- ステップe)の二次基底成分及び二次変調成分を判定することは、隣接したバンクが強め合う干渉オフセットまたは弱め合う干渉オフセットを有するかどうかを判定するために、前記画素の隣接したバンクについての前記一次色チャネルと関連付けられた前記回折された光学波面の前記強度プロファイルを使用することを含む、請求項1または2に記載の方法。
- ステップg)の前記奥行マップを作成することは、前記主変調成分及び前記関連する色放射伝達関数を使用して、粗い奥行マップを作成することを含む、請求項1〜3のいずれか1項に記載の方法。
- 前記粗い奥行マップを作成することは、
前記一次色チャネルについての相対的な奥行情報を、それに関連付けられた前記主変調成分から獲得することと、
前記相対的な奥行情報と、前記一次色チャネルと関連付けられた前記色放射伝達関数との比較から、前記一次色チャネルについての絶対的な奥行情報を獲得することと、
を含む、請求項4に記載の方法。 - 前記一次色チャネルは、緑色チャネルであり、
前記二次色チャネルは、赤色チャネル及び青色チャネルであり、
前記関連する色放射伝達関数はそれぞれ、緑色放射伝達関数(GRTF)、赤色放射伝達関数(RRTF)、及び青色放射伝達関数(BRTF)を定義する、請求項1〜5のいずれか1項に記載の方法。 - 前記色モザイクは、Bayerパターンである、請求項6に記載の方法。
- 前記画素アレイは、前記格子間隔よりも短い、前記格子軸に沿った画素ピッチを有する請求項1〜7のいずれか1項に記載の方法。
- 前期画素ピッチの前記格子間隔に対する比率は実質的に2に等しい請求項8に記載の方法。
- 主基底成分及び主変調成分を判定することは、それぞれ、前記一次色に関連した隣接画素バンクから強度画素データを加算し及び減算することを含む請求項1〜9のいずれか1項に記載の方法。
- 非一時的コンピュータ可読記憶媒体に記憶され、シーンから生じ、格子軸に沿った格子間隔を有する回折格子パターンに従って回折された、回折された光学波面から前記シーンの三次元画像データを獲得するためのコンピュータ実行可能命令を有する、前記非一時的コンピュータ可読記憶媒体であって、
前記回折された光学波面は、各々が色フィルタと関連付けられた複数の感光画素を含む画素アレイを使用して近接場領域で回折されて、画素データを獲得し、
前記色フィルタは、一次色と関連付けられた異なる隣接した画素が前記回折された光学波面の全サイクルにわたって前記回折された光学波面の異なる空間的部分を検出するように配列された前記一次色及び1つ以上の二次色を定義した色モザイクを形成し、
前記コンピュータ実行可能命令は、前記画素データを受信したプロセッサによって実行されるとき、前記プロセッサに、
a)前記一次色及び前記二次色に従って、前記画素データを対応する一次色チャネル及び二次色チャネルに解析することと、
b)前記一次色チャネルと関連付けられた前記回折された光学波面の強度プロファイルの主基底成分及び主変調成分を判定することと、
c)前記二次チャネルの各々と関連付けられた前記回折された波面の強度プロファイルの二次基底成分及び二次変調成分を判定することと、
d)前記主基底成分及び前記二次基底成分を使用して、前記シーンの2D画像を再構築することと、
e)前記色チャネルの関連する1つの前記変調成分から物体距離情報を提供するよう較正された少なくとも1つの色放射伝達関数を使用して、前記シーンの奥行マップを作成することと、
を実行させる、前記非一時的コンピュータ可読記憶媒体。 - 各々の色放射伝達関数は、前記関連する色チャネルの前記回折された光学波面の前記強度プロファイルを、前記検出するステップのために使用される画像捕捉デバイスの対応する焦点平面に関連付ける、請求項11に記載の非一時的コンピュータ可読記憶媒体。
- ステップc)の二次基底成分及び前記二次変調成分を判定することは、隣接したバンクが強め合う干渉オフセットまたは弱め合う干渉オフセットを有するかどうかを判定するために、前記画素の隣接したバンクについての前記一次色チャネルと関連付けられた前記回折された光学波面の前記強度プロファイルを使用することを含む、請求項11又は12に記載の非一時的コンピュータ可読記憶媒体。
- ステップe)の前記奥行マップを作成することは、前記主変調成分及び前記関連する色放射伝達関数を使用して、粗い奥行マップを作成することを含む、請求項11〜13のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。
- 前記粗い奥行マップを作成することは、
前記一次色チャネルについての相対的な奥行情報を、それに関連付けられた前記主変調成分から獲得することと、
前記相対的な奥行情報と、前記一次色チャネルと関連付けられた前記色放射伝達関数との比較から、前記一次色チャネルについての絶対的な奥行情報を獲得することと、
を含む、請求項14に記載の非一時的コンピュータ可読記憶媒体。 - 前記一次色チャネルは、緑色チャネルであり、
前記二次色チャネルは、赤色チャネル及び青色チャネルであり、
前記関連する色放射伝達関数はそれぞれ、緑色放射伝達関数(GRTF)、赤色放射伝達関数(RRTF)、及び青色放射伝達関数(BRTF)を定義する、請求項11〜15のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。 - 前記色モザイクは、Bayerパターンである、請求項16に記載の非一時的コンピュータ可読記憶媒体。
- 前記画素アレイは、前記格子間隔よりも短い、前記格子軸に沿った画素ピッチを有する請求項11〜17のいずれか1項に記載の非一時的コンピュータ可読記憶媒体。
- 前期画素ピッチの前記格子間隔に対する比率は実質的に2に等しい請求項18に記載の方法。
- 主基底成分及び主変調成分を判定することは、それぞれ、前記一次色に関連した隣接画素バンクから強度画素データを加算し及び減算することを含む請求項11〜19のいずれか1項に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762594718P | 2017-12-05 | 2017-12-05 | |
US62/594,718 | 2017-12-05 | ||
PCT/CA2018/051554 WO2019109182A1 (en) | 2017-12-05 | 2018-12-05 | Light field image processing method for depth acquisition |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2021506168A JP2021506168A (ja) | 2021-02-18 |
JP2021506168A5 true JP2021506168A5 (ja) | 2022-01-11 |
JP7245835B2 JP7245835B2 (ja) | 2023-03-24 |
Family
ID=66750041
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020530983A Active JP7245835B2 (ja) | 2017-12-05 | 2018-12-05 | 奥行取得のためのライトフィールド画像処理方法 |
Country Status (8)
Country | Link |
---|---|
US (1) | US11438571B2 (ja) |
EP (1) | EP3721621A4 (ja) |
JP (1) | JP7245835B2 (ja) |
KR (1) | KR102543392B1 (ja) |
CN (1) | CN111670576B (ja) |
CA (1) | CA3084679C (ja) |
TW (1) | TW201925860A (ja) |
WO (1) | WO2019109182A1 (ja) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190257987A1 (en) * | 2016-06-07 | 2019-08-22 | Airy3D Inc. | Light Field Imaging Device and Method for Depth Acquisition and Three-Dimensional Imaging |
IL251636B (en) | 2017-04-06 | 2018-02-28 | Yoav Berlatzky | A system and method for a coherent camera |
CA3084679C (en) * | 2017-12-05 | 2023-03-07 | Airy3D Inc. | Light field image processing method for depth acquisition |
EP3522106A1 (en) * | 2018-01-31 | 2019-08-07 | InterDigital CE Patent Holdings | A filter array enabling easy demosaicing |
KR102513680B1 (ko) * | 2018-06-08 | 2023-03-24 | 엘지이노텍 주식회사 | 카메라 모듈 및 그의 깊이 정보 추출 방법 |
US11686935B2 (en) * | 2019-01-29 | 2023-06-27 | Meta Platforms Technologies, Llc | Interferometric structured illumination for depth determination |
EP3981143A4 (en) | 2019-06-05 | 2023-07-26 | Airy3d Inc. | LIGHT FIELD IMAGING DEVICE AND 3D DETECTION METHOD |
CN110398477B (zh) * | 2019-07-03 | 2022-06-24 | 香港光云科技有限公司 | 材质分类及识别方法 |
CN110928035A (zh) * | 2019-12-20 | 2020-03-27 | 京东方科技集团股份有限公司 | 一种显示装置 |
US11704929B2 (en) * | 2020-07-06 | 2023-07-18 | Visera Technologies Company Limited | Optical structure and method of fabricating the same |
WO2022016412A1 (zh) * | 2020-07-22 | 2022-01-27 | 深圳市汇顶科技股份有限公司 | 深度信息图像采集装置和电子设备 |
US11741748B2 (en) * | 2020-10-14 | 2023-08-29 | Shenzhen GOODIX Technology Co., Ltd. | Passive image depth sensing for object verification based on chromatic differentiation |
WO2022104467A1 (en) * | 2020-11-20 | 2022-05-27 | Airy3D Inc. | Diffraction-grating-based systems and methods for stereoscopic and multiscopic imaging |
US20220179147A1 (en) * | 2020-12-04 | 2022-06-09 | Facebook Technologies, Llc | Patterned backlight for display panel |
US11740471B2 (en) | 2020-12-04 | 2023-08-29 | Meta Platforms Technologies, Llc | Display device with transparent illuminator |
US20240114235A1 (en) * | 2021-01-22 | 2024-04-04 | Airy3D Inc. | Power management techniques in depth imaging |
KR102325647B1 (ko) | 2021-08-04 | 2021-11-12 | 파이어슈라이크게임즈 주식회사 | 라이트맵 기반 모바일 게임의 3d 객체 데이터 처리 방법, 장치 및 시스템 |
US11832001B2 (en) * | 2021-12-20 | 2023-11-28 | Visera Technologies Company Limited | Image processing method and image processing system |
US11683604B1 (en) * | 2022-02-23 | 2023-06-20 | Omnivision Technologies, Inc. | Circuit and method for image artifact reduction in high-density, highpixel-count, image sensor with phase detection autofocus |
CN115166993B (zh) * | 2022-05-31 | 2023-11-10 | 北京邮电大学 | 自适应三维光场显示方法及系统 |
TWI837061B (zh) * | 2023-09-06 | 2024-03-21 | 國立中山大學 | 利用彩色條紋投影技術進行三維形貌量測的系統及方法 |
Family Cites Families (29)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR0120397B1 (ko) | 1992-04-28 | 1997-10-22 | 나카무라 히사오 | 화상표시장치 |
US5675407A (en) * | 1995-03-02 | 1997-10-07 | Zheng Jason Geng | Color ranging method for high speed low-cost three dimensional surface profile measurement |
KR100416548B1 (ko) * | 2001-10-10 | 2004-02-05 | 삼성전자주식회사 | 3차원 영상 표시장치 |
US20060072005A1 (en) | 2004-10-06 | 2006-04-06 | Thomas-Wayne Patty J | Method and apparatus for 3-D electron holographic visual and audio scene propagation in a video or cinematic arena, digitally processed, auto language tracking |
US20090128911A1 (en) * | 2005-09-14 | 2009-05-21 | Moti Itzkovitch | Diffraction Grating With a Spatially Varying Duty-Cycle |
US7456881B2 (en) * | 2006-01-12 | 2008-11-25 | Aptina Imaging Corporation | Method and apparatus for producing Bayer color mosaic interpolation for imagers |
EP2016620A2 (en) | 2006-04-17 | 2009-01-21 | Omnivision Cdm Optics, Inc. | Arrayed imaging systems and associated methods |
FR2917845B1 (fr) | 2007-06-19 | 2011-08-19 | Christophe Brossier | Procede de visualisation d'une sequence d'images produisant une sensation de relief |
EP3836215A1 (en) * | 2008-07-25 | 2021-06-16 | Cornell University | Light field image sensor, method and applications |
US8809758B2 (en) | 2008-07-25 | 2014-08-19 | Cornell University | Light field image sensor with an angle-sensitive pixel (ASP) device |
US8289440B2 (en) * | 2008-12-08 | 2012-10-16 | Lytro, Inc. | Light field data acquisition devices, and methods of using and manufacturing same |
JP5500879B2 (ja) * | 2009-06-19 | 2014-05-21 | キヤノン株式会社 | 画像処理装置および画像処理方法 |
US20110013056A1 (en) | 2009-07-17 | 2011-01-20 | Searete Llc, A Limited Liability Corporation Of The State Of Delaware | Color filters and demosaicing techniques for digital imaging |
WO2012018887A2 (en) | 2010-08-03 | 2012-02-09 | Cornell University | Angle sensitive pixel (asp)-based image processing system, method, and applications |
EP2633277B1 (en) * | 2010-10-27 | 2020-06-17 | Cornell University | Angle-sensitive pixel device |
US8610813B2 (en) * | 2011-05-31 | 2013-12-17 | Omnivision Technologies, Inc. | System and method for extending depth of field in a lens system by use of color-dependent wavefront coding |
EP2800380B1 (en) * | 2011-12-28 | 2018-02-28 | Fujifilm Corporation | Imaging device and imaging processing method |
US8861850B2 (en) | 2012-01-31 | 2014-10-14 | Apple Inc. | Digital image color correction |
WO2013179538A1 (ja) * | 2012-05-28 | 2013-12-05 | パナソニック株式会社 | 奥行き推定撮像装置 |
JP2015037102A (ja) | 2013-08-12 | 2015-02-23 | 株式会社東芝 | 固体撮像装置 |
US9515113B2 (en) | 2013-08-27 | 2016-12-06 | Rambus Inc. | Optical sensing of nearby scenes with tessellated phase anti-symmetric gratings |
EP3084513A1 (en) | 2013-12-20 | 2016-10-26 | Koninklijke Philips N.V. | Autostereoscopic display device |
JP5944578B2 (ja) | 2014-02-21 | 2016-07-05 | AvanStrate株式会社 | ガラス板の製造方法、及び、ガラス板の製造装置 |
US9426383B1 (en) * | 2014-06-20 | 2016-08-23 | Amazon Technologies, Inc. | Digital camera for capturing spectral and spatial information |
JP6595161B2 (ja) | 2014-07-31 | 2019-10-23 | ソニーセミコンダクタソリューションズ株式会社 | 画像処理装置、画像処理方法、及び、撮像装置 |
EP3113478A1 (en) * | 2015-06-30 | 2017-01-04 | Thomson Licensing | Plenoptic foveated camera |
EP3113475B1 (en) * | 2015-06-30 | 2018-12-19 | Thomson Licensing | An apparatus and a method for modifying colours of a focal stack of a scene according to a colour palette |
US20190257987A1 (en) * | 2016-06-07 | 2019-08-22 | Airy3D Inc. | Light Field Imaging Device and Method for Depth Acquisition and Three-Dimensional Imaging |
CA3084679C (en) * | 2017-12-05 | 2023-03-07 | Airy3D Inc. | Light field image processing method for depth acquisition |
-
2018
- 2018-12-05 CA CA3084679A patent/CA3084679C/en active Active
- 2018-12-05 US US16/770,317 patent/US11438571B2/en active Active
- 2018-12-05 EP EP18885903.7A patent/EP3721621A4/en active Pending
- 2018-12-05 CN CN201880087607.4A patent/CN111670576B/zh active Active
- 2018-12-05 KR KR1020207019134A patent/KR102543392B1/ko active IP Right Grant
- 2018-12-05 WO PCT/CA2018/051554 patent/WO2019109182A1/en unknown
- 2018-12-05 TW TW107143722A patent/TW201925860A/zh unknown
- 2018-12-05 JP JP2020530983A patent/JP7245835B2/ja active Active
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2021506168A5 (ja) | ||
JP6509914B2 (ja) | 深度推定のための画像センサ | |
JP6565371B2 (ja) | 多視点画像システムの視差推定 | |
JP5929553B2 (ja) | 画像処理装置、撮像装置、画像処理方法およびプログラム | |
JP7350343B2 (ja) | 対象物の3次元画像を生成するための方法およびシステム | |
US9344700B2 (en) | System and method for imaging with pinhole arrays | |
JP2016510108A5 (ja) | ||
JP5734425B2 (ja) | 多開口撮像のためのフラッシュシステム | |
JP5818697B2 (ja) | 画像生成方法、撮像装置および表示装置、プログラム、記憶媒体 | |
WO2014024500A1 (ja) | 画像処理方法、画像処理装置、撮像装置および画像処理プログラム | |
TWI577171B (zh) | 用於獲得影像深度資訊之系統及方法 | |
CN106575035B (zh) | 用于光场成像的系统和方法 | |
JP6131546B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2012239103A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
TW201711176A (zh) | 攝像元件、影像感測器、攝像裝置、及資訊處理裝置 | |
US20170031318A1 (en) | Apparatus and Method for Performing In-Line Lens-Free Digital Holography of an Object | |
US20150192898A1 (en) | Apparatus and method for measuring and evaluating field of view (fov) of reconstructed image of hologram | |
TWI569647B (zh) | 用於穩健晶片內建相位檢測之影像感測器以及相關系統和方法 | |
JP5943393B2 (ja) | 撮像装置 | |
JP2011182237A (ja) | 複眼撮像装置及び該装置における画像処理方法 | |
JP2009010847A (ja) | 色成分補間装置及びその方法 | |
US20120274799A1 (en) | Calibrating image sensors | |
JP6291189B2 (ja) | ハイパースペクトル画像の分解能を制御する方法 | |
CN112804513A (zh) | 一种光场相机及成像方法 | |
JP2017069815A (ja) | 画像処理装置および画像処理方法、撮像装置およびその制御方法 |