JP5459523B2 - 焦点ずれしたピルボックス画像を利用して深度推定を行うためのシステム及び方法 - Google Patents
焦点ずれしたピルボックス画像を利用して深度推定を行うためのシステム及び方法 Download PDFInfo
- Publication number
- JP5459523B2 JP5459523B2 JP2012271753A JP2012271753A JP5459523B2 JP 5459523 B2 JP5459523 B2 JP 5459523B2 JP 2012271753 A JP2012271753 A JP 2012271753A JP 2012271753 A JP2012271753 A JP 2012271753A JP 5459523 B2 JP5459523 B2 JP 5459523B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- gaussian
- procedure
- depth
- kernel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/571—Depth or shape recovery from multiple images from focus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Focusing (AREA)
Description
本出願は、2011年12月1日に出願された「様々な照明条件下における2つの焦点ずれした画像からの深度推定(Depth Estimation From Two Defocused Images Under Various Lighting Conditions)」という名称の米国仮出願特許第61/565,790号に関するとともに、この出願の優先権を主張するものである。上述した関連出願は同一出願人によるものであり、引用により本明細書に組み入れられる。
式中、m及びnは画素座標であり、M及びNはカーネル行列のそれぞれの次元である。別の1つの実施形態では、複数のガウス化段階を利用して効率を高めることができる。例えば、より小さなガウス化カーネルを利用して、より小さなセグメントのガウス化手順を実行することができる。この技術は、多くのガウス化を必要としない画像の計算速度を高めることができる。以下、図9〜図11に関連して、ガウス化手順に関するさらなる詳細事項について説明する。
Claims (19)
- 深度推定手順を実行するためのシステムであって、
被写体のピルボックスブレ画像を取り込むためのセンサ装置と、
前記ピルボックスブレ画像をガウスブレ画像に変換するガウス化手順を実行し、その後前記ガウスブレ画像を利用して前記深度推定手順を実行するための深度推定器と、
を備え、
前記深度推定器が、前記ピルボックスブレ画像が飽和閾値レベルで切り取られると判断し、その後前記ガウス化手順を実行する前に、前記ピルボックスブレ画像の総エネルギーを均等化するためのフィルボックス手順を実行することを特徴とするシステム。 - 前記深度推定器が、前記ピルボックス画像をガウス化カーネルで畳み込むことにより前記ガウス化手順を実行して、前記ガウスブレ画像を生成する、
ことを特徴とする請求項1に記載のシステム。 - 前記ガウス化カーネルが、全ての行列値が同一の値であり、これらの全ての行列値の合計が1に等しい正方行列を有する直方体関数として実装される、
ことを特徴とする請求項2に記載のシステム。 - 前記深度推定器が、まず第1の画像の第1の総輝度及び第2の画像の第2の総輝度を計算し、前記第1の総輝度と前記第2の総輝度の間の輝度差を求めることによって前記フィルボックス手順を実行する、
ことを特徴とする請求項1に記載のシステム。 - 前記深度推定器が、前記ピルボックスブレ画像のうちの総輝度が低い方の画像に前記輝度差を加えて、前記第1の画像と前記第2の画像の前記総エネルギーが均等化されるようにすることにより、前記フィルボックス手順を完了する、
ことを特徴とする請求項5に記載のシステム。 - 前記センサ装置及び前記深度推定器が、前記深度推定手順からの1又はそれ以上の深度値を利用して自動焦点手順を実行する電子カメラ装置に実装される、
ことを特徴とする請求項1に記載のシステム。 - 前記センサ装置が、第1の焦点ずれしたレンズ位置を利用することによって被写体に対応する画像1を取り込み、その後前記第1の焦点ずれしたレンズ位置とは異なる第2の焦点ずれしたレンズ位置に調整され、該第2の焦点ずれしたレンズ位置を利用することによって前記被写体に対応する画像2を取り込み、前記第2の焦点ずれしたレンズ位置の方が、前記第1の焦点ずれしたレンズ位置よりも焦点が合っていない、
ことを特徴とする請求項7に記載のシステム。 - 前記深度推定器が、カーネルK及びガウス化カーネルを選択する、
ことを特徴とする請求項8に記載のシステム。 - 前記カーネルKが、分散の少ない3×3のガウス行列として実装される、
ことを特徴とする請求項9に記載のシステム。 - 前記ガウス化カーネルが、全ての行列値が同一の値であり、これらの全ての行列値の合計が1に等しい正方行列を有する直方体関数として実装される、
ことを特徴とする請求項9に記載のシステム。 - 前記深度推定器が、第1の畳み込み手順において前記画像1を前記カーネルKで畳み込んで現在の畳み込み画像1を作成する、
ことを特徴とする請求項9に記載のシステム。 - 前記深度推定器が、第1のブレ画像照合手順において前記現在の畳み込み画像1を前記画像2と比較し、第1の照合結果に達するまで前記畳み込み手順のさらなる反復を行う、ことを特徴とする請求項12に記載のシステム。
- 前記深度推定器が、ガウス化カーネルを利用して、前記第1の現在の畳み込み画像1及び前記画像2に前記ガウス化手順を実行し、ガウス画像1及びガウス画像2を作成する、ことを特徴とする請求項13に記載のシステム。
- 前記深度推定器が、前記第2の畳み込み手順において前記ガウス画像1を前記カーネルKで畳み込んで現在の畳み込みガウス画像1を作成する、
ことを特徴とする請求項14に記載のシステム。 - 前記深度推定器が、第2のブレ画像照合手順において前記現在の畳み込みガウス画像1を前記ガウス画像2と比較し、第2の照合結果に達するまで前記第2の畳み込み手順のさらなる反復を行い、前記さらなる反復に基づいて合計反復数を生成する、
ことを特徴とする請求項15に記載のシステム。 - 前記深度推定器が、前記合計反復数を利用して前記深度推定手順のための照合曲線を生成し、該照合曲線を利用して、前記被写体に対応する深度値を生成する、
ことを特徴とする請求項16に記載のシステム。 - 前記深度推定器が、サイズを縮めたガウス化カーネルを使用して前記ピルボックスブレ画像のセグメントを処理する複数段階のガウス化手順を実行する、
ことを特徴とする請求項17に記載のシステム。 - 深度推定手順を実行するための方法であって、
被写体のピルボックスブレ画像を取り込むためのセンサ装置を提供するステップと、
深度推定器を利用して、前記ピルボックスブレ画像をガウスブレ画像に変換するガウス化手順を実行し、その後前記深度推定器が、前記ガウスブレ画像を利用して前記深度推定手順を実行するステップと、
を実行することにより行われ、
前記深度推定器が、前記ピルボックスブレ画像が飽和閾値レベルで切り取られると判断し、その後前記ガウス化手順を実行する前に、前記ピルボックスブレ画像の総エネルギーを均等化するためのフィルボックス手順を実行することを特徴とする方法。
Applications Claiming Priority (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201161565790P | 2011-12-01 | 2011-12-01 | |
US61/565,790 | 2011-12-01 | ||
US13/426,828 US8929607B2 (en) | 2011-12-01 | 2012-03-22 | System and method for performing depth estimation utilizing defocused pillbox images |
US13/426,828 | 2012-03-22 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2013117967A JP2013117967A (ja) | 2013-06-13 |
JP5459523B2 true JP5459523B2 (ja) | 2014-04-02 |
Family
ID=47602841
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012271753A Active JP5459523B2 (ja) | 2011-12-01 | 2012-11-26 | 焦点ずれしたピルボックス画像を利用して深度推定を行うためのシステム及び方法 |
Country Status (7)
Country | Link |
---|---|
US (1) | US8929607B2 (ja) |
EP (1) | EP2600310B1 (ja) |
JP (1) | JP5459523B2 (ja) |
KR (1) | KR101437234B1 (ja) |
CN (1) | CN103136745B (ja) |
CA (1) | CA2796543C (ja) |
TW (1) | TWI557688B (ja) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9066002B2 (en) | 2012-08-29 | 2015-06-23 | Sony Corporation | System and method for utilizing enhanced scene detection in a depth estimation procedure |
AU2013273843A1 (en) * | 2013-12-23 | 2015-07-09 | Canon Kabushiki Kaisha | Motion blur compensation for depth from defocus |
US9530214B2 (en) | 2014-12-04 | 2016-12-27 | Sony Corporation | Image processing system with depth map determination based on iteration count of blur difference and method of operation thereof |
WO2016154392A1 (en) * | 2015-03-24 | 2016-09-29 | University Of Florida Research Foundation, Inc. | Optical privatizing device, system and method of use |
US11024047B2 (en) * | 2015-09-18 | 2021-06-01 | The Regents Of The University Of California | Cameras and depth estimation of images acquired in a distorting medium |
FR3085656B1 (fr) * | 2018-09-11 | 2023-04-28 | Renault Sas | Procede de detection de route pour un vehicule automobile muni d'un capteur lidar |
CN111166322A (zh) * | 2020-01-17 | 2020-05-19 | 哈尔滨工业大学 | 心电信号特征波提取方法 |
CN113189634B (zh) * | 2021-03-02 | 2022-10-25 | 四川新先达测控技术有限公司 | 一种类高斯成形方法 |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO1996041304A1 (en) * | 1995-06-07 | 1996-12-19 | The Trustees Of Columbia University In The City Of New York | Apparatus and methods for determining the three-dimensional shape of an object using active illumination and relative blurring in two images due to defocus |
JP2001159159A (ja) | 1999-12-01 | 2001-06-12 | Hitachi Ltd | 水位制御方法および水供給システム |
WO2002093188A2 (en) * | 2001-05-17 | 2002-11-21 | Siemens Corporate Research, Inc. | A variational approach for the segmentation of the left ventricle in mr cardiac images |
US20070019883A1 (en) * | 2005-07-19 | 2007-01-25 | Wong Earl Q | Method for creating a depth map for auto focus using an all-in-focus picture and two-dimensional scale space matching |
US7929801B2 (en) * | 2005-08-15 | 2011-04-19 | Sony Corporation | Depth information for auto focus using two pictures and two-dimensional Gaussian scale space theory |
WO2007095477A2 (en) * | 2006-02-14 | 2007-08-23 | Fotonation Vision Limited | Image blurring |
US7616254B2 (en) * | 2006-03-16 | 2009-11-10 | Sony Corporation | Simple method for calculating camera defocus from an image scene |
US7711201B2 (en) * | 2006-06-22 | 2010-05-04 | Sony Corporation | Method of and apparatus for generating a depth map utilized in autofocusing |
WO2008105268A1 (ja) | 2007-02-28 | 2008-09-04 | Nikon Corporation | 画像処理方法 |
US8280194B2 (en) * | 2008-04-29 | 2012-10-02 | Sony Corporation | Reduced hardware implementation for a two-picture depth map algorithm |
JP4524717B2 (ja) * | 2008-06-13 | 2010-08-18 | 富士フイルム株式会社 | 画像処理装置、撮像装置、画像処理方法及びプログラム |
US8194995B2 (en) * | 2008-09-30 | 2012-06-05 | Sony Corporation | Fast camera auto-focus |
US8199248B2 (en) | 2009-01-30 | 2012-06-12 | Sony Corporation | Two-dimensional polynomial model for depth estimation based on two-picture matching |
US8229172B2 (en) | 2009-12-16 | 2012-07-24 | Sony Corporation | Algorithms for estimating precise and relative object distances in a scene |
JP5468404B2 (ja) * | 2010-02-02 | 2014-04-09 | パナソニック株式会社 | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
JP5237978B2 (ja) * | 2010-02-12 | 2013-07-17 | パナソニック株式会社 | 撮像装置および撮像方法、ならびに前記撮像装置のための画像処理方法 |
US8045046B1 (en) * | 2010-04-13 | 2011-10-25 | Sony Corporation | Four-dimensional polynomial model for depth estimation based on two-picture matching |
JP2012003233A (ja) * | 2010-05-17 | 2012-01-05 | Sony Corp | 画像処理装置、画像処理方法およびプログラム |
-
2012
- 2012-03-22 US US13/426,828 patent/US8929607B2/en active Active
- 2012-11-22 CN CN201210479581.2A patent/CN103136745B/zh active Active
- 2012-11-26 TW TW101144220A patent/TWI557688B/zh active
- 2012-11-26 CA CA2796543A patent/CA2796543C/en active Active
- 2012-11-26 JP JP2012271753A patent/JP5459523B2/ja active Active
- 2012-11-28 KR KR1020120136072A patent/KR101437234B1/ko active IP Right Grant
- 2012-11-30 EP EP12195072.9A patent/EP2600310B1/en active Active
Also Published As
Publication number | Publication date |
---|---|
EP2600310A3 (en) | 2017-01-25 |
EP2600310B1 (en) | 2018-07-04 |
US8929607B2 (en) | 2015-01-06 |
TW201337838A (zh) | 2013-09-16 |
EP2600310A2 (en) | 2013-06-05 |
US20130142394A1 (en) | 2013-06-06 |
CA2796543C (en) | 2015-06-23 |
CN103136745A (zh) | 2013-06-05 |
KR20130061635A (ko) | 2013-06-11 |
CN103136745B (zh) | 2016-05-18 |
TWI557688B (zh) | 2016-11-11 |
KR101437234B1 (ko) | 2014-09-02 |
CA2796543A1 (en) | 2013-06-01 |
JP2013117967A (ja) | 2013-06-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5459523B2 (ja) | 焦点ずれしたピルボックス画像を利用して深度推定を行うためのシステム及び方法 | |
JP5454821B2 (ja) | 多重解像度手順を利用してロバストな深度マップを生成するためのシステム及び方法 | |
US9066002B2 (en) | System and method for utilizing enhanced scene detection in a depth estimation procedure | |
KR101429371B1 (ko) | 장면 내에서의 정확한 피사체 거리 및 상대적인 피사체 거리를 추정하는 알고리즘 | |
JP5988068B2 (ja) | 適応的カーネルを利用することにより深度推定を実行するためのシステム及び方法 | |
JP6711396B2 (ja) | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム | |
US20170187938A1 (en) | Image pickup apparatus, image processing apparatus, image processing method, and non-transitory computer-readable storage medium for improving quality of captured image | |
JP6319972B2 (ja) | 画像処理装置、撮像装置、画像処理方法、およびプログラム | |
TWI543615B (zh) | 影像處理方法及其電子裝置 | |
WO2016160093A1 (en) | Depth estimation from image defocus using multiple resolution gaussian difference | |
US9262833B2 (en) | Methodology for performing depth estimation with defocused images under extreme lighting conditions | |
US9020280B2 (en) | System and method for evaluating focus direction under various lighting conditions |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130910 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20131002 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131202 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131231 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5459523 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |