JP5224124B2 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP5224124B2 JP5224124B2 JP2008316466A JP2008316466A JP5224124B2 JP 5224124 B2 JP5224124 B2 JP 5224124B2 JP 2008316466 A JP2008316466 A JP 2008316466A JP 2008316466 A JP2008316466 A JP 2008316466A JP 5224124 B2 JP5224124 B2 JP 5224124B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- data
- light
- processing unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Stereoscopic And Panoramic Photography (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Studio Devices (AREA)
Description
(1)実施の形態:複数の開口部を有する開口絞りを用いて得られた撮像データに基づいて補間画像データを生成する例
(2)変形例1:受光面に遮光部を有する撮像素子を用いて得られた撮像データに基づいて補間画像データを生成する例
(3)変形例2:(1)または(2)で得られた撮像データに基づいて、3次元表示(多眼ステレオ方式)用の画像データを生成する例
(4)変形例3:(1)または(2)で得られた撮像データに基づいて、3次元表示(2眼ステレオ方式)用の画像データを生成する例
(5)変形例4:(1)または(2)で得られた撮像データに基づいて、ステレオマッチング(左右視差)によるdepth mapを生成する例
(6)変形例5:(1)または(2)で得られた撮像データに基づいて、ステレオマッチング(上下視差)によるdepth mapを生成する例
図1は、本発明の一実施の形態に係る撮像装置(撮像装置1)の全体構成を表すものである。撮像装置1は、被写体2を撮像して画像処理を施すことにより画像データDoutを出力するものであり、開口絞り10と、撮像レンズ11と、マイクロレンズアレイ12と、撮像素子13と、画像処理部14と、撮像素子駆動部15と、制御部16とから構成されている。この撮像装置1では、光線の進行方向の情報を含むようにして取得した撮像データから任意の視野や焦点での再構築画像を生成できるようになっている。
図9は、変形例1に係る撮像素子の概略構成を表す断面図である。この撮像素子は、その光入射側(受光面側)に、遮光部31が形成されており、遮光部31の下層には、p−Si(ポリシリコン)層32、垂直レジスタ33、光センサ34などが設けられている。また、遮光部31は、光センサ34に対向する領域に方形の開口部31Aを有している。なお、遮光部31の上部には、図示しないカラーフィルタなどが配置される。また、この撮像素子以外の構成については、上記実施の形態の撮像装置1と同様である。このような構成により、撮像素子に入射する光線は光束が絞られて受光されるようになっている。
図13(A)は、上記実施の形態において取得された撮像データD0を模式的に示したものである。但し、ここでは、説明のため、各画像領域U1に対応する3×3=9つの画素に、1〜9の番号を付している。本変形例では、上記実施の形態と同様にして取得した撮像データD0を用いて、所定の画像処理を行うことにより、多眼ステレオ方式を用いた3次元表示用の画像データ(画像データD3)を生成する。具体的には、図13(B)に示したように、撮像データD0に対して、各画像領域U1ごとに反転処理を施す。これにより、画像データD3を生成することができる。なお、反転処理を施すのは、撮像対象(被写体)に対する入力(撮像)と出力(表示)との位置関係が反転しているためである。
図14(A)は、変形例3に係る開口絞り20の平面構成を表すものである。図14(B)は、開口絞り20を用いて取得した撮像データ(撮像データD4)の平面構成を模式的に表すものである。本変形例では、撮像データD4に基づいて、2眼ステレオ方式を用いた3次元表示用の画像を生成する。開口絞り20は、撮像レンズ11の光学的な開口絞りであり、例えば、上下左右の4箇所にそれぞれ開口部20Aが設けられたものである。この開口絞り20以外の構成は、上記実施の形態と同様となっている。
図15(A),(B)は、変形例4に係るDepth Mapの生成手法について説明するための模式図である。本変形例では、撮像データD4に基づいて、ステレオマッチング処理(相関演算による位相差検出処理)を行うことにより、左右視差におけるDepth Mapを生成する。具体的には、まず、上記変形例3と同様にして、図15(A)に示した左視点画像D4Lと右視点画像D4Rとをそれぞれ生成する。続いて、図15(B)に示したように、ステレオマッチング処理を行い、これらの左視点画像D4L(位相φL)および右視点画像D4R(位相φR)同士の間の位相差Δφ1を算出する。この位相差Δφ1の算出結果に基づいて、左右視差におけるDepth Mapを生成する。このとき、上記変形例3と同様、左視点画像D4L,右視点画像D4Rにおける被写界深度が深くなるため、ステレオマッチングの精度が向上する。なお、本変形例においても、上記変形例1のような受光面に遮光部を有する撮像素子により取得された撮像データを用いてもよい。この場合であっても、本変形例と同等の効果を得ることができる。また、3つ以上の視差画像を用いてそれぞれの間の位相差を検出してDepth Mapを生成するようにしてもよい。
図16(A),(B)は、変形例5に係るDepth Mapの生成手法について説明するための模式図である。本変形例では、撮像データD4に基づいて、ステレオマッチング処理(相関演算による位相差検出処理)を行うことにより、上下視差におけるDepth Mapを生成する。具体的には、まず、上記変形例3における撮像データD4(図14(B))のうちの「2」のみを合成した画像(上視点画像D4U)と、「8」のみを合成した画像(下視点画像D4D)とをそれぞれ生成する(図16(A))。続いて、図16(B)に示したように、ステレオマッチング処理を行い、これらの上視点画像D4U(位相φU)および下視点画像D4D(位相φD)同士の間の位相差Δφ2を算出する。この位相差Δφ2の算出結果に基づいて、上下視差におけるDepth Mapを生成する。このとき、上記変形例3と同様、上視点画像D4Uおよび下視点画像D4Dにおいても被写界深度が深くなるため、ステレオマッチングの精度が向上する。なお、本変形例においても、上記変形例1のような受光面に遮光部を有する撮像素子により取得された撮像データを用いてもよい。この場合であっても、本変形例と同等の効果を得ることができる。また、3つ以上の視差画像を用いてそれぞれの間の位相差を検出してDepth Mapを生成するようにしてもよい。
Claims (11)
- 開口絞りを有する撮像レンズと、
光線の進行方向を保持して受光すると共に、その受光した光に基づいて複数の撮像画素データを含む撮像データを生成する撮像素子と、
前記撮像素子の受光面側に設けられると共に前記撮像素子の受光領域を制限する遮光部と、
前記撮像レンズの結像面上に配置され、前記撮像素子の複数の撮像画素に対して1つのマイクロレンズが割り当てられたマイクロレンズアレイ部と、
前記撮像素子で取得された撮像データに基づいて画像補間処理を行うことにより補間画像データを生成する画像補間処理部を有する画像処理部と
を備え、
前記撮像データは、前記マイクロレンズごとに形成された画像領域を有し、
前記画像補間処理部は、
前記撮像データのうち各画像領域で同一の位置にある撮像画素データをそれぞれ抽出して合成することにより、前記マイクロレンズと同数の視差画像を生成し、
生成した複数の視差画像のうち少なくとも2つの視差画像に基づいて前記撮像データにおける各画像領域の外側の領域を補間することにより、前記補間画像データを生成する
撮像装置。 - 前記画像補間処理部は、前記撮像素子上の隣り合う2つの撮像画素から取得された撮像画素データに基づいて生成された視差画像同士の相関演算により画像補間処理を行う
請求項1記載の撮像装置。 - 前記画像処理部は、前記視差画像および前記補間画像に基づいて、所定の並べ替え処理を行うことにより、任意の焦点における画像を生成する並べ替え処理部を有する
請求項1記載の撮像装置。 - 前記撮像レンズの開口絞りが複数の開口部を有している
請求項1に記載の撮像装置。 - 前記開口絞りは、前記マイクロレンズに割り当てられる画素と同じ数の開口部を有している
請求項4に記載の撮像装置。 - 複数の開口部を含む開口絞りを有する撮像レンズと、
光線の進行方向を保持して受光すると共に、その受光した光に基づいて複数の撮像画素データを含む撮像データを生成する撮像素子と、
前記撮像レンズの結像面上に配置され、前記撮像素子の複数の撮像画素に対して1つのマイクロレンズが割り当てられたマイクロレンズアレイ部と
を備えた撮像装置。 - 前記撮像素子で取得された撮像データに基づいて画像補間処理を行うことにより補間画像データを生成する画像補間処理部を有する画像処理部とを備え、
前記撮像データは、前記マイクロレンズごとに形成された画像領域を有し、
前記画像補間処理部は、前記撮像データのうち各画像領域で同一の位置にある撮像画素データをそれぞれ抽出して合成することにより、前記マイクロレンズと同数の視差画像を生成し、
前記複数の視差画像のうち少なくとも2つの視差画像に基づいて画像補間処理を行うことにより補間画像を生成する
請求項6に記載の撮像装置。 - 前記画像補間処理部は、前記撮像素子上の隣り合う2つの撮像画素から取得された撮像画素データに基づいて生成された視差画像同士の相関演算により画像補間処理を行う
請求項7記載の撮像装置。 - 前記画像補間処理部は、前記複数の視差画像のうち、少なくとも2つの視差画像から予測して、前記撮像データにおける各画像領域の外側の領域を補間するための補間画像を生成する
請求項7記載の撮像装置。 - 前記画像処理部は、前記視差画像および前記補間画像に基づいて、所定の並べ替え処理を行うことにより、任意の焦点における画像を生成する並べ替え処理部を有する
請求項7記載の撮像装置。 - 前記開口絞りは、前記マイクロレンズに割り当てられる画素と同じ数の開口部を有している
請求項6に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008316466A JP5224124B2 (ja) | 2007-12-12 | 2008-12-12 | 撮像装置 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007320577 | 2007-12-12 | ||
JP2007320577 | 2007-12-12 | ||
JP2008316466A JP5224124B2 (ja) | 2007-12-12 | 2008-12-12 | 撮像装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009165115A JP2009165115A (ja) | 2009-07-23 |
JP5224124B2 true JP5224124B2 (ja) | 2013-07-03 |
Family
ID=40967138
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008316466A Expired - Fee Related JP5224124B2 (ja) | 2007-12-12 | 2008-12-12 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5224124B2 (ja) |
Families Citing this family (36)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5446834B2 (ja) * | 2009-12-18 | 2014-03-19 | ソニー株式会社 | 撮像装置および撮像方法 |
JP5649837B2 (ja) * | 2010-03-24 | 2015-01-07 | 富士フイルム株式会社 | 立体撮像装置 |
JP5633181B2 (ja) * | 2010-05-07 | 2014-12-03 | 株式会社ニコン | デプスマップ出力装置 |
EP2590023B1 (en) * | 2010-06-30 | 2016-07-20 | FUJIFILM Corporation | Imaging device and imaging method |
WO2012002071A1 (ja) * | 2010-06-30 | 2012-01-05 | 富士フイルム株式会社 | 撮像装置、画像処理装置および画像処理方法 |
JP5127899B2 (ja) | 2010-09-14 | 2013-01-23 | 株式会社東芝 | 固体撮像装置 |
WO2012039346A1 (ja) | 2010-09-22 | 2012-03-29 | 富士フイルム株式会社 | 立体撮像装置およびシェーディング補正方法 |
WO2012039180A1 (ja) * | 2010-09-24 | 2012-03-29 | 富士フイルム株式会社 | 撮像デバイス及び撮像装置 |
JPWO2012043003A1 (ja) * | 2010-09-29 | 2014-02-06 | 富士フイルム株式会社 | 立体画像表示装置および立体画像表示方法 |
JP5627438B2 (ja) | 2010-12-14 | 2014-11-19 | キヤノン株式会社 | 撮像装置、その制御方法、プログラム及び記憶媒体 |
JP5906062B2 (ja) | 2010-12-17 | 2016-04-20 | キヤノン株式会社 | 撮像装置およびその制御方法 |
JP2012195921A (ja) * | 2011-02-28 | 2012-10-11 | Sony Corp | 固体撮像素子およびカメラシステム |
JP2014103427A (ja) * | 2011-03-02 | 2014-06-05 | Fujifilm Corp | 立体画像撮像装置 |
JP2012191351A (ja) * | 2011-03-09 | 2012-10-04 | Sony Corp | 撮像装置および画像処理方法 |
JP2012205015A (ja) * | 2011-03-24 | 2012-10-22 | Casio Comput Co Ltd | 画像処理装置及び画像処理方法、並びにプログラム |
JP2012205111A (ja) * | 2011-03-25 | 2012-10-22 | Casio Comput Co Ltd | 撮像装置 |
JP5757128B2 (ja) * | 2011-03-29 | 2015-07-29 | ソニー株式会社 | 撮像装置、撮像素子、画像処理方法およびプログラム |
TW201245768A (en) | 2011-03-29 | 2012-11-16 | Sony Corp | Image pickup apparatus, image pickup device, image processing method, aperture control method, and program |
JP5170276B2 (ja) * | 2011-03-31 | 2013-03-27 | カシオ計算機株式会社 | 画像再構成装置、画像再構成方法、及び画像再構成プログラム |
CN103621078B (zh) * | 2011-04-14 | 2016-01-13 | 株式会社尼康 | 图像处理装置和图像处理程序 |
WO2013024636A1 (ja) | 2011-08-16 | 2013-02-21 | 富士フイルム株式会社 | 撮像装置 |
JP5206853B2 (ja) * | 2011-09-08 | 2013-06-12 | カシオ計算機株式会社 | 補間画像生成装置、再構成画像生成装置、補間画像生成方法及びプログラム |
JP2013061440A (ja) * | 2011-09-13 | 2013-04-04 | Canon Inc | 撮像装置および撮像装置の制御方法 |
JP6053276B2 (ja) * | 2011-12-02 | 2016-12-27 | キヤノン株式会社 | 撮像装置およびその制御方法、画像処理装置 |
US9521395B2 (en) | 2011-10-04 | 2016-12-13 | Canon Kabushiki Kaisha | Imaging apparatus and method for controlling same |
JP6019568B2 (ja) * | 2011-11-28 | 2016-11-02 | ソニー株式会社 | 画像処理装置および方法、記録媒体、並びに、プログラム |
JP5932363B2 (ja) * | 2012-01-26 | 2016-06-08 | キヤノン株式会社 | 撮像装置およびその制御方法 |
JP6131545B2 (ja) * | 2012-03-16 | 2017-05-24 | 株式会社ニコン | 画像処理装置、撮像装置および画像処理プログラム |
JP6045378B2 (ja) | 2012-05-10 | 2016-12-14 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP6019729B2 (ja) * | 2012-05-11 | 2016-11-02 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP6144880B2 (ja) * | 2012-06-07 | 2017-06-07 | キヤノン株式会社 | 表示装置および表示方法、並びに前記表示装置を備えた撮像装置 |
CN104584545B (zh) * | 2012-08-31 | 2017-05-31 | 索尼公司 | 图像处理装置、图像处理方法、以及信息处理装置 |
JP2015060053A (ja) | 2013-09-18 | 2015-03-30 | 株式会社東芝 | 固体撮像装置、制御装置及び制御プログラム |
JP6376194B2 (ja) * | 2016-09-15 | 2018-08-22 | ソニー株式会社 | 画像処理装置、画像処理方法及びプログラム |
JP2019125056A (ja) * | 2018-01-12 | 2019-07-25 | キヤノン株式会社 | 情報処理システム、情報処理装置、情報処理方法及びプログラム |
WO2021125000A1 (ja) * | 2019-12-16 | 2021-06-24 | ソニーグループ株式会社 | 撮像装置、光学素子、画像処理システム及び画像処理方法 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH08201941A (ja) * | 1995-01-12 | 1996-08-09 | Texas Instr Inc <Ti> | 3次元画像形成方法 |
JP4826152B2 (ja) * | 2005-06-23 | 2011-11-30 | 株式会社ニコン | 画像合成方法及び撮像装置 |
-
2008
- 2008-12-12 JP JP2008316466A patent/JP5224124B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009165115A (ja) | 2009-07-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5224124B2 (ja) | 撮像装置 | |
JP5246424B2 (ja) | 撮像装置 | |
JP5515396B2 (ja) | 撮像装置 | |
JP4900723B2 (ja) | 画像処理装置、画像処理プログラムおよび表示装置 | |
CN102917235B (zh) | 图像处理装置和图像处理方法 | |
JP4538766B2 (ja) | 撮像装置、表示装置および画像処理装置 | |
JP5472584B2 (ja) | 撮像装置 | |
JP6021541B2 (ja) | 画像処理装置及び方法 | |
JP5238429B2 (ja) | 立体映像撮影装置および立体映像撮影システム | |
EP2160018B1 (en) | Image pickup apparatus | |
JP5224046B2 (ja) | 画像処理装置、撮像装置および表示装置 | |
JP4939639B2 (ja) | 画像処理装置、画像処理方法、プログラム及び記録媒体 | |
JP2011171858A (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび撮像装置 | |
JP2010183316A (ja) | 撮像装置 | |
CN104012076A (zh) | 成像设备和电子信息仪器 | |
US20140022359A1 (en) | Stereoscopic imaging apparatus and stereoscopic imaging method | |
JP2009290268A (ja) | 撮像装置 | |
JP2012191351A (ja) | 撮像装置および画像処理方法 | |
CN103621078B (zh) | 图像处理装置和图像处理程序 | |
JP6128748B2 (ja) | 画像処理装置及び方法 | |
US20130083169A1 (en) | Image capturing apparatus, image processing apparatus, image processing method and program | |
JP5673764B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラムおよび記録媒体 | |
CN103503447B (zh) | 拍摄装置及拍摄装置的控制方法 | |
JP3088852B2 (ja) | 3次元画像入力装置 | |
JP6491539B2 (ja) | 撮像装置及びその制御方法、システムならびにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20111202 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121025 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121221 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130214 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130227 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5224124 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160322 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |