WO2013031348A1 - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- WO2013031348A1 WO2013031348A1 PCT/JP2012/065834 JP2012065834W WO2013031348A1 WO 2013031348 A1 WO2013031348 A1 WO 2013031348A1 JP 2012065834 W JP2012065834 W JP 2012065834W WO 2013031348 A1 WO2013031348 A1 WO 2013031348A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- photoelectric conversion
- image
- transmittance
- exposure
- numbered
- Prior art date
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/225—Image signal generators using stereoscopic image cameras using a single 2D image sensor using parallax barriers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
- H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/745—Circuitry for generating timing or clock signals
Abstract
単一の撮影レンズ及び瞳分割手段として機能する液晶シャッタの各液晶セルを介してCMOS型のイメージセンサに視差の異なる被写体像を入射可能にする。このとき、イメージセンサのフォトダイオードPD毎に露光開始タイミングをずらして露光を開始させるとともに、所定の露光時間が経過したフォトダイオードPDから順次電荷信号を読み出すローリング読出しを行う。また、前記ローリング読出しに同期して、前記液晶シャッタの各液晶セルの遮光/非遮光を、左視差画像を取得するための画素L遮光パターン、又は右視差画像を取得するための画素R遮光パターンにしたがって制御するようにしている。
Description
本発明は撮像装置に係り、特に撮影光学系の異なる領域を通過した被写体像をそれぞれ撮像素子に結像させ、左視点画像及び右視点画像からなる立体画像を取得する技術に関する。
従来、瞳分割方式の撮像装置は、複数の視差画像(左右視差画像)を撮像する際、撮像素子の全画素の半分の画素をそれぞれ左右の視差画像に割り当てているため、撮像素子の全画素の半分の解像度となり立体感の劣化を生じる原因となる(特許文献1)。
特許文献2には、光学系の瞳位置に偏光軸が互いに直交する2つの偏光素子を配置し、これらの偏光素子を通過する光束をそれぞれ偏光ビームスプリッタにより分離し、それぞれ2つの撮像素子に入射させて2つの画像を撮像し、2つの画像の中の像の位相差を比較することで、位相差AFと同様にしてデフォーカス量を算出する測距装置が記載されている。また、2つの画像の撮像により立体撮像が可能になる記載がある。
一方、特許文献3には、ミラーにより瞳分割された左目用情報と右目用情報とを交互に遮光する液晶シャッタを備え、フィールド周期で交互に左目用情報又は右目用情報を遮光させて単一の撮像手段に結像させることにより、立体画像を撮影する立体撮像装置が記載されている。これによれば、撮像素子の全画素を、それぞれ左目用情報及び右目用情報の取得に割り当てることができ、解像度の高い立体画像を撮影するこができる。
更に、特許文献4には、高解像度の画像を撮影する高解像度撮像装置が提案されている。この高解像度撮像装置は、撮像素子の1画素に対応して、上下左右に分割した液晶シャッタを配置し、その1つの開口部にて撮影し、次に開口位置をずらして撮影することを4回繰り返して画像を取得し、4画像を合成することで撮像素子の画素数の4倍の解像度の画像を得ることができる。
特許文献1に記載の撮像装置は、撮像素子の全画素の半分の解像度の左右視差画像を撮影することになり、解像度が低下するという問題がある。
特許文献2に記載の装置は、複数の撮像素子が必要になり、かつ各撮像素子に瞳分割した光束をそれぞれ入射させる光束分離光学系が必要になり、コストアップと大型化を招くという問題がある。
一方、特許文献3に記載の立体撮像装置は、撮像素子の全画素を使用して左右の視差画像を時分割で撮影(2回撮影)することにより、解像度の低下を防止することができるが、一方の視差画像と他方の視差画像間で最小でも1フレーム期間の時間差が生じるため、手振れや被写体ぶれ、あるいは動画撮影に視差画像のずれが発生し、立体視が困難となる場合が増えるという欠点がある。また、光束分離光学系として第1~第4ミラーを使用するため、コストアップと大型化を招くという問題がある。
特許文献4に記載の高解像度撮像装置は、立体画像を撮影するものではなく、また、4つの画像間の露光間隔が最短でフレーム単位となり、時間差が大きくなるという問題がある。
本発明はこのような事情に鑑みてなされたもので、単一の撮影光学系及び撮像素子により高解像度の複数の視差画像を撮影することができ、かつ視差画像の時間ずれを最小にすることができる撮像装置を提供することを目的とする。更に、単一の撮影光学系及び撮像素子として従来のものを使用することができ、これによりコストアップ及び装置の大型化を防止することができる撮像装置を提供することを目的とする。
上記目的を達成するために本発明の一の態様に係る撮像装置は、単一の撮影光学系と、2次元配列された複数の光電変換画素を有し、撮影光学系を介して被写体像が結像される撮像素子と、撮像素子の光電変換素子毎又はライン毎に露光を開始させるとともに、順次電荷信号を読み出すローリング読出手段と、撮影光学系のそれぞれ異なる第1、第2の領域を通過した被写体像を瞳分割して撮像素子に入射させる瞳分割手段であって、各光電変換画素の受光面を2分割した第1及び第2の分割面への入射光の透過率を個々に制御可能なシャッタ素子群を有する瞳分割手段と、ローリング読出手段によるローリング読出しに同期して、瞳分割手段のシャッタ素子群における透過率を制御する透過率制御手段と、を備えている。
本発明の一の態様によれば、ローリング読出手段により撮像素子の光電変換素子毎又はライン毎に露光を開始させるとともに順次電荷信号を読み出し、ローリング読出手段に同期して瞳分割手段のシャッタ素子群の透過率を制御するようにしたため、撮像素子の画素数に対応した高解像度の複数の視差画像を撮影することができるとともに、複数の視差画像の時間ずれを、ローリング読出手段により制御される露光時間の時間差(最小)にすることができる。
本発明の他の態様に係る撮像装置において、透過率制御手段は、第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素の第1の分割面及び第2の分割面のうちの一方の分割面に対応するシャッタ素子群の透過率を高くし、他方の分割面に対応するシャッタ素子群の透過率を最小にし、第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素の第1の分割面及び第2の分割面のうちの他方の分割面に対応するシャッタ素子群の透過率を高くし、一方の分割面に対応するシャッタ素子群の透過率を最小にするようにしている。
本発明の更に他の態様に係る撮像装置において、瞳分割手段のシャッタ素子群は、撮像素子の各光電変換画素の第1の分割面及び第2の分割面の上面に、それぞれ透過率の制御が可能なシャッタ素子群が配置されて構成されている。これにより、各光電変換素子の第1の分割面又は第2の分割面のうちの一方に光を入射させることができる。
本発明の更に他の態様に係る撮像装置において、瞳分割手段のシャッタ素子群は、撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置されて構成されている。これにより、シャッタ素子群の素子数を減少(光電変換素子の素子数と一致)させることができる。
本発明の更に他の態様に係る撮像装置において、透過率制御手段は、第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、光電変換画素の第1の分割面及び第2の分割面のうちの第1の分割面に対応するシャッタ素子群の透過率を最小にし、第2の分割面に対応するシャッタ素子群の透過率を高くし、第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、光電変換画素の第1の分割面及び第2の分割面のうちの第2の分割面に対応するシャッタ素子群の透過率を最小にし、第2の分割面に対応するシャッタ素子群の透過率を高くするようにしている。即ち、各光電変換素子の第1の分割面及び第2の分割面の透過又は遮光を光電変換素子毎に制御し、複数の視差画像の取得を可能にしている。
本発明の更に他の態様に係る撮像装置において、透過率制御手段は、第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素または各ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、各光電変換画素または各ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くし、第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素または各ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、各光電変換画素または各ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くするようにしている。即ち、隣接する奇数番目の光電変換素子の第1の分割面と偶数番目の光電変換素子の第2の分割面の透過率が同じになるように制御し、同様に隣接する奇数番目の光電変換素子の第2の分割面と偶数番目の光電変換素子の第1の分割面の透過率が同じになるように制御している。これにより、シャッタ素子群の素子数を光電変換素子の素子数と一致させた場合であっても、各光電変換素子の第1の分割面及び第2の分割面の透過率を個別に制御することができる。
本発明の更に他の態様に係る撮像装置において、透過率制御手段は、第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、奇数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、奇数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くするとともに、偶数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、偶数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くし、第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、奇数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、奇数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くするとともに、偶数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、偶数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くするようにしている。即ち、隣接する奇数番目の光電変換素子の第1の分割面と偶数番目の光電変換素子の第2の分割面の透過率が同じになるように制御し、同様に隣接する奇数番目の光電変換素子の第2の分割面と偶数番目の光電変換素子の第1の分割面の透過率が同じになるように制御している。また、奇数ラインと偶数ラインとでは、上記の透過率の関係を逆にしている。これにより、シャッタ素子群の素子数を光電変換素子の素子数と一致させた場合であっても、各光電変換素子の第1の分割面及び第2の分割面の透過率を個別に制御することができ、また、以下に示すカラーフィルタのうちの一般的なカラーフィルタ配列の撮像素子を適用することができる。
本発明の更に他の態様に係る撮像装置において、撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、撮像素子の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている。
本発明の更に他の態様に係る撮像装置において、撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、撮像素子の奇数ライン及び偶数ラインの一方のラインには、GRGRの順に繰り返してカラーフィルタが配設され、他方のラインには、BGBGの順に繰り返してカラーフィルタが配設されている。
本発明の更に他の態様に係る撮像装置において、瞳分割手段のシャッタ素子群は、撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置され、かつ各シャッタ素子上に赤(R)、緑(G)、青(B)のカラーフィルタが配設されて構成され、2次元配列されたシャッタ素子群の奇数ライン及び偶数ラインの一方のラインには、GRGRの順に繰り返してカラーフィルタが配設され、他方のラインには、BGBGの順に繰り返してカラーフィルタが配設されている。これによれば、撮像素子の光電変換素子の受光面上にカラーフィルタを設ける必要がなくなり、モノクロの撮像素子を適用することができる。
本発明の更に他の態様に係る撮像装置において、瞳分割手段のシャッタ素子群は、撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置され、かつ各シャッタ素子上に赤(R)、緑(G)、青(B)のカラーフィルタが配設されて構成され、2次元配列されたシャッタ素子群の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている。これによれば、撮像素子の光電変換素子の受光面上にカラーフィルタを設ける必要がなくなり、モノクロの撮像素子を適用することができる。
本発明の更に他の態様に係る撮像装置において、撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、撮像素子の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている。
本発明の更に他の態様に係る撮像装置において、撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、撮像素子の各光電変換画素または各ラインには、GBGRの順に繰り返してカラーフィルタが配設されている。
本発明の更に他の態様に係る撮像装置において、ローリング読出手段は、読み出しパルスを出力して光電変換画素から電荷信号を読み出すと、直ちにリセットパルスを出力して光電変換画素に蓄積された信号電荷を掃き出し、次の信号電荷の蓄積を再開させることが好ましい。即ち、或る光電変換素子における電荷信号の読み出しが終了すると、視差の異なる被写体像の取得のために、次の信号電荷の蓄積を再開させ、視差の異なる被写体像の時間ずれを最小にしている。
本発明の更に他の態様に係る撮像装置において、透過率制御手段は、読み出しパルスの出力タイミングよりもシャッタ素子の応答遅れ時間に相当する所定時間前に、読み出しパルスにより読み出される光電変換画素の第1の分割面又は第2の分割面に対応するシャッタ素子の透過率を最小にする駆動を開始させることが好ましい。これにより、シャッタ素子を透過率の高い状態から最小の透過率に切り替える際に、切り替え時間にタイムラグがあっても異なる視差画像に対応する光の漏れ込みを防止することができる。
本発明の更に他の態様に係る撮像装置において、ローリング読出手段により読み出された第1の撮影の第1の露光及び第2の撮影の第2の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段を備え、画像処理手段は、第1の画像信号から第2の画像信号の規定量を差し引くとともに、第2の画像信号から第1の画像信号の規定量を差し引いて新たな第1の画像信号及び第2の画像信号を生成することが好ましい。シャッタ素子の透過率を最小に制御しても透過率を0にすることができず、第1の画像信号及び第2の画像信号にはそれぞれ他の画像信号の成分が混在する。そこで、第1の画像信号及び第2の画像信号に混在している他の画像信号の成分を除去するようにしている。
本発明の更に他の態様に係る撮像装置において、画像処理手段は、瞳分割手段のシャッタ素子群の高い透過率と最小の透過率とに基づく補正係数を予め記憶する記憶手段を有し、補正係数と第2の画像信号とを乗算して第2の画像信号の規定量を算出し、補正係数と第1の画像信号とを乗算して第1の画像信号の規定量を算出することが好ましい。これによれば、第1の画像信号及び第2の画像信号に混在している他の画像信号の成分が画素毎に異なっていても対応することができる。
本発明の更に他の態様に係る撮像装置において、高解像度の立体静止画を撮影する高解像度モードと、低解像度の立体静止画を撮影する低解像度モードとを有し、高解像度モードと低解像度モードとを切り替える切替手段と、切替手段により高解像度モードから低解像度モードに切り替えられると、第1の露光に対応する電荷信号のみを読み出すローリング読出手段と、ローリング読出手段により読み出された第1の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段と、を備えている。第1の露光に対応する電荷信号には、視差の異なる第1の視差画像及び第2の視差画像の電荷信号が含まれている。そこで、低解像度モード時には、撮像素子の全画素の半分の画素数となるが、1回の撮影で視差の異なる第1の視差画像及び第2の視差画像を取得することができる。
本発明の更に他の態様に係る撮像装置において、高フレームレートの立体動画を撮影する高フレームレートモードと、低フレームレートの立体動画を撮影する低フレームレートモードとを有し、高フレームレートモードと低フレームレートモードとを切り替える切替手段と、切替手段により低フレームレートモードから高フレームレートモードに切り替えられると、第1の露光及び第2の露光に対応する電荷信号のうちのいずれか一方を読み出すか又は双方を交互に読み出すローリング読出手段と、ローリング読出手段により読み出された第1の露光又は第2の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段と、を備えている。第1の露光に対応する電荷信号には、視差の異なる第1の視差画像及び第2の視差画像の電荷信号が含まれている。そこで、高フレームレート時には、撮像素子の全画素の半分の画素数となるが、1フレームから視差の異なる第1の視差画像及び第2の視差画像を取得し、立体動画の撮影時のフレームレートを高くしている。
本発明の更に他の態様に係る撮像装置において、立体画像を撮影する立体画像撮影モードと、平面画像を撮影する平面画像を撮影する平面画像撮影モードとを有し、立体画像撮影モードと平面画像撮影モードとを切り替える切替手段と、切替手段により立体画像撮影モードから平面画像撮影モードに切り替えられると、シャッタ素子群の全てのシャッタ素子の透過率を高くする透過率制御手段と、を備えている。即ち、平面画像撮影モード時には、シャッタ素子群の全てのシャッタ素子の透過率を高くし、瞳分割手段による瞳分割が行われないようにしている(通常の平面画像の撮影を可能にしている)。
本発明によれば、単一の撮影光学系及び瞳分割手段を介して被写体像が結像される撮像素子から複数の視差画像に対応する電荷信号を、ローリング読出しにより連続して読み出すとともに、ローリング読出しに同期して瞳分割手段を構成するシャッタ素子群の透過率を個別に制御するようにしたため、撮像素子の画素数に対応した高解像度の複数の視差画像を撮影することができるとともに、視差画像の時間ずれを最小(露光時間の時間差)にすることができる。
以下、添付図面に従って本発明に係る撮像装置の実施の形態について説明する。
[撮像装置の全体構成]
図1は本発明に係る撮像装置の実施の形態を示すブロック図である。
図1は本発明に係る撮像装置の実施の形態を示すブロック図である。
図1に示す撮像装置1は、平面画像(2D画像)、立体画像(3D画像)の静止画、又は動画の撮影・再生が可能なデジタルカメラであり、図示しないモード選択を行う操作部による操作により、2D/3D、静止画/動画、撮影/再生等の各種モードが選択できるようになっている。以下、3D静止画の撮影モードについて説明する。
この撮像装置1は、主として単一の撮影レンズ10と、液晶シャッタ12と、MOS型の撮像素子(イメージセンサ)14と、液晶駆動部16と、センサ駆動部18と、画像処理部20と、表示部22と、記録部24と、外部出力部26から構成されている。
被写体を示す被写体光は、撮影レンズ10、絞り(図示せず)、及び液晶シャッタ12を介してイメージセンサ14の受光面に結像される。
<液晶シャッタ12の構成例>
図2は液晶シャッタの実施の形態を示す要部断面図である。
図2は液晶シャッタの実施の形態を示す要部断面図である。
図2に示すように、液晶シャッタ12は、偏光フィルタ12aと、光の透過率を制御するシャッタ素子として機能する液晶セル12bとを有し、液晶セル12bは、イメージセンサ14と一体化され、各光電変換素子(フォトダイオード)PDの受光面上に配置されている。
具体的には、1つのフォトダイオードPDに対して2つ(左右一対)の液晶セル12bL,12bRが配置され、一対の液晶セル12bL,12bRは、フォトダイオードPDの受光面の水平方向の約半分をそれぞれ覆う位置に配置されている。
偏光フィルタ12aは、液晶セル12bL,12bRの前面に当接するように配置しても良く、その場合、偏光フィルタ12aを、液晶セル12bL,12bRが一体化されたイメージセンサ14のパッケージの前面に設置しても良いし、又は撮影レンズ10等の光学系のいずれかの位置に配置しても良い。
液晶シャッタ12を駆動する液晶駆動部16は、図3に示すように垂直方向の1ライン分の液晶セル12bL,12bRを選択するための垂直駆動信号を出力する液晶ドライバVと、1ラインのライン方向(水平方向)の液晶セル12bL,12bRを選択するための水平駆動信号を出力する液晶ドライバHとを有し、液晶ドライバV及び液晶ドライバHからそれぞれ出力される垂直駆動信号及び水平駆動信号により個別に液晶セル12bL,12bRを選択し、選択した液晶セル12bの透過率を制御する。即ち、選択した液晶セル12bL,12bRに対し、適宜の電圧を印加することにより液晶セル12bL,12bRの透過率を高くし、電圧の印加を解除することにより透過率を最小にする。尚、液晶セル12bL,12bRに印加する電圧値に応じて、透過率を連続的に変化させてもよいし、遮光と非遮光(透過)を2値で制御するようにしてもよい。
図1に戻って、イメージセンサ14は、複数のフォトダイオードPDが2次元配列されたエリアイメージセンサである。また、CMOS型のセンサであるため、フォトダイオードPD毎又はライン毎に露光開始タイミングをずらして露光を開始させるとともに、所定の露光時間が経過したフォトダイオードPD又はラインから順次、電荷信号を読み出す、いわゆるローリングシャッタ機能(ローリング読出し機能)を有している。
センサ駆動部18は、イメージセンサ14に対して水平、垂直方向の読み出しパルス、及びリセットパルスを出力し、イメージセンサ14の各フォトダイオードPDの露光時間(シャッタ速度)を制御するとともに、所定の露光時間を経過したフォトダイオードPD、又はラインから順次電荷信号を読み出し、読み出した電荷信号(画像信号)を画像処理部20に出力させる。
<視差画像取得の原理>
図4に示すように、イメージセンサ14のフォトダイオードPDには、撮影レンズ10の射出瞳を通過する光束が、マイクロレンズLを介して入射するが、図4の(a)部分に示すようにフォトダイオードPDの受光面を2分割した左半分の分割面が液晶セル12bLにより遮光されると、撮影レンズ10の射出瞳を通過する光束のうちの左半分の光束がフォトダイオードPDに入射し、右半分の光束は遮光される。一方、図4の(b)部分に示すようにフォトダイオードPDの受光面を2分割した右半分の分割面が液晶セル12bRにより遮光されると、撮影レンズ10の射出瞳を通過する光束のうちの右半分の光束がフォトダイオードPDに入射し、左半分の光束が遮光される。
図4に示すように、イメージセンサ14のフォトダイオードPDには、撮影レンズ10の射出瞳を通過する光束が、マイクロレンズLを介して入射するが、図4の(a)部分に示すようにフォトダイオードPDの受光面を2分割した左半分の分割面が液晶セル12bLにより遮光されると、撮影レンズ10の射出瞳を通過する光束のうちの左半分の光束がフォトダイオードPDに入射し、右半分の光束は遮光される。一方、図4の(b)部分に示すようにフォトダイオードPDの受光面を2分割した右半分の分割面が液晶セル12bRにより遮光されると、撮影レンズ10の射出瞳を通過する光束のうちの右半分の光束がフォトダイオードPDに入射し、左半分の光束が遮光される。
このように液晶シャッタ12の一対の液晶セル12bL,12bRの透過率を制御することにより、撮影レンズ10の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像、又は右半分の光束に対応する被写体像をイメージセンサ14に入射させることができる。
即ち、液晶シャッタ12は、撮影レンズ10の射出瞳を通過する光束を分割してイメージセンサ14に入射させる瞳分割手段として機能する。また、撮影レンズ10の射出瞳を通過する光束のうちの左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像のうち、ピントが合っている部分は、イメージセンサ14上の同じ位置に結像するが前ピン又は後ピンの部分は、それぞれイメージセンサ14上の異なる位置に入射する(位相がずれる)。これにより、左半分の光束に対応する被写体像と、右半分の光束に対応する被写体像とは、視差が異なる視差画像(左視差画像、右視差画像)として取得することができる。
<液晶シャッタ12の駆動方法>
次に、上記左視差画像及び右視差画像の撮影時の液晶シャッタ12の駆動方法について説明する。
次に、上記左視差画像及び右視差画像の撮影時の液晶シャッタ12の駆動方法について説明する。
図5の(a)部分から(h)部分は、それぞれ左視差画像及び右視差画像の撮影時の液晶シャッタの駆動順序及び電荷信号の読み出し順等を示す遷移図である。
まず、撮影開始前は、液晶シャッタ12の全ての液晶セルを遮光状態にする(図5の(a)部分)。即ち、イメージセンサ14の各フォトダイオードPDに対応して設けられた左右一対の液晶セル12bL,12bR(図6参照)をともに遮光する画素RL遮光パターンにする。これにより、イメージセンサ14を遮光状態にする。
次に、液晶シャッタ12の液晶セル群を、先頭のライン(イメージセンサ14の1ライン目に対応するライン)の液晶セル12bL,12bRを、画素L遮光パターンで順次駆動する(図5の(b)部分)。
ここで、画素L遮光パターンとは、図6の(a)部分に示すようにイメージセンサ14の各フォトダイオードPDに対応して設けられた左右一対の液晶セル12bL,12bRのうち、左側の液晶セル12bLを遮光し、右側の液晶セル12bRを非遮光にする遮光パターンをいう。
したがって、画素L遮光パターンによる液晶セル12bL,12bRの駆動が順次行われると、イメージセンサ14は、左視差画像を撮影するための露光を、フォトダイオードPD毎に露光開始タイミングをずらして開始することになる。
上記画素L遮光パターンで、先頭のラインL1から予め設定された所定のラインLiまで順次液晶セル12bL,12bRが駆動されると(図5の(c)部分)、その後、先頭のラインL1の液晶セル12bL,12bRから画素R遮光パターンによる駆動を開始する(画素L遮光パターンから画素R遮光パターンに順次切り替える)(図5の(d)部分)。
ここで、画素R遮光パターンとは、図6の(b)部分に示すようにイメージセンサ14の各フォトダイオードPDに対応して設けられた左右一対の液晶セル12bL,12bRのうち、左側の液晶セル12bLを非遮光とし、右側の液晶セル12bRを遮光する遮光パターンをいう。
したがって、図5の(d)部分に示すように画素R遮光パターンによる液晶セル12bL,12bRの駆動が開始されると、イメージセンサ14は、右視差画像を撮影するための露光も同時に開始(フォトダイオードPD毎に露光開始タイミングをずらして開始)することになる。
ところで、先頭のラインL1の液晶セル12bL,12bRが駆動してから所定のラインLiの液晶セル12bL,12bRが駆動するまでの時間をTとすると、この時間Tは、シャッタ速度に対応している。したがって、シャッタ速度が速い場合には、液晶シャッタ12の液晶セル群の画素L遮光パターンから画素R遮光パターンへの切り替わりも速くなる。また、左視差画像の露光開始タイミングと右視差画像の露光開始タイミングとは、その撮影時におけるシャッタ速度だけずれることになる。
図5の(c)部分に示すタイミングでは、イメージセンサ14の1ライン目のフォトダイオードPDの露光期間が時間T(シャッタ速度)に達するため、1ライン目のフォトダイオードPDから電荷信号の読み出しが行われる。即ち、1ライン目のフォトダイオードPDから電荷信号を読み出すための読み出しパルスが、センサ駆動部18からイメージセンサ14に加えられ、1ライン目のフォトダイオードPDから電荷信号の読み出しが行われる。フォトダイオードPDから電荷信号の読み出し終了すると、センサ駆動部18からリセットパルスが出力され、フォトダイオードPDに蓄積された電荷が掃き出される。そして、フォトダイオードPDに蓄積された電荷が掃き出されると、そのフォトダイオードPDに対応する液晶セル12bL,12bRは、画素L遮光パターンから画素R遮光パターンに切り替えられ、フォトダイオードPDでの電荷の蓄積を開始させる。
即ち、所定の露光時間が経過したフォトダイオードPDから順次電荷信号を読み出すローリング読出しに同期して、液晶シャッタ12の制御(画素L遮光パターンから画素R遮光パターンへの切り替え制御等)が行われる。
図5の(e)部分に示す状態は、画素L遮光パターンによる左視差画像の露光と、画素R遮光パターンによる右視差画像の露光とが同時に行われ、イメージセンサ14の上方に対応する液晶セル12bL,12bRが、画素R遮光パターンから画素RL遮光パターンに切り替えられる様子を示している。また、画素L遮光パターンにより露光される左視差画像の約半分の電荷信号の読み出しが終了している。
図5の(f)部分は、画素L遮光パターンによる左視差画像の露光及び読み出しがほぼ終了する状態に関して示している。
図5の(g)部分は、画素R遮光パターンによる右視差画像の露光が終了した状態を示している。即ち、液晶シャッタ12の全ての液晶セル12bL,12bRが、画素RL遮光パターンに切り替えられ、イメージセンサ14は遮光状態になっている。また、左視差画像の電荷信号の読み出しは終了しているが、右視差画像の電荷信号の読み出しは開始していない状態である。
図5の(h)部分は、右視差画像の電荷信号の読み出しを行っている状態を示している。
上記のように液晶シャッタ12を駆動するとともに、イメージセンサ14からローリング読出しを行うことにより、左右の視差画像を取得することができる。
図1に戻って、イメージセンサ14から読み出された左右の視差画像を示す画像信号は、画像処理部20に入力される。画像処理部20は、入力した左右の視差画像を示す画像信号に対して、それぞれオフセット処理、ホワイトバランス補正、ガンマ補正処理、YC処理等の所定の信号処理を行う。
画像処理部20で処理された左右の視差画像を示す画像信号(3D画像データ)は、撮像装置1の背面に設けられている立体表示用の表示部22に出力されることにより、3D画像として表示部22の表示画面に表示される。立体表示用の表示部22は、左右の視差画像をパララックスバリアによりそれぞれ所定の指向性をもった指向性画像として表示できる立体表示手段であるが、これに限らず、レンチキュラレンズを使用するものや、偏光メガネ、液晶シャッタメガネなどの専用メガネをかけることで左視差画像と右視差画像とを個別に見ることができるものでもよい。
また、画像処理部20で処理された3D画像データは、記録部24に出力される。記録部24は、3D画像データ(YC処理された2枚分の画像データ)を、それぞれJPEG (joint photographic experts group)などの所定の圧縮方式で圧縮処理したのち、2枚分の圧縮データからマルチピクチャファイル(MPファイル:複数の画像が連結された形式のファイル)を生成し、メモリカード等の記録媒体に記録する。
更に、画像処理部20で処理された3D画像データは、外部出力部26を介して3Dディスプレイ等の外部機器に送信することができる。
<液晶シャッタ12の他の駆動方法>
図7は液晶シャッタ12の他の駆動方法による遮光パターンを示す図である。
図7は液晶シャッタ12の他の駆動方法による遮光パターンを示す図である。
図7に示すように2回の撮影のうちの1回目の撮影は、図7の(a)部分に示す遮光パターンAで液晶シャッタ12を駆動することにより行い、2回目の撮影は、図7の(b)部分に示す遮光パターンBで液晶シャッタ12を駆動することにより行う。
即ち、1回目の撮影(第1の露光に対応する電荷信号の取得)時における、イメージセンサ14の各ラインの露光開始から終了までの期間は、そのラインに対応する液晶セル12bL,12bRのうちの奇数番目のフォトダイオードPDに対応する一対の液晶セル12bL,12bRの左側の液晶セル12bLを遮光させ、右側の液晶セル12bRを非遮光にさせ、一方、偶数番目のフォトダイオードPDに対応する一対の液晶セル12bL,12bRの左側の液晶セル12bLを非遮光にさせ、右側の液晶セル12bRを遮光させる。
これにより、イメージセンサ14の各ラインの奇数番目のフォトダイオードPDには、左視差画像に対応する被写体光が入射し、偶数番目のフォトダイオードPDには、右視差画像に対応する被写体光が入射することになる。即ち、左右の視差画像を同時に撮影することになる。
一方、2回目の撮影(第2の露光に対応する電荷信号の取得)時には、液晶シャッタ12の一対の液晶セル12bL,12bRの遮光/非遮光の駆動を、1回目の撮影時と逆にする。即ち、イメージセンサ14の各ラインの露光開始から終了までの期間は、そのラインに対応する液晶セル12bL,12bRのうちの奇数番目のフォトダイオードPDに対応する一対の液晶セル12bL,12bRの左側の液晶セル12bLを非遮光にさせ、右側の液晶セル12bRを遮光させ、一方、偶数番目のフォトダイオードPDに対応する一対の液晶セル12bL,12bRの左側の液晶セル12bLを遮光させ、右側の液晶セル12bRを非遮光にさせる。
上記のように液晶シャッタ12の駆動を制御して2回の撮影を行った場合、画像処理部20は、1回目の撮影により取得した左右の視差画像と、2回目の撮影により取得した左右の視差画像とを統合し、イメージセンサ14の画像サイズと同じサイズの左右の視差画像を生成する。
このように液晶シャッタ12を駆動することにより、左右の視差画像の撮影時間のずれを緩和することができる。
図8はイメージセンサ14のカラーフィルタ配列と、液晶シャッタ12の更に他の駆動方法による遮光パターンを示す図である。
図8の(a)部分はイメージセンサ14のカラーフィルタ配列を示しており、奇数ラインは、赤(R)、緑(G)、青(B)の3原色のカラーフィルタのうちのGRのカラーフィルタが交互に配列され、偶数ラインはBGのカラーフィルタが交互に配列されている、いわゆるベイヤー配列になっている。
このカラーフィルタ配列を有するイメージセンサ14に対し、1回目の撮影は、図8の(b)部分に示す遮光パターンAで液晶シャッタ12を駆動し、2回目の撮影は、図8の(c)部分に示す遮光パターンBで液晶シャッタ12を駆動する。
図8の(b)部分に示す遮光パターンAは、図7の(a)部分及び(b)部分に示した遮光パターンAと遮光パターンBとをライン毎に交互に繰り返すパターンであり、図8の(c)部分に示す遮光パターンBは、図8の(b)部分に示した遮光パターンAの液晶セル12bL,12bRの遮光/非遮光の関係を逆にしたパターンである。
このベイヤーの場合、上記のように液晶シャッタ12を駆動することにより、1回目の撮影及び2回目の撮影のそれぞれにおいて、RGBの左視差画像及びRGBの右視差画像を取得することができる。
<液晶シャッタの他の構成例>
図9は液晶シャッタの他の構成例を示す要部断面図である。
図9は液晶シャッタの他の構成例を示す要部断面図である。
図9に示すように、液晶シャッタ121は、偏光フィルタ121aと、光の透過率を制御するシャッタ素子として機能する液晶セル121bとを有し、液晶セル121bは、イメージセンサ14と一体化され、各フォトダイオードPDの受光面上に配置されている。
1つの液晶セル121bは、隣接する2つのフォトダイオードPDに跨がって配設されており、隣接する2つのフォトダイオードPDの一方のフォトダイオードPDの水平方向の右半部と、他方のフォトダイオードPDの左半分を覆うように配設されている。
この液晶シャッタ121を駆動する液晶駆動部161は、図10に示すように垂直方向の1ライン分の液晶セル12bを選択するための垂直駆動信号を出力する液晶ドライバVと、1ラインのライン方向(水平方向)の液晶セル121bを選択するための水平駆動信号を出力する液晶ドライバHとを有し、液晶ドライバV及び液晶ドライバHからそれぞれ出力される垂直駆動信号及び水平駆動信号により個別に液晶セル121bを選択し、選択した液晶セル12bの透過率を制御する。即ち、選択した液晶セル121bに対し、適宜の電圧を印加することにより液晶セル121bの透過率を高くし、電圧の印加を解除することにより透過率を最小にする。尚、液晶セル121bに印加する電圧値に応じて、透過率を連続的に変化させてもよいし、遮光と非遮光(透過)を2値で制御するようにしてもよい。
[液晶シャッタ121の駆動方法とカラーフィルタの組み合わせ]
図11から図16は、それぞれ上記液晶シャッタ121の遮光パターンと、カラーフィルタとの関係を示す図である。
図11から図16は、それぞれ上記液晶シャッタ121の遮光パターンと、カラーフィルタとの関係を示す図である。
図11から図13は、それぞれ液晶シャッタ121の液晶セル121bを縦ストライプの遮光パターンで駆動する駆動方法を示している。
縦ストライプの遮光パターンで液晶セル121bを駆動する場合、1回目の撮影時は、図11の(a)部分,図11の(a)部分及び図13の(a)部分に示すように各ラインの奇数番目の液晶セル121bを非遮光にし、偶数番目の液晶セル121bを遮光し、2回目の撮影時は、図11の(b)部分,図11の(b)部分及び図13の(b)部分に示すように各ラインの奇数番目の液晶セル121bを遮光にし、偶数番目の液晶セル121bを非遮光にする。
一方、図11に示すイメージセンサ14のカラーフィルタ配列では、奇数ライン及び偶数ラインの一方のラインにGGRRGG…のカラーフィルタが配設され、他方のラインにBBGGBBGG…のカラーフィルタが配設されている。これにより、2回目の撮影のうちの各撮影毎にイメージセンサ14の1ライン内のフォトダイオードPDから左右の視差画像となるGR画素、又はBG画素が得られる。
図12に示すイメージセンサ14のカラーフィルタ配列は、ベイヤー配列である。この場合、ベイヤー配列の左右の視差画像を取得することができるとともに、2D撮影時に液晶シャッタ121の全ての液晶セル121bを非遮光にすることにより、ベイヤー配列の2D画像を取得することができる。
図13は液晶シャッタ121の各液晶セル121bにカラーフィルタを配置した例を示しており、本例では、ベイヤー配列のカラーフィルタ配列を示している。
この場合、同一のフォトダイオードPDの画素で異なる2色の画像が得られるため、画像エッジ部等での偽色を低減できる効果を有する。
図14から図16は、それぞれ液晶シャッタ121の液晶セル121bを千鳥配列の遮光パターンで駆動する駆動方法を示している。
千鳥配列の遮光パターンで液晶セル121bを駆動する場合、1回目の撮影時は、図14の(a)部分,図15の(a)部分及び図16の(a)部分に示すように奇数ラインの奇数番目の液晶セル121bを非遮光にし、偶数番目の液晶セル121bを遮光し、偶数ラインの奇数番目の液晶セル121bを遮光にし、偶数番目の液晶セル121bを非遮光にする。また、2回目の撮影時は、図14の(b)部分,図15の(b)部分及び図16の(b)部分に示すように、図14の(a)部分,図15の(a)部分及び図16の(a)部分に示した液晶セル121bの遮光/非遮光とは逆の遮光パターンにする。
図14及び図15に示すイメージセンサ14のカラーフィルタ配列は、図11及び図12の場合と同じであり、図16は図13と同様に液晶シャッタ121の各液晶セル121bにカラーフィルタを配置した例を示している。
千鳥配置の遮光パターンの場合、隣り合う画素の遮光と非遮光が異なるため、応答速度が、縦ストライプの遮光パターンより改善される効果がある。
<液晶シャッタの液晶セルの遮光/非遮光と電荷信号の読み出しタイミング>
図17の(a)部分に示すように液晶シャッタ12の液晶セル12bL,12bRの遮光/非遮光のタイミングを、電荷信号の読み出しタイミングの前後で行う場合、液晶セル12bLを読み出しと同時に遮光する駆動を行っても、液晶セル12bLが遮光状態に至るまでに時間遅延(数10μSec程度)が生じる。そのため、画素リセット後にも液晶セル12bLが遮光されるまでの間は露光してしまう。これは、両視差画像のクロストークとなり、視差分離の劣化となる。特に露光時間が1水平期間以内となると無視できない量となり劣化が顕著となる。
図17の(a)部分に示すように液晶シャッタ12の液晶セル12bL,12bRの遮光/非遮光のタイミングを、電荷信号の読み出しタイミングの前後で行う場合、液晶セル12bLを読み出しと同時に遮光する駆動を行っても、液晶セル12bLが遮光状態に至るまでに時間遅延(数10μSec程度)が生じる。そのため、画素リセット後にも液晶セル12bLが遮光されるまでの間は露光してしまう。これは、両視差画像のクロストークとなり、視差分離の劣化となる。特に露光時間が1水平期間以内となると無視できない量となり劣化が顕著となる。
そこで、図17の(b)部分に示すように液晶セル12bLの遮光タイミングを、読み出しタイミング及び電荷リセットよりも、液晶セル12bLが遮光状態に至るまでの応答時間分だけ前に設定することで、上記の漏れ込みを防ぐことができる。
上記応答時間は、液晶セル毎に異なる場合がある。その場合、予め液晶セル毎の応答時間あるいは係数を記憶し、設定タイミングを補正しても良い。更には、温度特性や経時変化等を考慮して、係数を適宜変更するようにしても良い。
[撮像装置の他の実施形態]
図18は本発明に係る撮像装置の他の実施の形態を示すブロック図である。尚、図18において、図1に示した実施の形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図18は本発明に係る撮像装置の他の実施の形態を示すブロック図である。尚、図18において、図1に示した実施の形態と共通する部分には同一の符号を付し、その詳細な説明は省略する。
図18に示す撮像装置1は、図1に示した撮像装置1と比べて、AE/AF制御部30、第1画像記憶部32、第2画像記憶部34、補正係数記憶部36、乗算器38、40、減算器42、44、及び第3画像記憶部46が追加されている。
AE/AF制御部30は、画像処理部20を介して画像信号を入力し、入力した画像信号を積算することにより被写体輝度を算出する。AE/AF制御部30は、算出した被写体輝度に基づいて露出条件を決定し、液晶駆動部16を介してローリングシャッタによる電荷蓄積時間(シャッタ速度)を制御する。
また、AE/AF制御部30は、画像処理部20を介して入力する左右の視差画像からAF領域の視差画像を抽出する。AE/AF制御部30は、抽出したAF領域の視差画像の位相ずれが最小になるように撮影レンズ10のレンズ位置を制御することにより、位相差AFを行う。
上記のようにAE/AF制御された後、本撮像された左右の視差画像は、それぞれ画像処理部20で信号処理されたのち、第1画像記憶部32及び第2画像記憶部34に一旦記憶される。
図19の(a)部分は、左右の視差画像に対応する画素R画像と画素L画像との間で漏れ込み(クロストーク)が無い状態を示している。しかし、画素R露光時は反対側の画素L側は遮光状態とされているが、液晶セルの透過率を0にすることは困難であり、5~10%程度の光量を透過してしまう可能性がある。画素L露光時も同様である。
図19の(b)部分は上記のような漏れ込みがある状態を示している。両視差画像間にクロストークが発生すると、視差分離が劣化する要因となる。即ち、立体感不足となる。
そこで、画素R露光画像から漏れ光量による画素L露光分の規定量を差し引くことで、上記クロストークによる不具合を改善する。
具体的には、左右の視差画像をそれぞれ第1画像記憶部32、第2画像記憶部34に保存した後、それぞれ左右の視差画像を減算器42、44の一方の入力に加える。減算器42の他方の入力には、乗算器40から第2画像記憶部34に記憶された視差画像と所定の係数k2とを乗算した補正量(規定量)が加えられており、減算器42は、視差画像から乗算器40により算出された補正量を減算し、補正した視差画像を第3記憶部46に出力する。同様に、減算器44の他方の入力には、乗算器38から第1画像記憶部32に記憶された視差画像と所定の係数k1とを乗算した補正量が加えられており、減算器44は、視差画像から乗算器38により算出された補正値を減算し、補正した視差画像を第3記憶部46に出力する。
尚、所定の係数k1,k2は、補正係数記憶部36に記憶されており、それぞれ乗算器38、40に加えられるようになっている。この場合、補正係数記憶部36に、予め画素毎の透過率もしくは透過率に基づいた係数を記憶させ、画像信号の各画素に対応した係数により補正しても良い。更には、温度特性や経計時変化等を考慮して、係数を適宜変更するようにしても良い。
第3画像記憶部46に記憶されたクロストーク補正後の左右の視差画像は、表示部22に表示され、又は記録部24により記録され、あるいは外部出力部26を介して外部機器に送信される。
<撮影モード>
本実施例の撮像装置1は、2D画像、3D画像の静止画、又は動画の撮影・再生が可能なカメラであるが、以下に示す複数のモードを有しており、これらのモードから選択したモードにて撮影できるようになっている。
本実施例の撮像装置1は、2D画像、3D画像の静止画、又は動画の撮影・再生が可能なカメラであるが、以下に示す複数のモードを有しており、これらのモードから選択したモードにて撮影できるようになっている。
(1)2D撮影…静止画/動画モード
この場合、液晶シャッタは全て非遮光状態とし、通常の撮影動作を行う。また、液晶シャッタ12(図2、図3)、及び液晶シャッタ121(図9、図10)のいずれも使用することができるが、液晶シャッタ121の場合には、図13及び図16に示したように液晶シャッタ121の各液晶セル121bにカラーフィルタを配置したものは使用できない。
この場合、液晶シャッタは全て非遮光状態とし、通常の撮影動作を行う。また、液晶シャッタ12(図2、図3)、及び液晶シャッタ121(図9、図10)のいずれも使用することができるが、液晶シャッタ121の場合には、図13及び図16に示したように液晶シャッタ121の各液晶セル121bにカラーフィルタを配置したものは使用できない。
(2)3D静止画…高解像度モード/低解像度モード
高解像度モードの撮影時は、図20の(a)部分に示すように2つの遮光パターンA,Bを使用して液晶シャッタを駆動し、2回撮影を行う。第1フレーム期間では遮光パターンA,Bによる2回の撮影と、遮光パターンAで露光した画像の読み出しが行われ、第2フレーム期間では遮光パターンBで露光した画像の読み出しが行われる。尚、この場合の液晶シャッタの動作及び読み出しの詳細は、図5で説明した通りである。
高解像度モードの撮影時は、図20の(a)部分に示すように2つの遮光パターンA,Bを使用して液晶シャッタを駆動し、2回撮影を行う。第1フレーム期間では遮光パターンA,Bによる2回の撮影と、遮光パターンAで露光した画像の読み出しが行われ、第2フレーム期間では遮光パターンBで露光した画像の読み出しが行われる。尚、この場合の液晶シャッタの動作及び読み出しの詳細は、図5で説明した通りである。
低解像度モードの撮影時は、図20の(b)部分に示すように遮光パターンA、又は遮光パターンBのいずれか1つを使用して液晶シャッタを駆動し、1回撮影を行う。
この場合、遮光パターンA、又は遮光パターンBは、1回の撮影で左右の視差画像を取得することができるパターンにする必要があり、図7、図8、図11、図14、及び図15に示した遮光パターンを使用することができる。
(3)3D動画…高フレームレートモード/低フレームレートモード
高フレームレートモードの撮影時は、図20の(b)部分に示すように2つの遮光パターンA,Bのいずれか一方の遮光パターンを使用し、又は遮光パターンAとBを交互に繰り返し使用して液晶シャッタを駆動し、1フレーム毎に1回の撮影及び電荷信号の読み出しを行う。尚、この場合、フレームレートは速くなるが、1フレームの画像サイズは、イメージセンサ14の画素数の半分になる。
高フレームレートモードの撮影時は、図20の(b)部分に示すように2つの遮光パターンA,Bのいずれか一方の遮光パターンを使用し、又は遮光パターンAとBを交互に繰り返し使用して液晶シャッタを駆動し、1フレーム毎に1回の撮影及び電荷信号の読み出しを行う。尚、この場合、フレームレートは速くなるが、1フレームの画像サイズは、イメージセンサ14の画素数の半分になる。
低フレームレートモードの撮影時は、図20の(a)部分に示すように2つの遮光パターンA,Bを使用して液晶シャッタを駆動し、2回撮影を行う。第1フレーム期間では遮光パターンA,Bによる2回の撮影と、遮光パターンAで露光した画像の読み出しが行われ、第2フレーム期間では遮光パターンBで露光した画像の読み出しが行われる。そして、この動作を繰り返す。これにより、2フレーム期間を使用して1フレーム分の3D動画が撮影されることになり、フレームレートが低くなる。尚、1フレームの画像サイズは、イメージセンサ14の画素数と同じにすることができる。
[その他]
液晶シャッタの液晶セルは、遮光/非遮光の2値で制御する場合に限らず、非遮光時に透過率を制御することにより、露出制御を行うようにしてもよい。単眼の撮影レンズを使用した左右の視差画像は、一般に視差が大きくないが、特に絞り径が小さいと、視差がつきにくくなる。そこで、絞りは固定の開放絞りとし、液晶シャッタで透過率を制御することにより露出制御を行うことが好ましい。
液晶シャッタの液晶セルは、遮光/非遮光の2値で制御する場合に限らず、非遮光時に透過率を制御することにより、露出制御を行うようにしてもよい。単眼の撮影レンズを使用した左右の視差画像は、一般に視差が大きくないが、特に絞り径が小さいと、視差がつきにくくなる。そこで、絞りは固定の開放絞りとし、液晶シャッタで透過率を制御することにより露出制御を行うことが好ましい。
また、液晶シャッタの各液晶セルのシャッタ駆動は、1セル毎に行う場合に限らず、1ライン毎に行うようにしてもよい。また、上記実施形態では、シャッター素子群の制御をライン毎に行うことを主に記載しているが、個々のシャッター素子毎に制御してもよい。
尚、本実施の形態では、画素毎に動的に瞳分割を切り替える瞳分割手段として液晶シャッタを使用したが、これに限らず、個々のエリアを電圧、電流等の電気的制御により、その透過率を個別に可変可能なものであれば、いかなるものでもよい。
また、本発明は上述した実施の形態に限定されず、本発明の精神を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
1、100…撮像装置、10…撮影レンズ、12、121…液晶シャッタ、12bL,12bR、121b…液晶セル、14…イメージセンサ、16、161…液晶駆動部、18…センサ駆動部、20…画像処理部、22…表示部、24…記録部、30…AE/AF制御部、36…補正係数記憶部、38、40…乗算器、42、44…減算器
Claims (20)
- 単一の撮影光学系と、
2次元配列された複数の光電変換画素を有し、前記撮影光学系を介して被写体像が結像される撮像素子と、
前記撮像素子の光電変換素子毎又はライン毎に露光を開始させるとともに、順次電荷信号を読み出すローリング読出手段と、
前記撮影光学系のそれぞれ異なる第1、第2の領域を通過した被写体像を瞳分割して前記撮像素子に入射させる瞳分割手段であって、各光電変換画素の受光面を2分割した第1及び第2の分割面への入射光の透過率を個々に制御可能なシャッタ素子群を有する瞳分割手段と、
前記ローリング読出手段によるローリング読出しに同期して、前記瞳分割手段のシャッタ素子群における透過率を制御する透過率制御手段と、
を備えた撮像装置。 - 前記透過率制御手段は、
第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素の第1の分割面及び第2の分割面のうちの一方の分割面に対応するシャッタ素子群の透過率を高くし、他方の分割面に対応するシャッタ素子群の透過率を最小にし、
第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素の第1の分割面及び第2の分割面のうちの他方の分割面に対応するシャッタ素子群の透過率を高くし、一方の分割面に対応するシャッタ素子群の透過率を最小にする請求項1に記載の撮像装置。 - 前記瞳分割手段のシャッタ素子群は、前記撮像素子の各光電変換画素の第1の分割面及び第2の分割面の上面に、それぞれ透過率の制御が可能なシャッタ素子が配置されてなる請求項1又は2に記載の撮像装置。
- 前記瞳分割手段のシャッタ素子群は、前記撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置されてなる請求項1又は2に記載の撮像装置。
- 前記透過率制御手段は、
第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、前記光電変換画素の第1の分割面及び第2の分割面のうちの第1の分割面に対応するシャッタ素子群の透過率を最小にし、前記第2の分割面に対応するシャッタ素子群の透過率を高くし、
第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、前記光電変換画素の第1の分割面及び第2の分割面のうちの第2の分割面に対応するシャッタ素子群の透過率を最小にし、前記第2の分割面に対応するシャッタ素子群の透過率を高くする請求項1から3のいずれか1項に記載の撮像装置。 - 前記透過率制御手段は、
第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素または各ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、各光電変換画素または各ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くし、
第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、各光電変換画素または各ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、各光電変換画素または各ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くする請求項1から4のいずれか1項に記載の撮像装置。 - 前記透過率制御手段は、
第1の撮影の第1の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、奇数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、奇数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くするとともに、偶数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、偶数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くし、
第2の撮影の第2の露光に対応する電荷信号の取得時における各光電変換画素または各ラインの露光開始から終了までの期間は、奇数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を最小にし、奇数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を高くするとともに、偶数ラインの奇数番目の光電変換素子の第1の分割面及び偶数番目の光電変換素子の第2の分割面に対応するシャッタ素子群の透過率を最小にし、偶数ラインの奇数番目の光電変換素子の第2の分割面及び偶数番目の光電変換素子の第1の分割面に対応するシャッタ素子群の透過率を高くする請求項1から4のいずれか1項に記載の撮像装置。 - 前記撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、
前記撮像素子の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている請求項6に記載の撮像装置。 - 前記撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、
前記撮像素子の奇数ライン及び偶数ラインの一方のラインには、GRGRの順に繰り返してカラーフィルタが配設され、他方のラインには、BGBGの順に繰り返してカラーフィルタが配設されている請求項5に記載の撮像装置。 - 前記瞳分割手段のシャッタ素子群は、前記撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置され、かつ各シャッタ素子上に赤(R)、緑(G)、青(B)のカラーフィルタが配設されて構成され、
前記2次元配列されたシャッタ素子群の奇数ライン及び偶数ラインの一方のラインには、GRGRの順に繰り返してカラーフィルタが配設され、他方のラインには、BGBGの順に繰り返してカラーフィルタが配設されている請求項6に記載の撮像装置。 - 前記瞳分割手段のシャッタ素子群は、前記撮像素子の隣接する光電変換画素の2つの受光面に跨がって、それぞれ透過率の制御が可能な1つのシャッタ素子が配置され、かつ各シャッタ素子上に赤(R)、緑(G)、青(B)のカラーフィルタが配設されて構成され、
前記2次元配列されたシャッタ素子群の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている請求項7に記載の撮像装置。 - 前記撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、
前記撮像素子の奇数ライン及び偶数ラインの一方のラインには、GGRRGGRRの順に繰り返してカラーフィルタが配設され、他方のラインには、BBGGBBGGの順に繰り返してカラーフィルタが配設されている請求項6に記載の撮像装置。 - 前記撮像素子は、赤(R)、緑(G)、青(B)のカラーフィルタが各光電変換画素に対応して配設されたカラー撮像素子であり、
前記撮像素子の各光電変換画素または各ラインには、GBGRの順に繰り返してカラーフィルタが配設されている請求項7に記載の撮像装置。 - 前記ローリング読出手段は、読み出しパルスを出力して前記光電変換画素から電荷信号を読み出すと、直ちにリセットパルスを出力して該光電変換画素に蓄積された信号電荷を掃き出し、次の信号電荷の蓄積を再開させる請求項1から13のいずれか1項に記載の撮像装置。
- 前記透過率制御手段は、前記読み出しパルスの出力タイミングよりも前記シャッタ素子の応答遅れ時間に相当する所定時間前に、該読み出しパルスにより読み出される前記光電変換画素の第1の分割面又は第2の分割面に対応するシャッタ素子群の透過率を最小にする駆動を開始させる請求項14に記載の撮像装置。
- 前記ローリング読出手段により読み出された第1の撮影の第1の露光及び第2の撮影の第2の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段を備え、
前記画像処理手段は、前記第1の画像信号から第2の画像信号の規定量を差し引くとともに、前記第2の画像信号から第1の画像信号の規定量を差し引いて新たな第1の画像信号及び第2の画像信号を生成する請求項1から15のいずれか1項に記載の撮像装置。 - 前記画像処理手段は、前記瞳分割手段のシャッタ素子群の高い透過率と最小の透過率とに基づく補正係数を予め記憶する記憶手段を有し、前記補正係数と前記第2の画像信号とを乗算して前記第2の画像信号の規定量を算出し、前記補正係数と前記第1の画像信号とを乗算して前記第1の画像信号の規定量を算出する請求項16に記載の撮像装置。
- 高解像度の立体静止画を撮影する高解像度モードと、低解像度の立体静止画を撮影する低解像度モードとを有し、該高解像度モードと低解像度モードとを切り替える切替手段と、
前記切替手段により高解像度モードから低解像度モードに切り替えられると、前記第1の露光に対応する電荷信号のみを読み出す前記ローリング読出手段と、
前記ローリング読出手段により読み出された前記第1の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段と、
を備えた請求項6又は7に記載の撮像装置。 - 高フレームレートの立体動画を撮影する高フレームレートモードと、低フレームレートの立体動画を撮影する低フレームレートモードとを有し、該高フレームレートモードと低フレームレートモードとを切り替える切替手段と、
前記切替手段により低フレームレートモードから高フレームレートモードに切り替えられると、前記第1の露光及び第2の露光に対応する電荷信号のうちのいずれか一方を読み出すか又は双方を交互に読み出す前記ローリング読出手段と、
前記ローリング読出手段により読み出された前記第1の露光又は第2の露光に対応する電荷信号に基づいて視差の異なる第1の視差画像及び第2の視差画像を示す第1の画像信号及び第2の画像信号を生成する画像処理手段と、
を備えた請求項6又は7に記載の撮像装置。 - 立体画像を撮影する立体画像撮影モードと、平面画像を撮影する平面画像を撮影する平面画像撮影モードとを有し、該立体画像撮影モードと平面画像撮影モードとを切り替える切替手段と、
前記切替手段により立体画像撮影モードから平面画像撮影モードに切り替えられると、前記シャッタ素子群の全てのシャッタ素子群の透過率を高くする前記透過率制御手段と、
を備えた請求項1から8、及び11から19のいずれか1項に記載の撮像装置。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011187560 | 2011-08-30 | ||
JP2011-187560 | 2011-08-30 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2013031348A1 true WO2013031348A1 (ja) | 2013-03-07 |
Family
ID=47755860
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2012/065834 WO2013031348A1 (ja) | 2011-08-30 | 2012-06-21 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
WO (1) | WO2013031348A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108171682A (zh) * | 2017-12-04 | 2018-06-15 | 北京中科慧眼科技有限公司 | 基于远景的双目同步曝光率检测方法、系统及存储介质 |
WO2022023859A1 (ja) * | 2020-07-31 | 2022-02-03 | 株式会社半導体エネルギー研究所 | 撮像装置、電子機器および移動体 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63138890A (ja) * | 1986-12-01 | 1988-06-10 | Canon Inc | 撮像装置 |
JP2001016611A (ja) * | 1999-06-29 | 2001-01-19 | Fuji Photo Film Co Ltd | 視差画像撮像装置及びカメラ |
JP2002027499A (ja) * | 2000-07-03 | 2002-01-25 | Canon Inc | 撮像装置及びその制御方法 |
JP2006080653A (ja) * | 2004-09-07 | 2006-03-23 | Olympus Corp | 電子カメラ |
JP2011191556A (ja) * | 2010-03-15 | 2011-09-29 | Sony Corp | 撮像装置 |
JP2011248032A (ja) * | 2010-05-26 | 2011-12-08 | Nippon Hoso Kyokai <Nhk> | 立体撮像装置 |
-
2012
- 2012-06-21 WO PCT/JP2012/065834 patent/WO2013031348A1/ja active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS63138890A (ja) * | 1986-12-01 | 1988-06-10 | Canon Inc | 撮像装置 |
JP2001016611A (ja) * | 1999-06-29 | 2001-01-19 | Fuji Photo Film Co Ltd | 視差画像撮像装置及びカメラ |
JP2002027499A (ja) * | 2000-07-03 | 2002-01-25 | Canon Inc | 撮像装置及びその制御方法 |
JP2006080653A (ja) * | 2004-09-07 | 2006-03-23 | Olympus Corp | 電子カメラ |
JP2011191556A (ja) * | 2010-03-15 | 2011-09-29 | Sony Corp | 撮像装置 |
JP2011248032A (ja) * | 2010-05-26 | 2011-12-08 | Nippon Hoso Kyokai <Nhk> | 立体撮像装置 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108171682A (zh) * | 2017-12-04 | 2018-06-15 | 北京中科慧眼科技有限公司 | 基于远景的双目同步曝光率检测方法、系统及存储介质 |
WO2022023859A1 (ja) * | 2020-07-31 | 2022-02-03 | 株式会社半導体エネルギー研究所 | 撮像装置、電子機器および移動体 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5628913B2 (ja) | 撮像装置および撮像方法 | |
CN103493484B (zh) | 成像装置和成像方法 | |
JP5515396B2 (ja) | 撮像装置 | |
JP5547349B2 (ja) | デジタルカメラ | |
CN102342116B (zh) | 三维摄像装置 | |
JP5621056B2 (ja) | カラー撮像素子 | |
US20150301351A1 (en) | Image processing apparatus, image processing method, and program for generating a three dimensional image to be stereoscopically viewed | |
WO2012039180A1 (ja) | 撮像デバイス及び撮像装置 | |
JP5594067B2 (ja) | 画像処理装置および画像処理方法 | |
US9648305B2 (en) | Stereoscopic imaging apparatus and stereoscopic imaging method | |
JP2010056865A (ja) | 撮像装置 | |
US9100558B2 (en) | Color imaging element and imaging apparatus | |
JP2012015819A (ja) | 立体画像撮像装置 | |
US20180158487A1 (en) | Imaging device and playback device | |
JP2010154310A (ja) | 複眼カメラ及び撮影方法 | |
JP5628914B2 (ja) | 撮像装置および撮像方法 | |
WO2012169301A1 (ja) | 立体動画像及び平面動画像を撮像する撮像素子及びこの撮像素子を搭載する撮像装置 | |
WO2013031348A1 (ja) | 撮像装置 | |
JP6917803B2 (ja) | 撮像装置、制御方法、及びプログラム | |
JP6004741B2 (ja) | 画像処理装置およびその制御方法、撮像装置 | |
JP2013172218A (ja) | 撮像装置、画像処理方法およびプログラム | |
JP2012124650A (ja) | 撮像装置および撮像方法 | |
WO2013042606A1 (ja) | デジタルカメラ及び固体撮像装置 | |
JP5907668B2 (ja) | 撮像装置及び撮像素子 | |
JP2004194248A (ja) | 撮像素子及び撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 12828701 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 12828701 Country of ref document: EP Kind code of ref document: A1 |
|
NENP | Non-entry into the national phase |
Ref country code: JP |