JP2013162362A - 撮像装置および撮像プログラム - Google Patents
撮像装置および撮像プログラム Download PDFInfo
- Publication number
- JP2013162362A JP2013162362A JP2012023356A JP2012023356A JP2013162362A JP 2013162362 A JP2013162362 A JP 2013162362A JP 2012023356 A JP2012023356 A JP 2012023356A JP 2012023356 A JP2012023356 A JP 2012023356A JP 2013162362 A JP2013162362 A JP 2013162362A
- Authority
- JP
- Japan
- Prior art keywords
- photoelectric conversion
- pixel
- conversion element
- parallax
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Abstract
【課題】単一の撮影光学系を用いて、任意の数の視差を有する画像を一度の撮影で生成する場合には、2つの撮像光学系を用いる場合に比べて、得られる画像の画質は低下するという課題が存在した。
【解決手段】撮像装置は、隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、n個の光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子と、入射光束を撮像素子に対してシフトさせるシフトユニットを、一組の光電変換素子群において、光束制限部が設けられた基準となる光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動しつつ、撮像素子による複数回の撮像動作を実行する撮像制御部とを備える。
【選択図】図1
【解決手段】撮像装置は、隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、n個の光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子と、入射光束を撮像素子に対してシフトさせるシフトユニットを、一組の光電変換素子群において、光束制限部が設けられた基準となる光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動しつつ、撮像素子による複数回の撮像動作を実行する撮像制御部とを備える。
【選択図】図1
Description
本発明は、撮像装置および撮像プログラムに関する。
2つの撮像光学系を用いて、右目用の画像と左目用の画像とから成るステレオ画像を撮像する撮像装置が知られている(特許文献1参照)。このような撮像装置は、2つの撮像光学系を一定の間隔で配置することにより、同一の被写体を撮像して得られる2つの画像に視差を生じさせる。
[先行技術文献]
[特許文献]
[特許文献1] 特開平8−47001号公報
[先行技術文献]
[特許文献]
[特許文献1] 特開平8−47001号公報
しかしながら、複数の視差を生じさせる画像を取得するには、その数に応じた複雑な撮影光学系を用意しなければならなかった。そこで、近年、単一の撮影光学系を用いて、互いに視差を有する複数の視差画像を一度の撮影で生成する撮像装置が知られている。ただし、単一の撮影光学系を用いて、互いに視差を有する複数の視差画像を一度の撮影で生成する場合には、複数の撮像光学系を用いる場合に比べて、得られる画像の画質は低下するという課題が存在した。
本発明の第1の態様における撮像装置は、隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、n個の前記光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子と、入射光束を撮像素子に対してシフトさせるシフトユニットを、一組の光電変換素子群において、光束制限部が設けられた基準となる光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動しつつ、撮像素子による複数回の撮像動作を実行する撮像制御部とを備える。
本発明の第2の態様における撮像プログラムは、隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、n個の光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子による撮像動作を実行する第1撮像ステップと、入射光束を撮像素子に対してシフトさせるシフトユニットを、一組の光電変換素子群において、光束制限部が設けられた基準となる光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動するシフトステップと、撮像素子による撮像動作を再度実行する第2撮像ステップとをコンピュータに実行させる。
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
本実施形態に係る撮像装置の一例としてのデジタルカメラは、1つのシーンについて複数の視点数の画像を一度の撮影により生成できるように構成されている。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。
図1は、本発明の実施形態に係るデジタルカメラ10の構成を説明する図である。デジタルカメラ10は、本体ユニット30と本体ユニット30に着脱できるレンズユニット50とから構成される。レンズユニット50が備える撮影レンズ20は、光軸21に沿って入射する入射光束を、本体ユニット30が備える撮像素子100へ導く。本実施形態においては、デジタルカメラ10を、レンズユニット50が交換できるレンズ交換式カメラとして説明するが、レンズユニット50が本体ユニット30と一体的に構成されるタイプのカメラであっても良い。
本体ユニット30は、撮像素子100、制御部201、A/D変換回路202、メモリ203、駆動部204、画像処理部205、メモリカードIF207、操作部208、表示部209、表示制御部210、AFセンサ211およびレリーズスイッチ212を備える。レンズユニット50は、撮影レンズ20に加え、レンズ制御部231、レンズメモリ232、フォーカスレンズ駆動部233、シフトユニットの一例としての補正レンズユニット234を備える。
なお、図示するように、撮像素子100へ向かう光軸21に平行な方向をz軸プラス方向と定め、z軸と直交する平面において紙面手前へ向かう方向をx軸プラス方向、紙面上方向をy軸プラス方向と定める。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
撮影レンズ20は、フォーカスレンズ22、補正レンズ23等を含む複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。撮像素子100は、撮影レンズ20の焦点面近傍に配置されている。撮像素子100は、二次元的に複数の光電変換素子が配列された、例えばCCD、CMOSセンサ等のイメージセンサである。撮像素子100は、駆動部204によりタイミング制御されて、受光面上に結像された被写体像を画像信号に変換してA/D変換回路202へ出力する。
A/D変換回路202は、撮像素子100が出力する画像信号をデジタル画像信号に変換してメモリ203へ出力する。画像処理部205は、メモリ203をワークスペースとして種々の画像処理を施し、画像データを生成する。また、画像処理部205は、撮像素子100の画素配列に即して、入力される画像信号から非視差画像データとしての2D画像データおよび視差画像データを生成したり、選択された画像フォーマットに従って画像データを調整したりする機能も担う。生成された画像データは、表示制御部210により表示信号に変換され、表示部209に表示され得る。また、生成された画像データは、メモリカードIF207に装着されているメモリカード220に記録され得る。
AFセンサ211は、被写体空間に対して複数の測距点が設定された位相差センサであり、それぞれの測距点において被写体像のデフォーカス量を検出する。一連の撮影シーケンスは、操作部208がユーザの操作を受け付けて、制御部201へ操作信号を出力することにより開始される。撮影シーケンスに付随するAF,AE等の各種動作は、制御部201に制御されて実行される。例えば、制御部201は、AFセンサ211の検出信号を解析して、撮影レンズ20の一部を構成するフォーカスレンズを移動させる合焦制御信号をレンズ制御部231へ送信する。
レリーズスイッチ212は、押下げ方向に2段階に検知できる押しボタンで構成されている。制御部201は、1段階目の押下げであるSW1の検知により撮影準備動作であるAF、AE等を実行し、2段階目の押下げであるSW2の検知により撮像素子100による撮像動作を実行する。
デジタルカメラ10は、通常の画質モードの他に高精細モードを備える。高精細モードには、視差画像の高精細化に重点を置いた高精細視差モード、カラー画像の高精細化に重点を置いた高精細カラーモード、2D画像の高精細化に重点を置いた高精細2Dモードが含まれる。これら複数の高精細モードにおいて設定可能なモードは、撮像素子の種類によって定まる。ユーザは、設定可能ないずれかのモードを、メニュー画面が表示された表示部209を視認しながら、操作部208を操作することにより選択することができる。なお、デジタルカメラの機種に応じて、高精細モードのいずれかのモードが予め設定されていてもよい。
制御部201の一部であるカメラメモリ213は、例えばフラッシュメモリなどの不揮発性メモリであり、デジタルカメラ10を制御するプログラム、各種パラメータなどを記憶する役割を担う。カメラメモリ213は、例えば、高精細モードにおける設定可能なモード毎に、補正レンズ23を駆動する際のシフト方向およびシフト量、並びに撮像回数を記憶している。
画質モードが高精細モードに設定されている場合、制御部201は、カメラメモリ213を参照し、設定されているモードに応じたシフト方向およびシフト量を定める。そして、制御部201は、レンズ制御部231および補正レンズ駆動部235を介して補正レンズ23を駆動しつつ、撮像素子100による複数回の撮像動作を実行する。画質モードが高精細モードに設定されている場合における、制御部201の具体的な処理内容は、後述する。
レンズ制御部231は、レンズユニット50の制御を司る。レンズ制御部231は、例えば、合焦制御信号を制御部201から受信して、フォーカスレンズ駆動部233を介してフォーカスレンズを移動させる。また、レンズ制御部231は、フォーカスレンズ22を含む撮影レンズ20の現在位置を検出して制御部201へ送信する。
補正レンズユニット234は、補正レンズ23、補正レンズ駆動部235を含む。補正レンズ駆動部235は、補正レンズ23の位置を検出する位置検出センサと、デジタルカメラ10に加えられるブレを検出する振れ検出センサと、補正レンズ23を駆動する2つのVCM(Voice Coil Motor)を備える。補正レンズ駆動部235は、振れ検出センサから検出されたデジタルカメラ10のブレを打ち消すように、位置検出センサの出力を加味して、VCMによって補正レンズ23を駆動する。これにより、被写体像は、撮像素子100の受光面上で安定した結像状態を維持する。
画質モードが高精細モードに設定されている場合には、レンズ制御部231は、制御部201の制御に従って、定められたシフト方向およびシフト量に応じて補正レンズ23を駆動するよう補正レンズ駆動部235を制御する。補正レンズ駆動部235は、定められたシフト方向およびシフト量に応じて補正レンズ23を駆動する。
レンズメモリ232は、レンズユニット50に関する各種特性値を記憶している不揮発性メモリである。レンズ制御部231は、制御部201の要求に従って、撮影レンズ20の位置情報、レンズメモリ232が記憶している各種特性値等をレンズ情報として制御部201へ送信する。
次に、撮像素子100の構成について詳細に説明する。図2は、撮像素子100の断面を表す概略図である。図示するように、撮像素子100は、被写体側から順に、マイクロレンズ101、カラーフィルタ102、光束制限部の一例としての開口マスク103、配線層105および光電変換素子108が配列されて構成されている。光電変換素子108は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換素子108は、基板109の表面に二次元的に複数配列されている。
光電変換素子108により変換された画像信号、光電変換素子108を制御する制御信号等は、配線層105に設けられた配線106を介して送受信される。開口マスク103は、開口部104を有し、光電変換素子108の少なくとも一部のそれぞれに一対一に対応して設けられている。開口マスク103は、対応する光電変換素子108の上方に、配線層105に接した状態で設けられている。開口部104は、後述するように、対応する光電変換素子108ごとにシフトさせて、相対的な位置が厳密に定められている。詳しくは後述するが、この開口部104を備える開口マスク103の作用により、光電変換素子108が受光する被写体光束に視差が生じる。
一方、視差を生じさせない光電変換素子108上には、開口マスク103が存在しない。別言すれば、対応する光電変換素子108に対して入射する被写体光束を制限しない、つまり有効光束の全体を通過させる開口部104を有する開口マスク103が設けられているとも言える。視差を生じさせることはないが、実質的には配線106によって形成される開口107が入射する被写体光束を規定するので、配線106を、視差を生じさせない有効光束の全体を通過させる開口マスクと捉えることもできる。開口マスク103は、各光電変換素子108に対応して別個独立に配列しても良いし、カラーフィルタ102の製造プロセスと同様に複数の光電変換素子108に対して一括して形成しても良い。
カラーフィルタ102は、開口マスク103上に設けられている。カラーフィルタ102は、各光電変換素子108に対して特定の波長帯域を透過させるように着色された、光電変換素子108のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも2種類のカラーフィルタが配列されれば良いが、より高画質のカラー画像を取得するには3種類以上のカラーフィルタを配列すると良い。例えば赤色波長帯を透過させる赤フィルタ、緑色波長帯を透過させる緑フィルタ、および青色波長帯を透過させる青フィルタを格子状に配列すると良い。具体的な配列については後述する。
マイクロレンズ101は、カラーフィルタ102上に設けられている。マイクロレンズ101は、入射する被写体光束のより多くを光電変換素子108へ導くための集光レンズである。マイクロレンズ101は、光電変換素子108のそれぞれに一対一に対応して設けられている。マイクロレンズ101は、撮影レンズ20の瞳中心と光電変換素子108の相対的な位置関係を考慮して、より多くの被写体光束が光電変換素子108に導かれるようにその光軸がシフトされていることが好ましい。さらには、開口マスク103の開口部104の位置と共に、後述の特定の被写体光束がより多く入射するように配置位置が調整されても良い。
このように、各々の光電変換素子108に対応して一対一に設けられる開口マスク103、カラーフィルタ102およびマイクロレンズ101の一単位を画素と呼ぶ。特に、視差を生じさせる開口マスク103が設けられた画素を視差画素、視差を生じさせる開口マスク103が設けられていない画素を視差なし画素と呼ぶ。例えば、撮像素子100の有効画素領域が24mm×16mm程度の場合、画素数は1200万程度に及ぶ。
なお、集光効率、光電変換効率が良いイメージセンサの場合は、マイクロレンズ101を設けなくても良い。また、裏面照射型イメージセンサの場合は、配線層105が光電変換素子108とは反対側に設けられる。
次に、開口マスク103の開口部104と、生じる視差の関係について説明する。図3は、撮像素子100の一部を拡大した様子を表す概略図である。ここでは、説明を簡単にすべく、カラーフィルタ102の配色については後に言及を再開するまで考慮しない。カラーフィルタ102の配色に言及しない以下の説明においては、同色のカラーフィルタ102を有する視差画素のみを寄せ集めたイメージセンサであると捉えることができる。したがって、以下に説明する繰り返しパターンは、同色のカラーフィルタ102における隣接画素として考えても良い。
図3に示すように、開口マスク103の開口部104は、それぞれの画素に対して相対的にシフトして設けられている。そして、隣接する画素同士においても、それぞれの開口部104は互いに変位した位置に設けられている。
図の例においては、それぞれの画素に対する開口部104の位置として、互いに左右方向にシフトした6種類の開口マスク103が用意されている。そして、撮像素子100の全体は、紙面左側から右側へ徐々にシフトする開口マスク103をそれぞれ有する6つの視差画素を一組とする光電変換素子群が、二次元的かつ周期的に配列されている。つまり、撮像素子100は、一組の光電変換素子群を含む繰り返しパターン110が、周期的に敷き詰められて構成されていると言える。
図4は、視差画素と被写体の関係を説明する概念図である。特に図4(a)は撮像素子100のうち撮影光軸21と直交する中心に配列されている繰り返しパターン110tの光電変換素子群を示し、図4(b)は周辺部分に配列されている繰り返しパターン110uの光電変換素子群を模式的に示している。図4(a)、(b)における被写体90は、撮影レンズ20に対して合焦位置に存在する。図4(c)は、図4(a)に対応して、撮影レンズ20に対して非合焦位置に存在する被写体91を捉えた場合の関係を模式的に示している。
まず、撮影レンズ20が合焦状態に存在する被写体90を捉えている場合の、視差画素と被写体の関係を説明する。被写体光束は、撮影レンズ20の瞳を通過して撮像素子100へ導かれるが、被写体光束が通過する全体の断面領域に対して、6つの部分領域Pa〜Pfが規定されている。そして、例えば繰り返しパターン110t、110uを構成する光電変換素子群の紙面左端の画素は、拡大図からもわかるように、部分領域Pfから射出された被写体光束のみが光電変換素子108へ到達するように、開口マスク103の開口部104fの位置が定められている。同様に、右端の画素に向かって、部分領域Peに対応して開口部104eの位置が、部分領域Pdに対応して開口部104dの位置が、部分領域Pcに対応して開口部104cの位置が、部分領域Pbに対応して開口部104bの位置が、部分領域Paに対応して開口部104aの位置がそれぞれ定められている。
別言すれば、例えば部分領域Pfと左端画素の相対的な位置関係によって定義される、部分領域Pfから射出される被写体光束の主光線Rfの傾きにより、開口部104fの位置が定められていると言っても良い。そして、合焦位置に存在する被写体90からの被写体光束を、開口部104fを介して光電変換素子108が受光する場合、その被写体光束は、点線で図示するように、光電変換素子108上で結像する。同様に、右端の画素に向かって、主光線Reの傾きにより開口部104eの位置が、主光線Rdの傾きにより開口部104dの位置が、主光線Rcの傾きにより開口部104cの位置が、主光線Rbの傾きにより開口部104bの位置が、主光線Raの傾きにより開口部104aの位置がそれぞれ定められていると言える。
図4(a)で示すように、合焦位置に存在する被写体90のうち、光軸21と交差する被写体90上の微小領域Otから放射される光束は、撮影レンズ20の瞳を通過して、繰り返しパターン110tを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン110tを構成する光電変換素子群の各画素は、それぞれ6つの部分領域Pa〜Pfを介して、一つの微小領域Otから放射される光束を受光している。微小領域Otは、繰り返しパターン110tを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。同様に、図4(b)で示すように、合焦位置に存在する被写体90のうち、光軸21から離間した被写体90上の微小領域Ouから放射される光束は、撮影レンズ20の瞳を通過して、繰り返しパターン110uを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン110uを構成する光電変換素子群の各画素は、それぞれ6つの部分領域Pa〜Pfを介して、一つの微小領域Ouから放射される光束を受光している。微小領域Ouも、微小領域Otと同様に、繰り返しパターン110uを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。
つまり、被写体90が合焦位置に存在する限りは、撮像素子100上における繰り返しパターン110の位置に応じて、光電変換素子群が捉える微小領域が異なり、かつ、光電変換素子群を構成する各画素は互いに異なる部分領域を介して同一の微小領域を捉えている。そして、それぞれの繰り返しパターン110において、対応する画素同士は同じ部分領域からの被写体光束を受光している。つまり、図においては、例えば繰り返しパターン110t、110uのそれぞれの左端の画素は、同じ部分領域Pfからの被写体光束を受光している。
撮影光軸21と直交する中心に配列されている繰り返しパターン110tにおいて左端画素が部分領域Pfからの被写体光束を受光する開口部104fの位置と、周辺部分に配列されている繰り返しパターン110uにおいて左端画素が部分領域Pfからの被写体光束を受光する開口部104fの位置は厳密には異なる。しかしながら、機能的な観点からは、部分領域Pfからの被写体光束を受光するための開口マスクという点で、これらを同一種類の開口マスクとして扱うことができる。したがって、図4の例では、撮像素子100上に配列される視差画素のそれぞれは、6種類の開口マスクの一つを備えると言える。
次に、撮影レンズ20が非合焦状態に存在する被写体91を捉えている場合の、視差画素と被写体の関係を説明する。この場合も、非合焦位置に存在する被写体91からの被写体光束は、撮影レンズ20の瞳の6つの部分領域Pa〜Pfを通過して、撮像素子100へ到達する。ただし、非合焦位置に存在する被写体91からの被写体光束は、光電変換素子108上ではなく他の位置で結像する。例えば、図4(c)に示すように、被写体91が被写体90よりも撮像素子100に対して遠い位置に存在すると、被写体光束は、光電変換素子108よりも被写体91側で結像する。逆に、被写体91が被写体90よりも撮像素子100に対して近い位置に存在すると、被写体光束は、光電変換素子108よりも被写体91とは反対側で結像する。
したがって、非合焦位置に存在する被写体91のうち、微小領域Ot'から放射される被写体光束は、6つの部分領域Pa〜Pfのいずれを通過するかにより、異なる組の繰り返しパターン110における対応画素に到達する。例えば、部分領域Pdを通過した被写体光束は、図4(c)の拡大図に示すように、主光線Rd'として、繰り返しパターン110t'に含まれる、開口部104dを有する光電変換素子108へ入射する。そして、微小領域Ot'から放射された被写体光束であっても、他の部分領域を通過した被写体光束は、繰り返しパターン110t'に含まれる光電変換素子108へは入射せず、他の繰り返しパターンにおける対応する開口部を有する光電変換素子108へ入射する。換言すると、繰り返しパターン110t'を構成する各光電変換素子108へ到達する被写体光束は、被写体91の互いに異なる微小領域から放射された被写体光束である。すなわち、開口部104dに対応する108へは主光線をRd'とする被写体光束が入射し、他の開口部に対応する光電変換素子108へは主光線をRa+、Rb+、Rc+、Re+、Rf+とする被写体光束が入射するが、これらの被写体光束は、被写体91の互いに異なる微小領域から放射された被写体光束である。このような関係は、図4(b)における周辺部分に配列されている繰り返しパターン110uにおいても同様である。
すると、撮像素子100の全体で見た場合、例えば、開口部104aに対応する光電変換素子108で捉えた被写体像Aと、開口部104dに対応する光電変換素子108で捉えた被写体像Dは、合焦位置に存在する被写体に対する像であれば互いにずれが無く、非合焦位置に存在する被写体に対する像であればずれが生じることになる。そして、そのずれは、非合焦位置に存在する被写体が合焦位置に対してどちら側にどれだけずれているかにより、また、部分領域Paと部分領域Pdの距離により、方向と量が定まる。つまり、被写体像Aと被写体像Dは、互いに視差像となる。この関係は、他の開口部に対しても同様であるので、開口部104aから104fに対応して、6つの視差像が形成されることになる。
したがって、このように構成されたそれぞれの繰り返しパターン110において、互いに対応する画素の出力を寄せ集めると、視差画像が得られる。つまり、6つの部分領域Pa〜Pfうちの特定の部分領域から射出された被写体光束を受光した画素の出力は、視差画像を形成する。
図5は、視差画像を生成する処理を説明する概念図である。図は、左列から順に、開口部104fに対応する視差画素の出力を集めて生成される視差画像データIm_fの生成の様子、開口部104eの出力による視差画像データIm_eの生成の様子、開口部104dの出力による視差画像データIm_dの生成の様子、開口部104cの出力による視差画像データIm_cの生成の様子、開口部104bの出力による視差画像データIm_bの生成の様子、開口部104aの出力による視差画像データIm_aの生成の様子を表す。まず開口部104fの出力による視差画像データIm_fの生成の様子について説明する。
6つの視差画素を一組とする光電変換素子群から成る繰り返しパターン110は、横一列に配列されている。したがって、開口部104fを有する視差画素は、撮像素子100上において、左右方向に6画素おき、かつ、上下方向に連続して存在する。これら各画素は、上述のようにそれぞれ異なる微小領域からの被写体光束を受光している。したがって、これらの視差画素の出力を寄せ集めて配列すると、視差画像が得られる。
しかし、本実施形態における撮像素子100の各画素は正方画素であるので、単に寄せ集めただけでは、横方向の画素数が1/6に間引かれた結果となり、縦長の画像データが生成されてしまう。そこで、補間処理を施して横方向に6倍の画素数とすることにより、本来のアスペクト比の画像として視差画像データIm_fを生成する。ただし、そもそも補間処理前の視差画像データが横方向に1/6に間引かれた画像であるので、横方向の解像度は、縦方向の解像度よりも低下している。つまり、生成される視差画像データの数と、解像度の向上は相反関係にあると言える。
同様にして、視差画像データIm_e〜視差画像データIm_aが得られる。すなわち、デジタルカメラ10は、横方向に視差を有する6視点の視差画像を生成することができる。
次に、カラーフィルタ102と視差画像について説明する。図6は、ベイヤー配列を説明する図である。図示するように、ベイヤー配列は、緑フィルタが左上と右下の2画素に、赤フィルタが左下の1画素に、青フィルタが右上の1画素に割り当てられる配列である。ここでは、緑フィルタが割り当てられた左上の画素をGb画素と、同じく緑色フィルタが割り当てられた右下の画素をGr画素とする。また、赤色フィルタが割り当てられた画素をR画素と、青色が割り当てられた画素をB画素とする。そして、Gb画素およびB画素が並ぶ横方向をGb行とし、R画素およびGr画素が並ぶ横方向をGr行とする。また、Gb画素およびR画素が並ぶ縦方向をGb列とし、B画素およびGr画素が並ぶ縦方向をGr列とする。
このようなカラーフィルタ102の配列に対して、視差画素と視差なし画素を、何色の画素にどのような周期で割り振っていくかにより、膨大な数の繰り返しパターン110が設定され得る。視差なし画素の出力を集めれば、通常の撮影画像と同じく視差のない撮影画像データを生成することができる。したがって、相対的に視差なし画素の割合を増やせば、解像度の高い2D画像を出力させることができる。この場合、視差画素は相対的に少ない割合となるので、複数の視差画像からなる3D画像としては画質が低下する。逆に、視差画素の割合を増やせば、3D画像としては画質が向上するが、視差なし画素は相対的に減少するので、解像度の低い2D画像が出力される。
このようなトレードオフの関係において、何れの画素を視差画素とするか、あるいは視差なし画素とするかにより、様々な特徴を有する繰り返しパターン110が設定される。図7は、ベイヤー配列に対する視差画素の割り振りについて、視差画素の種類が2つである場合のバリエーションを説明する図である。この場合の視差画素は、開口部104が中心よりも左側に偏心した視差Lt画素と、同じく右側に偏心した視差Rt画素を想定している。つまり、このような視差画素から出力される2視点の視差画像は、いわゆる立体視を実現する。
それぞれの繰り返しパターンに対する特徴の説明は図に示す通りである。例えば、視差なし画素が多く割り振られていれば高解像度の2D画像データとなり、RGBのいずれの画素に対しても均等に割り振られていれば、色ずれの少ない高画質の2D画像データとなる。一方、視差画素が多く割り振られていれば高解像度の3D画像データとなり、RGBのいずれの画素に対しても均等に割り振られていれば、3D画像でありながら、色再現性の良い高品質のカラー画像データとなる。
以下にいくつかのバリエーションについて説明する。図8は、バリエーションの一例を示す図である。図8のバリエーションは、図7における繰り返しパターン分類A−1に相当する。
図の例においては、ベイヤー配列と同じ4画素を繰り返しパターン110とする。R画素とB画素は視差なし画素であり、Gb画素を視差Lt画素に、Gr画素を視差Rt画素に割り当てる。この場合、同一の繰り返しパターン110に含まれる視差Lt画素と視差Rt画素が、被写体が合焦位置に存在するときに、同じ微小領域から放射される光束を受光するように開口部104が定められる。図の例においては、視感度の高い緑画素であるGb画素およびGr画素を視差画素として用いるので、コントラストの高い視差画像を得ることが期待できる。
図9は、他のバリエーションの一例を示す図である。図9のバリエーションは、図7における繰り返しパターン分類B−1に相当する。図の例においては、ベイヤー配列の4画素が左右に2組続く8画素を繰り返しパターン110とする。8画素のうち、左側のGb画素に視差Lt画素を、右側のGb画素に視差Rt画素を割り当てる。このような配列においては、Gr画素を視差なし画素としたことにより、図8の例よりも、更に2D画像の高画質化が望める。
図10は、更に他のバリエーションの一例を示す図である。図10のバリエーションは、図7における繰り返しパターン分類D−1に相当する。図の例においては、ベイヤー配列の4画素が左右に2組続く8画素を繰り返しパターン110とする。8画素のうち、左側のGb画素に視差Lt画素を、右側のGb画素に視差Rt画素を割り当てる。さらに、左側のR画素に視差Lt画素を、右側のR画素に視差Rt画素を割り当てる。さらに、左側のB画素に視差Lt画素を、右側のB画素に視差Rt画素を割り当てる。2つのGr画素には視差なし画素を割り当てる。
2つのGb画素に割り当てられた視差Lt画素と視差Rt画素は、被写体が合焦位置に存在するときに、一つの微小領域から放射される光束を受光する。また、2つのR画素に割り当てられた視差Lt画素と視差Rt画素は、Gb画素のそれとは異なる一つの微小領域から放射される光束を受光し、2つのB画素に割り当てられた視差Lt画素と視差Rt画素は、Gb画素およびR画素のそれとは異なる一つの微小領域から放射される光束を受光する。したがって、図9の例に比較して、3D画像としての解像度が縦方向に3倍となる。しかも、RGBの3色の出力が得られるので、カラー画像としての3D画像として高品質である。
なお、上述のように視差画素の種類を2つにすれば2視点の視差画像が得られるが、もちろん視差画素の種類は、出力したい視差画像数に合わせて様々な数を採用し得る。視点数が増えていっても、さまざまな繰り返しパターン110を形成することができる。したがって、仕様、目的等に応じた繰り返しパターン110を選択することができる。
上述の例では、カラーフィルタ配列としてベイヤー配列を採用した場合について説明したが、もちろん他のカラーフィルタ配列であっても差し支えない。このとき、一組の光電変換素子群を構成する視差画素のそれぞれは、互いに異なる部分領域を向く開口部104を有する開口マスク103を備えると良い。
図11は、他のカラーフィルタ配列を説明する図である。図示するように、他のカラーフィルタ配列は、図6で示したベイヤー配列のGr画素を緑フィルタが割り当てられるG画素として維持する一方、Gb画素をカラーフィルタが割り当てられないW画素に変更した配列である。なお、W画素は、上述のように、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタが配列されていても良い。
このようなW画素を含むカラーフィルタ配列を採用すれば、撮像素子が出力するカラー情報の精度は若干低下するものの、W画素が受光する光量はカラーフィルタが設けられている場合に比較して多いので、精度の高い輝度情報を取得できる。W画素の出力を寄せ集めれば、モノクロ画像を形成することもできる。
W画素を含むカラーフィルタ配列の場合、視差画素と視差なし画素の繰り返しパターン110は、さらなるバリエーションが存在する。例えば、比較的暗い環境下で撮影された画像であっても、カラー画素から出力された画像に比較してW画素から出力された画像であれば、被写体像のコントラストが高い。そこで、W画素に視差画素を割り振れば、複数の視差画像間で行うマッチング処理において、精度の高い演算結果が期待できる。したがって、2D画像の解像度および視差画像の画質への影響に加え、抽出される他の情報への利害得失も考慮して、視差画素と視差なし画素の繰り返しパターン110が設定される。
図12は、図11の他のカラーフィルタ配列を採用する場合の、W画素と視差画素の配列の一例を示す図である。図12のバリエーションは、ベイヤー配列における図7の繰り返しパターン分類B−1に類似するので、ここではB'−1とする。図の例においては、他のカラーフィルタ配列の4画素が左右に2組続く8画素を繰り返しパターン110とする。8画素のうち、左側のW画素に視差Lt画素を、右側のW画素に視差Rt画素を割り当てる。このような配列において撮像素子100は、視差画像をモノクロ画像として出力し、2D画像をカラー画像として出力する。
続いて、高精細モードについて具体的に説明する。まず、高精細視差モードにおける高精細化の原理について説明する。図13は、視差画像を高精細化する原理を説明するための図である。
図13の左図は、補正レンズ23のシフト前における入射光束と画素配列の位置関係を示し、右図は、補正レンズ23のシフト後における入射光束と画素配列の位置関係を示す。シフト前の補正レンズ23は、撮像素子100の受光面上における、予め定められた領域に被写体像が結像するよう、その位置が規定される。一例として、補正レンズ23は、補正レンズ23の光軸が他の光学系の光軸と一致するように、初期位置が規定される。VCMが駆動していないときの位置に規定される。図13の左図および右図はともに、同一物点Oから放射される入射光束を示し、画素配列として図8に示した繰り返しパターンを採用している。なお、図4では、繰り返しパターン110に対応する被写体領域の一部分を微小領域として説明したが、図13においては、繰り返しパターン110の中の1画素に対応する点を物点Oとして説明する。また、入射光束のうち開口部を通過した部分光束のみが光電変換素子に到達する。したがって、同一の入射光束が入射されたとしても、開口部の位置によって光電変換素子に到達する部分光束は異なることになる。右図において、シフト前の入射光束および瞳位置を破線で、シフト後の入射光束および瞳位置を実線で示す。また、画素配列における右下の画素301に対応する光電変換素子を基準の光電変換素子とし、左上の画素302に対応する光電変換素子を他の光電変換素子とする。
補正レンズ23がシフトされる前においては、図13の左図に示すように、物点Oから放射される入射光束は、画素配列における基準の光電変換素子に指向している。ここで、指向とは、物点Oから放射される入射光束が、基準の光電変換素子(画素301)に向かうことである。つまり、物点Oと画素301が結像関係を有するような向きとも言える。したがって、制御部201が、物点Oから放射される入射光束が基準の光電変換素子に指向している状態で撮像動作を実行することによって、撮像素子100は、物点Oの視差Rt画素の画素データを出力することができる。
その後、制御部201は、カメラメモリ213を参照して、基準の光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、シフト方向およびシフト量を定めて補正レンズ23を駆動する。ここでは、左上の画素302に対応する光電変換素子が他の光電変換素子であるので、制御部201は、基準の光電変換素子に指向している入射光束が、左上の画素302に対応する光電変換素子に指向するように補正レンズ23を駆動する。
そうすると、図13の右図に示すように、瞳位置が変化し、物点Oから放射される入射光束は、他の光電変換素子に指向することになる。したがって、制御部201が、物点Oから放射される入射光束が他の光電変換素子(画素302)に指向している状態で撮像動作を実行することによって、撮像素子100は、物点Oに対応する視差Lt画素の画素データを出力することができる。
撮像素子100が一度の撮像動作によって出力できる、物点Oに対応する画素データは、視差Lt画素および視差Rt画素の画素データの一方である。例えば物点Oに対応する視差Lt画素の画素データが出力される場合には、物点Oに対応する視差Rt画素の画素データは出力されない。ここで、一度の撮像動作によって複数の視差画像を生成する場合には、画像処理部は、補間処理を実行することにより、物点Oに対応する視差Rt画素の画素データを近似的に生成する。補間処理により生成された近似的な視差Rt画素の画素データは、物点Oの実際の画素データではないので、撮像動作によって得られた視差Lt画素の画素データに比べ、精度が劣る。
本実施の形態によれば、上述のように、物点Oに対応する視差Lt画素の画素データおよび視差Rt画素の画素データの両方が、撮像動作によって得られる。また、ここでは、物点Oについて説明したが、他の物点についても同様のことが言える。つまり、上述のように、補正レンズ23がシフトされることによって、受光面に結像した光学像全体がずれる。したがって、画像処理部205は、実際の撮像動作によって得られた視差Lt画素および視差Rt画素の画素データの両方を用いて、高精細な視差画像を生成することができる。
図14は、高精細視差モードを説明するための図である。高精細視差モードは、高精細な視差画像が得られるモードであり、その原理は、図13を用いて説明した通りである。図14は、図8に示した繰り返しパターン(図7のA−1の繰り返しパターン)が画素配列として採用された場合を例示している。繰り返しパターン110における右下の画素301に対応する光電変換素子を基準の光電変換素子とし、左上の画素302に対応する光電変換素子を他の光電変換素子とする。
本実施の形態において、制御部201は、補正レンズ23を駆動することによって、物点Oからの入射光束を撮像素子100に対しシフトさせる。ここで、入射光束を基準にすれば、制御部201による補正レンズ23の駆動によって、撮像素子100が入射光束に対してシフトすることになる。図14以降では、入射光束を固定とした上で撮像素子100がシフトされた状態を図示している。なお、以降の説明においては、説明の便宜上、「撮像素子のシフト」という文言が登場するが、本実施形態においては、これまでに説明したように、実際に駆動されるのは、あくまで補正レンズ23である。
図14(a)は、撮像素子のシフト前後の画素配列の一部を示す。具体的には、左図は、撮像素子のシフト前の画素配列を示し、右図は、撮像素子のシフト後の画素配列を示す。また、撮像素子100の画素配列に対して、図示するように、右向きにi軸を定め、下向きにj軸を定める。図示された各々の画素配列において、左端かつ上端の座標を(1,1)とし、右端かつ下端の座標を(4,4)とする。なお、撮像素子のシフトの前後において、座標が同一の画素には、同一の入射光束が入射する。
図14(b)は、撮像素子のシフト前後において、一部の画素のみを抽出した図である。具体的には、左図は、撮像素子のシフト前における視差Rt画素のみを抽出した図であり、右図は、撮像素子のシフト後における視差Lt画素のみを抽出した図である。
制御部201は、図14(a)の左図に示す状態で、1回目の撮像動作を実行する。その後、制御部201は、基準の光電変換素子(画素301)に指向していた入射光束が、他の光電変換素子(画素302)に指向するように、補正レンズ23を駆動することによって、入射光束を撮像素子に対してシフトさせる。ここでは、制御部201は、補正レンズ23を左方向に1画素および上方向に1画素シフトさせる。したがって、入射光束を基準とすれば、相対的には、図14(a)の右図に示すように、繰り返しパターン110は、入射光束に対して右方向に1画素および下方向に1画素シフトされる。制御部201は、図14(a)の右図に示す状態で2回目の撮像動作を実行する。
ここで、図14(b)において、座標(2,2)に着目すると、左図においては、繰り返しパターン110における右下の画素301に対応する基準の光電変換素子が位置している。一方、右図においては、座標(2,2)には左上の画素302に対応する他の光電変換素子が位置している。座標が同一の画素には、同一の入射光束が入射するので、撮像素子のシフト前の座標(2,2)に位置する基準の光電変換素子と、シフト後の座標(2,2)に位置する他の光電変換素子には、同一の入射光束が入射することになる。したがって、撮像素子100は、同一の物点から得られた左右両方の視差画素の画素データを出力することができる。なお、図14(b)から明らかなように、座標(4,2)、座標(2,4)、座標(4,4)においても同様のことが言える。さらに、図14(a)に示すように、シフト前の視差Lt画素に対応する座標には、シフト後において、視差Rt画素が位置している。したがって、撮像素子100は、これらの座標においても、同一の物点から左右両方の視差画素の画素データを出力することができる。よって、画像処理部205は、1回目および2回目の撮像動作により得られる画素データの両方を用いることで、高精細な視差画像を生成することができる。
図15は、高精細カラーモードを説明するための図である。高精細カラーモードは、高精細な3Dカラー画像が得られるモードである。具体的には、繰り返しパターン110において、視差画素が、R画素、G画素、B画素の全てに割り当てられている場合に、同一の物点からの入射光束が、R画素、G画素、B画素の全てに入射するよう補正レンズ23を駆動することによって、高精細な3Dカラー画像を得る。
図15の繰り返しパターン110は、ベイヤー配列における図7の繰り返しパターン分類D−1に類似するので、ここではD'−1とする。D'−1の繰り返しパターンは、左右に4画素、上下に8画素の32画素からなる。D'−1の繰り返しパターン110において、左端の列には、B画素、R画素、G画素がこの順に繰り返し配列されたカラーフィルタ配列に対して、視差Lt画素が割り当てられている。
視差Lt画素の列の右隣の列には、G画素、G画素、R画素、G画素、B画素、G画素がこの順に配列されたカラーフィルタ配列に対して、視差Lt画素と視差なし画素が交互に割り当てられている。視差Lt画素と視差なし画素が交互に割り当てられた列の右隣の列には、B画素、R画素、G画素がこの順に繰り返し配列されたカラーフィルタ配列に対して、視差Rt画素が割り当てられている。右端の列には、G画素、G画素、R画素、G画素、B画素、G画素がこの順に配列されたカラーフィルタ配列に対して、視差Rt画素と視差なし画素が交互に割り当てられている。シフト前の撮像素子における、座標(1,6)に位置する画素303に対応する光電変換素子を基準の光電変換素子とし、座標(1,2)に位置する画素304に対応する光電変換素子を第1の他の光線変換素子、座標(1,4)に位置する画素305に対応する光電変換素子を第2の他の光電変換素子とする。
図15(a)は、撮像素子の画素配列の一部を示す。具体的には、左図は、撮像素子のシフト前の画素配列を示し、中図は、撮像素子における1回目のシフト後の画素配列を示し、右図は、撮像素子における2回目のシフト後の画素配列を示す。また、撮像素子100の画素配列に対して、図示するように、右向きにi軸を定め、下向きにj軸を定める。座標が同一の画素には、同一の入射光束が入射する。図15(b)は、撮像素子における視差Lt画素のみを抽出した図であり、図15(c)は、撮像素子における視差Rt画素のみを抽出した図である。
制御部201は、図15(a)の左図に示す状態で1回目の撮像動作を実行する。その後、制御部201は、基準の光電変換素子に指向していた入射光束が、第2の他の光電変換素子に指向するように、補正レンズ23を駆動することによって、入射光束を撮像素子に対してシフトさせる。ここでは、制御部201は、補正レンズ23を上方向に2画素シフトさせる。したがって、入射光束を基準にすれば、相対的には、図15(a)の中図に示すように、繰り返しパターン110は、入射光束に対して下方向に2画素シフトされる。制御部201は、図15(a)の中図に示す状態で2回目の撮像動作を実行する。
その後、制御部201は、基準の光電変換素子に指向していた入射光束が、第1の他の光電変換素子に指向するように、入射光束を撮像素子に対してシフトさせる。ここでは、制御部201は、補正レンズ23を上方向に2画素シフトさせる。したがって、入射光束を基準にすれば、相対的には、図15(a)の右図に示すように、繰り返しパターン110は、下方向に2画素シフトされる。制御部201は、図15(a)の右図に示す状態で3回目の撮像動作を実行する。
ここで、図15(b)において、座標(1,6)に着目すると、左図においては、繰り返しパターン110における画素303に対応する基準の光電変換素子が位置している。一方、中図においては、座標(1,6)には画素305に対応する第2の他の光電変換素子が位置している。さらに、右図においては、座標(1,6)には画素304に対応する第1の他の光電変換素子が位置している。座標が同一の画素には、同一の入射光束が入射するので、撮像素子のシフト前の座標(1,6)に位置する基準の光電変換素子と、1回目のシフト後の座標(1,6)に位置する第2の他の光電変換素子と、2回目のシフト後の座標(1,6)に位置する第1の他の光電変換素子には、同一の入射光束が入射することになる。したがって、撮像素子100は、同一の物点からR画素、G画素、B画素の全ての視差Lt画素の画素データを出力することができる。なお、図15(b)から明らかなように、視差Lt画素が位置する他の座標についても同様のことが言える。
以上の説明では、視差Lt画素に着目して説明したが、視差Rt画素についても同様のことが言える。ここで、例えば、シフト前の繰り返しパターン110における、座標(3,6)に位置する画素306に対応する光電変換素子を基準の光電変換素子とし、座標(3,2)に位置する画素307に対応する光電変換素子を第1の他の光線変換素子、座標(3,4)に位置する画素308に対応する光電変換素子を第2の他の光電変換素子とする。
図15(c)において、座標(3,6)に着目すると、左図においては、繰り返しパターン110における画素306に対応する基準の光電変換素子が位置している。一方、中図においては、座標(3,6)には、画素308に対応する第2の他の光電変換素子が位置している。さらに、右図においては、座標(3,6)には、画素307に対応する第1の他の光電変換素子が位置している。したがって、撮像素子100は、同一の物点からR画素、G画素、B画素の全ての視差Rt画素の画素データを出力することができる。なお、図15(c)から明らかなように、視差Rt画素が位置する他の座標についても同様のことが言える。視差Lt画素、視差Rt画素のそれぞれについて、R画素、G画素、B画素の全ての画素データが得られるので、画像処理部205は、1回目、2回目および3回目の撮像動作により得られる各画素データを用いることで、高精細な3Dカラー画像を生成することができる。
図16は、高精細視差モードを説明するための図である。図16は、ベイヤー配列を採用する場合の、視差画素と視差なし画素の配列の一例を示す図である。図の例においては、ベイヤー配列の4画素が上下左右にそれぞれ2組続く16画素を繰り返しパターン110とする。16画素のうち、左上のベイヤー配列のGb画素に視差Lt画素を、Gr画素に視差Rt画素を割り当てる。繰り返しパターン110における視差Rt画素309に対応する光電変換素子を基準の光電変換素子とし、視差Lt画素310に対応する光電変換素子を他の光電変換素子とする。
図16(a)は、撮像素子の画素配列の一部を示す。具体的には、左図は、撮像素子のシフト前の画素配列を示し、中図は、撮像素子における1回目のシフト後の画素配列を示し、右図は、撮像素子における2回目のシフト後の画素配列を示す。また、撮像素子100の画素配列に対して、図示するように、右向きにi軸を定め、下向きにj軸を定める。
図16(b)、図16(c)は、撮像素子において、一部の画素のみを抽出した図である。具体的には、図16(b)の左図は、撮像素子のシフト前における視差Rt画素のみを抽出した図であり、図16(b)の中図は、撮像素子における1回目のシフト後の視差Lt画素のみを抽出した図である。図16(c)の左図は、撮像素子のシフト前における視差Lt画素のみを抽出した図であり、図16(c)の右図は、撮像素子における2回目のシフト後の視差Rt画素のみを抽出した図である。
制御部201は、図16(a)の左図に示す状態で1回目の撮像動作を実行する。その後、制御部201は、基準の光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、補正レンズ23を駆動することによって、入射光束を撮像素子に対してシフトさせる。ここでは、制御部201は、補正レンズ23を左方向に1画素および上方向に1画素シフトさせる。したがって、入射光束を基準にすれば、相対的には、図16(a)の中図に示すように、繰り返しパターン110は、右方向に1画素および下方向に1画素シフトされる。制御部201は、図16(a)の中図に示す状態で2回目の撮像動作を実行する。さらに、制御部201は、補正レンズ23を右方向に2画素および下方向に2画素シフトさせる。したがって、入射光束を基準にすれば、相対的には、図16(a)の右図に示すように、繰り返しパターン110は、左方向に2画素および上方向に2画素シフトされる。制御部201は、図16(a)の右図に示す状態で3度目の撮像動作を実行する。
ここで、図16(b)において、座標(2,2)に着目すると、左図においては、繰り返しパターン110における画素309に対応する基準の光電変換素子が位置している。一方、中図においては、座標(2,2)には画素310に対応する他の光電変換素子が位置している。座標が同一の画素には、同一の入射光束が入射するので、撮像素子のシフト前の座標(2,2)に位置する基準の光電変換素子と、シフト後の座標(2,2)に位置する他の光電変換素子には、同一の入射光束が入射することになる。したがって、撮像素子100は、同一の物点から左右両方の視差画素の画素データを出力することができる。
また、図16(c)において、座標(1,1)に着目すると、左図においては、繰り返しパターン110における画素310に対応する他の光電変換素子が位置している。一方、右図においては、座標(1,1)には画素309に対応する基準の光電変換素子が位置している。別言すると、視差Lt画素310に対応する光電変換素子を新たに基準の光電変換素子とし、視差Rt画素309に対応する光電変換素子を新たに他の光電変換素子として捉えた場合に、新たな基準の光電変換素子に指向していた入射光束が、新たな他の光電変換素子に指向するようシフトされていると言える。
座標が同一の画素には、同一の入射光束が入射するので、撮像素子のシフト前の座標(2,2)に位置する他の光電変換素子と、シフト後の座標(2,2)に位置する基準の光電変換素子には、同一の入射光束が入射することになる。したがって、撮像素子100は、同一の物点から左右両方の視差画素の画素データを出力することができる。
以上のように、シフト前の視差Rt画素309が位置する座標において、視差Lt画素および視差Rt画素の両方の画素データが得られるだけでなく、シフト前の視差Lt画素310が位置する座標においても、視差Lt画素および視差Rt画素の両方の画素データが得られる。したがって、画像処理部205は、1回目、2回目および3回目の撮像動作により得られる各画素データを用いることで、高精細な視差画像を生成することができる。
図17は、高精細2Dモードを説明するための図である。高精細2Dモードは、高精細な2D画像が得られるモードである。具体的には、同一の物点からの入射光束が、視差画素だけでなく、視差なし画素にも入射するよう補正レンズ23をシフトさせることによって、高精細な2D画像を得る。図17の繰り返しパターンは、図16の繰り返しパターンと同一であるので、説明を省略する。繰り返しパターン110における視差Lt画素311に対応する光電変換素子を基準の光電変換素子とし、繰り返しパターン110における左下のベイヤー配列のGb画素312に対応する光電変換素子を他の光電変換素子とする。
図17(a)は、撮像素子のシフト前後の画素配列の一部を示す。具体的には、左図は、撮像素子のシフト前の画素配列を示し、右図は、撮像素子のシフト後の画素配列を示す。
図17(b)は、撮像素子のシフト前後において、一部の画素のみを抽出した図である。具体的には、左図は、撮像素子のシフト前における視差Lt画素のみを抽出した図であり、右図は、撮像素子のシフト後における他の光電変換素子に対応する画素のみを抽出した図である。
制御部201は、図17(a)の左図に示す状態で1回目の撮像動作を実行する。その後、制御部201は、基準の光電変換素子に指向していた入射光束が、他の光電変換素子に指向するように、補正レンズ23を駆動することによって、入射光束を撮像素子に対してシフトさせる。ここでは、制御部201は、補正レンズ23を下方向に2画素シフトさせる。したがって、入射光束を基準にすれば、相対的には、図17(a)の右図に示すように、繰り返しパターン110は、上方向に2画素シフトされる。制御部201は、図17(a)の右図に示す状態で2回目の撮像動作を実行する。
ここで、図17(b)において、座標(1,5)に着目すると、左図においては、繰り返しパターン110における画素311に対応する基準の光電変換素子が位置している。一方、右図においては、座標(1,5)には、画素312に対応する他の光電変換素子が位置している。したがって、撮像素子100は、同一の物点から視差Lt画素と視差なし画素の両方の画素データを出力することができる。なお、図17(b)から明らかなように、座標(1,1)、座標(5,1)、座標(5,5)においても同様のことが言える。したがって、画像処理部205は、1回目および2回目の撮像動作により得られる画素データの両方を用いることで、高精細な2D画像を生成することができる。
図18は、視差画像と2D画像の生成過程を示す概念図である。図18(a)は、撮像素子100における一つの繰り返しパターン110およびその周囲の出力を、その画素配列に一致させてそのまま羅列した様子を示す。図においては、図14の例に即して画素の種類が理解されるように記載するが、実際には各画素に対応した出力値が並ぶ。図18(a)は、図14(a)と同一であるので、説明を省略する。図18(b)は、図18(a)に示す2つの画素配列から、視差Lt画素、視差Rt画素をそれぞれ抽出した図を示す。
図18(b)に示すように、視差Lt画像は、図18(a)に示す2つの画素配列の撮像画像データから、視差Lt画素の画像データを寄せ集めて生成されるので、1つの画像データのみから生成される場合に比べ、空格子の数は少なくなる。空格子は、画像処理部205による補間処理によって生成される画像データで埋められることになるが、補間処理により生成される画素データの数は、1つの画像データのみから視差Lt画像を生成する場合に比べて減少する。したがって、画像処理部205は、より高精細な視差Lt画像を生成することができる。
なお、制御部201は、2回目の撮像動作の後、空格子が存在しないよう、補正レンズ23を駆動させつつ、さらに3回目、4回目の撮像動作を実行してもよい。例えば、制御部201は、2回目の撮像動作の後、補正レンズ23を下方向に1画素シフトさせて3回目の撮像動作を行い、さらに右方向に1画素および上方向に1画素シフトさせて4回目の撮像動作を実行する。そうすると、画像処理部205は、補間処理によって得られる画像データで空格子を埋める必要がないので、より一層高精細な視差画像を生成することができる。なお、ここでは、視差Lt画像について説明したが、視差Rt画像についても同様のことが言える。
図18(c)は、図18(a)に示す2つの画素配列から得られる、R画像、B画像、補間G画像を示す。R画像は、2つの画像データからR画素の画像データを寄せ集めて生成されるので、視差Lt画像と同様、1つの画像データのみから生成される場合に比べ、空格子の数は少なくなる。補間処理により生成される画素データの数は、1つの画像データのみからR画像を生成する場合に比べて減少するので、画像処理部205は、より高精細なR画像を生成することができる。また、B画像についても同様のことが言える。
G画素については、そもそも視差なし画素が割り当てられていない。したがって、図18(c)の右図に示すように、画像処理部205は、G画素に割り当てられた視差Lt画素および視差Rt画素の画素データを用いて補間処理を実行する。さらに、画像処理部205は、空格子を補間処理によって得られる画像データで埋めることによって、G画像を生成することができる。以上のように生成された、R画像、G画像、B画像を用いて、画像処理部205は、高精細な2D画像を生成することができる。
図19は、高精細画像を生成する処理フローである。具体的には、画質モードが高精細モードに設定されている状態において、制御部201が、SW2がオンになったことを検出した場合の処理フローを示す。制御部201は、SW2がオンになったことを検出すると、撮像素子100による撮像動作を実行する(ステップS101)。1回目の撮像動作においては、補正レンズ23を用いた振れ補正機能により、シャッタ速度によって定められる露光時間を通じて、撮像素子100の受光面上に結像する被写体像が静止させられる。また、この撮像動作により得られる各画素の画素データは、画像処理部205によって撮像画像データとして生成された後、メモリ203に記憶される。
制御部201は、撮像動作を行った後、実行した撮像回数を示す変数Nに1を代入する(ステップS102)。そして、制御部201は、カメラメモリ213を参照して、設定されている高精細モードに応じたシフト方向及びシフト量を決定する(ステップS103)。例えば、撮像素子100の画素配列として図14に示す画素配列が採用され、高精細視差モードに設定されている場合には、制御部201は、補正レンズ23のシフト方向及びシフト量として、左方向に1画素および上方向に1画素と決定する。
制御部201は、決定したシフト方向及びシフト量に応じて補正レンズ23を駆動した後(ステップS104)、再度撮像動作を実行する(ステップS105)。シフト後の撮像動作においては、補正レンズ23を用いた振れ補正機能により、シャッタ速度によって定められる露光時間を通じて、撮像素子100の受光面上のシフト分だけずれた領域に結像する被写体像が静止させられる。また、この撮像動作により得られる各画素の画素データについても、画像処理部205によって撮像画像データとして生成された後、メモリ203に記憶される。制御部201は、実行した撮像回数を1だけ計数する(ステップS106)。
制御部201は、実行した撮像回数Nが、設定されている高精細モードに応じた撮像回数N0に達しているか判定する(ステップS107)。例えば、ステップS103に示した例では、撮像回数N0は2である。実行した撮像回数Nが、設定されている高精細モードに応じた撮像回数N0に達していなければ(ステップS107:No)、ステップ103に移行する。実行した撮像回数Nが、設定されている高精細モードに応じた撮像回数N0に達していれば(ステップS107:Yes)、画像処理部205は、メモリ203に記憶されている複数の撮像画像データを用いて、互いに視差を有する複数の視差画像データを生成するとともに2D画像データを生成する(ステップS108)。なお、画像処理部205は、設定されている撮影モードに応じて複数の視差画像データおよび2D画像データの生成の一方を省略してもよい。例えば、撮影モードが視差画像撮影モードに設定されている場合には、画像処理部205は、2D画像データの生成を省略してもよい。
以上の説明では、シフトユニットとして補正レンズユニットを例に挙げて説明したが、デジタルカメラが例えば撮像素子シフト式の手振れ補正機構を採用している場合には、シフトユニットは、撮像素子をxy方向にシフトさせる撮像素子シフトユニットとして実現されてもよい。この場合には、制御部201による制御に従って撮像素子シフトユニットが撮像素子100をシフトさせることによって、被写体像を撮像素子100に対してシフトさせることができる。
以上の説明では、光束制限部として開口マスク103を例に挙げて説明したが、光電変換部上に反射膜を設けることによって光束制限部を実現してもよい。この場合、反射膜は、一組の光電変換素子群における光電変換素子のそれぞれが入射光束に対して互いに異なる部分光束を通過させるように位置づけられた上で形成される。
以上の説明では、開口マスク103の作用によって光電変換素子が受光する被写体光束に視差が生じたが、マイクロレンズ、シリンドリカルレンズ等の集光レンズの作用によって視差を生じさせることもできる。集光レンズの作用によって視差を生じさせる構成について簡単に説明すると、当該構成では、一つの集光レンズに対して複数の光電変換素子が対応するよう配置される。そして、集光レンズは、複数の光電変換素子のそれぞれに、入射光束における互いに異なる部分光束を入射させる。したがって、この場合には、集光レンズを光束制限部とみなすことができる。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
特許請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
10 デジタルカメラ、20 撮影レンズ、21 光軸、22 フォーカスレンズ、23 補正レンズ、30 本体ユニット、50 レンズユニット、100 撮像素子、201 制御部、202 A/D変換回路、203 メモリ、204 駆動部、205 画像処理部、207 メモリカードIF、208 操作部、209 表示部、210 表示制御部、211 AFセンサ、212 レリーズスイッチ、213 カメラメモリ、220 メモリカード、231 レンズ制御部、232 レンズメモリ、233 フォーカスレンズ駆動部、234 補正レンズユニット、235 補正レンズ駆動部、101 マイクロレンズ、102 カラーフィルタ、103 開口マスク、104 開口部、105 配線層、106 配線、107 開口、108 光電変換素子、109 基板、110 繰り返しパターン
Claims (9)
- 隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、前記n個の前記光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子と、
前記入射光束を前記撮像素子に対してシフトさせるシフトユニットを、前記一組の前記光電変換素子群において、前記光束制限部が設けられた基準となる前記光電変換素子に指向していた前記入射光束が、他の前記光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動しつつ、前記撮像素子による複数回の撮像動作を実行する撮像制御部と
を備える撮像装置。 - 前記光束制限部は、対応する前記光電変換素子上に設けられた開口マスクである請求項1に記載の撮像装置。
- 前記撮像制御部は、前記他の前記光電変換素子として、前記光束制限部が設けられた基準でない前記光電変換素子を含むように、前記シフトユニットを制御する請求項1または2に記載の撮像装置。
- 前記撮像制御部は、前記他の前記光電変換素子として、基準となる前記光電変換素子に対応して設けられたカラーフィルタとは透過させる波長帯域の異なるカラーフィルタが設けられた前記光電変換素子を含むように、前記シフトユニットを制御する請求項1から3のいずれか1項に記載の撮像装置。
- 前記撮像制御部は、前記光束制限部が設けられた基準でない前記光電変換素子を新たに基準として、前記シフトユニットを制御する請求項1から4のいずれか1項に記載の撮像装置。
- 前記撮像制御部は、前記光束制限部が設けられていない前記光電変換素子を新たに基準として、前記シフトユニットを制御する請求項1から4のいずれか1項に記載の撮像装置。
- 複数回の前記撮像動作により取得された複数の撮像画像データのうち前記光束制限部が設けられた前記光電変換素子の出力に基づいて、互いに視差を有する複数の視差画像データを生成する画像処理部を備える請求項1から6のいずれか1項に記載の撮像装置。
- 前記画像処理部は、複数回の前記撮像動作により取得された複数の撮像画像データのうち前記光束制限部が設けられていない前記光電変換素子の出力に基づいて、2D画像データを生成する請求項7に記載の撮像装置。
- 隣接するn個(nは2以上の整数)の光電変換素子のうち、少なくとも2つに対応して設けられたそれぞれの光束制限部が、入射光束に対して互いに異なる部分光束を通過させるように位置づけられ、前記n個の前記光電変換素子を一組とする光電変換素子群が、周期的に配列された撮像素子による撮像動作を実行する第1撮像ステップと、
前記入射光束を前記撮像素子に対してシフトさせるシフトユニットを、前記一組の前記光電変換素子群において、前記光束制限部が設けられた基準となる前記光電変換素子に指向していた前記入射光束が、他の前記光電変換素子に指向するように、シフト方向およびシフト量を定めて駆動するシフトステップと、
前記撮像素子による撮像動作を再度実行する第2撮像ステップと
をコンピュータに実行させる撮像プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012023356A JP2013162362A (ja) | 2012-02-06 | 2012-02-06 | 撮像装置および撮像プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012023356A JP2013162362A (ja) | 2012-02-06 | 2012-02-06 | 撮像装置および撮像プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013162362A true JP2013162362A (ja) | 2013-08-19 |
Family
ID=49174272
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012023356A Pending JP2013162362A (ja) | 2012-02-06 | 2012-02-06 | 撮像装置および撮像プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013162362A (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002218328A (ja) * | 2001-01-19 | 2002-08-02 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法を実行するためのプログラムを格納したことを特徴とするコンピュータが読み取り可能な記録媒体 |
JP2003007994A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 固体撮像素子、立体カメラ装置及び測距装置 |
JP2003523646A (ja) * | 1999-02-25 | 2003-08-05 | ヴィジョンセンス リミテッド | 光学装置 |
-
2012
- 2012-02-06 JP JP2012023356A patent/JP2013162362A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003523646A (ja) * | 1999-02-25 | 2003-08-05 | ヴィジョンセンス リミテッド | 光学装置 |
JP2002218328A (ja) * | 2001-01-19 | 2002-08-02 | Ricoh Co Ltd | 画像入力装置、画像入力方法、およびその方法を実行するためのプログラムを格納したことを特徴とするコンピュータが読み取り可能な記録媒体 |
JP2003007994A (ja) * | 2001-06-27 | 2003-01-10 | Konica Corp | 固体撮像素子、立体カメラ装置及び測距装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5915537B2 (ja) | 撮像素子、及び、撮像装置 | |
JP6584149B2 (ja) | 撮像装置 | |
JP5804055B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2012212978A (ja) | 撮像素子および撮像装置 | |
US9706190B2 (en) | Image processing apparatus and image processing program | |
WO2013114895A1 (ja) | 撮像装置 | |
JP5942984B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
WO2013057859A1 (ja) | 撮像素子 | |
JP5874729B2 (ja) | 撮像装置 | |
JP5979137B2 (ja) | 撮像装置および撮像装置の制御プログラム | |
JP5874334B2 (ja) | 画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラム | |
JP2013175812A (ja) | 撮像素子および撮像装置 | |
JP5887845B2 (ja) | 画像処理方法および画像処理プログラム | |
JP6476630B2 (ja) | 撮像装置 | |
JP5978737B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP5991461B2 (ja) | 撮像装置およびその撮像プログラム | |
JP2013162362A (ja) | 撮像装置および撮像プログラム | |
JP2013090265A (ja) | 画像処理装置および画像処理プログラム | |
JP5978735B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP6051570B2 (ja) | 撮像素子および撮像装置 | |
JP6331279B2 (ja) | 撮像装置、撮像方法およびプログラム | |
JP2014085608A (ja) | 撮像装置 | |
JP2013150055A (ja) | 画像処理装置、画像処理方法、及び、プログラム | |
JP2013168879A (ja) | 撮像ユニットおよび撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150120 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20151028 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20151201 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20160405 |