以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
撮像装置の一形態である本実施形態に係るデジタルカメラは、1つのシーンについて複数の視点数の画像を一度の撮影により生成できるように構成されている。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。本実施形態においては、特に、右目と左目に対応する2つの視点による右視差画像と左視差画像を生成する場合について説明する。詳しくは後述するが、本実施形態に係るデジタルカメラは、基準方向の視点として中央視点による視差のない視差なし画像も、視差画像と共に生成できる。また、左視点の視差画素を視差Lt画素または左視差画素、右視点の視差画素を視差Rt画素または右視差画素と記す場合もある。左視点の視差画像を視差Lt画像、右視点の視差画像を視差Rt画像と記す場合もある。
図1は、本実施形態に係るデジタルカメラ10の構成を説明する図である。デジタルカメラ10は、交換レンズ300がカメラ本体200に装着されて構成される。カメラ本体200は、撮像素子100、カメラ本体制御部201、A/D変換回路202、ワークメモリ203、駆動部204、画像処理部205、メモリカードIF207、操作部208、表示部209、および表示制御部210を備える。交換レンズ300は、撮影光学系としての撮影レンズ20、絞り22、交換レンズ制御部301、およびレンズ駆動部304を備える。また、カメラ本体200は、カメラマウント213を備え、交換レンズ300は、レンズマウント303を備える。カメラマウント213とレンズマウント303が係合すると、カメラ本体200側の通信端子と交換レンズ300側の通信端子との接続が確立され、互いに制御信号等の通信を行うことができる。カメラ本体制御部201および交換レンズ制御部301は、相互に通信を実行しつつ協働してカメラ本体200と交換レンズ300を制御する。
交換レンズ300には、焦点距離等が異なる複数の種類がある。ユーザは、撮影目的に応じて任意の一つをカメラ本体200へ装着することができる。交換レンズ300に備えられた撮影レンズ20は、光軸21に沿って入射する被写体光束をカメラ本体200内に配置された撮像素子100へ導く。図1に示すように、撮像素子100へ向かう光軸21に平行な方向をZ軸プラス方向と定め、Z軸と直交する平面において紙面奥へ向かう方向をX軸プラス方向、紙面上方向をY軸プラス方向と定める。以降のいくつかの図においては、図1の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。
撮影レンズ20は、複数の光学レンズ群から構成され、シーンからの被写体光束をその焦点面近傍に結像させる。なお、図1では撮影レンズ20を説明の都合上、瞳近傍に配置された仮想的な1枚のレンズで代表して表している。瞳近傍には、光軸を中心として同心状に入射光束を制限する絞り22が配置されている。
撮像素子100は、撮影レンズ20の焦点面近傍に配置されている。撮像素子100は、複数の画素が二次元的に配列された、例えばCMOSセンサ等のイメージセンサである。撮像素子100は、駆動部204によりタイミング制御されて、受光面上に結像された被写体像を画素信号に変換してA/D変換回路202へ出力する。A/D変換回路202は、撮像素子100が出力する画素信号をデジタル信号に変換してワークメモリ203へ出力する。
画像処理部205は、ワークメモリ203をワークスペースとして種々の画像処理を施し、画像データを生成する。画像データは、後述するように、撮像素子100の視差なし画素の出力から生成される基準画像データと、撮像素子100の視差画素の出力から生成される視差画像データを包含する。画像処理部205は、他にも、選択された画像フォーマットに従って画像データを調整するなどの画像処理一般の機能も担う。JPEGファイル形式の画像データを生成する場合には、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、表示制御部210により表示信号に変換され、表示部209に表示される。また、メモリカードIF207に装着されているメモリカード220に記録される。
一連の撮影シーケンスは、操作部208がユーザの操作を受け付けて、カメラ本体制御部201へ操作信号を出力することにより開始される。撮影シーケンスに付随するAF、AE等の各種動作は、カメラ本体制御部201に制御されて実行される。
デジタルカメラ10は、通常の2D撮影モードの他に視差画像撮影モードを備える。視差画像撮影モードに設定されていれば、視差画像を撮影することができる。ユーザは、これらのいずれかのモードを、メニュー画面が表示された表示部209を視認しながら、操作部208を操作することにより選択することができる。
カメラ本体制御部201は、カメラメモリ214を含む。カメラ本体制御部201は、交換レンズ300がカメラ本体200に装着されると、交換レンズ制御部301を介して撮影レンズ20のレンズ情報を取得する。本実施形態においては、レンズ情報として交換レンズ300を識別する識別情報を取得する。また、カメラメモリ214から後述する交換レンズを識別する識別情報に関する対応テーブルを取得する。カメラ本体制御部201は、撮影レンズ20のレンズ情報を対応テーブルに照らし合わせて、いずれの視差画素に対しても、装着されている交換レンズ300から入射する被写体光束のうち交換レンズ300の光軸21から偏位した予め定められた部分光束の少なくとも一部が後述する配線の開口を通過するかを判定する。予め定められた部分光束が配線の開口を通過しないと判定した場合、すなわち、交換レンズ300の識別番号に合致する識別番号が対応テーブルに含まれない場合には、その旨をユーザに報知する。具体的には、予め定められた部分光束が配線の開口を通過しない旨を表示部209に表示する。なお、ユーザへの報知方法は、本例に限られない。例えば、音声により報知してもよい。
カメラメモリ214は、例えばフラッシュメモリなどの不揮発性メモリであり、デジタルカメラ10を制御するプログラム、各種パラメータ等を記憶する役割を担う。カメラメモリ214は、上記の対応テーブルを記憶している。対応テーブルは、透過する被写体光束が予め設定されている入射角度範囲に収まる交換レンズの識別情報が記載されたテーブルである。なお、ファームアップにより対応テーブルを随時更新してもよい。
交換レンズ制御部301は、レンズ駆動部304を介して撮影レンズ20を移動させる。交換レンズ制御部301は、レンズメモリ302を含む。交換レンズ制御部301は、撮影レンズ20のレンズ情報を記憶しているレンズメモリ302から当該レンズ情報を読み出し、カメラ本体制御部201に送信する。レンズメモリ302は、撮影レンズ20のレンズ情報として当該撮影レンズ20を識別するための識別情報を記憶している。
図2は、撮像素子100の一部を拡大した様子を概念的に表す概念図である。画素領域には例えば2000万個以上もの画素がマトリクス状に配列されている。本実施形態においては、隣接する8画素×8画素の64画素が一つの基本格子を構成する。基本格子は、2×2の4画素を基本単位とするベイヤー配列を、Y軸方向に4つ、X軸方向に4つ含む。なお、図示するように、ベイヤー配列においては、左上画素と右下画素に緑フィルタ(Gフィルタ)、左下画素に青フィルタ(Bフィルタ)、右上画素に赤フィルタ(Rフィルタ)が配される。
基本格子は、視差画素と視差なし画素を含む。視差画素は、交換レンズ300を透過する入射光束のうち、光軸から偏位した部分光束を受光し、画素信号に変換して出力する偏位画素である。詳しくは後述するが、視差画素には、当該部分光束のみを透過させるように、画素中心から偏位した偏位開口を形成する配線が設けられている。配線は、偏位開口を規定する開口マスクとして機能する。視差画素には、視差Lt画素と視差Rt画素の2種類が存在する。視差Lt画素は、画素中心に対して左側に到達した部分光束を受光し、画素信号に変換して出力する画素である。視差Rt画素は、画素中心に対して右側に到達した部分光束を受光し、画素信号に変換して出力する画素である。一方、視差なし画素は、偏心のない非偏位画素である。視差なし画素は、交換レンズ300を透過する入射光束の全体を受光し、画素信号に変換して出力する。
なお、図2においては、撮像素子100における一つの基本格子を、その画素配列に一致させてそのまま羅列した様子を示している。画素の種類が理解されるように示しているが、実際には各画素に対応した出力値が並ぶ。また、基本格子内の画素をPIJで表す。例えば、左上画素はP11であり、右上画素はP81である。図に示すように、視差画素は以下のように配列されている。
P11…視差Lt画素+Gフィルタ(=G(Lt))
P15…視差Rt画素+Gフィルタ(=G(Rt))
P27…視差Lt画素+Rフィルタ(=R(Lt))
P32…視差Lt画素+Bフィルタ(=B(Lt))
P51…視差Rt画素+Gフィルタ(=G(Rt))
P55…視差Lt画素+Gフィルタ(=G(Lt))
P63…視差Rt画素+Rフィルタ(=R(Rt))
P76…視差Rt画素+Bフィルタ(=B(Rt))
他の画素は視差なし画素であり、視差無し画素+Rフィルタ、視差なし画素+Gフィルタ、視差無し画素+Bフィルタのいずれかである。
撮像素子100の全体でみた場合に、視差画素は、Gフィルタを有する第1群と、Rフィルタを有する第2群と、Bフィルタを有する第3群のいずれかに区分される。基本格子には、それぞれの群に属する視差Lt画素および視差Rt画素がその群の視差なしN画素の間に少なくとも1つは含まれる。図の例のように、これらの視差画素および視差なし画素が、基本格子内において分散して配置されるとよい。例えば、2次元的かつ周期的に配置されるとよい。分散して配置されることにより、色成分ごとの空間分解能に偏りを生じさせることなく、視差画素の出力としてRGBのカラー情報を取得することができるので、高品質な視差画像データが得られる。
図2に示す基本格子においては、G(N)=28個に対して、G(Lt)+G(Rt)=2+2=4個であり、R(N)=14個に対して、R(Lt)+R(Rt)=2個、B(N)=14個に対して、B(Lt)+B(Rt)=2個である。RGB比率は、視差Lt画素、視差Rt画素、および視差なし画素のそれぞれについて、ベイヤー配列と同じR:G:B=1:2:1の構成である。視差なし画素と視差Lt画素と視差Rt画素の画素数比は、N:Lt:Rt=14:1:1である。視差なし画素の空間解像度は、ベイヤー配列に近い状態を保っている。
続いて、単眼立体撮像におけるボケと視差の関係について説明する。視差Lt画素および視差Rt画素が受光する場合のデフォーカスの概念を説明する前に、まず、視差なし画素におけるデフォーカスの概念について簡単に説明する。
図3は、視差なし画素におけるデフォーカスの概念を説明する図である。図3(a)で示すように、被写体である物点が焦点位置に存在する場合、レンズ瞳を通って撮像素子受光面に到達する被写体光束は、対応する像点の画素を中心として急峻な光強度分布を示す。すなわち、レンズ瞳を通過する有効光束の全体を受光する視差なし画素が像点近傍に配列されていれば、像点に対応する画素の出力値が最も大きく、周辺に配列された画素の出力値は急激に低下する。
一方、図3(b)に示すように、撮像素子受光面から遠ざかる方向に、物点が焦点位置からずれると、被写体光束は、物点が焦点位置に存在する場合に比べて、撮像素子受光面においてなだらかな光強度分布を示す。すなわち、対応する像点の画素における出力値が低下する上に、より周辺画素まで出力値を有する分布を示す。
図3(c)に示すように、さらに物点が焦点位置からずれると、被写体光束は、撮像素子受光面においてよりなだらかな光強度分布を示す。すなわち、対応する像点の画素における出力値がさらに低下する上に、より周辺画素まで出力値を有する分布を示す。
図3(d)に示すように、撮像素子受光面に近づく方向に、物点が焦点位置からずれた場合にも、撮像素子受光面から遠ざかる方向に物点がずれた場合と同じような光強度分布を示す。
図4は、視差画素におけるデフォーカスの概念を説明する図である。視差Lt画素および視差Rt画素は、レンズ瞳の部分領域としてそれぞれ光軸対象に設定された2つの視差仮想瞳のいずれかから到達する被写体光束を受光する。本明細書において、単一のレンズ瞳における互いに異なる仮想瞳から到達する被写体光束を受光することによって視差画像を撮像する方式を単眼瞳分割撮像方式という。
図4(a)に示すように、被写体である物点が焦点位置に存在する場合、いずれの視差仮想瞳を通った被写体光束であっても、対応する像点の画素を中心として急峻な光強度分布を示す。像点付近に視差Lt画素が配列されていれば、像点に対応する画素の出力値が最も大きく、周辺に配列された画素の出力値が急激に低下する。また、像点付近に視差Rt画素が配列されていても、像点に対応する画素の出力値が最も大きく、周辺に配列された画素の出力値が急激に低下する。すなわち、被写体光束がいずれの視差仮想瞳を通過しても、像点に対応する画素の出力値が最も大きく、周辺に配列された画素の出力値が急激に低下する分布を示し、それぞれの分布は互いに一致する。
一方、図4(b)に示すように、撮像素子受光面から遠ざかる方向に、物点が焦点位置からずれると、物点が焦点位置に存在した場合に比べて、視差Lt画素が示す光強度分布のピークは、像点に対応する画素から一方向に離れた位置に現れ、かつその出力値は低下する。また、出力値を有する画素の幅も広がる。すなわち、撮像素子受光面の水平方向に対して点像の広がりを有することになるので、ボケ量は増す。視差Rt画素が示す光強度分布のピークは、像点に対応する画素から、視差Lt画素における一方向とは逆向きかつ等距離に離れた位置に現れ、同様にその出力値は低下する。また、同様に出力値を有する画素の幅も広がる。すなわち、物点が焦点位置に存在した場合に比べてなだらかとなった同一の光強度分布が、互いに等距離に離間して現れる。視差Lt画素および視差Rt画素が示す光強度分布のピーク間のずれ量は、視差量に相当する。
また、図4(c)に示すように、さらに物点が焦点位置からずれると、図4(b)の状態に比べて、さらになだらかとなった同一の光強度分布が、より離間して現れる。点像の広がりがより大きくなるので、ボケ量は増す。また、視差Lt画素および視差Rt画素が示す光強度分布のピーク間のずれも大きくなっているので、視差量も増す。つまり、物点が焦点位置から大きくずれる程、ボケ量と視差量が増すと言える。
図4(d)に示すように、撮像素子受光面に近づく方向に、物点が焦点位置からずれた場合には、図4(c)の状態とは逆に、視差Rt画素が示す光強度分布のピークは、像点に対応する画素から上記一方向に離れた位置に現れる。視差Lt画素が示す光強度分布のピークは、視差Rt画素における一方向とは逆向きに離れた位置に現れる。すなわち、物点のずれの方向に応じて、視差Lt画素および視差Rt画素が示す光強度分布のピークが、像点に対応する画素からどちらの方向に離れた位置に現れるかが決まる。
図3で説明した光強度分布の変化と、図4で説明した光強度分布の変化をそれぞれグラフ化すると、図5のように表される。図5は、視差なし画素と視差画素の光強度分布を示す図である。図において、横軸は画素位置を表し、中心位置が像点に対応する画素位置である。縦軸は各画素の出力値を表し、この出力値は実質的に光強度に比例するので、図においては光強度として示す。
なお、上述のように、撮像素子受光面に近づく方向に、物点が焦点位置からずれた場合も、撮像素子受光面から遠ざかる方向に物点がずれた場合と同じような光強度分布を示すので、図において、撮像素子受光面に近づく方向にずれた場合の光強度分布の変化を省略している。撮像素子受光面に近づく方向に、物点が焦点位置からずれた場合の視差Lt画素および視差Rt画素が示す光強度分布のピークについても、撮像素子受光面から遠ざかる方向に物点がずれた場合の視差Lt画素および視差Rt画素が示す光強度分布のピークと同様であるので、省略している。
図5(a)は、図3で説明した光強度分布の変化を表すグラフである。分布曲線1801は、図3(a)に対応する光強度分布を表し、最も急峻な様子を示す。分布曲線1802は、図3(b)に対応する光強度分布を表し、また、分布曲線1803は、図3(c)に対応する光強度分布を表す。分布曲線1801に比較して、徐々にピーク値が下がり、広がりを持つ様子がわかる。
図5(b)は、図4で説明した光強度分布の変化を表すグラフである。分布曲線1804と分布曲線1805は、それぞれ図4(b)の視差Lt画素の光強度分布と視差Rt画素の光強度分布を表す。図からわかるように、これらの分布は中心位置に対して線対称の形状を成す。また、これらを足し合わせた合成分布曲線1806は、図4(b)に対して同等のデフォーカス状態である図3(b)の分布曲線1802と相似形状を示す。
分布曲線1807と分布曲線1808は、それぞれ図4(c)の視差Lt画素の光強度分布と視差Rt画素の光強度分布を表す。図からわかるように、これらの分布も中心位置に対して線対称の形状を成す。また、これらを足し合わせた合成分布曲線1809は、図4(c)に対して同等のデフォーカス状態である図3(c)の分布曲線1803と相似形状を示す。なお、図4(d)の視差Lt画素の光強度分布と視差Rt画素の光強度分布は、図4(c)の視差Lt画素の光強度分布と視差Rt画素の光強度分布の位置を入れ替えた関係になるので、それぞれ分布曲線1808と分布曲線1807に相当する。
図6は、視差画素の種類が2つである場合における開口部104の開口形状の一例を説明する図である。図6(a)は、視差Lt画素の開口マスクにおける開口部104lの形状と、視差Rt画素の開口部104rの形状とが、視差なし画素の開口部104nの形状を中心線322で分割したそれぞれの形状と同一である例を示している。つまり、図6(a)では、視差なし画素の開口部104nの面積は、視差Lt画素の開口部104lの面積と視差Rt画素の開口部104rの面積の和になっている。この場合に、本明細書においては、視差なし画素の開口部104nを全開口の開口部といい、開口部104lおよび開口部104rを半開口の開口部という。また、開口部が光電変換部の中央に位置する場合に、当該開口部が基準方向に向いているという。視差Lt画素の開口部104lおよび視差Rt画素の開口部104rは、それぞれ対応する光電変換部の中心(画素中心)を通る仮想的な中心線322に対して、互いに反対方向に偏位している。したがって、視差Lt画素の開口部104lおよび視差Rt画素の開口部104rはそれぞれ、中心線322に対する一方向、当該一方向とは反対の他方向に視差を生じさせる。
図6(b)は、図6(a)で示した各開口部を有する画素のみを集めた画素群において、撮像素子受光面から遠ざかる方向に、物点が焦点位置からずれた場合の光強度分布を示す。図中において、横軸は画素群の中の画素位置を表し、中心位置が像点に対応する画素位置である。また、曲線Ltは図5(b)の分布曲線1804、曲線Rtは図5(b)の分布曲線1805にそれぞれ相当する。曲線Nは視差なし画素に対応しており、図5(b)の合成分布曲線1806と相似形状を示す。また、それぞれの開口部104n、開口部104l、開口部104rは、開口絞りとしての機能を発揮する。したがって、開口部104l(開口部104r)の倍の面積を持つ開口部104nを有する視差なし画素のボケ幅は、図5(b)の合成分布曲線1806で示される、視差Lt画素と視差Rt画素を足し合わせた曲線のボケ幅と同程度となる。
図6(c)は、図6(a)で示した各開口部を有する画素のみを集めた画素群において、撮像素子受光面に近づく方向に、物点が焦点位置からずれた場合の光強度分布を示す。図において、横軸は画素群の中の画素位置を表し、中心位置が像点に対応する画素位置である。図6(c)の曲線Lt、曲線Rtは、開口部104nを有する視差なし画素のボケ幅が視差Lt画素と視差Rt画素を足し合わせた曲線のボケ幅と同程度となるという関係を維持しつつ、図6(b)の曲線Lt、曲線Rtに対して位置関係が逆転している。
図7は、撮像素子100の断面を表す概略図である。特に、撮像素子100のうち有効画素領域の中央部分の断面を表す概略図である。有効画素領域の端部の断面については後述する。撮像素子100は、被写体側から順に、マイクロレンズ101、カラーフィルタ102、配線層105、および基板109が配列されて構成されている。
基板109には、二次元的に複数の光電変換部108が配列されている。光電変換部108は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換部108により変換された画像信号、光電変換部108を制御する制御信号等は、配線層105に設けられた配線106を介して送受信される。
配線106は、入射光束を制限する開口マスクとしても機能する。規定される開口形状を配線106により形成し、当該開口形状により入射光束を制限して特定の部分光束のみを光電変換部108へ導くことができる。本実施形態においては、図7に示した開口形状に対応すべく、配線106は、光電変換部108の半分を覆うようにX軸方向に延伸している。開口マスクとして機能する配線106の作用により入射光束が制限され、視差が生じることになる。配線106の延伸部分の端部は、テーパー形状に形成されている。
一方、視差を生じさせない光電変換部108上には、配線106が存在しない。すなわち、配線106は、X軸方向に延伸していない。別言すれば、配線106は、対応する光電変換部108に対して入射する入射光束を制限しない、つまり入射光束の全体を通過させる開口マスクとして機能するとも言える。なお、開口形状を形成する配線106を配線層105のうち最も光電変換部108側に形成してもよい。
カラーフィルタ102は、配線層105上に設けられている。カラーフィルタ102は、各光電変換部108に対して特定の波長帯域を透過させるように着色された、光電変換部108のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも2種類のカラーフィルタが配列されればよいが、より高画質のカラー画像を取得するには3種類以上のカラーフィルタを配列するとよい。例えば赤色波長帯を透過させる赤フィルタ(Rフィルタ)、緑色波長帯を透過させる緑フィルタ(Gフィルタ)、および青色波長帯を透過させる青フィルタ(Bフィルタ)を格子状に配列するとよい。カラーフィルタは原色RGBの組合せのみならず、YCMの補色フィルタの組合せであってもよい。
マイクロレンズ101は、カラーフィルタ102上に設けられている。マイクロレンズ101は、入射する入射光束のより多くを光電変換部108へ導くための集光レンズである。マイクロレンズ101は、光電変換部108のそれぞれに一対一に対応して設けられている。マイクロレンズ101は、撮影レンズ20の瞳中心と光電変換部108の相対的な位置関係を考慮して、より多くの入射光束が光電変換部108に導かれるようにその光軸がシフトされていることが好ましい。
このように、各々の光電変換部108に対応して一対一に設けられるカラーフィルタ102およびマイクロレンズ101の一単位を画素と呼ぶ。なお、集光効率、光電変換効率がよいイメージセンサの場合は、マイクロレンズ101を設けなくてもよい。また、裏面照射型イメージセンサの場合は、配線層105が光電変換部108とは反対側に設けられる。なお、白黒画像信号を出力すればよい場合にはカラーフィルタ102は設けない。
以上の説明では、配線106が開口マスクの機能を兼ねる構成であったが、開口マスクを別途形成してもよい。例えば、カラーフィルタ102の直下に開口マスクを形成することができる。開口マスクは、各光電変換部108に対応して別個独立に配列してもよいし、カラーフィルタ102の製造プロセスと同様に複数の光電変換部108に対して一括して形成してもよい。また、開口マスクの開口部に色成分を持たせれば、カラーフィルタ102と開口マスクを一体的に形成することもできる。
開口マスクは、光電変換部108に重ねて設けられる透過阻止膜によって形成されてもよい。この場合、開口マスクは、例えば、SiN膜とSiO2膜を順次積層して透過阻止膜とし、開口部に相当する領域をエッチングで除去して形成される。さらに、光電変換部108そのものの領域を開口部に相当するように形成してもよい。
図8は、配線の形成位置による画素感度と画素への光線入射角度の変化を説明する図である。図8(a)は、比較例としての視差Lt画素の構成を説明する図である。ここでは、マイクロレンズ401、配線406、および光電変換部408を図示している。配線406は、光電変換部408に接した状態で配置されている。配線406は、光電変換部408の右半分を覆っている。また、マイクロレンズ401の焦点位置は光電変換部408の受光面の高さに設定されている。図8(a)の中央の図は、マイクロレンズ401に垂直に平行光が入射した状態を示している。この状態においては、入射する光線の一部は光電変換部408に達する。図8(a)の左図は、マイクロレンズ401に入射する平行光が時計回りの方向、すなわちマイナス側に傾いた状態を示している。この状態においては、入射する光線の全ては光電変換部408に達する。図8(a)の右図は、マイクロレンズ401に入射する平行光が反時計回りの方向、すなわちプラス側に傾いた状態を示している。この状態においては、入射する光線の全ては光電変換部408に達しない。
図8(b)は、比較例としての視差Lt画素の光線入射角度と画素感度との関係を説明する図である。横軸は、画素への光線入射角度[θ]を示し、縦軸は、画素感度を示す。破線は、視差なし画素の光線入射角度と画素感度との関係を示す。比較例としての視差Lt画素においては、配線406が光電変換部408に接した状態で配置されているので、太線で図示するように、入射光線角度がマイナスの場合には感度を有するものの、プラスの場合には感度を有しない。
図8(c)は、本実施形態の視差Lt画素の構成を説明する図である。ここでは、マイクロレンズ101、配線106、および光電変換部108を図示している。既に説明したように、配線106は、光電変換部108から離れた位置に配置されている。配線106は、光電変換部108の右半分を覆っている。また、マイクロレンズ101の焦点位置は光電変換部108の受光面の高さに設定されている。図8(c)の中央の図は、マイクロレンズ101に垂直に平行光が入射した状態を示している。この状態においては、入射する光線の一部は光電変換部108に達する。比較例の視差Lt画素と比較した場合には、配線106がマイクロレンズ101の焦点位置よりもマイクロレンズ101寄りに配置されているが、制限する光束の範囲は同一であるので、光電変換部408に達する光線の量は変わらない。
図8(c)の左図は、マイクロレンズ101に入射する平行光が時計回りの方向に傾いた状態を示している。この状態においては、入射する光線の一部は光電変換部108に達するものの、残部111は配線106により遮られて光電変換部108に達しない。図8(c)の右図は、マイクロレンズ101に入射する平行光が半時計回りの方向に傾いた状態を示している。この状態においては、入射する光線の全てが光電変換部108に達しないのではなく、一部112は光電変換部108に達する。
図8(d)は、本実施形態の視差Lt画素における光線入射角度と画素感度の関係を説明する図である。横軸は、画素への光線入射角度[θ]を示し、縦軸は、画素感度を示す。破線は、視差なし画素の光線入射角度と画素感度との関係を示す。本実施形態の視差Lt画素においては、配線106が光電変換部108から離れた位置に配置されているので、太線で図示するように、画素は、左半分だけでなく、右半分にも感度を有する。より詳細には、図8(c)の左図で説明したように、この状態においては、残部111が光電変換部108に達しない分だけ、画素感度は低下する。領域113は、残部111が光電変換部108に達した場合の画素感度に相当する。一方で、図8(c)の右図で説明したように、この状態においては、光線の一部112は光電変換部108に達する。したがって、画素は、右半分にも感度を有する領域を持つ。図においては、領域114は、光線の一部112が光電変換部108に達したことによる画素感度に相当する。
なお、以上の説明では、視差Lt画素を例に挙げたが、視差Rt画素についても同様のことが言える。以上のような視差Lt画素、視差Rt画素が配列されているので、図5に示した分布曲線1804と分布曲線1805とを重なり易くすることができる。一般には、マイクロレンズ101の焦点位置が入射光束を制限する面から少しでもずれていれば、同様のことが言える。ここでいう入射光束を制限する面は、図7、8における配線106に相当する。
図9は、撮像素子100に入射する被写体光束のうち最外光線の入射角度(CRA)を説明する図である。より詳細には、図9は、最外光線の入射角度と撮影レンズ20の射出距離との関係を示している。撮像素子100に入射する被写体光束は、例えば有効画素領域に入射する被写体光束である。図9(a)は、交換レンズ300として広角レンズが装着された場合を示す。図9(b)は、交換レンズ300として標準レンズが装着された場合を示す。図9(c)は、交換レンズ300として望遠レンズが装着された場合を示す。なお、図9においては、望遠になるほど射出瞳距離が長くなるとする。
図9に示すように、撮影レンズ20の射出瞳距離により、最外光線の入射角度は異なる。具体的には、交換レンズ300として標準レンズが装着された場合のCRAを基準とすると、図9(a)に示すように、広角レンズが装着された場合のCRAは、基準よりも大きくなる。一方で、図9(c)に示すように、望遠レンズが装着された場合のCRAは、基準よりも小さくなる。
最外光線の入射角度が変わることにより、有効画素領域の端部に配列された画素に対する入射光束の入射角度も変わる。詳しくは後述するが、本実施形態の撮像素子100においては、広角レンズが装着されている場合でも、望遠レンズが装着されている場合でも、視差画素が入射光束を受光できるように、配線106の位置および配線106の開口が規定されている。結果として、左右の視差画像間でのシェーディングを抑制することができ、不均一な瞳分割による左右の視差画像間の差異を抑制することができる。
図10は、撮像素子100の画素110の構成を説明する図である。特に、有効画素領域の端部に位置する画素の断面を表す概略図である。ここでは、画素110として右視差画素を例に挙げており、マイクロレンズ101、配線106、および光電変換部108を図示している。配線106のうち破線で示す部分は開口部分を示し、ハッチングで示す部分は遮光部分を示す。一点鎖線は、望遠レンズが装着されている場合の入射光束を示し、二点鎖線は、標準レンズが装着されている場合の入射光束を示し、三点鎖線は、広角レンズが装着されている場合の入射光束を示す。
本実施形態において、予め設定されている光量を通過させるために必要な開口マスクの高さを目標高さh1という。ここでいう高さとは、光電変換部108からの距離である。本実施形態においては、予め設定されている光量は、マイクロレンズ101に入射する光量の1/4とする。なお、予め設定されている光量は、本例に限られない。
配線106は、目標高さh1に配置されている。より詳細には、配線106は、配線106のうち光電変換部108に対向する側の面が、目標高さh1に一致するように配置されている。開口部104がマイクロレンズ101と目標高さh1との間に位置するように配置されていると言うこともできる。目標高さh1は、光電変換部108の表面から、広角レンズが装着された場合における、入射光束のうち第1方向である紙面右方向側の特定部分の光束121と、望遠レンズが装着された場合における、入射光束のうち第2方向である紙面左方向側の特定部分の光束122との交点123までの距離である。交点123は、より詳細には、光束121における紙面左側の外縁の光線である周縁光線126と、光束122における紙面右側の外縁の光線である周縁光線127との交点である。ここで、光束121は、広角レンズが装着された場合の、マイクロレンズ101に入射する全光束のうち1/4の光量に相当する光束であり、光束122は、望遠レンズが装着された場合の、マイクロレンズ101に入射する全光束のうち1/4の光量に相当する光束である。また、配線106は、遮光部分が光束121に沿うように、配置されている。以上のように配線106が配置されることにより、画素110は、どの交換レンズが装着されようとも、マイクロレンズ101に入射する光量の少なくとも1/4の光量を受光することができる。すなわち、視差画素として機能することができる。以上のように、配線106の開口は、有効画素領域の端に配置された視差画素であっても、被写体像を集光する交換レンズのいずれに対しても、入射光束のうち交換レンズの光軸から偏位した予め定められた部分光束の少なくとも一部を通過させるように位置づけられている。
なお、配線106の形成位置は、本例に限られない。配線106は、マイクロレンズ101から離れた位置であれば、図10に示す形成位置よりも高い位置に形成されてもよい。より詳細には、配線106は、配線106のうち光電変換部108に対向する側の面が目標高さh1よりも高い位置に形成されてもよい。
マイクロレンズ101は、マイクロレンズ101の光軸125が光電変換部108の中心を示す画素中心線124に対してシフトした位置に配置されている。ここでは、右側にシフトした位置に配置されている。マイクロレンズ101がシフトされると、画素感度の角度依存性のピーク角度が変わる。そこで、被写体光束の最外光線の入射角度に合わせてマイクロレンズ101をシフトさせるとよい。例えば、カメラシステムとしてのバランスの観点からは、標準レンズに合わせてシフトさせるとよい。
図11は、撮像素子100の画素110の構成を説明する図である。特に、有効画素領域の端部に位置する画素の断面を表す概略図である。図11は、図10に対応しており、左視差画素および右視差画素のそれぞれについて、広角レンズ、標準レンズ、および望遠レンズが装着された場合を示す。ここでは、マイクロレンズ101、配線106、および光電変換部108を図示している。配線106のうち破線で示す部分は開口部分を示し、ハッチングで示す部分は遮光部分を示す。図13中のハッチング領域131は、入射光束のうち光電変換部108に到達する部分を示す。一点鎖線、二点鎖線、および三点鎖線は、既に説明した通りである。
図11(a)は、広角レンズが装着されている場合の左視差画素の構成を示す。この場合には、入射光束のうち略3/4の光束が光電変換部108に到達する。
図11(b)は、標準レンズが装着されている場合の左視差画素の構成を示す。この場合には、入射光束のうち略1/2の光束が光電変換部108に到達する。
図11(c)は、望遠レンズが装着されている場合の左視差画素の構成を示す。この場合には、入射光束のうち略1/4の光束が光電変換部108に到達する。
以上のように、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、入射光束のうち少なくとも1/4の光束が光電変換部108に到達する。したがって、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、左視差画像を生成することができる。
図11(d)は、広角レンズが装着されている場合の右視差画素の構成を示す。この場合には、入射光束のうち略1/4の光束が光電変換部108に到達する。
図11(e)は、標準レンズが装着されている場合の右視差画素の構成を示す。この場合には、入射光束のうち略1/2の光束が光電変換部108に到達する。
図11(f)は、望遠レンズが装着されている場合の右視差画素の構成を示す。の場合には、入射光束のうち略3/4の光束が光電変換部108に到達する。
以上のように、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、入射光束のうち少なくとも1/4の光束が光電変換部108に到達する。したがって、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、右視差画像を生成することができる。
図11(b)と(e)に示すように、標準レンズが装着されている場合には、左視差画素に入射する入射光束の光量と、右視差画素に入射する入射光束の光量とが等しくなる。すなわち、標準レンズが装着された場合には、瞳分割比が左右の視差画素で均等になる。図11(a)と(f)に示すように、広角レンズが装着されている場合に、左視差画素に入射する入射光束の光量と、望遠レンズが装着されている場合に、右視差画素に入射する入射光束の光量とがおおよそ等しくなる。広角レンズが装着されている場合に、マイクロレンズ101への全入射光束に対する左視差画素が受光する部分光束(すなわち図11(a)のハッチング領域131)の比と、望遠レンズが装着されている場合に、マイクロレンズ101への全入射光束に対する右視差画素が受光する部分光束(すなわち図11(f)のハッチング領域131)の比とが、実質的に等しくなるということもできる。なお、実質的に等しいとは、広角レンズ、望遠レンズ、左視差画素、右視差画素の製造誤差等により、厳密には等しくならないものの、その差が微差であり、等しいとみなせる場合を含む。同様に、図11(c)と(d)に示すように、望遠レンズが装着されている場合に、左視差画素に入射する入射光束の光量と、広角レンズが装着されている場合に、右視差画素に入射する入射光束の光量とがおおよそ等しくなる。望遠レンズが装着されている場合に、マイクロレンズ101への全入射光束に対する左視差画素が受光する部分光束(すなわち図11(c)のハッチング領域131)の比と、広角レンズが装着されている場合に、マイクロレンズ101への全入射光束に対する右視差画素が受光する部分光束(すなわち図11(d)のハッチング領域131)の比とが、実質的に等しくなるということもできる。以上のように、広角レンズまたは望遠レンズが装着されている場合には、瞳分割比が左右の視差画素で均等にならないものの、少なくとも予め定められた光量は受光される。よって、瞳分割比が左右の視差画素で極端に異なる状況を回避することができる。
以上の説明では、配線106は、既に説明した目標高さh1、または目標高さh1よりも高い位置で、かつマイクロレンズ101から離れた位置に形成されたが、目標高さh1よりも低い位置に形成されてもよい。この場合には、左視差画素の光電変換部108に対してより多くの入射光束が到達する一方、右視差画素の光電変換部108に対して入射光束が到達しない場合があり得る。同様に、右視差画素の光電変換部108に対してより多くの入射光束が到達する一方、左視差画素の光電変換部108に対して入射光束が到達しない場合があり得る。そこで、配線106の開口幅を調節するとよい。具体的には、配線106の開口幅を半開口よりも大きくする。
図12は、変形例に係る撮像素子100の画素110の構成を説明する図である。特に、有効画素領域の端部に位置する画素の断面を表す概略図である。ここでは、画素110として右視差画素を例に挙げており、マイクロレンズ101、配線106、および光電変換部108を図示している。配線106のうち破線で示す部分は開口部分を示し、ハッチングで示す部分は遮光部分を示す。一点鎖線、二点鎖線、および三点鎖線は、既に説明した通りである。
図示するように、配線106は、目標高さh1よりも低い位置、すなわち、より光電変換部108側に形成されている。ここで、本実施形態において、交換レンズによらず、視差画像を生成するために必要な開口マスクの高さを限界高さh2という。既に説明したように、配線106は、遮光部分が光束121に沿うように、配置される。しかしながら、配線106がこのように配置されたとしても、限界高さh2よりも低い位置であれば、標準レンズまたは望遠レンズが装着された場合に、配線106で遮光されることなく、全光束が光電変換部108に到達し得る。このような場合には、視差画像を生成することはできない。そこで、配線106のうち光電変換部108に対向する側の面は、広角レンズが装着された場合における、入射光束のうち第1方向である紙面右方向側の特定部分の光束121と、望遠レンズが装着された場合における、入射光束のうち第2方向である紙面左方向側の光束122との交点141よりもマイクロレンズ101側に配置されている。交点141は、より詳細には、光束121における紙面左側の外縁の光線である周縁光線126と、光束122における紙面左側の外縁の光線である周縁光線128との交点である。以上のように配線106が配置されることにより、標準レンズが装着された場合はもちろんのこと、望遠レンズが装着された場合であっても、入射光束の一部は配線106のテーパー面で遮光される。したがって、画素110は、どの交換レンズが装着されようとも、入射光束の全光束ではなく、その一部を受光することができる。すなわち、視差画素として機能することができる。
なお、配線106の配置位置は、本例に限られない。標準レンズまたは望遠レンズが装着された場合において、入射光束の全てが光電変換部108に到達すること、すなわち、画素110が視差画素として機能しないことが許容されるのであれば、交点141よりも光電変換部108側に配置されてもよい。この場合には、配線106が、遮光部分が光束121に沿うように配置されており、かつ、光電変換部108に接していなければ、少なくとも広角レンズが装着された場合には、画素110を視差画素として機能させることができる。
図13は、変形例に係る撮像素子の画素110の構成を説明する図である。特に、有効画素領域の端部に位置する画素の断面を表す概略図である。図13は、図12に対応しており、左視差画素および右視差画素のそれぞれについて、広角レンズ、標準レンズ、および望遠レンズが装着された場合を示す。ここでは、マイクロレンズ101、配線106、および光電変換部108を図示している。配線106のうち破線で示す部分は開口部分を示し、ハッチングで示す部分は遮光部分を示す。図13中のハッチング領域151は、図11で示したハッチング領域131に対応している。ハッチング領域152は、入射光束のうち配線106の位置および開口幅を変更することにより配線106を通過することになった部分を示す。一点鎖線、二点鎖線、および三点鎖線は、既に説明した通りである。
図13(a)は、広角レンズが装着されている場合の左視差画素の構成を示す。図13(b)は、標準レンズが装着されている場合の左視差画素の構成を示す。図13(c)は、望遠レンズが装着されている場合の左視差画素の構成を示す。図13(a)、(b)、(c)に示すように、ハッチング領域151は、光電変換部108に到達する。また、図13(a)、(b)に示すように、ハッチング領域151に示す光束に加えて、ハッチング領域152に示す光束も光電変換部108に到達する。したがって、広角レンズまたは標準レンズが装着されている場合には、光電変換部108は、より多くの光束を受光することができる。広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、左視差画像を生成することができる。
図13(d)は、広角レンズが装着されている場合の右視差画素の構成を示す。図13(e)は、標準レンズが装着されている場合の右視差画素の構成を示す。図13(f)は、望遠レンズが装着されている場合の右視差画素の構成を示す。図13(d)、(e)、(f)に示すように、ハッチング領域151は、光電変換部108に到達する。また、図13(e)、(f)に示すように、ハッチング領域151に示す光束に加えて、ハッチング領域152に示す光束も光電変換部108に到達する。したがって、標準レンズまたは望遠レンズが装着されている場合には、光電変換部108は、より多くの光束を受光することができる。広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、右視差画像を生成することができる。
以上のように、配線106が目標高さh1よりも低い位置に形成された場合であっても、配線106の開口幅を調整することにより、装着されたレンズに関わらず、光電変換部108は、少なくとも予め定められた光量を受光することができる。したがって、左右の視差画像間でのシェーディングを抑制すると共に、不均一な瞳分割による左右の視差画像間の差異を抑制することができる。
以上の説明では、画素は、単位画素領域内に1つの光電変換部を備える構成であったが、単位画素領域内に2つの光電変換部を備える構成であってもよい。より詳細には、画素は、単位画素領域内に、単位画素領域の中心に対して左方向に偏位した左側の光電変換部と、右方向に偏位した右側の光電変換部とを備える構成であってもよい。本明細書においては、このような構造を2PDと記す場合がある。また、2PD構造の画素を分割画素と記す場合がある。
図14は、2PDが採用された撮像素子の画素500の構成を説明する図である。特に、有効画素領域の端部の断面を表す概略図である。画素500は、左側の光電変換部502と、右側の光電変換部503と、これらを分離する分離部504と、マイクロレンズ501を含んで構成される。左側の光電変換部502と右側の光電変換部503とは、分離部504を挟んで、単位画素領域の中心に対して対称に配置される。左側の光電変換部502に蓄積された電荷および右側の光電変換部503に蓄積された電荷をどのように読み出すかによって、画素500を左視差画素および右視差画素のいずれとしても機能させることができる。したがって、2PDとは、1つのマイクロレンズ501の下に左視差画素と右視差画素が共存して構成される構造ということもできる。なお、図14中のハッチング領域505は、図11で示したハッチング領域131に対応している。一点鎖線、二点鎖線、および三点鎖線は、既に説明した通りである。また、マイクロレンズ501の集光位置は、図11で示したマイクロレンズ101の集光位置と同一である。すなわち、左側の光電変換部502および右側の光電変換部503が形成された位置から、Z軸のプラス方向にずれた位置に設定される。
左側の光電変換部502および右側の光電変換部503は、図10に示した配線106が形成されている位置に形成されている。すなわち、目標高さh1よりも高い位置に形成されている。なお、左側の光電変換部502および右側の光電変換部503の形成位置は、本例に限られない。左側の光電変換部502および右側の光電変換部503は、既に説明した目標高さh1、または目標高さh1よりも高い位置で、かつマイクロレンズ501から離れた位置に形成されていればよい。
図14(a)は、広角レンズが装着されている場合の画素の構成を示す。図14(b)は、標準レンズが装着されている場合の画素の構成を示す。図14(c)は、望遠レンズが装着されている場合の画素の構成を示す。図14(a)、(b)、(c)に示すように、ハッチング領域505により示される光束の一部は、分離部504に到達してしまうものの、大部分は、左側の光電変換部502に到達する。したがって、画素500を左視差画素として機能させれば、図11(a)、(b)、(c)に示した構成の場合と同様の効果を得ることができる。すなわち、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、光電変換部502は少なくとも予め定められた光量を受光することができる。結果として、左視差画像を生成することができる。
図14(d)は、広角レンズが装着されている場合を示す。図14(e)は、標準レンズが装着されている場合を示す。図14(f)は、望遠レンズが装着されている場合を示す。図14(d)、(e)、(f)に示すように、ハッチング領域505により示される光束の一部は、分離部504に到達してしまうものの、大部分は、右側の光電変換部503に到達する。したがって、画素500を右視差画素として機能させれば、図11(d)、(e)、(f)に示した構成の場合と同様の効果を得ることができる。すなわち、広角レンズが装着されている場合であっても、望遠レンズが装着されている場合であっても、光電変換部503は少なくとも予め定められた光量を受光することができる。結果として、右視差画像を生成することができる。
以上のように、2PDが採用された撮像素子を用いた場合であっても、装着されたレンズに関わらず、左右の視差画像を生成することができる。また、図14(b)と(e)に示すように、標準レンズが装着されている場合に、光電変換部502に入射する入射光束の光量と、光電変換部503に入射する入射光束の光量とが等しくなる。すなわち、標準レンズが装着された場合には、瞳分割比が左右の視差画素で均等になる。図14(a)と(f)に示すように、広角レンズが装着されている場合に、光電変換部502に入射する入射光束の光量と、望遠レンズが装着されている場合に、光電変換部503に入射する入射光束の光量とがおおよそ等しくなる。広角レンズが装着されている場合に、マイクロレンズ501への全入射光束に対する光電変換部502が受光する部分光束の比と、望遠レンズが装着されている場合に、マイクロレンズ501への全入射光束に対する光電変換部503が受光する部分光束の比とが、実質的に等しくなるということもできる。同様に、図14(c)と(d)に示すように、望遠レンズが装着されている場合に、光電変換部502に入射する入射光束の光量と、広角レンズが装着されている場合に、光電変換部503に入射する入射光束の光量とがおおよそ等しくなる。望遠レンズが装着されている場合に、マイクロレンズ501への全入射光束に対する光電変換部502が受光する部分光束の比と、広角レンズが装着されている場合に、マイクロレンズ501への全入射光束に対する光電変換部503が受光する部分光束の比とが、実質的に等しくなるということもできる。以上のように、広角レンズまたは望遠レンズが装着されている場合には、瞳分割比が左右の視差画素で均等にならないものの、少なくとも予め定められた光量は受光される。よって、瞳分割比が左右の視差画素で極端に異なる状況を回避することができる。
2PDが採用された撮像素子を用いた場合には、カメラ本体制御部201は、いずれの分割画素に対しても、装着されている交換レンズから入射する被写体光束のうち交換レンズ300の光軸から偏位した予め定められた部分光束の少なくとも一部が複数のフォトダイオードのうち特定のフォトダイオードに入射するかを判定する。そして、特定のフォトダイオードに入射しないと判定した場合にユーザにその旨を報知する。ユーザへの報知方法は、既に説明した通りである。
以上の説明では、左側の光電変換部502および右側の光電変換部503は、図10等に示した配線106が形成された位置に形成されたが、図10等に示した光電変換部108が形成された位置に形成されてもよい。この場合には、マイクロレンズ501の集光位置を、左側の光電変換部502および右側の光電変換部503が形成された位置よりも、Z軸のプラス方向にずれた位置に設定するとよい。
撮像素子100から出力される撮影画像データから2D画像データと視差画像データを生成する処理の概念を説明する。図15は、基準画像データとしての2D画像データと視差画像データの生成処理の例を説明する図である。図15においては、図2に示す基本格子を例に挙げて説明する。
基本格子における視差画素および視差なし画素の配列からもわかるように、撮像素子100の出力をその画素配列に一致させてそのまま羅列しても、特定の像を表す画像データにはならない。撮像素子100の画素出力を、同一に特徴付けられた画素グループごとに分離して寄せ集めてはじめて、その特徴に即した一つの像を表す画像データが形成される。例えば、左右の視差画素をそれぞれ寄せ集めると、互いに視差を有する左右の視差画像データが得られる。このように、同一に特徴付けられた画素グループごとに分離して寄せ集められたそれぞれの画像データを、プレーンデータと呼ぶ。
画像処理部205は、撮像素子100の画素配列順にその出力値(画素値)が羅列されたRAW元画像データを受け取り、複数のプレーンデータに分離するプレーン分離処理を実行する。図の左列は、2D画像データとしての2D−RGBプレーンデータの生成処理の例を示す。
2D−RGBプレーンデータを生成するにあたり、画像処理部205は、まず視差画素の画素値を除去して、空格子とする。そして、空格子となった画素値を、周辺画素の画素値を用いて補間処理により算出する。例えば、空格子P11の画素値は、斜め方向に隣接するGフィルタ画素の画素値である、P−1−1、P2−1、P−12、P22の画素値を平均化演算して算出する。また、例えば空格子P63の画素値は、上下左右に1画素飛ばして隣接するRフィルタの画素値である、P43、P61、P83、P65の画素値を平均化演算して算出する。同様に、例えば空格子P76の画素値は、上下左右に1画素飛ばして隣接するBフィルタの画素値である、P56、P74、P96、P78の画素値を平均化演算して算出する。
このように補間された2D−RGBプレーンデータは、ベイヤー配列を有する通常の撮像素子の出力と同様であるので、その後は2D画像データとして各種処理を行うことができる。すなわち、公知のベイヤー補間を行って、各画素にRGBデータの揃ったカラー画像データを生成する。画像処理部205は、静止画データを生成する場合にはJPEG等の、動画データを生成する場合にはMPEG等の、予め定められたフォーマットに従って一般的な2D画像としての画像処理を行う。
もう一度述べると、画像処理部205は、2D−RGBプレーンデータをさらに色ごとに分離し、上述のような補間処理を施して、基準画像データとしての各プレーンデータを生成する。すなわち、緑色の基準画像プレーンデータとしてのGn0プレーンデータ、赤色の基準画像プレーンデータとしてのRn0プレーンデータ、および青色の基準画像プレーンデータとしてのBn0プレーンデータの3つを生成する。これらのプレーンデータは、視差画素に対して密度の高い視差なし画素をベースとして生成されるので、次に述べる視差画像データのプレーンデータよりは高解像である。
図の右列は、視差画素データを構成するプレーンデータとしての2つのGプレーンデータ、2つのRプレーンデータおよび2つのBプレーンデータの生成処理の例を示す。2つのGプレーンデータは、左視差画像データとしてのGLtプレーンデータと右視差画像データとしてのGRtプレーンデータであり、2つのRプレーンデータは、左視差画像データとしてのRLtプレーンデータと右視差画像データとしてのRRtプレーンデータであり、2つのBプレーンデータは、左視差画像データとしてのBLtプレーンデータと右視差画像データとしてのBRtプレーンデータである。
GLtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からG(Lt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P11とP55の2つの画素値が残る。そこで、基本格子を縦横に4等分し、左上の16画素分をP11の出力値で代表させ、右下の16画素分をP55の出力値で代表させる。そして、右上の16画素分および左下の16画素分は、上下左右に隣接する周辺の代表値を平均化演算して補間する。すなわち、GLtプレーンデータは、16画素単位で一つの値を有する。より好ましくは距離に応じた線形補間を導入する。
同様に、GRtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からG(Rt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P51とP15の2つの画素値が残る。そこで、基本格子を縦横に4等分し、右上の16画素分をP51の出力値で代表させ、左下の16画素分をP15の出力値で代表させる。そして、左上の16画素分および右下の16画素分は、上下左右に隣接する周辺の代表値を平均化演算して補間する。すなわち、GRtプレーンデータは、16画素単位で一つの値を有する。より好ましくは距離に応じた線形補間を導入する。このようにして、Gn0プレーンデータよりは解像度の低いGLtプレーンデータとGRtプレーンデータを生成することができる。
RLtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からR(Lt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P27の画素値が残る。この画素値を基本格子の64画素分の代表値とする。より好ましくは距離に応じた線形補間を導入する。同様に、RRtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からR(Rt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P63の画素値が残る。この画素値を基本格子の64画素分の代表値とする。より好ましくは距離に応じた線形補間を導入する。このようにして、Rn0プレーンデータよりは解像度の低いRLtプレーンデータとRRtプレーンデータが生成される。この場合、RLtプレーンデータとRRtプレーンデータの解像度は、GLtプレーンデータとGRtプレーンデータの解像度よりも低い。
BLtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からB(Lt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P32の画素値が残る。この画素値を基本格子の64画素分の代表値とする。より好ましくは距離に応じた線形補間を導入する。同様に、BRtプレーンデータを生成するにあたり、画像処理部205は、撮像素子100の全出力値からB(Rt)画素の画素値以外の画素値を除去して空格子とする。すると、基本格子には、P76の画素値が残る。この画素値を基本格子の64画素分の代表値とする。より好ましくは距離に応じた線形補間を導入する。このようにして、Bn0プレーンデータよりは解像度の低いBLtプレーンデータとBRtプレーンデータが生成される。この場合、BLtプレーンデータとBRtプレーンデータの解像度は、GLtプレーンデータとGRtプレーンデータの解像度よりも低く、RLtプレーンデータとRRtプレーンデータの解像度と同等である。
本実施形態においては、画像処理部205は、これらのプレーンデータを用いて、高解像な左側視点のカラー画像データおよび右側視点のカラー画像データを生成する。
赤色視差プレーン(RLt0プレーンデータとRRt0プレーンデータ)は、Rn0プレーンデータの画素値と、RLtプレーンデータおよびRRtプレーンデータの画素値とを用いて生成する。具体的には、例えばRLt0プレーンデータの対象画素位置(im,jn)の画素値RLt0mnを算出する場合、まず、画像処理部205は、Rn0プレーンデータの同一画素位置(im,jn)から画素値Rn0mnを抽出する。次に、画像処理部205は、RLtプレーンデータの同一画素位置(im,jn)から画素値RLtmnを、RRtプレーンデータの同一画素位置(im,jn)から画素値RRtmnを抽出する。そして、画像処理部205は、画素値Rn0mnを、画素値RLtmnとRRtmnの比で分配して画素値RLt0mnを算出する。具体的には、以下の式(1)により算出する。
RLt0mn=2Rn0mn×RLtmn/(RLtmn+RRtmn) …(1)
同様に、RRt0プレーンデータの対象画素位置(im,jn)の画素値RRt0mnを算出する場合も、画像処理部205は、画素値Rn0mnを画素値RLtmnと画素値RRtmnの比で分配して算出する。具体的には、以下の式(2)により算出する。
RRt0mn=2Rn0mn×RRtmn/(RLtmn+RRtmn) …(2)
画像処理部205は、このような処理を、左端かつ上端の画素である(1、1)から右端かつ下端の座標である(i0,j0)まで順次実行する。
そして、高解像な赤色視差プレーンであるRLt0プレーンデータとRRt0プレーンデータの生成処理が完了したら、次に高解像な緑色視差プレーンであるGLt0プレーンデータとGRt0プレーンデータの生成処理を実行する。具体的には、上述の説明においてRn0プレーンデータの同一画素位置(im,jn)から画素値Rn0mnを抽出する代わりに、Gn0プレーンデータの同一画素位置(im,jn)から画素値Gn0mnを抽出し、さらにRLtmnの代わりにGLtmnを、RRtmnの代わりにGRtmnを抽出して、同様に処理する。さらに、高解像な緑色視差プレーンであるGL0tプレーンデータとGRt0プレーンデータの生成処理が完了したら、次に高解像な青色視差プレーンであるBLt0プレーンデータとBRt0プレーンデータの生成処理を実行する。具体的には、上述の説明においてRn0プレーンデータの同一画素位置(im,jn)から画素値Rn0mnを抽出する代わりに、Bn0プレーンデータの同一画素位置(im,jn)から画素値Bn0mnを抽出し、さらにRLtmnの代わりにBLtmnを、RRtmnの代わりにBRtmnを抽出して、同様に処理する。
以上の処理により、左側視点の高解像なカラー画像データ(RLt0プレーンデータ、GLt0プレーンデータ、BLt0プレーンデータ)および右側視点の高解像なカラー画像データ(RRt0プレーンデータ、GRt0プレーンデータ、BRt0プレーンデータ)が生成される。すなわち、実際には撮像素子100の画素として存在しない、RGBいずれかのカラーフィルタを併せ持つ視差Lt画素および視差Rt画素の仮想的な出力として、左側視点および右側視点のカラー画像データを、比較的簡易な処理により取得することができる。したがって、これらの画像データを3D画像対応の再生装置で再生すれば、ユーザは、カラー画像としての高解像な3D映像を鑑賞できる。特に、処理が簡易なので高速に画像データを生成することができ、動画に対しても対応できる。
以上のように、解像度の低い視差画像データと解像度の高い2D画像データとから、解像度の高い視差画像データを生成する処理は、解像度の低い視差画像が持つ視差成分を2D画像に重畳することにより変位処理を実現するので、視差変調処理ということができる。
以上の説明では、デジタルカメラとしてレンズ交換型のデジタルカメラを用いたが、レンズ一体型のデジタルカメラを用いてもよい。レンズ一体型のデジタルカメラがズームレンズを備える場合においては、ズームレンズがテレ端に位置するときには、望遠レンズが装着された場合に相当し、ズームレンズがワイド端に位置するときには、広角レンズが装着された場合に相当する。したがって、既に説明した撮像素子を備えることにより、ズームレンズの位置に関わらず、左右の視差画像を生成することができる。以上のようなレンズ一体型のデジタルカメラは、画像信号を出力する有効画素として2次元的かつ周期的に配列されそれぞれが開口マスクを有する視差画素を含む撮像素子と、被写体像を集光するズームレンズとを備え、開口マスクの開口は、有効画素領域の端に配置された視差画素であっても、ズームレンズのいずれの焦点距離に対しても、被写体光束のうちズームレンズの光軸から偏位した予め定められた部分光束の少なくとも一部を通過させるように位置づけられるように構成することができる。また、画像信号を出力する有効画素として2次元的かつ周期的に配列され、それぞれが単位画素領域内に偏位した複数のフォトダイオードを含む分割画素を含む撮像素子と、被写体像を集光するズームレンズとを備え、分割画素は、有効画素領域の端に配置された分割画素であっても、ズームレンズのいずれの焦点距離に対しても、被写体光束のうちズームレンズの光軸から偏位した予め定められた部分光束の少なくとも一部が複数のフォトダイオードのうち特定のフォトダイオードに入射するように位置づけられるように構成することもできる。
以上の説明では、カメラ本体制御部201は、交換レンズ300の識別情報により、予め定められた部分光束の少なくとも一部が配線の開口を通過するかを判定したが、撮像素子100の出力により、配線の開口を通過するかを判定してもよい。例えば、有効画素領域の端部の出力が予め定められた閾値よりも小さいかを判定することにより、配線の開口を通過するかを判定することができる。有効画素領域の端部の出力が予め定められた閾値よりも小さい場合には、配線の開口を通過しないと判定する。また、設定されている絞り値によっては、配線の開口を通過するかが変化する。そこで、設定されている絞り値によってユーザに報知するかを判定してもよい。また、交換レンズ300を透過する被写体光束の最外光線が撮像素子100に対して予め設定されている入射角度範囲に収まるかを判定してもよい。この場合に、最外光線が有効画素領域のうち撮像対象となる領域に対して予め設定されている入射角度範囲に収まるかを判定してもよい。例えば、撮像素子100のサイズが35mmフルサイズ相当である場合において、撮像範囲としてAPS−Cサイズ相当が選択されたときには、APS−Cサイズ相当に対して入射角度範囲に収まるかを判定してもよい。
以上の説明では、カメラ本体制御部201は、被写体光束が入射角度範囲に収まらないと判定した場合に、その旨をユーザに報知したが、他の制御を実行してもよい。例えば、撮影モードが視差画像撮影モードに設定されていたとしても、通常の2D撮影モードにより撮影してもよい。
配線106の開口幅を撮像素子100における画素位置に応じて設定してもよい。例えば、撮像素子100の周縁に向かうほど大きく設定してもよい。これにより、広角レンズまたは望遠レンズが装着された場合に、視差画素が予め定められた光量を受光し易くなる。また、画素配列の一部を広角レンズに合わせて設計し、残部を望遠レンズに合わせて設計してもよい。例えば、画素配列の半分を広角レンズに合わせて設計し、残りの半分を望遠レンズに合わせて設計してもよい。
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。