JP5874334B2 - 画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラム - Google Patents

Description

本発明は、画像処理装置、撮像装置、画像処理プログラムおよび撮像装置の制御プログラムに関する。

２つの撮影光学系を用いて、右目用の画像と左目用の画像とから成るステレオ画像を撮像するステレオ撮像装置が知られている。このようなステレオ撮像装置は、２つの撮像光学系を一定の間隔で配置することにより、同一の被写体を撮像して得られる２つの画像に視差を生じさせる。
［先行技術文献］
［特許文献］
［特許文献１］ 特開平８−４７００１号公報

複数の視差画像をそれぞれ独立した撮像系で取得する場合であれば、口径食の影響を事実上無視し得る。しかし、ひとつの撮像系から一度の露光動作により複数の視差画像を生成するための画像信号を出力する撮像素子の場合、口径食に起因して瞳の周辺部を通過する光束が撮像素子の周辺部に到達しないという課題がある。

本発明の第１の態様における画像処理装置は、同一シーンに対して互いに視差を有する複数の視差画像データを取得する画像データ取得部と、複数の視差画像データのうちの少なくとも一部の視差画像データに対して、他の視差画像データと大きさが異なる有効画像領域を定める領域制定部とを備える。

本発明の第２の態様における撮像装置は、同一シーンに対して互いに視差を有する複数の視差画像データを生成するための視差画像信号を出力可能な撮像素子と、複数の視差画像データのうちの少なくとも一部の視差画像データが、他の視差画像データと大きさが異なる有効画像領域を有するように、視差画像信号の出力を制御する出力制御部とを備える。

本発明の第３の態様における画像処理プログラムは、同一シーンに対して互いに視差を有する複数の視差画像データを取得する画像データ取得ステップと、複数の視差画像データのうちの少なくとも一部の視差画像データに対して、他の視差画像データと大きさが異なる有効画像領域を定める領域制定ステップとをコンピュータに実行させる。

本発明の第４の態様における撮像装置の制御プログラムは、同一シーンに対して互いに視差を有する複数の視差画像データを生成するための視差画像信号を出力可能な撮像素子を備える撮像装置の制御プログラムであって、複数の視差画像データのうちの少なくとも一部の視差画像データが、他の視差画像データと大きさが異なる有効画像領域を有するように、視差画像信号の出力を制御する出力制御ステップをコンピュータに実行させる。

なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。

本発明の実施形態に係るデジタルカメラの構成を説明する図である。 本発明の実施形態に係る撮像素子の断面を表す概略図である。 撮像素子の一部を拡大した様子を表す概略図である。 撮像素子の中心部における視差画素と被写体の関係を説明する概念図である。 撮像素子の周辺部における視差画素と被写体の関係を説明する概念図である。 撮像素子の各領域における繰り返しパターンが口径食の影響を受ける様子を説明する説明図である。 有効画像領域が定められた視差画像を生成する処理を説明する概念図である。 繰り返しパターンの他の例を示す図である。 縦視差画像を出力する撮像素子の各領域における繰り返しパターンが口径食の影響を受ける様子を説明する説明図である。 有効画像領域設定テーブルを説明する概念図である。 カラーフィルタ配列を説明する図である。 カラーフィルタ配列と視差画素の関係を示す図である。 視差画像と２Ｄ画像の生成過程を示す概念図である。 視差画像数を設定するメニュー画面の例である。

以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。

画像処理装置および撮像装置の一形態である本実施形態に係るデジタルカメラは、１つのシーンについて複数の視点数の画像を一度の撮影により生成できるように構成されている。互いに視点の異なるそれぞれの画像を視差画像と呼ぶ。

図１は、本発明の実施形態に係るデジタルカメラ１０の構成を説明する図である。デジタルカメラ１０は、撮影光学系としての絞り１９および撮影レンズ２０を備え、光軸２１に沿って入射する被写体光束を撮像素子１００へ導く。デジタルカメラ１０は、撮像素子１００、制御部２０１、Ａ／Ｄ変換回路２０２、メモリ２０３、駆動部２０４、メモリカードＩＦ２０７、操作部２０８、表示部２０９およびＬＣＤ駆動回路２１０を備える。

なお、図示するように、撮像素子１００へ向かう光軸２１に平行な方向をＺ軸プラス方向と定め、Ｚ軸と直交する平面において紙面手前へ向かう方向をＸ軸プラス方向、紙面上方向をＹ軸プラス方向と定める。以降のいくつかの図においては、図１の座標軸を基準として、それぞれの図の向きがわかるように座標軸を表示する。

絞り１９は、制御部２０１の制御に従って、設定された絞り値（ｆ値）に対応する開口を形成する。撮影レンズ２０は、複数の光学レンズ群から構成される。なお、図１では撮影レンズ２０を説明の都合上、瞳近傍に配置された仮想的な１枚のレンズで代表して表している。シーンからの被写体光束は、撮影レンズ２０を透過し、その一部が絞り１９の開口に制限されて、撮像素子１００へ到達する。撮像素子１００は、撮影レンズ２０の焦点面近傍に配置されている。撮像素子１００は、二次元的に複数の光電変換素子が配列された、例えばＣＣＤ、ＣＭＯＳセンサ等のイメージセンサである。撮像素子１００は、駆動部２０４によりタイミング制御されて、受光面上に結像された被写体像を画像信号に変換してＡ／Ｄ変換回路２０２へ出力する。

Ａ／Ｄ変換回路２０２は、撮像素子１００が出力する画像信号をデジタル画像信号に変換してメモリ２０３へ出力する。制御部２０１の一部である画像処理部２０５は、メモリ２０３をワークスペースとして種々の画像処理を施し、画像データを生成する。例えば、ＪＰＥＧファイル形式の画像データを生成する場合は、ホワイトバランス処理、ガンマ処理等を施した後に圧縮処理を実行する。生成された画像データは、ＬＣＤ駆動回路２１０により表示信号に変換され、表示部２０９に表示される。また、メモリカードＩＦ２０７に装着されているメモリカード２２０に記録される。

一連の撮影シーケンスは、操作部２０８がユーザの操作を受け付けて、制御部２０１へ操作信号を出力することにより開始される。撮影シーケンスに付随するＡＦ、ＡＥ等の各種動作は、演算部２０６の演算結果に応じて実行される。演算部２０６は、操作部２０８を介してユーザから指定された撮影条件に従って、演算を実行する。

デジタルカメラ１０は、通常の撮影モードの他に視差画像撮影モードを備える。ユーザは、これらのいずれかのモードを、メニュー画面が表示された表示部２０９を視認しながら、操作部２０８を操作することにより選択することができる。

デジタルカメラ１０は、システムメモリ２２１を備える。システムメモリ２２１は、電気的に消去・記録可能な不揮発性メモリであり、例えばＥＥＰＲＯＭ（登録商標）等により構成される。システムメモリ２２１は、デジタルカメラ１０の動作時に必要な定数、変数、プログラム等を、デジタルカメラ１０の非動作時にも失われないように記録している。制御部２０１は、定数、変数、プログラム等を適宜メモリ２０３に展開して、デジタルカメラ１０の制御に利用する。

次に、撮像素子１００の構成について詳細に説明する。図２は、本実施形態に係る撮像素子の断面を表す概略図である。図２（ａ）は、カラーフィルタ１０２と開口マスク１０３が別体で構成される撮像素子１００の断面概略図である。また、図２（ｂ）は、撮像素子１００の変形例として、カラーフィルタ部１２２と開口マスク部１２３が一体的に構成されたスクリーンフィルタ１２１を備える撮像素子１２０の断面外略図である。

図２（ａ）に示すように、撮像素子１００は、被写体側から順に、マイクロレンズ１０１、カラーフィルタ１０２、開口マスク１０３、配線層１０５および光電変換素子１０８が配列されて構成されている。光電変換素子１０８は、入射する光を電気信号に変換するフォトダイオードにより構成される。光電変換素子１０８は、基板１０９の表面に二次元的に複数配列されている。

光電変換素子１０８により変換された画像信号、光電変換素子１０８を制御する制御信号等は、配線層１０５に設けられた配線１０６を介して送受信される。また、各光電変換素子１０８に一対一に対応して設けられた開口部１０４を有する開口マスク１０３が、配線層に接して設けられている。開口部１０４は、後述するように、対応する光電変換素子１０８ごとにシフトさせて、相対的な位置が厳密に定められている。詳しくは後述するが、この開口部１０４を備える開口マスク１０３の作用により、光電変換素子１０８が受光する被写体光束に視差が生じる。

一方、視差を生じさせない光電変換素子１０８上には、開口マスク１０３が存在しない。別言すれば、対応する光電変換素子１０８に対して入射する被写体光束を制限しない、つまり有効光束の全体を通過させる開口部１０４を有する開口マスク１０３が設けられているとも言える。視差を生じさせることはないが、実質的には配線１０６によって形成される開口１０７が入射する被写体光束を規定するので、配線１０６を、視差を生じさせない有効光束の全体を通過させる開口マスクと捉えることもできる。開口マスク１０３は、各光電変換素子１０８に対応して別個独立に配列しても良いし、カラーフィルタ１０２の製造プロセスと同様に複数の光電変換素子１０８に対して一括して形成しても良い。

カラーフィルタ１０２は、開口マスク１０３上に設けられている。カラーフィルタ１０２は、各光電変換素子１０８に対して特定の波長帯域を透過させるように着色された、光電変換素子１０８のそれぞれに一対一に対応して設けられるフィルタである。カラー画像を出力するには、互いに異なる少なくとも３種類のカラーフィルタが配列されれば良い。これらのカラーフィルタは、カラー画像を生成するための原色フィルタと言える。原色フィルタの組み合わせは、例えば赤色波長帯を透過させる赤フィルタ、緑色波長帯を透過させる緑フィルタ、および青色波長帯を透過させる青フィルタである。これらのカラーフィルタは、後述するように、光電変換素子１０８に対応して格子状に配列される。

マイクロレンズ１０１は、カラーフィルタ１０２上に設けられている。マイクロレンズ１０１は、入射する被写体光束のより多くを光電変換素子１０８へ導くための集光レンズである。マイクロレンズ１０１は、光電変換素子１０８のそれぞれに一対一に対応して設けられている。マイクロレンズ１０１は、撮影レンズ２０の瞳中心と光電変換素子１０８の相対的な位置関係を考慮して、より多くの被写体光束が光電変換素子１０８に導かれるようにその光軸がシフトされていることが好ましい。さらには、開口マスク１０３の開口部１０４の位置と共に、後述の特定の被写体光束がより多く入射するように配置位置が調整されても良い。

このように、各々の光電変換素子１０８に対応して一対一に設けられる開口マスク１０３、カラーフィルタ１０２およびマイクロレンズ１０１の一単位を画素と呼ぶ。特に、視差を生じさせる開口マスク１０３が設けられた画素を視差画素、視差を生じさせる開口マスク１０３が設けられていない画素を視差なし画素と呼ぶ。例えば、撮像素子１００の有効画素領域が２４ｍｍ×１６ｍｍ程度の場合、画素数は１２００万程度に及ぶ。

なお、集光効率、光電変換効率が良いイメージセンサの場合は、マイクロレンズ１０１を設けなくても良い。また、裏面照射型イメージセンサの場合は、配線層１０５が光電変換素子１０８とは反対側に設けられる。

カラーフィルタ１０２と開口マスク１０３の組み合わせには、さまざまなバリエーションが存在する。図２（ａ）において、開口マスク１０３の開口部１０４に色成分を持たせれば、カラーフィルタ１０２と開口マスク１０３を一体的に形成することができる。また、特定の画素を被写体の輝度情報を取得する画素とする場合、その画素には、対応するカラーフィルタ１０２を設けなくても良い。あるいは、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタを配列しても良い。

輝度情報を取得する画素を視差画素とする場合、つまり、視差画像を少なくとも一旦はモノクロ画像として出力するのであれば、図２（ｂ）として示す撮像素子１２０の構成を採用し得る。すなわち、カラーフィルタとして機能するカラーフィルタ部１２２と、開口部１０４を有する開口マスク部１２３とが一体的に構成されたスクリーンフィルタ１２１を、マイクロレンズ１０１と配線層１０５の間に配設することができる。

スクリーンフィルタ１２１は、カラーフィルタ部１２２において例えば青緑赤の着色が施され、開口マスク部１２３において開口部１０４以外のマスク部分が黒の着色が施されて形成される。スクリーンフィルタ１２１を採用する撮像素子１２０は、撮像素子１００に比較して、マイクロレンズ１０１から光電変換素子１０８までの距離が短いので、被写体光束の集光効率が高い。

次に、開口マスク１０３の開口部１０４と、生じる視差の関係について説明する。図３は、撮像素子１００の中央部付近の一部を拡大した様子を表す概略図である。ここでは、説明を簡単にすべく、カラーフィルタ１０２の配色については後に言及を再開するまで考慮しない。撮像素子１００がカラーフィルタ１０２を備えない場合は、モノクロイメージセンサとしてモノクロの視差画像を生成することができる。また、カラーフィルタ１０２の配色に言及しない以下の説明においては、同色のカラーフィルタ１０２を有する視差画素のみを寄せ集めたイメージセンサであると捉えることもできる。したがって、以下に説明する繰り返しパターンは、同色のカラーフィルタ１０２における隣接画素として考えても良い。

図３に示すように、開口マスク１０３の開口部１０４は、それぞれの画素に対して相対的にシフトして設けられている。そして、隣接する画素同士においても、それぞれの開口部１０４は互いに変位した位置に設けられている。

図の例においては、それぞれの画素に対する開口部１０４の位置として、互いに左右方向にシフトした６種類の開口マスク１０３が用意されている。そして、撮像素子１００の全体は、紙面左側から右側へ徐々にシフトする開口部１０４をそれぞれ有する６つの視差画素を一組とする光電変換素子群が、二次元的かつ周期的に配列されている。つまり、撮像素子１００は、一組の光電変換素子群を含む繰り返しパターン１１０が、周期的かつ連続的に敷き詰められて構成されていると言える。なお、図の例においては、開口部１０４の形状を縦長の長方形とするが、これに限らない。画素の中心に対して偏位して、瞳上の特定の部分領域を見込む開口であれば、さまざまな形状を採用し得る。

図４は、撮像素子１００の中心部における視差画素と被写体の関係を説明する概念図である。特に図４（ａ）は、撮像素子１００のうち撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔの光電変換素子群が、撮影レンズ２０に対して合焦位置に存在する被写体３０を捉えた場合の様子を模式的に示す。図４（ｂ）は、図４（ａ）に対応して、撮影レンズ２０に対して非合焦位置に存在する被写体３１を捉えた場合の関係を模式的に示している。

まず、撮像素子１００が合焦状態に存在する被写体３０を捉えている場合の、視差画素と被写体の関係を説明する。被写体光束は、撮影レンズ２０の瞳を通過して撮像素子１００へ導かれるが、被写体光束が通過する全体の断面領域に対して、６つの部分領域Ｐａ〜Ｐｆが規定されている。そして、例えば繰り返しパターン１１０ｔを構成する光電変換素子群の紙面左端の画素は、拡大図からもわかるように、部分領域Ｐｆから射出された被写体光束のみが光電変換素子１０８へ到達するように、開口マスク１０３の開口部１０４ｆの位置が定められている。同様に、右端の画素に向かって、部分領域Ｐｅに対応して開口部１０４ｅの位置が、部分領域Ｐｄに対応して開口部１０４ｄの位置が、部分領域Ｐｃに対応して開口部１０４ｃの位置が、部分領域Ｐｂに対応して開口部１０４ｂの位置が、部分領域Ｐａに対応して開口部１０４ａの位置がそれぞれ定められている。

別言すれば、例えば部分領域Ｐｆと左端画素の相対的な位置関係によって定義される、部分領域Ｐｆから射出される被写体光束の主光線Ｒｆの傾きにより、開口部１０４ｆの位置が定められていると言っても良い。そして、合焦位置に存在する被写体３０からの被写体光束を、開口部１０４ｆを介して光電変換素子１０８が受光する場合、その被写体光束は、点線で図示するように、光電変換素子１０８上で結像する。同様に、右端の画素に向かって、主光線Ｒｅの傾きにより開口部１０４ｅの位置が、主光線Ｒｄの傾きにより開口部１０４ｄの位置が、主光線Ｒｃの傾きにより開口部１０４ｃの位置が、主光線Ｒｂの傾きにより開口部１０４ｂの位置が、主光線Ｒａの傾きにより開口部１０４ａの位置がそれぞれ定められていると言える。

図４（ａ）で示すように、合焦位置に存在する被写体３０のうち、光軸２１と交差する被写体３０上の微小領域Ｏｔから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｔから放射される光束を受光している。微小領域Ｏｔは、繰り返しパターン１１０ｔを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。

次に、撮影レンズ２０が非合焦状態に存在する被写体３１を捉えている場合の、視差画素と被写体の関係を説明する。この場合も、非合焦位置に存在する被写体３１からの被写体光束は、撮影レンズ２０の瞳の６つの部分領域Ｐａ〜Ｐｆを通過して、撮像素子１００へ到達する。ただし、非合焦位置に存在する被写体３１からの被写体光束は、光電変換素子１０８上ではなく他の位置で結像する。例えば、図４（ｂ）に示すように、被写体３１が被写体３０よりも撮像素子１００に対して遠い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１側で結像する。逆に、被写体３１が被写体３０よりも撮像素子１００に対して近い位置に存在すると、被写体光束は、光電変換素子１０８よりも被写体３１とは反対側で結像する。

したがって、非合焦位置に存在する被写体３１のうち、微小領域Ｏｔ'から放射される被写体光束は、６つの部分領域Ｐａ〜Ｐｆのいずれを通過するかにより、異なる組の繰り返しパターン１１０における対応画素に到達する。例えば、部分領域Ｐｄを通過した被写体光束は、図４（ｂ）の拡大図に示すように、主光線Ｒｄ'として、繰り返しパターン１１０ｔ'に含まれる、開口部１０４ｄを有する光電変換素子１０８へ入射する。そして、微小領域Ｏｔ'から放射された被写体光束であっても、他の部分領域を通過した被写体光束は、繰り返しパターン１１０ｔ'に含まれる光電変換素子１０８へは入射せず、他の繰り返しパターンにおける対応する開口部を有する光電変換素子１０８へ入射する。換言すると、繰り返しパターン１１０ｔ'を構成する各光電変換素子１０８へ到達する被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。すなわち、開口部１０４ｄに対応する１０８へは主光線をＲｄ'とする被写体光束が入射し、他の開口部に対応する光電変換素子１０８へは主光線をＲａ^＋、Ｒｂ^＋、Ｒｃ^＋、Ｒｅ^＋、Ｒｆ^＋とする被写体光束が入射するが、これらの被写体光束は、被写体３１の互いに異なる微小領域から放射された被写体光束である。

図５は、撮像素子１００の周辺部における視差画素と被写体の関係を説明する概念図である。図５における被写体３０は、図４（ａ）と同様に、撮影レンズ２０に対して合焦位置に存在する。ここで、後述する口径食の影響がないとすれば、合焦位置に存在する被写体３０のうち、光軸２１から離間した被写体３０上の微小領域Ｏｕから放射される光束は、撮影レンズ２０の瞳を通過して、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素に到達する。すなわち、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素は、それぞれ６つの部分領域Ｐａ〜Ｐｆを介して、一つの微小領域Ｏｕから放射される光束を受光する。微小領域Ｏｕも、微小領域Ｏｔと同様に、繰り返しパターン１１０ｕを構成する光電変換素子群の各画素の位置ずれに対応する分だけの広がりを有するが、実質的には、ほぼ同一の物点と近似することができる。

つまり、被写体３０が合焦位置に存在する限りは、撮像素子１００上における繰り返しパターン１１０の位置に応じて、光電変換素子群が捉える微小領域が異なり、かつ、光電変換素子群を構成する各画素は互いに異なる部分領域を介して同一の微小領域を捉えている。そして、それぞれの繰り返しパターン１１０において、対応する画素同士は同じ部分領域からの被写体光束を受光している。例えば繰り返しパターン１１０ｔ、１１０ｕのそれぞれの左端の画素（開口部１０４ｆを有する視差画素）は、同じ部分領域Ｐｆからの被写体光束を受光している。

撮影光軸２１と直交する中心に配列されている繰り返しパターン１１０ｔにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置と、周辺部分に配列されている繰り返しパターン１１０ｕにおいて左端画素が部分領域Ｐｆからの被写体光束を受光する開口部１０４ｆの位置は厳密には異なる。しかしながら、機能的な観点からは、部分領域Ｐｆからの被写体光束を受光するための開口マスクという点で、これらを同一種類の開口マスクとして扱うことができる。したがって、繰り返しパターン１１０ｔおよび１１０ｕにおける視差画素のそれぞれは、６種類の開口マスクの一つを備えると言える。

撮像素子１００の全体で見た場合、例えば、開口部１０４ａに対応する光電変換素子１０８で捉えた被写体像Ａと、開口部１０４ｄに対応する光電変換素子１０８で捉えた被写体像Ｄは、合焦位置に存在する被写体に対する像であれば互いにずれが無く、非合焦位置に存在する被写体に対する像であればずれが生じることになる。そして、そのずれは、非合焦位置に存在する被写体が合焦位置に対してどちら側にどれだけずれているかにより、また、部分領域Ｐａと部分領域Ｐｄの距離により、方向と量が定まる。つまり、被写体像Ａと被写体像Ｄは、互いに視差像となる。この関係は、他の開口部に対しても同様であるので、開口部１０４ａから１０４ｆに対応して、６つの視差像が形成されることになる。

したがって、このように構成されたそれぞれの繰り返しパターン１１０において、互いに対応する画素の出力を寄せ集めると、視差画像が得られる。つまり、６つの部分領域Ｐａ〜Ｐｆうちの特定の部分領域から射出された被写体光束を受光した画素の出力は、視差画像を形成する。

ところで、撮影レンズ２０の瞳に設定された特定の部分領域が、撮影レンズ２０の光軸から遠い位置に存在すると、本来であれば撮像素子１００の周辺部へ到達する一部の光束が、撮影レンズ２０を支持する鏡筒枠などに遮断される。つまり、瞳の周辺領域に設定された部分領域は、いわゆる口径食の影響を受ける。図において、網点で示す瞳の周辺領域Ｖにおいては、微小領域Ｏｕから放射される被写体光束が口径食により遮断される。

したがって、周辺領域Ｖに包含される部分領域Ｐａを通過するはずであった、主光線をＲａとする被写体光束は、実際には開口部１０４ａを有する視差画素には到達しない。このような関係は、図において微小領域Ｏｕが光軸２１に対して対称の位置に存在する場合も同様である。すなわち、微小領域ＯｕがＸ軸プラス側に存在する場合は、周辺領域Ｖが部分領域Ｐｆを包含する。すると、部分領域Ｐｆを通過するはずであった、主光線をＲｆとする被写体光束は、撮像素子１００のＸ軸マイナス側である周辺部に位置する、開口部１０４ｆを有する視差画素には到達しない。

つまり、被写界の周辺部から撮影レンズ２０へ入射する光束は、撮像素子１００の周辺部において開口部１０４ａまたは開口部１０４ｆを有する視差画素に到達しない。口径食の影響をどの程度受けるかは、撮影レンズ２０の瞳において設定された部分領域の位置と、撮像素子１００に対して当該部分領域からの光束を通過させる開口部１０４を有する視差画素が存在する位置等に依存する。具体的には、撮像素子１００において中心部から離れるほど口径食の陰となる領域が大きくなるので、視差画素がより周辺部に存在するほど、開口部１０４の偏位量が小さい視差画素にまで被写体光束が届かなくなる。この関係を更に説明する。

図６は、撮像素子１００の各領域における繰り返しパターン１１０が口径食の影響を受ける様子を説明する説明図である。図６は、図３と同様に撮像素子１００を撮影レンズ２０側から見たときの様子を示すが、図３に対して開口マスク１０３の斜線とマイクロレンズ１０１の形状を省いている。

開口部１０４がどのように口径食の影響を受けるかにより、撮像素子１００の受光面は、縦ストライプ状に例えば５つの領域に分割される。中心部を含む縦ストライプ状の領域Ａに配列されている繰り返しパターン１１０ｔにおいては、開口部１０４ａ〜１０４ｆをそれぞれ有する６つの視差画素のいずれもが、部分的にも口径食の陰になることは無い。

領域Ａの右側（Ｘ軸プラス側）に隣接する領域Ｂ_Ｒに配列されている繰り返しパターン１１０ｕ_Ｒにおいては、口径食の陰を網点で表すように、６つの視差画素のそれぞれ一部が口径食の陰になる。このとき、開口部１０４ａは、口径食の陰と重なる。つまり、開口部１０４ａに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ｂ〜１０４ｆは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

領域Ａの左側（Ｘ軸マイナス側）に隣接する領域Ｂ_Ｌにおける現象は、領域Ｂ_Ｒでの現象に対して左右対称となる。すなわち、領域Ｂ_Ｌに配列されている繰り返しパターン１１０ｕ_Ｌにおいては、開口部１０４ｆが、口径食の陰と重なる。つまり、開口部１０４ｆに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ａ〜１０４ｅは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

領域Ｂ_Ｒの右側に隣接する領域Ｃ_Ｒに配列されている繰り返しパターン１１０ｖ_Ｒにおいては、同様に網点で表すように、領域Ｂ_Ｒに比較してさらに広く、６つの視差画素のそれぞれ一部が口径食の陰になる。このとき、開口部１０４ａと１０４ｂは、口径食の陰と重なる。つまり、開口部１０４ａと１０４ｂに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ｃ〜１０４ｆは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

領域Ｂ_Ｌの左側に隣接する領域Ｃ_Ｌにおける現象は、領域Ｃ_Ｒでの現象に対して左右対称となる。すなわち、領域Ｃ_Ｌに配列されている繰り返しパターン１１０ｖ_Ｌにおいては、開口部１０４ｆと１０４ｅが、口径食の陰と重なる。つまり、開口部１０４ｆと１０４ｅに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ａ〜１０４ｄは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

口径食の影響をどの程度受けるかは、撮影レンズ２０の瞳において設定された部分領域の位置等に加え、鏡筒形状、焦点距離など使用される撮影レンズ２０の性質、更には、絞り値など撮影条件によっても異なる。したがって、図６で示した例は一例であり、いずれの開口部１０４が口径食の陰と重なるかは、これらの条件に依存する。

しかし、一般的に、繰り返しパターン１１０に含まれる視差画素の開口部１０４のうち、瞳の周辺領域に設定された部分領域を見込む、偏位量が大きい開口部１０４ほど口径食の陰と重なる可能性が高いと言える。また、繰り返しパターン１１０が撮像素子１００の受光面に対して周辺部に配列されるほど、口径食の陰と重なる開口部１０４を有する視差画素の数が増える傾向にあると言える。なお、このとき、撮像素子１００の中心部の領域と周辺部の領域とを結ぶ方向は、開口部１０４の偏位方向（図においてはＸ軸方向）と平行である。すなわち、生成される複数の視差画像データが視差を与える方向と平行である。また、開口部１０４がどのように口径食の影響を受けるかにより撮像素子１００の受光面を複数の領域に分割するのであれば、図６で示したように、開口部１０４の偏位方向に直交する方向で分割し得る。

図７は、視差画像を生成する処理を説明する概念図である。図は、左列から順に、開口部１０４ｆに対応する視差画素の出力を集めて生成される視差画像データＩｍ＿ｆの生成の様子、開口部１０４ｅの出力による視差画像データＩｍ＿ｅの生成の様子、開口部１０４ｄの出力による視差画像データＩｍ＿ｄの生成の様子、開口部１０４ｃの出力による視差画像データＩｍ＿ｃの生成の様子、開口部１０４ｂの出力による視差画像データＩｍ＿ｂの生成の様子、開口部１０４ａの出力による視差画像データＩｍ＿ａの生成の様子を表す。まず開口部１０４ｆの出力による視差画像データＩｍ＿ｆの生成の様子について説明する。

６つの視差画素を一組とする光電変換素子群から成る繰り返しパターン１１０は、横一列に配列されている。したがって、開口部１０４ｆを有する視差画素は、撮像素子１００上において、左右方向に６画素おき、かつ、上下方向に連続して存在する。これら各画素は、上述のようにそれぞれ異なる微小領域からの被写体光束を受光している。したがって、これらの視差画素の出力を寄せ集めて配列すると、視差画像が得られる。

しかし、本実施形態における撮像素子１００の各画素は正方画素であるので、単に寄せ集めただけでは、横方向の画素数が１／６に間引かれた結果となり、縦長の画像データが生成されてしまう。そこで、補間処理を施して横方向に６倍の画素数とすることにより、本来のアスペクト比の画像として視差画像データＩｍ＿ｆを生成する。ただし、そもそも補間処理前の視差画像データが横方向に１／６に間引かれた画像であるので、横方向の解像度は、縦方向の解像度よりも低下している。つまり、生成される視差画像データの数と、解像度の向上は相反関係にあると言える。

ここで、開口部１０４ｆは、図６で示したように、領域Ｃ_Ｌおよび領域Ｂ_Ｌに存在する場合に口径食の陰と重なるので、これらの開口部１０４ｆを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ｆは、撮像素子１００の領域Ａ、Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｃ_Ｌおよび領域Ｂ_Ｌに対応する画像領域は黒潰れとなる。そこで、下段の太枠で示すように、撮像素子１００の領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する、被写体像が現れる画像領域を有効画像領域と定める。有効画像領域は、全画像領域に含まれる領域として座標値で定義され、視差画像データＩｍ＿ｆの付帯情報として記録される。あるいは、黒潰れとなった領域を切り落とし、定められた有効画像領域を残すクロップ処理を施して視差画像データＩｍ＿ｆを再構築しても良い。この場合は、クロップ処理前の画像領域に対する中心座標値を付帯情報として記録しておくと良い。

次に開口部１０４ｅの出力による視差画像データＩｍ＿ｅの生成の様子について説明する。開口部１０４ｅを有する視差画素の出力を寄せ集めて配列し、横方向に６倍の補間処理を施して視差画像データＩｍ＿ｅを生成するまでは、視差画像データＩｍ＿ｆを生成する処理と同様である。

ここで、開口部１０４ｅは、図６で示したように、領域Ｃ_Ｌに存在する場合に口径食の陰と重なるので、この開口部１０４ｅを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ｅは、撮像素子１００の領域Ｂ_Ｌ、領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｃ_Ｌに対応する画像領域は黒潰れとなる。そこで、下段の太枠で示すように、撮像素子１００の領域Ｂ_Ｌ、領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する、被写体像が現れる画像領域を有効画像領域と定める。

次に開口部１０４ｄの出力による視差画像データＩｍ＿ｄの生成の様子について説明する。開口部１０４ｄを有する視差画素の出力を寄せ集めて配列し、横方向に６倍の補間処理を施して視差画像データＩｍ＿ｄを生成するまでは、視差画像データＩｍ＿ｆを生成する処理と同様である。また、開口部１０４ｄは、撮像素子１００上のいずれの領域に存在したとしても口径食の陰とは重ならない。したがって、被写体像が現れる全画像領域を有効画像領域と定める。

次に開口部１０４ｃの出力による視差画像データＩｍ＿ｃの生成の様子について説明する。開口部１０４ｃを有する視差画素の出力を寄せ集めて配列し、横方向に６倍の補間処理を施して視差画像データＩｍ＿ｃを生成するまでは、視差画像データＩｍ＿ｆを生成する処理と同様である。また、開口部１０４ｃは、撮像素子１００上のいずれの領域に存在したとしても口径食の陰とは重ならない。したがって、被写体像が現れる全画像領域を有効画像領域と定める。

次に開口部１０４ｂの出力による視差画像データＩｍ＿ｂの生成の様子について説明する。開口部１０４ｂを有する視差画素の出力を寄せ集めて配列し、横方向に６倍の補間処理を施して視差画像データＩｍ＿ｂを生成するまでは、視差画像データＩｍ＿ｆを生成する処理と同様である。

ここで、開口部１０４ｂは、図６で示したように、領域Ｃ_Ｒに存在する場合に口径食の陰と重なるので、この開口部１０４ｂを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ｂは、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌ、領域Ａおよび領域Ｂ_Ｒに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｃ_Ｒに対応する画像領域は黒潰れとなる。そこで、下段の太枠で示すように、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌ、領域Ａおよび領域Ｂ_Ｒに対応する、被写体像が現れる画像領域を有効画像領域と定める。

次に開口部１０４ａの出力による視差画像データＩｍ＿ａの生成の様子について説明する。開口部１０４ａを有する視差画素の出力を寄せ集めて配列し、横方向に６倍の補間処理を施して視差画像データＩｍ＿ａを生成するまでは、視差画像データＩｍ＿ｆを生成する処理と同様である。

ここで、開口部１０４ａは、図６で示したように、領域Ｂ_Ｒおよび領域Ｃ_Ｒに存在する場合に口径食の陰と重なるので、これらの開口部１０４ａを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ａは、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌおよび領域Ａに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域は黒潰れとなる。そこで、下段の太枠で示すように、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌおよび領域Ａに対応する、被写体像が現れる画像領域を有効画像領域と定める。

以上のように、画像処理部２０５による画像処理により、横方向に視差を与える６つの視差画像データを生成することができる。上述の通り、それぞれの視差画像は、出力を寄せ集めた視差画素の撮像素子１００上の配列に起因して、互いに画角が異なり得る。したがって、これらの視差画像データを３Ｄ表示装置で再生する場合、観察者は、被写体の中心付近で６視点の３Ｄ画像として視認し、その両側付近で４視点、さらに周辺部で２視点の３Ｄ画像として視認する。

なお、３Ｄ表示装置は、それぞれの視差画像データに付帯情報として記録されている有効画像領域の情報を参照して、各々の視差画像を表示する。具体的には、３Ｄ表示装置は、有効画像領域の情報として含まれる座標情報を読み出して、視差画像間の相対的な位置合わせを行う。また、有効画像領域以外の領域を、例えば透明色として扱う、あるいは、他の視差画像により補間するなどの画像処理を施すこともできる。有効画像領域以外の領域が切り落とされている場合は、付帯情報として記録されている中心座標値により、視差画像間の相対的な位置合わせを行うことができる。また、切り落とされた領域に対しては、同様に透明化、補間処理などを行っても良い。

上述の例では、横一列を繰り返しパターン１１０として周期的に配列される例を説明したが、繰り返しパターン１１０はこれに限らない。図８は、繰り返しパターン１１０の他の例を示す図である。

図８（ａ）は、縦６画素を繰り返しパターン１１０とした例である。ただし、それぞれの開口部１０４は、紙面上端の視差画素から下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度を犠牲にする代わりに横方向の解像度を維持する繰り返しパターンであると言える。

図８（ｂ）は、斜め方向に隣接する６画素を繰り返しパターン１１０とした例である。それぞれの開口部１０４は、紙面左上端の視差画素から右下に向かって、紙面左側から右側へ徐々にシフトするように位置が定められている。このように配列された繰り返しパターン１１０によっても、横方向に視差を与える６視点の視差画像を生成することができる。この場合は、図３の繰り返しパターン１１０に比較すると、縦方向の解像度および横方向の解像度をある程度維持しつつ、視差画像の数を増やす繰り返しパターンであると言える。

図３の繰り返しパターン１１０、および図６（ａ）（ｂ）の繰り返しパターン１１０をそれぞれ比較すると、いずれも６視点の視差画像を生成する場合において、視差画像でない全体から一枚の画像を出力する場合の解像度に対し、縦方向、横方向のいずれの方向の解像度を犠牲にするかの違いであると言える。図３の繰り返しパターン１１０の場合は、横方向の解像度を１／６とする構成である。図６（ａ）の繰り返しパターン１１０の場合は、縦方向の解像度を１／６とする構成である。また、図６（ｂ）の繰り返しパターン１１０の場合は、縦方向を１／３、横方向を１／２とする構成である。いずれの場合も、一つのパターン内には、各画素に対応して開口部１０４ａ〜１０４ｆが一つずつ設けられており、それぞれが対応する部分領域Ｐａ〜Ｐｆのいずれかから被写体光束を受光するように構成されている。したがって、いずれの繰り返しパターン１１０であっても視差量は同等である。

また、図６（ａ）（ｂ）の繰り返しパターン１１０における口径食が視差画素に与える影響は、図３の繰り返しパターン１１０と同様である。したがって、図７で説明した各処理を施せば、同様に有効画像領域が定められた６つの視差画像データを生成することができる。

上述の例では、左右方向に視差を与える視差画像を生成する場合について説明したが、もちろん上下方向に視差を与える視差画像を生成することもできる。図９は、上下方向に視差を与える縦視差画像を出力する撮像素子１００の各領域における繰り返しパターン１１０が口径食の影響を受ける様子を説明する説明図である。図９は、図３と同様に表した図である。撮像素子１００の全体は、紙面上側から下側へ徐々にシフトする開口部１０４ａ〜１０４ｆをそれぞれ有する６つの視差画素を一組の繰り返しパターン１１０とする光電変換素子群が、二次元的かつ周期的に配列されている。

開口部１０４がどのように口径食の影響を受けるかにより、撮像素子１００の受光面は、横ストライプ状に例えば３つの領域に分割される。中心部を含む横ストライプ状の領域Ａに配列されている繰り返しパターン１１０ｔにおいては、開口部１０４ａ〜１０４ｆをそれぞれ有する６つの視差画素のいずれもが、部分的にも口径食の陰になることは無い。

領域Ａの上側（Ｙ軸プラス側）に隣接する領域Ｂ_Ｕに配列されている繰り返しパターン１１０ｕ_Ｕにおいては、口径食の陰を網点で表すように、６つの視差画素のそれぞれ一部が口径食の陰になる。このとき、開口部１０４ａは、口径食の陰と重なる。つまり、開口部１０４ａに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ｂ〜１０４ｆは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

領域Ａの下側（Ｙ軸マイナス側）に隣接する領域Ｂ_Ｄにおける現象は、領域Ｂ_Ｕでの現象に対して上下対称となる。すなわち、領域Ｂ_Ｄに配列されている繰り返しパターン１１０ｕ_Ｄにおいては、開口部１０４ｆが、口径食の陰と重なる。つまり、開口部１０４ｆに対応する光電変換素子１０８には、被写体光束が届かない。他方、開口部１０４ａ〜１０４ｅは、口径食の陰とは重ならず、それぞれに対応する光電変換素子１０８は、各部分領域からの被写体光束を受光する。

このような撮像素子１００において、開口部１０４ａ〜１０４ｆに対応する視差画素の出力をそれぞれ寄せ集めて図７の処理と同様の処理を施すと、互いに縦方向に視差を与える視差画像データＩｍ＿ａ〜Ｉｍ＿ｆを生成することができる。ただし、開口部１０４ａが領域Ｂ_Ｕに存在する場合に口径食の陰と重なるので、これらの開口部１０４ａを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ａは、撮像素子１００の領域ＡおよびＢ_Ｄに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｂ_Ｕに対応する画像領域は黒潰れとなる。したがって、視差画像データＩｍ＿ａについては、撮像素子１００の領域Ａおよび領域Ｂ_Ｄに対応する、被写体像が現れる画像領域を有効画像領域と定める。

同様に、開口部１０４ｆが領域Ｂ_Ｄに存在する場合に口径食の陰と重なるので、これらの開口部１０４ｆを有する視差画素は、被写体像に対応する画像信号を出力し得ない。つまり、生成される視差画像データＩｍ＿ｆは、撮像素子１００の領域ＡおよびＢ_Ｕに対応する画像領域には撮影したシーンに対応する被写体像が現れるものの、領域Ｂ_Ｄに対応する画像領域は黒潰れとなる。したがって、視差画像データＩｍ＿ｆについては、撮像素子１００の領域Ａおよび領域Ｂ_Ｕに対応する、被写体像が現れる画像領域を有効画像領域と定める。開口部１０４ｂ〜１０４ｅについては口径食の陰と重なることが無いので、これらの画像信号から生成される視差画像データＩｍ＿ｂ〜Ｉｍ＿ｅについては、被写体像が現れる全画像領域を有効画像領域と定める。

上述のように、口径食の影響をどの程度受けるかは、撮影レンズ２０の瞳において設定された部分領域の位置等に加え、鏡筒形状、焦点距離など使用される撮影レンズ２０の性質、更には、絞り値など撮影条件によっても異なる。そこで、デジタルカメラ１０は、システムメモリ２２１に、装着され得る撮影レンズ２０ごとに絞り値と有効画像領域を対応付ける有効画像領域設定テーブルを保持している。図１０は、デジタルカメラ１０が図３および図６を用いて説明した撮像素子１００を備える場合の、有効画像領域設定テーブルを説明する概念図である。

図は、例として焦点距離が５０ｍｍであって、設定可能な絞り値の範囲がｆ１．８〜ｆ２２．０の撮影レンズ２０についての有効画像領域設定テーブルの概念を表す。口径食の影響は、撮影時の絞り値が開放絞り値に近づくほど大きくなり、逆に、絞り値が大きくなるほど小さくなる。

図は、例えば撮影時の絞り値がｆ４．０未満である場合に、視差画像データＩｍ＿ｆの有効画像領域が、撮像素子１００の領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域であることを示す。そして、視差画像データＩｍ＿ｅの有効画像領域が、撮像素子１００の領域Ｂ_Ｌ、領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域であり、視差画像データＩｍ＿ｄおよびＩｍ＿ｃの有効画像領域が、撮像素子１００の全領域に対応する画像領域であり、視差画像データＩｍ＿ｂの有効画像領域が、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌ、領域Ａおよび領域Ｂ_Ｒに対応する画像領域であり、視差画像データＩｍ＿ａの有効画像領域が、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌおよび領域Ａに対応する画像領域であることを示す。

同様に、撮影時の絞り値がｆ４．０以上であってｆ８．０未満である場合に、視差画像データＩｍ＿ｆの有効画像領域が、撮像素子１００の領域Ｂ_Ｌ、領域Ａ、領域Ｂ_Ｒおよび領域Ｃ_Ｒに対応する画像領域であることを示す。そして、視差画像データＩｍ＿ｅ、Ｉｍ＿ｄ、Ｉｍ＿ｃおよびＩｍ＿ｂの有効画像領域が、撮像素子１００の全領域に対応する画像領域であり、視差画像データＩｍ＿ａの有効画像領域が、撮像素子１００の領域Ｃ_Ｌ、領域Ｂ_Ｌ、領域Ａおよび領域Ｂ_Ｒに対応する画像領域であることを示す。さらに、撮影時の絞り値がｆ８．０以上である場合に、全ての視差画像データの有効画像領域が、撮像素子１００の全領域に対応する画像領域であることを示す。

画像処理部２０５は、装着された撮影レンズ２０の情報を取得し、これに対応する有効画像領域設定テーブルをシステムメモリ２１１から読み出す。そして、撮影時に設定されていた撮影条件としての絞り値を有効画像領域設定テーブルに適用して、生成する各々の視差画像データに対して、有効画像領域を定める。

なお、上述の例では、視差画像データの有効画像領域を視覚的に概念図で示したが、有効画像領域を撮像素子１００が出力する全画像領域に対する座標値で定義すれば良い。また、上述の例では、焦点距離が５０ｍｍの単焦点レンズの場合を説明したが、例えば撮影レンズ２０がズームレンズである場合、焦点距離ごとに口径食の影響が異なることに対応して、一定の焦点距離範囲ごとに有効画像領域設定テーブルを持つように構成しても良い。この場合、広角側の方が望遠側よりも口径食の影響が大きいので、広角側の焦点距離範囲を望遠側よりも狭く設定すると良い。例えば、２８ｍｍ−１３５ｍｍのズームレンズの場合、２８ｍｍ−４０ｍｍ、４０ｍｍ−７５ｍｍ、７５ｍｍ−１３５ｍｍのように焦点距離範囲を設定することができる。

次に、カラーフィルタ１０２と視差画像について説明する。図１１は、カラーフィルタ配列を説明する図である。図示するカラーフィルタ配列は、いわゆるベイヤー配列の４画素のうち右下画素を緑フィルタが割り当てられるＧ画素として維持する一方、左上画素をカラーフィルタが割り当てられないＷ画素に変更した配列である。右上画素に青色フィルタを割り当ててＢ画素とし、左下画素に赤色フィルタを割り当ててＲ画素とする配列は、ベイヤー配列と同様である。なお、Ｗ画素は、上述のように、可視光のおよそ全ての波長帯域を透過させるように、着色を施さない透明フィルタが配列されていても良い。

ベイヤー配列および図１１のようなカラーフィルタ配列など、いずれのカラーフィルタ配列を採用するにしても、視差画素と視差なし画素を、何色の画素にどのような周期で割り振っていくかにより、膨大な数の組み合わせパターンが設定され得る。視差なし画素の出力を集めれば、通常の撮影画像と同じく視差のない撮影画像データを生成することができる。したがって、相対的に視差なし画素の割合を増やせば、解像度の高い２Ｄ画像を出力させることができる。この場合、視差画素は相対的に少ない割合となるので、複数の視差画像からなる３Ｄ画像としては画質が低下する。逆に、視差画素の割合を増やせば、３Ｄ画像としては画質が向上するが、視差なし画素は相対的に減少するので、解像度の低い２Ｄ画像が出力される。

このようなトレードオフの関係において、何れの画素を視差画素とするか、あるいは視差なし画素とするかにより、様々な特徴を有する組み合わせパターンが設定される。例えば、視差なし画素が多く割り振られていれば高解像度の２Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、色ずれの少ない高画質の２Ｄ画像データとなる。視差画素の出力も利用して２Ｄ画像データを生成する場合、ずれた被写体像を周辺画素の出力を参照して補正する。したがって、例えば全部のＲ画素が視差画素であったとしても２Ｄ画像を生成することはできるものの、その画質は自ずと低下する。

一方、視差画素が多く割り振られていれば高解像度の３Ｄ画像データとなり、ＲＧＢのいずれの画素に対しても均等に割り振られていれば、３Ｄ画像でありながら、色再現性の良い高品質のカラー画像データとなる。視差なし画素の出力も利用して３Ｄ画像データを生成する場合、視差のない被写体像から周辺の視差画素の出力を参照してずれた被写体像を生成する。したがって、例えば全部のＲ画素が視差なし画素であったとしてもカラーの３Ｄ画像を生成することはできるものの、やはりその品質は低下する。

また、Ｗ画素を含むカラーフィルタ配列を採用すれば、撮像素子が出力するカラー情報の精度は若干低下するものの、Ｗ画素が受光する光量はカラーフィルタが設けられている場合に比較して多いので、精度の高い輝度情報を取得できる。Ｗ画素の出力を寄せ集めれば、モノクロ画像を形成することもできる。

Ｗ画素を含むカラーフィルタ配列の場合、視差画素と視差なし画素の組み合わせパターンは、さらなるバリエーションが存在する。例えば、比較的暗い環境下で撮影された画像であっても、カラー画素から出力された画像に比較してＷ画素から出力された画像であれば、被写体像のコントラストが高い。そこで、Ｗ画素に視差画素を割り振れば、複数の視差画像間で行うマッチング処理において、精度の高い演算結果が期待できる。マッチング処理は、画像データに写り込む被写体像の距離情報を取得する処理の一環として実行される。したがって、２Ｄ画像の解像度および視差画像の画質への影響に加え、抽出される他の情報への利害得失も考慮して、視差画素と視差なし画素の組み合わせパターンが設定される。

図１２は、カラーフィルタ配列と視差画素の関係を示す図である。特に、図１１のカラーフィルタ配列を採用する場合の、Ｗ画素と視差画素の配列の一例を示す。図の例においては、図１１のカラーフィルタ配列の４画素が左右方向に６組続く２４画素を組み合わせパターンとする。組み合わせパターンを構成するそれぞれのＷ画素において、左端に位置するＷ画素から右端に位置するＷ画素に向かって順に、開口部１０４ｆ、１０４ｅ、…１０４ａを有する視差画素を割り当てる。このような配列において撮像素子１００は、視差画像をモノクロ画像として出力し、２Ｄ画像をカラー画像として出力する。

ここで、モノクロ画像としての視差画像の生成と、カラー画像としての２Ｄ画像の生成について説明する。

図１３は、視差画像と２Ｄ画像の生成過程を示す概念図である。図示するように、開口部１０４ｆを有する視差画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｉｍ＿ｆ画像データが生成される。一つの繰り返しパターン１１０に含まれる開口部１０４ｆを有する視差画素は一つであるので、Ｉｍ＿ｆ画像データを形成する各々の開口部１０４ｆを有する視差画素は、それぞれ異なる繰り返しパターン１１０から寄せ集められていると言える。すなわち、寄せ集められたそれぞれの出力は、被写体の互いに異なる微小領域から放射された光が光電変換された結果であるので、Ｉｍ＿ｆ画像データは、特定の視点（ｆ視点）から被写体を捉えた一つの視差画像データとなる。そして、この視差画素は、Ｗ画素に割り振られているので、Ｉｍ＿ｆ画像データは、カラー情報を持たず、モノクロ画像として生成される。

同様に、開口部１０４ｅ〜１０４ａを有する視差画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、Ｉｍ＿ｅ画像データ〜Ｉｍ＿ａ画像データが生成される。

また、視差なし画素の出力が、撮像素子１００上の相対的な位置関係を維持しながら寄せ集められて、２Ｄ画像データが生成される。このとき、Ｗ画素は視差画素であるので、視差なし画素のみで構成されるベイヤー配列からの出力に対して、左上画素の出力に相当する出力が欠落する。そこで、例えば、この欠落した出力の値として、Ｇ画素の出力値を代入する。つまり、Ｇ画素の出力で補間処理を行う。このように、補間処理を施せば、ベイヤー配列の出力に対する画像処理を採用して２Ｄ画像データを生成することができる。

なお、以上の画像処理は、画像処理部２０５によって実行される。画像処理部２０５は、制御部２０１を介して撮像素子１００から出力される画像信号を受け取り、上述のようにそれぞれの画素の出力ごとに分配して視差画像データおよび２Ｄ画像データを生成する。

以上の実施形態においては、撮像素子１００は、一組の光電変換素子群を含む繰り返しパターン１１０が、周期的かつ連続的に敷き詰められて構成されていると説明した。しかし、視差画素のそれぞれが被写体の離散的な微小領域を捉えて視差画像を出力すれば良いので、例えば、周期的な繰り返しパターン１１０の間に視差なし画素が連続していても良い。つまり、視差画素を含む繰り返しパターン１１０は、連続していなくても、周期的であれば視差画像を出力し得る。

以上の実施形態においては、図１０を用いて説明したように、画像処理部２０５は、撮影時に設定された絞り値に従って各視差画像データの有効画像領域を定めた。すなわち、ユーザは、装着した撮影レンズ２０および撮影時に設定した絞り値等の結果として、シーンにおけるどの領域にいくつの視差画像を得たのかを撮影後に知ることになる。

例えば図１０の例において、絞り値をｆ２．０に設定して撮影した場合、撮像素子１００の領域Ａに対応するシーンについては、視差画像データＩｍ＿ａ〜Ｉｍ＿ｆの６視差画像を得る。撮像素子１００の領域Ｂ_Ｌおよび領域Ｂ_Ｒに対応するシーンについては、領域Ａに対してそれぞれ視差画像データＩｍ＿ｆ、Ｉｍ＿ａが欠けるので、得られる視差画像数は５視差画像となる。撮像素子１００の領域Ｃ_Ｌおよび領域Ｃ_Ｒに対応するシーンについては、領域Ａに対してそれぞれ視差画像データＩｍ＿ｆとＩｍ＿ｅ、Ｉｍ＿ｂとＩｍ＿ａが欠けるので、得られる視差画像数は４視差画像となる。

ユーザは、シーンにおけるどの領域にいくつの視差画像が得られるのかを、撮影前に決めておきたい場合がある。ユーザのこのような希望に応えるべく、操作部２０８を介してユーザの希望を受け入れ、そのような視差画像数となるように、絞り値、焦点距離等を制限して撮影シーケンスを実行するようにデジタルカメラ１０を構成しても良い。

図１４は、視差画像数を設定するメニュー画面の例である。ユーザは、撮影指示をデジタルカメラ１０に与える前に、表示部２０９に視差画像数設定画面を呼び出す。そして、擬似的なシーンに対して重畳された太枠を、操作部２０８の十字ボタンを操作することにより左右方向に拡縮して、６視差を与えるシーン領域を決定する。決定ボタンを押すと、太枠が５視差を与える領域の大きさに切り替わり、ユーザは、同様に５視差を与える領域を決定できる。このような操作を繰り返して、ユーザは、撮影前に、シーンに対する各領域の出力視差画像数を決定することができる。

制御部２０１は、ユーザにより設定された視差画像数に対して、システムメモリ２１１に記憶された有効画像領域設定テーブルを参照し、これを満たす制限絞り値を決定する。例えば、図示するように、中央領域の視差画像数が６、その両隣の周辺領域の視差画像数が５と設定された場合、制御部２０１は、図１０の有効画像領域設定テーブルを参照して、制限絞り値をｆ４．０以上ｆ８．０未満と決定する。表示部２０９は、この制限絞り値を表示する。そして、制御部２０１は、撮影シーケンスを実行するにあたり、撮影制御部として、絞り値をこの範囲に制限して露出値を決定する。なお、この例において、ユーザが太枠を擬似的なシーン全体を含むように設定した場合は、制御部２０１は、シーンの全体が６視差となるように、図１０の有効画像領域設定テーブルを参照して、制限絞り値をｆ８．０以上と決定する。なお、図においては、中央領域の視差画像数を最大の６としたが、この数以下であれば、視差画像数もユーザが変更できるように構成しても良い。

以上の実施形態では、例えば図６において、撮像素子１００を６つの領域に分けたが、もちろんこの数に限定されるわけではない。撮像素子１００をどのように領域分割するかは、繰り返しパターン１１０を構成する開口部１０４の数、撮影条件、撮影レンズ２０とこれを支持する鏡筒の相対的な位置関係等に基づいて決定される。したがって、各領域の境界は、図６および図９で示したような、撮像素子の長辺あるいは短辺に平行な直線でなくてもよく、口径食に合わせた曲線であっても良い。

以上の実施形態においては、デジタルカメラ１０が備える制御部２０１および制御部２０１が含む画像処理部２０５が、複数の視差画像データを取得する画像データ取得部および有効画像領域を定める領域制定部として機能する。この場合、撮像素子１００は、同一シーンに対して互いに視差を有する複数の視差画像データを生成するための視差画像信号を出力可能な撮像素子として機能する。上述のデジタルカメラ１０は、一つの素子として視差画像信号を出力する撮像素子１００を採用したが、例えば、撮影レンズ２０を通過した被写体光束を、ハーフミラー等で分割して、複数の撮像素子で受光するように構成しても良い。

また、以上の実施形態においては、デジタルカメラ１０を画像処理装置そのものとして説明したが、システムの構成はこれに限らない。撮像装置としてのデジタルカメラ１０を、口径食の影響によって黒潰れする画像領域を含む視差画像データを生成させるに留め、外部のパーソナルコンピュータなどを画像処理装置として有効画像領域の設定を行わせても良い。この場合、画像処理装置としてのパーソナルコンピュータは、画像データ取得部を介してデジタルカメラ１０が生成した視差画像データを受け取り、領域制定部として機能するＣＰＵが、付随して受け取る撮像素子１００の情報等に基づいて有効画像領域を定める。

また、パーソナルコンピュータを画像処理装置として機能させる場合は、取得する視差画像データの生成に用いられた撮影レンズ２０のレンズ情報、特に口径食に関する情報を併せてデジタルカメラ１０から取得すると良い。口径食に関する情報としては、絞り値と各画素に対応する陰領域の情報でも良いし、図１０を用いて説明した有効画像領域設定テーブルであっても良い。

また、パーソナルコンピュータを画像処理装置として機能させる場合は、取得する視差画像データの生成時における撮影条件、特に絞り値に関する条件を併せてデジタルカメラ１０から取得すると良い。パーソナルコンピュータのＣＰＵはこれらの条件に基づいて、より正確に有効画像領域を定めることができる。なお、デジタルカメラ１０がレンズ一体型の撮像装置であったり、視差画像データを取得する場合の撮影条件が固定的であったりする場合は、パーソナルコンピュータは、デジタルカメラ１０から各種情報を取得しなくても良い。このような場合は、パーソナルコンピュータは、内部メモリに予めこららの情報を保持しておけば良い。

上記の実施形態においては、画像処理部２０５が、生成した視差画像データの各々に対して有効画像領域を定めた。しかし、有効画像領域を、撮像素子１００から出力される視差画像信号の段階で定めることもできる。すなわち、制御部２０１は、撮影時の絞り値等を有効画像領域設定テーブルに当てはめ、撮像素子１００が有効画像領域を形成する視差画像信号のみを出力するように、駆動部２０４を駆動させる。より具体的には、制御部２０１は、口径食の影響により黒潰れしていると予測される画像領域に対応する視差画像信号を読み飛ばす。このような構成により、複数の視差画像データのうちの少なくとも一部の視差画像データが、他の視差画像データと大きさが異なる有効画像領域を有するように、視差画像信号を出力段階で制御することができる。

以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。

１０ デジタルカメラ、１９ 絞り、２０ 撮影レンズ、２１ 光軸、３０、３１ 被写体、１００ 撮像素子、１０１ マイクロレンズ、１０２ カラーフィルタ、１０３ 開口マスク、１０４ 開口部、１０５ 配線層、１０６ 配線、１０７ 開口、１０８ 光電変換素子、１０９ 基板、１１０ 繰り返しパターン、１２０ 撮像素子、１２１ スクリーンフィルタ、１２２ カラーフィルタ部、１２３ 開口マスク部、２０１ 制御部、２０２ Ａ／Ｄ変換回路、２０３ メモリ、２０４ 駆動部、２０５ 画像処理部、２０６ 演算部、２０７ メモリカードＩＦ、２０８ 操作部、２０９ 表示部、２１０ ＬＣＤ駆動回路、２１１ システムメモリ、２２０ メモリカード

Claims (24)

1. 同一シーンに対して互いに視差を有する複数の視差画像データを取得する画像データ取得部と、
   前記複数の視差画像データのうちの少なくとも一部の視差画像データに対して、他の視差画像データと大きさが異なり、口径食の陰と重ならずに被写体像が現れる有効画像領域を定める領域制定部と
   を備える画像処理装置。
2. 前記領域制定部は、前記同一シーンに対応する画像領域において少なくとも一部の周辺領域を除外した領域を前記有効画像領域と定める請求項１に記載の画像処理装置。
3. 前記同一シーンに対応する画像領域の中心領域と前記周辺領域を結ぶ方向は、前記複数の視差画像データが視差を与える方向と平行である請求項２に記載の画像処理装置。
4. 前記領域制定部は、前記視差画像データの生成に用いられた撮影レンズのレンズ情報に基づいて前記有効画像領域を定める請求項１から３のいずれか１項に記載の画像処理装置。
5. 前記レンズ情報は、口径食に関する情報を含む請求項４に記載の画像処理装置。
6. 前記画像データ取得部は、前記レンズ情報を併せて取得する請求項４または５に記載の画像処理装置。
7. 前記領域制定部は、前記視差画像データの生成時における撮影条件に基づいて前記有効画像領域を定める請求項１から６のいずれか１項に記載の画像処理装置。
8. 前記撮影条件は、絞り値に関する条件を含む請求項７に記載の画像処理装置。
9. 前記画像データ取得部は、前記撮影条件に関する情報を併せて取得する請求項７または８に記載の画像処理装置。
10. 前記領域制定部が定めた前記有効画像領域を切り出して視差画像ファイルを生成するファイル生成部を備える請求項１から９のいずれか１項に記載の画像処理装置。
11. 前記複数の視差画像データは、ひとつの撮像素子が出力する視差画像信号から生成される請求項１から１０のいずれか１項に記載の画像処理装置。
12. 前記撮像素子は、
    入射光を電気信号に光電変換する複数の光電変換素子を一組とする光電変換素子群が二次元的かつ周期的に配列され、
    前記光電変換素子群を構成する前記複数の光電変換素子のそれぞれに対応して設けられた開口マスクの開口が、前記入射光の断面領域に含まれる互いに異なる部分領域からの光束を通過させるように位置づけられた請求項１１に記載の画像処理装置。
13. 同一シーンに対して互いに視差を有する複数の視差画像データを生成するための視差画像信号を出力可能な撮像素子と、
    前記複数の視差画像データのうちの少なくとも一部の視差画像データが、他の視差画像データと大きさが異なり、口径食の陰と重ならずに被写体像が現れる有効画像領域を有するように、前記視差画像信号の出力を制御する出力制御部と
    を備える撮像装置。
14. 前記出力制御部は、前記同一シーンに対応する画像領域において少なくとも一部の周辺領域を除外した領域を前記有効画像領域と定め、前記視差画像信号の出力を制御する請求項１３に記載の撮像装置。
15. 前記同一シーンに対応する画像領域の中心領域と前記周辺領域を結ぶ方向は、前記複数の視差画像データが視差を与える方向と平行である請求項１４に記載の撮像装置。
16. 前記出力制御部は、撮影レンズのレンズ情報に基づいて前記有効画像領域を定め、前記視差画像信号の出力を制御する請求項１３から１５のいずれか１項に記載の撮像装置。
17. 前記レンズ情報は、口径食に関する情報を含む請求項１６に記載の撮像装置。
18. 前記出力制御部は、撮影条件に基づいて前記有効画像領域を定め、前記視差画像信号の出力を制御する請求項１３から１７のいずれか１項に記載の撮像装置。
19. 前記撮影条件は、絞り値に関する条件を含む請求項１８に記載の撮像装置。
20. 前記出力制御部が定める前記有効画像領域に基づいて撮影条件を制限し、撮影動作を制御する撮影制御部を備える請求項１３から１７のいずれか１項に記載の撮像装置。
21. 前記撮影制御部は、絞り値に関する条件を制限する請求項２０に記載の撮像装置。
22. 前記撮像素子は、
    入射光を電気信号に光電変換する複数の光電変換素子を一組とする光電変換素子群が二次元的かつ周期的に配列され、
    前記光電変換素子群を構成する前記複数の光電変換素子のそれぞれに対応して設けられた開口マスクの開口が、前記入射光の断面領域に含まれる互いに異なる部分領域からの光束を通過させるように位置づけられた請求項１３から２１のいずれか１項に記載の撮像装置。
23. 同一シーンに対して互いに視差を有する複数の視差画像データを取得する画像データ取得ステップと、
    前記複数の視差画像データのうちの少なくとも一部の視差画像データに対して、他の視差画像データと大きさが異なり、口径食の陰と重ならずに被写体像が現れる有効画像領域を定める領域制定ステップと
    をコンピュータに実行させる画像処理プログラム。
24. 同一シーンに対して互いに視差を有する複数の視差画像データを生成するための視差画像信号を出力可能な撮像素子を備える撮像装置の制御プログラムであって、
    前記複数の視差画像データのうちの少なくとも一部の視差画像データが、他の視差画像データと大きさが異なり、口径食の陰と重ならずに被写体像が現れる有効画像領域を有するように、前記視差画像信号の出力を制御する出力制御ステップを
    コンピュータに実行させる撮像装置の制御プログラム。

Images