JP2013013006A - 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 - Google Patents
撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 Download PDFInfo
- Publication number
- JP2013013006A JP2013013006A JP2011145706A JP2011145706A JP2013013006A JP 2013013006 A JP2013013006 A JP 2013013006A JP 2011145706 A JP2011145706 A JP 2011145706A JP 2011145706 A JP2011145706 A JP 2011145706A JP 2013013006 A JP2013013006 A JP 2013013006A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- imaging
- lens
- focus detection
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Focusing (AREA)
- Automatic Focus Adjustment (AREA)
- Studio Devices (AREA)
Abstract
【課題】焦点検出用画素の位置に対応する撮像用画素の画素値を補間するためのパラメータをレンズ条件毎に簡便にもつ。
【解決手段】撮像素子15は、複数の撮像用画素及び複数の焦点検出用画素を有し、撮影レンズ14により結像する被写体像を撮像してベイヤー配列画像を得る。不揮発性メモリ12は、焦点検出用画素の位置を各々記憶する。また、不揮発性メモリ12は、焦点検出用画素の画素値を、その周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータをレンズ条件毎に対応付けして記述したテーブルを記憶する。AF画素補間部40は、撮影時に取得するレンズ条件に基づいてテーブルからパラメータを決め、決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する。
【選択図】図1
【解決手段】撮像素子15は、複数の撮像用画素及び複数の焦点検出用画素を有し、撮影レンズ14により結像する被写体像を撮像してベイヤー配列画像を得る。不揮発性メモリ12は、焦点検出用画素の位置を各々記憶する。また、不揮発性メモリ12は、焦点検出用画素の画素値を、その周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータをレンズ条件毎に対応付けして記述したテーブルを記憶する。AF画素補間部40は、撮影時に取得するレンズ条件に基づいてテーブルからパラメータを決め、決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する。
【選択図】図1
Description
本発明は、撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体に関する。
従来、複数の撮像用画素を2次元状に配列した受光面の一部に焦点検出用の複数の画素を配列した撮像素子が知られている(特許文献1)。複数の撮像用画素は、複数の色成分の各々に対応する分光特性を有し、また、焦点検出用画素は、複数の撮像用画素とは異なる分光特性を有する。特許文献1に記載の画像処理装置では、焦点検出用画素の位置に対応する撮像用画素値を補間し、その後、撮像用画素値のうち欠落色成分の画素値を補間して3色の画像データを作る。
焦点検出用画素の位置に対応する撮像用画素値を補間する場合、撮像素子によって生成された画像のうち焦点検出用画素の近傍の撮像用画素の画素値を用いて焦点検出用画素の補間画素値を生成し、近傍の撮像用画素が焦点検出用画素と同じ分光特性を有した場合の画素値である評価画素値を算出する。
評価画素値は、加重係数とともに焦点検出用画素の近傍の複数の撮像用画素値を用いて加重和を求めることで算出している。加重係数は、焦点検出用画素の分光特性を複数の撮像用画素の各々の分光特性の加重和によって表すためパラメータであり、予め記憶部に記憶されている。
加重係数は、焦点検出用撮像画素の分光感度とその周囲の撮像用画素の分光感度によって異なる。また、加重係数は、撮像時に得られるレンズ条件、すなわち、F値、及び射出瞳位置(PO値)に応じて光の集光が変化するため、レンズ条件毎に異なる値を使用することが望ましい。
本発明を例示する撮像装置の一態様は、複数の撮像用画素及び複数の焦点検出用画素を有し撮影レンズにより結像する被写体像を撮像する撮像素子と、前記焦点検出用画素の位置を各々記憶するAF画素位置記憶手段と、前記焦点検出用画素の画素値を、その周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータが、前記撮影レンズがもつレンズ条件毎に対応付けして記述されているテーブルを記憶するテーブル記憶手段と、撮影時のレンズ条件に基づいて前記テーブルから前記パラメータを決めるパラメータ決定手段と、前記パラメータ決定手段で決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する画素補間手段と、を備えたものである。
テーブル記憶手段としては、分光感度特性の異なる撮像素子の種類毎にテーブルを複数記憶してもよい。この場合、複数のテーブルから撮像素子の種類に応じたテーブルを選択するテーブル選択手段を備えればよい。
また、テーブル記憶手段としては、特定のレンズ条件の時に使用する基準のパラメータを記述した基準テーブルと、他のレンズ条件の時に使用するパラメータと前記基準のパラメータとの差分を記述した差分テーブルとを関連付けした構成のテーブルを記憶してもよい。この場合、パラメータ決定手段は、撮影時のレンズ条件が前記特定のレンズ条件ではない場合、撮影時のレンズ条件に応じた差分を差分テーブルから求め、求めた差分と基準のパラメータとを演算して撮影時のレンズ条件に応じたパラメータを算出して決めればよい。
さらに、テーブル記憶手段としては、基本テーブルと差分テーブルとを色成分毎に関連付けして記憶しておくのが望ましい。
また、撮像装置の製造方法としては、焦点検出用画素の画素値をその周囲の撮像用画素の画素値を用いて補間するときに使用するパラメータを、撮影レンズの所定のレンズ条件下のもとで実験した結果、基準のパラメータとして取得し、取得した基準のパラメータを所定のレンズ条件に対応付けして記述した基準テーブルと、他のレンズ条件下のもとで実験した結果得られるパラメータと基準のパラメータとの差分を他のレンズ条件に対応付けして記述した差分テーブルと、を作成するテーブル作成ステップと、作成した基準テーブルと差分テーブルとを関連付けして撮像装置に設けた記憶部に記憶させるステップと、を含むものである。
また、画像処理装置の発明としては、2次元状に配列された複数の撮像用画素、及び前記撮像用画素群の中に配された複数の焦点検出用画素を有する撮像素子を用いて撮像することで得られたベイヤー配列画像を取り込む画像取得手段と、撮像時に使用した撮像素子がもつ複数の焦点検出用画素の位置情報を取得するAF画素位置取得手段と、撮像素子を用いて撮像した時に使用したレンズ条件を取得するレンズ条件取得手段と、焦点検出用画素の周囲に配されている複数の撮像用画素の画素値を用いて焦点検出用画素の位置に対応する撮像用画素の画素値を補間するためのパラメータを、ベイヤー配列画像を撮像した時に使用した撮影レンズがもつレンズ条件毎に決めたテーブルを記憶するテーブル記憶手段と、レンズ条件に応じてテーブルからパラメータを決定するパラメータ決定手段と、決定したパラメータを用いて焦点検出用画素の位置に対応する撮像用画素の画素値を補間する補間処理手段と、を備えたものである。
なお、本発明としては、コンピュータが読み取り可能なプログラム、並びにコンピュータが読み取り可能なプログラムを記録した記録媒体の発明としてもよい。
本発明によれば、撮影レンズがもつレンズ条件毎に対応付けしたパラメータを簡便にもつことができる。
本発明を適用した電子カメラ10は、図4に示すように、CPU11を備えている。CPU11には、不揮発性メモリ12、及びワークメモリ13が接続されており、不揮発性メモリ12には、CPU11が種々の制御を行う際に参照される制御プログラムなどが格納されている。さらに、不揮発性メモリ12には、詳しくは後述する撮像素子の種類毎の焦点検出用画素(AF画素)の位置情報、予め求めておいた画像処理プログラムに用いる各種閾値のデータやパラメータ(加重係数)等のデータを記述したテーブル、及び各種判定用テーブル等を記憶する。
CPU11は、不揮発性メモリ12に格納されている制御プログラムに従い、ワークメモリ13を一時記憶作業領域として利用して各部の制御を行い、電子カメラ10を構成する各部(回路)機能を作動させる。
撮影レンズ14から入射する被写体光は、CCDやCMOS等の撮像素子15の受光面に結像する。撮像素子駆動回路16は、CPU11からの制御信号に基づいて撮像素子15を駆動させる。撮像素子15は、ベイヤー配列型単板撮像素子になっており、前面には原色透過フィルタ17が取り付けられている。
原色透過フィルタ17は、撮像素子15の総画素数Nに対して、例えば、G(緑色)の解像度がN/2、R(赤色)及びB(青色)の解像度がN/4となる原色ベイヤー配列になっている。
撮像素子15の受光面に結像した被写体像は、アナログの画像信号に変換される。画像信号は、AFE(Analog Front End)回路を構成するCDS18、及びAMP19に順に出力し、AFE回路で所定のアナログ処理が施され、その後、A/D(Analog/Digital変換器)20においてデジタルの画像データに変換されて画像処理部21に送られる。
画像処理部21は、分離回路、ホワイトバランス処理回路、画素補間(デモザイキング)回路、マトリクス処理回路、非線形変換(γ補正)処理回路、及び輪郭強調処理回路等を備え、デジタルの画像データに対して、ホワイトバランス、画素補間、マトリクス、非線形変換(γ補正)、及び輪郭強調等の処理を施す。分離回路は、詳しくは後述する撮像用画素から出力される信号と、焦点検出用画素から出力される信号とを分離する。画素補間回路は、1画素当たり1色のベイヤー配列データを、1画素当たり3色からなる通常のカラー画像データに変換する。
画像処理部21から出力される3色の画像データは、バス22を通じてSDRAM23に格納される。SDRAM23に格納した画像データは、CPU11の制御により読み出されて表示制御部24に送られる。表示制御部24は、入力された画像データを表示用の所定方式の信号(例えば、NTSC方式のカラー複合映像信号)に変換して表示部25にスルー画像として出力する。
また、シャッタレリーズに応答して取得した画像データは、SDRAM23から読み出した後に圧縮伸長処理部26に送られ、ここで圧縮処理が施されてからメディアコントローラ27を介して記録媒体であるメモリカード28に記録される。
CPU11には、レリーズボタン、電源スイッチ、及びISO感度設定部等を含む操作部29が接続されているとともに、撮像素子15の温度を検出する温度検出器31から温度情報が入力される。温度情報は、画像処理部21に送られ、詳しくは後述するノイズを判定する時に利用される。
AE/AF検出部33は、焦点検出用画素の信号に基づいて瞳分割型位相差検出方式によりデフォーカス量、及びデフォーカスの方向を検出する。CPU11は、AE/AF検出部33で得られるデフォーカス量、及びデフォーカスの方向に基づいてドライバ34を制御して合焦モータ35を駆動してフォーカスレンズを光軸方向で進退させて焦点調整を行う。
また、AE/AF検出部33は、撮像用画素の信号に基づいて算出した輝度値(Bv)と、撮影者がISO感度設定部で設定したSv値とを用いて光値(Lv=Sv+Bv)を算出する。そして、AE/AF検出部33は、露出値(Ev=Av+Tv)が光値(Lv)になるように絞り値とシャッター速度とを決定する。そして、これに従って撮像素子15の電子シャッター、及び電子アイリスを制御して適正な露光量を得る。なお、絞り兼用のメカシャッタを設けて、メカシャッタで絞りを可変してもよい。
撮像素子15は、その受光面上にある複数の撮像用画素の各々に、R(赤)、G(緑)、B(青)のいずれかの原色透過フィルタ17がベイヤー配列型に設けられ、その上にマイクロレンズアレイが設けられたCCDやCMOSの半導体イメージセンサ等を適宜選択して用いる。さらに、本実施形態の撮像素子15は、受光面上の一部の領域に、水平走査方向に一次元的に配置された複数の焦点検出用画素(AF画素)を有する。それらのAF画素には、原色透過フィルタ17が設置されていない。また、AF画素は、撮像レンズ1の光学系の瞳の左側又は右側を通過する光束を受光する2種類存在する。撮像素子15は、撮像用画素群、及びAF画素群からの画素信号を個別に読み出しすることができる。
各AF画素36は、図2に示すように、セル中心(マイクロレンズの中心)から一方に偏ったセンサ開口部36a,36bを持ち、その偏りの方向に沿って1次元状に並べられている。隣接するセンサ開口部36a,36bは、偏りが互いに逆方向であり、その偏りの距離は同一である。センサ開口部36aを有するAF画素36は、RGB原色ベイヤー配列中のG画素の代わりに置かれ、また、センサ開口部36bを有するAF画素36は、RGB原色ベイヤー配列中のB画素の代わりに置かれている。このようなセンサ開口部36a,36bをもつAF画素36によって瞳分割位相差AF方式を実現する。つまり、射出瞳を通る光束の中で撮影レンズ14の光軸に対して対称な位置にある2つの部分光束を、センサ開口部36aをもつAF画素36とセンサ開口部36bをもつAF画素36でそれぞれ受光すれば、これら2つのAF画素36から出力された信号の位相差によりデフォーカスの方向と、デフォーカス量とが分かる。これにより速やかなフォーカス合わせが可能になる。
したがって、本実施形態におけるAF画素36の各々は、白色光の輝度に応じた左側又は右側の瞳分割された検出信号を出力する。図3は、撮像素子15によって撮像された画像データのうち、AF画素36が配置された領域を中心とした画像データの一部を示す。それぞれのセルが1つの画素を表す。各セルの先頭の記号R、G及びBは、各原色透過フィルタ17を有する撮像用画素を示す。一方、記号X及びYは、左側又は右側からの光束に感度を有するAF画素を示し、それらが交互に水平走査方向に一次元的に配列されている。これらの記号に続く2桁の番号は画素の位置を示す。
画素補間部は、AF画素36の画素値(AF画素値)を撮像用画素の画素値(撮像用画素値)に補間するAF画素補間部と、AF画素値を撮像用画素値に補間した後に、ベイヤー配列からRGBへの線形補間法による色補間を行う画素補間部とを備える。
AF画素補間部40は、図4に示すように、ノイズ判定部41、及びフレア判定部42を備え、これら判定に基づいて異なるAF画素補間処理を行う。ノイズ判定部41は、撮影時の撮影条件に基づいてノイズが多く発生する条件かを判定する。撮影条件は、撮像素子15の温度、ISO感度、及び撮影時のシャッター速度等になっている。撮像素子15の温度情報は、CPU11から得られる。また、温度情報とともに、撮影時に設定されているISO感度や撮影時のシャッター速度の情報もCPU11から得られる。
ノイズ判定部41は、撮像素子15の温度、ISO感度、及びシャッター速度との情報に基づいてノイズが多いか少ないかを判定する。なお、撮像素子15を実装するメイン基板に温度検出器を設け、メイン基板の温度、又は撮像素子15の周囲の温度を、撮像素子15の温度の代わりに利用してもよい。さらに、ノイズ判定に利用する情報としては、撮像素子15の温度、ISO感度、及びシャッター速度との3つの情報に限らず、このうちのいずれか一つ、又は2つの情報としてもよい。
ノイズが多いとノイズ判定部41が判定する場合には、AF画素値を用いず、その周囲の撮像用画素値を用いて、例えば単純平均補間を行う第1画素補間処理を行う。ノイズが少ないと判定する場合には、フレア判定部42でフレア判定を行い、フレアが発生しているか否かに応じて前記第1画素補間処理とは異なる第2、又は第3の画素補間処理を行う。
フレア判定部42は、画像データの輝度ヒストグラムに基づいて輝度が高い領域(高輝度領域)を抽出した後に、抽出された高輝度領域に、例えばマゼンタ色が存在するか否かを判定し、マゼンタ色が存在する場合、マゼンタ色となる領域(マゼンタ領域)における輝度成分の平均エッジ量、及び分散値を算出し、「マゼンタ領域の総面積」、「マゼンタ領域の分散値/マゼンタ領域の総面積」、及び「マゼンタ領域の輝度成分の平均エッジ量」を各々閾値判定してフレアが発生しているか否かを判定する。
なお、フレア判定としては、ジャイロセンサ又は加速度センサ等の姿勢検出部を設け、姿勢検出部から得られる出力値に基づく演算により撮影レンズ14の水平に対対する仰角をCPU11が求め、仰角とともに被写体距離、被写体輝度、撮影モード等の情報をフレア判定部に送り、フレア判定部で、仰角、被写体距離、被写体輝度、撮影モード等の情報に基づいて、屋外であるか屋内であるかの区別と、昼夜の区別と、及びカメラを上に向けたときの撮影画角に被写体として空が入っているかの区別とを行って、フレアが発生するか否かの判定を行ってもよい。
AF画素補間部40は、フレアが生じていないと判定する場合には、AF画素値を用いて画素補間をする第2画素補間処理(画素補間手段)を実行する。第2画素補間処理は、AF画素値(ホワイト(W)成分)から周囲の撮像用画素値を元に加重和で予測することで、そのAF画素値を補間する。
フレアが生じているとフレア判定部42が判定する場合には、第3画素補間処理を実行する。第3画素補間処理は、フレア抑制手段と画素補間処理手段とを順に行う。フレア抑制手段は、AF画素の周囲の撮像用画素値を重み係数により補正する周囲撮像用画素補正手段と、周囲撮像用画素補正手段で補正した撮像用画素値を平滑化する平滑化手段と、で構成されている。周囲撮像用画素補正手段は、AF画素の近傍に位置する撮像用画素のうち、対象となる撮像用画素値から前記対象となる撮像用画素の近傍に位置する撮像用画素値と重み係数との加重和を減算することで、前記対象となる撮像用画素値を補正する。
フレア抑制手段としては、周囲撮像用画素補正手段と平滑化手段とで行う処理を、撮像用画素値に対する重み係数を変えて、例えば2回行うとともに、2回目の処理では重み計数を「0」にして平滑化手段での処理のみを行う。その後、第2画素補間処理(画素補間処理手段)を実行する。これにより、AF画素の周囲の撮像用画素に対してフレアにおける混色の影響を抑制することができる。よって、第2画素補間処理を行うに当たって、AF画素を撮像用画素として生成した画素値にも混色の影響が抑制される。
次に、上記AF画素補間部40の作用について図5を参照しながら説明する。なお、本実施形態において、撮像用画素の各々に設置される原色透過フィルタ17がベイヤー配列のパターンであることから、図3に示す記号XのAF画素の位置には緑色(G)の撮像用画素値が補間され、記号YのAF画素の画素位置には青色(B)の撮像用画素値が補間される。以下の説明では、Y44の青色の撮像用画素値とX45の緑色の撮像用画素値とをそれぞれ補間する場合について説明する。他のAF画素における撮像用画素値を補間する手順も同様である。
[ノイズ判定]
CPU11は、A/D20から送られてくる画像データをノイズ判定部41に送る。また、CPU11は、撮影時の撮像素子15の温度、ISO感度、及びシャッター速度の情報をノイズ判定部41に送る。あおして、CPU11は、ノイズ判定部41を制御して、ノイズ判定部41で画像データに対してノイズが多いか少ないかを判定する(S−1)。
CPU11は、A/D20から送られてくる画像データをノイズ判定部41に送る。また、CPU11は、撮影時の撮像素子15の温度、ISO感度、及びシャッター速度の情報をノイズ判定部41に送る。あおして、CPU11は、ノイズ判定部41を制御して、ノイズ判定部41で画像データに対してノイズが多いか少ないかを判定する(S−1)。
ノイズ判定部41の判定は、ノイズ判定用テーブルを参照して判定する。ノイズ判定用テーブルは、撮像素子15の温度範囲毎に複数用意されており、これらは不揮発性メモリ12に予め記憶されている。CPU11は、画像データを取得した時の撮像素子15の温度に対応するノイズ判定用テーブルをノイズ判定部41に送る。
ノイズ用判定テーブルとしては、例えば撮像素子15の温度が40℃未満の時には[表1]に記載のテーブルを、また40℃以上50℃未満の範囲の時には[表2]に記載のテーブルを選択する。各テーブルには、シャッター速度とISO感度とで決めるノイズの予測結果が予め行った実験に基づいて決められている。
[第1画素補間処理]
AF画素補間部40は、まず、撮像素子情報入力部32から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。その後、AF画素の位置に対して、例えば単に周囲の画素から平均補間してAF画素に対応する撮像用画素値を求める。具体的には、図3において、B画素の代わりに置かれたAF画素Y42の画素値は[数1]に記載の式から、また、AF画素Y44の画素値は[数2]に記載の式から、さらに、AF画素Y46の画素値は[数3]に記載の式からそれぞれ求める。
AF画素補間部40は、まず、撮像素子情報入力部32から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。その後、AF画素の位置に対して、例えば単に周囲の画素から平均補間してAF画素に対応する撮像用画素値を求める。具体的には、図3において、B画素の代わりに置かれたAF画素Y42の画素値は[数1]に記載の式から、また、AF画素Y44の画素値は[数2]に記載の式から、さらに、AF画素Y46の画素値は[数3]に記載の式からそれぞれ求める。
[数1]
Y42=(B22+B62)/2
[数2]
Y44=(B24+B64)/2
[数3]
Y46=(B26+B66)/2
また、G画素の代わりに置かれたAF画素X43の画素値は[数4]に記載の式から、また、AF画素X45の画素値は、[数5]に記載の式からそれぞれ求める。
Y42=(B22+B62)/2
[数2]
Y44=(B24+B64)/2
[数3]
Y46=(B26+B66)/2
また、G画素の代わりに置かれたAF画素X43の画素値は[数4]に記載の式から、また、AF画素X45の画素値は、[数5]に記載の式からそれぞれ求める。
[数4]
X43=(G32+G34+G52+G54)/4
[数5]
X45=(G34+G36+G54+G56)/4
このように、ノイズが多い場合には、AF画素値を用いないで、その周辺の撮像用画素値のみからAF画素値を予測するため、予測するAF画素値がバラツキ、想定以上の補間をしてしまい、偽色とよばれる実際には存在しない色が発生することや、偽構造とよばれる存在しない構造が発生することを極力抑えることができる。なお、AF画素値を撮像用画素値に補間した画像データは、画像処理部21でベイヤー配列からRGBへの線形補間法による色補間が行われ、RGB毎の画像データとしてSDRAM23に格納される。
X43=(G32+G34+G52+G54)/4
[数5]
X45=(G34+G36+G54+G56)/4
このように、ノイズが多い場合には、AF画素値を用いないで、その周辺の撮像用画素値のみからAF画素値を予測するため、予測するAF画素値がバラツキ、想定以上の補間をしてしまい、偽色とよばれる実際には存在しない色が発生することや、偽構造とよばれる存在しない構造が発生することを極力抑えることができる。なお、AF画素値を撮像用画素値に補間した画像データは、画像処理部21でベイヤー配列からRGBへの線形補間法による色補間が行われ、RGB毎の画像データとしてSDRAM23に格納される。
[フレア判定]
CPU11は、ノイズが少ないとノイズ判定部41が判定した場合、フレア判定部42を制御して、フレア判定部42でフレアが生じているかを判定する(S−3)。AF画素補間部40は、フレア判定部42でフレアが発生しないと判定する場合、第2画素補間処理(S−4)を、また、フレアが発生すると判定する場合には、第3画素補間処理(S−5)を択一的に実行する。
CPU11は、ノイズが少ないとノイズ判定部41が判定した場合、フレア判定部42を制御して、フレア判定部42でフレアが生じているかを判定する(S−3)。AF画素補間部40は、フレア判定部42でフレアが発生しないと判定する場合、第2画素補間処理(S−4)を、また、フレアが発生すると判定する場合には、第3画素補間処理(S−5)を択一的に実行する。
[第2画素補間処理]
AF画素補間部40は、まず、撮像素子情報入力部32から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。そして、特定したAF画素の周辺の撮像用画素値を用いて画素値の変化率である変動値が最小となる方向を求める。そして、変動の最も小さい方向にある撮像用画素値を用いてAF画素の画素値を補間する。
AF画素補間部40は、まず、撮像素子情報入力部32から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。そして、特定したAF画素の周辺の撮像用画素値を用いて画素値の変化率である変動値が最小となる方向を求める。そして、変動の最も小さい方向にある撮像用画素値を用いてAF画素の画素値を補間する。
(最小となる変動値の方向を算出)
AF画素補間部40は、X45及びY44のAF画素での撮像用画素値を補間するために、X45及びY44の周辺の撮像用画素の画素値を用いて4方向の画素値の変化率である方向変動H1〜H4の値を、[数6]〜[数9]に記載の式を用いてそれぞれ求める(S−6)。なお、本実施形態における4方向とは、水平走査方向、垂直走査方向、水平走査方向に対して45度及び135度方向である。
AF画素補間部40は、X45及びY44のAF画素での撮像用画素値を補間するために、X45及びY44の周辺の撮像用画素の画素値を用いて4方向の画素値の変化率である方向変動H1〜H4の値を、[数6]〜[数9]に記載の式を用いてそれぞれ求める(S−6)。なお、本実施形態における4方向とは、水平走査方向、垂直走査方向、水平走査方向に対して45度及び135度方向である。
[数6]
水平走査方向の方向変動H1=
2×(|G34−G36|+|G54−G56|)+|R33−R35|+|R53−R55|+|B24−B26|+|B64−B66|
[数7]
垂直走査方向の方向変動H2=
2×(|G34−G54|+|G36−G56|)+|R33−R53|+|R35−R55|+|B24−B64|+|B26−B66|
[数8]
水平走査方向に対して45度の方向変動H3=
2×(|G27−G36|+|G54−G63|)+|R35−R53|+|R37−R55|+|B26−B62|+|B28−B64|
[数9]
水平走査方向に対して135度の方向変動H4=
2×(|G23−G34|+|G56−G67|)+|R33−R55|+|R35−R57|+|B22−B66|+|B24−B68|
(最小変動値の方向に応じた周辺の撮像用画素値を用いてAF画素の画素値を補間)
AF画素補間部40は、ステップ(S−6)で求めた方向変動H1〜H4のうち最も小さい値の方向変動の方向を選択し、その方向にある撮像用画素の画素値を用いて、AF画素X45の位置でのGの撮像用画素値GX45及びAF画素Y44の位置でのBの撮像用画素値BY44を[数10]〜[数13]のうちの選択した方向に対応する式を用いて求める(S−7)。これにより、変動の小さい方向にある撮像用画素の画素値を用いることにより、より正確にX45及びY44等のAF画素の位置での撮像用画素値を補間することが可能となる。
水平走査方向の方向変動H1=
2×(|G34−G36|+|G54−G56|)+|R33−R35|+|R53−R55|+|B24−B26|+|B64−B66|
[数7]
垂直走査方向の方向変動H2=
2×(|G34−G54|+|G36−G56|)+|R33−R53|+|R35−R55|+|B24−B64|+|B26−B66|
[数8]
水平走査方向に対して45度の方向変動H3=
2×(|G27−G36|+|G54−G63|)+|R35−R53|+|R37−R55|+|B26−B62|+|B28−B64|
[数9]
水平走査方向に対して135度の方向変動H4=
2×(|G23−G34|+|G56−G67|)+|R33−R55|+|R35−R57|+|B22−B66|+|B24−B68|
(最小変動値の方向に応じた周辺の撮像用画素値を用いてAF画素の画素値を補間)
AF画素補間部40は、ステップ(S−6)で求めた方向変動H1〜H4のうち最も小さい値の方向変動の方向を選択し、その方向にある撮像用画素の画素値を用いて、AF画素X45の位置でのGの撮像用画素値GX45及びAF画素Y44の位置でのBの撮像用画素値BY44を[数10]〜[数13]のうちの選択した方向に対応する式を用いて求める(S−7)。これにより、変動の小さい方向にある撮像用画素の画素値を用いることにより、より正確にX45及びY44等のAF画素の位置での撮像用画素値を補間することが可能となる。
[数10]
方向変動H1が最小の場合
BY44=(B24+B64)/2
GX45=(G34+G36+G54+G56)/4
[数11]
方向変動H2が最小の場合
BY44=(B24+B64)/2
GX45=(G25+G65)/2
[数12]
方向変動H3が最小の場合
BY44=(B26+B62)/2
GX45=(G36+G54)/2
[数13]
方向変動H4が最小の場合
BY44=(B22+B66)/2
GX45=(G34+G56)/2
AF画素補間部40は、AF画素の配列方向である水平走査方向において、AF画素の画素値の方向変動H5を、例えば、AF画素のY44及びX45の白色光の画素値W44及びW45と、[数14]に記載の式とを用いて算出する。
方向変動H1が最小の場合
BY44=(B24+B64)/2
GX45=(G34+G36+G54+G56)/4
[数11]
方向変動H2が最小の場合
BY44=(B24+B64)/2
GX45=(G25+G65)/2
[数12]
方向変動H3が最小の場合
BY44=(B26+B62)/2
GX45=(G36+G54)/2
[数13]
方向変動H4が最小の場合
BY44=(B22+B66)/2
GX45=(G34+G56)/2
AF画素補間部40は、AF画素の配列方向である水平走査方向において、AF画素の画素値の方向変動H5を、例えば、AF画素のY44及びX45の白色光の画素値W44及びW45と、[数14]に記載の式とを用いて算出する。
[数14]
H5=|W44−W45|
AF画素補間部40は、その方向変動H5が閾値th1を超えるか否かを判定する(S−8)。方向変動H5が閾値th1を超える場合(YES側)、AF画素補間部40は、ステップ(S−7)で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部21は、更新した画像データに対して1画素当たり3色の画素値に補間して3色の画像データを生成し、3色の画像データを、バス22を介してSDRAM23に記録する(S−9)。
H5=|W44−W45|
AF画素補間部40は、その方向変動H5が閾値th1を超えるか否かを判定する(S−8)。方向変動H5が閾値th1を超える場合(YES側)、AF画素補間部40は、ステップ(S−7)で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部21は、更新した画像データに対して1画素当たり3色の画素値に補間して3色の画像データを生成し、3色の画像データを、バス22を介してSDRAM23に記録する(S−9)。
一方、方向変動H5が閾値th1以下の場合(NO側)、画像処理部21は、(S−10)へ移行する。なお、閾値th1は、例えば、12ビット画像を処理する場合、512程度の値にすれば良い。
AF画素補間部40は、ステップ(S−6)で求めた方向変動H2が閾値th2を超えるか否かを判定する(S−10)。方向変動H2が閾値th2を超える場合(YES側)、AF画素補間部40は、ステップ(S−7)で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部21は、更新した画像データに対して3色の画素補間を施して3色の画像データを生成し、3色の画像データを、バス22を介してSDRAM23に格納する(S−9)。
一方、方向変動H2が閾値th2以下の場合(NO側)、画像処理部21は、(S−11)へ移行する。なお、閾値th2は、例えば、12ビット画像を処理する場合、64程度の値にすれば良い。
その後、AF画素補間部40は、右側からの光束に感度を有するY44等のAF画素における白色光の平均画素値<W44>等を、近傍にある色成分R、G及びBの撮像用画素値を用いて算出する(S−11)。具体的には、ステップ(S−6)において、例えば、画像処理部21が方向変動H2を最小であると判定した場合、Bの撮像用画素値は[数10]に記載の式にあるB24とB64とを用いる。一方、R及びGの画素値については、Bの撮像用画素B24とB64との位置におけるR及びGの画素値を、[数15]に記載の4つの式を用いて補間計算する。
[数15]
(1)RB24=(R13+R15+R33+R35)/4
(2)GB24=(G14+G23+G25+G34)/4
(3)RB64=(R53+R55+R73+R75)/4
(4)GB64=(G54+G63+G65+G74)/4
そして、AF画素補間部40は、撮像用画素B24及びB64の位置における白色光の画素値W24及びW64を、CPU11から転送されてきたR、G及びGの加重係数WR、WG及びWBを用いて、[数16]に記載の式の加重和によって算出する。
(1)RB24=(R13+R15+R33+R35)/4
(2)GB24=(G14+G23+G25+G34)/4
(3)RB64=(R53+R55+R73+R75)/4
(4)GB64=(G54+G63+G65+G74)/4
そして、AF画素補間部40は、撮像用画素B24及びB64の位置における白色光の画素値W24及びW64を、CPU11から転送されてきたR、G及びGの加重係数WR、WG及びWBを用いて、[数16]に記載の式の加重和によって算出する。
詳しくは、CPU11は、撮影レンズ14のF値とPO値とのレンズ情報を、図示しないインタフェースを介してレンズ情報入力部30(図1参照)から撮影毎に取り込む。また、CPU11は、撮像素子15の分光特性の種類を表す撮像素子情報を、図示しないインタフェースを介して撮像素子情報入力部32(図1参照)から撮影毎に取り込む。これにより、CPU11は、撮影時に、撮像素子15の特性に応じた色成分毎の基準テーブル(基準パラメータ)、及び差分テーブルを、不揮発性メモリ12に記憶のテーブル群から選択し、選択した色成分毎の基準テーブル(基準パラメータ)、及び差分テーブルを参照して色成分毎にレンズ条件に応じた加重係数を求める。なお、加重係数WR、WG、及びWBの詳しい求め方については後述する。
[数16]
W24=WR×RB24+WG×GB24+WB×B24
W64=WR×RB64+WG×GB64+WB×B64
そして、画像処理部21は、Y44における白色光の平均画素値<W44>=(W24+W64)/2を算出する。
W24=WR×RB24+WG×GB24+WB×B24
W64=WR×RB64+WG×GB64+WB×B64
そして、画像処理部21は、Y44における白色光の平均画素値<W44>=(W24+W64)/2を算出する。
AF画素補間部40は、左側からの光束に感度を有するX45等のAF画素における白色光の平均画素値<W45>等を、ステップ(S−11)の場合と同様に、近傍にある色成分R、G及びBの撮像用画素の画素値を用いて算出する(S−12)。ステップ(S−7)において、画像処理部21が方向変動H2を最小であると判定した場合、Gの撮像用画素の画素値は、[数11]に記載の式にあるG25とG65とを用いる。一方、R及びBの画素値については、Gの撮像用画素G25とG65との位置におけるR及びBの画素値を[数17]に記載の4つの式を用いて補間計算する。
[数17]
(1)RG25=(R15+R35)/2
(2)BG25=(B24+B26)/2
(3)RG65=(R55+R75)/2
(4)BG65=(B64+G66)/2
そして、AF画素補間部40は、撮像用画素G25及びG65の位置における白色光の画素値W25及びW65を、[数18]に記載の式の加重和によって算出する。
(1)RG25=(R15+R35)/2
(2)BG25=(B24+B26)/2
(3)RG65=(R55+R75)/2
(4)BG65=(B64+G66)/2
そして、AF画素補間部40は、撮像用画素G25及びG65の位置における白色光の画素値W25及びW65を、[数18]に記載の式の加重和によって算出する。
[数18]
W25=WR×RG25+WG×G25+WB×BG25
W65=WR×RG64+WG×G25+WB×BG65
そして、画像処理部21は、X45における白色光の平均画素値<W45>=(W25+W65)/2を算出する。
W25=WR×RG25+WG×G25+WB×BG25
W65=WR×RG64+WG×G25+WB×BG65
そして、画像処理部21は、X45における白色光の平均画素値<W45>=(W25+W65)/2を算出する。
AF画素補間部40は、撮像素子2の各AF画素における白色光の画素値の高周波成分を、(S−11)及び(S−12)において求めた白色光の平均画素値を用いて求める(S−13)。AF画素補間部40は、撮像素子2の各AF画素の画素値から、各AF画素の画素位置における白色光の平均画素値を最初に求める。つまり、各AF画素の画素値は、左側又は右側からの光束を瞳分割した値である。したがって、各AF画素の位置における白色光の画素値を得るためには、左側及び右側からの光束の画素値を互いに加算する必要がある。そこで、本実施形態のAF画素補間部40は、各AF画素の画素値及び隣接するAF画素の画素値を用いて、例えば、AF画素Y44やX45の位置における白色光の平均画素値を[数19]に記載の式を用いて算出する。
[数19]
<W44>’=W44+(W43+W45)/2
<W45>’=W45+(W44+W46)/2
なお、ステップ(S−13)で説明した[数19]において、AF画素の配列方向に隣接するAF画素の画素値を用いて、各AF画素の位置における白色光の画素値を算出するので、配列方向に強い変動がある場合には、高周波成分の計算が不正確になり、白色光の画素値の配列方向の解像力が失われるおそれがある。そこで、前述したステップ(S−8)では、配列方向に強い変動がある場合に、高周波成分の付加を中止するようにしている。
<W44>’=W44+(W43+W45)/2
<W45>’=W45+(W44+W46)/2
なお、ステップ(S−13)で説明した[数19]において、AF画素の配列方向に隣接するAF画素の画素値を用いて、各AF画素の位置における白色光の画素値を算出するので、配列方向に強い変動がある場合には、高周波成分の計算が不正確になり、白色光の画素値の配列方向の解像力が失われるおそれがある。そこで、前述したステップ(S−8)では、配列方向に強い変動がある場合に、高周波成分の付加を中止するようにしている。
その後、AF画素補間部40は、[数20]に記載の式から、Y44及びX45の位置における白色光の高周波成分HFY44及びHFX45を求める。
[数20]
HFY44=<W44>’−<W44>
HFX45=<W45>’−<W45>
AF画素補間部40は、ステップ(S−13)で求めた各AF画素の位置における白色光の画素値の高周波成分HFがその白色光の画素値に占める割合が、閾値th3(本実施形態では、例えば、10%程度)より小さいか否かを判定する(S−14)。閾値th3より高周波成分HFが小さい場合(YES側)、AF画素補間部40は、ステップS12で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部21は、更新した画像データに対して3色の画素補間を施して3色の画像データを生成し、3色の画像データを、バス22介してSDRAM23に格納する(S−9)。
HFY44=<W44>’−<W44>
HFX45=<W45>’−<W45>
AF画素補間部40は、ステップ(S−13)で求めた各AF画素の位置における白色光の画素値の高周波成分HFがその白色光の画素値に占める割合が、閾値th3(本実施形態では、例えば、10%程度)より小さいか否かを判定する(S−14)。閾値th3より高周波成分HFが小さい場合(YES側)、AF画素補間部40は、ステップS12で求めたBY44及びGX45の補間した値をY44及びX45における撮像用画素値とし、画像データを更新する。画像処理部21は、更新した画像データに対して3色の画素補間を施して3色の画像データを生成し、3色の画像データを、バス22介してSDRAM23に格納する(S−9)。
一方、高周波成分HFが閾値th3以上の場合(NO側)、AF画素補間部40は、ステップ(S−15)へ移行する。なお、閾値th3の値についての説明は、後の加算係数WR、WG及びWBの説明とともに行う。
AF画素補間部40は、Y44やX45の近傍における各色成分R、G又はBの撮像用画素の画素値の色変動VR、VGr、VB及びVGbを算出する(S−15)。ここで、色変動VGr及びVGbは、R又はBの撮像用画素の位置におけるGの色変動を示す。AF画素補間部40は、[数21]に記載の2つの式に基づいて、色変動VRとVGrとを求める。
[数21]
(1)VR =|R33−R53|+|R35−R55|+|R37−R57|
(2)VGr=|(G32+G34)/2−(G52+G54)/2|+|(G34+G36)/2−(G54+G56)/2|+|(G36+G38)/2−(G56+G58)/2|
なお、本実施形態のAF画素補間部40は、Rの撮像用画素の位置R33、R35、R37、R53、R55及びR57におけるGの画素値の平均値を求めてからVGrの値を計算する。
(1)VR =|R33−R53|+|R35−R55|+|R37−R57|
(2)VGr=|(G32+G34)/2−(G52+G54)/2|+|(G34+G36)/2−(G54+G56)/2|+|(G36+G38)/2−(G56+G58)/2|
なお、本実施形態のAF画素補間部40は、Rの撮像用画素の位置R33、R35、R37、R53、R55及びR57におけるGの画素値の平均値を求めてからVGrの値を計算する。
一方、AF画素補間部40は、[数22]に記載の2つの式に基づいて、色変動VBとVGbとを求める。
[数22]
(1)VB =|B22−B62|+|B24−B64|+|B26−B66|
(2)VGb=|(G21+G23)/2−(G61+G63)/2|+|(G23+G25)/2−(G63+G63)/2|+|(G25+G27)/2−(G65+G67)/2|
なお、本実施形態のAF画素補間部40は、Bの撮像用画素の位置B22、B24、B26、B62、B64及びB66におけるGの画素値の平均値を求めてからVGbの値を計算する。
(1)VB =|B22−B62|+|B24−B64|+|B26−B66|
(2)VGb=|(G21+G23)/2−(G61+G63)/2|+|(G23+G25)/2−(G63+G63)/2|+|(G25+G27)/2−(G65+G67)/2|
なお、本実施形態のAF画素補間部40は、Bの撮像用画素の位置B22、B24、B26、B62、B64及びB66におけるGの画素値の平均値を求めてからVGbの値を計算する。
AF画素補間部40は、ステップ(S−15)で算出した色変動VR、VGr、VB及びVGbを用いて、色成分G及びBの白色光に対する色変動率KWG及びKWBを算出する(S−16)。まず、AF画素補間部40は、色変動VR、VGr、VB及びVGbから[数23]に記載の3つの式から色変動VR2、VG2及びVB2を求める。
[数23]
(1)VR2=(VR+α)×(VGb+α)
(2)VB2=(VB+α)×(VGr+α)
(3)VG2=(VGb+α)×(VGr+α)
ここで、αは、色変動率の値を安定させるための適当な定数であり、例えば、12ビット画像を処理する場合には、α=256程度の値にすれば良い。
(1)VR2=(VR+α)×(VGb+α)
(2)VB2=(VB+α)×(VGr+α)
(3)VG2=(VGb+α)×(VGr+α)
ここで、αは、色変動率の値を安定させるための適当な定数であり、例えば、12ビット画像を処理する場合には、α=256程度の値にすれば良い。
そして、画像処理部21は、色変動VR2、VG2及びVB2を用いて、[数23]に記載の式により白色光における色変動VWを算出する。
[数24]
VW=VR2+VG2+VB2
よって、AF画素補間部40は、色変動率KWG及びKWBを[数24]から算出する。
VW=VR2+VG2+VB2
よって、AF画素補間部40は、色変動率KWG及びKWBを[数24]から算出する。
[数25]
KWB=VG2/VW
KWB=VB2/VW
AF画素補間部40は、ステップ(S−13)において求めた各AF画素の位置における白色光の画素値の高周波成分HFと、ステップ(S−16)で算出した色変動率KWG及びKWBとを用いて、各AF画素の位置における色成分G及びBの画素値の高周波成分を[数26]に記載の式から算出する(S−17)。
KWB=VG2/VW
KWB=VB2/VW
AF画素補間部40は、ステップ(S−13)において求めた各AF画素の位置における白色光の画素値の高周波成分HFと、ステップ(S−16)で算出した色変動率KWG及びKWBとを用いて、各AF画素の位置における色成分G及びBの画素値の高周波成分を[数26]に記載の式から算出する(S−17)。
[数26]
HFBY44=HFY44×KWB
HFGX45=HFX45×KWG
AF画素補間部40は、ステップ(S−17)で求めた各AF画素における各色成分の高周波成分を、ステップ(S−7)で補間して求めた撮像用画素値に付加する(S−18)。CPU11は、例えば、[数27]に記載の式に基づいて、Y44及びX45の撮像用画素値B’及びG’をそれぞれ算出する。
HFBY44=HFY44×KWB
HFGX45=HFX45×KWG
AF画素補間部40は、ステップ(S−17)で求めた各AF画素における各色成分の高周波成分を、ステップ(S−7)で補間して求めた撮像用画素値に付加する(S−18)。CPU11は、例えば、[数27]に記載の式に基づいて、Y44及びX45の撮像用画素値B’及びG’をそれぞれ算出する。
[数27]
B’Y44=BY44+HFY44
G’X45=GX45+HFX45
AF画素補間部40は、Y44やX45等のAF画素の位置において補間して求めたB’Y44及びG’X45等の画素値を、それぞれの位置における撮像用画素値として、画像データを更新する。画像処理部21は、更新した画像データに対して3色に画素補間等を施してSDRAM23に格納する(S−9)。
B’Y44=BY44+HFY44
G’X45=GX45+HFX45
AF画素補間部40は、Y44やX45等のAF画素の位置において補間して求めたB’Y44及びG’X45等の画素値を、それぞれの位置における撮像用画素値として、画像データを更新する。画像処理部21は、更新した画像データに対して3色に画素補間等を施してSDRAM23に格納する(S−9)。
なお、AF画素の配列方向に変動はなくても、各色成分の撮像用画素の分光特性の加重和とAF画素の分光特性とのズレ等に起因して、白色光の画素値の高周波成分が若干の誤差を持つ。垂直走査方向(AF画素の配列方向に交わる方向)に画像の大きな変動がない場合には、高周波成分を付加しなくても補間値の精度は充分であり、高周波成分を付加することによってかえって誤差に起因する偽構造が生じる恐れがある。そこで、ステップ(S−10)では、そのような場合、高周波成分の付加を抑制する。また、算出された高周波成分が充分小さい場合には、それを付加しなくても補間値の精度は充分であり、高周波成分を付加することによってかえって誤差に起因する偽構造が生じるおそれがある。このため、(S−10)では、そのような場合に高周波成分の付加を抑制するようにしている。
[加重係数WR、WG、WBの求め方]
次に、加重係数WR、WG、WBの求め方について、閾値th3とともに説明する。まず、図7に示すように、レンズ交換式の電子カメラ(製品)10、又はそれに組み込まれたものと同じ特性の撮像素子を組み込んだダミーの電子カメラを撮影位置にセットする(S−19)。そして、セットした電子カメラ10で、図6に示すように、一様の白色パターンの画像を撮像し(S−20)、撮像した補完前(ベイヤー配列)の画像データを保存する(S−21)。この撮像は、所定の交換レンズを用いた条件、すなわち、撮影時のF値と交換レンズで決まる射出瞳位置(PO値)との条件で行われる。
次に、加重係数WR、WG、WBの求め方について、閾値th3とともに説明する。まず、図7に示すように、レンズ交換式の電子カメラ(製品)10、又はそれに組み込まれたものと同じ特性の撮像素子を組み込んだダミーの電子カメラを撮影位置にセットする(S−19)。そして、セットした電子カメラ10で、図6に示すように、一様の白色パターンの画像を撮像し(S−20)、撮像した補完前(ベイヤー配列)の画像データを保存する(S−21)。この撮像は、所定の交換レンズを用いた条件、すなわち、撮影時のF値と交換レンズで決まる射出瞳位置(PO値)との条件で行われる。
続いて同じレンズ条件で、前記一様白色のパターンの画像を、カラーフィルタ(R,G,B)を用いて撮影をする(S−22)。そして、撮影した補完前の画像データを保存する(S−23)。なお、撮像データの保存は、必ずしも電子カメラ10のメモリや記憶部で行う必要はない。例えば電子カメラ10の組み立て・調整工程において外付けのパーソナルコンピュータ(PC)に転送して保存しても良い。
その後、周囲の撮像用画素値の重み付け加重和からAF画素値を推定するための各色成分の重み係数を算出する(S−24)。
詳しく説明すると、一様白色パターン画像を撮影した時に得た画像データに基づいて算出するパラメータを以下に設定する。
AW:AF画素値の平均の出力値。
RW:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
AW:AF画素値の平均の出力値。
RW:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
続いて、R色成分のカラーフィルタを用いて撮影した時に得た画像データに基づいて算出するパラメータを以下に設定する。
AR:AF画素値の平均の出力値。
RR:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
AR:AF画素値の平均の出力値。
RR:AF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:AF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:AF画素列の周囲のB色成分の撮像用画素値の平均値。
続いてG、Bのカラーフィルタを用いたときも同様に設定する。ここでは、一般化するために以下のように表す。
AC:AF画素値の平均の出力値
RC:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のB色成分の撮像用画素値の平均値。
AC:AF画素値の平均の出力値
RC:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のR色成分の撮像用画素値の平均値。
GW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のG色成分の撮像用画素値の平均値。
BW:あるカラーフィルタを通した場合(白色の場合はなし)のAF画素列の周囲のB色成分の撮像用画素値の平均値。
そして、周囲の撮像用画素のある重みの加重和からAF画素値を推定するには、未知の加重係数WR、WG、及びWBの関数として二乗誤差Eを[数28]に記載の式に定義する。
WG:AF画素列の周囲のG色成分の撮像用画素の重み係数
WB:AF画素列の周囲のB色成分の撮像用画素の重み係数
そして、二乗誤差Eを最小とする加重係数WR、WG及びWBを、すなわち二乗誤差EをWR、WG又はWBでそれぞれ偏微分した値を「0」にする加重係数WR、WG及びWBを[数29]〜[数34]に記載の式により求める。
[数35]
Kn=|WR×Rn+WG×Gn+WB×Bn−Wn|/Wn
そして、Knの最大値を求め、閾値th3として不揮発性メモリ12に記録する。
Kn=|WR×Rn+WG×Gn+WB×Bn−Wn|/Wn
そして、Knの最大値を求め、閾値th3として不揮発性メモリ12に記録する。
このようにして、所定のレンズ条件の時に使用する加重係数WR、WG、及びWBを求めることができる。各色成分の加重係数は、AF画素の分光感度とその周囲の撮像用画素の分光感度によって異なる。また、レンズ条件であるF値、及びPO値が変わったとき、光の集光が変化するため、加重係数WR,WG、及びWBが変化する。そのため、各色成分に対するレンズ条件毎の加重係数を記述したテーブルを、撮像素子の分光感度特性(撮像素子の特性)毎にもつことが望ましい。
しかしながら、レンズ条件毎に加重係数を記述するテーブル([表3])を各色成分毎に記憶するのは無駄にメモリを消費するだけで効率的ではない。
例えば[表4]に示すように、R色成分用基準テーブルには、F値が「4」で、PO値が「20」のレンズ条件の時に使用する加重係数が「222」であることが記述されている。そして、R色成分の差分テーブルには、[表5]に示すように、他のレンズ条件の時に使用する加重係数を算出するための基準の加重係数との差分値が記述されている。
これによれば、例えば、撮影レンズ側に撮像素子をもつタイプのカメラや製造途中で行われえる撮像素子の設計変更等により撮像素子が変更されても、その撮像素子の分光感度特性を含む撮像素子情報を得ることで、その撮像素子の特性に応じた色成分毎の基準テーブルと差分テーブルとを選択して加重係数を求めることができる。
また、レンズ交換がなされて他のレンズ条件になっても、差分テーブルからそのレンズ条件に応じた差分を読み出し、読み出した差分を基準の加重係数に加えることで、その時点のレンズ条件時に使用する加重係数を色成分毎に直ぐに求めることができる。しかも、差分テーブルには、提供されている交換式の撮影レンズ14の種類に応じたレンズ条件に加えて、将来的に提供されると予測される交換レンズに応じたレンズ条件についても予め実験により差分を求めておくことができるので簡便である。
なお、加重係数を求める処理は、必ずしも電子カメラ本体内で行う必要はない。例えば加重係数の算出は、カメラの組み立て・調整工程において外付けのパーソナルコンピュータで行い、求めた基準テーブルと差分テーブルとをカメラに転送しても良い。
また、差分テーブルとしては、略同じ差分をもつレンズ条件の範囲をグループ分けして記憶することで差分テーブルを簡易化してもよい。
図8は、本実施形態の効果が発揮される画像構造の一例を表す。同図は凸構造(明るい線あるいは点)を含む縦5画素の画像構造を縦断した図であり、横軸は垂直走査方向(y座標)であり縦軸は光量または画素値である。そして、凸構造がちょうど水平走査方向に配列されたAF画素列上にある。
図8の○印は、Gの撮像用画素で撮像された画素値である。ただし、AF画素の位置にはGの撮像用画素が存在しないので、その位置でのGの画素値は得られない。従って、丁度AF画素の位置に凸構造がある場合には、AF画素の近傍のGの撮像用画素の画素値からだけでは、同図の凸構造を再現できない。実際、前述したステップ(S−7)において、AF画素の近傍のGの撮像用画素の画素値を用いてAF画素の位置で補間して求めたGの画素値(図8の●印)は、凸構造を再現していない。
一方、AF画素の位置では、白色光の画素値が得られる。ただし、通常の画素は瞳の全領域を通過する光を受光するのに対し、AF画素は瞳の右側あるいは左側を通過する光のみを受光するので、瞳分割の異なる隣接するAF画素を加算することにより通常の(瞳の全領域を通過した光の)白色光の画素値が算出される([数19])。
また、AF画素の近傍のGの撮像用画素の位置に、他の色成分R及びGを補間生成して、色成分R、G及びBの加重和を求めることにより、多くの場合には充分な精度で白色光の画素値を求めることができる([数16]及び[数18])。
図8の□印は、そのようにして求めた白色光の画素値の分布である。多くの場合、白色光の画素値の高周波成分と、色成分Gの画素値の高周波成分とは比例するので、白色光の画素値から算出した高周波成分は、Gの画素値の凸構造成分の情報を持つ。よって、白色光の画素値の高周波成分に基づいてGの画素値の高周波成分を求め、その値を●印のデータに加えることにより、☆印のGの画素値が得られ、凸構造を再現する([数26])。
[第3画素補間処理]
AF画素補間部40は、ノイズ判定部41での判定結果によりノイズが少なく、かつフレア判定部42でのフレアが発生し易いと判断する場合、第3画素補間処理を選択して実行する。
AF画素補間部40は、ノイズ判定部41での判定結果によりノイズが少なく、かつフレア判定部42でのフレアが発生し易いと判断する場合、第3画素補間処理を選択して実行する。
第3画素補間処理では、まず、AF画素補間部40が、撮像素子情報入力部32から撮像素子情報を取得して、不揮発性メモリから、取得した撮像素子情報に基づいたAF画素の位置情報を読み取ってAF画素の位置を特定する。その後、AF画素の周囲の撮像用画素値を重み係数により補正し、補正した撮像用画素値を平滑化する処理を、撮像用画素値に対する重み係数を変えて2回行った後、上述した第2画素補間処理を実行する。以下、図3のAF画素X43及びAF画素Y44の2列に対する第3画素補間処理について説明する。
(AF画素列の周囲の撮像用画素値を重み係数により補正)
AF画素補間部40は、図9に示すように、AF画素列の周囲に配置された撮像用画素の画素値が、閾値MAX_RAW以上となるか否かを判定し、その判定結果に基づいて、設定された重み係数を用いて補正する(S−31)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値である。
AF画素補間部40は、図9に示すように、AF画素列の周囲に配置された撮像用画素の画素値が、閾値MAX_RAW以上となるか否かを判定し、その判定結果に基づいて、設定された重み係数を用いて補正する(S−31)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値である。
AF画素補間部40は、撮像用画素の画素値が閾値MAX_RAW以上となる場合には、撮像用画素値に対して補正は行わない。一方、AF画素補間部40は、撮像用画素の画素値が、閾値MAX_RAW未満となる場合には、重み係数を用いた加重和の値を元の画素値から減算することで撮像用画素の画素値を補正する。
AF画素補間部40は、R色成分の撮像用画素の画素値を[数36]〜[数39]を用いて補正する。
[数36]
R13’=R13−(R3U_0×R33+R3U_1×G34+R3U_2×B24)
[数37]
R33’=R33−(R1U_0×R33+R1U_1×G34+R1U_2×B24)
[数38]
R53’=R53−(R1S_0×R53+R1S_1×G54+R1S_2×B64)
[数39]
R73’=R73−(R3S_0×R53+R3S_1×G54+R3S_2×B64)
ここで、R1U_0,R1U_1,R1U_2,R1S_0,R1S_1,R1S_2,R3U_0,R3U_1,R3U_2,R3S_0,R3S_1,R3S_2は、重み係数である。なお、重み係数中、文字Sは、AF画素よりも上方に位置することを示し、文字Uは、AF画素よりも下方に位置することを示している。
R13’=R13−(R3U_0×R33+R3U_1×G34+R3U_2×B24)
[数37]
R33’=R33−(R1U_0×R33+R1U_1×G34+R1U_2×B24)
[数38]
R53’=R53−(R1S_0×R53+R1S_1×G54+R1S_2×B64)
[数39]
R73’=R73−(R3S_0×R53+R3S_1×G54+R3S_2×B64)
ここで、R1U_0,R1U_1,R1U_2,R1S_0,R1S_1,R1S_2,R3U_0,R3U_1,R3U_2,R3S_0,R3S_1,R3S_2は、重み係数である。なお、重み係数中、文字Sは、AF画素よりも上方に位置することを示し、文字Uは、AF画素よりも下方に位置することを示している。
AF画素補間部40は、G色成分の撮像用画素の画素値を[数40]〜[数45]を用いて補正する。
[数40]
G14’=G14−(G3U_0×R33+G3U_1×G34+G3U_2×B24
[数41]
G23’=G23−(G2U_0×R33+G2U_1×G34+G2U_2×B24)
[数42]
G34’=G34−(G1U_0×R33+G1U_1×G34+G1U_2×B24)
[数43]
G54’=G54−(G1S_0×R53+G1S_1×G54+G1S_2×B64)
[数44]
G63’=G63−(G2S_0×R53+G2S_1×G54+G2S_2×B64)
[数45]
G74’=G74−(G3S_0×R53+G3S_1×G54+G3S_2×B64)
ここで、G1U_0,G1U_1,G1U_2,G1S_0,G1S_1,G1S_2,G2U_0,G2U_1,G2U_2,G2S_0,G2S_1,G2S_2,G3U_0,G3U_1,G3U_2,G3S_0,G3S_1,G3S_2は、重み係数である。
G14’=G14−(G3U_0×R33+G3U_1×G34+G3U_2×B24
[数41]
G23’=G23−(G2U_0×R33+G2U_1×G34+G2U_2×B24)
[数42]
G34’=G34−(G1U_0×R33+G1U_1×G34+G1U_2×B24)
[数43]
G54’=G54−(G1S_0×R53+G1S_1×G54+G1S_2×B64)
[数44]
G63’=G63−(G2S_0×R53+G2S_1×G54+G2S_2×B64)
[数45]
G74’=G74−(G3S_0×R53+G3S_1×G54+G3S_2×B64)
ここで、G1U_0,G1U_1,G1U_2,G1S_0,G1S_1,G1S_2,G2U_0,G2U_1,G2U_2,G2S_0,G2S_1,G2S_2,G3U_0,G3U_1,G3U_2,G3S_0,G3S_1,G3S_2は、重み係数である。
また、AF画素補間部40は、B色成分の撮像用画素の画素値を、[数46],[数47]を用いて補正する。
[数46]
B24’=B24−(B2U_0×R33+B2U_1×G34+B2U_2×B24)
[数47]
B64’=B64−(B2S_0×R53+B2S_1×G54+B2S_2×B64)
ここで、B2U_0,B2U_1,B2U_2,B2S_0,B2S_1,B2S_2は重み係数である。
B24’=B24−(B2U_0×R33+B2U_1×G34+B2U_2×B24)
[数47]
B64’=B64−(B2S_0×R53+B2S_1×G54+B2S_2×B64)
ここで、B2U_0,B2U_1,B2U_2,B2S_0,B2S_1,B2S_2は重み係数である。
(隣接するAF画素値を用いたクリップ量の算出)
AF画素補間部40は、隣接するAF画素X43,Y44(図2で説明したセンサ開口部36a,36bをもつAF画素)の画素値を読み出し、[数48]を用いてクリップ量th_LPFを求める(S−32)。
AF画素補間部40は、隣接するAF画素X43,Y44(図2で説明したセンサ開口部36a,36bをもつAF画素)の画素値を読み出し、[数48]を用いてクリップ量th_LPFを求める(S−32)。
[数48]
th_LPF=(X43+Y44)×K_TH_LPF
ここで、K_TH_LPFは係数であり、例えば「127」程度の大きな値が適用される。この係数K_TH_LPFは、その値が大きいほど平滑化処理の効果が高くなる。
th_LPF=(X43+Y44)×K_TH_LPF
ここで、K_TH_LPFは係数であり、例えば「127」程度の大きな値が適用される。この係数K_TH_LPFは、その値が大きいほど平滑化処理の効果が高くなる。
(色成分毎の予測誤差を算出)
AF画素補間部40は、[数49]、[数50]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−33)。
AF画素補間部40は、[数49]、[数50]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−33)。
[数49]
deltaRU=R13’−R33’
deltaRS=R73’−R53’
[数50]
deltaGU=G14’−G34’
deltaGS=G74’−R54’
(予測誤差がクリップ範囲から越えているか否かを判定)
AF画素補間部40は、[数49]、[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−34)。
deltaRU=R13’−R33’
deltaRS=R73’−R53’
[数50]
deltaGU=G14’−G34’
deltaGS=G74’−R54’
(予測誤差がクリップ範囲から越えているか否かを判定)
AF画素補間部40は、[数49]、[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−34)。
(クリップ処理)
AF画素補間部40は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−35)。ここで、クリップ処理とは、クリップ範囲から外れている予測誤差の値をクリップ範囲に含まれるようにクリッピングすることである。
AF画素補間部40は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−35)。ここで、クリップ処理とは、クリップ範囲から外れている予測誤差の値をクリップ範囲に含まれるようにクリッピングすることである。
(近位撮像用画素値に予測誤差を加算)
AF画素補間部40は、[数51]により、予測誤差を各列の近位撮像用画素値に加算する(S−36)。ここで、予測誤差は、[数49],[数50]により求めた値、又は、クリッピングされた値である。
AF画素補間部40は、[数51]により、予測誤差を各列の近位撮像用画素値に加算する(S−36)。ここで、予測誤差は、[数49],[数50]により求めた値、又は、クリッピングされた値である。
[数51]
R33”=R33’+deltaRU
R53”=R53’+deltaRS
G34”=G34’+deltaGU
G54”=G54’+deltaGS
これにより、AF画素列の周囲の撮像用画素の画素値である、遠位撮像用画素及び近位撮像用画素の画素値がそれぞれ補正され、さらに、予測誤差を用いて近位撮像用画素の画素値が補正される。
R33”=R33’+deltaRU
R53”=R53’+deltaRS
G34”=G34’+deltaGU
G54”=G54’+deltaGS
これにより、AF画素列の周囲の撮像用画素の画素値である、遠位撮像用画素及び近位撮像用画素の画素値がそれぞれ補正され、さらに、予測誤差を用いて近位撮像用画素の画素値が補正される。
(補正した撮像用画素値をSDRAMに記憶)
AF画素補間部40は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−37)。
AF画素補間部40は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−37)。
(2回目の処理)
1回目の処理が実行されると、2回目の処理が実行される。
1回目の処理が実行されると、2回目の処理が実行される。
(AF画素列の周囲の撮像用画素値を重み係数により補正)
AF画素補間部40は、1回目の処理により補正された撮像用画素の画素値を用いて、これら撮影用が素の画素値が閾値MAX_RAW以上となるか否かを判定する。この判定結果に基づいて、設定された重み係数を用いて補正する(S−38)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値であり、1回目の処理(S−31)と同一の値が用いられる。
AF画素補間部40は、1回目の処理により補正された撮像用画素の画素値を用いて、これら撮影用が素の画素値が閾値MAX_RAW以上となるか否かを判定する。この判定結果に基づいて、設定された重み係数を用いて補正する(S−38)。ここで、閾値MAX_RAWは、画素値が飽和しているか否かを判定するための閾値であり、1回目の処理(S−31)と同一の値が用いられる。
AF画素補間部40は、撮像用画素の画素値が閾値MAX_RAW以上となる場合に、撮像用画素値に対して補正は行わない。AF画素補間部40は、撮像用画素の画素値が閾値MAX_RAW未満となる場合に、上述した[数36]〜[数47]における全ての重み係数を「0」に変えて補正する。つまり、この処理を行った場合、AF画素列の周囲に配置された撮像用画素の画素値は、元の値のままである。
[隣接するAF画素値を用いたクリップ量の算出]
AF画素補間部40は、隣接するAF画素X43,Y44の画素値を読み出し、上述した[数48]を用いてクリップ量th_LPFを求める(S−39)。ここで、K_TH_LPFの値は1回目の処理と同一の値が用いられる。
[隣接するAF画素値を用いたクリップ量の算出]
AF画素補間部40は、隣接するAF画素X43,Y44の画素値を読み出し、上述した[数48]を用いてクリップ量th_LPFを求める(S−39)。ここで、K_TH_LPFの値は1回目の処理と同一の値が用いられる。
(色成分毎の予測誤差を算出)
AF画素補間部40は、上述した[数47]、[数48]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−40)。
AF画素補間部40は、上述した[数47]、[数48]を用いて、同一列に配置された同一の色成分となる撮像用画素のうち、AF画素から遠い位置にある撮像用画素(遠位撮像用画素)の画素値と、AF画素から近い位置にある撮像用画素(近位撮像用画素)の画素値との差分を予測誤差として算出する(S−40)。
(予測誤差がクリップ範囲から越えているか否かを判定)
AF画素補間部40は、上述した[数49],[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−41)。
AF画素補間部40は、上述した[数49],[数50]により求めた予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSの各値が、[数48]にて求めたクリップ量に基づいたクリップ範囲(−th_LPF〜th_LPF)に含まれている否かを判定する(S−41)。
(クリップ処理)
AF画素補間部40は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−42)。
AF画素補間部40は、予測誤差deltaRU,deltaRS、deltaGU及びdeltaGSのうち、クリップ範囲から外れている予測誤差に対して、クリップ処理を行う(S−42)。
(近位撮像用画素値に予測誤差を加算)
AF画素補間部40は、上述した[数51]を用いて、各列の近位撮像用画素値に加算する(S−43)。これにより、2回目の処理においては、近位撮像用画素値が予測誤差を用いて、さらに補正される。
AF画素補間部40は、上述した[数51]を用いて、各列の近位撮像用画素値に加算する(S−43)。これにより、2回目の処理においては、近位撮像用画素値が予測誤差を用いて、さらに補正される。
(補正した撮像用画素値をSDRAMに記憶)
AF画素補間部40は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−44)。
AF画素補間部40は、重み係数により補正された遠位撮像用画素と、予測誤差により補正された近位撮像用画素とを、SDRAM23に記憶する(S−44)。
このように、第3画素補間処理においては、上述した補正処理が2回繰り返し実行される。この補正処理が2回繰り返し実行された後、第2画素補間処理が実行される。
(第2画素補間処理)
AF画素補間部40は、SDRAM23に記憶した撮像用画素値を用いて、上述した第2画素補間処理を実行する(S−45)。これにより、AF画素に対応する撮像用画素値が算出される。つまり、AF画素値が補間される。
AF画素補間部40は、SDRAM23に記憶した撮像用画素値を用いて、上述した第2画素補間処理を実行する(S−45)。これにより、AF画素に対応する撮像用画素値が算出される。つまり、AF画素値が補間される。
(補間したAF画素の画素値をSDRAMに記憶)
AF画素補間部40は、第2画素補間処理(S−46)により補間したAF画素値をSDRAM23に記憶する。
AF画素補間部40は、第2画素補間処理(S−46)により補間したAF画素値をSDRAM23に記憶する。
上記実施形態によれば、撮影レンズがもつレンズ条件毎に対応付けしてパラメータを記述したテーブルを記憶するテーブル記憶手段を備えたから、レンズ条件ごとに、最適な撮像用画素の補間を行なうことができる。
なお、上記実施形態では、AF画素の配列方向を水平走査方向としたが、本発明はこれに限定されず、AF画素は垂直走査方向又はその他の方向に配列されていても良い。
また、上記各実施形態では、AF画素の各々は左側又は右側からの光束を瞳分割する焦点検出画素としたが、本発明はこれに限定されず、AF画素の各々は左側及び右側からの光束を瞳分割する画素を有する焦点検出画素でも良い。
さらに、上記各実施形態では、本発明を電子カメラ10として説明しているが、カメラ付き携帯電話やスマートフォン等の撮像装置としてもよい。また、テーブル記憶手段としては、不揮発性メモリ12の代わりに、外部から着脱自在に交換可能なカードメモリとしてもよい。
さらにまた、本発明では、AF画素補間処理を含む画像処理装置、及び我層処理装置における処理をコンピュータで実現するためのプログラムに対しても適用可能である。この場合、2次元状に配列された複数の撮像用画素、及び撮像用画素群の中に配された複数の焦点検出用画素を有する撮像素子を用いて撮像することで得られたベイヤー配列画像を取り込む画像取得手段と、撮像時に使用した撮像素子がもつ複数の焦点検出用画素の位置情報を取得するAF画素位置取得手段と、を備えればよい。
10 電子カメラ
12 不揮発性メモリ
15 撮像素子
30 レンズ情報入力部
32 撮像素子情報入力部
36 AF画素
40 AF画素補間部
12 不揮発性メモリ
15 撮像素子
30 レンズ情報入力部
32 撮像素子情報入力部
36 AF画素
40 AF画素補間部
Claims (11)
- 複数の撮像用画素、及び複数の焦点検出用画素を有し撮影レンズにより結像する被写体像を撮像する撮像素子と、
前記焦点検出用画素の位置を各々記憶するAF画素位置記憶手段と、
前記焦点検出用画素の画素値をその周囲の撮像用画素の画素値を用いて補間する時に使用するパラメータが、前記撮影レンズがもつレンズ条件毎に対応付けして記述されているテーブルを記憶するテーブル記憶手段と、
撮影時のレンズ条件に基づいて前記テーブルから前記パラメータを決めるパラメータ決定手段と、
前記パラメータ決定手段で決めたパラメータを用いて焦点検出用画素の位置に対する撮像用画素の画素値を補間する画素補間手段と、
を備えることを特徴とする撮像装置。 - 請求項1記載の撮像装置において、
テーブル記憶手段は、分光感度特性の異なる前記撮像素子の種類毎に前記テーブルを複数記憶しており、
前記複数のテーブルから前記撮像素子の種類に応じたテーブルを選択するテーブル選択手段を備えることを特徴とする撮像装置。 - 請求項1又は2記載の撮像装置において、
前記テーブル記憶手段は、特定のレンズ条件の時に使用する基準のパラメータを記述した基準テーブルと、他のレンズ条件の時に使用するパラメータと前記基準のパラメータとの差分を記述した差分テーブルとを関連付けした構成のテーブルを記憶しており、
前記パラメータ決定手段は、撮影時のレンズ条件が前記特定のレンズ条件ではない場合、前記撮影時のレンズ条件に応じた差分を前記差分テーブルから求め、求めた差分と前記基準のパラメータとを演算して前記撮影時のレンズ条件に応じたパラメータを算出して決めることを特徴とする撮像装置。 - 請求項3に記載の撮像装置において、
前記テーブル記憶手段は、前記基本テーブルと前記差分テーブルとを色成分毎に関連付けして記憶することを特徴とする撮像装置。 - 複数の撮像用画素、及び複数の焦点検出用画素を有し撮影レンズにより結像する被写体像を撮像する撮像素子を備えた撮像装置の製造方法において、
前記焦点検出用画素の画素値をその周囲の撮像用画素の画素値を用いて補間するときに使用するパラメータを、前記撮影レンズの所定のレンズ条件下のもとで実験した結果、基準のパラメータとして取得し、取得した前記基準のパラメータを前記所定のレンズ条件に対応付けして記述した基準テーブルと、他のレンズ条件下のもとで実験した結果得られるパラメータと前記基準のパラメータとの差分を前記他のレンズ条件に対応付けして記述した差分テーブルと、を作成するテーブル作成ステップと、
作成した前記基準テーブルと差分テーブルとを関連付けして該撮像装置に設けた記憶部に記憶させるステップと、
を含むことを特徴とする撮像装置の製造方法。 - 請求項5に記載の撮像装置の製造方法において、
前記テーブル作成ステップは、前記基準のテーブルと差分テーブルとを、分光感度特性が異なる撮像素子の種類に応じて複数作成することを特徴とする撮像装置の製造方法。 - 2次元状に配列された複数の撮像用画素、及び前記撮像用画素群の中に配された複数の焦点検出用画素を有する撮像素子を用いて撮像することで得られた画像を取り込む画像取得手段と、
前記撮像時に使用した撮像素子がもつ前記複数の焦点検出用画素の位置情報を取得するAF画素位置取得手段と、
前記撮像素子を用いて撮像した時に使用したレンズ条件を取得するレンズ条件取得手段と、
前記焦点検出用画素の周囲に配されている複数の撮像用画素の画素値を用いて前記焦点検出用画素の位置に対応する撮像用画素の画素値を補間するためのパラメータを、前記ベイヤー配列画像を撮影時に使用した撮影レンズがもつレンズ条件毎に決めたテーブルを記憶するテーブル記憶手段と、
レンズ条件に応じて前記テーブルから前記パラメータを決定するパラメータ決定手段と、
前記決定したパラメータを用いて前記焦点検出用画素の位置に対応する撮像用画素の画素値を補間する補間処理手段と、
を備えていることを特徴とする画像処理装置。 - 請求項7記載の画像処理装置において、
前記テーブル記憶手段は、特定のレンズ条件の時に使用する基準のパラメータを記述した基準テーブルと、他のレンズ条件の時に使用するパラメータと前記基準のパラメータとの差分を記述した差分テーブルとを関連付けした構成のテーブルを記憶しており、
前記パラメータ決定手段は、撮影時のレンズ条件が前記特定のレンズ条件ではない場合、前記撮影時のレンズ条件に応じた差分を前記差分テーブルから求め、求めた差分と前記基準のパラメータとを演算して前記撮影時のレンズ条件に応じたパラメータを算出して決めることを特徴とする画像処理装置。 - 請求項8に記載の画像処理装置において、
前記テーブル記憶手段は、前記基本テーブルと前記差分テーブルとを色成分毎に関連付けして記憶することを特徴とする画像処理装置。 - 2次元状に配列された複数の撮像用画素、及び前記撮像用画素群の中に配された複数の焦点検出用画素を有する撮像素子を用いて撮像することで得られた画像を取り込む画像取得ステップと、
前記撮像時に使用した撮像素子がもつ前記複数の焦点検出用画素の位置情報を取得するAF画素位置取得ステップと、
前記撮像素子を用いて撮像した時に使用したレンズ条件を取得するレンズ条件取得ステップと、
前記焦点検出用画素の周囲に配されている複数の撮像用画素の画素値を用いて前記焦点検出用画素の位置に対応する撮像用画素の画素値を補間するためのパラメータを、前記ベイヤー配列画像を撮影時に使用した撮影レンズがもつレンズ条件毎に決めたテーブルを記憶するテーブル記憶ステップと、
レンズ条件に応じて前記テーブルから前記パラメータを決定するパラメータ決定ステップと、
前記決定したパラメータを用いて前記焦点検出用画素の位置に対応する撮像用画素の画素値を補間する補間処理ステップと、
をコンピュータに実行させるためのプログラム。 - 請求項10に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011145706A JP2013013006A (ja) | 2011-06-30 | 2011-06-30 | 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011145706A JP2013013006A (ja) | 2011-06-30 | 2011-06-30 | 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013013006A true JP2013013006A (ja) | 2013-01-17 |
Family
ID=47686489
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011145706A Pending JP2013013006A (ja) | 2011-06-30 | 2011-06-30 | 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013013006A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016076998A (ja) * | 2013-03-13 | 2016-05-12 | 富士フイルム株式会社 | 撮像装置、信号処理方法、信号処理プログラム |
US10819900B2 (en) | 2017-03-16 | 2020-10-27 | Fujifilm Corporation | Imaging element and imaging apparatus |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007282109A (ja) * | 2006-04-11 | 2007-10-25 | Nikon Corp | 撮像装置、カメラおよび画像処理方法 |
JP2010226395A (ja) * | 2009-03-23 | 2010-10-07 | Canon Inc | 撮像装置、その制御方法及びプログラム |
-
2011
- 2011-06-30 JP JP2011145706A patent/JP2013013006A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007282109A (ja) * | 2006-04-11 | 2007-10-25 | Nikon Corp | 撮像装置、カメラおよび画像処理方法 |
JP2010226395A (ja) * | 2009-03-23 | 2010-10-07 | Canon Inc | 撮像装置、その制御方法及びプログラム |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016076998A (ja) * | 2013-03-13 | 2016-05-12 | 富士フイルム株式会社 | 撮像装置、信号処理方法、信号処理プログラム |
US10819900B2 (en) | 2017-03-16 | 2020-10-27 | Fujifilm Corporation | Imaging element and imaging apparatus |
US11184523B2 (en) | 2017-03-16 | 2021-11-23 | Fujifilm Corporation | Imaging apparatus with phase difference detecting element |
US11496666B2 (en) | 2017-03-16 | 2022-11-08 | Fujifilm Corporation | Imaging apparatus with phase difference detecting element |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6040594B2 (ja) | 撮像装置、画像処理装置及び画像処理プログラム | |
JP5994778B2 (ja) | フレア判定装置、撮像装置及びフレア判定プログラム | |
KR101263888B1 (ko) | 화상처리장치 및 화상처리방법과 컴퓨터·프로그램 | |
JP5200955B2 (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
US6947080B2 (en) | Device for image processing, method of adjusting white-balance, and computer products | |
CN107018395B (zh) | 图像处理装置、图像处理方法和摄像装置 | |
US8542920B2 (en) | Image processing apparatus, image processing method, and program | |
JP2018196083A (ja) | 画像処理装置 | |
US9848115B2 (en) | Image capturing apparatus capable of adjusting optical characteristics of lens unit attachable thereto | |
JP2014036262A (ja) | 撮像装置 | |
JP5834542B2 (ja) | 撮像装置、画像処理装置、及びプログラム、並びに記録媒体 | |
JP5706705B2 (ja) | 画像処理装置およびその制御方法、ならびに撮像装置 | |
JP2001238129A (ja) | 画像処理装置、記録媒体 | |
US9143762B2 (en) | Camera module and image recording method | |
JP2013013006A (ja) | 撮像装置、撮像装置の製造方法、画像処理装置、及びプログラム、並びに記録媒体 | |
JP2013125046A (ja) | 撮像装置及びカメラシステム | |
JP4994158B2 (ja) | 画像補正装置 | |
JP6670844B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2014164236A (ja) | 撮像装置 | |
JP2013247597A (ja) | 画像処理装置、撮像装置及び画像処理プログラム | |
JP6459183B2 (ja) | 撮像装置 | |
JP2009022044A (ja) | 画像処理装置及び画像処理プログラム | |
JP5412945B2 (ja) | 撮像素子、画像処理装置、撮像装置及び画像処理プログラム | |
JP4321317B2 (ja) | 電子カメラ、カメラシステムおよび電子カメラの黒点補正方法 | |
JP2001238128A (ja) | 画像処理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140626 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150407 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20150804 |