JP2009258144A - 相関演算方法、相関演算装置、焦点検出装置および撮像装置 - Google Patents

Abstract

【課題】同一性が崩れた一対のデータ列の相関関係を演算する。
【解決手段】複数のデータＡ1,Ａ2,・・,Ａnを一次元上に配列した第１データ列Ａｎの中の複数の第１データＡn,Ａn+1のそれぞれと、複数のデータＢ1,Ｂ2,・・,Ｂnを一次元上に配列した第２データ列Ｂｎにおいて複数の第１データＡn,Ａn+1に対応する複数の第２データＢn+k,Ｂn+1+kのそれぞれとの積どうしの差を含む第１演算（Ａn・Ｂn+1+k−Ａn+1・Ｂn+k）により複数の第１データと複数の第２データとの相関値を求め、第１演算による相関値を、複数の第１データＡn,Ａn+1および複数の第２データＢn+k,Ｂn+1+kによって正規化する第２演算(Ｓqrt(Ａn^２＋Ａn+1^２)・Ｓqrt(Ｂn+k^２＋Ｂn+1+k^２)）を行う。
【選択図】図１６

Description

本発明は相関演算方法、相関演算装置、焦点検出装置および撮像装置に関する。

一対の信号データ列に相対的な歪みが生じて同一性が崩れている場合でも、一対の信号データ列の相関関係を演算可能にした相関演算方法が知られている（例えば、特許文献１参照）。

この出願の発明に関連する先行技術文献としては次のものがある。
特開２００７−３３３７２０号公報

しかしながら、従来の方法では、一対の信号データ列の内の一方の信号データ列の値と他方の信号データ列の値との差が大きいと相関演算結果の誤差が大きくなり、正確な相関関係を演算できないという問題がある。

（１） 請求項１の発明は、複数のデータを一次元上に配列した第１データ列の中の複数の第１データのそれぞれと、複数のデータを一次元上に配列した第２データ列において複数の第１データに対応する複数の第２データのそれぞれとの積どうしの差を含む第１演算により複数の第１データと複数の第２データとの相関値を求め、第１演算による相関値を、複数の第１データおよび複数の第２データによって正規化する第２演算を行う相関演算方法である。
（２） 請求項２の発明は、請求項１に記載の相関演算方法において、第１演算は、第１データ列中の局所的な位置の複数の第１データと第２データ列中の局所的な位置の複数の第２データとに基づいて局所的な相関値を求め、該局所的な相関値の絶対値を積算することによって複数の第１データと複数の第２データとの相関値を求める。
（３） 請求項３の発明は、請求項１または請求項２に記載の相関演算方法において、複数の第１データおよび複数の第２データはそれぞれＮ個あり、第１演算は、Ｎ個の第１データとＮ個の第２データをそれぞれＮ次元のベクトルの成分としてベクトルの外積演算を行う。
（４） 請求項４の発明は、請求項１または請求項２に記載の相関演算装置において、第１演算は、複数の第１データの１階以上の差分データと、複数の第２データの１階以上の差分データとの積を演算する。
（５） 請求項５の発明は、請求項１〜４のいずれか一項に記載の相関演算方法において、複数の第１データおよび複数の第２データはそれぞれＮ個あり、第２演算は、Ｎ個の第１データとＮ個の第２データを成分とするそれぞれＮ次元のベクトルの大きさにより、第１演算による相関値を正規化する。
（６） 請求項６の発明は、請求項１〜４のいずれか一項に記載の相関演算方法において、第２演算は、複数の第１データおよび複数の第２データを平均した値により第１演算による相関値を正規化する。
（７） 請求項７の発明は、請求項１〜６のいずれか一項に記載の相関演算方法において、第１演算は、第１データ列中の複数の第１データの位置および第２データ列中の複数の第２データの位置を変化させながら相関値を積算する。
（８） 請求項８の発明は、請求項１〜７のいずれか一項に記載の相関演算方法によって求めた複数の第１データと複数の第２データとの相関値を、第１データ列と第２データ列とをデータの配列方向に沿って変位量を相対的に変位させながら求めるとともに、求めた相関値の極値が得られる変位量を求める演算手段を備える相関演算装置である。
（９） 請求項９の発明は、結像光学系の瞳の異なる領域を通る一対の光束による像に対応する一対のデータ列を出力するデータ列出力手段と、請求項８に記載の相関演算装置と、一対のデー列に対して相関演算装置によって求めた変位量に基づいて結像光学系の焦点調節状態を検出する焦点検出手段とを備える焦点検出装置である。
（１０） 請求項１０の発明は、請求項９に記載の焦点検出装置と、結像光学系からの光束をマイクロレンズを介して受光する光電変換部を有する撮像用画素の配列中に、結像光学系の瞳の異なる領域を通る一対の光束をマイクロレンズを介して受光する光電変換部を有する焦点検出用画素を配列した撮像素子とを備え、データ出力手段は、焦点検出用画素で得られる信号に基づいて一対のデータ列を出力する。
（１１） 請求項１１の発明は、請求項１０に記載の撮像装置において、焦点検出用画素は、結像光学系の光軸に対応する撮像素子上の位置の周辺領域に配置され、データ列出力手段は、周辺領域に配置された焦点検出用画素で得られる信号に基づいて一対のデータ列を出力する。
（１２） 請求項１２の発明は、請求項１１に記載の撮像装置において、焦点検出用画素は、光軸に対応する撮像素子上の位置から放射方向に配列されている。

本発明によれば、同一性が崩れた一対のデータ列の相関関係を正確に演算することができる。

一実施の形態の撮像素子および撮像装置として、レンズ交換式デジタルスチルカメラを例に上げて説明する。図１は一実施の形態のカメラの構成を示すカメラの横断面図である。一実施の形態のデジタルスチルカメラ２０１は交換レンズ２０２とカメラボディ２０３から構成され、交換レンズ２０２がマウント部２０４を介してカメラボディ２０３に装着される。カメラボディ２０３にはマウント部２０４を介して種々の撮影光学系を有する交換レンズ２０２が装着可能である。

交換レンズ２０２はレンズ２０９、ズーミング用レンズ２０８、フォーカシング用レンズ２１０、絞り２１１、レンズ駆動制御装置２０６などを備えている。レンズ駆動制御装置２０６は不図示のマイクロコンピューター、メモリ、駆動制御回路などから構成され、フォーカシング用レンズ２１０の焦点調節と絞り２１１の開口径調節のための駆動制御や、ズーミング用レンズ２０８、フォーカシング用レンズ２１０および絞り２１１の状態検出などを行う他、後述するボディ駆動制御装置２１４との通信によりレンズ情報の送信とカメラ情報の受信を行う。絞り２１１は、光量およびボケ量調整のために光軸中心に開口径が可変な開口を形成する。

カメラボディ２０３は撮像素子２１２、ボディ駆動制御装置２１４、液晶表示素子駆動回路２１５、液晶表示素子２１６、接眼レンズ２１７、メモリカード２１９などを備えている。撮像素子２１２には、撮像画素が二次元状に配置されるとともに、焦点検出位置に対応した部分に焦点検出画素が組み込まれている。この撮像素子２１２については詳細を後述する。

ボディ駆動制御装置２１４はマイクロコンピューター、メモリ、駆動制御回路などから構成され、撮像素子２１２の駆動制御と画像信号および焦点検出信号の読み出しと、焦点検出信号に基づく焦点検出演算と交換レンズ２０２の焦点調節を繰り返し行うとともに、画像信号の処理と記録、カメラの動作制御などを行う。また、ボディ駆動制御装置２１４は電気接点２１３を介してレンズ駆動制御装置２０６と通信を行い、レンズ情報の受信とカメラ情報（デフォーカス量や絞り値など）の送信を行う。

液晶表示素子２１６は電気的なビューファインダー（ＥＶＦ：Electronic View Finder）として機能する。液晶表示素子駆動回路２１５は撮像素子２１２によるスルー画像を液晶表示素子２１６に表示し、撮影者は接眼レンズ２１７を介してスルー画像を観察することができる。メモリカード２１９は、撮像素子２１２により撮像された画像を記憶する画像ストレージである。

交換レンズ２０２を通過した光束により、撮像素子２１２の受光面上に被写体像が形成される。この被写体像は撮像素子２１２により光電変換され、画像信号と焦点検出信号がボディ駆動制御装置２１４へ送られる。

ボディ駆動制御装置２１４は、撮像素子２１２の焦点検出画素からの焦点検出信号に基づいてデフォーカス量を算出し、このデフォーカス量をレンズ駆動制御装置２０６へ送る。また、ボディ駆動制御装置２１４は、撮像素子２１２からの画像信号を処理して画像を生成し、メモリカード２１９に格納するとともに、撮像素子２１２からのスルー画像信号を液晶表示素子駆動回路２１５へ送り、スルー画像を液晶表示素子２１６に表示させる。さらに、ボディ駆動制御装置２１４は、レンズ駆動制御装置２０６へ絞り制御情報を送って絞り２１１の開口制御を行う。

レンズ駆動制御装置２０６は、フォーカシング状態、ズーミング状態、絞り設定状態、絞り開放Ｆ値などに応じてレンズ情報を更新する。具体的には、ズーミング用レンズ２０８とフォーカシング用レンズ２１０の位置と絞り２１１の絞り値を検出し、これらのレンズ位置と絞り値に応じてレンズ情報を演算したり、あるいは予め用意されたルックアップテーブルからレンズ位置と絞り値に応じたレンズ情報を選択する。

レンズ駆動制御装置２０６は、受信したデフォーカス量に基づいてレンズ駆動量を算出し、レンズ駆動量に応じてフォーカシング用レンズ２１０を合焦位置へ駆動する。また、レンズ駆動制御装置２０６は受信した絞り値に応じて絞り２１１を駆動する。

図２は、交換レンズ２０２の撮影画面上における焦点検出位置を示す図であり、後述する撮像素子２１２上の焦点検出画素列が焦点検出の際に撮影画面上で像をサンプリングする領域（焦点検出エリア、焦点検出位置）の一例を示す。この例では、矩形の撮影画面１００上の中央および上下の３箇所に焦点検出エリア１０１〜１０３が配置される。長方形で示す焦点検出エリアの長手方向に、焦点検出画素が直線的に配列される。

なお、詳細を後述するが、図２に示す焦点検出エリア１０１〜１０３おいて、画面周辺の焦点検出エリア１０２および１０３は画面中心から放射方向に沿って配置されており、画面中央の焦点検出エリア１０１に比べて焦点検出光束がケラレやすく、焦点検出エリア１０２、１０３で検出される一対の焦点検出信号データ列に相対的な歪みが生じて同一性が崩れる。しかし、この一実施の形態の相関演算方法によれば、このような一対の信号データ列に相対的な歪みが生じて同一性が崩れている場合でも、相関関係を正確に演算することができ、正確な焦点検出結果を得ることができる。

図３は撮像素子２１２の詳細な構成を示す正面図であり、撮像素子２１２上の焦点検出エリア１０１の近傍を拡大して示す。撮像素子２１２には撮像画素３１０が二次元正方格子状に稠密に配列されるとともに、焦点検出エリア１０１に対応する位置には焦点検出用の焦点検出画素３１３、３１４が垂直方向の直線上に隣接して交互に配列される。なお、図示を省略するが、焦点検出エリア１０２、１０３の近傍の構成も図３に示す構成と同様である。

撮像画素３１０は、図４に示すようにマイクロレンズ１０、光電変換部１１、および色フィルター（不図示）から構成される。色フィルターは赤（Ｒ）、緑（Ｇ）、青（Ｂ）の３種類からなり、それぞれの分光感度は図６に示す特性になっている。撮像素子２１２には、各色フィルターを備えた撮像画素３１０がベイヤー配列されている。

焦点検出画素３１３は、図５(ａ)に示すようにマイクロレンズ１０と光電変換部１３とから構成され、光電変換部１３の形状は半円形である。また、焦点検出画素３１４は、図５(ｂ)に示すようにマイクロレンズ１０と光電変換部１４とから構成され、光電変換部１４の形状は半円形である。焦点検出画素３１３と焦点検出画素３１４とをマイクロレンズ１０を重ね合わせて表示すると、光電変換部１３と１４が垂直方向に並んでいる。焦点検出画素３１３と焦点検出画素３１４は、焦点検出エリア１０１〜１０３において垂直方向（光電変換部１３と１４の並び方向）に交互に配置される。

焦点検出画素３１３、３１４には光量をかせぐために色フィルターが設けられておらず、その分光特性は光電変換を行うフォトダイオードの分光感度と、赤外カットフィルター（不図示）の分光特性とを総合した分光特性（図７参照）となる。つまり、図６に示す緑画素、赤画素および青画素の分光特性を加算したような分光特性となり、その感度の光波長領域は緑画素、赤画素および青画素の感度の光波長領域を包括している。

焦点検出用の焦点検出画素３１３、３１４は、撮像画素３１０のＢとＧが配置されるべき列に配置されている。焦点検出用の焦点検出画素３１３、３１４が、撮像画素３１０のＢとＧが配置されるべき列に配置されているのは、画素補間処理において補間誤差が生じた場合に、人間の視覚特性上、赤画素の補間誤差に比較して青画素の補間誤差が目立たないためである。

撮像画素３１０の光電変換部１１は、マイクロレンズ１０によって最も明るい交換レンズの射出瞳径（例えばＦ１．０）を通過する光束をすべて受光するような形状に設計される。また、焦点検出画素３１３、３１４の光電変換部１３、１４は、マイクロレンズ１０によって交換レンズの射出瞳の所定の領域（例えばＦ２．８）を通過する光束をすべて受光するような形状に設計される。

図８は撮像画素３１０の断面図である。撮像画素３１０では撮像用の光電変換部１１の前方にマイクロレンズ１０が配置され、マイクロレンズ１０により光電変換部１１の形状が前方に投影される。光電変換部１１は半導体回路基板２９上に形成される。なお、不図示の色フィルターはマイクロレンズ１０と光電変換部１１の中間に配置される。

図９(ａ)は焦点検出画素３１３の断面図である。画面中央の焦点検出エリア１０１に配置された焦点検出画素３１３において、光電変換部１３の前方にマイクロレンズ１０が配置され、マイクロレンズ１０により光電変換部１３の形状が前方に投影される。光電変換部１３は半導体回路基板２９上に形成されるとともに、その上にマイクロレンズ１０が半導体イメージセンサーの製造工程により一体的かつ固定的に形成される。なお、画面上下の焦点検出エリア１０２、１０３に配置された焦点検出画素３１３の断面構造についても、図９(ａ)に示す断面構造と同様である。

図９(ｂ)は焦点検出画素３１４の断面図である。画面中央の焦点検出エリア１０１に配置された焦点検出画素３１４において、光電変換部１４の前方にマイクロレンズ１０が配置され、マイクロレンズ１０により光電変換部１４の形状が前方に投影される。光電変換部１４は半導体回路基板２９上に形成されるとともに、その上にマイクロレンズ１０が半導体イメージセンサーの製造工程により一体的かつ固定的に形成される。なお、画面上下の焦点検出エリア１０２、１０３に配置された焦点検出画素３１４の断面構造についても、図９(ｂ)に示す断面構造と同様である。

図１０は、マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す。なお、焦点検出画素の部分は拡大して示す。図において、９０は、交換レンズ２０２（図１参照）の予定結像面に配置されたマイクロレンズから前方ｄの距離に設定された射出瞳である。この距離ｄは、マイクロレンズの曲率、屈折率、マイクロレンズと光電変換部との間の距離などに応じて決まる距離であって、この明細書では測距瞳距離と呼ぶ。９１は交換レンズの光軸、１０ａ〜１０ｄはマイクロレンズ、１３ａ、１３ｂ、１４ａ、１４ｂは光電変換部、３１３ａ、３１３ｂ、３１４ａ、３１４ｂは焦点検出画素、７３，７４、８３，８４は焦点検出光束である。

また、９３は、マイクロレンズ１０ａ、１０ｃにより投影された光電変換部１３ａ、１３ｂの領域であり、この明細書では測距瞳と呼ぶ。図１０では、説明を解りやすくするために楕円形の領域で示しているが、実際には光電変換部の形状が拡大投影された形状になる。同様に、９４は、マイクロレンズ１０ｂ、１０ｄにより投影された光電変換部１４ａ、１４ｂの領域であり、この明細書では測距瞳と呼ぶ。図１０では、説明を解りやすくするために楕円形の領域で示しているが、実際には光電変換部の形状が拡大投影された形状になる。

図１０では、撮影光軸に隣接する４つの焦点検出画素３１３ａ、３１３ｂ、３１４ａ、３１４ｂを模式的に例示しているが、焦点検出エリア１０１のその他の焦点検出画素においても、また画面周辺部の焦点検出エリア１０２、１０３の焦点検出画素においても、光電変換部はそれぞれ対応した測距瞳９３、９４から各マイクロレンズに到来する光束を受光するように構成されている。焦点検出画素の配列方向は一対の測距瞳の並び方向、すなわち一対の光電変換部の並び方向と一致させる。

マイクロレンズ１０ａ〜１０ｄは交換レンズ２０２（図１参照）の予定結像面近傍に配置されており、マイクロレンズ１０ａ〜１０ｄによりその背後に配置された光電変換部１３ａ、１３ｂ、１４ａ、１４ｂの形状がマイクロレンズ１０ａ〜１０ｃから測距瞳距離ｄだけ離間した射出瞳９０上に投影され、その投影形状は測距瞳９３，９４を形成する。すなわち、投影距離ｄにある射出瞳９０上で各焦点検出画素の光電変換部の投影形状（測距瞳９３，９４）が一致するように、各焦点検出画素におけるマイクロレンズと光電変換部の相対的位置関係が定められ、それにより各焦点検出画素における光電変換部の投影方向が決定されている。

光電変換部１３ａは測距瞳９３を通過し、マイクロレンズ１０ａに向う光束７３によりマイクロレンズ１０ａ上に形成される像の強度に対応した信号を出力する。同様に、光電変換部１３ｂは測距瞳９３を通過し、マイクロレンズ１０ｃに向う光束８３によりマイクロレンズ１０ｃ上に形成される像の強度に対応した信号を出力する。また、光電変換部１４ａは測距瞳９４を通過し、マイクロレンズ１０ｂに向う光束７４によりマイクロレンズ１０ｂ上に形成される像の強度に対応した信号を出力する。同様に、光電変換部１４ｂは測距瞳９４を通過し、マイクロレンズ１０ｄに向う光束８４によりマイクロレンズ１０ｄ上に形成される像の強度に対応した信号を出力する。

上述した２種類の焦点検出画素を直線状に多数配置し、各画素の光電変換部の出力を測距瞳９３および測距瞳９４に対応した出力グループにまとめることによって、測距瞳９３と測距瞳９４をそれぞれ通過する焦点検出用光束が画素列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理（相関演算処理、位相差検出処理）を施すことによって、いわゆる瞳分割型位相差検出方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に一対の測距瞳の重心間隔に応じた変換演算を行うことによって、予定結像面に対する現在の結像面（予定結像面上のマイクロレンズアレイの位置に対応した焦点検出位置における結像面）の偏差（デフォーカス量）が算出される。

図１１は、一実施の形態のデジタルスチルカメラ（撮像装置）の撮像動作を示すフローチャートである。ボディ駆動制御装置２１４は、ステップ１００でカメラの電源がオンされると、ステップ１１０以降の撮像動作を開始する。ステップ１１０において撮像画素のデータを間引き読み出しし、電子ビューファインダーに表示させる。続くステップ１２０では焦点検出画素列から一対の像に対応した一対の像データを読み出す。なお、焦点検出エリアは、撮影者が焦点検出エリア選択部材（不図示）を用いて焦点検出エリア１０１〜１０３の内のいずれかを予め選択しているものとする。

ステップ１３０では読み出された一対の像データに基づいて後述する像ズレ検出演算処理（相関演算処理）を行い、像ズレ量を演算してデフォーカス量に変換する。ステップ１４０で合焦近傍か否か、すなわち算出されたデフォーカス量の絶対値が所定値以内であるか否かを調べる。合焦近傍でないと判定された場合はステップ１５０へ進み、デフォーカス量をレンズ駆動制御装置２０６へ送信し、交換レンズ２０２のフォーカシングレンズ２１０を合焦位置に駆動させる。その後、ステップ１１０へ戻って上述した動作を繰り返す。

なお、焦点検出不能な場合もこのステップに分岐し、レンズ駆動制御装置２０６へスキャン駆動命令を送信し、交換レンズ２０２のフォーカシングレンズ２１０を無限から至近までの間でスキャン駆動させる。その後、ステップ１１０へ戻って上述した動作を繰り返す。

ステップ１４０で合焦近傍であると判定された場合はステップ１６０へ進み、シャッターボタン（不図示）の操作によりシャッターレリーズがなされたか否かを判別する。シャッターレリーズがなされていないと判定された場合はステップ１１０へ戻り、上述した動作を繰り返す。一方、シャッターレリーズがなされたと判定された場合はステップ１７０へ進み、レンズ駆動制御装置２０６へ絞り調整命令を送信し、交換レンズ２０２の絞り値を制御Ｆ値（撮影者または自動により設定されたＦ値）にする。絞り制御が終了した時点で、撮像素子２１２に撮像動作を行わせ、撮像素子２１２の撮像画素３１０および全ての焦点検出画素３１３，３１４から画像データを読み出す。

ステップ１８０において、焦点検出画素列の各画素位置の画素データを焦点検出画素の周囲の撮像画素のデータに基づいて画素補間する。続くステップ１９０では、撮像画素のデータおよび補間されたデータからなる画像データをメモリーカード２１９に記憶し、ステップ１１０へ戻って上述した動作を繰り返す。

図１２は、図１１のステップ１３０における焦点検出演算処理の詳細を示す示すフローチャートである。ボディ駆動制御装置２１４は、ステップ２００からこの焦点検出演算処理（相関演算処理）を開始する。

ステップ２１０において、 焦点検出画素列から出力される一対のデータ列（α1〜αM、β1〜βM：Ｍはデータ数）に対して（１）式に示すような高周波カットフィルター処理を施し、第１信号データ列（Ａ1〜ＡN）と第２信号データ列（Ｂ1〜ＢN）を生成する。これにより、信号データ列（以下、単にデータ列という）から相関処理に悪影響を及ぼすノイズ成分や高周波成分を除去することができる。なお、演算時間の短縮を図る場合や、すでに大きくデフォーカスしていて高周波成分が少ないことがわかっている場合などには、ステップ２１０の処理を省略することもできる。
Ａn＝αn＋２・αn+1＋αn+2，
Ｂn＝βn＋２・βn+1＋βn+2 ・・・（１）
（１）式において、ｎ＝１〜Ｎである。

データ列Ａn、Ｂnは、理想的には同一データ列を相対的にシフトしたものとなるはずであるが、上述した瞳分割方式の焦点検出画素で得られる一対のデータ列では、焦点検出光束のケラレ（口径蝕）により、同一性が崩れている。

図１３は、焦点検出光束のケラレ（口径蝕）を説明するための図である。図において、位置ｘ０（像高０）と位置ｘ１（像高ｈ）にある一対の焦点検出画素は、それぞれ予定焦点面９２の前方ｄにある測距瞳面９０において測距瞳領域９３、９４を通過する一対の焦点検出光束５３，５４および６３、６４を受光するように構成されている。予定焦点面９２の前方ｄ１（＜ｄ）の面９５に光学系の絞り開口９６がある場合には、位置ｘ０（像高０）にある一対の焦点検出画素が受光する一対の焦点検出光束５３，５４は、絞り開口９６により光軸９１に対して対称に口径蝕が発生するため、一対の焦点検出画素が受光する光量のバランスは崩れない。

これに対し、位置ｘ１（像高ｈ）にある一対の焦点検出画素が受光する一対の焦点検出光束６３，６４は、絞り開口９６によって非対称に口径蝕が発生するために、一対の焦点検出画素が受光する光量のバランスは崩れてしまう。

図１４は、予定焦点面９２から光軸９１の方向に測距瞳面９０を見た場合の図である。焦点検出光束６４は絞り開口９６により大きく口径蝕が発生しているのに対し、焦点検出光束６３は絞り開口９６による口径蝕の発生が少ないことがわかる。

図１５(ａ)、(ｂ)は、図１３および図１４の状態において位置ｘ０（像高０）の近傍の焦点検出画素列が受光する一対の像と、位置ｘ１（像高ｈ）の近傍の焦点検出画素列が受光する一対の像の強度分布（縦軸は光量、横軸は撮影画面上の位置）を示したものである。焦点検出光束の口径蝕のバランスがとれている場合には、図１５(ａ)に示すように、一対の像信号４００，４０１は同一の像信号関数が単に横方向にシフトしたものとなっている。これに対し、焦点検出光束の口径蝕のバランスが崩れている場合には、図１５(ｂ)に示すように、一対の像信号４０２，４０３は同一の信号を相対的にシフトしたものにはならない。

このように、一対の信号データ列に相対的な歪みが生じて同一性が崩れている場合に、従来の相関演算方法では一対の信号データ列の相関関係を正確に演算することができない。特に従来の方法では、一対の信号データ列の内の一方の信号データ列の値が他方の信号データ列に比べて小さいほど、相関演算結果の誤差が大きくなり、正確な相関関係を演算できない。これについて以下に説明する。

従来の相関演算方法においては、局所的な相関量を求める演算（Ａn・Ｂn+1+k−Ａn+1・Ｂn+k）の値は、二つのデータペア(Ａn,Ｂn+1)と(Ｂn+k,Ｂn+1+k)の間の相関が高いほど、０に近い値になるように設定されている。しかし、局所的相関量の値は演算に用いるデータＡn、Ｂn+1+k、Ｂn+k、Ａn+1の大きさに応じて変化する。

例えば、二つのデータペア(Ａn、Ａn+1)と(Ｂn+k,Ｂn+1+k)の間の局所的相関量の値と、二つのデータペア(Ａn,Ａn+1)と(Ｂn+k／２,Ｂn+1+k／２)の間の局所的相関量の値は、本来同程度になるはずであるが、これらのデータペアの局所的相関量の値は後者のデータペアの方が小さな値となり、前者のデータペアよりも相関度が高い結果になる。また、二つのデータペア(Ａn、Ａn+1)と(Ｂn+k,Ｂn+1+k)の内の一方が極端に小さな値の場合、例えば一方が画像の暗部分に対応する信号データ列の場合には、二つのデータペアどうしの局所的相関量も小さい値になり、高い相関があるという結果になる。

このため、相関量Ｃ(k)に基づいて算出した一対の信号データ列間の相対的な偏位量に誤差が生じたり、偽りの相関量Ｃ(k)の極小値に基づいて間違った相対的な偏位量を算出することになる。この一実施の形態は、このような従来の相関演算方法の問題を解決し、同一性が崩れている一対の信号データ列に対しても正確なシフト量を算出する。

一実施の形態では、例えば焦点検出光束の口径蝕により同一性が崩れた一対の像信号に対応する一対の信号データ列（第１データ列、第２データ列）に対して以下の相関演算を行い、一対の像信号間の像ズレ量を検出する。図１２のステップ２２０において、まず、第１データ列（Ａ1〜ＡN）に対して第２データ列（Ｂ1〜ＢN）を相対的にシフト（シフト量ｋ）させて相関量を演算するにあたり、（２）式によりデータＡnおよびＢn+kの近傍のデータを用いてデータＡnおよびＢn+kの近傍の局所的相関量Ｐ(n)を演算する。
Ｐ(n)＝（Ａn・Ｂn+d+k−Ａn+d・Ｂn+k）／（Ｓqrt（Ａn^２＋Ａn+d^２）・Ｓqrt（Ｂn+k^２＋Ｂn+d+k^２）） ・・・（２）
（２）式において、ｄは整数定数（＝１，２，・・）であり、Ｓqrt()は平方根を表す。

（２）式において、局所的相関量Ｐ(n)はデータＡn、Ａn+dを成分とした２次元ベクトルとデータＢn+k、Ｂn+d+kを成分とした２次元ベクトルとの外積を、各ベクトルの大きさで正規化した量となっており、２つのベクトルの方向の違いが少ないほど小さな値となり、ベクトルの大きさには依存しない量になっている。このような処理を行うことによって、ベクトルの大きさが小さい場合の相関演算による誤差を減少させることができる。なお、（２）式の分母が０になると（２）式が発散してしまうので、分母が０となる場合にはＰ(n)＝０とすることができる。

（２）式の局所的相関量Ｐ(n)の絶対値をとり、さらにデータの位置ｎを所定区間（例えばｎ＝ｐ〜ｑ）に亘って積算したものが、（３）式に示す一対のデータ列間のシフト量ｋにおける相関量Ｃ(k)である。この相関量Ｃ(k)は、一対の像信号間の同一性が崩れている場合でも、同一性が崩れる前の像信号が一致するシフト量ｋにおいて極小値を取る。
Ｃ(k)＝Σ｜Ｐ(n)｜＝Σ｜(Ａn・Ｂn+d+k−Ａn+d・Ｂn+k)／（Ｓqrt(Ａn^２＋Ａn+d^２)・Ｓqrt(Ｂn+k^２＋Ｂn+d+k^２)）｜ ・・・（３）

図１６に、ｄ＝１とした場合の上記相関量Ｃ(k)の演算と一対のデータ列（Ａ1〜ＡN、Ｂ1〜ＢN）との関係を図式化して示す。

ステップ２３０において、（３）式の演算結果は、図１７(ａ)に示すように、一対のデータの相関が高いシフト量（図１７(ａ)ではｋ＝ｋj＝２）において相関量Ｃ(k)が最小（小さいほど相関度が高い）になる。（４）式〜（７）式による３点内挿の手法を用いて、連続的な相関量に対する最小値Ｃ(ｘ)を与えるシフト量ｘを求める。
ｘ＝ｋj＋Ｄ／ＳＬＯＰ ・・・（４），
Ｃ(ｘ)＝ Ｃ（ｋj）−｜Ｄ｜ ・・・（５），
Ｄ＝｛Ｃ（ｋj-1）−Ｃ（ｋj+1）｝／２ ・・・（６），
ＳＬＯＰ＝ＭＡＸ｛Ｃ（ｋj+1）−Ｃ（ｋj），Ｃ（ｋj-1）−Ｃ（ｋj）｝ ・・・（７）

例えば図１８に示すような同一性の崩れたサイン波形の一対の像データ列Ｆ(ｘ)、Ｇ(ｘ)に対し、上述した従来の相関演算方法を適用した場合には、相関量Ｃ(k)が図１９に示すようなグラフとなり、（３）式に示す相関演算（ｄ＝１）を適用して相関量Ｃ(k)を求めると図２０に示すようなグラフとなる。なお、図１９および図２０において、横軸がシフト量ｋ、縦軸が演算結果（相関量）である。

上述したように、相関量Ｃ(k)の最小値および相関量Ｃ(k)の最小値を与えるシフト量ｋ、並びにその前後のシフト量における相関量に基づいて、データ間隔以下の精度でシフト量を内挿して求める。この際、相関グラフの傾きが最小相関量の左右で略等しいという仮定を用いて内挿しているため、（３）式に示す相関演算で求めた相関量Ｃ(k)のグラフ（図２０参照）のように、最小相関量の左右のグラフ形状が略等しくなるほうが内挿して求めたシフト量の精度が向上する。

図２１は、図１８に示すサイン波形の一対の像データ列を±１画素の範囲において０．１画素単位で相対的にずらした場合に、横軸を像ズレ量、縦軸を像ズレ量の演算結果で示したグラフである。図において、＊が（３）式による結果、■が従来の相関演算（＝正規化なし）の結果である。誤差がない場合には、原点（０，０）を通り傾き１の直線になるはずである。また、図２２は横軸を像ズレ量、縦軸を誤差量（真の像ズレ量に対する誤差量）で示したグラフであり、＊が（３）式による誤差、■が従来の相関演算による誤差である。この図から明らかなように、一実施の形態の（３）式による相関演算のほうが高精度である。

ステップ２４０では、（４）式で求めたシフト量ｘを用いて被写体像面の予定結像面に対するデフォーカス量ＤＥＦを次式により求めることができる。
ＤＥＦ＝ＫＸ・ＰＹ・ｘ ・・・（８）
（８）式において、ＰＹは検出ピッチであり、ＫＸは一対の測距瞳の重心の開き角の大きさによって決まる変換係数である。

算出されたデフォーカス量ＤＥＦの信頼性があるかどうかは、以下のようにして判定される。図１７(ｂ)に示すように、一対のデータの相関度が低い場合は、内挿された相関量の最小値Ｃ(ｘ)の値が大きくなる。したがって、Ｃ(ｘ)が所定値以上の場合は信頼性が低いと判定する。あるいは、Ｃ(ｘ)をデータのコントラストで規格化するために、コントラストに比例した値となるＳＬＯＰでＣ(ｘ)を除した値が所定値以上の場合は信頼性が低いと判定する。あるいはまた、コントラストに比例した値となるＳＬＯＰが所定値以下の場合は、被写体が低コントラストであり、算出されたデフォーカス量ＤＥＦの信頼性が低いと判定する。図１７(ｃ)に示すように、一対のデータの相関度が低く、シフト範囲ｋmin〜ｋmaxの間で相関量Ｃ(k)の落ち込みがない場合は、最小値Ｃ(ｘ)を求めることができず、このような場合は焦点検出不能と判定する。焦点検出が可能であった場合には算出された像ズレ量に所定の変換係数を乗じてデフォーカス量を算出する。

ステップ２５０で、焦点検出演算処理（相関演算処理）を終了して図１１のステップ１４０へリターンする。

《発明の他の一実施の形態》
上述した一実施の形態の相関演算式（２）式においては、一対のデータ列の内の一方のデータ列のデータＡn、Ａn+kを成分とした２次元ベクトルと、他方のデータ列のデータＢn+k、Ｂn+d+kを成分とした２次元ベクトルとの外積（第１演算）を、各ベクトルの大きさで正規化（第２演算）して局所的相関量Ｐ(n)を算出する例を示した。局所的相関量Ｐ(n)を求める第１演算と第２演算は上述した一実施の形態の相関演算方法に限定されるものではなく、以下に示す他の相関演算方法を用いてもよい。

局所的相関量Ｐ(n)を求めるのに使用される第１演算としては、一対のデータ列の内の一方のデータ列における複数のデータと、他方のデータ列における複数のデータとの間において相関を求める演算であればよく、少なくともデータ間の減算および乗算を含んでいる。

《相関演算方法１》
（９）式は、データＡn、Ａn+d、Ａn+2dを成分とした３次元ベクトルと、データＢn+k、Ｂn+d+k、Ｂn+2d+kを成分とした３次元ベクトルとの外積で生成されるべクトルの大きさを第１演算とした相関演算方法である。
Ｐ(n)＝（(Ａn・Ｂn+d+k−Ａn+d・Ｂn+k)^２＋(Ａn・Ｂn+2d+k−Ａn+2d・Ｂn+k)^２＋(Ａn+2d・Ｂn+d+k−Ａn+d・Ｂn+2d+k)^２）／（(Ａn^２＋Ａn+d^２＋Ａn+2d^２）・(Ｂn+k^２＋Ｂn+d+k^２＋Ｂn+2d+k^２)） ・・・（９）

《相関演算方法２》
（１０）式は、データＡn、Ａn+dの１階差分と、データＢn+k、Ｂn+d+kの１階差分の内積の符号を反転したものを第１演算とした相関演算方法である。
Ｐ(n)＝−（Ａn−Ａn+d）・（Ｂn+k−Ｂn+d+k）／（Ｓqrt(Ａn^２＋Ａn+d^２)・Ｓqrt(Ｂn+k^２＋Ｂn+d+k^２)） ・・・（１０）

このように、第１演算としては、同一性が崩れた一対の像信号の像ズレ量の算出が可能な演算を適用することができる。例えば、データの２階差分を用いた内積演算などを適用することができる。

一方、第２演算としては、第１演算に用いるデータを用いて第１演算の値を略正規化できる演算を適用することができる。

《相関演算方法３》
（１１）式は、２つのデータの内積演算を第２演算とした相関演算方法である。
Ｐ(n)＝（Ａn・Ｂn+d+k−Ａn+d・Ｂn+k）／（Ａn・Ｂn+k＋Ａn+d・Ｂn+d+k） ・・・（１１）

《相関演算方法４》
（１２）式は、２つのデータの和の積を第２演算とした相関演算方法である。
Ｐ(n)＝（Ａn・Ｂn+d+k−Ａn+d・Ｂn+k）／｛（Ａn＋Ａn+d）・（Ｂn+k＋Ｂn+d+k）｝ ・・・（１２）

《相関演算方法５》
（１３）式は、２つのデータの相乗平均を第２演算とした相関演算方法である。
Ｐ(n)＝（Ａn・Ｂn+d+k−Ａn+d・Ｂn+k）／｛Ｓqrt(Ａn・Ｂn+k)・Ｓqrt(Ａn+d・Ｂn+d+k)｝ ・・・（１３）

《相関演算方法６》
上述した相関演算方法では、一対の信号データ列における局所的なデータ間の相関を演算する（第１演算）とともに、この第１演算に用いたデータの大きさを演算してこの値で第１演算結果を正規化し（第２演算）、局所的相関量Ｐ(n)を算出する。そして、局所的相関量Ｐ(n)を所定のデータ区間に亘って積算することによって、一対の信号データ列間の相関量Ｃ(k)を算出している。しかしながら、正規化の手法は上述した方法に限定されるものではない。

例えば、一対の信号データ列における局所的なデータ間の相関演算（第１演算）により求めた値を局所的相関量Ｐ(n)とし、この局所的相関量Ｐ(n)を所定のデータ区間に亘って積算する。そして、この積算量を所定のデータ区間のデータの大きさ（データの総和など）で正規化することによって、正規化による効果（像歪みの影響を軽減する）を得ることができる。

具体的には、まず、第１データ列（Ａ1〜ＡN）に対して第２データ列（Ｂ1〜ＢN）を相対的にシフト（シフト量ｋ）させて相関量Ｃ(k)を演算するにあたり、（１４）式によりデータＡnおよびＢn+kの近傍のデータを使用してデータＡnおよびＢn+kの近傍の局所的相関量Ｐ(n)を演算する。
Ｐ(n)＝（Ａn・Ｂn+k+k−Ａn+d・Ｂn+k） ・・・（１４）
（１４）式において、ｄは整数定数（＝１，２，３，・・・）である。

（１４）式の局所的相関量Ｐ(n)の絶対値をとり、さらにデータの位置ｎを所定区間（例えばｎ＝ｐ〜ｑ）に亘って積算したものを、所定区間における第１データ列の総和と第２データ列の総和との積により正規化すると、（１５）式に示すように一対のデータ列間のシフト量ｋにおける相関量Ｃ(k)となり、この相関量は一対の像信号間の同一性が崩れていた場合においても、同一性が崩れる前の像信号が一致するシフト量ｋにおいて極小値を取ることになる。
Ｃ(k)＝（Σ｜Ｐ(n)｜）／｛(ΣＡn)・(ΣＢn)｝ ・・・（１５）

（１５）式において、相関量Ｃ(k)は、局所的相関量Ｐ(n)の所定区間における総和を、所定区間における第１データ列と第２データ列の大きさで正規化した量となっており、一対のデータ列間に歪みが生じている場合においても、この歪みが相関量Ｃ(k)に与える影響が軽減されることになる。

《相関演算方法７》
データＡn、Ａn+d、Ａn+2dを成分とした３次元ベクトルと、データＢn+k、Ｂn+d+k、Ｂn+2d+kを成分とした３次元ベクトルとの外積で生成されるべクトルの大きさを局所的相関量Ｐ(n)とし、所定区間に亘って局所的相関量Ｐ（ｎ）を積算した値を、所定区間における第１データ列のデータの２乗の総和の平方根と、第２データ列のデータの２乗の総和の平方根との積により正規化した値を相関量Ｃ(k)としてもよい。
Ｐ(n)＝(Ａn・Ｂn+d+k−Ａn+d・Ｂn+k)^２＋(Ａn・Ｂn+2d+k−Ａn+2d・Ｂn+k)^２＋(Ａn+2d・Ｂn+d+k−Ａn+d・Ｂn+2d+k)^２・・・（１６）、
Ｃ(k)＝ΣＰ(n)／｛Ｓqrt(ΣＡn^２)・Ｓqrt(ΣＢn^２)｝・・・（１７）

《相関演算方法８》
データＡn、Ａn+dの１階差分とデータＢn+k、Ｂn+d+kの１階差分の内積の符号反転したものを局所的相関量Ｐ(n)とし、所定区間に亘って局所的相関量Ｐ(n)を積算した値を、所定区間における第１データ列の１階差分データの２乗の総和の平方根と、第２データ列の１階差分データの２乗の総和の平方根との積により正規化した値を相関量Ｃ(k)としてもよい。
Ｐ(n)＝−（Ａn−Ａn+d）・（Ｂn+k−Ｂn+d+k） ・・・（１８）、
Ｃ(k)＝ΣＰ(n)／｛Ｓqrt(Σ(Ａn−Ａn+d)^２)・Ｓqrt(Σ(Ｂn+k−Ｂn+d+k)^２)｝ ・・・（１９）

《一実施の形態の変形例》
なお、撮像素子における焦点検出エリアの配置は図２に示す配置に限定されず、対角線方向やその他の位置に水平方向および垂直方向に焦点検出エリアを配置してもよい。

図３に示す撮像素子において、焦点検出画素３１３、３１４はひとつの画素内にひとつの光電変換部を備えた例を示したが、ひとつの画素内に一対の光電変換部を備えてもよく、例えば図２３に示すような撮像素子２１２Ａとしてもよい。この撮像素子２１２Ａでは、各焦点検出画素３１１に一対の光電変換部を備えており、各焦点検出画素３１１が図３に示す一対の焦点検出画素３１３、３１４に相当する機能を果たす。

焦点検出画素３１１は、図２４に示すようにマイクロレンズ１０と一対の光電変換部１３，１４を備えている。焦点検出画素３１１には光量をかせぐために色フィルタは配置されておらず、その分光特性は光電変換を行うフォトダイオードの分光感度、赤外カットフィルター（不図示）の分光特性を総合した分光特性（図７参照）となり、図６に示す緑画素、赤画素および青画素の分光特性を加算したような分光特性となり、その感度の光波長領域は緑画素、赤画素および青画素の感度の光波長領域を包括している。

図２５は、図２３に示す撮像素子２１２Ａの焦点検出画素による瞳分割方式の焦点検出動作を説明するための図である。図において、９０は、交換レンズの予定結像面に配置されたマイクロレンズの前方ｄの距離に設定された射出瞳である。ここで、距離ｄは、マイクロレンズの曲率、屈折率、マイクロレンズと光電変換部の間の距離などに応じて決まる距離であって、以下では測距瞳距離と呼ぶ。９１は交換レンズの光軸、５０、６０はマイクロレンズ、（５３，５４）、（６３，６４）は焦点検出画素の対の光電変換部、７３，７４、８３，８４は焦点検出用光束である。

さらに、９３はマイクロレンズ５０、６０により投影された光電変換部５３，６３の領域であり、以下では測距瞳と呼ぶ。同様に、９４はマイクロレンズ５０、６０により投影された光電変換部５４，６４の領域であり、以下では測距瞳と呼ぶ。図２５では、光軸９１上にある焦点検出画素（マイクロレンズ５０と一対の光電変換部５３、５４からなる）と、隣接する焦点検出画素（マイクロレンズ６０と一対の光電変換部６３、６４からなる）を模式的に例示しているが、撮像面上の周辺に配置された焦点検出用画素においても、一対の光電変換部はそれぞれ一対の測距瞳９３、９４から各マイクロレンズに到来する光束を受光する。焦点検出画素の配列方向は一対の測距瞳の並び方向と一致させる。

マイクロレンズ５０、６０は光学系の予定結像面近傍に配置されており、光軸９１上に配置されたマイクロレンズ５０によって、その背後に配置された一対の光電変換部５３、５４の形状がマイクロレンズ５０、６０から測距瞳距離ｄだけ離間した射出瞳９０上に投影され、その投影形状は測距瞳９３，９４を形成する。また、マイクロレンズ５０に隣接して配置されたマイクロレンズ６０によって、その背後に配置された一対の光電変換部６３、６４の形状が測距瞳距離ｄだけ離間した射出瞳９０上に投影され、その投影形状は測距瞳９３，９４を形成する。すなわち、測距瞳距離ｄにある射出瞳９０上で各焦点検出画素の光電変換部の投影形状（測距瞳９３，９４）が一致するように、各画素のマイクロレンズと光電変換部の位置関係が決定されている。

光電変換部５３は、測距瞳９３を通過してマイクロレンズ５０へ向う焦点検出光束７３によってマイクロレンズ５０上に形成される像の強度に対応した信号を出力する。また、光電変換部５４は、測距瞳９４を通過してマイクロレンズ５０へ向う焦点検出光束７４によってマイクロレンズ５０上に形成される像の強度に対応した信号を出力する。同様に、光電変換部６３は、測距瞳９３を通過してマイクロレンズ６０へ向う焦点検出光束８３によってマイクロレンズ６０上に形成される像の強度に対応した信号を出力する。また、光電変換部６４は、測距瞳９４を通過してマイクロレンズ６０へ向う焦点検出光束８４によってマイクロレンズ６０上に形成される像の強度に対応した信号を出力する。

このような焦点検出用画素を直線状に多数配置し、各画素の一対の光電変換部の出力を測距瞳９３および測距瞳９４に対応した出力グループにまとめることによって、測距瞳９３と測距瞳９４を各々通過する焦点検出光束が焦点検出画素列上に形成する一対の像の強度分布に関する情報が得られる。この情報に対して後述する像ズレ検出演算処理（相関演算処理、位相差検出処理）を施すことによって、いわゆる瞳分割方式で一対の像の像ズレ量が検出される。さらに、像ズレ量に所定の変換処理を施すことによって、予定結像面に対する現在の結像面（予定結像面上のマイクロレンズアレイの位置に対応した焦点検出位置における結像面）の偏差（デフォーカス量）が算出される。

次に、図３に示す撮像素子２１２では撮像画素３１０がベイヤー配列の色フィルターを備えた例を示したが、色フィルターの構成や配列はこれに限定されることはなく、補色フィルター（緑：Ｇ、イエロー：Ｙｅ、マゼンタ：Ｍｇ，シアン：Ｃｙ）の配列を採用してもよい。また、図３に示す撮像素子２１２では焦点検出画素３１３、３１４に色フィルターを設けない例を示したが、撮像画素３１０と同色の色フィルターの内のひとつのフィルター（例えば緑フィルター）を設けるようにした場合でも、本発明を適用することができる。

また、上述した一実施の形態の図５、図２４に示す焦点検出画素３１１、３１３、３１４では、光電変換部の形状を半円形や矩形にした例を示したが、焦点検出画素の光電変換部の形状はこれらに限定されず、他の形状であってもよい。例えば焦点検出画素の光電変換部の形状を楕円や多角形にすることも可能である。

さらに、図３に示す撮像素子２１２では、撮像画素と焦点検出画素を稠密正方格子配列に配置した例を示したが、稠密六方格子配列としてもよい。

上述した一実施の形態では、マイクロレンズを用いた瞳分割方式による焦点検出動作を説明したが、本発明はこのような方式の焦点検出に限定されず、再結像瞳分割方式の焦点検出にも適用可能である。図２６により、再結像瞳分割方式の焦点検出動作を説明する。図２６において、１９１は交換レンズの光軸、１１０，１２０はコンデンサレンズ、１１１、１２１は絞りマスク、１１２，１１３、１２２，１２３は絞り開口、１１４、１１５、１２４，１２５は再結像レンズ、１１６、１２６は焦点検出用のイメージセンサー（ＣＣＤ）である。

また、１３２，１３３、１４２，１４３は焦点検出光束、１９０は交換レンズの予定結像面の前方ｄ５の距離に設定された射出瞳である。ここで、距離ｄ５は、コンデンサレンズ１１０，１２０の焦点距離と、コンデンサレンズ１１０，１２０と絞り開口１１２，１１３、１２２，１２３との間の距離などに応じて決まる距離であって、以下では測距瞳距離と呼ぶ。１９２は、コンデンサレンズ１１０，１２０により投影された絞り開口１１２，１２２の領域であり、以下では測距瞳と呼ぶ。同様に、１９３は、コンデンサレンズ１１０，１２０により投影された絞り開口１１３，１２３の領域であり、以下では測距瞳と呼ぶ。コンデンサレンズ１１０、絞りマスク１１１、絞り開口１１２，１１３、再結像レンズ１１４、１１５およびイメージセンサー１１６が、一つの位置で焦点検出を行う再結像方式の瞳分割方位相差検出の焦点検出ユニットを構成する。

図２６においては、光軸１９１上にある焦点検出ユニットと光軸外にある焦点検出ユニットとを模式的に例示している。複数の焦点検出ユニットを組み合わせることによって、図２に示す３箇所の焦点検出位置１０１〜１０３において再結像方式の瞳分割位相差検出で焦点検出を行う焦点検出装置を実現することができる。

コンデンサレンズ１１０からなる焦点検出ユニットは、交換レンズの予定結像面近傍に配置されたコンデンサレンズ１１０、その背後に配置されたイメージサンサ１１６、コンデンサレンズ１１０とイメージサンサ１１６との間に配置され、予定結像面近傍に結像された１次像をイメージセンサー１１６上に再結像する一対の再結像レンズ１１４、１１５、一対の再結像レンズの近傍（図では前面）に配置された一対の絞り開口１１２、１１３を有する絞りマスク１１から構成される。

イメージセンサー１１６は、複数の光電変換部が直線に沿って密に配置されたラインサンサであり、光電変換部の配置方向は一対の測距瞳の分割方向（＝絞り開口の並び方向）と一致させる。このイメージセンサー１１６からは、イメージセンサー１１６上に再結像された一対の像の強度分布に対応した情報が出力され、この情報に対して後述する像ズレ検出演算処理（相関処理、位相差検出処理）を施すことによって、いわゆる瞳分割型位相差検出方式（再結像方式）で一対の像の像ズレ量が検出される。さらに、像ズレ量に所定の変換係数を乗ずることによって、予定結像面に対する現在の結像面の偏差（デフォーカス量）が算出される。

イメージセンサー１１６は再結像レンズ１１４、１１５により予定結像面上に投影されており、デフォーカス量（像ズレ量）の検出精度は、像ズレ量の検出ピッチ（再結像方式の場合は予定結像面上に投影された光電変換部の配列ピッチ）により決まる。

コンデンサレンズ１１０は、絞りマスク１１１の絞り開口１１２、１１３を射出瞳１９０上に領域１９２、１９３として投影している。領域１９２，１９３を測距瞳と呼ぶ。すなわち、イメージセンサー１１６上に再結像される一対の像は射出瞳１９０上の一対の測距瞳１９２，１９３を通過する光束によって形成される。射出瞳１９０上の一対の測距瞳１９２，１９３を通過する光束１３２、１３３を焦点検出用光束と呼ぶ。

このような再結像瞳分割方式においても、測距瞳の口径蝕によってイメージセンサー上に形成される一対の像のバランス崩れが生ずるので、イメージセンサーの出力信号を処理する際に本発明を適用することができる。

また、本発明は撮影光学系を通過する光束を瞳分割する方式の焦点検出に限定されず、外光三角測距方式による距離測定にも適用可能である。図２７により、外光三角測距方式の焦点検出動作を説明する。図２７において、レンズ３２０とその結像面に配置されたイメージセンサー３２６からなるユニットと、レンズ３３０とその結像面に配置されたイメージセンサー３３６からなるユニットとが基線長を隔てて配置される。これらの一対のユニットが測距装置３４７を構成する。

測距対象３５０の像が、レンズ３２０および３３０によりイメージセンサー３２６および３３６上に形成される。イメージセンサー３２６および３３６上に形成される像の位置関係は、測距装置３４７から測距対象３５０までの距離に応じて変化する。したがって、イメージセンサー３２６および３３６の信号データに対して本発明を適用した像ズレ検出を行うことによって、２像の相対的位置関係を検出し、この位置関係に基づいて測距対象３５０までの距離を測定することができる。

外光三角測距方式においては、レンズ３２０とレンズ３３０に汚れや雨滴が付着することによって、一対の信号にレベル差が生じたり歪みが生じたりすることが発生するので、本発明の適用は有効である。

なお、撮像装置としては、上述したようなカメラボディに交換レンズが装着される構成のデジタルスチルカメラやフィルムスチルカメラに限定されない。例えばレンズ一体型のデジタルスチルカメラ、フィルムスチルカメラ、あるいはビデオカメラにも本発明を適用することができる。さらには、携帯電話などに内蔵される小型カメラモジュール、監視カメラやロボット用の視覚認識装置などにも適用できる。

上述した一実施の形態では、撮像用画素の配列中に焦点検出用画素を配列し、焦点検出用画素で得られる信号に基づいて結像光学系の瞳の異なる領域を通る一対の光束に対応する一対の信号列を求め、上記相関演算により位相差検出方式の焦点検出を行う例を示したが、撮像用画素の出力に基づいて周知のコントラスト方式の焦点検出を行うとともに、焦点検出用画素の出力に基づいて位相差検出方式の焦点検出を行う、ハイブリッド方式の焦点検出装置としてもよい。

また、本発明は、カメラ以外の焦点検出装置や測距装置、さらにはステレオ測距装置にも適用できる。さらに、時間が異なるイメージセンサーの信号間の相関を検出して被写体像の動きやカメラのブレを検出する装置にも適用できる。さらにまた、イメージセンサーの画像信号と特定の画像信号のパターンマッチングにも適用できる。

さらに、本発明は、画像信号データの相関を検出するものに限定されず、音に関するデータの相関やその他一般に２つの信号の相関を検出するものにも適用することができる。

一実施の形態のカメラの構成を示すカメラの横断面図 交換レンズの撮影画面上における焦点検出位置を示す図 撮像素子の詳細な構成を示す正面図 撮像画素の構成を示す正面図 焦点検出画素の構成を示す正面図 撮像画素の分光特性を示す図 焦点検出画素の分光特性を示す図 撮像画素の断面図 焦点検出画素の断面図 マイクロレンズを用いた瞳分割型位相差検出方式の焦点検出光学系の構成を示す図 一実施の形態のデジタルスチルカメラ（撮像装置）の撮像動作を示すフローチャート 図１１のステップ１３０における焦点検出演算処理の詳細を示す示すフローチャート 焦点検出光束のケラレ（口径蝕）を説明するための図 予定焦点面から光軸の方向に測距瞳面を見た場合の図 図１３および図１４の状態において位置ｘ０（像高０）の近傍の焦点検出画素列が受光する一対の像と、位置ｘ１（像高ｈ）の近傍の焦点検出画素列が受光する一対の像の強度分布（縦軸は光量、横軸は撮影画面上の位置）を示した図 （３）式に示す相関量Ｃ(k)の演算と一対のデータ列（Ａ1〜ＡN、Ｂ1〜ＢN）との関係を示す図 焦点検出演算（相関演算）結果の評価方法を説明する図 同一性の崩れたサイン波形の一対の像信号データ列を示す図 図１８に示す一対の信号データ列に対し従来の相関演算を施した結果を示す図 図１８に示す一対の信号データ列に対し一実施の形態の相関演算を施した結果を示す図 図１８に示すサイン波形の一対の像データ列を±１画素の範囲において０．１画素単位で相対的にずらした場合に、横軸を像ズレ量、縦軸を像ズレ量の演算結果で示した図 相関演算結果を、横軸を像ズレ量、縦軸を誤差量で示した図 変形例の撮像素子の部分拡大図 図２３に示す変形例の撮像素子で用いる焦点検出画素の正面図 図２３に示す撮像素子の焦点検出画素による瞳分割方式の焦点検出動作を説明するための図 再結像瞳分割方式の焦点検出動作を説明するための図 外光三角測距方式の焦点検出動作を説明するための図

符号の説明

１０；マイクロレンズ、１１、１３、１４；光電変換部、２０１；カメラ、２０２；交換レンズ、２１２、２１２Ａ；撮像素子、２１４ ボディ駆動制御装置、３１０；撮像画素、３１１、３１３、３１４；焦点検出画素

Claims (12)

1. 複数のデータを一次元上に配列した第１データ列の中の複数の第１データのそれぞれと、複数のデータを一次元上に配列した第２データ列において前記複数の第１データに対応する複数の第２データのそれぞれとの積どうしの差を含む第１演算により前記複数の第１データと前記複数の第２データとの相関値を求め、
   前記第１演算による相関値を、前記複数の第１データおよび前記複数の第２データによって正規化する第２演算を行うことを特徴とする相関演算方法。
2. 請求項１に記載の相関演算方法において、
   前記第１演算は、前記第１データ列中の局所的な位置の前記複数の第１データと前記第２データ列中の局所的な位置の前記複数の第２データとに基づいて局所的な相関値を求め、該局所的な相関値の絶対値を積算することによって前記複数の第１データと前記複数の第２データとの相関値を求めることを特徴とする相関演算方法。
3. 請求項１または請求項２に記載の相関演算方法において、
   前記複数の第１データおよび前記複数の第２データはそれぞれＮ個あり、
   前記第１演算は、前記Ｎ個の第１データと前記Ｎ個の第２データをそれぞれＮ次元のベクトルの成分としてベクトルの外積演算を行うことを特徴とする相関演算方法。
4. 請求項１または請求項２に記載の相関演算装置において、
   前記第１演算は、前記複数の第１データの１階以上の差分データと、前記複数の第２データの１階以上の差分データとの積を演算することを特徴とする相関演算方法。
5. 請求項１〜４のいずれか一項に記載の相関演算方法において、
   前記複数の第１データおよび前記複数の第２データはそれぞれＮ個あり、
   前記第２演算は、前記Ｎ個の第１データと前記Ｎ個の第２データを成分とするそれぞれＮ次元のベクトルの大きさにより、前記第１演算による前記相関値を正規化することを特徴とする相関演算方法。
6. 請求項１〜４のいずれか一項に記載の相関演算方法において、
   前記第２演算は、前記複数の第１データおよび前記複数の第２データを平均した値により前記第１演算による前記相関値を正規化することを特徴とする相関演算方法。
7. 請求項１〜６のいずれか一項に記載の相関演算方法において、
   前記第１演算は、前記第１データ列中の前記複数の第１データの位置および前記第２データ列中の前記複数の第２データの位置を変化させながら前記相関値を積算することを含むことを特徴とする相関演算方法。
8. 請求項１〜７のいずれか一項に記載の相関演算方法によって求めた前記複数の第１データと前記複数の第２データとの相関値を、前記第１データ列と前記第２データ列とをデータの配列方向に沿って変位量を相対的に変位させながら求めるとともに、求めた前記相関値の極値が得られる前記変位量を求める演算手段を備えることを特徴とする相関演算装置。
9. 結像光学系の瞳の異なる領域を通る一対の光束による像に対応する一対のデータ列を出力するデータ列出力手段と、
   請求項８に記載の相関演算装置と、
   前記一対のデー列に対して前記相関演算装置によって求めた前記変位量に基づいて前記結像光学系の焦点調節状態を検出する焦点検出手段とを備えることを特徴とする焦点検出装置。
10. 請求項９に記載の焦点検出装置と、
    前記結像光学系からの光束をマイクロレンズを介して受光する光電変換部を有する撮像用画素の配列中に、前記結像光学系の瞳の異なる領域を通る一対の光束をマイクロレンズを介して受光する光電変換部を有する焦点検出用画素を配列した撮像素子とを備え、
    前記データ出力手段は、前記焦点検出用画素で得られる信号に基づいて前記一対のデータ列を出力することを特徴とする撮像装置。
11. 請求項１０に記載の撮像装置において、
    前記焦点検出用画素は、前記結像光学系の光軸に対応する前記撮像素子上の位置の周辺領域に配置され、
    前記データ列出力手段は、前記周辺領域に配置された焦点検出用画素で得られる信号に基づいて前記一対のデータ列を出力することを特徴とする撮像装置。
12. 請求項１１に記載の撮像装置において、
    前記焦点検出用画素は、前記光軸に対応する前記撮像素子上の位置から放射方向に配列されていることを特徴とする撮像装置。

Images