JP2022132012A - 焦点検出装置、焦点検出方法、および撮像装置 - Google Patents

焦点検出装置、焦点検出方法、および撮像装置 Download PDF

Info

Publication number
JP2022132012A
JP2022132012A JP2021093767A JP2021093767A JP2022132012A JP 2022132012 A JP2022132012 A JP 2022132012A JP 2021093767 A JP2021093767 A JP 2021093767A JP 2021093767 A JP2021093767 A JP 2021093767A JP 2022132012 A JP2022132012 A JP 2022132012A
Authority
JP
Japan
Prior art keywords
focus detection
pupil
image
conversion coefficient
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021093767A
Other languages
English (en)
Inventor
勇希 吉村
Yuki Yoshimura
浩一 福田
Koichi Fukuda
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US17/679,197 priority Critical patent/US11889186B2/en
Publication of JP2022132012A publication Critical patent/JP2022132012A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)

Abstract

Figure 2022132012000001
【課題】撮像素子から得られる焦点検出用信号に基づいて高精度な焦点検出を実現する焦点検出装置および焦点検出方法を提供すること。
【解決手段】撮像素子から得られる信号に基づいて第1の焦点検出用信号と第2の焦点検出用信号とを生成する生成手段と、第1の焦点検出用信号と第2の焦点検出用信号の像ずれ量を算出する像ずれ量算出手段と、像ずれ量を結像光学系のデフォーカス量に変換する変換係数を算出する係数算出手段と、像ずれ量に変換係数を適用してデフォーカス量を検出する検出手段と、を有し、係数算出手段は、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離の少なくとも一方に基づいて変換係数を算出することを特徴とする焦点検出装置。
【選択図】図13

Description

本発明は、焦点検出装置、焦点検出方法、および撮像装置に関し、特には撮像素子を用いて焦点検出を行う焦点検出装置、焦点検出方法、および撮像装置に関する。
撮像面位相差AFを可能とする撮像素子が知られている(特許文献1)。特許文献1では、行列状に配置された複数の画素の一部を、位相差AF用の信号を出力するように構成された専用の画素(焦点検出用画素)とし、焦点検出用画素から得られる信号対の位相差に基づいて撮像レンズの焦点検出を行う。
特開2000-156823号公報
撮像面位相差AFの精度は、焦点検出用信号の品質に影響を受ける。また、焦点検出用信号の品質は、撮像素子の製造誤差の影響を受ける。
本発明はその一態様において、撮像素子の製造誤差を考慮して、撮像素子から得られる焦点検出用信号に基づいて高精度な焦点検出を実現する焦点検出装置および焦点検出方法を提供する。
上述の目的は、撮像素子から得られる信号に基づいて第1の焦点検出用信号と第2の焦点検出用信号とを生成する生成手段と、第1の焦点検出用信号と第2の焦点検出用信号の像ずれ量を算出する像ずれ量算出手段と、像ずれ量を結像光学系のデフォーカス量に変換する変換係数を算出する係数算出手段と、像ずれ量に変換係数を適用してデフォーカス量を検出する検出手段と、を有し、係数算出手段は、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離の少なくとも一方に基づいて変換係数を算出することを特徴とする焦点検出装置によって達成される。
本発明によれば、撮像素子の製造誤差を考慮して、撮像素子から得られる焦点検出用信号に基づいて高精度な焦点検出を実現する焦点検出装置および焦点検出方法を提供する。
第1実施形態に係る焦点検出装置としての撮像装置の機能構成例を示すブロック図 第1実施形態における画素配列を概略的に示す図 第1実施形態における画素の概略平面図と概略断面図 第1実施形態の撮像素子の画素と瞳強度分布との対応を説明するための図 第1実施形態の撮像素子と瞳強度分布との対応を説明するための図 第1実施形態の結像光学系と撮像素子107における瞳分割を説明するための図 第1実施形態における画素内部の光強度分布例を示す図 第1実施形態の瞳部分領域を示す図 第1実施形態のデフォーカス量と像ずれ量との関係図 第1実施形態の瞳偏心量や入射瞳距離の変化が生じている場合の撮像素子と瞳強度分布との対応を説明するための図 第1実施形態の像高依存のある瞳偏心量・入射瞳距離変化の補正を行う際の、光軸ずれを測定する像高位置を説明するための図 第1実施形態の撮像素子のセンサ入射瞳、瞳偏心量、入射瞳距離と、結像光学系のレンズ枠ケラレと、瞳部分領域との関係図 第1実施形態の撮像素子のセンサ入射瞳、瞳偏心量、入射瞳距離と、結像光学系のレンズ枠ケラレと、瞳部分領域との関係図 第1実施形態に係る焦点検出方法を示すフローチャート 第1実施形態の結像光学系のレンズ枠ケラレの関係図 第1実施形態に係る変換係数算出方法を示すフローチャート 第1実施形態の仮想焦点検出用信号の生成方法を示す図 第1実施形態の仮想瞳強度分布の変化例を示す図 第2実施形態の基準瞳強度分布と個体強度分布の例を示す図 第2実施形態に係る変換係数の補正値算出方法を説明するための図 第3実施形態の画素配列を示す図 第3実施形態の画素構造を示す図
以下、添付図面を参照して本発明をその例示的な実施形態に基づいて詳細に説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定しない。また、実施形態には複数の特徴が記載されているが、その全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
なお、以下の実施形態では、本発明をデジタルカメラのような撮像装置で実施する場合に関して説明する。しかし、本発明は撮像素子の信号を処理可能な任意の電子機器でも実施可能である。このような電子機器には、コンピュータ機器(パーソナルコンピュータ、タブレットコンピュータ、メディアプレーヤ、PDAなど)、携帯電話機、スマートフォン、ゲーム機、ロボット、ドローン、ドライブレコーダが含まれる。これらは例示であり、本発明は他の電子機器でも実施可能である。
●(第1実施形態)
[全体構成]
図1は、実施形態に係る焦点検出装置を有する撮像装置100の機能構成例を示すブロック図である。撮像装置100は、カメラ本体と、カメラ本体に着脱可能な交換レンズ(結像光学系または撮像光学系)とを備えたデジタルカメラシステムである。ただし、実施形態に係る焦点検出装置は、カメラ本体と結像光学系とが一体化された撮像装置にも適用可能である。
結像光学系は、第1レンズ群101、絞り102、第2レンズ群103、および第3レンズ群104を有し、被写体の光学像を撮像素子107の撮像面上に形成する。第1レンズ群101は、結像光学系を構成する複数のレンズ群のうち最も前方(被写体側)に配置され、光軸OAに沿って進退可能である。絞り102は、開口量が調節可能であり、静止画撮像時にはメカニカルシャッタとして機能する。
第2レンズ群103は、絞り102と一体的に光軸OAに沿って進退し、第1レンズ群101の進退動作と連動して結像光学系の焦点距離(画角)を変更する。第3レンズ群105は、光軸OAに沿って進退することにより結像光学系の合焦距離を変更するフォーカスレンズである。
光学的ローパスフィルタ106は、撮像画像に生じる偽色やモアレを軽減するために設けられている。
撮像素子107は、例えば、横方向にm個の画素、縦方向にn個の画素が2次元配置された画素アレイ(画素領域ともいう)を有するCMOSイメージセンサまたはCCDセンサイメージセンサである。各画素には原色ベイヤ配列に従ったカラーフィルタと、オンチップマイクロレンズとが設けられている。なお、撮像素子107は3板方式のカラーイメージセンサであってもよい。
ズームアクチュエータ111は、例えば不図示のカム筒を回動させることにより第1レンズ群101および第2レンズ群103を光軸方向に移動させる。絞りアクチュエータ112は、絞り102を駆動する。フォーカスアクチュエータ114は、第3レンズ群105を光軸方向に移動させる。なお、絞り102とは別個のメカニカルシャッタと、メカニカルシャッタを駆動するシャッタアクチュエータとを設けてもよい。
フラッシュ115は被写体を照らす光源である。フラッシュ115はキセノン管を用いた閃光照明装置、または連続発光するLED(発光ダイオード)を備える。AF(オートフォーカス)補助光源116は、所定のパターン像を、投光レンズを介して投影する。これにより、低輝度の被写体または低コントラストの被写体に対する焦点検出能力が向上する。
CPU121は、撮像装置100全体の動作を制御する。CPU121は、演算部、ROM、RAM、A/Dコンバータ、D/Aコンバータ、および、通信インターフェイス回路などを有する。CPU121は、ROM135に記憶されたプログラムをRAM136に読み込んで実行することにより、撮像装置100の各部を制御し、自動焦点検出(AF)、撮像、画像処理、記録など、撮像装置100の機能を実現する。また、CPU121がプログラムを実行して実現する機能の一部をCPU121とは別個のハードウエア回路で実施してもよい。また、一部の回路にFPGA等のリコンフィギュアラブル回路を用いてもよい。例えば、後述する焦点検出用の演算に要する時間を短縮するため、演算の一部を専用のハードウエア回路で実行してもよい。
画素信号取得部121a、信号生成部121b、焦点検出部121c、およびレンズ情報取得部121dは、CPU121がプログラムを実行することによって実現する機能を、機能ブロックとして記載したものである。また、CPU121が備える通信インターフェイス回路は有線および無線通信に関する1つ以上の規格をサポートする。撮像装置100は、通信インターフェース回路を通じて外部装置と直接もしくは他の機器を経由して通信することができる。
フラッシュ制御回路122は、撮像動作に同期してフラッシュ115の点灯制御を行う。補助光源駆動回路123は、焦点検出処理に同期してAF補助光源116の点灯制御を行う。撮像素子駆動回路124は、撮像素子107の撮像動作を制御するとともに、撮像動作で得られた信号をA/D変換してCPU121に送信する。画像処理回路125は、画像データに対してガンマ変換、カラー補間、符号化、復号、評価値生成、特徴領域の検出など、様々な画像処理を適用可能である。
フォーカス駆動回路126は、焦点検出部121cの焦点検出結果などに基づいてフォーカスアクチュエータ114を駆動し、第3レンズ群105を光軸OAに沿って移動させることにより、結像光学系の合焦距離を調節する。
絞り駆動回路128は、絞りアクチュエータ112を駆動して、絞り102の開口径および開閉を制御する。ズーム駆動回路129は、例えばユーザの指示に応じてズームアクチュエータ111を駆動し、第1レンズ群101および第2レンズ群103を光軸OAに沿って移動させることにより、結像光学系の焦点距離(画角)を変更する。
レンズ通信回路130は、CPU121の制御に従い、カメラ本体に取り付けられた交換レンズと通信する。レンズ通信回路130は例えば交換レンズからレンズ情報を取得し、CPU121のレンズ情報取得部121dに供給する。また、レンズ通信回路130は、カメラ本体から交換レンズに情報や命令を交換レンズへ送信することもできる。
交換レンズとカメラ本体は機械的に着脱可能なマウント部を有する。交換レンズのマウント部とカメラ本体のマウント部には、交換レンズが装着された状態で接触するように構成された複数の接点が設けられている。接点を通じて交換レンズとカメラ本体とが電気的に接続され、通信や電源供給が行われる。
交換レンズには不図示のレンズCPU、レンズメモリ、レンズジャイロ等を備えた基板が設けられている。レンズCPUはレンズメモリに記憶された補正値などを使用し、各種プログラムを実行する。また、レンズメモリにはレンズの光学特性である収差情報、射出瞳距離LPOなどが記憶されている。CPU121(レンズ情報取得部121d)は、レンズ通信回路130を通じて、交換レンズの現在のフォーカス状態FS、ズーム状態ZS、射出瞳距離LPOなどのレンズ情報を取得することができる。
表示部131は、例えばLCD(液晶表示装置)を有する。表示部131は、撮像装置100の撮像モードに関する情報、撮像前のプレビュー画像、撮像後の確認用画像、または、焦点検出時の合焦状態表示画像などを表示する。操作部132は、電源スイッチ、レリーズスイッチ、ズーム操作スイッチ、および、撮像モード選択スイッチなどを備えて構成される。レリーズスイッチは、半押し状態でONとなるSW1と、全押し状態でONとなるSW2の2つのスイッチを有する。記録媒体133は、例えば撮像装置100に着脱可能な半導体メモリカードであり、撮像により得られた静止画データ、動画データは記録媒体133に記録される。
なお、表示部131がタッチディスプレイの場合、タッチパネルや、タッチパネルと表示部131に表示されるGUIの組み合わせを操作部132として用いてもよい。例えば、ライブビュー表示中にタッチパネルに対するタップ操作が検出された場合、タップ位置に対応する画像領域を焦点検出領域として焦点検出するように構成することができる。
なお、画像処理回路125によって撮影画像データのコントラスト情報を算出し、CPU121がコントラストAFを実行することもできる。コントラストAFでは、フォーカスレンズ群105を移動して結像光学系の合焦距離を変化させながら順次コントラスト情報を算出し、コントラスト情報がピークとなるフォーカスレンズ位置を合焦位置とする。
このように、撮像装置100は撮像面位相差AFとコントラストAFの両方を実行可能であり、状況に応じて、一方を選択的に用いたり、両方を組み合わせて用いたりすることができる。
[撮像素子]
図2および図3を参照して、撮像素子107の画素配列および画素構造について説明する。図2の左右方向をx方向(水平方向)、上下方向をy方向(垂直方向)、x方向およびy方向に直交する方向(紙面に垂直な方向)をz方向(光軸方向)とする。図2に示す例は、撮像素子107の画素(単位画素)配列を4列×4行の範囲で、副画素配列を8列×4行の範囲で示している。
2列×2行の画素群200は、例えば左上の位置に第1色のR(赤)の分光感度を有する画素200Rが左上に、第2色のG(緑)の分光感度を有する画素200Gが右上と左下に、第3色のB(青)の分光感度を有する画素200Bが右下に配置される。さらに、各画素(単位画素)は、x方向に2分割(Nx分割)、y方向に1分割(Ny分割)された分割数2(分割数NLF=Nx×Ny)の第1副画素201と第2副画素202(第1副画素から第NLF副画素)の複数の副画素により構成されている。
図2に示す例では、撮像素子107の各画素を水平方向に並んだ2つの副画素に分割することにより、1回の撮影で得られる画像信号(LFデータ)から、分割数NLFに等しい数の視点画像と、全ての視点画像を合成した撮像画像とを生成することができる。なお、画素は2方向に分割してもよいし、方向ごとの分割数にも制限はない。したがって、視点画像は複数の副画素のうち、一部の副画素の信号から生成される画像、撮像画像は全部の副画素の信号から生成される画像ということができる。本実施形態では一例として撮像素子107の水平および垂直方向の画素周期Pを6μm、水平画素数N=6000、垂直画素数N=4000とする。したがって、総画素数N=N×N=2400万である。また、副画素の水平方向周期Pを3μmとすると、総副画素数N=N×(P/P)×N=4800万である。
図2に示した撮像素子107の1つの画素200Gを、撮像素子107の受光面側(+z側)から見た場合の平面図を図3(a)に示す。図3(a)の紙面に垂直な方向にz軸を設定し、手前側をz軸の正方向と定義する。また、z軸に直交する上下方向にy軸を設定して上方をy軸の正方向とし、z軸およびy軸に直交する左右方向にx軸を設定して右方をx軸の正方向と定義する。図3(a)にてa-a切断線に沿って、-y側から見た場合の断面図を図3(b)に示す。
図3(a)および、図3(b)に示すように、画素200Gには、各画素の受光面側(+z方向)にマイクロレンズ305が形成され、このマイクロレンズ305によって入射光が集光される。さらに、x(水平)方向に2分割、y(垂直)方向に1分割された分割数2の第1光電変換部301と第2光電変換部302の複数の光電変換部が形成される。第1光電変換部301と第2光電変換部302が、それぞれ図2の第1副画素201と第2副画素202に対応する。より一般的に記載すれば、各画素の光電変換部が、x方向にNx分割、y方向にNy分割され、光電変換部の分割数NLF=Nx×Nyであるとき、第1~第NLF光電変換部が、第1~第NLF副画素に対応する。
第1光電変換部301と第2光電変換部302は、2つの独立したpn接合フォトダイオードであり、p型ウェル層300と2つに分割されたn型層301とn型層302から構成される。必要に応じて、イントリンシック層を挟み、pin構造フォトダイオードとして形成してもよい。各画素には、マイクロレンズ305と、第1光電変換部301および第2光電変換部302との間に、カラーフィルター306が形成される。必要に応じて、画素毎や光電変換部毎などで、カラーフィルター306の分光透過率を変えても良いし、カラーフィルターを省略してもよい。
画素200Gに入射した光はマイクロレンズ305が集光し、さらにカラーフィルター306で分光された後に、第1光電変換部301と第2光電変換部302がそれぞれ受光する。第1光電変換部301と第2光電変換部302では、受光量に応じて電子とホール(正孔)が対生成され、空乏層で分離された後、電子が蓄積される。一方、ホールは定電圧源(不図示)に接続されたp型ウェル層を通じて撮像素子107の外部へ排出される。第1光電変換部301と第2光電変換部302に蓄積された電子は、転送ゲートを介して、静電容量部(FD)に転送されて電圧信号に変換される。
なお、本実施形態においてマイクロレンズ305は撮像素子107における光学系に相当する。撮像素子107における光学系は、本実施形態のようにマイクロレンズ用いる構成であってもよいし、導波路等の屈折率の異なる材料を用いる構成としてもよい。また、撮像素子107はマイクロレンズ305を有する面と反対の面に回路等を備える裏面照射型のイメージセンサでもよく、撮像素子駆動回路124および画像処理回路125などの一部の回路を備える積層型のイメージセンサであってもよい。また、半導体基板としてシリコン以外の材料を用いてもよいし、例えば有機材料を光電変換材料として用いてもよい。
[瞳分割]
続いて、図4から図8を参照して、本実施形態の撮像素子107の瞳分割機能について説明する。
図4は、図3(a)に示される本実施形態の撮像素子107に配列された画素200Gのa-a断面を+y側から見た断面図、および、撮像素子107の撮像面600からz軸方向(光軸OAの方向)に距離Zだけ離れた位置の瞳面を示している。なお、図4では、射出瞳面の座標軸と対応を取るために、断面図のx軸とy軸を図3に対して反転させている。撮像素子107の撮像面600は、結像光学系の結像面に配置される。
瞳強度分布(第1瞳強度分布)501は、重心位置が-x方向に偏心している第1光電変換部301の受光面と、マイクロレンズ305を介して略共役関係になっている。このため、第1瞳強度分布501は、第1副画素201で受光可能な瞳領域に相当する。第1瞳強度分布501の重心位置は、瞳面上で+xp側に偏心している。同様に、瞳強度分布(第2瞳強度分布)502は、重心位置が+x方向に偏心している第2光電変換部302の受光面と、マイクロレンズ305を介して略共役関係になっている。
このため、第2瞳強度分布502は、第2副画素202で受光可能な瞳領域に相当する。第2瞳強度分布502の重心は、瞳面上で-xp側に偏心している。また、瞳強度分布500は、第1光電変換部301および第2光電変換部302(第1副画素201および第2副画素202)を全て合わせた際の画素200G全体で受光可能な瞳領域である。つまり、第1瞳強度分布501は瞳強度分布500の中心に対して瞳面上で+xp側に偏心し、第2瞳強度分布502は瞳強度分布500の中心に対して瞳面上で-xp側に偏心している。
次に、図5を参照して、撮像素子107のセンサ入射瞳について説明する。図5は、画素の像高に応じたマイクロレンズ305の配置を模式的に示している。Z軸が撮像素子の中心(像高=0)を通っており、中心から離れるほど像高が大きくなる。
撮像素子107において、マイクロレンズ305は、対応する画素の像高が大きくなるほど、マイクロレンズ305の光軸と光電変換部との交点が撮像素子の中心(像高の原点)に近づくように配置されている。なお、撮像素子の中心と結像光学系の光軸との交点は光学式像ブレ補正機構によりレンズまたは撮像素子が駆動されると移動するが、ほぼ一致する。
このように、マイクロレンズ305の位置を、対応する画素の像高に応じた量、撮像素子107の中心方向にシフトする。これにより、撮像素子107から距離Zだけ離れた位置の瞳面において、像高の異なる画素の第1副画素201の第1光電変換部301に対応する第1瞳強度分布501が、概ね一致するようになる。同様に、第2副画素202の第2の光電変換部302に対応する第2瞳強度分布502が、概ね一致するようになる。
結果として、撮像素子107から距離Zだけ離れた位置の瞳面において、撮像素子107の全ての画素の第1瞳強度分布501と第2瞳強度分布502が、概ね一致させることができる。以下、第1瞳強度分布501および第2瞳強度分布502を、撮像素子107の「センサ入射瞳」と呼び、距離Zを、撮像素子107の「入射瞳距離」と呼ぶ。全ての画素について入射瞳距離が等しくなるようにすることで、像高の大きな周辺領域の画素における光量低下を抑制することができる。
図6は、撮像素子107のセンサ入射瞳(第1瞳強度分布501および第2瞳強度分布502)による結像光学系の射出瞳の光学的な分割(瞳分割)を示している。結像光学系の射出瞳400は、絞り102の開口量に応じた大きさを有する。被写体からの光束のうち、結像光学系の射出瞳400と瞳強度分布501との重なり領域である瞳部分領域(第1瞳部分領域)601を通過した光束は、第1副画素201(第1光電変換部301)で受光される。同様に、被写体からの光束のうち、結像光学系の射出瞳400と瞳強度分布502との重なり領域である瞳部分領域(第2瞳部分領域)602を通過した光束は、第2副画素202(第2光電変換部302)で受光される。
図4に、撮像素子107の入射瞳距離Zだけ離れた位置の瞳面における第1瞳部分領域601と第2瞳部分領域602を示している。結像光学系の射出瞳が、撮像素子107のセンサ入射瞳(第1瞳強度分布501および第2瞳強度分布502)により、第1瞳部分領域601と第2瞳部分領域602に分割される。言い換えると、第1瞳強度分布501、第2瞳強度分布502のそれぞれと、結像光学系の射出瞳とに共通する領域(積)が、第1瞳部分領域601と第2瞳部分領域602になる。
図7は、各画素に形成されたマイクロレンズ305に光が入射した場合の光強度分布を模式的に示す図である。図7に示す光強度分布は、撮像素子107内部での光強度分布をFDTD(Finite Difference Time Domain)法によって計算したものである。ここでは、一例として波長λ=540nm、右円偏光の平面波が、マイクロレンズ305の上方からマイクロレンズの光軸に平行に入射した場合を想定している。
図7(A)は、マイクロレンズの光軸に平行な断面での光強度分布を示す。各画素のマイクロレンズ光学系は、マイクロレンズ305、平坦化層、封止層、および絶縁層などから構成される。マイクロレンズ光学系は、複数のマイクロレンズを含んでいてもよい。
画素周期を2a、マイクロレンズ光学系の焦点距離をf、マイクロレンズ光学系の開口角を2φとする。また、マイクロレンズ光学系の焦点位置での屈折率をnとする。また、光軸上の座標をzとする。座標zは、焦点位置を原点(z=0)として、マイクロレンズ側(図の上方)を負符号、マイクロレンズと反対側を正符号とする。また、Hは、主点である。
マイクロレンズ光学系の開口数NAは、以下の式(1)で定義される。
NA=n・sinφ (1)
また、マイクロレンズ光学系の絞り値Fは、以下の式(2)で定義される。
F=1/(2n・sinφ)=f/(2n・a) (2)
画素への入射光は、マイクロレンズ光学系により、焦点位置に集光される。しかし、光の波動性による回折の影響のため、集光スポットの直径は回折限界Δより小さくすることはできず、有限の大きさとなる。集光スポットの強度分布がエアリーパターン(Airy pattern)に近いと仮定すると、回折限界Δは、入射光の波長をλとして、概ね、以下の式(3)で求まる。
Δ=1.22 (λ/(n・sinφ))=2.44・λ・F (3)
光電変換部の受光面のサイズは一辺が約1~3μm程度であり、マイクロレンズの集光スポットの直径が回折限界Δに等しいとすると約1μm程度である。そのため、光電変換部の受光面とマイクロレンズを介して共役の関係にある、センサ入射瞳(第1瞳強度分布501および第2瞳強度分布502)は、回折ボケのため、明瞭に瞳分割されず、光の入射角に依存した受光率分布(瞳強度分布)となる。
図7(B)は、マイクロレンズの焦点位置における、マイクロレンズの光軸に垂直な断面の光強度分布を模式的に示している。点位置(z=0)で、集光スポットの直径は回折限界Δとなり、最小となる。
マイクロレンズ光学系の後側焦点深度+zDと前側焦点深度-zDは、回折限界Δを許容錯乱円として、以下の式(4)で求まる。焦点深度の範囲は、-zD<z<+zDである。
±zD=±n・F・Δ (4)
集光スポットの強度分布がガウス分布に近いとすると、座標zにおける集光スポットの直径wは、概ね、以下の式(5)で表すことができる。
w(z)=Δ{(1+(z/zR)2}1/2 (5)
ここで、zRはレイリー長であり、係数αR=0.61π≒1.92として、zR=αRzDで定義される。
図7に示す計算例では、波長λ=540nm、画素周期2a=4.3μm、マイクロレンズ光学系の焦点距離f=5.8μm、焦点位置での屈折率n=1.46、マイクロレンズ光学系の絞り値F=0.924とした。この場合、回折限界Δは約1.22μm、焦点深度±zDは約±1.65μmとなる。
図8に、本実施形態の第1瞳部分領域601と第2瞳部分領域602の、光入射角と受光率との関係例を示す。横軸は(瞳座標に換算できる)光の入射角度θを表し、縦軸は受光率を表す。図8に実線で示すグラフ線L1は、図4の第1瞳部分領域601のX軸に沿った受光率分布を表し、点線で示すグラフ線L2は、第2瞳部分領域602のX軸に沿った受光率分布を表す。
第1瞳部分領域601と第2瞳部分領域602に対する光入射角は結像光学系のレンズ枠や絞り枠で規定される射出瞳により制限される。そのため、図8に示すように、第1瞳部分領域L1、第2瞳部分領域L2の受光率は入射角が一定値に達すると急峻に低下する。一方、マイクロレンズによって瞳分割される範囲の入射角については、瞳部分領域の境界が回折の影響でボヤけるため、受光率は緩やかに変化する。ここでは瞳領域が水平方向に2分割されている例を示したが、瞳領域を垂直方向に分割してもよい。
撮像素子107の各画素は、1つのマイクロレンズを共有する複数の副画素を有している。個々の副画素は、結像光学系の瞳領域のうち、互いに異なる部分領域を通過する光束を受光する。本実施形態では2つの副画素が1つのマイクロレンズを共有する構成であるが、より多くの副画素が1つのマイクロレンズ共有してもよい。複数の副画素が1つのマイクロレンズを共有することで、各画素で全ての副画素の信号を合成すれば撮像信号として、副画素ごとの信号を焦点検出用の信号として用いることができる。しかし、第1副画素201だけが設けられた画素と、第2副画素202だけが設けられた画素を設けてもよい。この場合、1つの副画素のみを有する画素は焦点検出専用の画素になる。同様に、副画素に分割されていない光電変換領域を有する画素が設けられてもよい。この画素は、瞳部分領域601、602を合わせた領域を通過する光束を受光し、撮像専用の画素になる。
本実施形態では、撮像素子107の各画素の第1副画素201の画素信号に基づいて第1の焦点検出用信号を生成し、各画素の第2副画素202の画素信号に基づいて第2の焦点検出用信号を生成する。第1の焦点検出用信号と第2の焦点検出用信号とを用いて結像光学系のデフォーカス量を求め、デフォーカス量に従って結像光学系の焦点調節を行う、位相差AFを実行する。
また、撮像素子107の画素ごとに、第1副画素201および第2副画素202の信号を加算して読み出すことで、有効画素数Nの解像度を有する撮像信号(撮像画像)を生成することができる。また、各信号の生成方法は、本実施形態の形態に限らず、例えば、第2焦点検出用信号は、撮像信号から第1焦点検出用信号を減算して生成してもよい。
なお、撮像素子107の画素構成として、マイクロレンズ305に対して第1光電変換部301および第2光電変換部302を備える構成としたがこれに限られるものではない。例えば、マイクロレンズと光電変換部の間に一部に開口を有する遮光層を備える構成として瞳分割を行ってもよい。近接する画素において遮光層における開口位置を異ならせることによって、第1光電変換部301および第2光電変換部302に相当する信号を取得することができる。
[デフォーカス量と像ずれ量の関係]
第1の焦点検出用信号および第2の焦点検出用信号の像ずれ量とデフォーカス量との関係について説明する。図9は、デフォーカス量と像ずれ量との関係を示す図である。撮像素子107は撮像面600に配置されており、図4および図6と同様に、結像光学系の射出瞳400が瞳部分領域601、602に2分割されている。
デフォーカス量dは、その大きさ|d|が被写体像の結像位置から撮像面600までの距離を表す。被写体像の結像位置が撮像面600よりも被写体側にある前ピン状態では、負符号(d<0)とし、これとは反対の後ピン状態では正符号(d>0)として向きを定義する。被写体像の結像位置が撮像面(すなわち合焦位置)にある合焦状態では、d=0である。例えば、被写体701は合焦状態(d=0)に結像されているため合焦状態である。また、被写体702の結像位置は撮像面600より被写体側(d<0)であるため、前ピン状態である。以下では、前ピン状態(d<0)と後ピン状態(d>0)とを併せて、デフォーカス状態(|d|>0)という。
前ピン状態(d<0)では、被写体702から受光した光束のうち、第1瞳部分領域601(または第2瞳部分領域602)を通過した光束は、集光した後、光束の重心位置G1(またはG2)を中心として幅Γ1(またはΓ2)に広がる。この場合、撮像面600上で被写体702の像はボケた状態となる。ボケた像は、撮像素子107に配列された各画素を構成する第1副画素201(または第2副画素202)により受光され、第1の焦点検出用信号(または第2の焦点検出用信号)が生成される。
よって、第1の焦点検出用信号(または第2の焦点検出用信号)は、撮像面600上の重心位置G1(またはG2)で、幅Γ1(またはΓ2)をもった(ボケた)被写体像の画像データとしてメモリに記憶される。被写体像の幅Γ1(またはΓ2)は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね比例して増加する。同様に、第1の焦点検出用信号と第2の焦点検出用信号との間の像ずれ量を「p」とすると、像ずれ量の大きさ|p|はデフォーカス量dの大きさ|d|の増加に伴って増加する。
例えば、図9に示すように、像ずれ量pは光束の重心位置の差「G1-G2」として定義することができ、その大きさ|p|は、デフォーカス量の大きさ|d|の増加に概ね比例して増加する。なお、後ピン状態(d>0)では、第1の焦点検出用信号と第2の焦点検出用信号との間の像ずれ方向が前ピン状態とは反対となるが、デフォーカス量の大きさ|p|がデフォーカス量の大きさ|d|に比例する。
このように、第1の焦点検出用信号と第2の焦点検出用信号のデフォーカス量、または、第1および第2の焦点検出用信号を加算した撮像信号のデフォーカス量の大きさが増加するのに伴い、第1の焦点検出用信号と第2の焦点検出用信号の像ずれ量は増加する。
したがって、第1の焦点検出用信号と第2の焦点検出用信号の像ずれ量を検出し、像ずれ量をデフォーカス量に変換することにより、位相差AFを実現できる。第1の焦点検出用信号と第2の焦点検出用信号との像ずれ量は、第1の焦点検出用信号と第2の焦点検出用信号とを相対的にシフトさせて相関量を計算し、良好な相関(信号の一致度)が得られるシフト量から求めることができる。
ここまで、結像光学系の射出瞳を、撮像素子107における第1瞳強度分布501、第2瞳強度分布502により、第1瞳部分領域601、第2瞳部分領域602に瞳分割し、位相差AFを実現する原理ついて説明した。なお、実際には、第1瞳部分領域601および第2瞳部分領域602は、撮像素子107のセンサ入射瞳の瞳偏心量、入射瞳距離、および、結像光学系のレンズ枠ケラレの影響を受けるため、より複雑な形状となる。
図10を参照して、撮像素子107の瞳偏心量、入射瞳距離、および、結像光学系のレンズ枠ケラレと、第1瞳部分領域601および第2瞳部分領域602との関係について説明する。
[センサ入射瞳の瞳偏心]
撮像素子107のセンサ入射瞳(瞳強度分布501、502)は、製造誤差などに起因して、瞳偏心(瞳強度分布の光軸に対する偏心)が生じたり、入射瞳距離に誤差が生じたりる場合がある。
図10は、撮像素子107の全ての画素で、マイクロレンズ305から第1光電変換部301および第2光電変換部302の受光面までの距離が、設計値zsに対して、製造誤差などによってzs+dzs(誤差+dzs)となった状態を示している。また、距離zsがzs+dzsとなったことに伴い、撮像素子107の入射瞳距離が、設計値Zに対して、Z+dZ(誤差+dZ)となっている。
図10は、撮像素子107の全ての画素で、マイクロレンズ305が、第1光電変換部301および第2光電変換部302に対し、設計値よりも瞳分割方向(光電変換部の分割方向)に偏心(偏心量dxs)した状態も示している。また、マイクロレンズ305の光軸位置が設計値よりdxsだけ偏心したことに伴い、撮像素子107の入射瞳(瞳強度分布501、502)が、瞳分割方向(光電変換部の分割方向)に偏心(瞳偏心量dX)している。
入射瞳距離の誤差や瞳偏心は、撮像素子107を、カメラ本体に取り付ける際の組み付け誤差などによっても生じる場合がある。そして、瞳偏心量dX、入射瞳距離誤差+dZは、製造工程ごとに生じる誤差により、x方向およびy方向の像高に応じて異なる大きさとなる。すなわち、瞳偏心量dXおよび入射瞳距離誤差+dZには像高依存性がある。そのため、後述するように、像ずれ量からデフォーカス量へ変換するための変換係数を算出する際には、像高に応じた瞳偏心量dXおよび入射瞳距離Z+dZを考慮することで、精度の良い変換係数が算出できる。
[瞳偏心量および入射瞳距離の像高依存性]
図11は、複数の像高に対応する瞳偏心量dXおよび入射瞳距離Z+dZの情報を効率良く保持する方法の一例を示している。図11は、撮像素子107の画素領域を示しており、黒丸で示した位置1001~1005について、瞳偏心量dXおよび入射瞳距離誤差+dZの情報を保持する。これらの情報は、例えばカメラ本体の製造後に計測してROM135に保持することができる。また、入射瞳距離の設計値ZについてもROM135に保持する。
画素領域を中心を原点とする直交座標系によって上下左右の4象限に分割した場合、瞳偏心量dX、入射瞳距離誤差+dZは像高に依存した値を有するため、象限ごとに異なる光学特性を示す。ここで、像高は撮像素子107(画像領域)の中心を原点(像高=0)とし、方向に応じた符号を有する値であるものとする。
ここで、位置100n(n=1~5)の画素座標を(xi,yi)(i=0~4)とする。また、位置1001は画像領域の中心に等しいものとする。撮像素子107の光学特性は、像高の変化にともなって基本的には連続的に変化する。そのため、各象限について1つ以上の離散的な位置に関して瞳偏心量dX、入射瞳距離誤差+dZの情報を記憶することで、各画素における瞳偏心量dX、入射瞳距離誤差+dZを補間演算によって求めることができる。以下、瞳偏心量dXおよび入射瞳距離誤差+dZの情報をまとめて誤差情報と呼ぶ。
図11の例では、位置1002~1005を画素領域の中心(位置1001)に対して点対称、かつ座標軸を挟んで対称となるように配置した例を示している。この場合、x1=x4、y1=y2、x2=x3、y3=y4となる。同様の条件を満たす位置を各象限について2つ以上配置してもよい。
補間による誤差情報の算出例を説明する。第2象限(左上)に含まれる画素座標(x,y)に関する瞳偏心量dX(x,y)および入射瞳距離誤差+dZ(x,y)は、以下の様に算出することができる。
まず、位置1002および位置1003の誤差情報を線形補間して、位置1006(x0,(y1+y2)/2)の誤差情報を算出する。
次に、位置1003および位置1004の誤差情報を線形補間して、位置1007((x2+x3)/2,0)の誤差情報を算出する。
位置1001、1006、1003、1007を頂点とする矩形領域に含まれる画素座標における誤差情報は、位置1001、1006、1003、1007の誤差情報を2次元線形補間(バイリニア補間)することによって算出することができる。
他の象限に含まれる画素座標についても同様の方法で算出することで、位置1002~1005を頂点とする矩形領域に含まれる画素座標における誤差情報を算出することができる。
なお、補正の精度よりも演算の単純さを優先する場合、位置1002~1005の誤差情報を2次元線形補間(バイリニア補間)することで、位置1002~1005を頂点とする矩形領域内の画素座標における誤差情報を算出してもよい。この場合、位置1001の誤差情報は用いない。
一方、位置1002~1005を頂点とする矩形領域に含まれない各象限の画素座標における誤差情報は、位置1002~1005を頂点とする矩形領域に含まれる画素座標における誤差情報の外挿によって算出できる。あるいは、位置1002~1005を頂点とする矩形領域に含まれる画素座標のうち、最も近い画素座標における誤差情報、または位置1002~1005のうち最も近い画素座標における誤差情報を用いてもよい。
次に、誤差情報を考慮した変換係数の算出について説明する。変換係数は、焦点検出用信号の像ずれ量をデフォーカス量に変換するために用いる。ここでは、画素座標(x,y)における瞳偏心量dX(x,y)および入射瞳距離誤差+dZ(x,y)を考慮した変換係数K[dX(x,y)、Z+dZ(x,y)]を算出する。このような変換係数を用いることで、様々な像高に配置された焦点検出領域について高精度な焦点検出が可能となる。
撮像素子107は、基本的には中心位置の像高を基準として光学設計がなされる。したがって、誤差情報は、中心位置(x0,y0)に加え、各象限内の1つ以上の画素座標について保持すると、精度の良い変換係数を算出することができる。変換係数の具体的な算出方法については後述する。
なお、ここでは画素座標(x,y)における誤差情報を求めてから変換係数を算出する場合を説明した。しかし、位置1001~1005について、誤差情報を反映した変換係数を算出して記憶しておき、誤差情報と同様にして任意の画素座標における変換係数を求めてもよい。また、位置1001~1005についての入射瞳距離誤差+dZと、入射瞳距離の設計値zとを記憶する代わりに、位置1001~1005について誤差を含んだ入射瞳距離Z+dZを記憶してもよい。
また、図11に誤差情報を格納する位置としてい示した位置1001~1005は単なる例示である。各象限において誤差情報を保持する画素座標の像高を図11とは異ならせたり、各象限について像高の異なる複数の画素座標について誤差情報を保持したりしてもよい。
なお、上述の説明における瞳偏心量および入射瞳距離のモデルは単なる一例である。本発明は、像高に応じて変化する瞳偏心量および/または入射瞳距離を任意の画素座標について算出することが可能であれば、瞳偏心量および入射瞳距離をどのようなモデルで表現してもよい。
[レンズ枠ケラレ]
次に、図12と図13を参照して、画素領域の周辺領域(像高の大きな領域)の画素についての、レンズ枠によるケラレに関して説明する。レンズ枠とは、結像光学系を構成するレンズを保持する枠状の部材である。
図12は、周辺領域の画素における、撮像素子107のセンサ入射瞳の瞳偏心量、入射瞳距離、および、結像光学系のレンズ枠ケラレと、瞳部分領域(第1瞳部分領域601、第2瞳部分領域602)との関係を、+y側からのxz平面で示している。撮像素子107の入射瞳(瞳強度分布501、502)は、図10と対応しており、入射瞳距離Z+dZの瞳面で、瞳分割方向(光電変換部の分割方向)に、瞳偏心量dXだけ偏心しているものとする。
被写体703からの光束は、結像光学系の被写体側の第1の枠F1、結像光学系の絞り102である第3の枠F3、結像光学系の像側の第2の枠F2のそれぞれによって入射角が制限されて撮像面600に到達する。被写体703から結像光学系に入射した光束のうち、第1~第3の枠F1~F3によって遮られ(ケラレ)、撮像面600に到達できない光束は、周辺領域の画素ほど多くなる。
結像光学系の第1~第3の枠F1~F3でケラレた光束のうち、瞳強度分布501との重なり領域である第1瞳部分領域601を通過した光束は、第1副画素201(第1光電変換部301)で受光される。同様に、結像光学系の第1~第3の枠F1~F3でケラレた光束のうち、瞳強度分布502との重なり領域である第2瞳部分領域602を通過した光束は、第2副画素202(第2光電変換部302)で受光される。
本実施形態において第1~第3の枠F1~F3が、光軸を中心とする同心円の開口を有する枠状部材であるとして説明するが、開口の少なくとも一部が円弧で形成されなくてもおい。例えば、多角形やD字状の開口であってもよい。
図13では、撮像素子107の入射瞳距離Z+dZだけ離れた位置の瞳面における第1瞳部分領域601と第2瞳部分領域602を示している。結像光学系の第1~第3の枠F1~F3の開口の重なりである射出瞳が、撮像素子107のセンサ入射瞳(第1瞳強度分布501、第2瞳強度分布502)により、第1瞳部分領域601と第2瞳部分領域602に分割される。第1瞳部分領域601と第2瞳部分領域602の領域の形状は第1~第3の枠F1~F3の開口形状、枠のz方向の位置、画素の像高および誤差情報(瞳偏心量dX、入射瞳距離誤差+dZ(x,y))などの影響を受ける。
[デフォーカス量の算出処理]
次に、図14に示すフローチャートを参照して、CPU121が焦点検出プログラムを実行することによって実施されるデフォーカス量の算出処理について説明する。焦点検出プログラムはROM135に記憶されていてもよいし、記録媒体133に記録されていてもよい。
また、本実施形態では撮像装置100のCPU121が焦点検出処理を実行するが、パーソナルコンピュータ(PC)や専用の装置が焦点検出装置として焦点検出処理を実行してもよい。また、以下に説明する焦点検出処理をASICやFPGAなどのハードウェア回路を用いて実行してもよい。
S101でCPU121は、焦点検出領位置を設定する。焦点検出位置は、焦点検出領域の例えば中心もしくは重心に最も近い画素の座標であってよい。ここでは、焦点検出位置を、撮像素子107の画素領域の中心もしくは重心を原点とする直交座標系の座標(xAF,yAF)で設定する。焦点検出領域は例えば矩形領域である。なお、焦点検出領域は任意の公知の方法で決定することができる。
なお、画素領域の中心もしくは重心は結像光学系の光軸と略一致する。しかし、厳密には撮像素子107と結像光学系の位置にはある程度のばらつきが存在する。そのため、ばらつきの範囲を考慮して原点位置を決定してもよい。また、光学像ブレ補正機構による光軸位置のシフト量を考慮して焦点検出位置の座標を設定してもよい。
次に、座標(xAF,yAF)から、式(6)により、焦点検出位置の像高rAFを計算する。
rAF={xAF 2+yAF 2}1/2 (6)
S102で、CPU121(レンズ情報取得部121d)は、光学条件に応じたレンズ情報を取得する。具体的には、焦点検出位置の座標(xAF,yAF)と、結像光学系(交換レンズ)のフォーカス状態FS、ズーム状態ZS等の光学条件に応じたレンズ情報を取得する。レンズ情報は、結像光学系の結像面(撮像素子107の撮像面)から所定の瞳距離Zfだけ離れた位置の瞳面に投影された、結像光学系の物側の第1の枠(物側枠)F1の中心C1(xAF,yAF,FS,ZS)と半径R1(xAF,yAF,FS,ZS)を含む。さらに、枠情報は結像光学系の像側の第2の枠(像側枠)F2の中心C2(xAF,yAF,FS,ZS)と半径R2(xAF,yAF,FS,ZS)により構成されている。
また、レンズ情報は、結像光学系の絞り値F(xAF,yAF,FS,ZS)と、絞り枠の射出瞳距離LPO(xAF,yAF,FS,ZS)とにより構成されている。レンズ情報は、結像光学系が有する不揮発性メモリなどにあらかじめ記憶されており、CPU121(レンズ情報取得部121d)はレンズ通信回路130を通じて結像光学系と通信することにより、レンズ情報を取得することができる。また、撮像装置100のROM135にあらかじめ記憶されているレンズ情報の中から、装着された交換レンズに該当するレンズ情報を用いてもよい。なお、レンズ情報は任意のタイミングで取得することができるが、典型的にはレンズ交換時および撮像素子100の起動時であってよい。
また、レンズ情報は外部装置から例えばネットワーク経由で取得してもよい。また、光学条件として、フォーカス状態FS、ズーム状態ZS以外の情報を含んでもよい。例えば、エクステンダーの装着の状態や、チルトまたはシフト量、各種光学フィルタ装着の状態等を含んでもよい。
S102でCPU121は、次に、焦点検出位置の像高rAFと、結像光学系の絞り枠の射出瞳距離LPOから、所定の瞳距離Zfの瞳座標に投影した結像光学系の第3の枠F3の中心C3(xAF,yAF,FS,ZS)を、式(7)より算出する。
C3(xAF, yAF, FS, ZS) = rAF {1-Zf / LPO(xAF, yAF, FS, ZS) } (7)
また、CPU121は、焦点検出位置の像高rAFと、結像光学系の絞り値Fから、所定の瞳距離Zfの瞳座標に投影した結像光学系の第3の枠F3の半径R3(xAF,yAF.FS,ZS)を、
式(8)より算出する。
R3(xAF, yAF, FS, ZS) = Zf / (4F2-1)1/2 (8)
さらにCPU121は、レンズ情報に基づいて第1の開口パラメータa1および第2の開口パラメータa2を算出する。第1の開口パラメータa1および第2の開口パラメータa2は、レンズ枠によるケラレに関するパラメータである。図15に、結像光学系の結像面(撮像素子107の撮像面)から所定の瞳距離Zfだけ離れた位置の瞳面における、結像光学系の第1から第3の枠F1~F3の開口部の重なりである射出瞳の例を示す。開口部の中心C1からC3を通る直線が光軸である。
第1の開口パラメータa1(0≦a1≦1)は、第3の枠F3の開口部の中心C3から第1の枠F1の頂点P1までの距離A1を、第3の枠の半径R3で規格化した値である。ここで、頂点P1は、第1の枠F1の開口を円としたとき、中心C3からの距離が最短となる円周上の点である。同様に、第2の開口パラメータa2(0≦a2≦1)は、第3の枠の中心C3から第2の枠の頂点P2までの距離A2を、第3の枠の半径R3で規格化した値である。第1の開口パラメータa1は式(9A)により、第2の開口パラメータa2は式(9B)により、それぞれ算出される。
a1 = (R1-|C1-C3|) / R3 (9A)
a2 = (R2-|C2-C3|) / R3 (9B)
S103でCPU121(画素信号取得部121a)は、撮像素子107から、焦点検出用信号を取得する。具体的には、CPU121は、撮像素子107のそれぞれの画素200について、第1副画素201で得られる画素信号(A像信号)と、第2副画素202で得られる画素信号(B像信号)とを取得する。上述したように、これらの信号は、それぞれを副画素から読み出してもよいし、一方を副画素から読み出し、他方は撮像信号(A+B像信号)からA像信号またはB像信号を減じることによって取得してもよい。なお、予め撮像素子107により撮像され、記録媒体に保存されている焦点検出用信号を取得してもよい。
さらに、CPU121(信号生成部121b)は、取得した画素信号に基づいて、結像光学系の異なる第1瞳部分領域601に応じた第1焦点検出用信号と、第2瞳部分領域602に応じた第2焦点検出用信号を生成する。すなわち、同一の瞳部分領域に相当する画素からの信号に基づいてそれぞれの焦点検出用信号を生成する。
画素が水平方向Nx、垂直方向Nyの副画素に分割されており、1つの画素から得られる副画素信号群LF(総数Nx×Ny=NLF)とする。また、副画素信号群LFのうち、列方向iS(1≦iS≦Nx)番目、行方向jS(1≦jS≦Ny)番目の副画素から得られる信号を、k=Nx(jS-1)+iS(1≦k≦NLF)として、第k焦点検出用信号とする。結像光学系の第kの瞳領域に対応した、列方向i番目、行方向j番目の第k焦点検出用信号Ik(j,i)を、以下の式(10)により生成する。
Figure 2022132012000002
本実施形態は、Nx=2、Ny=1、NLF=2であり、各画素がx方向に分割された2つの副画素を有し、第1焦点検出用信号と第2焦点検出用信号が生成される例である。図2に例示したように配列された画素から、画素ごとに第1副画素201の信号を選択する。これにより、結像光学系の第1瞳部分領域601に対応した、画素数N(=水平画素数NH×垂直画素数NV)の解像度を有するベイヤー配列のRGB信号である第1焦点検出用信号I1(j,i)を生成する。同様に、第2副画素202の信号を選択することにより、結像光学系の第2瞳部分領域602に対応した第2焦点検出用信号I2(j,i)を生成する。
S103で生成手段としてのCPU121(信号生成部121b)は、ベイヤー配列のRGB信号である第k焦点検出用信号Ik(k=1,2)から、第k焦点検出輝度信号Yk(i,j)(k=1,2)を生成する。具体的には、CPU121(信号生成部121b)は、位置(j,i)ごとに、各色RGBの色重心を一致させて、第k焦点検出輝度信号Yk(i,j)(k=1,2)を、以下の式(11)により生成する。
Figure 2022132012000003
この際、焦点検出精度を向上するために、第k焦点検出輝度信号Ykに、瞳分割によって生じたシェーディングを補正する光量補正処理などを適用することができる。瞳分割によって生じたシェーディングも変換係数同様に、瞳偏心量、入射瞳距離、および結像光学系の絞り枠の影響を受ける。そのため、光量補正処理に使用する光量補正値は、外部装置によって算出工程の一部を実行してROM135にその結果(中間値)を保持してもよい。算出工程の一部を事前かつ外部で適用しておくことで、光量補正値の算出に係るCPU121の負荷を低減することができる。
ここでは、瞳偏心量、入射瞳距離、および結像光学系の絞り枠の影響を加味して複数の像高のそれぞれについて光量補正値SHDをあらかじめ算出してROM135に記憶しておくものとする。CPU121(信号生成部121b)は、レンズ情報と焦点検出位置に応じて適切な光量補正値SHDをROM135から取得し、式(12)に示すように第k焦点検出輝度信号Ykに適用することにより、光量を補正する。
Yk(j, i)=SHDk(j, i)・Yk(j, i) (12)
さらにCPU121(信号生成部121b)は、第k焦点検出輝度信号Yk(k=1,2)のそれぞれに対して、瞳分割方向(列方向)に、1次元バンドパスフィルタ処理を適用する。これにより、CPU121(信号生成部121b)はおおよそ波数kAFの成分に限定された第1焦点検出用信号dYAおよび第2焦点検出用信号dYBを生成する。
ここで適用する1次元バンドパスフィルタとしては、例えば、1次微分型フィルタ[1,5,8,8,8,8,5,1,-1,-5,-8,-8,-8,-8,-5,-1]を用いることができる。必要に応じて、1次元バンドパスフィルタの通過帯域を調整することができる。また、一般的に、位相差AFでは、大デフォーカス状態での焦点検出を行うため、フィルタの通過帯域は低周波帯域を含むように構成される。ただし、大デフォーカス状態から小デフォーカス状態まで焦点検出を行う場合には、デフォーカス状態に応じて、フィルタの通過帯域がより高周波帯域側になるように調整してもよい。
S104で像ずれ量算出手段としてのCPU121(焦点検出部121c)は、第1焦点検出用信号dYAおよび第2焦点検出用信号dYBに基づいて、像ずれ量を算出する。焦点検出位置(jAF,iAF)を中心として、行方向j2(-n2≦j2≦n2)番目、瞳分割方向である列方向i2(-m2≦i2≦m2)番目の略波数kAF成分に限定された第1焦点検出用信号をdYA(jAF+j2,iAF+i2)とする。さらに、第2焦点検出用信号をdYB(jAF+j2,iAF+i2)とする。シフト量をs(-ns≦s≦ns)として、各位置(jAF,iAF)での相関量COREVEN(jAF,iAF,s)を、式(13A)により算出し、相関量CORODD(jAF,iAF,s)を、式(13B)により算出する。ここで求める相関量は、値が小さいほど相関が高いことを示す。
Figure 2022132012000004
相関量CORODD(jAF,iAF,s)はシフト量を、相関量COREVEN(jAF,iAF,s)を求めるシフト量に対して半位相-1シフト分ずらした場合の相関量である。
S104では、次に、相関量COREVEN(jAF,iAF,s)と相関量CORODD(jAF,iAF,s)から、それぞれ、サブピクセル演算により、相関量が最小値となる実数値のシフト量を算出して平均値を算出する。そして、焦点検出位置(jAF,iAF)における像ずれ量qdetを算出する。
[変換係数の算出]
S105で、係数算出手段としてのCPU121(焦点検出部121c)は、S104で求めた像ずれ量qdetをデフォーカス量ddetへ変換するための変換係数Kを算出する。変換係数Kの算出方法について、図16に示すフローチャートを用いて詳細に説明する。以下では、各工程の処理をCPU121(焦点検出部121c)が実行するものとして説明する。しかし、一部の工程を外部装置によって算出工程の一部を実行してROM135にその結果(中間値)を保持してもよい。算出工程の一部を事前かつ外部で適用しておくことで、変換係数Kの算出に係るCPU121の負荷を低減することができる。
S201でCPU121(焦点検出部121c)は、仮想デフォーカス量dvirを設定する。仮想デフォーカス量dvirは、変換係数Kを決定するために設定する仮定のデフォーカス量である。CPU121は、例えば、被写体が十分ボケ得る所定のデフォーカス量を仮想デフォーカス量dvirに設定する。仮想デフォーカス量dvirは前ピン状態(dvir<0)であっても後ピン状態(dvir>0)であってもよい。
また、複数の仮想デフォーカス量dvirを設定してもよい。後述するように、変換係数Kは、略線形関係にある仮想デフォーカス量dvirと像ずれ量qdetとの比として算出される。つまり、変換係数Kは、横軸を仮想デフォーカス量dvir、縦軸を像ずれ量qdetとした直交座標系で仮想デフォーカス量dvirと像ずれ量qdetとの関係を表す直線の傾きに相当する。したがって、前ピン状態と後ピン状態の両方の仮想デフォーカス量dvirを設定することにより、変換係数Kを精度良く算出することができる。
S202でCPU121(焦点検出部121c)は、
・撮像素子107のセンサ入射瞳(第1瞳強度分布501、第2瞳強度分布502)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標(xAF,yAF)ごとの瞳偏心量dX(xAF,yAF)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標(xAF,yAF)ごとの入射瞳距離Z+dZ(xAF,yAF)を生成する。
さらに、CPU121(焦点検出部121c)は、
・第1仮想焦点検出用信号VI(j,i|dvir,dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)
・第2仮想焦点検出用信号VI(j,i|dvir,dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)
を生成する。
第1仮想焦点検出用信号VIおよび第2仮想焦点検出用信号VIは、
・仮想デフォーカス量dvir
・撮像素子107のセンサ入射瞳(第1瞳強度分布501、第2瞳強度分布502)、
・焦点検出位置の座標(xAF,yAF)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標(xAF,yAF)ごとの瞳偏心量dX(xAF,yAF)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標(xAF,yAF)ごとの入射瞳距離Z+dZ(xAF,yAF)、および
・結像光学系の枠情報(絞り値F、絞り枠の射出瞳距離LPO、第1の開口パラメーターa1、第2の開口パラメーターa2)
に対応している。なお、結像光学系の枠情報はここで例示したものに限定されない。
これらのパラメータのうち、
・撮像素子107のセンサ入射瞳(第1瞳強度分布501、第2瞳強度分布502)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標ごとの瞳偏心量dX(x,y)、および
・撮像素子107の個体ごと、かつ焦点検出位置の座標ごとの入射瞳距離Z+dZ(x,y)
は撮像素子107の個体ごとに変化しうる。これらの撮像素子107の個体ごとに変化しうるパラメータについては、例えば撮像素子107の製造時に測定し、撮像素子107が有する不揮発性メモリに調整値または固定値として記憶しておくことができる。
一方、焦点検出位置の座標(xAF,yAF)は、ユーザ操作に基づいて、またはユーザ操作に基づかずにCPU121によって撮像の都度決定される。そのため、焦点検出位置の座標(xAF,yAF)は変換係数Kの演算処理の際に取得する。
さらに、結像光学系の枠情報(絞り値F、絞り枠の射出瞳距離LPO)も、撮像ごとに変化し得る。また、第1の開口パラメータa1、第2の開口パラメータa2は、式(9A)および式(9B)で示すように結像光学系の枠の位置に依存するため、撮像ごとに変化し得る。CPU121(レンズ情報取得部121d)は、これらの結像光学系の状態に関するパラメータを、レンズ通信回路130を通じた、結像光学系(交換レンズ)との通信によって取得することができる。必要に応じて結像光学系からパラメータを取得することで、絞り値や焦点距離などの撮像条件に応じたパラメータを用い、より精度の良い変換係数Kを算出することができる。なお、撮像条件には他の項目が含まれてもよい。
変換係数Kを算出するには、変換係数Kのパラメータ(dX(xAF,yAF),Z+dZ(xAF,yAF)、xAF,yAF,F,LPO)に加えて、結像光学系の第1および第2の枠の中心C1,C2と半径R1,R2の値が必要となる。本実施形態では、レンズ枠ケラレの割合を示す第1の開口パラメータa1および第2の開口パラメータa2とを用いることで、変換係数Kの算出に必要なパラメータの総数を抑制することができる。
図17は、第1仮想焦点検出用信号VIIおよび第2仮想焦点検出用信号VIの生成方法を模式的に示す図である。はじめに、CPU121(信号生成部121b)は、
・撮像素子107の第1瞳強度分布501および第2瞳部分領域502、
・焦点検出位置の座標(xAF,yAF)、
・焦点検出位置の瞳偏心量dX(xAF,yAF)、
・焦点検出位置の入射瞳距離Z+dZ(xAF,yAF)、
・結像光学系の絞り値F、
・結像光学系の絞り枠の射出瞳距離LPO、
・第1の開口パラメータa1(0≦a1≦1)および第2の開口パラメータa2(0≦a2≦1)、を取得する。
CPU121(信号生成部121b)は、これらパラメータのうち、撮像条件に依存しない値については、ROM135に予め記憶されている値を取得したり、変換係数Kの算出処理の開始時に取得してRAM136に記憶して用いることができる。また、撮像条件に基づく値は、CPU121(信号生成部121b)が変換係数Kの算出処理の開始時に取得してRAM136に記憶して用いることができる。
次に、CPU121(信号生成部121b)は、結像光学系の絞り枠の射出瞳距離LPOから、所定の瞳距離Zfの瞳座標に投影した結像光学系の第3の枠(絞り枠)F3の中心C3を、式(7)により算出する。また、CPU121(信号生成部121b)は、結像光学系の絞り値Fから、所定の瞳距離Zfの瞳座標に投影した結像光学系の第3の枠(絞り枠)F3の半径R3を、式(8)により算出する。
次に、CPU121(信号生成部121b)は、第1から第3の枠F1~F3が同一点で交わると仮定したモデル(図15)を前提として、第1の開口パラメータa1から、仮想焦点検出用信号の生成に用いる第1の枠の半径R1’を式(14A)により算出する。同様に、CPU121(信号生成部121b)は、第2の開口パラメータa2から、仮想焦点検出用信号の生成に用いる第2の枠の半径R2’を式(14B)により算出する。
一般的に、第1から第3の枠F1~F3は同一点では交わらないが、同一点で交わる配置でモデル化することによって少ないパラメータで精度よく第1の枠F1と第2の枠F2の形状を算出することができる。これにより、変換係数Kの算出の精度を向上させることができる。
R1’={(a1×R3)2+R32}/{2(a1×R3)} (14A)
R2’={(a2×R3)2+R32}/{2(a2×R3)} (14B)
次に、CPU121(信号生成部121b)は、仮想焦点検出信号の生成に用いる第1の枠の中心C1’を、第1の枠の半径R1’、第1の開口パラメータa1、第3の枠F3の中心C3および半径R3から、C1’=C3-(R1’-a1×R3)と算出する。
同様に、CPU121(信号生成部121b)は、仮想焦点検出信号の生成に用いる第2の枠の中心C2’を、第2の枠の半径R2’、第2の開口パラメータa2、第3の枠F3の中心C3および半径R3から、C2’=C3+(R2’-a2×R3)と算出する。
以上のパラメータが取得、算出されると、CPU121(信号生成部121b)は、図17の上段左図に示す第1仮想瞳部分領域VP601および第2仮想瞳部分領域VP602を生成する。
第1仮想瞳部分領域VP601および第2仮想瞳部分領域VP602は、
・撮像素子107の第1瞳強度分布501および第2瞳強度分布502、
・焦点検出位置の座標(xAF,yAF)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標ごとの瞳偏心量dX(xAF,yAF)、
・撮像素子107の個体ごと、かつ焦点検出位置の座標ごとの入射瞳距離Z+dZ(xAF,yAF)、
・結像光学系の第1から第3の枠F1~F3
に対応している。
次に、CPU121(信号生成部121b)は、図17の上段中央図に示すように、第1仮想瞳部分領域VPを瞳分割方向に垂直な方向に射影し、仮想デフォーカス量dvirの大きさ|dvir|に応じたスケール変換を行い、第1仮想線像Aを生成する。
同様に、CPU121(信号生成部121b)は、第2仮想瞳部分領域VP602を瞳分割方向に垂直な方向に射影し、仮想デフォーカス量dvirの大きさ|dvir|に応じたスケール変換を行い、第2仮想線像Bを生成する。
仮想デフォーカス量dvirが前ピン状態の場合(<0)、CPU121(信号生成部121b)は、第1仮想線像Aと第2仮想線像Bを加算した線像A+Bの重心位置を中心として、第1仮想線像Aと第2仮想線像Bの左右を反転する。
CPU121(信号生成部121b)は、第1仮想線像Aおよび第2仮想線像Bのそれぞれと被写体信号との畳み込み積分(コンボリューション)を行い、第1仮想被写体像VAIおよび第2仮想被写体像VBIを生成する。これは、図17の上段中央図から上段右図に示す処理に相当する。
次に、CPU121(信号生成部121b)は、図17の上段右図から下段右図に示す処理を行う。CPU121(信号生成部121b)は、第1仮想被写体像VAIおよび第2仮想被写体像VBIに、順次、仮想的に、信号処理を適用する。この信号処理には、光学ローパスフィルタ処理、画素開口ローパスフィルタ処理、RGBベイヤー配列(図2)での画素サンプリング処理などが含まれる。
そして、CPU121(信号生成部121b)は、
・第1仮想焦点検出用信号VI(j,i|dvir,dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)と、
・第2仮想焦点検出用信号VI(j,i|dvir,dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)と、を生成する。
図16のS203(および、図17の下段)においてCPU121(焦点検出部121c)は、第1仮想焦点検出用信号VIおよび第2仮想焦点検出用信号VIを用いて、仮想的に、焦点検出処理を行う。仮想的な焦点検出処理には、S103における式(13A)および(13B)に示した相関量の算出から、S104における実数値のシフト量とその平均値の算出までの処理が含まれる。
そして、CPU121(焦点検出部121c)は、仮想像ずれ量qvir(dvir,dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)を算出する。
なお、複数種類の被写体信号を仮想線像との畳み込み積分に用いることにより、仮想像ずれ量qvirの算出精度を向上させることができる。例えば、異なる空間周波数帯域を有する複数の被写体信号を仮想線像との畳み込み積分に用い、個々の結果を平均したり重みづけ加算したりすることにより、仮想像ずれ量qvirの算出精度を向上させることができる。
図16のS204でCPU121(焦点検出部121c)は、仮想デフォーカス量dvirを、算出された仮想像ずれ量qvirで除算する。これにより、変換係数K(dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)が算出される。
なお、上述したように、仮想デフォーカス量dvirまたは被写体信号を複数用いて変換係数Kを算出することで、変換係数Kの精度を向上させることができる。ただし、演算負荷または演算時間が増加するため、CPU121の能力や負荷状況を考慮して、仮想デフォーカス量dvirまたは被写体信号を複数用いるか否かを決定してもよい。
図14に戻って、S106でCPU121(焦点検出部121c)は、像ずれ量qdetに変換係数K(dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)を乗算し、デフォーカス量ddetを算出する。なお、デフォーカス量ddetを撮像素子107から出力される画素信号に対して算出する例を説明したが、記録媒体133に記録済みの画素信号に対して算出してもよい。
本実施形態の撮像装置100は、結像光学系の瞳領域のうち、互いに異なる部分領域を通過した光を個別に光電変換して得られた画素信号を用いて焦点検出を行う焦点検出装置である。撮像装置100は、画素信号を用いてそれぞれの部分領域に対応する焦点検出用信号を生成し、焦点検出用信号に基づいて像ずれ量を算出する。撮像装置100はまた、像ずれ量に変換係数を適用してデフォーカス量を求める。撮像装置100は、仮想デフォーカス量を設定して生成した仮想焦点検出用信号の相関量から仮想像ずれ量を算出し、仮想像ずれ量と仮想デフォーカス量とから、変換係数を算出する。変換係数は、撮像素子の瞳偏心量と、撮像素子の入射瞳距離と、結像光学系の複数の枠の開口情報とに基づく。
本実施形態では、撮像装置100のCPU121が変換係数Kを算出する例を説明した。しかし、変換係数Kのパラメータ(dX(xAF,yAF),Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)の複数の組み合わせに対応する変換係数Kを予め用意しておくこともできる。この場合、変換係数Kは、撮像装置100のROM135などの不揮発性記憶装置に格納しておき、焦点検出処理の実行時に用いることができる。
図18に、第1の開口パラメータa1(0≦a1≦1)、第2の開口パラメータa2(0≦a2≦1)の値に応じた第1仮想瞳部分領域VP601および第2仮想瞳部分領域VP602の変化例を示す。
(変形例)
変換係数の逆数1/K(dX(xAF,yAF)、Z+dZ(xAF,yAF),xAF,yAF,F,LPO,a1,a2)を、変数(1-a1)および変数(1-a2)の多項式関数で近似することで、撮像装置100のROM135に格納するデータ量を抑制できる。具体的には、多項式関数の各次数の係数PDαβ(dX,Z,xAF,yAF,F,LPO)をROM135に格納することができる。
この場合、S105では、CPU121は、図16に示す工程ではなく、以下の式(15)によって変換係数Kを算出することができる。
Figure 2022132012000005
係数PDαβを記憶しておき、撮像時に焦点検出位置や撮像条件などを適用することにより、CPU121は変換係数Kを算出する。このように、事前に用意された係数と式(15)とを用いて変換係数Kを算出することにより、CPU121の演算負荷を低減し、高速な焦点検出を実現することができる。
記憶しておく係数PDαβは、第1の開口パラメータa1、第2の開口パラメータa2を用いない。そのため、設定可能な絞り値Fの範囲と、結像光学系の絞り枠の射出瞳距離LPOの取り得る範囲とが決まっていれば、結像光学系に依存せずに変換係数Kを算出することができる。
なお、変換係数Kの算出に係るCPU121の負荷を軽減する別の方法として、変換係数kをCPU121とは別のハードウェアで算出するようにしてもよい。変換係数Kを算出する回路を例えばASCIやFPGAなどを用いて実現し、撮像装置100に設けても良い。また、式(15)を用い、様々な撮像条件や焦点検出位置について変換係数Kを事前に算出してROM153および交換レンズ内の不揮発性メモリの少なくとも一方に格納しておいてもよい。交換レンズ内の不揮発性メモリに格納された偏見係数Kは、CPU121(レンズ情報取得部121d)がレンズ通信回路130を通じて取得する。
なお、図13から、絞り値Fが十分に大きい(絞りの開口が十分に小さい)場合、第1瞳部分領域601および第2瞳部分領域602は第1の枠F1および第2の枠F2の影響をほとんど受けず、実質的に第3の枠F3によって決定されることが分かる。これは、絞り値Fが十分に大きい場合、第1の開口パラメータa1および第2の開口パラメータa2が変換係数Kに与える影響が小さくなることを意味する。
したがって、本実施形態で説明した変換係数Kの算出方法は絞り値Fが小さい(絞りの開口が大きい)場合に特に好適である。一方、絞り値Fが大きい(絞りの開口が小さい)場合、CPU121の負荷状況によっては従来の方法で変換係数を取得してもよい。例えば、絞り値Fが閾値以上であれば従来の方法で、絞りFが閾値未満であれば本実施形態の方法で変換係数を算出することで、高精度の焦点検出と演算負荷の低減とを両立することができる。
本実施形態では、2次元撮像素子から得られる焦点検出用信号を用いて撮像面位相差AFを実行する焦点検出装置において、製造誤差などに起因して発生する、像高に応じた瞳偏心量および入射瞳距離の変化の少なくとも一方を考慮して焦点検出を行うようにした。具体的には、焦点検出位置における瞳偏心量および入射瞳距離の少なくとも一方を考慮して、焦点検出用信号を生成し、ずれ量を算出する。また、ずれ量をデフォーカス量に変換する変換係数についても、焦点検出位置における瞳偏心量および入射瞳距離の少なくとも一方を考慮して算出するようにした。
これにより、レンズ交換式の撮像装置において、実際に取り付けられている撮像素子と、装着された交換レンズ(結像光学系)との任意の組み合わせに対して、焦点検出位置に適した変換係数を高精度に算出することができ、高精度な焦点検出精度を実現できる。
●(第2実施形態)
次に、本発明の第2実施形態について説明する。第1実施形態は、像高に応じて変化する瞳偏心量dXおよび入射瞳距離誤差dZを考慮して変換係数Kを算出することにより、変換係数Kの精度を向上させるものであった。本実施形態は、瞳強度分布の形状の差異に起因する変換係数Kの精度低下を補正することで、変換係数Kの精度をより向上させる。
図19は、設計特性や平均特性等など、基準となる2次元基準瞳強度分布の瞳面X軸断面と、撮像装置100のカメラ本体に固有の1次元補正用瞳強度分布とを示している。横軸は入射角度[deg]である。2次元瞳強度分布は1次元瞳強度分布より角度範囲が広く、データ量が多い。そのため、2次元基準瞳強度分布を用いて基準の変換係数Kを予め算出し、カメラ本体に固有の1次元補正用瞳強度分布に基づいて、基準の変換係数Kを相対的に補正することで、個々のカメラ本体の特性に応じた高精度な変換係数Kを得ることができる。
図19(a)において、1801は、図4の第1瞳強度分布501に対応した基準となる2次元基準瞳強度分布の瞳面X軸断面、1802は、図4の第2瞳強度分布502に対応した基準となる2次元基準瞳強度分布の瞳面X軸断面をそれぞれ示している。一方、1803は、図4の第1瞳強度分布501に対応した、カメラ本体に固有の1次元補正用瞳強度分布、1804は、図4の第2瞳強度分布502に対応した、カメラ本体に固有の1次元補正用瞳強度分布を示している。カメラ本体に固有の1次元補正用瞳強度分布は、カメラ本体の個体ごとに(一台一台で)異なる。交点1805は、1対の2次元基準瞳強度分布の瞳面X軸断面1801と1802の交点、および、1対の1次元補正用瞳強度分布1803と1804の交点を示している。
図19(b)において、1806は、図19(a)の2次元基準瞳強度分布1801を、1次元補正用瞳強度分布1803を用いて、交点1805近傍領域での形状の一致度が高くなるようにスケール変換した、補正後の2次元瞳強度分布を示している。同様に、1807は、図19(a)の2次元基準瞳強度分布1802を、1次元補正用瞳強度分布1804を用いて、交点1805近傍領域での形状の一致度が高くなるようにスケール変換した補正後の2次元瞳強度分布の瞳面X軸断面を示している。
図20(a)から(c)を用いて、本実施形態における変換係数Kの補正値算出方法について説明する。図20(a)において、縦に延びる点線1901は結像光学系が有する絞り枠を示す。
図20(b)において、破線1902は、2次元基準瞳強度分布の瞳面X軸断面1801に、絞り枠1901によるケラレの影響を加味して導出された線像を示す。
また、破線1903は、2次元基準瞳強度分布の瞳面X軸断面1802に、絞り枠1901のケラレの影響を加味して導出された線像を示す。
実線1904は補正後の2次元瞳強度分布の瞳面X軸断面1806に、絞り枠1901のケラレの影響を加味して導出された線像を示す。
実線1905(実線)は、2次元補正後瞳強度分布の瞳面X軸断面1807が、絞り枠1901のケラレの影響を加味して導出された線像を示す。
また、1906(BL1)は、線像1902と線像1903の重心差である基線長を示し、1907(BL2)は、線像1904と線像1905の重心差である基線長を示している。
本実施形態では、これらの基線長BL1およびBL2の比較に基づいて、高精度な変換係数Kの補正値を算出する。具体的には、変換係数Kの補正値Correstion_Kは、図20(b)に示す基線長1906(BL1)と、基線長1907(BL2)を用いて、以下の式(16)によって算出される。
Correction_K=BL1/BL2 (16)
変換係数は基線長の逆数であるため、変換係数に適用する補正値Correction_Kは基線長1907(BL2)に対する基線長1906(BL1)の比として算出される。基線長を補正する場合、補正値はBL2/BL1となる。
なお、設計上の2次元基準瞳強度分布の基線長情報と、撮像装置の固体情報である1次元補正用瞳強度分布の基線長情報との比較に基づいて導出されれば、変換係数の補正値Correction_Kは式(16)以外の形式であってもよい。
式(16)で導出した変換係数の補正値Correction_Kを適用することで、変換係数の精度を向上させることができる。さらに、焦点検出時に焦点検出用信号に対してバンドパスフィルタ処理を適用する場合は、焦点検出用信号の空間周波数帯域を考慮した補正値を算出することにより、変換係数のさらなる精度向上が実現できる。
図20(c)において、
破線1908は、線像1902にバンドパスフィルタ処理を適用した結果(絶対値)、
破線1909は、線像1903にバンドパスフィルタ処理を適用した結果(絶対値)、
実線1910は、線像1904にバンドパスフィルタ処理を適用した結果(絶対値)、
実線1911は、線像1905にバンドパスフィルタ処理を適用した結果(絶対値)、
をそれぞれ示す。
また、1912(BL1’)は、破線1908および1909で示した、バンドパスフィルタ処理後の線像(絶対値)の重心の差である基線長を示している。同様に、1913(BL2’)は、実線1910および1911で示した、バンドパスフィルタ処理後の線像(絶対値)の重心の差である基線長を示している。
CPU121(焦点検出部121c)は、線像1902~1905のそれぞれに、焦点検出処理において焦点検出用信号に適用するものと同様のバンドパスフィルタを適用し、フィルタ処理後の線像(絶対値)1908~1911を導出する。その後、CPU121(焦点検出部121c)は、フィルタ処理後の線像(絶対値)1908、1909の重心の差である基線長1912(BL1’)を求める。同様に、CPU121(焦点検出部121c)は、フィルタ処理後の線像(絶対値)1910、1911の重心の差である基線長1913(BL2’)を算出し、式(17)によって変換係数Kの補正値Correstion_Kを算出する。
Correction_K=BL1’/BL2’ (17)
式(16)と式(17)は、基線長を算出する線像の処理内容に差があることを除けば本質的に同一である。そのため、線像にバンドパスフィルタ処理を適用する場合も、変換係数の補正値Correction_Kは式(17)以外の形式であってよい。
変換係数の補正値Correction_Kは、焦点検出位置の座標ごとに算出してもよいし、離散的な複数の代表座標についてのみ算出し、他の座標については補間などによって算出してもよい。
第1瞳強度分布501と第2瞳強度分布502の交点1805近傍領域の曲線形状は、撮像素子107上の座標による変化が小さい。そのため、変換係数の補正値Correction_Kについても、撮像素子107上の座標による変化量が小さい。この特性を利用して、例えば、中央座標(0,0)近傍の1座標について変換係数の補正値Correction_Kを算出し、全ての変換係数に共通する補正値として用いてもよい。
共通して用いる補正値Correction_Kを算出する座標は、焦点検出位置との最大距離が短い中央座標(0,0)もしくはその近傍とすることができる。なお、変換係数の補正値Correction_Kは、基線長を用いない方法で算出してもよい。例えば、基準となる2次元基準瞳強度分布と、カメラ本体に固有な1次元補正用瞳強度分布との相対関係などに基づいて、変換係数の補正値Correction_Kを算出することもできる。
なお、変換係数の補正値Correction_Kは、CPU121(焦点検出部121c)が算出する代わりに、予め記憶されたものを用いてもよい。例えば、像高ごとの変換係数Kと対応する補正値Correction_Kとを、ROM135に予め記憶しておき、レンズ情報と焦点検出位置の像高レンズ情報とに応じて変換係数Kと変換係数の補正値Correction_Kとを取得してもよい。
CPU121(焦点検出部121c)は、焦点検出処理に用いる最終的な変換係数K’を、第1実施形態で算出した変換係数Kと、補正値Correction_Kとから、式(18)によって算出する。
K’=Correction_K・K (18)
CPU121(焦点検出部121c)は、このようにして算出した変換係数K’を図14のS106におけるデフォーカス量の算出に用いる。すなわち、CPU121(焦点検出部121c)は、S104で求められた像ずれ量qdetに、S105で求められた変換係数Kを補正して得られる変換係数K’を適用し、デフォーカス量ddetを式(19)に示すように算出する。
ddet=K’・qdet (19)
本実施形態においても、デフォーカス量ddetを撮像素子107から出力される画素信号に対して算出する例を説明したが、記録媒体133に記録済みの画素信号に対して算出してもよい。
本実施形態では、基準となる2次元基準瞳強度分布と、撮像装置に固有の1次元補正用瞳強度分布との形状の差異に応じて、2次元基準瞳強度分布を用いて算出された変換係数Kを補正するようにした。これにより、例えば撮像装置に取り付けられている撮像素子が有するマイクロレンズの高さのばらつきなどに起因した瞳強度分布の形状の差異が変換係数の精度に与える影響を補正し、より精度の高い変換係数を算出することができる。その結果、第1実施形態の効果に加え、さらなる焦点検出精度の向上が実現できる。
●(第3実施形態)
次に、本発明の第3実施形態について説明する。本実施形態は、撮像素子107の構成、具体的には副画素の分割方法が第1および第2実施形態とは異なる。他の構成は第1および第2実施形態と同様であるため、重複する説明は省略する。
具体的には、図21および図22に示すように、本実施形態の撮像素子107は、各画素の光電変換部が列方向に加え行方向にも2分割され、第1~第4副画素201~204を有している。画素ごとに第1~第4副画素201~204の信号を加算することで、撮像信号(撮像画像)が生成される。
図21は、撮像素子107の画素(撮像画素)配列を示す図である。図22は、撮像素子107の画素構造を示す図であり、図22(a)は撮像素子107の画素200Gの平面図(+z方向から見た図)、図22(b)は図22(a)中の線a-aの断面図(-y方向から見た図)をそれぞれ示している。図21および図22において、図2および図3と共通する構成については同じ参照数字を付して説明を省略する。
図21は、本実施形態における撮像素子107の画素(単位画素)配列を4列×4行の範囲で、副画素配列を8列×8行の範囲で示している。
4列×4行の画素群200には、図2と同様に原色ベイヤ配列のカラーフィルタが設けられている。さらに、各画素(単位画素)は、光電変換領域がx方向に2分割、y方向に2分割され、第1~第4副画素201~204の複数の副画素により構成されている。
第1~第4副画素201~204は1つのマイクロレンズを共有する。第1副画素201は、結像光学系の第1瞳部分領域を通過した光束を受光する。第2副画素202は、結像光学系の第2部分瞳領域を通過した光束を受光する。第3副画素203は、結像光学系の第3瞳部分領域を通過した光束を受光する。第4副画素204は、結像光学系の第4瞳部分領域を通過した光束を受光する。
本実施形態の撮像素子107は、例えば、画素の周期Pが6μm、画素の数Nが横6000列×縦4000行=2400万画素である。したがって、撮像素子107は、副画素の列方向および行方向の周期PSUBがそれぞれ3μm、副画素の数NSUBが横12000列×縦8000行=9600万画素である。
図22(b)に示されるように、本実施形態の画素200Gには、画素の受光面側に入射光を集光するためのマイクロレンズ305が設けられている。マイクロレンズ305は、2次元状に複数配列されており、受光面からz軸方向(光軸OAの方向)に所定の距離だけ離れた位置に配置されている。また画素200Gには、x方向にNH分割(2分割)、y方向にNV分割(2分割)された第1光電変換部301、302、303、304が形成されている。第1光電変換部301~304はそれぞれ、副画素201~204に対応する。
本実施形態では、撮像素子107の各画素の第1副画素201および第3副画素203の画素信号に基づいて第1の焦点検出用信号を生成し、各画素の第2副画素202および第4副画素204の画素信号に基づいて第2の焦点検出用信号を生成する。また、撮像素子107の各画素の第1~第4副画素201~204の画素信号を加算することにより、有効画素数Nの解像度を有する撮像信号(撮像画像)を生成することができる。
なお、第1の焦点検出用信号を第1副画素201および第2副画素202の画素信号に基づいて生成し、第2の焦点検出用信号を第3副画素203および第4副画素204の画素信号に基づいて生成してもよい。あるいは、第1の焦点検出用信号を第1副画素201および第4副画素204の画素信号に基づいて生成し、第2の焦点検出用信号を第2副画素202および第3副画素203の画素信号に基づいて生成してもよい。
第1の焦点検出用信号および第2の焦点検出用信号の生成に用いる画素信号が異なることを除き、第1および第2実施形態のいずれかに従って焦点検出を行うことができる。本実施形態では、第1または第2実施形態の効果に加え、動的に瞳分割方向を変更できるという効果を有する。
(その他の実施形態)
各実施形態で説明した撮像ユニットおよび撮像装置は様々なアプリケーションに適用可能である。例えば、撮像ユニットは可視光以外にも赤外光、紫外光、X線等の光のセンシングに用いることが可能である。また、撮像装置はデジタルカメラに代表されるが他にも、スマートフォン等のカメラ付携帯電話、監視カメラ、ゲーム機器等にも適用可能である。さらに、内視鏡や血管撮像を行う医療機器や、肌や頭皮を観察する美容機器、スポーツやアクション動画を撮像するためのビデオカメラに適用できる。そして、交通や船舶監視やドライブレコーダー等の交通目的カメラ、天体観測や検体観察等の学術用途カメラ、カメラ付き家電製品、マシンビジョン等にも適用可能である。特にマシンビジョンとして、工場等におけるロボットには限られず、農業や漁業での活用も可能である。
また、上述の実施形態に示した撮像装置の構成は、一例を示したものであり、本発明を適用可能な撮像装置は、図1に示した構成に限定されるものではない。また、撮像装置の各部の回路構成も、各図に示した構成に限定されるものではない。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は上述した実施形態の内容に制限されず、発明の精神および範囲から離脱することなく様々な変更及び変形が可能である。したがって、発明の範囲を公にするために請求項を添付する。
100…撮像装置、107…撮像素子、121…CPU、121a…画像信号取得部、121b…信号生成部、121c…焦点検出部、121d…レンズ情報取得部、130…レンズ通信回路

Claims (13)

  1. 撮像素子から得られる信号に基づいて第1の焦点検出用信号と第2の焦点検出用信号とを生成する生成手段と、
    前記第1の焦点検出用信号と前記第2の焦点検出用信号の像ずれ量を算出する像ずれ量算出手段と、
    前記像ずれ量を結像光学系のデフォーカス量に変換する変換係数を算出する係数算出手段と、
    前記像ずれ量に前記変換係数を適用してデフォーカス量を検出する検出手段と、を有し、
    前記係数算出手段は、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離の少なくとも一方に基づいて変換係数を算出することを特徴とする焦点検出装置。
  2. 前記係数算出手段は、複数の像高について予め記憶された瞳偏心量から前記焦点検出位置における瞳偏心量を求め、前記変換係数の算出に用いることを特徴とする請求項1に記載の焦点検出装置。
  3. 前記係数算出手段は、複数の像高について予め記憶された入射瞳距離から前記焦点検出位置における入射瞳距離を求め、前記変換係数の算出に用いることを特徴とする請求項1または2に記載の焦点検出装置。
  4. 前記係数算出手段は、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離の少なくとも一方に加え、結像光学系が有する複数の枠の開口情報に基づいて前記変換係数を算出することを特徴とする請求項1から3のいずれか1項に記載の焦点検出装置。
  5. 前記係数算出手段は、仮想デフォーカス量を、前記仮想デフォーカス量に対して前記像ずれ量算出手段で算出された前記第1の焦点検出用信号と前記第2の焦点検出用信号の像ずれ量で除算することにより前記変換係数を算出することを特徴とする請求項1から4のいずれか1項に記載の焦点検出装置。
  6. 前記係数算出手段は、結像光学系が有するレンズ枠の情報から得られる開口パラメータを変数とし、前記変換係数の逆数を近似する多項式関数の係数を用いて前記変換係数を算出することを特徴とする請求項1から5のいずれか1項に記載の焦点検出装置。
  7. 前記係数算出手段は、撮像時の絞り値が閾値以上の場合、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離に基づかない変換係数を算出することを特徴とする請求項1から6のいずれか1項に記載の焦点検出装置。
  8. 前記係数算出手段は、基準となる2次元瞳強度分布と、前記焦点検出装置に固有の1次元瞳強度分布との形状の差異に基づいて前記変換係数を補正し、
    前記検出手段は、前記像ずれ量に、補正された前記変換係数を適用してデフォーカス量を検出する、
    ことを特徴とする請求項1から7のいずれか1項に記載の焦点検出装置。
  9. 前記係数算出手段は、前記結像光学系の射出瞳の、異なる部分領域に対応する1対の前記2次元瞳強度分布から得られる1対の線像の基線長と、前記1対の前記2次元瞳強度分布を対応する前記1次元瞳強度分布に基づいて補正した2次元瞳強度分布から得られる1対の線像の基線長との比を用いて前記変換係数を補正することを特徴とする請求項8に記載の焦点検出装置。
  10. 前記撮像素子の画素が複数の副画素を有し、前記生成手段は、前記第1の焦点検出用信号と前記第2の焦点検出用信号を、それぞれ異なる副画素から得られる信号に基づいて生成することを特徴とする請求項1から9のいずれか1項に記載の焦点検出装置。
  11. 撮像素子と、
    請求項1から10のいずれか1項に記載の焦点検出装置と、を有し、
    前記焦点検出装置が検出したデフォーカス量に基づいて結像光学系の焦点調節を行うことを特徴とする撮像装置。
  12. 焦点検出装置が実行する焦点検出方法であって、
    撮像素子から得られる信号に基づいて第1の焦点検出用信号と第2の焦点検出用信号とを生成する生成工程と、
    前記第1の焦点検出用信号と前記第2の焦点検出用信号の像ずれ量を算出する像ずれ量算出工程と、
    前記像ずれ量を結像光学系のデフォーカス量に変換する変換係数を算出する係数算出工程と、
    前記像ずれ量に前記変換係数を適用してデフォーカス量を検出する検出工程と、を有し、
    前記係数算出工程では、焦点検出位置の像高に応じた瞳偏心量および入射瞳距離の少なくとも一方に基づいて変換係数を算出することを特徴とする焦点検出方法。
  13. コンピュータを、請求項1から10のいずれか1項に記載の焦点検出装置が有する各手段として機能させるためのプログラム。
JP2021093767A 2021-02-26 2021-06-03 焦点検出装置、焦点検出方法、および撮像装置 Pending JP2022132012A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/679,197 US11889186B2 (en) 2021-02-26 2022-02-24 Focus detection device, focus detection method, and image capture apparatus

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021030626 2021-02-26
JP2021030626 2021-02-26

Publications (1)

Publication Number Publication Date
JP2022132012A true JP2022132012A (ja) 2022-09-07

Family

ID=83153294

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021093767A Pending JP2022132012A (ja) 2021-02-26 2021-06-03 焦点検出装置、焦点検出方法、および撮像装置

Country Status (1)

Country Link
JP (1) JP2022132012A (ja)

Similar Documents

Publication Publication Date Title
US11140311B2 (en) Detecting apparatus and detecting method
US20190219793A1 (en) Focus detection device and image-capturing apparatus
US9605944B2 (en) Distance measuring device and distance measuring method
GB2488519A (en) Multi-channel image sensor incorporating lenslet array and overlapping fields of view.
CN107431755B (zh) 图像处理设备、摄像设备、图像处理方法和存储介质
JP6381266B2 (ja) 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体
JP6746359B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム、および、記憶媒体
JP2018139272A (ja) 撮像素子および撮像装置
US20170257583A1 (en) Image processing device and control method thereof
JP6942480B2 (ja) 焦点検出装置、焦点検出方法、および焦点検出プログラム
JP2022000695A (ja) 撮像装置
JP2012252280A (ja) 撮像装置
US11889186B2 (en) Focus detection device, focus detection method, and image capture apparatus
JP2016111678A (ja) 撮像素子、撮像装置、焦点検出装置ならびに画像処理装置およびその制御方法
JP7146477B2 (ja) 検出装置および検出方法
JP6285683B2 (ja) 撮像装置及びその制御方法
KR20170015170A (ko) 촬상장치 및 그 제어방법
JP2022132012A (ja) 焦点検出装置、焦点検出方法、および撮像装置
JP6525829B2 (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2017069815A (ja) 画像処理装置および画像処理方法、撮像装置およびその制御方法
JP2015121778A (ja) 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP7237476B2 (ja) 焦点検出方法
JP7395326B2 (ja) レンズ装置、撮像装置、通信方法、および、プログラム
JP2018116267A (ja) 焦点検出装置および方法、および撮像装置
JP2017223763A (ja) 撮像装置