JP6000520B2 - 撮像装置およびその制御方法およびプログラム - Google Patents

撮像装置およびその制御方法およびプログラム Download PDF

Info

Publication number
JP6000520B2
JP6000520B2 JP2011162093A JP2011162093A JP6000520B2 JP 6000520 B2 JP6000520 B2 JP 6000520B2 JP 2011162093 A JP2011162093 A JP 2011162093A JP 2011162093 A JP2011162093 A JP 2011162093A JP 6000520 B2 JP6000520 B2 JP 6000520B2
Authority
JP
Japan
Prior art keywords
focus
image
evaluation
correlation
contrast
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011162093A
Other languages
English (en)
Other versions
JP2013025246A (ja
Inventor
木村 正史
正史 木村
福田 浩一
浩一 福田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2011162093A priority Critical patent/JP6000520B2/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to US14/131,229 priority patent/US9019424B2/en
Priority to PCT/JP2012/069276 priority patent/WO2013015437A1/en
Priority to GB1400663.9A priority patent/GB2506084B/en
Priority to CN201280036923.1A priority patent/CN103703401B/zh
Priority to RU2014106864/28A priority patent/RU2562394C1/ru
Priority to DE112012003105.9T priority patent/DE112012003105B4/de
Publication of JP2013025246A publication Critical patent/JP2013025246A/ja
Priority to US14/657,250 priority patent/US9279955B2/en
Application granted granted Critical
Publication of JP6000520B2 publication Critical patent/JP6000520B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/34Systems for automatic generation of focusing signals using different areas in a pupil plane
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/285Systems for automatic generation of focusing signals including two or more different focus detection devices, e.g. both an active and a passive focus detecting device
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/28Systems for automatic generation of focusing signals
    • G02B7/36Systems for automatic generation of focusing signals using image sharpness techniques, e.g. image processing techniques for generating autofocus signals
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Studio Devices (AREA)
  • Automatic Focus Adjustment (AREA)
  • Focusing (AREA)

Description

本発明は、被写体像を光電変換する撮像素子を有する撮像装置およびその制御方法に関し、特に撮像素子から出力される光電変換信号に基づくオートフォーカス(以下AF)制御装置および方法に関する。
従来、デジタルカメラなどでのピント調整のためのオートフォーカス制御として、例えば主にデジタル一眼レフカメラで使用される位相差AF制御とコンパクトカメラなどに使用されるコントラストAF制御がある。これらのAF制御の特徴は、例えば位相差AFでは高速なピント調整が可能であること、またコントラストAFでは厳密なピント合わせが可能であることである。
例えば、特許文献1には、位相差AFセンサの信号に基づいてコントラスト評価を行う方法が開示されている。また、特許文献2には、異なる瞳領域を通過した光束を個別に受光可能な撮像素子を使用し、撮像素子から出力された撮像信号を用いて(即ち撮像後に)ピント調整を行った画像を生成する手法が開示されている。
特開平7−199052号公報 特開2007−4471号公報
しかしながら、上述の特許文献に開示された従来技術では、十分なピント精度が得られず、狙った被写体にピントが合わない像しか得られない場合がある。すなわち特許文献1では、コントラスト計算を行うセンサと撮像を行うセンサが異なっているので必ずしもピント精度を向上できない場合がある。特許文献2では、撮影後にピント位置を変化させた像を得ることができるが、ピントを正確に変化させることができる範囲には限界があり、それを超えた場合には正常に像を得ることが困難となる。
そこで、本発明の目的は、撮像素子に入射する異なる瞳領域を通過した光束の情報に基づいて位相差AFとコントラストAFを同時に実現することで、高速かつ合焦精度の高いAFを行う撮影を可能にした撮像装置を提供することである。
上記本発明の目的を達成するため、本発明の撮像装置は、複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段と、前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段と、前記相関ピント位置が、前記像生成手段が生成する画像のピント位置より合焦位置から遠いとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置が、前記像生成手段が生成する画像のピント位置より合焦位置に近いとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段と、を備える
本発明によれば、高速かつ合焦精度の高いAF制御を可能にした撮影を行える撮像装置を提供することができる。
本発明の実施形態に係わる撮影装置のシステム構成を示すブロック図 本発明の第1の実施例に係わる撮影動作のフローチャートを示す図 本発明の第1の実施例に係わる撮影装置の光学系の概念図 本発明の第1の実施例に係わるAF制御のフローチャートを示す図 本発明の第1の実施例に係わるAF制御のフローチャートを示す図 像の再構成動作を示す概念図 本発明に適用可能な光学系の概念図
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
以下、図1から図7を参照して、本発明の第1の実施例に係わる撮影装置を説明する。
図1は本発明に係わる撮影装置としてのデジタルカメラのシステム構成を示すブロック図である。本カメラシステムは、撮影モードとして静止画撮影モードと動画撮影モードを有し、本件発明が目的とするAF制御を各撮影モードおいて達成する構成を有する。
本撮像装置100はカメラ101およびレンズ102からなり、撮像系、画像処理系、記録再生系、制御系を有する。撮像系は撮影光学系103 、撮像素子106を含み、画像処理系は画像処理部107を含む。また、記録再生系はメモリ手段108、表示手段109を含み、制御系はカメラシステム制御回路105、操作検出部110、およびレンズシステム制御回路112、レンズ駆動手段113を含む。レンズ駆動手段113は、焦点レンズ、ブレ補正レンズ、絞りなどを駆動することができる。
撮像系は、被写体からの光(光学像)を、撮影レンズを有する撮影光学系103を介して撮像素子106の撮像面に結像する光学処理系である。撮影素子106の表面(受光面)にはマイクロレンズが格子状に配置され、いわゆるマイクロレンズアレイ(以下 MLA)を形成している。MLAは本実施例において瞳分割手段を構成する。MLAの機能や配置の詳細については図3を用いて後述するが、この瞳分割手段があるために、撮影素子106の出力信号からピント評価量/適当な露光量が得られるので、この情報に基づいて適切に撮影光学系103が調整される。これにより、適切な光量の被写体光を撮像素子106に露光することおよび撮像素子106の近傍で被写体像が結像することが可能となる。
画像処理部107は、内部にA/D変換器、ホワイトバランス回路、ガンマ補正回路、補間演算回路等を有しており、記録用の画像を画像処理により生成することができる。また、本発明の要部である、像シフト手段、像生成手段、コントラスト評価手段、相関計算手段等を含めることもできる。実施例ではこれらの要素はカメラシステム制御内に制御プログラムとして構成されている。
メモリ部108は、実際にデータを記憶する記憶部だけではなく、記録に必要な処理回路を備えている。メモリ部108は、記録部へ出力を行うとともに、表示手段109に出力する像を生成、保存する。また、メモリ部108 は、予め定められた方法を用いて画像、動画、音声などの圧縮処理も行う。
カメラシステム制御回路105は、撮像の際のタイミング信号などを生成して出力するとともに、外部操作に応動して撮像系、画像処理系、記録再生系をそれぞれ制御する。例えば、不図示のシャッターレリーズ釦の押下を操作検出回路110が検出して、撮像素子106の駆動(光電変換)、画像処理部107の動作、メモリ部108の圧縮処理などを制御する。さらにカメラシステム制御回路105、表示手段109によって液晶モニタ等に情報表示を行うための情報表示装置の各セグメントの状態をも制御する。
制御系による光学系の調整動作について説明する。カメラシステム制御回路105には画像処理部107が接続されており、撮像素子106からの画像信号に基づいて撮影条件に適切な焦点位置、絞り位置を求める。カメラシステム制御回路105は、電気接点111を介してレンズシステム制御回路112に指令を送信し、レンズシステム制御回路112は指令に従いレンズ駆動手段113を制御する。さらにレンズシステム制御回路112には不図示の手ぶれ検出センサが接続されており、手ぶれ補正を行うモードにおいては、手ぶれ検出センサの信号に基づいてレンズ駆動手段113を介して手ぶれ補正レンズを制御する。
撮像装置100全体の動作を、図2を用いて説明する。図2は本発明の撮像装置の動作の概略を説明するためのフローチャートである。図2(a)は電源ONから電源OFFまでの動作を、図2(b)は静止画撮影モードの要部の動作を、図2(c)は動画撮影モードの要部の動作をそれぞれ示している。これらの動作は、カメラシステム制御回路105が図示しない記憶装置から各フローチャートに対応する制御プログラムをロードして実行することにより達成される。
図2(a)から各ステップ順に説明する。ステップS201は電源のONを示している。ステップS202は電源がOFFされたかどうかを検出するステップである。この検出は、カメラの図示しない電源スイッチまたは他の操作部(例えばメニュー画面に表示された電源ボタン)などが操作されたことをカメラシステム制御回路105による制御に従って操作検出部110が行なう。電源のOFFが検出された場合はステップS205に進み、そうでない場合はステップS203に処理を進める。ステップS203はカメラシステム制御回路105による制御に従って操作検出部110によりユーザー操作を検出するステップである。ユーザーによる撮像装置100への操作があった場合はステップS204に進み、そうでない場合はステップS202に戻って電源OFFやユーザー操作の検出を繰り返す。ステップS204では、検出されたユーザー操作に応じた処理を行うステップである。例えば、操作検出部110で静止画撮影モードの選択操作が検出されたときは、カメラシステム制御部105は静止画撮影モードの動作を開始する。このほかの操作として、動画撮影モードの実行、メモリ手段に記録されたデータの再生や、撮像装置100の設定を変更する操作などがある。
図2(b)、図2(c)を参照して、ステップ204で行なわれる処理としての静止画撮影モードおよび動画撮影モードの動作を説明する。
図2(b)は静止画撮影モードを行う時の撮像装置100の動作を示すフローチャートである。ステップS211は静止画撮影モードの開始を示す。
ステップS212は、カメラシステム制御回路105による制御に従って操作検出部110が図示しないレリーズボタンの1段目のスイッチ(以下 SW1)がオンされたかどうかを判断するステップである。静止画撮影ではレリーズボタンの押下に応じて、撮影動作や撮影予備動作が行われる。一般的にレリーズボタンは2段階のスイッチになっており、1段目のスイッチのオンで撮影予備動作を、2段目のスイッチのオンで撮影動作を行う。ここでいう撮影予備動作とは、測光、測距等を行い、撮影光学系3のAF調整や撮像素子6の露出条件を決定する動作のことを言う。
ステップS212においてSW1のオンが検出された場合はステップS214に、検出されない場合はステップS213に処理に進める。ステップS213では、SW1以外の操作に応じた処理がなされる。例えば、撮影設定の変更などがあげられるが、本発明の要部ではないのでここでの説明を割愛する。
ステップS214は、撮影予備動作としての測距を行う。他の撮影予備動作も同時に行われるが、本発明の要部ではないのでここでは説明を簡単にするために測距動作とそれに関連した動作のみを示している。
ステップS215では、ステップS214の結果に基づいて必要であれば、撮影光学系3の調整のためのレンズ駆動を行う。なお、ステップS114の結果、現在ピントが合っている状態であると判断されれば、焦点の調整のためのレンズ駆動は行う必要がない。
ステップS216は、SW1のリリースを監視する。SW1をユーザーが離したと判断された場合は、ステップS212に戻ってSW1のオンの検出待機状態に戻る。ユーザーがSW1を継続している場合はステップS217に進む。
ステップS217では、カメラ制御回路105の制御に従い操作検出部110がレリーズボタンの2段目のスイッチ(以下 SW2)のオンを検出する。SW2のオンが検出された場合はステップS218に、検出されない場合はステップS216に戻る。
ステップS218では、撮影動作を行うステップである。撮像素子106を撮影予備動作の結果に従って適宜露光させて被写体の光学像を電気信号として取得し、画像処理部7で処理したのちにメモリ手段108に記録する。
ステップS119は静止画撮影の終了を示す。
図2(b)で説明したように、静止画撮影モードにおいては、SW1のオンに連動してステップS112,S114,S115に対応する測距および光学系の調整動作が行われる。なお、サーボAFやコンティニュアスAFと呼ばれる測距および光学系の調整方法においてはこの限りではないが、ここでは静止画撮影の基本的な動作を例示す。
図2(c)は動画撮影を行う時の撮像装置100の動作を示すフローチャートである。ステップS221は動画撮影のモードの開始を示す。
ステップS222では、図示しない録画ボタン(動画撮影の開始を意味するボタン)のオンを操作検出部110により検出する。ステップS222において録画ボタンのオンが検出された場合はステップS224に、検出されない場合はステップS223に進む。
ステップS223では、録画ボタン以外の操作に応じた処理がなされる。例えば、撮影設定の変更などがあげられるが、本発明の要部ではないので説明を割愛する。
ステップS224は、撮影予備動作として測距を行う。他の撮影予備動作も同時に行われるが、本発明の要部ではないので説明を簡単にするために測距動作とそれに関連した動作のみを示している。
ステップS225では、ステップS224の結果に基づいて必要であれば、撮影光学系3の調整のためのレンズ駆動を行う。ステップS224の結果、現在合焦状態であると判断されれば、焦点の調整のためのレンズ駆動は行う必要がない。ステップS224,S225において録画開始前に光学系を調整することで、録画開始直後のピント状態などが適切に定められ、取得される映像の品位が向上する。
ステップS226では、録画を開始する。具体的には、予め設定されたサンプリング間隔で撮像素子106から画像信号を読み出し、画像処理手段7で符号化処理などを施したのちに、メモリ手段8へ記録する動作を開始する。
ステップS227では、操作検出部110により録画停止ボタンの操作を検出する。ステップS227において録画停止ボタンの操作が検出された場合はステップS229に、検出されない場合はステップS228に進む。
ステップS228では、測距を行うためのタイマーの計測時間を判断する。タイマーの計測時間に従い、予め設定された間隔毎にステップS224に進み、それ以外の時はステップS227に戻り録画終了ボタンの操作を待つ。タイマーS228の計測時間を判断することによって、予め設定された所定時間ごとに測距動作S224を実行し、録画中にも測距および光学系の調整を行う。ステップS229は動画撮影の終了を示す。
図2(c)で説明したように、動画撮影においては、録画ボタンの操作およびタイマーの時間計測に連動してステップS122,S124,S125、S128に対応する測距および光学系の調整動作が行われる。
次に、図3は本実施例における撮影光学系の要部を説明する図である。同図において、第1図と同じ要素は同じ符号を付して示す。本発明を適用するためには、いわゆる光線空間情報等といわれる光線の位置に加えて角度の情報を取得する必要がある。本実施例では、角度情報の取得のために撮影光学系103の結像面近傍にMLAを配置するとともに、MLAを構成する1つのマイクロレンズに対して複数の画素を対応させる。
図3(a)は撮像素子106とMLA320の対応関係を概念的に示す図である。図3(b)は撮像素子106の画素とMLA320との対応を示す概念図である。図3(c)はMLA320によってMLAの下に設けられた画素が特定の瞳領域と対応づけられることを示す図である。
図3(a)に示すように、撮像素子106上にはMLA320が設けられており、MLA320の前側主点は撮影光学系103の結像面近傍になるように配置されている。図3(a)は撮像素子106の側面図と、MLA320の正面図を示しており、MLA320のレンズが撮像素子106上の画素を覆うように配置されている。なお、図3(a)ではMLA320を構成する各マイクロレンズを見やすくするために大きく記載したが、実際には各マイクロレンズは画素の数倍程度の大きさしかない。実際の大きさについては図3(b)を用いて説明する。
図3(b)は図3(a)のMLA320の正面図の一部を拡大した図である。図3(b)に示す格子状の枠は、撮像素子106の各画素を示している。一方、MLA320を構成する各マイクロレンズは太い円320a,320b,320c,320dで示した。図3(b)から明らかなように、マイクロレンズ1つに対して複数の画素が割り当てられており、図3(b)の例では、5行x5列=25個の画素グループが1つのマイクロレンズに対して設けられている。すなわち各マイクロレンズの大きさは画素の大きさの5倍x5倍の大きさである。
図3(c)は撮像素子106を、マイクロレンズの光軸を含み撮像素子の長手方向(X方向)が図の横方向になるように切断したときの一つのマイクロレンズについての切断面を示す図である。図3(c)の321、322、323、324、325は撮像素子106の画素(1つの光電変換部)を示している。一方、図3(c)の上方に示した図は撮影光学系103の射出瞳面を示している。実際には、図3(c)の下方に示したセンサの図と方向を合わせると、射出瞳面(X−Y面)は図3(c)の紙面垂直方向(y方向)と平行になるが、説明のために投影方向を変化させている。また、図3(c)については説明を簡単にするために、1次元の投影/信号処理について説明する。即ち、瞳分割が331−335だけの一次元であり、対応する画素配列も、例えば図3(b)の321a−325aだけの一次元とする。この仮定は図6の説明においても適用する。実際の装置での2次元の投影/信号処理への拡張は容易にできる。
図3(c)の画素321、322、323、324、325は図3(b)の321a、322a、323a、324a、325aとそれぞれ対応する位置関係にある。図3(c)に示すように、マイクロレンズ320によって各画素は撮影光学系103の射出瞳面上の特定の射出瞳領域と共役になるように設計されている。図3(c)の例では画素321と領域331が、画素322と領域332が、画素323と領域333が、画素324と領域334が、画素325と領域335がそれぞれ対応している。すなわち画素321には撮影光学系103の射出瞳面上の領域331を通過した光束のみが入射する。他の画素も同様である。結果として、瞳面上での通過領域と撮像素子106上の位置関係から入射光束の角度の情報を取得することが可能となる。
なお、図3(c)に示す記号Δx およびΔθはそれぞれ撮像素子106の画素ピッチおよび角度分解能である。後述するように、これらは角度の分割数をNθ(図3の例ではNθ=5)とともにコントラストAFが可能な範囲dmaxを与える。画素ピッチΔxは撮像素子106の形状によって決定され、角度分解能Δθは光線の角度を取得する範囲と角度分割数Nθで決定されるので物理的な構造(撮像素子106およびMLA320の構造)のみによってこれらのパラメータは決定される。
次に、図7を用いて図3の撮影光学系における仮想的な結像面での像の再構成について説明する。同図において、図1および図3の構成要素と同じ構成要素は同じ符号を付して示す。図7は物体(被写体)からの光線が撮像素子106上に結像する状態を概念的に示した図である。図7(a)は図3で説明した光学系と対応しており、撮影光学系103の結像面近傍にMLA320を配置した例である。図7(b)は撮影光学系103の結像面よりも被写体寄りにMLA320を配置した例である。図7(c)は撮影光学系103の結像面よりも被写体から遠い側にMLA320を配置した例である。
図7において、106は撮像素子、320はMLA、331から335は図3で用いた瞳領域、751は物体平面、751a,751bは物体上の適当な点、752は撮影光学系の瞳平面をそれぞれ示す、また、761、762、771,772,773,781,782,783,784はMLA上の特定のマイクロレンズをそれぞれ示している。図7(b)および(c)に示した106aは仮想的な結像面に位置する撮像素子を、320aは仮想的な結像面に位置するMLAを示している。これらは、図7(a)との対応関係を明確にするための参考として示した。また、物体上の点751aから出て瞳平面上の領域331および333を通過する光束を実線で、物体上の点751bから出て瞳平面上の領域331および333を通過する光束を破線で図示した。
図7(a)の例では、図1でも説明したように、撮影光学系103の結像面近傍にMLA320を配置することで、撮像素子106と撮影光学系の瞳平面752が共役の関係にある。さらに、被写体平面751とMLA320が共役の関係にある。このため被写体上の点751aから出た光束はマイクロレンズ761に、751bを出た光束はマイクロレンズ62に到達し、領域331から335それぞれを通過した光束はマイクロレンズ下に設けられたそれぞれ対応する画素に到達する。
図7(b)の例では、マイクロレンズ320で撮影光学系103からの光束を結像させ、その結像面に撮像素子106を設ける。このように配置することで、被写体平面751と撮像素子106は共役の関係にある。被写体上の点751aから出で瞳平面上の領域331を通過した光束はマイクロレンズ771に到達し、被写体上の点751aから出で瞳平面上の領域333を通過した光束はマイクロレンズ772に到達する。被写体上の点751bから出で瞳平面上の領域331を通過した光束はマイクロレンズ772に到達し、被写体上の点751bから出で瞳平面上の領域333を通過した光束はマイクロレンズ773に到達する。各マイクロレンズを通過した光束は、マイクロレンズ下に設けられたそれぞれ対応する画素に到達する。このように被写体上の点は、瞳平面上の通過領域によって、撮像素子の異なる位置にそれぞれ結像される。これらを、仮想的な結像面106a上の位置に並べなおせば、図7(a)と同様の情報(像の再構成)を得ることができる。すなわち、通過した瞳領域(入射角度)と撮像素子上の位置の情報を得ることができる、瞳分割手段としての機能が達成される。
図7(c)の例では、マイクロレンズ320で撮影光学系103からの光束を再結像させ(一度結像した光束が拡散する状態にあるものを結像させるので再結像と呼んでいる)、その結像面に撮像素子106を設ける。このように配置することで、被写体平面751と撮像素子106は共役の関係にある。被写体上の点751aから出で瞳平面上の領域331を通過した光束はマイクロレンズ782に到達し、被写体上の点751aから出で瞳平面上の領域333を通過した光束はマイクロレンズ381に到達する。被写体上の点751bから出で瞳平面上の領域331を通過した光束はマイクロレンズ784に到達し、被写体上の点751bから出で瞳平面上の領域333を通過した光束はマイクロレンズ383に到達する。各マイクロレンズを通過した光束は、マイクロレンズ下に設けられたそれぞれ対応する画素に到達する。図7(b)と同様に、仮想的な結像面106a上の位置に並べなおせば、図7(a)と同様の情報(像の再構成)を得ることができる。すなわち、通過した瞳領域(入射角度)と撮像素子上の位置の情報を得ることができ、瞳分割手段としての機能が達成される。
図7ではMLA(位相変調素子)を瞳分割手段として用いて、位置情報と角度情報を取得可能な例を示したが、位置情報と角度情報(瞳の通過領域を制限することと等価)を取得可能なものであれば他の光学構成も利用可能である。例えば、適当なパターンを施したマスク(ゲイン変調素子)を撮影光学系の光路中に挿入する方法も利用できる。
本実施例に示した撮影光学系を利用して、撮像素子106の信号からピント評価値を得る処理について図4、図5及び図6を用いて説明する。
図4および図5を用いて本発明の要部である測距動作について説明する。
図4および図5は本発明の撮像装置の測距動作を説明するためのフローチャートである。図4(a)は測距動作全体の動作を、図4(b)は相関計算手段の動作をそれぞれ示すフローチャートである。また、図5(a)はコントラスト評価手段の動作を、図5(b)は像生成手段の動作を、図5(c)はコントラスト評価手段の動作をそれぞれ示すフローチャートである。図4(a)から各ステップ順に本発明の測距動作を説明する。
ステップS401は測距動作の開始を示している。例としては、静止画撮影モードにおいて、図1に示す操作検出部110が撮影者によるレリースボタンの一段目のスイッチSW1の動作を検出した時(図2(b)のステップS212)などが該当する。
ステップS402では、カメラシステム制御回路105の制御の下で撮像素子106を撮影予備動作の結果に従って露光して読み出す(A/D変換する)ことによりデータ(被写体の撮像信号)を取得する。この時の露光時間と露光量から撮影における露出量を計算することもできが、本発明の要部ではないので説明は割愛する。
ステップS403では、カメラシステム制御回路105が相関計算手段を動作させて相関値に基づく相関最良ピント位置を得る。相関計算手段の動作の詳細は図4(b)のフローチャートを用いて後述する。
ステップS404では、カメラシステム制御回路105の制御の下にコントラスト評価判断を行ない、ステップS405ではカメラ制御回路105が後述するピント評価範囲決定手段として動作する。すなわち、ステップS404は、ステップS403で得られた相関量評価に基づく最良ピント位置(図中では“相関最良ピント位置”と表記した)の絶対値とステップS405で入力される閾値dmaxの絶対値とを比較する。相関量評価に基づく最良ピント位置の絶対値のほうが大きい場合はステップS412に、相関量評価に基づく最良ピント位置の絶対値が閾値dmaxの絶対値以下の場合はステップS406に進む。
ここでステップS405のピント評価範囲決定手段から与えられる閾値は、ステップS406からステップS411で行うコントラストによるピント評価を行う場合(像シフト量が決定可能な場合)の閾値であり次式であたえられる。この閾値を超える位置での仮想的な結像面では、図3および図7を用いて説明した像の再構成において被写体情報が欠落することがあり、コントラストAFの精度が低下する可能性がある。
Figure 0006000520
ただしNθ、Δx、Δθは図3で説明したように、撮影条件などに寄らず、撮像装置100の物理的な構造によって決定される。このため予め計算された値をメモリに記憶しておきステップS405で読み出して用いれば良い。
ステップS406からステップS40はループを形成している。ステップS406ではピント評価位置(図7を用いて説明した仮想的な結像面に対応)を予め与えられた初期値から予め与えられた所定の位置(ステップ)だけずらしながら予め与えられた終了値まで計算を繰り返す。この初期値と終了値は、dmaxを利用して決定すれば良い。図4の例では−dmax〜+dmaxの範囲を評価範囲とした。
ステップS407では、カメラシステム制御回路105が像シフト手段を動作させて像シフト量を得る。像シフト手段の動作の詳細は図5(a)のフローチャートを用いて後述する。
ステップS408では、カメラシステム制御回路105が像生成手段を動作させて像生成を行なう。像生成手段の動作の詳細は図5(b)のフローチャートを用いて後述する。
ステップS409では、カメラシステム制御回路105がコントラスト評価手段を動作させてコントラスト評価値に基づくコントラスト最良ピント位置を得る。コントラスト評価手段の動作の詳細は図5(c)のフローチャートを用いて後述する。
ステップS411ではピント評価値として、ステップS406〜ステップS410で求めたコントラスト評価に基づく最良ピント位置(図中では“コントラスト最良ピント位置”と表記した)を採用する。
結果として、撮像素子106の読み出しはステップS402で1回のみ行うことで、コントラスト評価値を含むピント評価値を得ることができ、処理の高速化が可能となる。
ステップS412に進んだ場合は、コントラストに基づくピント評価を省略して、ピント評価値として相関評価に基づく相関最良ピント位置を採用する。
図4(b)のフローチャートを用いて相関計算手段について説明する。ステップS421は相関計算手段の動作開始を示している。
ステップS422からステップS431はループを形成している。ステップS422ではピント評価位置の数(いわゆる測距視野数)に対応して繰り返し演算を行う。測距視野数は多くなると画面全体を覆うことが可能となるが評価に時間がかかるという問題がある。ユーザーの設定などにより適宜設定する。
ステップS423では評価を行う評価点の数と、評価枠の大きさ(例えば評価点を中心とする枠)を設定する。ここでいう評価点の数とは、ステップS424で行う相関値を求める点数で有り、撮影条件やレンズ102の種類などに応じて適宜設定される。また、評価点の数は像をシフトさせながら相関を求める場合のシフト量に対応しており、これは撮像装置100においては焦点合わせの探索を行うピントの深さに対応している。評価点の数は多くなると画面全体を覆うことが可能となるが評価に時間がかかるという問題があるので、ユーザーの設定などにより適宜設定する。一方、評価枠を大きくすると局所的にはあまりパターンを有していないテクスチャであってもピントを合わせることが可能となるが、大きすぎると距離の異なる被写体の像を同時に評価するいわゆる遠近競合が発生してしまう。これらの問題を解決できるように評価枠の大きさを適宜設定する。
ステップS424からステップS429はループを形成している。ステップS424では、ステップS423で決定された評価点に対応した評価値を得るように繰り返し演算を行う。
ステップS425からステップS427はループを形成している。ステップS425では、ステップS423で決定された評価枠内の画素について相関計算を行う。相関計算はステップS426において、例えばΣ|Ai - Bi|で計算する。ここで、Aiは特定の瞳領域を通過したi番目の画素の輝度を示している。BiはAiとは異なる瞳領域を通過したi番目の画素の輝度を示している。例えば図3において、画素322に対応する画素のみを並べたものをAi、画素324に対応する画素のみを並べたものをBiとすれば良い。どの瞳領域の画素を選択するかは、基線長の長さ、瞳面のケラレ状況、等によって決定すればよい。
上記のように設定することで、異なる瞳領域を通過した画像間の相関を計算でき、いわゆる位相差AFに基づく評価量を得ることができる。ステップS28では、得られた相関値を評価量としてメモリ108に格納する。
上記に示したΣ|Ai - Bi|という評価式においては、相関値が小さくなった個所が最もピント状態が良い個所(相関ピント位置)に対応している。ここでは差分の絶対値を加算する方法で相関計算を行ったが、最大値を加算する方法、最小値を加算する方法、差分2乗値を加算する方法など他の計算方法によって相関計算を行っても良い
ステップS430では相関評価値が最良となる点を相関量評価に基づく最良ピント位置として更新する。前述したステップS426の式においては、相関評価値が最良となる点は相関値が小さくなった所だが、その他の指標も併用して最良の位置を決定しても良い。
この演算を各視野で行い、最終的に相関量評価に基づく最良ピント位置を得てステップS432に進み、本ルーチンの呼び出し元のステップS403に戻る。
図5(a)のフローチャートを用いて像シフト手段について説明する。ステップS501は像シフト手段の動作開始を示している。
ステップS502からステップS506はループを形成している。ステップS502では瞳分割数に応じた数(一つのマイクロレンズに対応する撮像素子画素の)だけループ計算が実行される。例えば、図3に示した例では、5x5=25個に分割されていたので(二次元)、25個のそれぞれの瞳位置に応じた像シフト量の計算がなされる。図6を用いて後述するように、像の再構成において同じ再構成面であっても入射角度が異なると像をシフトさせる量が異なる。これを像生成に反映させるためのループである。
ステップS503ではステップS504からのデータをもとに、評価位置に対応する各瞳領域でのシフト量を計算する。ステップS504には、撮像素子106上の各画素とMLAとの対応関係が保存されており、各画素がどの瞳領域の光線を受光しているかが分かる情報が格納されている。
ステップS505ではステップS503の情報をもとに同じ入射角の光線を得ている(同じ瞳領域からの光線を得ている)画素をシフトさせる。同じ入射角の光線を得ている画素は例えば図3(b)の325aと325bが該当する。このような画素がMLAを構成するマイクロレンズの数だけ存在している。
ステップS507において、本処理ルーチンを呼び出し元のステップS407に戻る。
図5(b)のフローチャートを用いて像生成手段の動作の詳細を説明する。ステップS551は像生成手段の動作開始を示している。
ステップS512では、ステップS515での加算のための領域のデータを初期化(0で埋める)する。この時のデータ領域の大きさはMLAの数だけあれば良く、データの諧調は元のデータの諧調と瞳分割数の積を格納できるだけあれば都合がよい。例えば元のデータが8bitで25分割の場合、13bit (> 8bit + log225)あれば演算処理でのデータの桁あふれを考慮する必要が無くなる。
ステップS513からステップS517はループを形成している。ステップS513ではMLAを構成するマイクロレンズの数に応じて(即ち各マイクロレンズについて)ループ計算が実行される。例えば、図3に示した例では、元の撮像素子の画素数÷25(瞳分割数)がマイクロレンズの数となる。
ステップS514からステップS516はループを形成している。ステップS514では、瞳分割数に応じた数だけループ計算が実行される。例えば、図3に示した例では、5x5=25個に分割されていたので、25個のそれぞれの瞳位置からの光束がステップS515で加算される。シフト量が画素の整数倍でない場合は、加算S515において、適宜に内分して加算する。例えば、重なっている面積に応じて適宜加算する。これにより、各評価位置での像が再生される。生成された画像の画像データはカメラシステム制御回路105の制御によりメモリ108または図示しない記憶手段に記憶される。従って、生成画像の再生、表示が可能となる。
ステップS518において、本処理ルーチンの呼び出し元のステップS408に戻る。
図5(c)のフローチャートを用いてコントラスト評価手段の動作の詳細を説明する。ステップS521はコントラスト評価手段の動作開始を示している。
ステップS522では、コントラスト評価を行う評価視野の数と、評価枠の大きさを設定する。評価視野の数や大きさの設定は、相関計算手段で説明した内容に従って行えばよい。
ステップS523からステップS531はループを形成している。ステップS523では、ステップS522で決定された評価視野数に対応した評価値を得るように繰り返し演算を行う。
ステップS524からステップS526はループを形成している。ステップS524では、ステップS522で決定された各評価枠内の画素について一次コントラスト演算を行う。一次コントラスト演算はステップS525にあるようにΣ|Si - Si-1|で計算する。ここで、Siはi番目の像生成手段から出力された輝度を示している。このようにすることで隣接画素間の輝度差を積分することができる。ただしこのステップの説明においては、説明を明瞭にするために画像が1次元的に配置されている場合に対応する式を示す。2次元の画像においては、縦横両方向の輝度差を積分しても良いし、適宜一方向の輝度差のみを積分しても良い。
ステップS527からステップS529はループを形成している。ステップS527では、ステップS522で決定された評価枠内の画素について二次コントラスト演算を行う。二次コントラスト演算はステップS528にあるようにΣ(Si - Si-1)2で計算する。このステップの説明においても、説明を明瞭にするために画像が1次元的に配置されている場合に対応する式を示す。
一次コントラストは、なだらかに輝度が変化するような被写体(例えば空など)を撮影した場合には顕著に変化が見られない。一方で、二次コントラストはピント位置に応じて大きく変化する。(より高周波成分の影響が強い。)
そこでステップS630では、二次コントラストを一次コントラストの二乗で割ることでコントラスト評価値としている。このようにすることで輝度に対して正規化されるとともに、ピント位置に応じた被写体のコントラスト評価値を得ることができる。
本実施例では上記のような方法でコントラスト評価値を得たが、ピント変動にともなうコントラスト評価値で有れば他の計算方法にすることも可能である。
ステップS532では、コントラスト評価値が最良となる点(コントラストピント位置)をコントラスト評価に基づく最良ピント位置として更新する。
ステップS533において、本処理ルーチンの呼び出し元ステップS409に戻る。
次に図6を用いて像シフトおよび像生成を模式的に示し、像の再構成によるコントラスト計算の有用性について述べる。
図6において、図6(b)は実際に撮像素子6が存在して画像を取得した面を、図6(a)は図6(b)よりも被写体側の再構成面(再構成面1)を、図6(c)は図6(b)よりも被写体側から遠い側の再構成面(再構成面2)をそれぞれ示している。なお、上述のように同図においては、説明を明瞭とするために瞳分割方向および画素配列はそれぞれ一次元としている。
図6(b)において、X1,i、X2,i、X3,i、X4,i、X5,i、はそれぞれ瞳領域1、2、3、4、5を通過してマイクロレンズXiに入射して得られたデータ(画像データ)を示している。すなわち、添え字のうち前半は通過する瞳領域を、後半はマイクロレンズの番号を示している。物理的な位置との関係においては、X1,iは図3(c)の321領域から得られるデータを、X2,iは図3(c)の322領域から得られるデータを、以下添え字の3、4、5は領域323、324、325に対応していることを示している。
取得面での画像を生成するためには、図6(b)に示すように、マイクロレンズXiに入射したデータ(輝度)を加算すればよい。具体的には、Si = X1,I + X2,i + X3,i + X4,i + X5,iでXiに入射した光の角度方向の積分値を得ることができる。これをすべてのマイクロレンズについて行なうことにより通常のカメラと同様の像が生成される。
次に再構成面1での像の生成方法を考える。図3で説明したように、本実施例の撮影光学系は、各画素に入射する光束を特定の瞳領域に限定しているために、入射角度が既知である。この角度に沿って再構成面での各画素の位置を再構成する。具体的にはX1,iのように瞳領域の添え字が1のものは図6の右側の図において641で示すような角度で入射しているとする。以下瞳領域の添え字2,3,4,5はそれぞれ642,643,644,645に対応しているとする。この時、再構成面1でのマイクロレンズXiに入射した光束は、取得面においては、Xi-2からXi+2(一次元)に分散して入射していることになる。より具体的には、X1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散している。Xiに限らず再構成面1での像を復元するためには、入射角度に応じて像をシフトさせて加算すれば良いことが分かる。再構成面1での像を生成するためには、瞳領域の添え字が1のものは右に2画素シフト、瞳領域の添え字が2のものは右に1画素シフト、瞳領域の添え字が3のものはシフトなしとする。さらに、瞳領域の添え字が4のものは左に1画素シフト、瞳領域の添え字が5のものは左に2画素シフトとすることで入射角度に応じたシフトを与えることができる。その後図6(a)に示す縦方向の加算によって再構成面1でのデータを得ることができる。具体的には、Si = X1,i-2 + X2,i-1 + X3,i + X4,i+1 + X5,i+2で再構成面1において、Xiに入射した光の角度方向の積分値を得ることができる。これにより再構成面での画像が得られた。
ここで、再構成面1において、Xiに輝点があったとすると、取得面においてはX1,i-2、X2,i-1、X3,i、X4,i+1、X5,i+2に分散していわゆるボケ状態にある。しかしながら、上述した再構成面1での像を生成すると、再びXiに輝点が生成されコントラストの高い像が得られる。すなわち像を再構成してコントラストを計算することで、いわゆるコントラストAFを行うことが可能となる。
また、図6(c)から分かるように、再構成面2においても再構成面と全く同様の方法で像を生成することができる。再構成面を配置する方向が異なると(物体に対して反対側という意味)シフトさせる方向を反転させれば良いだけである。
以上に説明したように、本実施例によれば、撮像装置の構造に応じて決まる結像位置に応じて位相差AFとコントラストAFを使い分けて高いAF精度を維持することが可能な撮像装置を提供するこができる。しかも、本発明の撮像装置では、コントラストAFの精度が保証されない結像位置では位相差AFのみが実行される。結果として、高速かつピント精度の高いAFを行うことを可能にした撮像装置を提供することが出来る。また、AF用の光束情報を得るために必要な撮像動作は(撮像素子の蓄積、読み出し)、一回だけでよいため、合焦制御動作のさらなる高速化が可能となる。
上述した実施形態において図2及び図4−5示した各処理は、各処理の機能を実現する為のプログラムをメモリから読み出して制御系のCPUが実行することによりその機能を実現させるものである。
尚、上述した構成に限定されるものではなく、図2及び図4−5に示した各処理の全部または一部の機能を専用のハードウェアにより実現してもよい。また、上述したメモリは、光磁気ディスク装置、フラッシュメモリ等の不揮発性のメモリや、CD−ROM等の読み出しのみが可能な記録媒体、RAM以外の揮発性のメモリが可能である。また、それらの組合せによるコンピュータ読み取り、書き込み可能な記録媒体より構成されていてもよい。
また、図2及び図4−5に示した各処理の機能を実現する為のプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより各処理を行っても良い。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。具体的には、記憶媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書きこまれた場合である。このプログラムの指示に基づき、機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も本件発明に含まれる。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発メモリ(RAM)のように、一定時間プログラムを保持しているものも含む。
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記プログラムは、前述した機能の一部を実現する為のものであっても良い。さらに、前述した機能をコンピュータシステムに既に記録されているプログラムとの組合せで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
また、上記のプログラムを記録したコンピュータ読み取り可能な記録媒体等のプログラムプロダクトも本発明の実施形態として適用することができる。上記のプログラム、記録媒体、伝送媒体およびプログラムプロダクトは、本発明の範疇に含まれる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。

Claims (12)

  1. 複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、
    前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段と、
    前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、
    前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段と、
    前記相関ピント位置と、前記像生成手段によりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段と、
    を備えることを特徴とする撮像装置。
  2. 前記像生成手段は、前記撮像素子及び前記複数のマイクロレンズの構造に基づいて決まる、前記シフトが可能なシフト量の範囲で、前記ピント位置の異なる画像を生成することを特徴とする請求項1記載の撮像装置。
  3. 前記像生成手段は、前記撮像素子の画素ピッチおよび前記複数のマイクロレンズの角度分解能と角度分割数に基づいて、前記シフトが可能な前記ピント評価位置の範囲を決定することを特徴とする請求項1または2に記載の撮像装置。
  4. 前記撮像装置は、前記ピント評価手段により決定された前記ピント評価位置に従って前記被写体を撮影する撮影モードを有し、前記撮影モードは静止画撮影モードと動画撮影モードとを有し、前記動画撮影モードは前記ピント評価手段による前記ピント評価位置の決定を予め決められた所定時間ごとに行なうことを特徴とする請求項1乃至3のいずれか一項に記載の撮像装置。
  5. 撮影レンズをさらに備え、
    前記複数のマイクロレンズは、各マイクロレンズに対応して複数の画素グループに分割し、前記マイクロレンズは対応する画素グループの各画素を前記撮影レンズの異なる射出瞳領域からの光束に対応させることを特徴とする請求項1乃至4のいずれか一項に記載の撮像装置。
  6. 前記相関計算手段は、前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の位相差を計算することで前記相関の評価値を計算することを特徴とする請求項1乃至5のいずれか一項に記載の撮像装置。
  7. 前記像生成手段により生成された前記画像を記憶する記憶手段および前記記憶手段に記憶された画像を表示する表示手段をさらに備えることを特徴とする請求項1乃至6のいずれか一項に記載の撮像装置。
  8. 複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置の制御方法において、
    前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成ステップと、
    前記像生成ステップで生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価ステップと、
    前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算ステップと、
    前記相関ピント位置と、前記像生成ステップによりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成ステップによりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価ステップでの決定を省略して前記相関計算ステップで決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、前記相関ピント位置の絶対値が前記像生成ステップによりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価ステップで決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価ステップを備えたことを特徴とする制御方法。
  9. コンピュータを、
    複数のマイクロレンズと、前記複数のマイクロレンズのそれぞれに複数の光電変換部が対応して画像信号を出力する撮像素子とを含む撮像装置において、
    前記各マイクロレンズに対応する複数の前記光電変換部からの画像信号をシフトして、ピント位置の異なる画像を生成する像生成手段、
    前記像生成手段により生成された前記画像のコントラストの評価値を計算し、前記コントラストの評価値に基づいてコントラストピント位置を決定するコントラスト評価手段と、
    前記各マイクロレンズに対応する複数の光電変換部から得られる画像信号間の相関の評価値を計算し、前記相関の評価値に基づいて相関ピント位置を決定する相関計算手段、
    前記相関ピント位置と、前記像生成手段によりシフトが可能なピント評価位置の範囲とを比較し、前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値よりも大きいとき、前記コントラスト評価手段による決定を省略して前記相関計算手段により決定された前記相関ピント位置に基づいて被写体のピント評価位置を決定し、
    前記相関ピント位置の絶対値が前記像生成手段によりシフトが可能なピント評価位置の範囲の絶対値以下のとき、前記コントラスト評価手段により決定された前記コントラストピント位置に基づいて前記被写体のピント評価値を決定するピント評価手段として機能させるプログラム。
  10. 請求項9のプログラムを記録したコンピュータが読み取り可能な記録媒体。
  11. コンピュータを、請求項1乃至7のいずれか一項に記載の撮像装置の各手段として機能させるプログラム。
  12. コンピュータを、請求項1乃至7のいずれか一項に記載の撮像装置の各手段として機能させるプログラムを格納した記録媒体。
JP2011162093A 2011-07-25 2011-07-25 撮像装置およびその制御方法およびプログラム Expired - Fee Related JP6000520B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2011162093A JP6000520B2 (ja) 2011-07-25 2011-07-25 撮像装置およびその制御方法およびプログラム
PCT/JP2012/069276 WO2013015437A1 (en) 2011-07-25 2012-07-24 Image pickup apparatus, control method thereof, and program
GB1400663.9A GB2506084B (en) 2011-07-25 2012-07-24 Image pickup apparatus, control method thereof, and program
CN201280036923.1A CN103703401B (zh) 2011-07-25 2012-07-24 摄像装置及其控制方法
US14/131,229 US9019424B2 (en) 2011-07-25 2012-07-24 Image pickup apparatus, control method thereof, and program
RU2014106864/28A RU2562394C1 (ru) 2011-07-25 2012-07-24 Устройство съемки изображений, способ управления им и программа
DE112012003105.9T DE112012003105B4 (de) 2011-07-25 2012-07-24 Bildaufnahmevorrichtung und Steuerungsverfahren hierfür, Kamerasystemsteuerungseinheit und Steuerungsverfahren hierfür
US14/657,250 US9279955B2 (en) 2011-07-25 2015-03-13 Image pickup apparatus, control method thereof, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011162093A JP6000520B2 (ja) 2011-07-25 2011-07-25 撮像装置およびその制御方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2013025246A JP2013025246A (ja) 2013-02-04
JP6000520B2 true JP6000520B2 (ja) 2016-09-28

Family

ID=47601266

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011162093A Expired - Fee Related JP6000520B2 (ja) 2011-07-25 2011-07-25 撮像装置およびその制御方法およびプログラム

Country Status (7)

Country Link
US (2) US9019424B2 (ja)
JP (1) JP6000520B2 (ja)
CN (1) CN103703401B (ja)
DE (1) DE112012003105B4 (ja)
GB (1) GB2506084B (ja)
RU (1) RU2562394C1 (ja)
WO (1) WO2013015437A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014164258A (ja) * 2013-02-27 2014-09-08 Nikon Corp 焦点検出装置および像ズレ量検出装置
CN104285173B (zh) 2012-05-07 2018-05-25 株式会社尼康 焦点检测装置
JP5914192B2 (ja) * 2012-06-11 2016-05-11 キヤノン株式会社 撮像装置及びその制御方法
DE112013005594T5 (de) * 2012-11-22 2015-10-22 Fujifilm Corporation Abbildungsvorrichtung, Unschärfebetrag-Berechnungsverfahren und Objektivvorrichtung
JP2014149381A (ja) * 2013-01-31 2014-08-21 Sony Corp 画像取得装置および画像取得方法
JP6230239B2 (ja) * 2013-02-14 2017-11-15 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体
WO2014155806A1 (ja) * 2013-03-29 2014-10-02 富士フイルム株式会社 撮像装置及び合焦制御方法
JP6334847B2 (ja) * 2013-04-17 2018-05-30 キヤノン株式会社 焦点検出装置、焦点検出方法およびプログラム、並びに撮像装置
JP6239855B2 (ja) 2013-05-08 2017-11-29 キヤノン株式会社 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP6239862B2 (ja) * 2013-05-20 2017-11-29 キヤノン株式会社 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP2014235184A (ja) * 2013-05-30 2014-12-15 株式会社ニコン 焦点検出装置、焦点調節装置、および撮像装置
JP6285683B2 (ja) * 2013-10-01 2018-02-28 キヤノン株式会社 撮像装置及びその制御方法
JP2015129846A (ja) 2014-01-07 2015-07-16 キヤノン株式会社 撮像装置およびその制御方法
JP6186498B2 (ja) * 2014-03-25 2017-08-23 富士フイルム株式会社 撮像装置及び合焦制御方法
JP2015194736A (ja) 2014-03-28 2015-11-05 キヤノン株式会社 撮像装置およびその制御方法
JP6381266B2 (ja) 2014-04-15 2018-08-29 キヤノン株式会社 撮像装置、制御装置、制御方法、プログラム、および、記憶媒体
JP2016038414A (ja) 2014-08-05 2016-03-22 キヤノン株式会社 焦点検出装置およびその制御方法、並びに撮像装置
JP2016133595A (ja) 2015-01-19 2016-07-25 キヤノン株式会社 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
TWI561908B (en) * 2015-03-27 2016-12-11 Vivotek Inc Auto focus method and apparatus using the same method
CN105007420B (zh) * 2015-07-14 2018-09-04 广东欧珀移动通信有限公司 一种对焦方法及移动终端
JP6800725B2 (ja) * 2016-12-06 2020-12-16 キヤノン株式会社 焦点検出装置、その制御方法、プログラム及び記憶媒体
JP2018128678A (ja) * 2018-02-14 2018-08-16 株式会社ニコン 撮像装置
JP2020052379A (ja) * 2018-09-28 2020-04-02 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、移動体、制御方法、及びプログラム

Family Cites Families (82)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07199052A (ja) 1993-12-28 1995-08-04 Olympus Optical Co Ltd 焦点検出方法および距離測定方法
CN1189774C (zh) * 1998-08-26 2005-02-16 中国科学院光电技术研究所 光学波前传感器
US6750437B2 (en) * 2000-08-28 2004-06-15 Canon Kabushiki Kaisha Image pickup apparatus that suitably adjusts a focus
KR100900485B1 (ko) * 2002-10-26 2009-06-03 삼성디지털이미징 주식회사 구조가 개선된 디지털 카메라용 이미지 센싱 수단 및 이를채용한 디지털 카메라
JP3823921B2 (ja) * 2002-12-27 2006-09-20 コニカミノルタフォトイメージング株式会社 撮像装置
JP4324402B2 (ja) * 2003-04-08 2009-09-02 Hoya株式会社 カメラの自動焦点調節装置
JP2004354581A (ja) * 2003-05-28 2004-12-16 Minolta Co Ltd 撮像装置
JP2005195786A (ja) * 2004-01-06 2005-07-21 Canon Inc 焦点検出装置及びそれを用いた光学機器
US7502065B2 (en) * 2004-06-16 2009-03-10 Hoya Corporation Focus detection method and focus detection apparatus
JP2006106435A (ja) * 2004-10-06 2006-04-20 Canon Inc 光学機器
JP4826152B2 (ja) * 2005-06-23 2011-11-30 株式会社ニコン 画像合成方法及び撮像装置
JP4910366B2 (ja) * 2005-11-09 2012-04-04 株式会社ニコン 焦点検出装置、光学システムおよび焦点検出方法
KR101156681B1 (ko) * 2005-12-12 2012-06-14 삼성전자주식회사 디지털 영상 처리 장치에서 가변적인 노이즈 레벨을사용하는 자동 포커싱 방법
JP4720508B2 (ja) * 2006-01-05 2011-07-13 株式会社ニコン 撮像素子および撮像装置
US7792420B2 (en) * 2006-03-01 2010-09-07 Nikon Corporation Focus adjustment device, imaging device and focus adjustment method
US7751700B2 (en) * 2006-03-01 2010-07-06 Nikon Corporation Focus adjustment device, imaging device and focus adjustment method
JP2007310009A (ja) * 2006-05-16 2007-11-29 Olympus Imaging Corp デジタルカメラ及びカメラシステム
JP4321579B2 (ja) * 2006-11-28 2009-08-26 ソニー株式会社 撮像装置
JP5247044B2 (ja) * 2007-02-16 2013-07-24 キヤノン株式会社 撮像装置
JP4973273B2 (ja) * 2007-03-28 2012-07-11 株式会社ニコン デジタルカメラ
JP5191168B2 (ja) * 2007-06-11 2013-04-24 株式会社ニコン 焦点検出装置および撮像装置
EP2028843B1 (en) * 2007-08-21 2013-10-23 Ricoh Company, Ltd. Focusing device and imaging apparatus using the same
JP5092685B2 (ja) * 2007-10-23 2012-12-05 株式会社ニコン 撮像素子および撮像装置
JP2009175279A (ja) 2008-01-22 2009-08-06 Olympus Imaging Corp カメラシステム
JP5130178B2 (ja) * 2008-03-17 2013-01-30 株式会社リコー 焦点距離検出装置及び撮像装置及び撮像方法及びカメラ
JP5089515B2 (ja) 2008-07-15 2012-12-05 キヤノン株式会社 焦点調節装置、撮像装置、交換レンズ、換算係数較正方法、換算係数較正プログラム
JP5317562B2 (ja) * 2008-07-17 2013-10-16 キヤノン株式会社 位相差検出装置、撮像装置、位相差検出方法、位相差検出プログラム
KR20100013859A (ko) * 2008-08-01 2010-02-10 삼성디지털이미징 주식회사 디지털 영상 처리기에서 렌즈의 mtf 특성을 이용한포커스 조정 장치 및 방법
JP5161702B2 (ja) * 2008-08-25 2013-03-13 キヤノン株式会社 撮像装置、撮像システム、及び焦点検出方法
JP5097077B2 (ja) 2008-10-10 2012-12-12 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
RU2389050C1 (ru) * 2008-10-30 2010-05-10 Общество с ограниченной ответственностью Научно-Производственная компания "СенсорИС" Способ автоматической фокусировки
JP5489641B2 (ja) * 2008-11-11 2014-05-14 キヤノン株式会社 焦点検出装置及びその制御方法
JP2010128122A (ja) * 2008-11-27 2010-06-10 Olympus Corp 撮像装置
JP5230388B2 (ja) * 2008-12-10 2013-07-10 キヤノン株式会社 焦点検出装置及びその制御方法
JP5195506B2 (ja) * 2009-02-24 2013-05-08 株式会社ニコン 撮像装置および画像合成方法
JP4766133B2 (ja) * 2009-03-11 2011-09-07 株式会社ニコン 撮像装置
JP5322783B2 (ja) * 2009-06-05 2013-10-23 キヤノン株式会社 撮像装置及び該撮像装置の制御方法
JP5393300B2 (ja) * 2009-07-06 2014-01-22 キヤノン株式会社 撮像装置
JP2011017800A (ja) * 2009-07-07 2011-01-27 Canon Inc 焦点検出装置
JP2011023812A (ja) * 2009-07-13 2011-02-03 Nikon Corp 画像記録装置及び画像表示装置
JP5517514B2 (ja) * 2009-07-16 2014-06-11 キヤノン株式会社 撮像装置及びその制御方法
JP5045801B2 (ja) * 2009-09-09 2012-10-10 株式会社ニコン 焦点検出装置、撮影レンズユニット、撮像装置およびカメラシステム
WO2011052064A1 (ja) * 2009-10-30 2011-05-05 キヤノン株式会社 情報処理装置および方法
JP2011139282A (ja) 2009-12-28 2011-07-14 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム
US9020281B2 (en) * 2010-03-01 2015-04-28 Konika Minolta Advanced Layers, Inc. Ghost detection device and imaging device using the same, ghost detection method and ghost removal method
JP2011221254A (ja) * 2010-04-08 2011-11-04 Sony Corp 撮像装置、固体撮像素子、撮像方法およびプログラム
JP2011221253A (ja) * 2010-04-08 2011-11-04 Sony Corp 撮像装置、固体撮像素子、撮像方法およびプログラム
JP5773583B2 (ja) * 2010-06-11 2015-09-02 キヤノン株式会社 撮像装置およびその制御方法、コンピュータプログラム
JP5606208B2 (ja) 2010-08-03 2014-10-15 キヤノン株式会社 焦点検出装置および撮像装置
JP2012032723A (ja) * 2010-08-03 2012-02-16 Sony Corp 撮像装置、撮像素子、撮像方法およびプログラム
JP2012043939A (ja) * 2010-08-18 2012-03-01 Sony Corp 撮像素子および撮像装置
JP5753371B2 (ja) * 2010-11-25 2015-07-22 キヤノン株式会社 撮像装置およびその制御方法
JP5623254B2 (ja) * 2010-11-29 2014-11-12 キヤノン株式会社 撮像装置およびその制御方法
JP5743514B2 (ja) * 2010-12-08 2015-07-01 キヤノン株式会社 撮像装置、その制御方法およびプログラム
JP5165099B2 (ja) * 2010-12-10 2013-03-21 キヤノン株式会社 撮像装置及びレンズユニット
JP5709532B2 (ja) * 2011-01-05 2015-04-30 キヤノン株式会社 自動合焦装置及びそれを有するレンズ装置及び撮像システム
JP2012145664A (ja) * 2011-01-11 2012-08-02 Sony Corp 画像処理装置、撮像装置、画像処理方法およびプログラム。
JP5954933B2 (ja) * 2011-03-29 2016-07-20 キヤノン株式会社 撮像装置およびレンズ装置
JP5825817B2 (ja) * 2011-04-01 2015-12-02 キヤノン株式会社 固体撮像素子及び撮像装置
JP5818514B2 (ja) * 2011-05-27 2015-11-18 キヤノン株式会社 画像処理装置および画像処理方法、プログラム
JP6021306B2 (ja) * 2011-07-25 2016-11-09 キヤノン株式会社 撮像装置およびその制御方法
JP5822613B2 (ja) * 2011-09-12 2015-11-24 キヤノン株式会社 画像処理装置および画像処理方法
JP5898501B2 (ja) * 2012-01-13 2016-04-06 キヤノン株式会社 画像処理装置、撮像装置、制御方法、プログラム及び記録媒体
JP5914055B2 (ja) * 2012-03-06 2016-05-11 キヤノン株式会社 撮像装置
JP5917207B2 (ja) * 2012-03-14 2016-05-11 キヤノン株式会社 焦点調節装置
US9451147B2 (en) * 2012-06-11 2016-09-20 Canon Kabushiki Kaisha Image processing apparatus, image processing method, image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium
JP6029380B2 (ja) * 2012-08-14 2016-11-24 キヤノン株式会社 画像処理装置、画像処理装置を具備する撮像装置、画像処理方法、及びプログラム
JP6033038B2 (ja) * 2012-10-26 2016-11-30 キヤノン株式会社 焦点検出装置、撮像装置、撮像システム、および、焦点検出方法
JP6124564B2 (ja) * 2012-11-21 2017-05-10 キヤノン株式会社 焦点検出装置及び方法、及び撮像装置
US9596445B2 (en) * 2012-11-30 2017-03-14 Panasonic Intellectual Property Management Co., Ltd. Different-view image generating apparatus and different-view image generating method
JP2014126710A (ja) * 2012-12-26 2014-07-07 Canon Inc 自動焦点検出装置およびその制御方法、撮像装置
JP6346439B2 (ja) * 2013-01-07 2018-06-20 キヤノン株式会社 撮像装置及びその制御方法
JP6045362B2 (ja) * 2013-01-17 2016-12-14 オリンパス株式会社 撮像装置および焦点検出方法
JP6271952B2 (ja) * 2013-01-23 2018-01-31 キヤノン株式会社 撮像装置
JP2014179939A (ja) * 2013-03-15 2014-09-25 Sony Corp 信号処理装置および信号処理方法
JP6532119B2 (ja) * 2013-04-30 2019-06-19 キヤノン株式会社 撮像装置及びその制御方法
JP6100089B2 (ja) * 2013-05-17 2017-03-22 キヤノン株式会社 画像処理装置、画像処理方法およびプログラム
JP6239862B2 (ja) * 2013-05-20 2017-11-29 キヤノン株式会社 焦点調節装置、焦点調節方法およびプログラム、並びに撮像装置
JP6288952B2 (ja) * 2013-05-28 2018-03-07 キヤノン株式会社 撮像装置およびその制御方法
JP6372983B2 (ja) * 2013-09-02 2018-08-15 キヤノン株式会社 焦点検出装置およびその制御方法、撮像装置
JP6351231B2 (ja) * 2013-10-18 2018-07-04 キヤノン株式会社 撮像装置、撮像システム、撮像装置の制御方法、プログラム、および、記憶媒体
JP2015094925A (ja) * 2013-11-14 2015-05-18 キヤノン株式会社 焦点調節装置、焦点調節方法およびプログラム、並びに焦点調節装置を有する撮像装置

Also Published As

Publication number Publication date
GB201400663D0 (en) 2014-03-05
US20140146221A1 (en) 2014-05-29
CN103703401B (zh) 2016-01-27
GB2506084A (en) 2014-03-19
US20150185434A1 (en) 2015-07-02
RU2562394C1 (ru) 2015-09-10
JP2013025246A (ja) 2013-02-04
US9279955B2 (en) 2016-03-08
GB2506084B (en) 2018-04-04
CN103703401A (zh) 2014-04-02
DE112012003105T5 (de) 2014-04-24
DE112012003105B4 (de) 2020-04-02
WO2013015437A1 (en) 2013-01-31
US9019424B2 (en) 2015-04-28

Similar Documents

Publication Publication Date Title
JP6000520B2 (ja) 撮像装置およびその制御方法およびプログラム
JP6405243B2 (ja) 焦点検出装置及びその制御方法
JP6021306B2 (ja) 撮像装置およびその制御方法
JP5914192B2 (ja) 撮像装置及びその制御方法
US9602716B2 (en) Focus-detection device, method for controlling the same, and image capture apparatus
KR20070086061A (ko) 카메라 및 카메라의 화상처리방법
WO2013171840A9 (ja) 撮像装置及び撮像装置の制御方法
JP6762710B2 (ja) 撮像装置及びその制御方法
JP5893412B2 (ja) 撮像装置およびその制御方法
JP6032967B2 (ja) 撮像装置、レンズ装置および撮像装置の制御方法
JP2006251065A (ja) ハイブリッドafカメラ
JP2016099416A (ja) 撮像装置
JP2009128438A (ja) カメラの焦点検出装置
JP6188290B2 (ja) 測距装置、撮像装置、ピント評価方法、プログラム及び記憶媒体
JP5590850B2 (ja) 撮像装置および撮像装置のフォーカス制御方法
JP5968081B2 (ja) 撮像装置及びその制御方法
JP7337566B2 (ja) 撮像装置、画像処理方法、およびプログラム
JP2006140797A (ja) 画像処理装置および画像処理方法
JP6144880B2 (ja) 表示装置および表示方法、並びに前記表示装置を備えた撮像装置
JP2014149460A (ja) 撮像装置及びその制御方法
JP2013113967A (ja) 撮像装置及びその制御方法、並びにプログラム
JP2004198625A (ja) カメラ
JP2015025960A (ja) 焦点検出システム、焦点検出方法およびプログラム、並びに撮像装置
JP2017011628A (ja) 撮像装置
JP2004170780A (ja) レンズピント合わせ装置

Legal Events

Date Code Title Description
RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20130701

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140722

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150709

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150907

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160804

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160831

R151 Written notification of patent or utility model registration

Ref document number: 6000520

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees