JP2019168479A - 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 - Google Patents

制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 Download PDF

Info

Publication number
JP2019168479A
JP2019168479A JP2018053733A JP2018053733A JP2019168479A JP 2019168479 A JP2019168479 A JP 2019168479A JP 2018053733 A JP2018053733 A JP 2018053733A JP 2018053733 A JP2018053733 A JP 2018053733A JP 2019168479 A JP2019168479 A JP 2019168479A
Authority
JP
Japan
Prior art keywords
imaging
unit
imaging unit
focus
correction value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2018053733A
Other languages
English (en)
Inventor
智暁 井上
Tomoaki Inoue
智暁 井上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018053733A priority Critical patent/JP2019168479A/ja
Priority to US16/352,975 priority patent/US10999491B2/en
Publication of JP2019168479A publication Critical patent/JP2019168479A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N2013/0074Stereoscopic image analysis
    • H04N2013/0081Depth or disparity estimation from stereoscopic image signals

Abstract

【課題】高精度かつ高速なフォーカス制御が可能な制御装置を提供する。【解決手段】制御装置(1)は、第1の撮像部(100)を介して得られた画像信号に基づいて焦点情報を算出する焦点情報算出部(23)と、第2の撮像部(110)を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出する距離情報算出部(21)と、第1の撮像部の焦点情報に基づいて補正値を算出する補正値算出部(22)と、補正値と距離情報とに基づいて第1の撮像部のフォーカス制御を行う制御部(30、41)とを有する。【選択図】図2

Description

本発明は、複数の撮像部を備えた撮像装置に関する。
近年、2つの撮像部を備えた撮像装置(ステレオカメラ)は、自動車やデジタルカメラなどの様々な分野で広く利用されている。特許文献1には、主たる撮影レンズおよび撮像素子とは別に被写体距離取得用の2つのレンズおよび2つの撮像素子を備え、それらを用いて距離マップ画像を取得する撮像装置が開示されている。
特開2013−42379号公報
ところで、望遠レンズを用いて動体などの被写体を撮影する際、撮影視野が狭いため、被写体が撮影視野から外れると、再度、撮影視野内に被写体を捉えることは困難である。また、撮影視野内に被写体を捉えることができた場合でも、その瞬間に望遠レンズのフォーカス調整を完了させることは難しい。すなわち、望遠レンズを用いて被写体を撮影する場合、被写体を撮影視野内に捉え、この被写体に高速で合焦させることは困難である。
また、温度変動や落下の衝撃などによる構成部材の変形により、撮像装置の光学特性(光軸方向、基線長など)が変化し、距離情報算出結果(焦点検出結果)に誤差が生じうる。特許文献1に開示された撮像装置では、距離情報算出精度が低下すると、主たる撮影レンズのフォーカス位置を高精度に決定することができず、高速なフォーカス制御を実現することが難しい。
そこで本発明は、高精度かつ高速なフォーカス制御が可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することを目的とする。
本発明の一側面としての制御装置は、第1の撮像部を介して得られた画像信号に基づいて焦点情報を算出する焦点情報算出部と、第2の撮像部を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出する距離情報算出部と、前記第1の撮像部の前記焦点情報に基づいて補正値を算出する補正値算出部と、前記補正値と前記距離情報とに基づいて前記第1の撮像部のフォーカス制御を行う制御部とを有する。
本発明の他の側面としての撮像装置は、少なくとも1つの撮像光学系を備えた第2の撮像部と、前記制御装置とを有する。
本発明の他の側面としての制御方法は、第1の撮像部を介して得られた画像信号に基づいて焦点情報を算出するステップと、第2の撮像部を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出するステップと、前記第1の撮像部の前記焦点情報に基づいて補正値を算出するステップと、前記補正値と前記距離情報とに基づいて前記第1の撮像部のフォーカス制御を行うステップとを有する。
本発明の他の側面としてのプログラムは、前記制御方法をコンピュータに実行させる。
本発明の他の側面としての記憶媒体は、前記プログラムを記憶している。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、高精度かつ高速なフォーカス制御が可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供すことができる。
実施例1における撮像装置の外観図である。 実施例1における撮像装置のブロック図である。 各実施例における表示部に表示される画像の説明図である。 実施例1における撮像装置の動作を示すフローチャートである。 実施例2における撮像装置のブロック図である。 実施例2における撮像装置の動作を示すフローチャートである。 各実施例における被写体距離の算出方法の説明図である。 各実施例における対応被写体探索処理の説明図である。 各実施例における撮像光学系が変形した場合の被写体距離の算出方法の説明図である。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
まず、図7を参照して、2つの撮像光学系を用いて被写体距離を取得する方法について説明する。図7は、被写体距離の算出方法の説明であり、互いに同一の構造を有する2つの撮像光学系CA、CBを用いて撮影シーンのうちの1点に存在する被写体Objを撮像する様子を示している。撮像素子SA、SBはそれぞれ、撮像光学系CA、CBにより形成された被写体像(光学像)を受光する。撮像光学系CA、CBのそれぞれの入射瞳中心は(−D/2,0)、(D/2,0)に存在し、被写体Objは(x、z)に存在する。撮像光学系CA、CBのそれぞれの焦点距離をf、撮像素子SA、SBのそれぞれにおける被写体Objの座標をa、bとすると、以下の式(1)が成立する。
式(1)において、b−aは、互いに異なる視点から同一の被写体を撮像した際の撮像面上での位置のずれ、すなわち視差である。視差b−a(視差量)を取得することができれば、視差b−a、撮像光学系CA、CBのそれぞれの焦点距離f、および、基線長Dを式(1)に代入することにより、被写体距離z(撮像光学系の入射瞳中心から被写体Objまでの距離)を算出することができる。
続いて、図8を参照して、2つの撮像光学系を用いて取得された2つの画像から視差量を取得するための対応被写体探索処理について説明する。図8は、対応被写体探索処理の説明図であり、互いに異なる視点から撮像された画像IMG1、IMG2を示している。画像座標(X,Y)は、図8中に示される画素群の中心を原点として定義し、水平方向をX軸、垂直方向をY軸とする。また、画像座標(X,Y)に位置する画像IMG1の画素値をF1(X,Y)とし、画像IMG2の画素値をF2(X,Y)として説明する。画像IMG1における任意の座標(X,Y)に対応する画像IMG2の画素は、座標(X,Y)における画像IMG1の画素値F1(X,Y)と最も類似する画像IMG2の画素値を探すことで求めることができる。なお、以降の説明において、画像上の対応点と対応画素とは同一の意味である。
ここで、図8に示される画像IMG1、IMG2上の縦線で示される画素P1、P2は、互いに同じ被写体からの光を記録した、対応画素(対応点)に相当する。ただし、一般的に任意の画素と最も類似する画素を探すことは難しいため、画像座標(X,Y)の近傍の画素も用い、ブロックマッチング法と呼ばれる手法で類似画素を探索することができる。
例えば、ブロックサイズが3である場合のブロックマッチング処理について説明する。画像IMG1の任意の座標(X,Y)の画素(注目画素)、および、その前後の座標(X−1、Y)、(X+1、Y)に位置する2つの画素の計3画素の画素値はそれぞれ、F1(X,Y)、F1(X−1,Y)、F1(X+1,Y)となる。これに対し、座標(X,Y)からX方向にkだけずれた画像IMG2の画素の画素値はそれぞれ、F2(X+k,Y),F2(X+k−1,Y),F2(X+k+1,Y)となる。このとき、画像IMG1の座標(X,Y)に位置する注目画素と、画像IMG2の座標(X+k,Y)に位置する画素との類似度Eは、以下の式(2)のように定義される。
式(2)において逐次kの値を変えて類似度Eを算出し、最も小さい類似度Eを与える座標(X+k、Y)が、画像IMG1の注目画素に対応する画像IMG2の画素の座標となる。ここでは、X方向にのみ逐次座標を変化させながら類似度Eを算出しているが、Y方向、または、X方向およびY方向の両方向にも逐次座標を変化させながら類似度Eを算出してもよい。このような対応被写体探索処理を行うことにより、2つの画像のそれぞれにおける対応点(対応画素)の座標を取得することができ、それらの相違量である視差量を算出することが可能である。
本実施形態では、ブロックサイズが3である場合のブロックマッチング処理について説明したが、前述の処理において、探索範囲およびブロックサイズは変更可能なパラメータである。視差量が事前にある程度予測される場合には、探索範囲をある領域に絞って処理を行うことで、処理負荷を大幅に低減して高速化を図ることができる。ブロックサイズについては、一般的に被写体の構造サイズに合わせて設定することにより、視差量の算出精度を向上させることができる。また、特に画像がボケている場合、そのボケ量を加味してブロックサイズを拡大することにより、視差量の算出誤差を低減することができる。また、類似度Eに対して直線フィッティングやパラボラフィッティングによってサブ画素レベルで視差量を算出する手法が知られている。これらのフィッティング関数は、画像の鮮鋭度に応じてサブ画素算出誤差が変化することが知られており、画像の鮮鋭度に応じて関数を選択することも可能である。
以上説明したように、2つの撮像光学系を用いて取得した2つの画像において対応被写体探索処理を行うことにより視差量を算出し、この視差量に基づいて被写体距離を算出することができる。また、撮像光学系に応じて視差量と像面移動量であるデフォーカス量との関係は決定される。このため、その視差量に基づいてデフォーカス量を算出することができる。そして、そのデフォーカス量に基づいてレンズの繰り出し量を求め、レンズを移動し合焦させることができる(位相差AF)。以降、本明細書中では、被写体距離、視差量、デフォーカス量、または、位相差情報を被写体距離に関する情報という意味で距離情報とも表現する。
ここで、前述の被写体距離zの算出では、撮像光学系CA、CBを用いて(x、z)に存在する被写体Objを撮像した場合、撮像素子SA、SB上の常に同じ位置である座標a、bに被写体Objの像が生じることを前提としている。この前提条件は、撮像光学系CA、CBが変形しない場合には常に成り立つが、撮像光学系CA、CBが変形した場合にはその限りではない。一例として、図9は、図7に示される撮像光学系CAが左方向に偏芯し、撮像光学系CBが左回りに傾いた場合の状態を模式的に示している。この状態で撮像光学系CA、CBを用いて(x、z)に存在する被写体Objを撮像した場合、被写体Objの像が生じる座標は、撮像素子SAではa+cの位置、撮像素子SBではb+dの位置となる。すなわち、初期状態である図7から撮像光学系が変形した図9の状態への変化により、撮像素子SA、SB上の像位置がそれぞれ像ズレ量c、dだけずれる。式(1)から明らかなように、分母に像ズレ量c、dが加わるため、式(1)の右辺の値は被写体距離zとは異なる値となる。すなわち、撮像光学系の変形による像ズレ量の発生により、被写体距離zの算出に誤差が生じる。
本実施形態は、複数の撮像部を備えて構成される撮像装置であって、焦点(焦点情報)を検出する焦点検出部とフォーカス機構を有する撮像光学系を備えた第1の撮像部と、少なくとも1つの撮像光学系を備えた第2の撮像部とを有する。また撮像装置は、第2の撮像部を介して得られた少なくとも2つの画像信号に基づいて被写体までの距離に関する距離情報を算出する距離情報算出部を有する。また撮像装置は、焦点検出部が出力する第1の撮像部の焦点情報に基づいて第2の撮像部を介して得られた距離情報を補正する補正値算出部を有し、被写体距離の算出誤差を補正することができる。このような構成により、誤差を補正された距離情報に基づいて第1の撮像部が被写体に合焦するようにフォーカス機構を制御することにより、高速かつ高精度に被写体に合焦させることができる。ここまで、本実施形態の制御装置による距離算出方法の概要について説明した。以下、制御装置(撮像装置)について、各実施例において詳述する。
まず、図1および図2を参照して、本発明の実施例1における撮像装置1(撮像システム)について説明する。図1は、撮像装置1の外観図であり、図1(a)は俯瞰図、図1(b)は正面図をそれぞれ示している。図2は、撮像装置1のブロック図である。
撮像装置1は、主として被写体の撮像に用いられる主撮像部(第1の撮像部)100と、被写体の距離を取得する副撮像部(第2の撮像部)110とを有する。主撮像部100は、撮像光学系(第1の撮像光学系)101と撮像素子102とを備えて構成される。撮像光学系101は、1つ以上のレンズ、絞り101A、および、フォーカスレンズ(フォーカス機構)101Fを備えて構成されており、被写体(不図示)からの光を撮像素子102上に結像させる。また撮像光学系101は、その内部に設けられた1つ以上のレンズが駆動することで焦点距離が変化する変倍光学系である。
図1において、撮像光学系101は撮像装置1の一部として構成されているが、一眼レフカメラのように交換式の撮像光学系であってもよい。すなわち本実施例は、撮像素子102を備えた撮像装置本体と撮像光学系101とが一体的に構成された撮像装置、または、撮像光学系101が着脱可能な撮像装置(撮像光学系101と撮像装置本体とで構成される撮像システム)のいずれにも適用可能である。
撮像素子102は、CMOSセンサやCCDセンサなどの固体撮像素子であり、撮像光学系101を介して形成された光学像(被写体像)を光電変換して画像信号(アナログ電気信号)を出力する。撮像光学系101における絞り101Aおよびフォーカスレンズ101Fの機械的な駆動は、システムコントローラ30からの指示(制御)に基づいて、撮像制御部40(フォーカス制御部41)により行われる。システムコントローラ30およびフォーカス制御部41により制御部が構成される。絞り101Aは、設定された絞り値(F値、Fナンバー)に応じてその開口径が制御される。フォーカス制御部41は、被写体距離に応じてフォーカスレンズ101Fの位置を制御することにより、フォーカス調整を行う。A/Dコンバータ10は、撮像素子102から出力されたアナログ電気信号(画像信号)をデジタル信号に変換する。
画像処理部20は、A/Dコンバータ10から出力されたデジタル信号に対して、画素補間処理、輝度信号処理、および、色信号処理など、いわゆる現像処理を行い、画像(画像データ)を生成する。画像処理部20により生成された画像は、半導体メモリや光ディスクなどの画像記録媒体60に記録される。また画像処理部20により生成された画像は、表示部70に表示されてもよい。情報入力部50には、ユーザの指示(操作)に基づいて様々な情報が入力される。一例としては、画像取得時の撮像条件(撮影条件情報)であり、具体的には主撮像部100のF値、ISO感度などであるが、これらに限定されるものではない。
副撮像部(第2の撮像部)110は、撮像光学系(第2の撮像光学系)111aおよび撮像光学系(第3の撮像光学系)111bと、撮像光学系111a、111bにそれぞれ対応する撮像素子112a、112bとを備えて構成される。撮像光学系111a、111bはそれぞれ、被写体(不図示)からの光を撮像素子112a、112b上に結像させる単焦点撮像光学系であり、焦点距離が互いに等しい。また撮像光学系111a、111bはそれぞれ、フォーカスレンズ111aF、111bFを有する。撮像素子112a、112bにより生成されたアナログ電気信号(画像信号)は、撮像素子102の場合と同様に、A/Dコンバータ10へ出力されデジタル信号へ変換される。
画像処理部20は、撮像素子112a、112bのそれぞれから出力された2つの画像を生成する。この2つの画像は、撮像光学系111a、111bにより形成された被写体像に相当し、互いに視差を有する2つの視差画像である。画像処理部20により生成された画像は、主撮像部100場合と同様に、表示部70に表示することができる。本実施例では、撮像光学系(第2の撮像光学系)111aを介して得られる画像を表示部70に表示するが、これに限定されるものではない。なお本実施例において、副撮像部110は撮像装置1から着脱可能であってもよい。この場合、複数の副撮像部の中から撮像装置1の主撮像部100に適した副撮像部を選択して撮像装置1に装着することができる。
画像処理部20は、距離情報算出部(焦点情報算出部)21および補正値算出部22を有する。距離情報算出部21は、副撮像部110により生成された2つの視差画像(撮像素子112a、112bから出力された2つの画像信号)に基づいて、視差量または被写体距離を算出する。また距離情報算出部(焦点情報算出部)21は、主撮像部100を介して得られた画像(画像信号)に基づいて、コントラストAFの評価値を算出して焦点情報(フォーカス位置に関する情報)を出力(焦点情報を算出)する。なお距離情報算出部21は、コントラストAFに代えて、位相差AF、またはコントラストAFと位相差AFとを組み合わせたハイブリッドAFを行ってもよい。距離情報算出部21は、情報入力部50を介してユーザにより指定された特定の領域または特定の被写体の距離情報または焦点情報を算出してもよい。情報入力部50は、例えば、ユーザによって選択された特定の被写体を距離情報算出領域(焦点検出領域)として選択し、常にその特定の被写体(動く被写体)を距離情報算出領域として設定することができる。また、撮像光学系111a、111bの画角のうち互いに重畳する画角領域内の全ての被写体の距離を算出し、それらの距離を画素値として示す距離マップ画像を生成してもよい。補正値算出部22は、入力された主撮像部100からの焦点情報と副撮像部110からの距離情報(視差量または被写体距離)とに基づいて、副撮像部110からの距離情報を補正する補正値を算出する。メモリ80は、距離情報に応じた主撮像部100のフォーカスレンズの位置(フォーカス位置)に関するデータをテーブルとして記憶している。
なお本実施例において、撮像装置1は、主撮像部100および副撮像部110に対して1つのA/Dコンバータ10および1つの画像処理部20を有するが、これに限定されるものではない。例えば、主撮像部100および副撮像部110のそれぞれに専用のA/Dコンバータおよび画像処理部(複数のA/Dコンバータおよび複数の画像処理部)を設けてもよい。
副撮像部110を構成する撮像光学系111a、111bは、最も被写体に近いレンズ(最も被写体側のレンズ)同士の間の長さが50mmになるように配置されており、この長さが副撮像部110の基線長Dに相当する。撮像光学系111a、111bは互いに同一の構成を有し、左右対称であるように平行に配置されている。すなわち、撮像光学系111a、111bのそれぞれの開口部(開口絞り)よりも被写体側において、撮像光学系111a、111bの光軸は互いに平行である。
副撮像部110を構成する2つの撮像光学系111a、111bは、互いに同一の画角を有する。また、撮像光学系111a、111bのそれぞれの画角は、主撮像部100を構成する撮像光学系101の望遠端における画角よりも広い。本実施例において、主撮像部100を構成する撮像光学系101の望遠端における焦点距離は35mm判換算で1000mm、副撮像部110を構成する2つの撮像光学系111a、111bの焦点距離は35mm判換算で400mmである。
副撮像部の撮像素子112a、112bはそれぞれ、主撮像部の撮像素子102と比較して、一辺のサイズが略半分のサイズである。このため、主撮像部と副撮像部の撮像光学系の実焦点距離の比は、略5倍となるため、主撮像部に対して副撮像部の被写界深度が十分に深い構成となっている。
ここで、図3(a)、(b)を参照して、主撮像部100の撮像光学系101を望遠端に設定とした場合における、表示部70の画像表示例を説明する。図3(a)、(b)は、表示部70に表示される画像の説明図であり、被写体303(鳥)を撮像する際に、表示部70に表示される画像を示している。図3(a)は被写体303が主撮像部100の撮影視野領域の範囲外に存在する状態、図3(b)は被写体303が主撮像部100の撮影視野領域の範囲内に存在する状態をそれぞれ示している。
図3(a)中の実線301で囲まれる領域は、副撮像部110の撮像光学系111aの撮影視野(撮影視野領域)である。このように、表示部70には、副撮像部110の撮像光学系111aを介して撮像されている画像が表示される。図3(a)中の破線302で囲まれる領域は、主撮像部100の撮影視野(撮影視野領域)を示している。ユーザは、表示部70に表示された破線302(主撮像部100の撮影視野に関する情報)により、主撮像部100の撮影視野を確認することができる。
図3(a)において、撮影対象の被写体303(鳥)が主撮像部100の撮影視野の範囲内に入っていない(主撮像部100の撮影視野の範囲外である)が、表示される副撮像部110の撮影視野の範囲内に入っていることを示している。このように本実施例において、表示部70は、副撮像部110を介して得られた画像に、主撮像部100の撮影視野に関する情報(破線302)を重ねて表示する。このためユーザは、例えば望遠撮影の際に、撮影視野に被写体を捉えることが容易になる。また、主撮像部100の望遠端における画角よりも副撮像部110の画角が広くため、変倍光学系を用いた望遠撮影の際に被写体を捉えやすくなる。好ましくは、副撮像部110は、主撮像部100の望遠端における画角と比較して、2倍以上広い画角を有する。このように主撮像部100と副撮像部110との焦点距離比(画角比)を2倍以上とすることにより、被写体をより容易に捉えることが可能になる。
なお本実施例において、表示部70は、主撮像部100の撮影視野に関する情報として、主撮像部100の視野領域をユーザに認識させるための破線302を表示しているが、これに限定されるものではない。表示部70は、例えば、副撮像部110を介して得られた画像に、主撮像部100を介して得られた画像を合成して表示してもよい(主撮像部100を介して得られる画像を破線302で囲まれる領域に合成表示してもよい)。このような合成表示を行うことにより、ユーザは、主撮像部100により撮像される最終的な画像を認識し易くなる。
次に、図4を参照して、撮像装置1の撮像手順について説明する。図4は、撮像装置1の動作(撮像動作)を示すフローチャートである。図4の各ステップは、主に、システムコントローラ30の指令に基づいて、撮像装置1の各部により実行される。
まずステップS101において、システムコントローラ30は、撮像制御部40を介して、主撮像部100を用いたコントラストAF(焦点検出処理)を行う。より詳細には、システムコントローラ30は、撮像制御部40を介して主撮像部100を制御し、撮像を行うことでプレ画像を取得する。ここでは、図3(a)に示される破線302で囲まれる領域内の建造物を撮像している状態とする。また、情報入力部(領域選択部)50は、破線302で囲まれる領域内の任意の建造物の一部を焦点検出領域として決定する。システムコントローラ30は、情報入力部50により決定された焦点検出領域内の画像信号のみを距離情報算出部21に供給する。そしてシステムコントローラ30は、距離情報算出部21が焦点検出領域内の画像信号に基づいて生成したAF評価値を取得する。
またシステムコントローラ30は、フォーカスレンズ101Fを微小量だけ左右に移動させ、再度、AF評価値(左に移動させて得られたAF評価値および右に移動させて得られたAF評価値)を取得する。システムコントローラ30は、微小駆動で得られたAF評価値に基づいてコントラストAFを行い、フォーカスレンズ101Fの位置(フォーカス位置)を決定する。また、ステップS101の前段階として、システムコントローラ30は、図4に示されるフローチャートに従う撮像動作を実施するか否かを判定してもよい。この判定は、不図示の温度検出手段による温度測定結果や振動検出手段による振動量測定結果に基づいて、光学系の変形要因が検出されたか否かの判定に基づいて行うこともできる。
続いてステップS102において、画像処理部20(距離情報算出部21)は、ステップS101にて決定されたフォーカスレンズ101Fの位置に基づいて、焦点検出領域内の被写体に対する焦点情報を算出する。ある被写体距離に対するフォーカスレンズ101Fの位置は、結像光学系(撮像光学系)において一義的に決定される。すなわち、撮像光学系101に関し、ある被写体距離に対して像を撮像素子面上に合焦させるためのフォーカスレンズ101Fの位置は、相対的な関係を常に維持する。このため、ある被写体距離に対する撮像光学系101のフォーカスレンズ101Fの位置が決定されれば、その相対的な関係に基づいて、被写体距離情報(焦点情報)を算出することができる。
本実施例では、例えば、前述の相対的な位置関係(フォーカス位置と被写体距離情報との関係)を示すデータをルックアップテーブルとしてメモリ80に格納しておく。ルックアップテーブルと前段で決定されたフォーカスレンズ101Fの停止位置情報(フォーカス位置)とに基づいて、フォーカス位置に対応する被写体距離情報を算出することができる。また別の手法として、前述の相対的な関係を関数としてメモリ80に格納し、その関数と前段で決定されたフォーカスレンズ101Fの停止位置情報(フォーカス位置)とに基づいて、フォーカス位置に対応する被写体距離情報を算出することもできる。ルックアップテーブルとして格納される被写体距離情報は、被写体までの距離に限定されるものではなく、正常な状態での副撮像部110から得られる視差量やデフォーカス量でもよい。
続いてステップS103において、システムコントローラ30は、撮像制御部40を介して副撮像部110を制御し、撮像を行うことで2つの画像を取得する。続いてステップS104において、画像処理部20(距離情報算出部21)は、ステップS103にて取得された2つの画像に基づいて、焦点検出領域内の被写体に対する距離情報を算出する。本実施例において、画像処理部20は、ステップS101にてコントラストAFの対象となった図3(a)中の破線302で囲まれる領域内の建造物の一部に対する距離情報を算出する。被写体の距離情報を算出する際に必要となる副撮像部110を構成する2つの撮像光学系111a、111bの焦点距離、基線長、および、撮像素子112a、112bの画素サイズ等の情報はメモリ80に格納されている。画像処理部20は、メモリ80から適宜その情報を受け取ることができる。本実施例では、前述のように2次元画像を用いて被写体までの距離を算出しているが、従来の位相差AFの手法を用いてデフォーカス量を算出してもよい。また本実施例において、副撮像部110を構成する撮像光学系111a、111bは温度変動により、図9を参照して説明したように変形している。すなわち、距離情報は、撮像光学系の変形による像ズレ量の発生により、被写体距離の算出に誤差が生じている状態である。
続いてステップS105において、画像処理部20(補正値算出部22)は、ステップS102にて算出された焦点情報とステップS104にて算出された距離情報とに基づいて、補正値を算出する。正常な状態では、主撮像部100による焦点情報と副撮像部110による距離情報との相関関係は一定である。一方、副撮像部110が図9に示されるような状態の場合、像ズレ量の発生により距離情報が変化する。本実施例において、補正値算出部22は、副撮像部110に対してc+dという補正値を算出する。
続いてステップS106において、システムコントローラ30は、撮像制御部40を介して副撮像部110を制御し、撮像を行うことで再度2つの画像を取得する。ステップS106では、図3(b)に示されるように、被写体(主被写体)303が破線302で囲まれる主撮像部100の撮影視野領域に存在する状態である。またシステムコントローラ30は、情報入力部50を介してユーザが選択した被写体を注目被写体として設定する。ここでは、図3(a)、(b)に示されるように、表示部70に表示された画像上の被写体(鳥)303をユーザがタッチすることで、被写体303が注目被写体(焦点検出領域)として選択設定される。また、既知の動体検出や被写体認識技術により検出した被写体を注目被写体として設定することもできる。このような設定により、注目被写体が主撮像部100の撮影視野領域外(破線302で囲まれる領域外)に存在する状態でも、ステップS105にて補正値を算出することが可能となる。
続いてステップS107において、距離情報算出部21は、ステップS106にて再度取得された2つの撮影画像とステップS105にて算出された補正値とに基づいて、補正された距離情報(補正距離情報)を算出する。被写体の距離を算出する際に必要となる撮像部110を構成する2つの撮像光学系111a、111bの焦点距離、基線長、および、撮像素子112a、112bの画素サイズ等の情報は、メモリ80に格納されている。距離情報算出部21は、メモリ80から適宜その情報を受け取ることができる。
距離情報算出部21は、前述の対応被写体探索処理により、2つの撮影画像から各被写体の視差量を算出する。図9に示されるように撮像光学系が変形した生じた状態で撮像された2つの画像から算出される視差量は、像ズレ量に応じた誤差を含む。一例として本実施例ではその算出された視差量は(a+c+b+d)であり、正確な視差量は(a+b)であるとする。このため、そのままの視差量を用いて式(1)から被写体距離を算出すると、像ズレ量分(c+d)の誤差が距離情報に生じてしまう。そこで本実施例では、ステップS105にて算出された像ズレ量に相当する補正値に基づいて、算出された視差量から像ズレ量分を差し引くことで、像ズレ量により生じる距離情報の誤差を低減することが可能となる。
続いてステップS108において、システムコントローラ30は、フォーカス制御部41を介して主撮像部100のフォーカスレンズ101Fを駆動し、撮像光学系101を主被写体に合焦させるように主撮像部100のフォーカス制御を行う。このときシステムコントローラ30は、ステップS107にて算出された補正距離情報(ステップS104にて算出された距離情報とステップS105にて算出された補正値)とに基づいて、主撮像部100のフォーカス制御を行う。被写体距離情報に応じたフォーカスレンズ101Fの位置(フォーカス位置)は、メモリ80にルックアップテーブルとして格納されている。このため、被写体距離情報に応じたフォーカス位置は、各撮像部の撮像条件と被写体距離情報とに応じて適宜判定することができる。システムコントローラ30は、補正された副撮像部110による正確な距離情報に基づいて、主撮像部100のフォーカス制御を行うことにより、主被写体に対して高精度にフォーカス制御を行うことが可能となる。このため、主撮像部100の撮影視野に主被写体が入った後のフォーカス制御の時間を短縮することができ(高速なフォーカス制御を行うことができ)、ボケた画像を撮影する頻度を低下させることが可能となる。その結果、望遠レンズを用いた動く被写体の撮影の成功率を向上させることができる。
続いてステップS109において、システムコントローラ30は、撮像制御部40を介して主撮像部100を制御し、撮像を行うことで画像を取得する。この画像は、画像記録媒体60に保存され、図4に示される撮像手順が終了する。なお、この画像に加えて副撮像部110が取得する2つの画像を画像記録媒体60に保存してもよい。また、2つの画像を用いて画像処理部20が算出する距離マップ画像を画像記録媒体60に保存してもよい。本実施例において、距離情報算出部21は、主撮像部100を介した画像に応じてコントラストAFの評価値(コントラスト評価値)を出力することができる。フォーカス制御部41は、コントラスト評価値に基づいて、主撮像部100の最終的なフォーカス制御を実施することができる。この場合、既にほぼ合焦状態からの追い込み制御となるため、コントラストAFを行っても僅かな制御時間の増加に留めることができ、高速なAF制御が可能となる。
このように本実施例の制御装置(撮像装置1)は、距離情報算出部(焦点距離算出部)21、補正値算出部22、および、制御部(システムコントローラ30、フォーカス制御部41)を有する。距離情報算出部(焦点距離算出部)21は、第1の撮像部(主撮像部100)を介して得られた画像信号に基づいて焦点情報を算出する。距離情報算出部21は、第2の撮像部(副撮像部110)を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出する。補正値算出部22は、第1の撮像部の焦点情報に基づいて補正値を算出する。制御部は、補正値と距離情報とに基づいて第1の撮像部のフォーカス制御を行う。
好ましくは、補正値は、距離情報(距離情報の算出式の係数)を補正する補正値(補正係数)である。また好ましくは、補正値は、焦点情報と距離情報との関係を示すデータ(ルックアップテーブル)を補正する補正値である。また好ましくは、補正値算出部22は、更に距離情報に基づいて補正値を算出する。また好ましくは、焦点情報は、第1の撮像部のフォーカスレンズ101Fの位置(フォーカス位置)に関する情報である。また好ましくは、制御部は、補正値と距離情報とに基づいて第1の撮像部の第1のフォーカス制御を行った後、焦点情報に基づいて第1の撮像部の第2のフォーカス制御(追い込み制御)を行う。また好ましくは、第2のフォーカス制御は、コントラストAFによるフォーカス制御である。また好ましくは、距離情報算出部21は、第2の撮像部を介して得られた2つの画像信号の視差量に基づいて距離情報を算出する。
このような構成により、光学系の変位や変形による像ズレが発生した状態でも、距離算出精度を向上させることが可能となる。また本実施例は、主撮像部の合焦制御(フォーカス制御)を行うことを主な目的としている。このため、被写体の絶対距離を正確に算出する必要はなく、主撮像部と副撮像部との間の距離情報の相対関係が補正されていればよい。本実施例では、主撮像部の光学系に変位や変形によるズレが発生した状態であっても、前述の構成とすることにより、常に主撮像部と副撮像部との距離情報の相対関係を保つことが可能であり、本発明の目的を達成することができる。
次に、図5を参照して、本発明の実施例2における撮像装置(撮像システム)2について説明する。図5は、撮像装置2のブロック図である。本実施例の撮像装置2は、副撮像部110に代えて副撮像部120を有する点で、実施例1の撮像装置1とは異なる。また撮像装置2は、コントラスト用AFゲート90、位相差用AFゲート92、コントラスト用焦点検出部(焦点情報算出部)91、位相差用距離情報算出部(距離情報算出部)93、および、判定部94を有する点で、撮像装置1とは異なる。撮像装置2のその他の構成は、撮像装置1と同様であるため、それらの説明を省略する。
副撮像部(第2の撮像部)120は、撮像光学系121a、121b、および、撮像素子122を備えている。撮像光学系121a、121bはそれぞれ、被写体(不図示)からの光を撮像素子122上に結像させる単焦点撮像光学系であり、焦点距離が互いに等しい。撮像素子122から出力されるアナログ電気信号は、撮像素子102から出力されるアナログ電気信号と同様に扱われる。画像処理部20は、撮像素子122から出力された画像信号(撮像光学系121a、121bを介して得られた画像信号)に基づいて2つの画像を生成する。この2つの画像は、撮像光学系121a、121bにより形成された被写体像に相当し、互いに視差を有する2つの視差画像である。なお本実施例において、副撮像部120は撮像装置2から着脱可能であってもよい。この場合、複数の副撮像部の中から撮像装置2の主撮像部100に適した副撮像部を選択して撮像装置2に装着することができる。
副撮像部120は、実施例1の副撮像部110とは異なり、2つの撮像光学系121a、121bに共通の1つの撮像素子122のみを有する。1つの撮像素子122上に2つの撮像光学系121a、121bを介して像を結像させ、撮像素子122から画像信号を出力させる。本実施例によれば、実施例1の構成と比較して、撮像素子の数を減らすことができるため、コストを低下させることが可能である。本実施例において、主撮像部100を構成する撮像光学系101の望遠端における焦点距離は35mm判換算で1000mm、副撮像部120を構成する2つの撮像光学系121a、121bの焦点距離は35mm判換算で400mmである。
また、主撮像部100の撮像素子102に対して、副撮像部120の撮像素子122は一辺のサイズが同じサイズである。しかしながら、副撮像部120では撮像素子122の撮像領域を二分割して利用しているため、副撮像部120の撮像光学系121a、121bに対する実質的な撮像素子サイズは半分となる。このため、主撮像部100と副撮像部120の撮像光学系の実焦点距離の比は略5倍となるため、主撮像部100に対して副撮像部120の被写界深度が十分に深い構成となっている。
A/Dコンバータ10は、撮像素子102、122から出力されるアナログ電気信号(画像信号)をデジタル信号に変換し、画像処理部20またはコントラスト用AFゲート90に供給する。コントラスト用AFゲート90は、A/Dコンバータ10からの全画素出力信号のうち、情報入力部50を介してユーザにより設定された焦点検出領域(AF枠)の範囲内の信号のみをコントラスト用焦点検出部91に供給する。コントラスト用焦点検出部91は、コントラスト用AFゲート90から供給される画像信号(焦点信号)に対してフィルタを適用して高周波成分を抽出し、評価値(AF評価値)を生成する。AF評価値は、システムコントローラ30に出力される。
位相差用AFゲート92は、A/Dコンバータ10からの全画素出力信号のうち、情報入力部50を介してユーザにより設定された焦点検出領域(AF枠)の信号のみを位相差用距離情報算出部93に供給する。位相差用距離情報算出部93は、位相差用AFゲート92から供給される画像信号(焦点信号)に対して位相差方式の処理(焦点検出処理)を行い、デフォーカス量を算出する。デフォーカス量は、システムコントローラ30に出力される。
判定部94は、補正値を算出するか否かを判定する。この判定は、不図示の温度検出手段による温度測定結果や振動検出手段による振動量測定結果に基づいて、光学系の変形要因が検出されたか否かの判定に基づいて行うことができる。
次に、図6を参照して、撮像装置2の撮像手順について説明する。図6は、撮像装置2の動作(撮像動作)を示すフローチャートである。図6の各ステップは、主に、システムコントローラ30の指令に基づいて、撮像装置2の各部により実行される。
まずステップS201において、システムコントローラ30は、情報入力部50を介してユーザにより選択された被写体を、注目被写体として設定する。ここでは、図3(a)に示されるように、表示部70に表示された画像上の被写体303(鳥)を、ユーザが選択釦(不図示)を用いて選択する。またシステムコントローラ30は、情報入力部50を介してユーザにより入力された撮像条件(撮影条件情報)を取得する。撮像条件とは、主撮像部100のF値やISO感度などを含むが、これらに限定されるものではない。またシステムコントローラ30は、撮像制御部40を介して主撮像部100の絞り101Aおよび撮像素子102を制御し、取得した撮像条件を設定する。
続いてステップS202において、判定部94は、補正値を算出するか否かを判定する。ステップS202にて判定部94が補正値を算出すると判定した場合(YES)、ステップS203へ移行する。一方、判定部94が補正値を算出しないと判定した場合(NO)、ステップS208へ移行する。この判定は、不図示の温度検出手段による温度測定結果や振動検出手段による振動量測定結果に基づいて、光学系の変形要因が検出されたか否かの判定に基づいて行うことができる。また、一定時間ごとに補正値の算出を実行させるタイマ機能を有していてもよい。副撮像部120が撮像装置本体に対して着脱可能である場合、判定部94は、副撮像部120の撮像装置本体に対する初期の装着時に補正値を算出するように制御することもできる。
ステップS203において、システムコントローラ30は、撮像制御部40を介して、主撮像部100のコントラストAFを行う。より詳細には、システムコントローラ30は、撮像制御部40を介して主撮像部100を制御し、撮像を行うことでプレ画像を取得する。図3(a)は、ステップS203における撮影状態を示す。図3(a)に示されるように、被写体(主被写体)303は主撮像部100の破線302で囲まれる撮影視野領域の外側に存在し、破線302で囲まれる領域内の建造物のみを撮像している状態となる。そこで、情報入力部(領域選択部)50は、破線302で囲まれる領域の任意の建造物の一部を補正値算出用焦点検出領域として設定する。すなわち、前段のステップS201にて決定された注目被写体が主撮像部100の撮影視野外に存在する場合、補正値算出のために別途異なる被写体を焦点検出領域として再設定することができる。このような設定により、注目被写体が主撮像部の撮影視野外にある状態においても、後段の補正値算出を実行することが可能となる。決定した焦点検出領域内の画像信号のみをコントラスト用焦点検出部91に供給するように、コントラスト用AFゲート90を設定する。
そしてシステムコントローラ30は、コントラスト用焦点検出部91が補正値算出用の焦点検出領域内の画像信号に基づいて生成したAF評価値を取得する。またシステムコントローラ30は、フォーカスレンズ101Fを微小量左右に移動させ、再度、AF評価値(左に移動させて得られたAF評価値および右に移動させて得られたAF評価値)を取得する。システムコントローラ30は、微小駆動で得られたAF評価値に基づいてコントラストAFを行い、フォーカスレンズ101Fの位置(フォーカス位置)を決定する。
続いてステップS204において、コントラスト用焦点検出部91は、ステップS203にて決定されたフォーカスレンズ101Fの位置を用いて、補正値算出用の焦点検出領域内の被写体に対する焦点情報を算出する。ある被写体距離に対するフォーカスレンズ101Fの位置は、結像光学系において一義的に決定される。すなわち、撮像光学系101に関し、ある被写体距離に対して像を撮像素子面上に合焦させるためのフォーカスレンズ101Fの位置は、相対的な関係を常に維持する。このため、ある被写体距離に対する撮像光学系101のフォーカスレンズ101Fの位置が決定されれば、その相対的な関係に基づいて、被写体距離情報を算出することができる。なお、被写体距離情報の算出方法は、実施例1と同様である。
続いてステップS205において、システムコントローラ30は、撮像制御部40を介して副撮像部120を制御し、撮像を行うことで2つの画像を取得する。続いてステップS206において、位相差用距離情報算出部93は、ステップS205にて取得された2つの画像に基づいて、補正値算出用の焦点検出領域内の被写体に対する距離情報を算出する。ここでは、ステップS203にてコントラストAFの対象であった図3(a)の破線302で囲まれる領域内の建造物の一部に対する距離情報を算出する。位相差用距離情報算出部93は、前述の対応被写体探索処理によりデフォーカス量を算出する。また、複数ラインをデータとして用いる場合、例えば、対応するラインごとに対応被写体探索処理を行い、求められた相関値群の平均を求めることもできる。また、対応被写体探索処理を行う前に複数ラインデータを上下方向に平均化して1ライン分のデータとして対応被写体探索処理を行ってもよい。
システムコントローラ30は、位相差用距離情報算出部93が補正値算出用の焦点検出領域内の画像信号に基づいて算出したデフォーカス量を取得する。本実施例では、副撮像部120を構成する撮像光学系121a、121bが、温度変動により、図9と同様に変形している。すなわち距離情報は、光学系の変形による像ズレ量の発生によって、被写体距離の算出に誤差が生じている状態である。
続いてステップS207において、補正値算出部22は、ステップS204にて算出された焦点情報とステップS206にて算出された距離情報とに基づいて、補正値を算出する。正常な状態では、主撮像部100による焦点情報と副撮像部120による距離情報との相関関係は一定である。一方、副撮像部120が図9に示されるような状態の場合、像ズレ量の発生により距離情報が変化する。本実施例において、補正値算出部22は、副撮像部120に対してc+dという補正値を算出する。
ステップS208において、システムコントローラ30は、撮像制御部40を介して副撮像部120を制御し、撮像を行うことで再度2つの画像を取得する。ステップS208では、図3(b)に示されるように、被写体(主被写体)303が破線302で囲まれる主撮像部100の撮影視野領域に存在する状態である。またシステムコントローラ30は、ステップS201にて情報入力部50を介してユーザが選択した被写体(主被写体)を注目被写体(焦点検出領域)として設定している。
続いてステップS209において、位相差用距離情報算出部93は、ステップS208にて再度取得された2つの撮影画像とステップS207にて算出された補正値とに基づいて、補正された距離情報(デフォーカス量)を算出する。デフォーカス量を算出する際に必要となる副撮像部120を構成する2つの撮像光学系121a、121bの焦点距離、基線長、および、撮像素子122の画素サイズ等の情報は、メモリ80に格納されている。位相差用距離情報算出部93は、メモリ80から適宜その情報を受け取ることができる。
位相差用距離情報算出部93は、前述の対応被写体探索処理により、2つの撮影画像から各被写体の視差量を算出する。図9に示されるように撮像光学系が変形した生じた状態で撮像された2つの画像から算出される視差量は、像ズレ量に応じた誤差を含む。一例として本実施例ではその算出された視差量は(a+c+b+d)であり、正確な視差量は(a+b)であるとする。このため、そのままの視差量を用いて式(1)から被写体距離を算出すると、像ズレ量分(c+d)の誤差が距離情報に生じてしまう。そこで本実施例では、ステップS207にて算出された像ズレ量に相当する補正値に基づいて、算出された視差量から像ズレ量分を差し引くことで、像ズレ量により生じる距離情報の誤差を低減することが可能となる。
続いてステップS210において、システムコントローラ30は、フォーカス制御部41を介して主撮像部100のフォーカスレンズ101Fを駆動し、撮像光学系101を主被写体に合焦させるように主撮像部100のフォーカス制御を行う。このときシステムコントローラ30は、ステップS209にて算出された補正距離情報(ステップS206にて算出された距離情報とステップS207にて算出された補正値)とに基づいて、主撮像部100のフォーカス制御を行う。被写体距離情報に応じたフォーカスレンズ101Fの位置(フォーカス位置)は、メモリ80にルックアップテーブルとして格納されている。このため、被写体距離情報に応じたフォーカス位置は、各撮像部の撮像条件と被写体距離情報とに応じて適宜判定することができる。システムコントローラ30は、補正された副撮像部110による正確な距離情報に基づいて、主撮像部100のフォーカス制御を行うことにより、主被写体に対して高精度にフォーカス制御を行うことが可能となる。このため、主撮像部100の撮影視野に主被写体が入った後のフォーカス制御の時間を短縮することができ(高速なフォーカス制御を行うことができ)、ボケた画像を撮影する頻度を低下させることが可能となる。その結果、望遠レンズを用いた動く被写体の撮影の成功率を向上させることができる。
続いてステップS211において、システムコントローラ30は、撮像制御部40を介して主撮像部100を制御し、撮像を行うことで画像を取得する。この画像は、画像記録媒体60に保存され、図6に示される撮像手順が終了する。なお、この画像に加えて副撮像部110が取得する2つの画像を画像記録媒体60に保存してもよい。また、2つの画像を用いて画像処理部20が算出する距離マップ画像を画像記録媒体60に保存してもよい。本実施例において、コントラスト用焦点検出部91は、主撮像部100を介した画像に応じて再度コントラストAFの評価値(コントラスト評価値)を出力することができる。フォーカス制御部41は、コントラスト評価値に基づいて、主撮像部100の最終的なフォーカス制御を実施することができる。この場合、既にほぼ合焦状態からの追い込み制御となるため、コントラストAFを行っても僅かな制御時間の増加に留めることができ、高速なAF制御が可能となる。
このように本実施例において、好ましくは、制御装置(撮像装置2)は、補正値を算出するか否かを判定する判定部94を有し、補正値算出部22は、判定部94が補正値を算出すると判定した場合、補正値を算出する。また好ましくは、制御装置は、焦点情報を算出するための領域を選択する領域選択部(情報入力部50)を有し、焦点情報算出部(コントラスト用焦点検出部91)は、領域選択部により選択された領域において焦点情報を算出する。また好ましくは、領域選択部は、第1の撮像部の撮影視野外の第1の領域を領域として選択した場合、第1の撮像部の撮影視野内の第2の領域を、補正値を算出するための領域として設定する。また好ましくは、領域選択部は、第1の撮像部の撮影視野内の第1の領域を領域として選択した場合、第1の領域を、補正値を算出するための領域として設定する。このような構成により、光学系の変位や変形による像ズレが発生した状態でも、距離算出精度を向上させることが可能となる。
各実施例において、副撮像部(第2の撮像部)は複数の撮像光学系(ステレオ光学系)を有するが、これに限定されるものではない。例えば、副撮像部は、1つの撮像光学系(第2の撮像光学系のみ)と、この撮像光学系のうち互いに異なる瞳領域を通過する光を受光する第1光電変換部および第2の光電変換部を備えた撮像素子とを有していてもよい。このような機能を有する撮像素子は、例えば、1つのマイクロレンズに対して複数の光電変換部(第1の光電変換部および第2の光電変換部)を有し、このようなマイクロレンズが2次元状に複数配列することにより実現することができる。
(その他の実施例)
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施例によれば、高精度かつ高速なフォーカス制御が可能な制御装置、撮像装置、制御方法、プログラム、および、記憶媒体を提供することができる。
以上、本発明の好ましい実施例について説明したが、本発明はこれらの実施例に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
1 撮像装置(制御装置)
100 主撮像部(第1の撮像部)
110 副撮像部(第2の撮像部)
21 距離情報算出部(焦点情報算出部)
22 補正値算出部
30 システムコントローラ(制御部)
41 フォーカス制御部(制御部)

Claims (22)

  1. 第1の撮像部を介して得られた画像信号に基づいて焦点情報を算出する焦点情報算出部と、
    第2の撮像部を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出する距離情報算出部と、
    前記第1の撮像部の前記焦点情報に基づいて補正値を算出する補正値算出部と、
    前記補正値と前記距離情報とに基づいて前記第1の撮像部のフォーカス制御を行う制御部と、を有することを特徴とする制御装置。
  2. 前記補正値は、前記距離情報を補正する補正値であることを特徴とする請求項1に記載の制御装置。
  3. 前記補正値は、前記焦点情報と前記距離情報との関係を示すデータを補正する補正値であることを特徴とする請求項1に記載の制御装置。
  4. 前記補正値算出部は、更に前記距離情報に基づいて前記補正値を算出することを特徴とする請求項1乃至3のいずれか1項に記載の制御装置。
  5. 前記焦点情報は、前記第1の撮像部のフォーカスレンズの位置に関する情報であることを特徴とする請求項1乃至4のいずれか1項に記載の制御装置。
  6. 前記制御部は、
    前記補正値と前記距離情報とに基づいて前記第1の撮像部の第1のフォーカス制御を行った後、前記焦点情報に基づいて前記第1の撮像部の第2のフォーカス制御を行うことを特徴とする請求項1乃至5のいずれか1項に記載の制御装置。
  7. 前記第2のフォーカス制御は、コントラストAFによるフォーカス制御であることを特徴とする請求項6に記載の制御装置。
  8. 前記距離情報算出部は、前記第2の撮像部を介して得られた2つの画像信号の視差量に基づいて前記距離情報を算出することを特徴とする請求項1乃至7のいずれか1項に記載の制御装置。
  9. 前記補正値を算出するか否かを判定する判定部を更に有し、
    前記補正値算出部は、前記判定部が前記補正値を算出すると判定した場合、前記補正値を算出することを特徴とする請求項1乃至8のいずれか1項に記載の制御装置。
  10. 前記焦点情報を算出するための領域を選択する領域選択部を更に有し、
    前記焦点情報算出部は、前記領域選択部により選択された前記領域において前記焦点情報を算出することを特徴とする請求項1乃至9のいずれか1項に記載の制御装置。
  11. 前記領域選択部は、前記第1の撮像部の撮影視野外の第1の領域を前記領域として選択した場合、前記第1の撮像部の撮影視野内の第2の領域を、前記補正値を算出するための領域として設定することを特徴とする請求項10に記載の制御装置。
  12. 前記領域選択部は、前記第1の撮像部の撮影視野内の第1の領域を前記領域として選択した場合、前記第1の領域を、前記補正値を算出するための領域として設定することを特徴とする請求項10に記載の制御装置。
  13. 少なくとも1つの撮像光学系を備えた第2の撮像部と、
    請求項1乃至12のいずれか1項に記載の制御装置と、を有することを特徴とする撮像装置。
  14. フォーカスレンズを含む撮像光学系を備えた第1の撮像部を更に有することを特徴とする請求項13に記載の撮像装置。
  15. 前記第2の撮像部は、前記第1の撮像部よりも画角が広いことを特徴とする請求項13または14に記載の撮像装置。
  16. 前記第2の撮像部は、前記第1の撮像部よりも被写界深度が深いことを特徴とする請求項13乃至15のいずれか1項に記載の撮像装置。
  17. 前記第2の撮像部は、1つの撮像光学系のうち互いに異なる瞳領域を通過する光を受光する撮像素子を有することを特徴とする請求項13乃至16のいずれか1項に記載の撮像装置。
  18. 前記撮像素子は、1つのマイクロレンズに対して複数の光電変換部を有し、該マイクロレンズが2次元状に複数配列されていることを特徴とする請求項17に記載の撮像装置。
  19. 前記第2の撮像部は、少なくとも2つの撮像光学系を有し、
    前記少なくとも2つの撮像光学系はそれぞれ、焦点距離が互いに等しい単焦点撮像光学系であることを特徴とする請求項13乃至18のいずれか1項に記載の撮像装置。
  20. 第1の撮像部を介して得られた画像信号に基づいて焦点情報を算出するステップと、
    第2の撮像部を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出するステップと、
    前記第1の撮像部の前記焦点情報に基づいて補正値を算出するステップと、
    前記補正値と前記距離情報とに基づいて前記第1の撮像部のフォーカス制御を行うステップと、を有することを特徴とする制御方法。
  21. 第1の撮像部を介して得られた画像信号に基づいて焦点情報を算出するステップと、
    第2の撮像部を介して得られた画像信号に基づいて、被写体までの距離に関する距離情報を算出するステップと、
    前記第1の撮像部の前記焦点情報に基づいて補正値を算出するステップと、
    前記補正値と前記距離情報とに基づいて前記第1の撮像部のフォーカス制御を行うステップと、をコンピュータに実行させることを特徴とするプログラム。
  22. 請求項21に記載のプログラムを記憶していることを特徴とする記憶媒体。
JP2018053733A 2018-03-22 2018-03-22 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 Pending JP2019168479A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018053733A JP2019168479A (ja) 2018-03-22 2018-03-22 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
US16/352,975 US10999491B2 (en) 2018-03-22 2019-03-14 Control apparatus, image capturing apparatus, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018053733A JP2019168479A (ja) 2018-03-22 2018-03-22 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体

Publications (1)

Publication Number Publication Date
JP2019168479A true JP2019168479A (ja) 2019-10-03

Family

ID=67985799

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018053733A Pending JP2019168479A (ja) 2018-03-22 2018-03-22 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体

Country Status (2)

Country Link
US (1) US10999491B2 (ja)
JP (1) JP2019168479A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021166223A1 (ja) 2020-02-21 2021-08-26 日本電気株式会社 生体認証装置、生体認証方法、および生体認証用プログラム

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114095644B (zh) * 2020-08-24 2023-08-04 武汉Tcl集团工业研究院有限公司 一种图像校正的方法和计算机设备
CN112995514B (zh) * 2021-03-03 2023-05-30 上海万物新生环保科技集团有限公司 一种工业相机的拍照物距的获取方法及设备

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090616A (ja) * 2000-09-12 2002-03-27 Olympus Optical Co Ltd カメラの焦点検出装置
JP2004247773A (ja) * 2003-02-10 2004-09-02 Olympus Corp カメラ
JP2005300769A (ja) * 2004-04-08 2005-10-27 Japan Science & Technology Agency 光学レンズ装置及びレーザ装置、光学レンズの位置決め方法
JP2008020528A (ja) * 2006-07-11 2008-01-31 Ricoh Co Ltd 撮像装置
JP2013013050A (ja) * 2011-05-27 2013-01-17 Ricoh Co Ltd 撮像装置及びこの撮像装置を用いた表示方法
JP2013042379A (ja) * 2011-08-17 2013-02-28 Ricoh Co Ltd 撮像装置
JP2017142333A (ja) * 2016-02-09 2017-08-17 キヤノン株式会社 制御装置、撮像装置、制御方法、プログラム、記憶媒体
JP2018028677A (ja) * 2017-10-05 2018-02-22 株式会社ニコン 焦点検出装置および撮像装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001148866A (ja) * 1999-11-19 2001-05-29 Minolta Co Ltd 画像入力装置
EP1586423B1 (en) * 2002-12-10 2011-10-05 Honda Motor Co., Ltd. Robot control device, robot control method, and robot control program
JP5178678B2 (ja) * 2009-09-30 2013-04-10 キヤノン株式会社 撮影システム及びレンズ装置
CN102959467B (zh) * 2010-06-29 2016-08-31 富士胶片株式会社 单眼立体成像装置
US9041815B2 (en) * 2010-10-11 2015-05-26 Apple Inc. Digital camera imaging evaluation module
WO2014046184A1 (ja) * 2012-09-24 2014-03-27 富士フイルム株式会社 複数被写体の距離計測装置及び方法
CN105359518B (zh) * 2013-02-18 2017-03-08 株式会社匹突匹银行 图像处理装置和图像处理方法
TWI518305B (zh) * 2014-04-21 2016-01-21 齊發光電股份有限公司 影像擷取方法
CN105323454B (zh) * 2014-07-30 2019-04-05 光宝电子(广州)有限公司 多相机图像撷取系统与图像重组补偿方法
KR102145542B1 (ko) * 2014-08-14 2020-08-18 삼성전자주식회사 촬영 장치, 복수의 촬영 장치를 이용하여 촬영하는 촬영 시스템 및 그 촬영 방법
CN105376474B (zh) * 2014-09-01 2018-09-28 光宝电子(广州)有限公司 图像采集装置及其自动对焦方法
CN104486537B (zh) * 2014-10-27 2018-09-04 北京智谷技术服务有限公司 光场采集控制方法和装置
US20170171456A1 (en) * 2015-12-10 2017-06-15 Google Inc. Stereo Autofocus
US20180095174A1 (en) * 2016-09-30 2018-04-05 Faro Technologies, Inc. Three-dimensional coordinate measuring device

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090616A (ja) * 2000-09-12 2002-03-27 Olympus Optical Co Ltd カメラの焦点検出装置
JP2004247773A (ja) * 2003-02-10 2004-09-02 Olympus Corp カメラ
JP2005300769A (ja) * 2004-04-08 2005-10-27 Japan Science & Technology Agency 光学レンズ装置及びレーザ装置、光学レンズの位置決め方法
JP2008020528A (ja) * 2006-07-11 2008-01-31 Ricoh Co Ltd 撮像装置
JP2013013050A (ja) * 2011-05-27 2013-01-17 Ricoh Co Ltd 撮像装置及びこの撮像装置を用いた表示方法
JP2013042379A (ja) * 2011-08-17 2013-02-28 Ricoh Co Ltd 撮像装置
JP2017142333A (ja) * 2016-02-09 2017-08-17 キヤノン株式会社 制御装置、撮像装置、制御方法、プログラム、記憶媒体
JP2018028677A (ja) * 2017-10-05 2018-02-22 株式会社ニコン 焦点検出装置および撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021166223A1 (ja) 2020-02-21 2021-08-26 日本電気株式会社 生体認証装置、生体認証方法、および生体認証用プログラム

Also Published As

Publication number Publication date
US20190297267A1 (en) 2019-09-26
US10999491B2 (en) 2021-05-04

Similar Documents

Publication Publication Date Title
JP4852591B2 (ja) 立体画像処理装置、方法及び記録媒体並びに立体撮像装置
JP5618712B2 (ja) 自動焦点調節装置および撮像装置
JP2016142925A (ja) 撮像装置およびその制御方法、プログラム、記憶媒体
JP5845023B2 (ja) 焦点検出装置及びそれを有するレンズ装置及び撮像装置
JP6014452B2 (ja) 焦点検出装置及びそれを有するレンズ装置及び撮像装置
US10999491B2 (en) Control apparatus, image capturing apparatus, control method, and storage medium
JP2011149931A (ja) 距離画像取得装置
JP6664177B2 (ja) 焦点検出装置、予測方法、プログラム及び記憶媒体
WO2016080157A1 (ja) 合焦制御装置、合焦制御方法、合焦制御プログラム、レンズ装置、撮像装置
JP2018148383A (ja) 撮像装置および撮像ユニット
JP2016066995A (ja) 像ズレ量算出装置、撮像装置、および像ズレ量算出方法
JP6648916B2 (ja) 撮像装置
JP6501536B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2018074362A (ja) 画像処理装置、画像処理方法およびプログラム
JP4085720B2 (ja) デジタルカメラ
JP6900228B2 (ja) 撮像装置、撮像システム、撮像装置の制御方法、および、プログラム
CN108540714B (zh) 图像捕获装置和系统、图像捕获装置控制方法及存储介质
JP5315019B2 (ja) オートフォーカス装置、オートフォーカス方法及び撮像装置
WO2016047220A1 (ja) 撮像装置及び撮像方法
JP2017215500A (ja) 画像処理装置、撮像装置、画像処理システム、画像処理装置の制御方法及びプログラム
JP6608238B2 (ja) 画像処理装置、撮像装置、画像処理方法、プログラム
JP2017187589A (ja) 焦点調節装置およびその方法、撮像装置、プログラム、記憶媒体
JP6566765B2 (ja) 撮像装置
JP6378526B2 (ja) 撮像装置及びその制御方法
JP2020086824A (ja) 画像処理装置、画像処理方法、撮像装置およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220316

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20220719