JP7467084B2 - 撮像装置、撮像装置の制御方法及びプログラム - Google Patents

撮像装置、撮像装置の制御方法及びプログラム Download PDF

Info

Publication number
JP7467084B2
JP7467084B2 JP2019213416A JP2019213416A JP7467084B2 JP 7467084 B2 JP7467084 B2 JP 7467084B2 JP 2019213416 A JP2019213416 A JP 2019213416A JP 2019213416 A JP2019213416 A JP 2019213416A JP 7467084 B2 JP7467084 B2 JP 7467084B2
Authority
JP
Japan
Prior art keywords
distance information
focus position
imaging device
control
focus
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019213416A
Other languages
English (en)
Other versions
JP2021085936A (ja
Inventor
俊之 土橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019213416A priority Critical patent/JP7467084B2/ja
Priority to US16/951,970 priority patent/US11696050B2/en
Publication of JP2021085936A publication Critical patent/JP2021085936A/ja
Application granted granted Critical
Publication of JP7467084B2 publication Critical patent/JP7467084B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • H04N25/673Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources
    • H04N25/674Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction by using reference sources based on the scene itself, e.g. defocusing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/958Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging
    • H04N23/959Computational photography systems, e.g. light-field imaging systems for extended depth of field imaging by adjusting depth of field during image capture, e.g. maximising or setting range based on scene characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、撮像装置におけるピントずれ補正技術に関する。
撮像装置には、被写体に対して撮像光学系のピントが合うフォーカスレンズの位置を制御するAF(オートフォーカス)制御を行うものがある。また、撮像装置には、ズーム(変倍)が可能な撮像光学系のズーム位置毎に複数の被写体距離のそれぞれに対してピントが合うフォーカスレンズの位置を示す電子カムデータを記憶したメモリを有するものがある。この撮像装置では、ズームが行われた際に電子カムデータを用いてフォーカスレンズの位置を制御するズームトラッキングを行うことで、ズーム位置が変わっても同じ距離の被写体に対してピントを合わせ続け、ピント位置を固定することができる。
ただし、前述のようにしてピント位置を固定しても、温度変化による撮像光学系又は撮像装置の膨張や収縮等によってフォーカスレンズの位置が変化してぼけ(ピントずれ)が発生することがある。これらのぼけを補正するためには、ぼけの量に応じてフォーカスレンズの位置を補正する必要がある。温度変化によるぼけ量は撮像光学系や撮像装置の個体ごとに異なるため、一律の補正量を用いてフォーカスレンズの位置を補正してもぼけを良好に補正することができないことがある。
特許文献1には、温度センサにより検出した温度の変化に起因するぼけを補正するためにAF制御を行う撮像装置が開示されている。
特開2012-128314号公報
しかしながら、特許文献1に記載の撮像装置では、AF制御の対象となる被写体が移動してしまうなどした場合、補正が十分に行われない場合があった。本発明は、撮像光学系の環境変化に起因するピントずれを簡易な構成で良好に補正できるようにすることを目的とする。
本発明に係る撮像装置は、撮像した映像中の所定の領域毎に被写体までの距離情報を取得する取得手段と、映像中の固定被写体を検出する検出手段と、ピント位置を調整する制御手段と、前記制御手段によりピント位置が調整された時に前記取得手段により取得された第1の距離情報を記憶する記憶手段とを有し、前記制御手段は、前記記憶手段に記憶した、前記検出手段により検出した固定被写体に対応する領域の前記第1の距離情報と、前記取得手段により取得した第2の距離情報とに基づいて、ピント位置を再調整することを特徴とする。
本発明によれば、撮像光学系の環境変化に起因するピントずれを簡易な構成で良好に補正することができる。
第1の実施形態における撮像装置の構成例を示す図である。 第1の実施形態における撮像素子の構成を説明する図である。 第1の実施形態における撮像素子の構成を説明する図である。 第1の実施形態におけるピント制御処理の例を示すフローチャートである。 第1の実施形態における領域分割を説明する図である。 第2の実施形態におけるピント制御処理の例を示すフローチャートである。 第3の実施形態におけるピント制御処理の例を示すフローチャートである。 第4の実施形態における撮像装置の構成例を示す図である。 第4の実施形態におけるピント制御処理の例を示すフローチャートである。 第4の実施形態における領域選択の例を示す図である。 第5の実施形態における撮像装置の構成例を示す図である。 第5の実施形態におけるピント制御処理の例を示すフローチャートである。 第5の実施形態における温度と距離の関係の例を示す図である。 第5の実施形態におけるピント制御処理の他の例を示すフローチャートである。
以下、本発明の実施形態を図面に基づいて説明する。
(第1の実施形態)
本発明の第1の実施形態について説明する。図1は、第1の実施形態における撮像装置の構成例を示すブロック図である。本実施形態における撮像装置の撮像光学系は、光軸方向に移動して焦点距離を変更するズームレンズ101と、光軸方向に移動して焦点調節を行うフォーカスレンズ102と、光量を調整する絞りユニット103とを有する。撮像光学系を通過した光は、バンドパスフィルタ104及びカラーフィルタ105を介して撮像素子106上に光学像としての被写体像を形成する。バンドパスフィルタ104は、撮像光学系の光路に対して進退可能である。
撮像素子106上に形成された被写体像は、撮像素子106により光電変換され、アナログ電気信号(撮像信号)に変換される。撮像素子106から出力されるアナログ電気信号(撮像信号)は、AGC107によりゲイン調整され、A/D変換器108によりデジタル撮像信号に変換された後、カメラ信号処理部109に入力される。カメラ信号処理部109は、デジタル撮像信号に対して各種の画像処理を行って映像信号を生成する。この映像信号は、通信部110を介して撮像装置に有線又は無線通信により接続されたモニタ装置118に出力されるとともに、撮像装置内の制御部113に出力される。
ピント固定データ記憶部111は、合焦被写体距離であるピント位置を固定するモードであるピント位置固定モードのオン/オフ及びピント位置固定モードにおいて選択されたモードを示すモード情報を記憶する。これらモード情報は、ユーザ(監視者)が操作するモニタ装置118からの通信によって通信部110及び制御部113を介してピント固定データ記憶部111に書き込まれる。モード情報は、ユーザの操作に起因するマニュアルフォーカス(MF)処理やオートフォーカス(AF)処理の完了時に、自動的にピント位置固定モードに遷移する。
距離情報取得部112は、カメラ信号処理部109より取得した映像信号に基づいて、評価領域設定部118により設定された映像中の各領域の距離情報を取得する。距離情報取得部112は、例えば位相差センサである。ここで、距離情報の算出について図2を参照して説明する。図2は、撮像素子106における1画素の構成を概略的に示した図である。図2に示すように、1つの画素201は、マイクロレンズ202を有する。また、1つの画素201は、複数の光電変換領域としての複数のフォトダイオード(PD)203、204を有する。図2には、1つの画素201が2つのPD203、204を有する例を示しているが、2つ以上であればよく個数に限定はない。
図3は、フォーカスレンズ102の射出瞳303から出射した光束が撮像素子106に入射する様子を概念的に示した図である。図3において、301は画素アレイの断面、202は図2に示したマイクロレンズ、302はカラーフィルタ、203、204は図2に示したPDである。ここでは、マイクロレンズ202を有する画素に対して、フォーカスレンズ102の射出瞳303から出射した光束の中心を光軸304とする。射出瞳303から出射した光は、光軸304を中心として撮像素子106に入射される。305、306は、フォーカスレンズ102の射出瞳の一部領域を示す。射出瞳303の一部領域305を通過する光の最外周の光線を307、308で示し、射出瞳303の一部領域306を通過する光の最外周の光線を309、310で示す。
図3からわかるように、射出瞳303から出射する光束のうち、光軸304を境にして、上側の光束はPD204に入射し、下側の光束はPD203に入射する。つまり、PD203、204は、それぞれフォーカスレンズ102の射出瞳303の異なる領域の光を受光している。ここで、PD203で受光した信号をA像とし、PD204で受光した信号をB像とすると、A像とB像の対の信号の視差に基づいてデフォーカス量を算出でき、そこから距離情報を取得することができる。温度変化等の要因によってレンズ鏡筒に伸び縮みが発生すると、A像とB像との視差が温度変化前とは異なるものとなるため、取得される距離情報にも変化が生じる。
制御部113は、映像信号から算出したその映像信号のコントラスト状態を示すコントラスト評価値や、距離情報取得部112から取得した距離情報を用いてオートフォーカス(AF)制御を行う。フォーカス駆動部114は、制御部113からの制御に従ってフォーカスレンズ102を駆動する。ズーム駆動部115は、制御部113からの制御に従ってズームレンズ101を駆動する。距離情報記憶部116は、距離情報取得部112が取得した距離情報を、制御部113を介して取得して記憶する。
次に、本実施形態における制御部113が行うピント制御処理(フォーカス制御方法)について説明する。図4は、本実施形態における制御部113が行うピント制御処理の例を示すフローチャートである。コンピュータである制御部113は、コンピュータプログラムとしてのフォーカス制御プログラムに従ってピント制御処理を実行する。本処理は、一定時間ごとに呼び出されて実行される。
ステップS401では、制御部113は、ピント位置固定モードが設定されているか否かを判定する。ピント位置固定モードが設定されていると判定すれば(Yes)、制御部113はステップS405に進む。一方、ピント位置固定モードが設定されていないと判定すれば(No)、制御部113はステップS402に進み、ピント位置固定モードが設定されるまでステップS401に戻る。
ステップS402においてピント位置固定モードの設定が指示されると(Yes)、制御部113はステップS403に進む。ステップS403では、制御部113は、距離情報取得部112によって算出された映像中の各領域の距離情報を取得する。ここで、図5を参照して映像の領域について説明する。図5において、破線で囲まれた領域501が距離情報を取得する一領域を示しており、本実施形態ではすべての領域についてそれぞれ平均値を取得するものとする。なお、領域は必ずしもすべて使用する必要はなく、一部の領域のみを用いてもよい。ステップS404では、制御部113は、ステップS403において取得した距離情報を、基準距離情報として距離情報記憶部116に保存する。
ステップS405では、制御部113は、ピントに影響する環境変動があったか否かを判定する。制御部113は、ピントに影響する環境変動があったと判定した場合(Yes)にはステップS406に進み、ピントに影響する環境変動がないと判定した場合(No)には本処理を終了する。なお、ピントに影響する環境変動とは、例えば、バンドパスフィルタの挿抜、レンズ鏡筒の温度変化、振動、光源の変化等である。
ステップS406では、制御部113は、距離情報取得部112によって算出された映像中の各領域の距離情報を取得する。ステップS407では、制御部113は、ステップS404において保存した基準距離情報と、ステップS406において取得した距離情報との差分を各領域で算出することで、距離変化量を求める。
続いて、ステップS408では、制御部113は、ステップS407において計算した距離変化量に基づいて、距離情報に変化があったか否かを判定する。例えば、距離変化量の絶対値が0より大きいか否かで判定してもよいし、ある閾値以上であれば距離情報に変化があったと判定してもよい。ここで、閾値は、例えば距離情報の変化量に対するピントボケの具合をあらかじめ測定するなどして決定された値である。制御部113は、距離情報に変化があったと判定した場合(Yes)にはステップS409に進み、そうでないと判定した場合(No)には本処理を終了する。
ステップS409では、制御部113は、現在の距離情報とステップS404において保存した基準距離情報との一致度が最も高くなるようにフォーカスレンズ駆動部114により繰り返しフォーカスレンズ102を駆動させる。現在の距離情報と基準距離情報との一致度の尺度としては、例えば平均誤差などを用いる(この場合、値が小さいほど一致度が高い)。フォーカスレンズの駆動方法としては、例えば既知のコントラストAFと同様の方式を用いることができる。駆動後、制御部113は、現在の距離情報と基準距離情報との一致度が最も高くなる位置でフォーカスレンズ102を停止させ、本処理を終了する。
第1の実施形態によれば、映像から取得された距離情報に基づいて、現在の距離情報と基準距離情報とが略一致するようにピント位置を補正することができ、撮像光学系の環境変化に起因するピントずれを簡易な構成で補正することができる。
(第2の実施形態)
次に、本発明の第2の実施形態について説明する。前述した第1の実施形態では、現在の距離情報と基準距離情報との一致度に基づいてピント補正を実行する例を示した。しかし、現在の距離情報と基準距離情報との一致度が高い位置に至るまで繰り返しフォーカスレンズを駆動させるため、補正動作に要する時間が長くなり、ピント位置の再調整に係る動作が目立ってしまうおそれがある。
第2の実施形態では、処理開始時の距離情報と基準距離情報との差分からピント補正量を算出し、その補正量だけフォーカスレンズを駆動させることで、より短い補正動作で補正を行う。なお、第2の実施形態における撮像装置の構成は、第1の実施形態における撮像装置と同様であるので、説明を省略する。
図6は、第2の実施形態における制御部113が行うピント制御処理(フォーカス制御方法)の例を示すフローチャートである。ステップS601~S607では、制御部113は、図4に示した第1の実施形態でのステップS401~S407と同様の処理を行う。
ステップS608では、制御部113は、ステップS607において算出した各領域の距離変化量の平均値を算出する。ステップS609では、制御部113は、ステップS608において計算した距離変化量の平均値に基づいて、距離情報に変化があったか否かを判定する。例えば、距離変化量の平均値が0より大きいか否かで判定してもよいし、ある閾値以上であれば距離情報に変化があったと判定してもよい。ここで、閾値は、例えば距離情報の変化量に対するピントボケの具合をあらかじめ測定するなどして決定された値である。制御部113は、距離情報に変化があったと判定した場合(Yes)にはステップS610に進み、そうでないと判定した場合(No)には本処理を終了する。
ステップS610では、制御部113は、ステップS608において計算した距離変化量の平均値に基づいてピント補正量を計算する。本実施形態では、制御部113は、例えばピント補正量=(-1)×距離変化量の平均値(デフォーカス量の平均値)として計算する。
次に、ステップS611では、制御部113は、ステップS610において算出したピント補正量をフォーカスレンズ駆動量に変換する。続くステップS612では、制御部113は、フォーカスレンズ駆動部114によりフォーカスレンズ駆動量の分だけフォーカスレンズ102を駆動させ、本処理を終了する。
(第3の実施形態)
次に、本発明の第3の実施形態について説明する。前述した第1の実施形態では、全領域の距離情報の変化量に基づいてピント補正を実行する例を示した。第1の実施形態では、シンプルな処理で補正の効果を得ることができる。しかし、ピント位置固定モードに遷移した後に、被写体が移動するなどの変化があった場合、その領域の距離情報も変化するため、補正に誤差が生じることがある。
温度や光源の変化・振動等の外的要因によってピントズレが発生した場合、被写体に変化がなければ、距離情報はすべての領域が同一方向に変化すると考えられる。そこで、第3の実施形態では、領域毎に距離情報が変化した方向を抽出し、その多数決によって外的要因によるピントズレの方向を推定する。そして、推定された方向に距離情報の変化が発生している領域の距離情報のみを利用して補正処理を行うことで、前記課題を改善する。なお、第3の実施形態における撮像装置の構成は、第1の実施形態における撮像装置と同様であるので、説明を省略する。
図7は、第3の実施形態における制御部113が行うピント制御処理(フォーカス制御方法)の例を示すフローチャートである。ステップS701~S708では、制御部113は、図4に示した第1の実施形態でのステップS401~S408と同様の処理を行う。
ステップS709では、制御部113は、ステップS707において算出した距離変化量に基づいて、各領域の距離変化の方向を抽出する。抽出される距離変化の方向は、「遠」、「近」、「変化なし」の3パターンとする。ステップS707において算出した距離変化量の符号が負である領域は「遠」、正である領域は「近」、0である領域は「変化なし」として抽出される。ステップS710では、制御部113は、距離場が変化した方向を多数決により決定する。制御部113は、ステップS709において抽出した距離変化の方向のうち、最も多いものを抽出する。
次に、ステップS711では、制御部113は、ステップS710において抽出した方向と同一方向に距離情報が変化した領域を選択する。続いて、ステップS712では、制御部113は、ステップS711において選択した領域を対象にして、図4に示した第1の実施形態でのステップS409と同様にしてフォーカスレンズ102の駆動を行い、処理を終了する。
なお、第3の実施形態において、ステップS712における初回のフォーカスレンズ102の駆動方向を、ステップS710において抽出した距離変化の方向と一致させるようにしてもよい。このようにすることで、補正動作に要する時間を短縮することができる。また、本実施形態では、基準距離情報と現在の距離情報との一致度が最も高くなるようにフォーカスレンズを繰り返し駆動させているが、第2の実施形態のように距離変化量の平均値に基づいて補正量を算出してフォーカスレンズを駆動させてもよい。
(第4の実施形態)
次に、本発明の第4の実施形態について説明する。前述した第1の実施形態では、全領域の距離情報の変化量に基づいてピント補正を実行する例を示した。第1の実施形態では、ピント位置固定モードに遷移した後に、被写体が移動するなどの変化があった場合、その領域の距離情報も変化するため、補正量に誤差が生じることがある。第4の実施形態では、映像から固定被写体を抽出し、その領域の距離情報のみを利用して補正処理を行うことで、前記課題を改善する。
図8は、第4の実施形態における撮像装置の構成例を示すブロック図である。図8において、図1に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。固定被写体抽出部801は、制御部113を介して映像信号を受け取り、映像に含まれる固定被写体の抽出を行う。固定被写体の抽出は、機械学習を用いたオブジェクト検出や、意味的領域分割技術を用いて行われる。固定被写体抽出部801による抽出結果は、座標情報と被写体種別と抽出の信頼度とが対応付けられて制御部113に通知される。
次に、本実施形態における制御部113が行うピント制御処理(フォーカス制御方法)について説明する。図9は、第4の実施形態における制御部113が行うピント制御処理の例を示すフローチャートである。ステップS901~S902では、制御部113は、図4に示した第1の実施形態でのステップS401~S402と同様の処理を行う。
ステップS903では、制御部113は、固定被写体抽出部801により映像信号中の固定被写体を抽出させる。ここで抽出する固定被写体とは、例えば、ビルや鉄塔等の不動な物体である。ステップS904では、制御部113は、ステップS903において固定被写体抽出部801により抽出された固定被写体の領域に含まれる領域を距離情報取得用の領域として設定する。図10は、ステップS904において設定された距離情報取得用領域の例を示す図である。図10において、1001が固定被写体抽出領域であり、本例ではビルが固定被写体として抽出されている。1002は距離情報取得領域を示しており、固定被写体抽出領域1001の内部に設定される。
ステップS905~S911では、制御部113は、図4に示した第1の実施形態でのステップS403~S409と同様の処理を行い、一連の処理を終了する。
第4の実施形態によれば、距離情報を取得する領域を、ビルや鉄塔等の固定被写体に対応する領域に設定している。このようにすることで、被写体移動による距離情報の変化の影響を抑制し、ピント変動による距離情報の変化をより精度よく抽出できるため、補正量の誤差を低減することができる。
なお、ステップS904では、固定被写体の領域に含まれる領域のみを距離情報取得用の領域として設定しているが、これに限定されるものではない。例えば、ステップS911における一致度算出の際、各領域に重みづけを行い、固定被写体の領域に含まれる領域に高い重みを付与するようにしてもよい。このようにすることで、固定被写体が抽出できなかった場合においても補正を行うことが可能となる。さらに、ステップS903において固定被写体毎の抽出信頼度も同時に取得し、その値に基づいた重みづけを行ってもよい。このようにすることで、より正確に抽出された固定被写体領域の距離情報を優先的に補正処理に用いることができるため、補正の精度を向上させることができる。また、本実施形態では、基準距離情報と現在の距離情報との一致度が最も高くなるようにフォーカスレンズを繰り返し駆動させているが、第2の実施形態のように距離変化量の平均値に基づいて補正量を算出してフォーカスレンズを駆動させてもよい。
(第5の実施形態)
次に、本発明の第5の実施形態について説明する。第5の実施形態では、温度変化と距離変化の相関を算出し、相関の高い領域の距離情報のみを補正処理に利用することで、補正量に誤差が生じることを改善する。
図11は、第5の実施形態における撮像装置の構成例を示すブロック図である。図11において、図1に示した構成要素と同一の機能を有する構成要素には同一の符号を付し、重複する説明は省略する。温度検出部1101は、撮像装置のレンズ鏡筒(撮像光学系)の温度を検出する。温度検出部1101としては、サーミスタ等の温度センサが用いられる。制御部113は、所定時間ごとに温度検出部1101を通じて温度の情報を取得し、温度の変化を監視する。
図12は、第5の実施形態における制御部113が行うピント制御処理(フォーカス制御方法)の例を示すフローチャートである。ステップS1201~S1203では、制御部113は、図4に示した第1の実施形態でのステップS401~S403と同様の処理を行う。
ステップS1204では、制御部113は、ステップS1203において取得した距離情報を、基準距離情報として距離情報記憶部116に保存する。このとき、本処理において過去に保存した距離情報がある場合には、その情報を消去する。ステップS1205では、制御部113は、温度検出部1101を通じて温度情報を取得する。ステップS1206では、制御部113は、ステップS1205において取得した温度情報を基準温度情報として保存する。このとき、本処理において過去に保存した温度情報がある場合には、その情報を消去する。
ステップS1207では、制御部113は、温度検出部1101を通じて温度情報を取得する。ステップS1208では、制御部113は、図4に示した第1の実施形態におけるステップS406と同様にして、映像中の各領域の距離情報を取得する。ステップS1209では、制御部113は、ステップS1207において取得した温度情報と、ステップS1208において取得した各領域の距離情報とを対応付けて保存する。
ステップS1210では、制御部113は、ステップS1209において保存した温度情報と距離情報との相関係数を算出する。このとき、ステップS1204において保存した基準距離情報とステップS1206において保存した基準温度情報も併せて用いる。相関係数rは、下記式(1)により求めることができる。
r=温度と距離との共分散/(温度の標準偏差×距離の標準偏差)・・・式(1)
相関係数rは(-1)~1の値となり、値が負であれば負の相関、値が正であれば正の相関を持つ。値の絶対値が大きいほど相関が高いことを示す。
図13(a)~図13(c)は、それぞれ異なる領域A、B、Cにおける温度と距離との関係を示した例である。図13(d)には、それぞれの具体的数値例を示している。図13(d)において、網掛け部分は基準距離情報と基準温度情報とを示している。式(1)を用いて相関係数を算出すると、それぞれ0.99、0.97、-0.36となる。
ステップS1211では、制御部113は、ステップS1210において算出した相関係数の絶対値が大きい(閾値を超えた)領域を距離変化量算出用の領域として設定する。ここで、閾値は、精度を重視する場合には大きい値を設定し、ノイズ等の外乱を許容する場合には値を小さく調整する。本実施形態では、一例として0.5とする。図13に示した例では、領域A、Bが距離変化量算出用の領域として設定される。
ステップS1212では、制御部113は、ステップS1211において設定された領域の距離変化量を算出する。なお、ステップS1211において領域が設定されなかった場合には、距離変化量は0とする。
ステップS1213では、制御部113は、図4に示した第1の実施形態におけるステップS408と同様にして、距離情報に変化があったか否かを判定する。最後に、ステップS1214では、制御部113は、ステップS1211において設定された領域について、図4に示した第1の実施形態におけるステップS409と同様の処理を行い、一連の処理を終了する。
なお、本実施形態では、基準距離情報と現在の距離情報との一致度が最も高くなるようにフォーカスレンズを繰り返し駆動させているが、第2の実施形態のように距離変化量の平均値に基づいて補正量を算出してフォーカスレンズを駆動させてもよい。
図14は、第5の実施形態における制御部113が行うピント制御処理の例を示すフローチャートであり、距離変化量の平均値に基づいて補正量を算出してフォーカスレンズを駆動させる例を示している。ステップS1401~S1412では、制御部113は、図12に示したステップS1201~S1212と同様の処理を行う。
ステップS1413では、制御部113は、ステップS1411において設定された領域について、図6に示した第2の実施形態におけるステップS608と同様にして、ステップS1412において算出した距離変化量の平均値を算出する。ステップS1413では、制御部113は、図6に示した第2の実施形態におけるステップS609と同様にして、ステップS1413において計算した距離変化量の平均値に基づいて、距離情報に変化があったか否かを判定する。
ステップS1415では、制御部113は、図6に示した第2の実施形態におけるステップS610と同様にして、ステップS1413において計算した距離変化量の平均値に基づいてピント補正量を計算する。次に、ステップS1416では、制御部113は、図6に示した第2の実施形態におけるステップS611と同様にして、ステップS1415において算出したピント補正量をフォーカスレンズ駆動量に変換する。続くステップS1417では、制御部113は、図6に示した第2の実施形態におけるステップS612と同様にして、フォーカスレンズ駆動量の分だけフォーカスレンズ102を駆動させ、本処理を終了する。
なお、各実施形態において、処理実行時の補正量又は駆動量をピント位置の変動要因毎に保存しておき、低照度など何らかの要因で距離情報が取得できなくなった場合には、ピント変動要因に応じて保存した補正量又は駆動量を用いて補正処理を行ってもよい。
(本発明の他の実施形態)
本発明は、前述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読み出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
なお、前記実施形態は、何れも本発明を実施するにあたっての具体化のほんの一例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
101:ズームレンズ 102:フォーカスレンズ 111:ピント固定データ記憶部 112:距離情報取得部 113:制御部 114:フォーカス駆動部 115:ズーム駆動部 116:距離情報記憶部 117:評価領域設定部 801:固定被写体抽出部 1101:温度検出部

Claims (13)

  1. 撮像した映像中の所定の領域毎に被写体までの距離情報を取得する取得手段と、
    映像中の固定被写体を検出する検出手段と、
    ピント位置を調整する制御手段と、
    前記制御手段によりピント位置が調整された時に前記取得手段により取得された第1の距離情報を記憶する記憶手段とを有し、
    前記制御手段は、前記記憶手段に記憶した、前記検出手段により検出した固定被写体に対応する領域の前記第1の距離情報と、前記取得手段により取得した第2の距離情報とに基づいて、ピント位置を再調整することを特徴とする撮像装置。
  2. 撮像した映像中の所定の領域毎に被写体までの距離情報を取得する取得手段と、
    温度を検出する検出手段と、
    前記検出手段により検出した温度の変化量と前記取得手段により取得した距離情報との相関を算出する算出手段と、
    ピント位置を調整する制御手段と、
    前記制御手段によりピント位置が調整された時に前記取得手段により取得された第1の距離情報を記憶する記憶手段とを有し、
    前記制御手段は、前記記憶手段に記憶した、前記算出手段により算出された相関の高い領域の前記第1の距離情報と、前記取得手段により取得した第2の距離情報とに基づいて、ピント位置を再調整することを特徴とする撮像装置。
  3. 前記制御手段は、映像中の選択した領域の前記第1の距離情報と前記第2の距離情報とに基づいて、前記ピント位置を再調整することを特徴とする請求項1又は2に記載の撮像装置。
  4. 前記制御手段は、前記第1の距離情報と前記第2の距離情報とが略一致するように前記ピント位置を再調整することを特徴とする請求項1~3の何れか1項に記載の撮像装置。
  5. 前記制御手段は、前記第1の距離情報と前記第2の距離情報との一致度が最も高くなるように繰り返し前記ピント位置を再調整することを特徴とする請求項1~の何れか1項に記載の撮像装置。
  6. 前記制御手段は、前記第1の距離情報を基準として前記第2の距離情報が変化した方向を領域毎に検出し、変化した方向の領域が最も多い方向に前記第2の距離情報が変化した領域の前記第1の距離情報と前記第2の距離情報とに基づいて、前記ピント位置を再調整することを特徴とする請求項1~の何れか1項に記載の撮像装置。
  7. 前記制御手段は、前記第1の距離情報を基準として前記第2の距離情報が変化した方向を領域毎に検出し、変化した方向の領域が最も多い方向に前記ピント位置の再調整を開始することを特徴とする請求項1~の何れか1項に記載の撮像装置。
  8. 前記制御手段は、前記第1の距離情報と前記第2の距離情報との変化量に基づいて前記ピント位置を再調整することを特徴とする請求項1~の何れか1項に記載の撮像装置。
  9. ピント位置を再調整した時のピント位置の補正量とピント位置の変動要因との関係を記憶しておき、前記取得手段により距離情報が取得できない場合には、記憶したピント位置の補正量とピント位置の変動要因とに基づいてピント位置の再調整を行うことを特徴とする請求項1~の何れか1項に記載の撮像装置。
  10. 前記制御手段は、前記ピント位置に影響する環境変動があった場合に、前記第1の距離情報と前記第2の距離情報とに基づいて前記ピント位置を再調整することを特徴とする請求項1~の何れか1項に記載の撮像装置。
  11. 前記取得手段は、位相差センサであることを特徴とする請求項1~10の何れか1項に記載の撮像装置。
  12. 撮像した映像中の所定の領域毎に被写体までの距離情報を取得する取得工程と、
    映像中の固定被写体を検出する検出工程と、
    ピント位置を調整する第1の制御工程と、
    前記第1の制御工程にてピント位置が調整された時に取得された第1の距離情報を記憶手段に記憶する記憶工程と、
    前記記憶手段に記憶した、前記検出工程にて検出した固定被写体に対応する領域の前記第1の距離情報と、取得した第2の距離情報とに基づいて、ピント位置を再調整する第2の制御工程とを有することを特徴とする撮像装置の制御方法。
  13. 撮像装置のコンピュータに、
    撮像した映像中の所定の領域毎に被写体までの距離情報を取得する取得ステップと、
    映像中の固定被写体を検出する検出ステップと、
    ピント位置を調整する第1の制御ステップと、
    前記第1の制御ステップにてピント位置が調整された時に取得された第1の距離情報を記憶手段に記憶する記憶ステップと、
    前記記憶手段に記憶した、前記検出ステップにて検出した固定被写体に対応する領域の前記第1の距離情報と、取得した第2の距離情報とに基づいて、ピント位置を再調整する第2の制御ステップとを実行させるためのプログラム。
JP2019213416A 2019-11-26 2019-11-26 撮像装置、撮像装置の制御方法及びプログラム Active JP7467084B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019213416A JP7467084B2 (ja) 2019-11-26 2019-11-26 撮像装置、撮像装置の制御方法及びプログラム
US16/951,970 US11696050B2 (en) 2019-11-26 2020-11-18 Imaging apparatus, method for controlling imaging apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019213416A JP7467084B2 (ja) 2019-11-26 2019-11-26 撮像装置、撮像装置の制御方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2021085936A JP2021085936A (ja) 2021-06-03
JP7467084B2 true JP7467084B2 (ja) 2024-04-15

Family

ID=75971411

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019213416A Active JP7467084B2 (ja) 2019-11-26 2019-11-26 撮像装置、撮像装置の制御方法及びプログラム

Country Status (2)

Country Link
US (1) US11696050B2 (ja)
JP (1) JP7467084B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113422905B (zh) * 2021-06-22 2022-09-16 浙江博采传媒有限公司 跟焦器运动轨迹的自动控制方法及系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080297649A1 (en) 2007-05-31 2008-12-04 Igor Subbotin Methods and apparatus providing light assisted automatic focus
JP2009128437A (ja) 2007-11-20 2009-06-11 Olympus Imaging Corp 焦点検出装置
JP2011044970A (ja) 2009-08-24 2011-03-03 Canon Inc 撮影システム
JP2015215372A (ja) 2014-05-07 2015-12-03 キヤノン株式会社 焦点調節装置、焦点調節装置の制御方法、焦点調節装置の制御プログラム及び記憶媒体
US20170019589A1 (en) 2015-07-14 2017-01-19 Samsung Electronics Co., Ltd. Image capturing apparatus and method
US20170257555A1 (en) 2015-04-27 2017-09-07 Huizhou Tcl Mobile Communication Co., Ltd. Focusing method and focusing system based on a distance sensor of mobile terminal
JP2018163300A (ja) 2017-03-27 2018-10-18 キヤノン株式会社 電子機器、撮像装置、及び制御方法、並びにプログラム
WO2019187648A1 (ja) 2018-03-29 2019-10-03 富士フイルム株式会社 撮像装置、撮像方法、プログラム及び記録媒体

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0664225B2 (ja) * 1985-08-27 1994-08-22 ミノルタカメラ株式会社 焦点調節装置
JPH0588075A (ja) * 1991-09-27 1993-04-09 Nikon Corp 焦点調節装置
JP5379118B2 (ja) 2010-12-17 2013-12-25 株式会社日立製作所 撮像装置、撮像装置制御方法およびそのプログラム

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080297649A1 (en) 2007-05-31 2008-12-04 Igor Subbotin Methods and apparatus providing light assisted automatic focus
JP2009128437A (ja) 2007-11-20 2009-06-11 Olympus Imaging Corp 焦点検出装置
JP2011044970A (ja) 2009-08-24 2011-03-03 Canon Inc 撮影システム
JP2015215372A (ja) 2014-05-07 2015-12-03 キヤノン株式会社 焦点調節装置、焦点調節装置の制御方法、焦点調節装置の制御プログラム及び記憶媒体
US20170257555A1 (en) 2015-04-27 2017-09-07 Huizhou Tcl Mobile Communication Co., Ltd. Focusing method and focusing system based on a distance sensor of mobile terminal
US20170019589A1 (en) 2015-07-14 2017-01-19 Samsung Electronics Co., Ltd. Image capturing apparatus and method
JP2018163300A (ja) 2017-03-27 2018-10-18 キヤノン株式会社 電子機器、撮像装置、及び制御方法、並びにプログラム
WO2019187648A1 (ja) 2018-03-29 2019-10-03 富士フイルム株式会社 撮像装置、撮像方法、プログラム及び記録媒体

Also Published As

Publication number Publication date
US11696050B2 (en) 2023-07-04
JP2021085936A (ja) 2021-06-03
US20210160445A1 (en) 2021-05-27

Similar Documents

Publication Publication Date Title
US9635243B2 (en) Ranging apparatus, imaging apparatus, and ranging method
JP6205523B2 (ja) 合焦制御装置、レンズ装置、撮像装置、合焦制御方法、合焦制御プログラム
US20180007253A1 (en) Focus detection apparatus, focus control apparatus, image capturing apparatus, focus detection method, and storage medium
JP5094068B2 (ja) 撮像装置及びフォーカス制御方法
US8922703B2 (en) Focus detection apparatus
JP2007139893A (ja) 合焦検出装置
US20120120303A1 (en) Image-pickup apparatus and method for adjusting tracking curves
JP6053347B2 (ja) 撮像装置およびその制御方法ならびにプログラム
US9444993B2 (en) Focus detecting apparatus, lens apparatus including the same, image pickup apparatus, and method of detecting defocus amount
WO2016080153A1 (ja) 合焦制御装置、合焦制御方法、合焦制御プログラム、レンズ装置、撮像装置
JPH05257062A (ja) 自動焦点装置
JPH0875983A (ja) 焦点検出装置
JP7467084B2 (ja) 撮像装置、撮像装置の制御方法及びプログラム
US20240171855A1 (en) Accuracy estimation apparatus, image capturing apparatus, accuracy estimation method, control method, and storage medium that provide a notification based on an accuracy
JP2016142999A (ja) 撮像装置及びその制御方法
WO2016080157A1 (ja) 合焦制御装置、合焦制御方法、合焦制御プログラム、レンズ装置、撮像装置
CN110320650A (zh) 透镜装置和摄像装置
JP5409588B2 (ja) 焦点調節方法、焦点調節プログラムおよび撮像装置
JP2018185354A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP2017116738A (ja) 画像補正装置、画像補正装置の制御方法及びプログラム
JP2008299048A (ja) 蓄積制御装置、焦点検出装置および撮像装置
JP6639208B2 (ja) 撮像装置及びその制御方法
JP2012103285A (ja) 焦点検出装置およびその制御方法
JPH11295588A (ja) 自動焦点制御装置
JP7237473B2 (ja) 焦点調節装置、その制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230908

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231225

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240403

R150 Certificate of patent or registration of utility model

Ref document number: 7467084

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150