JP2022145453A - 撮像装置、制御方法および記憶媒体 - Google Patents

撮像装置、制御方法および記憶媒体 Download PDF

Info

Publication number
JP2022145453A
JP2022145453A JP2021177170A JP2021177170A JP2022145453A JP 2022145453 A JP2022145453 A JP 2022145453A JP 2021177170 A JP2021177170 A JP 2021177170A JP 2021177170 A JP2021177170 A JP 2021177170A JP 2022145453 A JP2022145453 A JP 2022145453A
Authority
JP
Japan
Prior art keywords
subject
distance measurement
unit
focus
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2021177170A
Other languages
English (en)
Other versions
JP7293309B2 (ja
Inventor
啓昭 木村
Hiroaki Kimura
夏子 佐藤
Natsuko Sato
諒 川崎
Ryo Kawasaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to US17/690,123 priority Critical patent/US11722769B2/en
Publication of JP2022145453A publication Critical patent/JP2022145453A/ja
Application granted granted Critical
Publication of JP7293309B2 publication Critical patent/JP7293309B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)

Abstract

【課題】複数の被写体があった場合に、適切な被写体を選択することで、あおり角とフォーカス位置を高精度に算出することが可能な撮像装置を提供する。【解決手段】撮像装置(100)は、撮像素子を傾けてあおり角を変更するあおり駆動部(116)と、フォーカス位置を変更するフォーカス駆動部(118)と、撮像画像内で被写体を検出する被写体検出部(113)と、測距を行う測距部(112)と、測距結果に基づいてあおり角及びフォーカス位置を決定する決定部(114)と、あおり駆動部及びフォーカス駆動部を制御する制御部(115)を有し、制御部は、検出された被写体の検出サイズ、検出位置、および測距された被写体の測距結果の精度の少なくとも一つに基づいて、検出された複数の被写体から被写体を選択し、決定部は、選択された被写体の測距結果に基づいて、あおり角及びフォーカス位置を決定する。【選択図】図1

Description

本発明は、あおり制御が可能な撮像装置に関する。
従来、監視カメラを高所に設置し、監視カメラの光軸を斜め下側に向け、道路を通行する人を監視したり、車やそのナンバープレートを撮影したりすることがある。
撮像を行う際のピントが合うピント面は光軸に垂直な面である。監視カメラの光軸が斜め下向きとなる場合、撮像を行う際のピントが合うピント面は、実際に撮像を行う対象となる被写体の撮像面とは合致しない。そのため、ピントが合う領域は画面の一部となり、その他の領域はピントがぼけた状態となる。
この問題に対し、光学系の絞りを絞ることにより被写界深度を深くし、ピントぼけを防ぐ方法がある。
しかしながら、低照度下で撮影を行う監視カメラでは、絞りを開放近くまで開いての撮影も多い。この結果、被写界深度は浅くなってしまい、画面全体でピントが合わず、ピントがぼけた状態で撮影が行われてしまう。
このような課題に対し、レンズもしくは撮像素子を相対的に傾けることで被写界深度範囲を広げるシャインプルーフの定理と呼ばれる技術が一般的に知られている。
特許文献1には、複数の被写体に合焦するようにフォーカス位置とあおり制御量を決定する技術が開示されている。この技術においては、被写体毎に合焦位置を検出することが必要である。合焦位置の検出方法として、コントラスト評価値が最大となるようにフォーカス位置を制御する処理を被写体毎に実行する方法が記載されている。特許文献1に開示された撮像装置では、2点の被写体距離と像高から、あおり角とフォーカス位置の制御量を算出している。
特開2003-75716号公報
しかしながら、特許文献1には、あおり角とフォーカス位置の制御を行う際に、使用する2点の位置についての言及が無い。したがって、複数の被写体があった場合に、2点の選択によってはあおり角とフォーカス位置の制御量が正しく算出できない場合がある。
そのため、理想のあおり面の位置からズレが生じてしまう。近年では、撮像素子の高画素化、および表示機器の大型化に伴い、より高精細な映像が求められている。このため、特許文献1の方法では、4Kや8Kカメラを使用した場合、十分にピントを合わすことができない。
そこで本発明は、複数の被写体があった場合に、適切な被写体を選択することで、あおり角とフォーカス位置を高精度に算出することが可能な撮像装置を提供することを目的とする。
本発明の一側面としての撮像装置は、撮像素子を傾けて、前記撮像素子の撮像面と撮像光学系の光軸と直交する直交面との間の角度であるあおり角を変更するあおり駆動部と、前記撮像光学系のフォーカスレンズを駆動して、フォーカス位置を変更するフォーカス駆動部と、撮像装置によって撮像された画像内で被写体を検出する被写体検出部と、前記被写体検出部により検出された前記被写体までの測距を行う測距部と、前記測距部による測距結果に基づいて、前記あおり角および前記フォーカス位置を決定する決定部と、前記決定部により決定された前記あおり角および前記フォーカス位置に基づいて、前記あおり駆動部および前記フォーカス駆動部を制御する制御部と、を有し、前記制御部は、前記被写体検出部により検出された前記被写体の検出サイズ、検出位置、および前記測距部により測距された前記被写体の前記測距結果の精度の少なくとも一つに基づいて、前記被写体検出部により検出された複数の前記被写体から、前記あおり角および前記フォーカス位置を決定するために用いる被写体を選択し、前記決定部は、選択された前記被写体の測距結果に基づいて、前記あおり角および前記フォーカス位置を決定することを特徴とする。
本発明の他の目的及び特徴は、以下の実施形態において説明される。
本発明によれば、複数の被写体があった場合に、適切な被写体を選択することで、あおり角とフォーカス位置を高精度に算出することが可能な撮像装置を提供することができる。
撮像装置の構成を示すブロック図である。 撮像素子の画素構成を示す図である。 ビットずれ量の算出方法を説明する図である。 変換係数Kの算出方法を説明する図である。 あおり制御を説明する図である。 あおり制御およびフォーカス制御を説明する図である。 第1の実施形態に係るあおり/フォーカス制御を説明するフローチャートである。 第1の実施形態の課題のシチュエーションの図である。 図8のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表す図である。 信頼度のテーブルである。 第2の実施形態に係るあおり/フォーカス制御を説明するフローチャートである。 第3の実施形態の課題のシチュエーションの図である。 図12のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表す図である。 第3の実施形態に係るあおり/フォーカス制御を説明するフローチャートである。 第4の実施形態に係るあおり/フォーカス制御を説明するフローチャートである。 第4の実施形態の課題のシチュエーションの図である。 図16のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表す図である。 信頼度のテーブルである。
以下、本発明の実施形態について、図面を参照しながら詳細に説明する。
(全体構成)
まず、図1を参照して、本実施形態における撮像装置について説明する。図1は、撮像装置(制御装置)100のブロック図である。ズームレンズ101は、光軸方向に移動して焦点距離を変更する。フォーカスレンズ102は、光軸方向に移動してピントの制御(フォーカス制御)を行う。
絞りユニット103は、光量を調整する。本実施形態において、ズームレンズ101、フォーカスレンズ102、および、絞りユニット103により撮像光学系が構成される。
撮像光学系を通過した光は、バンドパスフィルタ(BPF)104およびカラーフィルタ105を介して、撮像素子106に受光される。バンドパスフィルタ104は、撮像光学系の光路に対して進退可能であってもよい。
撮像素子106は、CMOSセンサなどを有し、撮像光学系を介して形成された光学像(被写体像)を光電変換する。
撮像素子106から出力されたアナログ電気信号(撮像信号)は、AGC(Auto Gain Control)107によりゲイン調整される。A/D変換器108は、アナログ電気信号をデジタル信号(デジタル撮像信号)に変換する。
カメラ信号処理部109は、デジタル撮像信号に対して各種の画像処理(例えばガンマ変換やホワイトバランス調整)を行い、映像信号を生成する。映像信号は、通信部110を介して、撮像装置100に有線または無線通信により接続された監視モニタ装置111に出力される。
また、通信部110は、外部PC等の外部装置からのコマンドを受けて撮像装置100内のあおり/フォーカス制御部(制御部)115にコマンドなどの制御信号を出力する。
本実施形態では監視モニタ装置111まで含めたシステムを撮像装置と呼ぶ。一方、図1において監視モニタ装置111以外は一つの筐体に収納されており監視カメラを構成している。
測距情報算出部(測距部)112は、対象となる被写体領域ごとにカメラ信号処理部109からRGBの画素値または輝度値を受け取り、位相差による距離情報を取得する。
被写体検出部113は、カメラ信号処理部109からの結果を受けて、撮影画像内において被写体を検出する。被写体検出部113は、ユーザにより指定された被写体または予め設定された被写体、例えば人物や車の検出も行うことが可能である。
あおり/フォーカス駆動量算出部(決定部)114は、測距情報算出部112からの測距情報と被写体検出部113からの被写体情報を取得する。
また、あおり/フォーカス駆動量算出部114は、測距情報および被写体情報と、制御部115からのあおり角およびフォーカス位置とに基づいて、シーンに応じた適切な(最適な)あおり角およびフォーカス位置を算出する。
制御部115は、コンピュータとしてのCPUが内蔵されており、メモリ120に記憶されたコンピュータプログラムに基づき装置全体の各種動作を制御手段として実行する。制御部115は、あおり/フォーカス駆動量算出部114により算出されたあおり角およびフォーカス位置に基づいて、あおり角およびフォーカス位置を制御する。
制御部115は、通信部110を介して外部PCなどの外部装置からの指示に従って、オートフォーカス(AF)やマニュアルフォーカス(MF)でのフォーカス制御、ズーム制御、および、絞り制御を行う。また制御部115は、撮像素子駆動部116、絞り駆動部117、フォーカス駆動部118、および、ズーム駆動部119から現在の位置情報を受け取り、あおり/フォーカス駆動量算出部114に現在の位置情報を出力する。
また制御部115は、あおり/フォーカス駆動量算出部114で算出されたあおり角およびフォーカス位置を、撮像素子駆動部116およびフォーカス駆動部118にそれぞれ指示する。
撮像素子駆動部116は、あおり駆動部として機能し、制御部115から指示されたあおり角に基づいて、撮像素子106を傾け、あおり角を制御する。すなわち、撮像素子駆動部116は、撮像素子106を傾けて、撮像素子106の撮像面と撮像光学系の光軸と直交する直交面との間の角度であるあおり角を変更する。
通常、撮像素子106を傾ける回転軸は、撮影画像の中心を通る水平方向の(撮像素子の長手方向に沿った)軸であり、この回転軸を中心に撮像素子106は撮像光学系に対して相対的に傾く。しかし、本実施形態はこれに限定されるものではない。
絞り駆動部117は、制御部115から伝達された絞りの設定値に基づいて、絞りユニット103の位置を制御する。フォーカス駆動部118は、制御部115から指示されたフォーカスの設定値に基づいて(デフォーカス量に基づいて)、フォーカスレンズ102の位置を制御する(フォーカス制御を行う)。ズーム駆動部119は、制御部115から伝達されたズームの設定値に基づいて、ズームレンズ101の位置を制御する。
測距情報算出部112は、カメラ信号処理部109により得られる焦点検出用データを用いて、位相差検出方式で測距情報算出処理を行う。より具体的には、カメラ信号処理部109は、撮像光学系の一対の瞳領域を通過する光束により形成される一対の像データを焦点検出用データとして生成する。測距情報算出部112は、一対の像データのずれ量に基づいて測距結果としてのデフォーカス量を検出する。このように測距情報算出部112は、専用のAFセンサを用いず、撮像素子106の出力に基づく撮像面位相差検出方式により測距(焦点検出)を行う。
なお、測距情報算出部112の撮像面位相差検出方式による測距情報算出動作の詳細については、後述する。また測距情報算出部112は、特定周波数のコントラストに係る評価値(コントラスト評価値)を取得し、元のフォーカス位置とコントラスト評価値がピークとなるフォーカス位置との差分に基づいてデフォーカス量を算出してもよい。
メモリ(記憶手段)120は、制御部115が実行するプログラムに関するデータを記憶しているとともに、シェーディング補正係数に関するデータや変換係数に関するデータを記憶している。
(撮像面位相差検出方式による測距情報算出動作)
次に、図2を参照して、撮像素子106の画素構成について説明する。図2は、撮像素子106の画素構成図である。
撮像素子106は、全ての画素201のそれぞれが光電変換部201a、201bの2つにX方向に分割されている。また撮像素子106は、光電変換部201a、201bそれぞれの光電変換信号と、2つの光電変換部201a、201bの光電変換信号の和とがそれぞれ独立して読み出し可能である。
また、2つの光電変換部201a、201bの光電変換信号の和から一方の光電変換部(例えば光電変換部201a)の光電変換信号を減じることで、他方の光電変換部(例えば光電変換部201b)の光電変換信号に相当する信号を得ることができる。
光電変換部201a、201bそれぞれにおける光電変換信号は、位相差AFのための焦点検出用データとして用いられる。また、2つの光電変換部201a、201bの光電変換信号の和は、通常の撮影画像データとして用いられる。
測距情報算出部112は、このように生成された光電変換部201aの光電変換信号に相当する信号(A像)と光電変換部201bの光電変換信号に相当する信号(B像)との相対的な像ずれ量を相関演算により算出する。これにより、測距情報算出部112は、一対の像信号の相関度であるビットずれ量[bit]を算出することができる。ビットずれ量に変換係数を乗ずることで、ビットずれ量は所定領域のデフォーカス量[mm]に変換される。
本実施形態では、各画素201から光電変換部201a、201bの一方の出力信号と2つの光電変換部201a、201bの出力信号の和を撮像素子106から読み出すものとする。例えば、光電変換部201aの出力信号と、光電変換部201a、201bの出力信号の和とが読み出される場合、光電変換部201bの出力信号は、光電変換部201a、201bの出力信号の和から光電変換部201aの出力を減じることで取得できる。これにより、A像とB像の両方を得ることができ、撮像面位相差検出方式での測距(焦点検出)を実現することができる。また、光電変換部201a、201bの出力信号の和は、一般的には、出力画像の1画素(出力画素)を形成する。なお、このような撮像素子は公知であるため、詳細な説明は省略する。
次に、撮像面位相差検出方式による測距情報算出動作について説明する。以下の測距情報算出動作は、測距情報算出部112が主体となって実行される。
まず、測距情報算出部112は、焦点検出位置を設定する。続いて測距情報算出部112は、設定された焦点検出位置から焦点検出用データを読み出す。測距情報算出部112で設定された焦点検出位置内の画素から読み出した信号を用いることで、測距情報算出部112は、A像およびB像のそれぞれの信号を生成する。続いて、測距情報算出部112は、A像とB像の相対的な像ずれ量を相関演算により求めることで、ビットずれ量P[bit]を取得する。
ここで、図3を参照して、相関演算方法の一例を説明する。図3は、相関演算方法(ビットずれ量の算出方法)の説明図である。
図3において、縦軸は信号値、ヨコ軸はビット(位置)をそれぞれ示す。撮像素子106の画素(焦点検出画素)からA像とB像の信号が読み出されたとする。カメラ信号処理部109は、まず、ノイズの低減のため、A像とB像のそれぞれに対してデジタルフィルタ処理を行う。図3(a)は、フィルタ処理後の波形を示す。
測距情報算出部112は、図3(a)~(d)に示されるように、A像信号とB像信号のいずれか、またはA像信号とB像信号の両方をビットシフトしながら、そのときの相関量CORを算出する。相関量CORは、A像とB像とを重ねたときの面積、A像の面積からB像の面積を減算した値、または、相関度を表す計算値などであるが、これらに限定されるものではない。以下、相関量CORが、A像とB像とを重ねたときの面積である場合について説明する。
A像とB像とが一致した場合、A像とB像との重なりが大きくなるため、最も相関が高く、相関量CORは大きくなる。ここでは、相関量CORが最大値をとるときのシフト量[bit]がビットずれ量P[bit]となる。
続いて、測距情報算出部112は、変換係数Kを取得する。変換係数Kをビットずれ量Pに乗じることでデフォーカス量DEFが求められる。
ここで、図4を参照して、変換係数Kの算出について説明する。図4は、変換係数Kの算出の説明図である。図4において、Z軸は、撮像光学系の光軸方向を示し、Z=0は撮像素子106の面(撮像面)を示す。Zepは、射出瞳距離を示す。Z=Zep上のA像、B像の焦点検出光束の光量分布である瞳強度分布PI_A、瞳強度分布PI_Bは、光電変換部201a、201bのそれぞれから出力された信号(焦点検出用信号)を射出瞳面上に投影した投影像である。
図4中のPI_A、PI_Bは、一次元の瞳強度分布を示す。瞳強度分布PI_A、PI_Bの重心間隔を基線長BLとする。このとき、射出瞳距離Zepと基線長BLとの比で、A像とB像のビットずれ量P[bit]に対する光軸方向の変化量[mm]を求めることができる。
従って、変換係数Kは、以下の式(1)のように表すことができる。
K=Zep/BL (1)
次に、測距情報算出部112は、以下の式(2)により、デフォーカス量DEF[mm]を算出する。
DEF=P×K (2)
焦点検出位置で合焦させる場合、あおり/フォーカス駆動量算出部114は、デフォーカス量DEFに基づいて、以下の式(3)によりフォーカスレンズ102の駆動量M[lensmm]を算出する。そして制御部115は、フォーカス駆動部118を制御してフォーカスレンズ102を駆動する。
M=DEF×FS (3)
式(3)において、FSは、デフォーカス量DEF[mm]をレンズ駆動量M[lensmm]に変換するための敏感度である。
制御部115は、レンズ駆動量Mを設定し、フォーカス駆動部118は、設定されたレンズ駆動量Mに基づいてフォーカスレンズ102を光軸方向に駆動させる。これにより、焦点検出位置でピントの合った画像が得られる。
このように、測距情報算出部112は、撮像面位相差検出方式で得られた測距情報に基づいてデフォーカス量DEFを算出し、あおり/フォーカス駆動量算出部114は、デフォーカス量DEFに基づいてフォーカス駆動量を算出する。
(あおり制御の説明)
図5を参照して、あおり制御について説明する。図5は、あおり制御の説明図である。図5(a)は、光学系(撮像光学系)と撮像素子106とが平行である状態を示している。フォーカス距離Lにピントが合っており、ピント面は光学系および撮像素子106のそれぞれと平行である。
図5(b)は、図5(a)の状態から撮像素子106を撮像素子回転軸を中心に回転させ、あおり制御が行われた状態を示している。あおり制御が行われると、シャインプルーフの原理に基づいて、ピント面も撮像素子回転軸に対応したピント面回転軸を中心に回転する。このため、ある平面に関して近距離から遠距離まで全ての被写体にピントを合わせることが可能となる。シャインプルーフの原理は、光学系の主面と撮像素子106の撮像面とがある1つの直線で交わるとき、ピント面も同じ直線上で交わるという原理である。
あおり角bは、焦点距離f、フォーカス距離L、および、俯角aを用いて、シャインプルーフの原理により、以下の式(4)で算出される。
b=tan-1(f/(Ltan(a))) (4)
図5(c)は、複数の被写体として被写体Xおよび被写体Yが存在するシーンを示している。この場合、図5(c)に示されるように、被写体X、Yの顔にピントが合うようなピント面に制御することが望ましい。ここで、被写体とは、被写体の顔のような被写体の一部も含むものとする。このため、あおり制御のみではなく、フォーカス制御を行うことが必要である。また、被写体ごとに最適なピント面(すなわち、最適なあおり角および最適なフォーカス位置)は異なっており、ユーザが手動で調整するのは困難である。
そこで、図6を参照して、被写体に応じて最適なあおり角および最適なフォーカス位置を算出する一例を説明する。
図6は、あおり制御およびフォーカス制御の説明図である。対象とする被写体として、図5(c)と同様に、被写体Xおよび被写体Yが存在する。
現在のあおり角とフォーカスレンズ102の位置が図6の上部の位置関係になっている。xは被写体Xに対してピントを合わせるために必要な、撮像光学系のピント面からの補正量、yは被写体Yに対してピントを合わせるために必要な、撮像光学系のピント面からの補正量である。
また、撮像素子106上でのあおり軸から被写体までの距離(像高)を、被写体Xに対してk1[um]、被写体Yに対してk2[um]とする。
ここで、被写体X、Yに同時に合焦させるためのあおり角をα[°]とし、フォーカスレンズ102の移動によるピント面上でのフォーカス補正量(フォーカス位置)をβとすると、以下の式(5)、(6)が成立する。
x-β=k1×tan(α)+β (5)
y=k2×tan(α)-β (6)
式(5)、(6)の連立方程式を解くと、あおり角αおよびフォーカス補正量βはそれぞれ、以下の式(7)、(8)のように表される。
α=tan-1((x+y)/(k1+k2)) (7)
β=(k2×x-k1×y)/(k1+k2) (8)
フォーカスレンズ102の駆動量は、簡易的には、フォーカス補正量βをフォーカスレンズ102の敏感度FSで除算することで算出できる。
一方、フォーカスレンズ102の駆動量を正確に算出するには、敏感度FSに応じた高次方程式や多項式を解くことで可能となる。ただし本実施形態は、これに限定されるものではなく、他の方法で算出してもよい。
このように、撮像素子106上でのあおり軸から被写体までの距離を正確に算出しなければ、フォーカス位置とあおり角の補正を行っても、被写体のピントが甘くなってしまう。
[第1の実施形態]
次に、図7を参照して、第1の実施形態におけるあおり/フォーカス位置制御の方法について説明する。
図7は、本実施形態におけるあおり/フォーカス位置制御処理のフローチャートである。本実施形態の処理は、制御部115により、コンピュータプログラムとしての処理プログラムに従って実行される。なお処理プログラムは、例えば、コンピュータに読み取り可能な記憶媒体(メモリ120等)に記憶されている。
ステップS701において、通信部110は、制御部115にあおり制御開始命令を送る。
ステップS702において、被写体検出部113は、撮像装置100が撮像する画像内で被写体を検出する。被写体検出は人体検出でも良いし、物体検出でも良い。
ステップS703において、制御部115は、被写体数をカウントし、被写体数が3つ以上かを判断する。
被写体数が3つ以上の場合は、ステップS704に進む。ステップS704において、制御部115は、被写体検出部113で検出された被写体の検出位置(像高)と検出サイズ(大きさ)を取得する。ここで、検出位置(像高)は、センサの回転軸から被写体までの距離である。また、検出サイズ(大きさ)は、人体認識や顔認識によって判定する。
ステップS705において、測距情報算出部112は、ステップS702において検出された各被写体に対して、各被写体の検出位置での測距結果としてデフォーカス量(距離)を測定する。具体的には、各被写体に枠を合わせて、デフォーカス量(距離)を測定する。なお、ここでの枠はAF枠とするが、これに限らない。このデフォーカス量の測定には、位相差方式を使用しても良いし、コントラスト方式を使用しても良い。ステップS705においてデフォーカス量を測定するが、位相差方式での測距の場合には現在のピント位置から被写体までの距離が遠くなるほど測距精度は低下するという特徴がある。また、被写体の画像中心からの距離が遠い場合、レンズのシェーディングなどの影響を受けて測距精度が低下する。そのため、安易に画像中心からの距離が遠い被写体(または、被写体枠)を測距の枠として選ぶと、この後のフォーカス位置とあおり角の補正精度が低くなり、結果としてピントの甘い画になる場合がある。コントラスト方式においても、合焦したフォーカス位置から被写体距離を算出するのでメカ誤差(ガタ)・停止精度誤差が乗り、被写体距離の算出に誤差が生じる。そのため、2つの被写体(または、2枠)の距離が近いと誤差の割合が大きくなり、フォーカス位置とあおり角の補正精度が低くなり、結果としてピントの甘い画になる場合がある。
例えば、図8は被写体が3つある場合のシチュエーションの図である。そして図9は、図8のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表した図である。被写体Zは像高が高く(センサの回転軸からの距離が長く)、センサからも遠い位置にピント面がある。そのため、位相差方式で測距したデフォーカス量が上述した影響により、実際の距離と大きく異なる場合がある。この場合、被写体Zのデフォーカス量を使用してフォーカス位置とあおり角の補正を行うとピント面が甘い画になる。上記の理由により、あおり/フォーカス位置制御を精度良く実施するためには、あおり角およびフォーカス位置の算出に使用する被写体を適切に選択する必要がある。
ステップS706において、制御部115は、被写体の検出サイズ、検出位置(像高)、デフォーカス量の精度(測距精度)から被写体毎(被写体の枠毎)に信頼度(適合度)を算出(判定)する。信頼度の算出については、図10のようなテーブルを参照してもよい。図10は一例であり、テーブルの作成方法に関してはその要旨の範囲内で種々の変形及び変更が可能である。図10では、被写体の検出サイズ、検出位置、デフォーカス量の精度のすべてを考慮し、信頼度を算出(決定)している。制御部115は、信頼度を、被写体の検出サイズ、検出位置、およびデフォーカス量の精度の少なくとも一つを用いて算出してもよい。信頼度を算出する要素や重みづけは、デフォーカス量を算出した測距方式や撮影環境に応じて変更させてもよい。
図10は、各要素である検出サイズTa、検出位置Tb、デフォーカス量の精度Tcを0~1で評価した場合を示している。信頼度は、式(9)で表される。
T=Ta×Tb×Tc (9)
信頼度の算出式はあくまでも一例であり、各要素に対する重みづけ(比重)を、デフォーカス量を算出した測距方式や撮影環境に応じて変更させてもよいし、各要素を加算してもよい。信頼度の算出方法に関しては、その要旨の範囲内で種々の変形及び変更が可能である。これを、被写体ごとに行い、被写体ごとの信頼度を算出する。なお、図10の場合には、信頼度が高いX,Yが選択される。また、図10では、画像中心からの距離が、XよりYの方が近いため、Yの測距精度がXの測距精度より高くなっている。
ステップS707において、制御部115は、信頼度の高い上位2つの被写体(または、被写体枠)を選択する。上述の被写体選択の際に、2つの被写体の像高差を考慮に入れてもよい。
ステップS708において、選択した2つの被写体(または、被写体枠)に対する測距結果としてのデフォーカス量DEF1、DEF2から、あおり/フォーカス駆動量算出部114はフォーカス駆動量d、あおり角駆動量θを算出する。
ステップS709において、ステップS708であおり/フォーカス駆動量算出部114が算出した駆動量に応じて、制御部115は、フォーカス駆動部118、撮像素子駆動部116を駆動させる。
ステップS703において、被写体数が3つ以上でなければ、ステップS710に進む。
ステップS710において、制御部115は、被写体数が2つかどうかを判別する。被写体数が2つの場合は、ステップS708に進む。被写体数が1つの場合は、ステップS711に進む。
ステップS711において、測距情報算出部112は、被写体までのデフォーカス量を測定する。
ステップS712において、ステップS711において測定されたデフォーカス量に応じて、制御部115は、フォーカス駆動部118を駆動させる。
被写体が1つの場合は、撮像素子駆動部116は駆動させず、フォーカス駆動部118のみを駆動させる。
ステップS713において、制御部115は、本制御処理を終了する。
本実施形態によれば、信頼度に応じて、あおり/フォーカス位置制御を実施するための2つの被写体(または、2枠)を選択することで、あおり/フォーカス位置制御に適した被写体(または、被写体枠)の選択が可能になる。よって、あおり角、フォーカス位置の算出を高精度に行うことが可能となる。
[第2の実施形態]
第1の実施形態では、信頼度に基づいた選択でのあおり/フォーカス位置制御の方法を実施する例について説明した。
以下では、図11に示すフローチャートを参照して、本発明の第2の実施形態によるあおり/フォーカス位置制御処理を説明する。本実施形態では、あおり/フォーカス位置制御中に新たな被写体が認識された場合や画像内の被写体が動いた場合の制御方法を説明する。なお、第1の実施形態と同様の構成については、詳細な説明を省略する。
第1の実施形態と異なるのは、ステップS1113、ステップS1114の一連の処理である。
ステップS1113において、制御部115は、被写体検出部113が新たな被写体を画像内で検出していないか、または被写体が最初の検出時から動いていないかどうかを判定する。
新たな被写体を検出していない場合、または被写体が最初の検出時から動いていない場合はステップS1115に進み、本制御処理を終了する。新たな被写体を検出した場合、または被写体が最初の検出時から動いた場合は、ステップS1114に進む。
ステップS1114において、制御部115は、測距方式がコントラスト方式かどうか判別する。
測距方式がコントラスト方式の場合、測距を行うために、フォーカスレンズ102を駆動させなければならず、品位に欠ける。そのため、再測距は行わず、ステップS1115に進む。測距方式が像面位相差方式の場合、測距のためにフォーカスレンズ102を駆動させずに済むため、ステップS1103に戻る。つまり、制御部115は、測距方式に応じて、信頼度を再算出(再判定)するか否かを判断する。
本実施形態では、あおり/フォーカス位置制御中に新たな被写体が画像内で検出されたり、画像内の被写体が動いた場合に、該被写体の信頼度が高い場合、最初に算出したあおり角、フォーカス位置より、高精度にあおり/フォーカス位置制御を行える。
[第3の実施形態]
第1の実施形態では、信頼度に基づいた選択でのあおり/フォーカス位置制御の方法を実施する例について説明した。
しかし、実環境において、被写体検出されたものが全てあおりピント面上にいるとは限らない。例えば、図12は、道路を歩く被写体A~D、ビルの看板などの人物のポスターである被写体Eがあるシチュエーションを示した図である。また、図13は、図12のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表した図である。このように、被写体Eと他の被写体A~Dを同じピント面上にすることは不可能である。その場合、被写体Eを除外した被写体A~Dを用いて、あおり/フォーカス位置制御を行わなければならない。
以下、図14に示すフローチャートを参照して、本発明の第3の実施形態によるあおり/フォーカス位置制御処理を説明する。本実施形態では、被写体検出においてピント面が明らかに合わない(ピント面上に明らかに乗らない)被写体が検出された場合のあおり/フォーカス位置制御方法を説明する。なお、第1の実施形態と同様の構成については、詳細な説明を省略する。
第1の実施形態と異なるのは、ステップS1406の処理である。
ステップS1406において、制御部115は、被写体検出部113により検出された被写体の検出位置と測距情報算出部112による被写体の測距結果とに基づく被写体の相関を判断する。これにより、被写体検出でピント面が明らかに合わない(ピント面上でない)被写体を検出する。このような被写体の検出についてはスミルノフグラブス検定など一般的なものを使用する。スミルノフグラブス検定において、外れ値に該当する被写体を除外する。
また、相関係数が閾値以上になるように外れ値を検出しても良い。
制御部115は、外れ値に該当する被写体Eを除外して、ステップ1407において信頼度を算出する。
本実施形態によれば、検出された被写体の中に、あおり/フォーカス位置制御を実施しても同一ピント面上にならない被写体があった場合、相関を利用し、該被写体を除外する。同一ピント面上にならない被写体を除外することにより、高精度なあおり/フォーカス位置制御が可能となる。
[第4の実施形態]
第1の実施形態では、信頼度に基づいた選択でのあおり/フォーカス位置制御の方法を実施する例について説明した。
しかし、被写体(または、被写体枠)の選択時に信頼度が低い被写体しかなく、選択した被写体の測距が実際の被写体距離と違うと、その被写体で算出したあおり角では、被写体から大きくピントを外す可能性がある。
上記のように信頼度が低い被写体しかない場合、複数被写体(または、被写体枠)の情報の平均を取り、平均の像高と被写体距離を持った仮想枠を設定する。その仮想枠を用いてあおり角を算出することで、被写体から大きくピントを外すことを回避する。
以下、図15に示すフローチャートを参照して、本発明の第4の実施形態によるあおり/フォーカス位置制御処理を説明する。本実施形態では、信頼度が低い被写体(または、被写体枠)しかない場合のあおり/フォーカス位置制御方法を説明する。なお、第1の実施形態と同様の構成については、詳細な説明を省略する。
第1の実施形態と異なるのは、ステップS1507、ステップS1508の一連の処理である。
ステップS1507において、制御部115は、ステップS1506で算出した信頼度が閾値以下か判別する。
これにより信頼度が高い場合でも低い場合でも、被写体から大きくピントを外すことを回避する。
信頼度が閾値より低い場合、ステップS1508に進み、高い場合はステップS1509に進む。
ステップS1508では、制御部115は、複数被写体(または、被写体枠)の情報から仮想枠を作成し、選択する。仮想枠は、複数被写体の像高と被写体距離について平均して算出する。
例えば、図16は被写体が4つある場合のシチュエーションの図である。そして図17は、図16のシチュエーションを撮像面位相差方式で測距した場合の撮像面上のピント位置を表した図である。
図18では、被写体の検出サイズ、検出位置、デフォーカス量の精度のすべてを考慮して、信頼度を算出(決定)している。
図16の被写体A~Dの信頼度は低いため、被写体Aと被写体Bを平均した仮想枠X、被写体Cと被写体Dを平均した仮想枠Yを作成する。
仮想枠Xの像高、被写体距離情報と仮想枠Yの像高、被写体距離情報からあおり角を算出することにより、被写体から大きくピントを外すことを回避する。
本実施例では、仮想枠の像高、被写体距離について、被写体(実枠)の情報を平均したが、信頼度の高さに応じて重みづけを行って算出しても良い。また、仮想枠の作成にあたり、被写体(実枠)を選択する場合、あおり角の回転軸の上下で分けて選択を行っても良い。回転軸の上下で分かれた被写体(被写体枠)を選択すると、仮想枠の像高が低くなり、誤差が大きくなって、ピント面算出精度が落ちる可能性がある。上記のように、回転軸の上下で分けることにより、仮想枠の像高を保つことができ、あおり角の精度低下を抑制することが可能となる。
本実施形態によれば、信頼度が低い被写体(被写体枠)しかない場合、複数被写体(被写体枠)の情報の平均を取り、平均の像高と被写体距離を持った仮想枠を設定する。その仮想枠であおり角を算出することで、被写体から大きくピントを外すことを回避することができる。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
各実施形態によれば、撮影手段のブレを高精度に評価することが可能なブレ評価装置、ブレ評価方法、およびプログラムを提供することができる。また各実施形態によれば、高精度にブレ補正が可能な撮影手段の製造方法を提供することができる。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
116 あおり駆動部
118 フォーカス駆動部
113 被写体検出部
112 測距部
114 決定部
115 制御部

Claims (18)

  1. 撮像素子を傾けて、前記撮像素子の撮像面と撮像光学系の光軸と直交する直交面との間の角度であるあおり角を変更するあおり駆動部と、
    前記撮像光学系のフォーカスレンズを駆動して、フォーカス位置を変更するフォーカス駆動部と、
    撮像装置によって撮像された画像内で被写体を検出する被写体検出部と、
    前記被写体検出部により検出された前記被写体までの測距を行う測距部と、
    前記測距部による測距結果に基づいて、前記あおり角および前記フォーカス位置を決定する決定部と、
    前記決定部により決定された前記あおり角および前記フォーカス位置に基づいて、前記あおり駆動部および前記フォーカス駆動部を制御する制御部と、を有し、
    前記制御部は、前記被写体検出部により検出された前記被写体の検出サイズ、検出位置、および前記測距部により測距された前記被写体の前記測距結果の精度の少なくとも一つに基づいて、前記被写体検出部により検出された複数の前記被写体から、前記あおり角および前記フォーカス位置を決定するために用いる被写体を選択し、
    前記決定部は、選択された前記被写体の測距結果に基づいて、前記あおり角および前記フォーカス位置を決定することを特徴とする撮像装置。
  2. 前記制御部は、前記被写体検出部により検出された前記被写体の検出サイズ、検出位置、および前記測距部により測距された前記被写体の前記測距結果の精度に基づいて、信頼度を判定することを特徴とする請求項1に記載の撮像装置。
  3. 前記制御部は、前記複数の被写体の中から前記信頼度の高い上位2つの被写体を選択することを特徴とする請求項2に記載の撮像装置。
  4. 前記制御部は、前記被写体検出部により検出された前記被写体の検出サイズ、検出位置、および前記測距部により測距された前記被写体の前記測距結果の精度の比重を測距方式に応じて変更することを特徴とする請求項1から3のいずれか一項に記載の撮像装置。
  5. 前記制御部は、
    前記被写体検出部により検出された前記被写体の検出位置と前記測距部による前記被写体の測距結果とに基づく前記被写体の相関を判断し、
    前記相関に基づいて、前記被写体検出部により検出された前記複数の被写体から、除外する被写体を決定することを特徴とする請求項1から4のいずれか一項に記載の撮像装置。
  6. 前記除外する被写体の決定には、スミルノフグラブス検定を用いることを特徴とする請求項5に記載の撮像装置。
  7. 前記制御部は、前記フォーカス位置と前記あおり角を算出した後に、
    前記撮像装置が撮像する画像内において新たな被写体が検出された場合、または前記画像内の被写体が動いたと判断した場合、
    測距方式に応じて、前記信頼度を再判定するか否かを判断することを特徴とする請求項2または3に記載の撮像装置。
  8. 前記測距方式は、位相差方式およびコントラスト方式を含むことを特徴とする請求項7に記載の撮像装置。
  9. 前記制御部は、前記測距方式が位相差方式である場合に、前記信頼度を再判定させることを特徴とする請求項8に記載の撮像装置。
  10. 前記制御部は、前記撮像装置によって撮像される画像内の被写体の数が3つ以上の場合に、前記被写体検出部により検出された前記被写体の検出サイズ、検出位置、および前記測距部により測距された前記被写体の前記測距結果の精度の少なくとも一つに基づいて、前記複数の被写体から前記あおり角および前記フォーカス位置を決定するために用いる被写体を選択することを特徴とする請求項1から9のいずれか一項に記載の撮像装置。
  11. 前記制御部は、前記撮像装置によって撮像される画像内における被写体毎に前記信頼度を決定することを特徴とする請求項2または3に記載の撮像装置。
  12. 前記測距結果はデフォーカス量であることを特徴とする請求項1から11のいずれか一項に記載の撮像装置。
  13. 前記制御部は、前記被写体検出部によって検出された前記複数の被写体毎に枠を合わせ、該枠から、前記あおり角および前記フォーカス位置を決定するために用いる被写体枠を選択することを特徴とする請求項1から12のいずれか一項に記載の撮像装置。
  14. 撮像素子を傾けて、前記撮像素子の撮像面と撮像光学系の光軸と直交する直交面との間の角度であるあおり角を変更するあおり駆動部と、前記撮像光学系のフォーカスレンズを駆動して、フォーカス位置を変更するフォーカス駆動部と、を備える撮像装置の制御方法であって、
    前記撮像装置によって撮像された画像内で被写体を検出する被写体検出ステップと、
    前記被写体検出ステップにより検出された前記被写体までの測距を行う測距ステップと、
    前記被写体検出ステップにより検出された前記被写体の検出サイズ、検出位置、および前記測距ステップにより測距された前記被写体の測距結果の精度の少なくとも一つに基づいて、前記被写体検出ステップにより検出された複数の前記被写体から、前記あおり角および前記フォーカス位置を決定するために用いる被写体を選択する選択ステップと、
    前記選択ステップにより選択された前記被写体の前記測距ステップによる測距結果に基づいて、前記あおり角および前記フォーカス位置を決定する決定ステップと、
    前記決定ステップにより決定された前記あおり角および前記フォーカス位置に基づいて、前記あおり駆動部および前記フォーカス駆動部を制御する制御ステップと、を有することを特徴とする制御方法。
  15. 撮像光学系により形成された光学像を撮像する撮像素子を備える撮像装置のコンピュータに、請求項14に記載の制御方法に従う処理を実行させるコンピュータプログラムを記憶したコンピュータで読み取り可能な記憶媒体。
  16. 前記制御部は、
    前記被写体の前記信頼度が閾値より低い場合、仮想枠を生成し、
    複数の前記被写体の情報から、前記仮想枠の像高および前記仮想枠の被写体距離情報を算出することを特徴とする請求項2に記載の撮像装置。
  17. 前記制御部は、前記被写体の前記信頼度に応じて、重みづけを行うことにより前記仮想枠を生成することを特徴とする請求項16に記載の撮像装置。
  18. 前記制御部は、前記あおり角の回転軸の上下に応じて、前記仮想枠の生成に用いる被写体を選択することを特徴とする請求項16または17に記載の撮像装置。
JP2021177170A 2021-03-17 2021-10-29 撮像装置、制御方法および記憶媒体 Active JP7293309B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US17/690,123 US11722769B2 (en) 2021-03-17 2022-03-09 Image pickup apparatus, control method, and storage medium

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021043123 2021-03-17
JP2021043123 2021-03-17

Publications (2)

Publication Number Publication Date
JP2022145453A true JP2022145453A (ja) 2022-10-04
JP7293309B2 JP7293309B2 (ja) 2023-06-19

Family

ID=83460409

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021177170A Active JP7293309B2 (ja) 2021-03-17 2021-10-29 撮像装置、制御方法および記憶媒体

Country Status (1)

Country Link
JP (1) JP7293309B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1138313A (ja) * 1997-07-18 1999-02-12 Canon Inc 光学装置及びカメラ
JP2003075716A (ja) * 2001-09-06 2003-03-12 Nikon Corp 撮像装置
JP2010008507A (ja) * 2008-06-24 2010-01-14 Olympus Imaging Corp カメラ
JP2016200702A (ja) * 2015-04-09 2016-12-01 キヤノン株式会社 焦点検出装置及びその制御方法、プログラム、記憶媒体
JP2020154283A (ja) * 2019-03-15 2020-09-24 キヤノン株式会社 撮像装置、コンピュータプログラム、記憶媒体および撮像制御方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1138313A (ja) * 1997-07-18 1999-02-12 Canon Inc 光学装置及びカメラ
JP2003075716A (ja) * 2001-09-06 2003-03-12 Nikon Corp 撮像装置
JP2010008507A (ja) * 2008-06-24 2010-01-14 Olympus Imaging Corp カメラ
JP2016200702A (ja) * 2015-04-09 2016-12-01 キヤノン株式会社 焦点検出装置及びその制御方法、プログラム、記憶媒体
JP2020154283A (ja) * 2019-03-15 2020-09-24 キヤノン株式会社 撮像装置、コンピュータプログラム、記憶媒体および撮像制御方法

Also Published As

Publication number Publication date
JP7293309B2 (ja) 2023-06-19

Similar Documents

Publication Publication Date Title
US8135268B2 (en) Lens control apparatus, optical apparatus and lens control method
US9531938B2 (en) Image-capturing apparatus
US7403230B2 (en) Image-taking apparatus
JP5483953B2 (ja) 焦点調節装置、焦点調節方法及びプログラム
US20120268613A1 (en) Image capturing apparatus and control method thereof
US20200137313A1 (en) Imaging apparatus
US20160173762A1 (en) Image-capturing apparatus
JP2008009341A (ja) オートフォーカス装置、撮像装置及びオートフォーカス方法
JP7362360B2 (ja) 制御装置、撮像装置、レンズ装置、および、プログラム
JP2008052123A (ja) 撮像装置
JP7471799B2 (ja) 制御装置、撮像装置、制御方法、および、プログラム
US10999491B2 (en) Control apparatus, image capturing apparatus, control method, and storage medium
US7570298B2 (en) Image-taking apparatus with first focus control such that in-focus position is searched for based on first signal and second focus control such that one of in-focus position and drive amount is determined based on second signal
JP6381434B2 (ja) フォーカス制御装置、光学機器およびフォーカス制御方法
JP4334784B2 (ja) オートフォーカス装置及びそれを用いた撮像装置
US9420161B2 (en) Image-capturing apparatus
JP6917536B2 (ja) 撮像装置
JP7293309B2 (ja) 撮像装置、制御方法および記憶媒体
US11722769B2 (en) Image pickup apparatus, control method, and storage medium
JP2008107480A (ja) 合焦制御装置および撮像装置
JP5322842B2 (ja) 自動合焦装置、自動合焦方法及びプログラム
TWI423661B (zh) Face block assisted focus method
JP2024011953A (ja) 撮像装置およびその制御方法
JP2023004680A (ja) 画像処理装置及び画像処理装置の制御方法
JP2004069953A (ja) カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220623

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230210

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230221

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230509

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230607

R151 Written notification of patent or utility model registration

Ref document number: 7293309

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151