JP2021179527A - 撮影制御装置、撮像装置、撮影制御方法、及びプログラム - Google Patents

撮影制御装置、撮像装置、撮影制御方法、及びプログラム Download PDF

Info

Publication number
JP2021179527A
JP2021179527A JP2020084791A JP2020084791A JP2021179527A JP 2021179527 A JP2021179527 A JP 2021179527A JP 2020084791 A JP2020084791 A JP 2020084791A JP 2020084791 A JP2020084791 A JP 2020084791A JP 2021179527 A JP2021179527 A JP 2021179527A
Authority
JP
Japan
Prior art keywords
subject
area
degree
class
partial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020084791A
Other languages
English (en)
Inventor
優 稲垣
Masaru Inagaki
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020084791A priority Critical patent/JP2021179527A/ja
Priority to US17/308,491 priority patent/US11533422B2/en
Publication of JP2021179527A publication Critical patent/JP2021179527A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/671Focus control based on electronic image sensor signals in combination with active ranging signals, e.g. using light or sound signals emitted toward objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/672Focus control based on electronic image sensor signals based on the phase difference signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/703SSIS architectures incorporating pixels for producing signals other than image signals
    • H04N25/704Pixels specially adapted for focusing, e.g. phase difference pixel sets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)
  • Exposure Control For Cameras (AREA)

Abstract

【課題】検出対象の被写体を部分的に含んだ被写体検出領域に基づく撮影制御の精度を向上させる。【解決手段】検出対象の被写体を部分的に含んだ被写体領域を検出し、被写体領域を含む測距領域内の複数の測距点のデフォーカス量に基づいて測距領域を複数の部分領域に分類し(S904)、さらに複数の部分領域の各々は複数のデフォーカス量の範囲における異なる部分範囲に対応させて分類し(S905)、複数の部分領域の各々と被写体領域との間の幾何学的な関係に基づいて、複数の部分領域の各々について検出対象の被写体が存在する可能性を示す被写体度合いを判定し(S906)、複数の部分領域に基づいて撮影制御を行う。その際、第1の被写体度合いを持つ部分領域の寄与が第1の被写体度合いより小さい第2の被写体度合いを持つ部分領域の寄与よりも大きくなるように撮影制御する(S907)。【選択図】図9

Description

本発明は、撮影制御装置、撮像装置、撮影制御方法、及びプログラムに関する。
従来、被写体を検出して検出箇所で測距演算を行うことにより焦点調節を行う方法が知られている。特許文献1の技術では、検出した被写体の部位に応じて、焦点検出信号の検出方向を決定することで、被写体に応じた最適な測距を行うことができる。
特開2009−192774号公報
一般的な被写体検出処理では、検出対象の被写体が存在する領域と存在しない領域とが厳密に区別される訳ではなく、検出対象の被写体が存在しない領域(例えば背景領域)も含んだ領域が被写体領域として検出される。そのため、例えば被写体領域に基づいて焦点調節(フォーカス制御)を行った場合でも、検出対象の被写体が存在しない領域(例えば背景領域)に合焦する可能性がある。この点はフォーカス制御以外の撮影制御(例えば露光制御)を行う場合でも同様であり、被写体領域に基づいて撮影制御を行った場合でも、必ずしも検出対象の被写体に適した制御結果が得られるとは限らない。
本発明はこのような状況に鑑みてなされたものであり、検出対象の被写体を部分的に含んだ被写体検出領域に基づく撮影制御の精度を向上させる技術を提供することを目的とする。
上記課題を解決するために、本発明は、撮影範囲において検出対象の被写体を部分的に含んだ被写体領域を検出する検出手段と、前記被写体領域を含む測距領域内の複数の測距点に対応する複数のデフォーカス量を取得する取得手段と、前記複数のデフォーカス量に基づいて前記測距領域を複数の部分領域に分類する分類手段であって、前記複数の部分領域の各々は前記複数のデフォーカス量の範囲における異なる部分範囲に対応する、分類手段と、前記複数の部分領域の各々と前記被写体領域との間の幾何学的な関係に基づいて、前記複数の部分領域の各々について前記検出対象の被写体が存在する可能性を示す被写体度合いを判定する判定手段と、前記複数の部分領域に基づいて撮影制御を行う制御手段であって、第1の被写体度合いを持つ部分領域の寄与が前記第1の被写体度合いより小さい第2の被写体度合いを持つ部分領域の寄与よりも大きくなるように前記撮影制御を行う、制御手段と、を備えることを特徴とする撮影制御装置を提供する。
本発明によれば、検出対象の被写体を部分的に含んだ被写体検出領域に基づく撮影制御の精度を向上させることが可能となる。
なお、本発明のその他の特徴及び利点は、添付図面及び以下の発明を実施するための形態における記載によって更に明らかになるものである。
撮像制御装置を備える撮像装置10の構成を示すブロック図。 撮像素子122の撮像画素(及び焦点検出画素)の配列の概略図。 (a)図2に示した撮像素子122の1つの画素200Gを、撮像素子122の受光面側(+z側)から見た平面図、(b)図3(a)のa−a断面を−y側から見た断面図。 図3に示した本実施形態の画素構造と瞳分割との対応関係を示した概略説明図。 撮像素子122と瞳分割との対応関係を示した概略図。 第1焦点検出信号と第2焦点検出信号に基づくデフォーカス量と第1焦点検出信号と第2焦点検出信号との間の像ずれ量との概略関係図。 撮影処理のフローチャート。 被写体(検出対象)と検出領域(被写体領域)との概略関係図。 図7のS703における焦点調節処理の詳細を示すフローチャート。 被写体領域801〜806それぞれに関して、被写体領域の位置及び大きさを基準に設定された測距領域の概略説明図。 図10の測距領域内のデフォーカス量をクラス分類した状態を示す概略説明図。 S905において検出されるクラス領域の概略説明図。 図7のS705におけるホワイトバランス調整処理の詳細を示すフローチャート。 図7のS706における露光調節処理の詳細を示すフローチャート。 図9のS906における被写体度合いの判定処理の詳細を示すフローチャート。
以下、添付図面を参照して実施形態を詳しく説明する。尚、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。
[第1の実施形態]
(撮像装置10の構成)
図1は、撮像制御装置を備える撮像装置10の構成を示すブロック図である。図1の例においては、撮像装置10は、レンズ交換可能な一眼レフタイプのデジタルカメラである。撮像装置10は、レンズユニット100(交換レンズ)とカメラ本体120とを有するカメラシステムの形態を持つ。レンズユニット100は、図1において点線で示されるマウントMを介して、カメラ本体120と着脱可能に取り付けられる。但し、本実施形態は、図1に示す構成に限定されるものではなく、レンズユニット(撮像光学系)とカメラ本体とが一体的に構成された撮像装置(デジタルカメラ)にも適用可能である。また、本実施形態は、デジタルカメラに限定されるものではなく、ビデオカメラなど他の撮像装置にも適用可能である。
レンズユニット100は、光学系としての第1レンズ群101、絞り102、第2レンズ群103、フォーカスレンズ群(以下、単に「フォーカスレンズ」という)104、及び、駆動/制御系とを有する。このようにレンズユニット100は、フォーカスレンズ104を含み、被写体像を形成する撮影レンズ(撮像光学系)である。
第1レンズ群101は、レンズユニット100の先端に配置され、光軸方向OAに進退可能に保持される。絞り102は、その開口径を調節することで撮影時の光量調節を行い、また静止画撮影時においては露光秒時調節用シャッタとして機能する。絞り102及び第2レンズ群103は、一体的に光軸方向OAに移動可能であり、第1レンズ群101の進退動作との連動によりズーム機能を実現する。フォーカスレンズ104は、光軸方向OAに移動可能であり、その位置に応じてレンズユニット100が合焦する被写体距離(合焦距離)が変化する。フォーカスレンズ104の光軸方向OAにおける位置を制御することにより、レンズユニット100の合焦距離を調節する焦点調節(フォーカス制御)が可能である。
駆動/制御系は、ズームアクチュエータ111、絞りアクチュエータ112、フォーカスアクチュエータ113、ズーム駆動回路114、絞り駆動回路115、フォーカス駆動回路116、レンズMPU117、及び、レンズメモリ118を有する。ズーム駆動回路114は、ズームアクチュエータ111を用いて第1レンズ群101や第2レンズ群103を光軸方向OAに駆動し、レンズユニット100の光学系の画角を制御する(ズーム操作を行う)。絞り駆動回路115は、絞りアクチュエータ112を用いて絞り102を駆動し、絞り102の開口径や開閉動作を制御する。フォーカス駆動回路116は、フォーカスアクチュエータ113を用いてフォーカスレンズ104を光軸方向OAに駆動し、レンズユニット100の光学系の合焦距離を制御する(フォーカス制御を行う)。また、フォーカス駆動回路116は、フォーカスアクチュエータ113を用いてフォーカスレンズ104の現在位置(レンズ位置)を検出する位置検出部としての機能を有する。
レンズMPU117(プロセッサ)は、レンズユニット100に係る全ての演算、制御を行い、ズーム駆動回路114、絞り駆動回路115、及び、フォーカス駆動回路116を制御する。また、レンズMPU117は、マウントMを通じてカメラMPU125と接続され、コマンドやデータを通信する。例えば、レンズMPU117はフォーカスレンズ104の位置を検出し、カメラMPU125からの要求に対してレンズ位置情報を通知する。このレンズ位置情報は、フォーカスレンズ104の光軸方向OAにおける位置、光学系が移動していない状態の射出瞳の光軸方向OAにおける位置及び直径、及び、射出瞳の光束を制限するレンズ枠の光軸方向OAにおける位置及び直径などの情報を含む。またレンズMPU117は、カメラMPU125からの要求に応じて、ズーム駆動回路114、絞り駆動回路115、及び、フォーカス駆動回路116を制御する。レンズメモリ118は、自動焦点調節(AF制御)に必要な光学情報を記憶している。カメラMPU125は、例えば内蔵の不揮発性メモリやレンズメモリ118に記憶されているプログラムを実行することにより、レンズユニット100の動作を制御する。
カメラ本体120は、光学的ローパスフィルタ121、撮像素子122、及び、駆動/制御系を有する。光学的ローパスフィルタ121及び撮像素子122は、レンズユニット100を介して形成された被写体像(光学像)を光電変換し、画像データを出力する撮像部(撮像部)として機能する。本実施形態において、撮像素子122は、撮影光学系を介して形成された被写体像を光電変換し、画像データとして、撮像信号及び焦点検出信号をそれぞれ出力する。また本実施形態において、第1レンズ群101、絞り102、第2レンズ群103、フォーカスレンズ104、及び、光学的ローパスフィルタ121は、撮像光学系を構成する。
光学的ローパスフィルタ121は、撮影画像の偽色やモアレを軽減する。撮像素子122は、CMOSイメージセンサ及びその周辺回路で構成され、横方向m画素、縦方向n画素(m、nは2以上の整数)が配置されている。本実施形態の撮像素子122は焦点検出素子の役割も果たし、瞳分割機能を有し、画像データ(画像信号)を用いた位相差検出方式の焦点検出(位相差AF)が可能な瞳分割画素を有する。画像処理回路124は、撮像素子122から出力される画像データに基づいて、位相差AF用のデータと、表示、記録、及び、被写体検出用の画像データとを生成する。
駆動/制御系は、撮像素子駆動回路123、画像処理回路124、カメラMPU125、表示器126、操作スイッチ群(操作SW)127、メモリ128、位相差AF部129(撮像面位相差焦点検出部、制御部)、AE部130(制御部)、ホワイトバランス調整部131(制御部)、及び被写体検出部132(検出部)を有する。撮像素子駆動回路123は、撮像素子122の動作を制御するとともに、撮像素子122から出力された画像信号(画像データ)をA/D変換し、カメラMPU125に送信する。画像処理回路124は、撮像素子122から出力された画像信号に対して、γ変換、色補間処理、圧縮符号化処理など、デジタルカメラで行われる一般的な画像処理を行う。また画像処理回路124は、位相差AF用の信号、AE用の信号、ホワイトバランス調整用の信号、及び、被写体検出用の信号を生成する。本実施形態では、位相差AF用の信号、AE用の信号、ホワイトバランス調整用の信号、及び、被写体検出用の信号をそれぞれ生成しているが、例えばAE用の信号、ホワイトバランス調整用の信号、被写体検出用の信号を共通の信号として生成してもよい。また、共通とする信号の組み合わせはこの限りではない。
カメラMPU125(プロセッサ、制御装置)は、カメラ本体120に係る全ての演算及び制御を行う。即ちカメラMPU125は、撮像素子駆動回路123、画像処理回路124、表示器126、操作スイッチ群127、メモリ128、位相差AF部129、AE部130、ホワイトバランス調整部131、及び、被写体検出部132を制御する。カメラMPU125は、マウントMの信号線を介してレンズMPU117と接続され、レンズMPU117とコマンドやデータを通信する。カメラMPU125は、レンズMPU117に対して、レンズ位置の取得や所定の駆動量でのレンズ駆動要求を発行し、また、レンズMPU117からレンズユニット100に固有の光学情報の取得要求などを発行する。
カメラMPU125には、カメラ本体120の動作を制御するプログラムを格納したROM125a、変数を記憶するRAM125b(カメラメモリ)、及び、各種のパラメータを記憶するEEPROM125cが内蔵されている。またカメラMPU125は、ROM125aに格納されているプログラムに基づいて、焦点検出処理を実行する。焦点検出処理においては、撮像光学系の互いに異なる瞳領域(瞳部分領域)を通過した光束により形成される光学像を光電変換した対の像信号を用いて、公知の相関演算処理が実行される。
表示器126はLCDなどから構成され、撮像装置10の撮影モードに関する情報、撮影前のプレビュー画像と撮影後の確認用画像、焦点検出時の合焦状態表示画像などを表示する。操作スイッチ群127は、電源スイッチ、レリーズ(撮影トリガ)スイッチ、ズーム操作スイッチ、撮影モード選択スイッチなどで構成される。メモリ128(記録部)は、着脱可能なフラッシュメモリであり、撮影済み画像を記録する。
位相差AF部129は、撮像素子122及び画像処理回路124から得られる焦点検出用画像データの像信号(位相差AF用の信号)に基づいて、位相差検出方式による焦点検出処理を行う。より具体的には、画像処理回路124は、撮像光学系の一対の瞳領域を通過する光束で形成される一対の像データを焦点検出用データとして生成し、位相差AF部129は、一対の像データのずれ量に基づいて焦点ずれ量を検出する。このように、本実施形態の位相差AF部129は、専用のAFセンサを用いず、撮像素子122の出力に基づく位相差AF(撮像面位相差AF)を行う。本実施形態において、位相差AF部129は、取得部129a及び算出部129bを有する。これらの各部の動作については後述する。
なお、位相差AF部129の少なくとも一部(取得部129a又は算出部129bの一部)を、カメラMPU125に設けてもよい。位相差AF部129の動作の詳細については後述する。位相差AF部129は、焦点検出結果を用いてフォーカスレンズ104の位置を制御するフォーカス制御部として機能する。
AE部130は、撮像素子122及び画像処理回路124から得られるAE用の信号に基づいて測光を行うことで、撮影条件を適切にする露光調整処理を行う。具体的には、AE用の信号に基づいて測光を行い、設定中の絞り値、シャッタスピード、ISO感度での露光量を算出する。算出した露光量と、予め定められた適正露光量との差から、撮影時に設定する適切な絞り値、シャッタスピード、ISO感度を演算し撮影条件として設定することで露光調整処理を行う。AE部130は、測光結果を用いて撮影時の露光条件を算出し、絞り102の絞り値、シャッタスピード、ISO感度を制御する露光調整部として機能する。
ホワイトバランス調整部131は、撮像素子122及び画像処理回路124から得られるホワイトバランス調整用の信号に基づいてホワイトバランス調整処理を行う。具体的には、ホワイトバランス調整用の信号のホワイトバランスを算出し、予め定められた適切なホワイトバランスとの差に基づいて、色の重みを調整することで、ホワイトバランス調整処理を行う。
被写体検出部132は、画像処理回路124により生成される被写体検出用の信号に基づいて、被写体検出処理を行う。被写体検出処理により、被写体の種類や状態(検出属性)、被写体の位置と大きさ(検出領域)が検出される。なお、被写体検出部132の動作の詳細については後述する。
このように、本実施形態の撮像装置10は、位相差AF、測光(露光調整)、ホワイトバランス調整と、被写体検出を組み合わせて実行可能であり、被写体検出の結果に応じて、位相差AF、測光、ホワイトバランス調整を行う位置(像高範囲)を選択することができる。
(撮像素子122の構成)
図2は、撮像素子122の撮像画素(及び焦点検出画素)の配列の概略図である。図2は、本実施形態の2次元CMOSセンサー(撮像素子122)の画素(撮像画素)配列を4列×4行の範囲で、焦点検出画素配列を8列×4行の範囲で示したものである。第1の実施形態において、図2に示した2列×2行の画素群200は、R(赤)の分光感度を有する画素200Rが左上に、G(緑)の分光感度を有する画素200Gが右上と左下に、B(青)の分光感度を有する画素200Bが右下に配置されている。更に、各画素は2列×1行に配列された第1焦点検出画素201と第2焦点検出画素202により構成されている。
図2に示した4列×4行の画素(8列×4行の焦点検出画素)を面上に多数配置し、撮像画像(焦点検出信号)の取得を可能としている。本実施形態では、画素の周期Pが4μm、画素数Nが横5575列×縦3725行=約2075万画素、焦点検出画素の列方向周期PAFが2μm、焦点検出画素数NAFが横11150列×縦3725行=約4150万画素であるものとする。
図3(a)は、図2に示した撮像素子122の1つの画素200Gを、撮像素子122の受光面側(+z側)から見た平面図であり、図3(b)は、図3(a)のa−a断面を−y側から見た断面図である。
図3に示すように、本実施形態の画素200Gでは、各画素の受光側に入射光を集光するためのマイクロレンズ305が形成され、x方向にNH分割(2分割)、y方向にNV分割(1分割)された光電変換部301と光電変換部302が形成される。光電変換部301と光電変換部302が、それぞれ、第1焦点検出画素201と第2焦点検出画素202に対応する。
光電変換部301と光電変換部302は、p型層とn型層の間にイントリンシック層を挟んだpin構造フォトダイオードであってもよいし、必要に応じて、イントリンシック層を省略し、pn接合フォトダイオードであってもよい。各画素には、マイクロレンズ305と、光電変換部301及び光電変換部302との間に、カラーフィルター306が形成される。また、必要に応じて、副画素毎にカラーフィルター306の分光透過率を変えてもよいし、カラーフィルター306を省略してもよい。
図3に示した画素200Gに入射した光は、マイクロレンズ305により集光され、カラーフィルター306で分光されたのち、光電変換部301と光電変換部302で受光される。光電変換部301と光電変換部302では、受光量に応じて電子とホールが対生成され、空乏層で分離された後、負電荷の電子はn型層(不図示)に蓄積される。一方、ホールは定電圧源(不図示)に接続されたp型層を通じて撮像素子122の外部へ排出される。光電変換部301と光電変換部302のn型層(不図示)に蓄積された電子は、転送ゲートを介して、静電容量部(FD)に転送され、電圧信号に変換される。
図4は、図3に示した本実施形態の画素構造と瞳分割との対応関係を示した概略説明図である。図4には、図3(a)に示した本実施形態の画素構造のa−a断面を+y側から見た断面図と撮像素子122の瞳面(瞳距離Ds)とが示されている。図4では、撮像素子122の瞳面の座標軸と対応を取るために、断面図のx軸とy軸を図3に対して反転させている。
図4において、第1焦点検出画素201の第1瞳部分領域501は、重心が−x方向に偏心している光電変換部301の受光面と、マイクロレンズによって、概ね、共役関係になっており、第1焦点検出画素201で受光可能な瞳領域を表している。第1焦点検出画素201の第1瞳部分領域501は、瞳面上で+X側に重心が偏心している。図4で、第2焦点検出画素202の第2瞳部分領域502は、重心が+x方向に偏心している光電変換部302の受光面と、マイクロレンズによって、概ね、共役関係になっており、第2焦点検出画素202で受光可能な瞳領域を表している。第2焦点検出画素202の第2瞳部分領域502は、瞳面上で−X側に重心が偏心している。また、図4で、瞳領域500は、光電変換部301と光電変換部302(第1焦点検出画素201と第2焦点検出画素202)を全て合わせた際の画素200G全体で受光可能な瞳領域である。
撮像面位相差AFでは、撮像素子のマイクロレンズを利用して瞳分割するため回折の影響を受ける。図4で、撮像素子の瞳面までの瞳距離が数10mmであるのに対し、マイクロレンズの直径は数μmである。そのため、マイクロレンズの絞り値が数万となり、数10mmレベルの回折ボケが生じる。よって、光電変換部の受光面の像は、明瞭な瞳領域や瞳部分領域とはならずに、受光感度特性(受光率の入射角分布)となる。
図5は、撮像素子122と瞳分割との対応関係を示した概略図である。撮像面600に撮像素子122が配置される。第1瞳部分領域501と第2瞳部分領域502の異なる瞳部分領域を通過した光束は、撮像素子122の各画素に、それぞれ、異なる角度で入射し、2×1分割された第1焦点検出画素201と第2焦点検出画素202で受光される。本実施形態は、瞳領域が水平方向に2つに瞳分割されている例である。必要に応じて、垂直方向に瞳分割を行ってもよい。
本実施形態の撮像素子122では、第1焦点検出画素201と、第2焦点検出画素202とを有する撮像画素が複数配列されている。第1焦点検出画素201は、撮影光学系の第1瞳部分領域501を通過する光束を受光する。また、第2焦点検出画素202は、第1瞳部分領域501と異なる撮影光学系の第2瞳部分領域502を通過する光束を受光する。また、撮像画素は、撮影光学系の第1瞳部分領域501と第2瞳部分領域502を合わせた瞳領域を通過する光束を受光する。
本実施形態の撮像素子122では、それぞれの撮像画素が第1焦点検出画素201と第2焦点検出画素202から構成されている。必要に応じて、撮像画素と第1焦点検出画素201、第2焦点検出画素202を個別の画素構成とし、撮像画素配列の一部に、第1焦点検出画素201と第2焦点検出画素202を部分的に配置する構成としてもよい。
本実施形態では、撮像素子122の各画素の第1焦点検出画素201の受光信号を集めて第1焦点信号を生成し、各画素の第2焦点検出画素202の受光信号を集めて第2焦点信号を生成して焦点検出を行う。また、撮像素子122の画素毎に、第1焦点検出画素201と第2焦点検出画素202の信号を加算することで、有効画素数Nの解像度の撮像信号(撮像画像)を生成する。各信号の生成方法は、前述の方法に限らず、例えば、第2焦点検出信号は、撮像信号と第1焦点信号の差分から生成してもよい。
(デフォーカス量と像ずれ量の関係)
以下、本実施形態の撮像素子122により取得される第1焦点検出信号と第2焦点検出信号に基づくデフォーカス量と像ずれ量の関係について説明する。
図6は、第1焦点検出信号と第2焦点検出信号に基づくデフォーカス量と第1焦点検出信号と第2焦点検出信号との間の像ずれ量との概略関係図である。撮像面600に撮像素子122が配置される。図4及び図5と同様に、撮像素子122の瞳面が、第1瞳部分領域501と第2瞳部分領域502とに2分割される。
デフォーカス量dは、被写体の結像位置から撮像面までの距離を大きさ|d|とし、被写体の結像位置が撮像面より被写体側にある前ピン状態を負符号(d<0)として定義される。また、被写体の結像位置が撮像面より被写体の反対側にある後ピン状態を正符号(d>0)として定義される。被写体の結像位置が撮像面(合焦位置)にある合焦状態において、d=0である。図6において、被写体601は合焦状態(d=0)の例を示しており、被写体602は前ピン状態(d<0)の例を示している。前ピン状態(d<0)と後ピン状態(d>0)を合わせて、デフォーカス状態(|d|>0)とする。
前ピン状態(d<0)では、被写体602からの光束のうち、第1瞳部分領域501(第2瞳部分領域502)を通過した光束は、一度、集光した後、光束の重心位置G1(G2)を中心として幅Γ1(Γ2)に広がり、撮像面600でボケた像となる。ボケた像は、撮像素子122に配列された各画素を構成する第1焦点検出画素201(第2焦点検出画素202)により受光され、第1焦点検出信号(第2焦点検出信号)が生成される。よって、第1焦点検出信号(第2焦点検出信号)は、撮像面600上の重心位置G1(G2)に、被写体602が幅Γ1(Γ2)にボケた被写体像として記録される。被写体像のボケ幅Γ1(Γ2)は、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。同様に、第1焦点検出信号と第2焦点検出信号との間の被写体像の像ずれ量p(=光束の重心位置の差G1−G2)の大きさ|p|も、デフォーカス量dの大きさ|d|が増加するのに伴い、概ね、比例して増加していく。後ピン状態(d>0)でも、第1焦点検出信号と第2焦点検出信号との間の被写体像の像ずれ方向が前ピン状態と反対となるが、同様である。
第1焦点検出信号と第2焦点検出信号、又は、第1焦点検出信号と第2焦点検出信号とを加算した撮像信号のデフォーカス量の大きさが増加するのに伴い、第1焦点検出信号と第2焦点検出信号との間の像ずれ量の大きさが増加する。従って、本実施形態で位相差AF部129は、撮像信号のデフォーカス量の大きさが増加するのに伴って第1焦点検出信号と第2焦点検出信号との間の像ずれ量の大きさが増加する関係性を利用し、基線長に基づいて算出された変換係数により、像ずれ量を検出デフォーカス量に変換する。
(撮影処理の流れ)
図7は、撮影処理のフローチャートである。この撮影処理は、カメラMPU125によって実行される。また、必要に応じてレンズMPU117が処理の一部を分担する。
S701で、カメラMPU125は、撮像素子122により生成された撮像データ(例えば、ライブビュー撮影により得られたデータ)に基づいて、被写体検出部132を制御し被写体検出を実行する。以下、本実施形態の被写体検出部132により検出される被写体の位置及び大きさ(被写体領域)について説明する。
図8は、被写体(検出対象)と検出領域(被写体領域)との概略関係図である。図8において被写体領域801〜806は、被写体検出部132が検出した被写体領域である。図8から理解できるように、被写体領域は、検出対象の被写体(図8の例では犬)を部分的に含んだ領域である。換言すると、被写体領域は、検出対象の被写体を含まない領域(例えば、ポールや背景などの領域)も含んでいる。即ち、本実施形態において「被写体検出」又は「被写体を検出する」のように言う場合、厳密に特定の被写体のみを含んだ領域が検出される訳ではなく、検出対象の被写体を部分的に含んだ領域が検出される。
各被写体領域の位置及び大きさは、表1のように表される。被写体検出部132は、画像処理回路124により生成される被写体検出用の信号に基づいて、撮影範囲において被写体領域の検出を行う。被写体領域には、検出対象の被写体と検出対象外の被写体の両方が含まれる。
Figure 2021179527
図8において、符号810、820、830、840、850、及び860は、背景(検出対象外の被写体)を示す。符号811、821、831、841、851、及び861は、犬(検出対象の被写体)を示す。符号812〜817は、ポール(検出対象外の被写体)を示し、符号822、823、及び852は、三角コーン(検出対象外の被写体)を示し、符号832、833、及び853は、犬が通り抜ける輪(検出対象外の被写体)を示す。符号842は、犬(検出対象の被写体)よりも大きい檻(検出対象外の被写体)を示し、符号862は、犬(検出対象の被写体)と同程度の大きさの檻(検出対象外の被写体)を示す。
図8の例では、1つの被写体検出用の信号から検出対象の被写体に関する複数の被写体領域が検出されている。しかしながら、被写体検出部132は、主被写体である可能性が最も高い被写体領域のみを検出してもよい。また、ここでは、犬を被写体として検出するものとしたが、猫や鳥などの他の動物や、車や飛行機などの乗り物を検出してもよい。また、ここでは、犬の全身を被写体として検出するものとしたが、顔や瞳などの特定部位を検出してもよい。また、乗り物の運転者や運転者の頭部などの特定部分を検出してもよい。
図7に戻り、S702で、カメラMPU125は、S701で検出された被写体の中から主被写体を選択する。主被写体は、予め定められた被写体領域(位置、大きさ)の優先順位に応じて選択(決定)される。例えば、被写体領域の位置が中央像高ほど優先順位を高く設定し、位置が同じ場合(中央像高からの距離が同じ場合)には、被写体領域の大きさが大きいものほど優先順位を高く設定する。
S703で、カメラMPU125は、位相差AF部129を制御し焦点調節(フォーカス制御)を実行する。焦点調節の詳細については後述する。
S704で、カメラMPU125は、合焦判定を実施する。合焦と判定された場合、処理はS705へ進み、合焦でないと判定された場合、処理はS701へ戻る。
S705で、カメラMPU125は、ホワイトバランス調整部131を制御しホワイトバランス調整(ホワイトバランス制御)を実行する。ホワイトバランス調整の詳細については後述する。
S706で、カメラMPU125は、AE部130を制御し露光調節(露光制御)を実行する。露光調節の詳細については後述する。
S707で、カメラMPU125は、本撮影(記録用画像の撮影)を実行する。
(S703の焦点調節処理の詳細)
図9は、図7のS703における焦点調節処理の詳細を示すフローチャートである。なお、図9の処理は、カメラMPU125及び位相差AF部129によって実行される。
S901で、位相差AF部129は、S701〜S702で検出した主被写体の被写体検出結果(被写体領域)を取得する。
S902で、位相差AF部129は、S901で取得した被写体領域の位置及び大きさを基準に、測距領域(デフォーカス量算出領域)を設定する。
図10は、被写体領域801〜806それぞれに関して、被写体領域の位置及び大きさを基準に設定された測距領域の概略説明図である。図10(a)は、被写体領域801、図10(b)は、被写体領域802、図10(c)は、被写体領域803、図10(d)は、被写体領域804、図10(e)は、被写体領域805、図10(f)は、被写体領域806にそれぞれ対応する。符号1010、1020、1030、1040、1050、及び1060は測距領域を示す。
図10の例では、位相差AF部129は、被写体領域801〜806それぞれに関して、被写体領域の位置を基準に測距領域の中心を設定し、被写体領域の縦方向及び横方向それぞれの大きさを3倍した大きさで測距領域の範囲を設定している。本実施形態では、被写体領域を3倍した大きさで測距領域の範囲を設定したが、その限りではなく、他の倍率で被写体領域の大きさに応じた測距領域の範囲を設定してもよい。図10の例では測距領域は被写体領域より大きく被写体領域の全体を包含しているが、測距領域は被写体領域の一部のみを含んでもよいし、また、測距領域は被写体領域より小さくてもよい。符号1001_n〜1006_nは、各測距領域の測距点の1つである。
このように、被写体領域の位置を基準に測距領域を設定することで、同時に演算可能な測距点数が限られていた場合においても、主被写体近傍の測距結果を高密度に得ることができる。そして、得られた測距結果の中から最適な測距結果を選択することで、主被写体へ適切に合焦させることが可能となる。また、被写体領域の大きさに対する倍率で測距領域範囲を設定することで、被写体度合いを判定する際に、被写体領域に対して常に同じ倍率の測距領域範囲の結果を用いることができ、被写体度合いの判定精度が向上する。
図9に戻り、S903で、位相差AF部129は、S902で設定した測距領域内の各測距点のデフォーカス量を算出する。
S904で、カメラMPU125は、S903で算出したデフォーカス量をクラス分類する。
図11は、図10の測距領域内のデフォーカス量をクラス分類した状態を示す概略説明図である。図11において、横軸はデフォーカス量を示し、縦軸はデフォーカス量の頻度を示す。図11(a)は、測距領域1010、図11(b)は、測距領域1020、図11(c)は、測距領域1030、図11(d)は、測距領域1040、図11(e)は、測距領域1050、図11(f)は、測距領域1060にそれぞれ対応する。
符号1110、1120、1130、1140、1150、1160は、背景810、820、830、840、850、860のデフォーカス量のクラスを示す。符号1111、1121、1131、1141、1151、1161は、被写体811、821、831、841、851、861のデフォーカス量のクラスを示す。符号1112〜1117は、ポール812〜817のデフォーカス量のクラスを示す。符号1122、1123、1152は、三角コーン822、823、852のデフォーカス量のクラスを示す。符号1132、1133、1153は、犬が通り抜ける輪832、833、853のデフォーカス量のクラスを示す。符号1142は、犬(検出対象の被写体)よりも大きい檻842のデフォーカス量のクラスを示す。符号1162は、犬(検出対象の被写体)と同程度の大きさの檻862のデフォーカス量のクラスを示す。
このように、S904では、デフォーカス量をクラス分類する(複数の測距点に対応する複数のデフォーカス量の範囲を複数の部分範囲に分類する)ことで、被写体領域内を光軸方向(デフォーカス方向)に区分する処理が行われる。
図9に戻り、S905で、カメラMPU125は、S902で設定した測距領域において、S904で得られた各クラスに対応するクラス領域を検出する。クラス領域は、対応するクラスに属するデフォーカス量を持つ画素の集合である。クラス領域内(部分領域内)の画素の位置は連続している必要はなく、離散的であってもよい。
図12は、S905において検出されるクラス領域の概略説明図である。図12(a)は、測距領域1010、図12(b)は、測距領域1020、図12(c)は、測距領域1030、図12(d)は、測距領域1040、図12(e)は、測距領域1050、図12(f)は、測距領域1060にそれぞれ対応する。灰色部分が各クラスに対応するクラス領域を示している。このように、測距領域は、複数のクラス領域(部分領域)に分類され、複数のクラス領域(部分領域)の各々は異なるデフォーカス量のクラス(複数の測距点に対応する複数のデフォーカス量の範囲における異なる部分範囲)に対応する。
符号1011、1021、1031、1041、1051、1061は、被写体度合いを判定する際に算出する評価値を規格化する範囲を示しており、被写体領域の中心位置を基準として被写体領域の縦方向及び横方向それぞれの大きさのβ倍の範囲で設定される。図12の例では、β=2である。
符号1210、1220、1230、1240、1250、1260は、背景810、820、830、840、850、860に対応するクラス1110、1120、1130、1140、1150、1160に対応するクラス領域を示す。符号1211、1221、1231、1241、1251、1261は、被写体811、821、831、841、851、861に対応するクラス1111、1121、1131、1141、1151、1161に対応するクラス領域を示す。符号1212〜1217は、ポール812〜817に対応するクラス1112〜1117に対応するクラス領域を示す。符号1222、1223、1252は、三角コーン822、823、852に対応するクラス1122、1123、1152に対応するクラス領域を示す。符号1232、1233、1253は、犬が通り抜ける輪832、833、853に対応するクラス1132、1133、1153に対応するクラス領域を示す。符号1242は、犬(検出対象の被写体)よりも大きい檻842に対応するクラス1142に対応するクラス領域を示す。符号1262は、犬(検出対象の被写体)と同程度の大きさの檻862に対応するクラス1162に対応するクラス領域を示す。
このように、S905でクラス領域を検出する(測距領域を複数のクラス領域に分類する)ことで、デフォーカス量の各クラスが測距領域内でどのように分布しているかを把握することができる。
図9に戻り、S906で、カメラMPU125は、S901で取得した被写体領域とS905で検出した各クラス領域とに基づいて、各クラス領域について検出対象の被写体が存在する可能性を示す被写体度合いを判定する。各クラス領域の被写体度合いの判定は、例えば、各クラス領域と被写体領域との間の幾何学的な関係(以下の例では、位置関係と大きさの関係)に基づいて行われる。或いは、各クラス領域の被写体度合いの判定は、幾何学的な関係に加えて、各クラス領域の形状に基づいて行われてもよい。
図15を参照して、被写体度合いの判定処理について説明する。なお、図15の処理は、カメラMPU125によって実行される。
S1501で、カメラMPU125は、各クラス領域に対して、位置、大きさ、形状の各項目の評価値を算出する。各項目の評価値(位置:E1、大きさ:E2、形状:E3)は、以下の式で算出される。以下の式において、クラス領域の重心位置を(x,y)、被写体領域の大きさで規格化したクラス領域の大きさ(最大x座標、最大y座標)を(w,h)、クラス領域の面積をSで表す。なお、クラス領域の重心位置を(x,y)は、被写体領域の中心位置に対する相対位置であり、被写体領域の右上隅(1,1)、左下隅が(−1,−1)となるように規格化されている。
Figure 2021179527
Figure 2021179527
Figure 2021179527
位置の評価値E1は、クラス領域の重心位置(x,y)が、被写体領域の中心位置に近いほど1(100%)に近づき、離れるほど0(0%)に近づく。被写体領域の中心位置とクラス領域の重心位置(x,y)との間の距離が評価値を規格化するβを超えると、評価値E1は0(0%)となる。図12(a)の例で言えば、クラス領域の重心位置(x,y)が、規格化範囲1011の内接円の中に入らない場合に、評価値E1は0(0%)となる。
大きさの評価値E2は、クラス領域の大きさ(w,h)が、被写体領域の大きさに近いほど1(100%)に近づき、離れるほど0(0%)に近づき、評価値を規格化するβを超えると0(0%)となる。また、評価値E2は、(w,h)のうち、被写体領域の大きさとの差が大きい方を用いて算出される。
形状の評価値E3は、クラス領域を外接するように囲む矩形領域内におけるクラス領域の密度を表しており、密であるほど1(100%)に近づき、疎であるほど0(0%)に近づく。
次に、S1502で、カメラMPU125は、S1501で算出した各クラス領域の評価値E1〜E3を参照し、評価値=0%の項目を持つクラス領域について、被写体度合いを0%と判定する。従って、例えば(E1=93%,E2=0%,E3=88%)のように、1つの項目でも評価値が0%となっている場合には、他の項目の評価値に関わらず、検出対象の被写体である可能性が実質的にないと判定される。
S1503で、カメラMPU125は、各項目の評価値について、評価値が50%以上のクラス領域の数(被写体度合い=0%と判定済みのクラス領域を除く)を判定する。
S1504で、カメラMPU125は、評価値が50%以上のクラス領域の数が1である項目が1つだけ存在するか否かを判定する。そのような項目が1つだけ存在する場合、処理はS1505に進み、そうでない場合、処理はS1506に進む。S1504の判定における評価値の閾値は50%に限定されず、他の値(例えば、60%)を閾値としてもよい。
S1505で、カメラMPU125は、評価値が50%以上のクラス領域の数が1である項目の評価値に基づいて、各クラス領域(被写体度合い=0%と判定済みのクラス領域を除く)の被写体度合いを判定する。例えば、カメラMPU125は、そのような項目の評価値をそのまま被写体度合いとして用いる。評価値が50%以上のクラス領域の数が1である項目が1つだけ存在する場合、その項目の評価値が50%以上であるクラス領域が検出対象の被写体である可能性が高いと考えられるため、その項目以外の項目は使用せずに被写体度合いの判定が行われる。
S1506では、カメラMPU125は、S1501で算出した全項目の評価値に基づいて、各クラス領域(被写体度合い=0%と判定済みのクラス領域を除く)の被写体度合いを判定する。例えば、カメラMPU125は、全項目の評価値の平均値を被写体度合いとして用いる。或いは、カメラMPU125は、全項目の評価値を重みづけ平均することにより被写体度合いを判定してもよい。重みづけは、予め定められた各項目の重要度に基づいて設定してもよいし、他の項目と評価値の差が大きい項目の重みを大きくしたり、評価値が大きい項目の重みを大きく設定したりするようにしてもよい。
ここで、図12及び図15を参照して、被写体領域801〜806それぞれに対応するクラス領域について、被写体度合いの判定処理の具体例を説明する。
まず、図12(a)を参照して、被写体領域801のクラス領域に対する被写体度合いの判定処理について説明する。表2は、被写体領域801の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表2において、クラス領域1210の大きさの評価値が0%、クラス領域1217の位置の評価値が0%である。そのため、S1502で、クラス領域1210及びクラス領域1217の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1211〜1216に対して行われる。位置及び形状の評価値については、50%以上の評価値を持つクラス領域の数が2以上である。大きさの評価値については、50%以上の評価値を持つクラス領域の数が1である(クラス領域1211)。そのため、50%以上の評価値を持つクラス領域の数が1である項目が1つだけ存在する(大きさの評価値)。従って、クラス領域1211〜1216については、S1505において大きさの評価値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1211の被写体度合いを正しく高いと判定できる。
次に、図12(b)を参照して、被写体領域802のクラス領域に対する被写体度合いの判定処理について説明する。表3は、被写体領域802の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表3において、クラス領域1220の大きさの評価値が0%である。そのため、S1502で、クラス領域1220の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1221〜1223に対して行われる。大きさの評価値については、50%以上の評価値を持つクラス領域の数が2以上である。形状の評価値については、50%以上の評価値を持つクラス領域が存在しない。位置の評価値については、50%以上の評価値を持つクラス領域の数が1である(クラス領域1221)。そのため、50%以上の評価値を持つクラス領域の数が1である項目が1つだけ存在する(位置の評価値)。従って、クラス領域1221〜1223については、S1505において位置の評価値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1221の被写体度合いを正しく高いと判定できる。
次に、図12(c)を参照して、被写体領域803のクラス領域に対する被写体度合いの判定処理について説明する。表4は、被写体領域803の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表4において、クラス領域1230の大きさの評価値が0%である。そのため、S1502で、クラス領域1230の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1231〜1233に対して行われる。位置及び大きさの評価値については、50%以上の評価値を持つクラス領域の数が2以上である。形状の評価値については、50%以上の評価値を持つクラス領域数が1である(クラス領域1231)。そのため、50%以上の評価値を持つクラス領域の数が1である項目が1つだけ存在する(形状の評価値)。従って、クラス領域1231〜1233については、S1505において形状の評価値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1231の被写体度合いを正しく高いと判定できる。
次に、図12(d)を参照して、被写体領域804のクラス領域に対する被写体度合いの判定処理について説明する。表5は、被写体領域804の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表5において、クラス領域1240及びクラス領域1242の大きさの評価値が0%である。そのため、S1502で、クラス領域1240及びクラス領域1242の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1241に対して行われる。形状の評価値については、50%以上の評価値を持つクラス領域が存在しない。位置及び大きさの評価値については、50%以上の評価値を持つクラス領域の数が1である(クラス領域1241)。そのため、50%以上の評価値を持つクラス領域の数が1である項目が2つ存在する(位置及び大きさの評価値)。従って、クラス領域1241については、S1505において全項目の評価値の平均値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1241の被写体度合いを正しく高いと判定できる。
次に、図12(e)を参照して、被写体領域805のクラス領域に対する被写体度合いの判定処理について説明する。表6は、被写体領域805の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表6において、クラス領域1250の大きさの評価値が0%である。そのため、S1502で、クラス領域1250の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1251〜1253に対して行われる。位置及び大きさの評価値については、50%以上の評価値を持つクラス領域の数が2以上である。形状の評価値については、50%以上の評価値を持つクラス領域が存在しない。そのため、50%以上の評価値を持つクラス領域の数が1である項目が存在しない。従って、クラス領域1251〜1253については、S1505において全項目の評価値の平均値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1251の被写体度合いを正しく高いと判定できる。
次に、図12(f)を参照して、被写体領域806のクラス領域に対する被写体度合いの判定処理について説明する。表7は、被写体領域806の位置及び大きさにより規格化された各クラス領域の位置及び大きさと、S1501において各クラス領域に対して算出された各項目の評価値と、各クラス領域の被写体度合いとを示す。
Figure 2021179527
表7において、クラス領域1260の大きさの評価値が0%である。そのため、S1502で、クラス領域1260の被写体度合いが0%と判定される。
S1503以降の処理は、被写体度合いが未判定であるクラス領域1261〜1262に対して行われる。全項目の評価値について、50%以上の評価値を持つクラス領域の数が2以上である。そのため、50%以上の評価値を持つクラス領域の数が1である項目が存在しない。従って、クラス領域1261〜1262については、S1505において全項目の評価値の平均値が被写体度合いとして判定される。
このようにして、検出対象の被写体に対応するクラス領域1261の被写体度合いを正しく高いと判定できる。
以上のように被写体度合いを判定することにより、被写体領域内に検出対象外の被写体が存在する場合にも、検出対象の被写体に対応するクラス領域を高精度で識別することが可能になる。なお、上の説明では、クラス領域の被写体度合いを判定したが、クラス領域が属するクラスの被写体度合いを判定してもよい。
図9に戻り、S907で、位相差AF部129は、S906で判定した被写体度合いに基づいて測距点を選択する。位相差AF部129は、被写体度合いが最高のクラス領域内に、測距結果の信頼性(デフォーカス量の信頼性)が所定閾値より高い測距点が存在すれば、その中で被写体領域中心に近い測距点を選択する。換言すると、位相差AF部129は、最高の被写体度合いを持つクラス領域内の複数の測距点に対応する複数のデフォーカス量(第1の複数のデフォーカス量)の中から、信頼度閾値以上の信頼度を持つ第1のデフォーカス量(例えば被写体領域中心に近い測距点のデフォーカス量)を選択する。
被写体度合いが最高のクラス領域内に、信頼性が所定閾値より高い測距点が存在しない場合、位相差AF部129は、被写体度合いが2番目に高いクラス領域において選択を行う。即ち、位相差AF部129は、被写体度合いが2番目に高いクラス領域内に、信頼性が所定閾値より高い測距点が存在すれば、その中で被写体領域中心に近い測距点を選択する。換言すると、位相差AF部129は、最高の被写体度合いの次に高い被写体度合いを持つクラス領域内の複数の測距点に対応する複数のデフォーカス量(第2の複数のデフォーカス量)の中から、信頼度閾値以上の信頼度を持つ第2のデフォーカス量(例えば被写体領域中心に近い測距点のデフォーカス量)を選択する。
被写体度合いが2番目に高いクラス領域内に、信頼性が所定閾値より高い測距点が存在しない場合、以下同様に、3番目以降に高い被写体度合いを持つクラス領域において測距点(デフォーカス量)の選択が行われる。
被写体度合いが等しいクラス領域が複数存在する場合には、位相差AF部129は、最至近でないクラス領域から測距点を選択する。被写体度合いが等しくなるような状況では、検出対象の被写体の前(至近側)に障害物等がある可能性が高く、最至近のクラス領域は障害物に対応する可能性が高いと考えられるため、測距点選択の優先度を下げる。また、最至近でないクラス領域で、被写体度合いが等しいクラス領域が複数存在する場合は、位相差AF部129は、クラスの代表デフォーカス量が至近側に近いクラス領域から順に、選択可能な測距点(信頼性が所定閾値より高い測距点)を探す。
このように、被写体度合いの高い領域の中から優先的に測距点を選択することで、検出対象の被写体である確率の高い領域における測距点を選択することができる。従って、被写体領域内に検出対象外の被写体が含まれる場合においても、検出対象の被写体に対して適切なフォーカス制御を行うことが可能となる。
S908で、位相差AF部129は、S908で選択した測距点において検出されたデフォーカス量に基づいて、フォーカスレンズ駆動量を算出する。なお、S907及びS908の説明において、被写体度合いの高いクラス領域において、信頼性が所定閾値より高い測距点の中で被写体領域中心に近い測距点を選択し、選択した測距点のデフォーカス量を使用するものとした。しかしながら、本実施形態はこの構成に限定されず、被写体度合いの高いクラス領域の属するクラスの代表デフォーカス量を使用してもよい。代表デフォーカス量は、クラスの平均デフォーカス量や中心デフォーカス量などである。
S909で、位相差AF部129は、S908で算出したフォーカスレンズ駆動量に基づいて、フォーカスレンズ104を駆動するための制御を行う。
(S705のホワイトバランス調整処理の詳細)
図13は、図7のS705におけるホワイトバランス調整処理の詳細を示すフローチャートである。なお、図13の処理は、カメラMPU125により制御されるホワイトバランス調整部131によって実行される。
S1301で、ホワイトバランス調整部131は、S701〜S702で検出した主被写体の被写体検出結果(被写体領域)を取得する。
S1302で、ホワイトバランス調整部131は、S906で判定した、各クラス領域の被写体度合いを取得する。
S1303で、ホワイトバランス調整部131は、S1302で取得した各クラス領域の被写体度合いに基づいてホワイトバランスを算出する。ホワイトバランス調整部131は、クラス領域毎にホワイトバランスを算出し、S1302で取得した被写体度合いで各クラス領域のホワイトバランスを重みづけすることにより、現在のホワイトバランスを算出する。ホワイトバランス算出に用いる重みは、被写体度合いの値をそのまま用いてもよい。従って、ここでのホワイトバランス調整(ホワイトバランス制御)は、複数のクラス領域の各々を対象のクラス領域として、対象のクラス領域の画素値を対象のクラス領域の被写体度合いで重みづけする演算を含む。このような重みづけの演算による撮影制御は、前述した焦点調節(フォーカス制御)及び後述する露光調節(露光制御)に対しても同様に適用可能である。
なお、ホワイトバランスの算出方法は特に限定されず、例えば、ホワイトバランス調整部131は、被写体度合いが最高のクラス領域のホワイトバランスを現在のホワイトバランスとして算出してもよい。換言すると、ホワイトバランス調整部131は、複数のクラス領域のうちの最高の被写体度合いを持つクラス領域のみに基づいてホワイトバランス制御を行ってもよい。このような最高の被写体度合いを持つクラス領域のみに基づく撮影制御は、前述した焦点調節(フォーカス制御)及び後述する露光調節(露光制御)に対しても同様に適用可能である。
また、被写体度合いが等しいクラス領域が複数存在する場合には、その中に最至近のクラス領域があれば、最至近のクラス領域の重みをその中で一番小さく設定し、残りのクラス領域については、至近側に近いほど重みを大きく設定するようにしてもよい。
S1304で、ホワイトバランス調整部131は、予め定められた適切なホワイトバランスを取得する。
S1305で、ホワイトバランス調整部131は、S1303で算出した現在のホワイトバランスと、S1304で取得した適切なホワイトバランスとの差を演算し、撮像データ(撮像信号)に対するホワイトバランスを調整する。
(S706の露光調節処理の詳細)
図14は、図7のS706における露光調節処理の詳細を示すフローチャートである。なお、図14の処理は、カメラMPU125により制御されるAE部130によって実行される。
S1401で、AE部130は、S701〜S702で検出した主被写体の被写体検出結果(被写体領域)を取得する。
S1402で、AE部130は、S906で判定した、各クラス領域の被写体度合いを取得する。
S1403で、AE部130は、S1402で取得した各クラス領域の被写体度合いに基づいて各クラス領域の測光結果を重みづけすることにより露光量を算出する。露光量算出に用いる重みは、被写体度合いの最高のクラス領域を1、他のクラス領域を0としてもよい。また、被写体度合いが等しいクラス領域が複数存在する場合には、その中に最至近のクラス領域があれば、最至近のクラス領域の重みをその中で一番小さく設定し、残りのクラス領域については、至近側に近いほど重みを大きく設定するようにしてもよい。また、ホワイトバランス算出(S1303)と露光量算出(S1403)とで同じ重みを用いてもよいし、異なる重みを用いてもよい。
S1404で、AE部130は、予め定められた適切な露光量を取得する。
S1405で、AE部130は、S1403で算出した露光量と、S1404で取得した露光量との差を演算し、撮影時の露光条件を調整する。
以上説明したように、第1の実施形態によれば、撮像装置10は、撮影範囲において検出対象の被写体を部分的に含んだ被写体領域を検出し、被写体領域を含む測距領域内の複数の測距点に対応する複数のデフォーカス量を取得する。そして、撮像装置10は、複数のデフォーカス量に基づいて測距領域を複数のクラス領域に分類する。複数のクラス領域の各々は異なるデフォーカス量のクラス(複数のデフォーカス量の範囲における異なる部分範囲)に対応する。撮像装置10は、複数のクラス領域の各々と被写体領域との間の幾何学的な関係(例えば、位置関係と大きさの関係とのうちの少なくとも一方)に基づいて、複数のクラス領域の各々について被写体度合いを判定する。そして、撮像装置10は、第1の被写体度合いを持つクラス領域の寄与が前記第1の被写体度合いより小さい第2の被写体度合いを持つクラス領域の寄与よりも大きくなるように、複数のクラス領域に基づいて撮影制御を行う。そのような撮影制御の具体例として、図9に示す焦点調節(フォーカス制御)、図12に示すホワイトバランス調整(ホワイトバランス制御)、図14に示す露光調節(露光制御)などがあるが、本実施形態の撮影制御はこれらの具体例に限定されない。
本実施形態は、上述の構成により、検出対象の被写体を部分的に含んだ被写体検出領域に基づく撮影制御の精度を向上させることが可能である。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。
10…撮像装置、100…レンズユニット、120…カメラ本体、122…撮像素子、125…カメラMPU、129…位相差AF部、130…AE部、131…ホワイトバランス調整部、132…被写体検出部

Claims (13)

  1. 撮影範囲において検出対象の被写体を部分的に含んだ被写体領域を検出する検出手段と、
    前記被写体領域を含む測距領域内の複数の測距点に対応する複数のデフォーカス量を取得する取得手段と、
    前記複数のデフォーカス量に基づいて前記測距領域を複数の部分領域に分類する分類手段であって、前記複数の部分領域の各々は前記複数のデフォーカス量の範囲における異なる部分範囲に対応する、分類手段と、
    前記複数の部分領域の各々と前記被写体領域との間の幾何学的な関係に基づいて、前記複数の部分領域の各々について前記検出対象の被写体が存在する可能性を示す被写体度合いを判定する判定手段と、
    前記複数の部分領域に基づいて撮影制御を行う制御手段であって、第1の被写体度合いを持つ部分領域の寄与が前記第1の被写体度合いより小さい第2の被写体度合いを持つ部分領域の寄与よりも大きくなるように前記撮影制御を行う、制御手段と、
    を備えることを特徴とする撮影制御装置。
  2. 前記複数の部分領域の各々と前記被写体領域との間の幾何学的な関係は、位置関係と大きさの関係とのうちの少なくとも一方を含む
    ことを特徴とする請求項1に記載の撮影制御装置。
  3. 前記判定手段は、前記複数の部分領域の各々と前記被写体領域との間の幾何学的な関係に加えて、前記複数の部分領域の各々の形状に基づいて、前記複数の部分領域の各々の被写体度合いを判定する
    ことを特徴とする請求項1又は2に記載の撮影制御装置。
  4. 前記判定手段は、
    前記複数の部分領域の各々と前記被写体領域との間の位置関係に基づいて、前記複数の部分領域の各々の第1の評価値を算出し、
    前記複数の部分領域の各々と前記被写体領域との間の大きさの関係に基づいて、前記複数の部分領域の各々の第2の評価値を算出し、
    前記複数の部分領域の各々の形状に基づいて、前記複数の部分領域の各々の第3の評価値を算出し、
    前記複数の部分領域の各々の前記第1の評価値と前記第2の評価値と前記第3の評価値とに基づいて、前記複数の部分領域の各々の被写体度合いを判定する
    ことを特徴とする請求項1に記載の撮影制御装置。
  5. 前記測距領域は、前記被写体領域より大きく前記被写体領域の全体を包含する
    ことを特徴とする請求項1乃至4のいずれか1項に記載の撮影制御装置。
  6. 前記制御手段は、前記複数の部分領域のうちの最高の被写体度合いを持つ部分領域のみに基づいて前記撮影制御を行う
    ことを特徴とする請求項1乃至5のいずれか1項に記載の撮影制御装置。
  7. 前記撮影制御は、前記複数の部分領域の各々を対象の部分領域として、前記対象の部分領域の画素値を前記対象の部分領域の被写体度合いで重みづけする演算を含む
    ことを特徴とする請求項1乃至5のいずれか1項に記載の撮影制御装置。
  8. 前記撮影制御は、フォーカス制御、ホワイトバランス制御、又は露光制御である
    ことを特徴とする請求項1乃至7のいずれか1項に記載の撮影制御装置。
  9. 前記撮影制御は、フォーカス制御であり、
    前記制御手段は、
    前記複数の部分領域のうちの最高の被写体度合いを持つ部分領域内の複数の測距点に対応する第1の複数のデフォーカス量の中から、信頼度閾値以上の信頼度を持つ第1のデフォーカス量を選択し、
    前記第1のデフォーカス量に基づいて前記フォーカス制御を行う
    ことを特徴とする請求項1乃至5のいずれか1項に記載の撮影制御装置。
  10. 前記第1の複数のデフォーカス量の中に前記信頼度閾値以上の信頼度を持つデフォーカス量が存在しない場合、前記制御手段は、
    前記複数の部分領域のうちの前記最高の被写体度合いの次に高い被写体度合いを持つ部分領域内の複数の測距点に対応する第2の複数のデフォーカス量の中から、前記信頼度閾値以上の信頼度を持つ第2のデフォーカス量を選択し、
    前記第2のデフォーカス量に基づいて前記フォーカス制御を行う
    ことを特徴とする請求項9に記載の撮影制御装置。
  11. 請求項1乃至10のいずれか1項に記載の撮影制御装置と、
    撮像手段と、
    を備えることを特徴とする撮像装置。
  12. 撮影制御装置が実行する撮影制御方法であって、
    撮影範囲において検出対象の被写体を部分的に含んだ被写体領域を検出する検出工程と、
    前記被写体領域を含む測距領域内の複数の測距点に対応する複数のデフォーカス量を取得する取得工程と、
    前記複数のデフォーカス量に基づいて前記測距領域を複数の部分領域に分類する分類工程であって、前記複数の部分領域の各々は前記複数のデフォーカス量の範囲における異なる部分範囲に対応する、分類工程と、
    前記複数の部分領域の各々と前記被写体領域との間の幾何学的な関係に基づいて、前記複数の部分領域の各々について前記検出対象の被写体が存在する可能性を示す被写体度合いを判定する判定工程と、
    前記複数の部分領域に基づいて撮影制御を行う制御工程であって、第1の被写体度合いを持つ部分領域の寄与が前記第1の被写体度合いより小さい第2の被写体度合いを持つ部分領域の寄与よりも大きくなるように前記撮影制御を行う、制御工程と、
    を備えることを特徴とする撮影制御方法。
  13. コンピュータを、請求項1乃至10のいずれか1項に記載の撮影制御装置の各手段として機能させるためのプログラム。
JP2020084791A 2020-05-13 2020-05-13 撮影制御装置、撮像装置、撮影制御方法、及びプログラム Pending JP2021179527A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020084791A JP2021179527A (ja) 2020-05-13 2020-05-13 撮影制御装置、撮像装置、撮影制御方法、及びプログラム
US17/308,491 US11533422B2 (en) 2020-05-13 2021-05-05 Apparatus, image capturing apparatus, method, and storage medium for performing shooting control

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020084791A JP2021179527A (ja) 2020-05-13 2020-05-13 撮影制御装置、撮像装置、撮影制御方法、及びプログラム

Publications (1)

Publication Number Publication Date
JP2021179527A true JP2021179527A (ja) 2021-11-18

Family

ID=78509806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020084791A Pending JP2021179527A (ja) 2020-05-13 2020-05-13 撮影制御装置、撮像装置、撮影制御方法、及びプログラム

Country Status (2)

Country Link
US (1) US11533422B2 (ja)
JP (1) JP2021179527A (ja)

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2955662B1 (en) * 2003-07-18 2018-04-04 Canon Kabushiki Kaisha Image processing device, imaging device, image processing method
JP2005269604A (ja) * 2004-02-20 2005-09-29 Fuji Photo Film Co Ltd 撮像装置、撮像方法、及び撮像プログラム
JP3817566B2 (ja) * 2005-01-24 2006-09-06 キヤノン株式会社 撮像装置、撮像方法、撮像プログラム、及び記憶媒体
JP2007311861A (ja) * 2006-05-16 2007-11-29 Fujifilm Corp 撮影装置及び方法
JP4902562B2 (ja) * 2007-02-07 2012-03-21 パナソニック株式会社 撮像装置、画像処理装置、制御方法およびプログラム
US20080278589A1 (en) * 2007-05-11 2008-11-13 Karl Ola Thorn Methods for identifying a target subject to automatically focus a digital camera and related systems, and computer program products
JP4518131B2 (ja) * 2007-10-05 2010-08-04 富士フイルム株式会社 撮像方法及び装置
JP4998308B2 (ja) 2008-02-14 2012-08-15 株式会社ニコン 焦点調節装置および撮像装置
JP5294647B2 (ja) * 2008-02-19 2013-09-18 キヤノン株式会社 焦点調節装置及びその制御方法
JP2012044564A (ja) * 2010-08-20 2012-03-01 Sanyo Electric Co Ltd 撮像装置
JP2012054810A (ja) * 2010-09-02 2012-03-15 Olympus Corp 画像処理装置、画像処理方法、撮像装置、および画像処理プログラム
WO2012124669A1 (ja) * 2011-03-17 2012-09-20 キヤノン株式会社 撮像装置及びその制御方法
JP6080417B2 (ja) * 2011-08-19 2017-02-15 キヤノン株式会社 画像処理装置、及び画像処理方法
US20150227023A1 (en) * 2014-02-13 2015-08-13 Canon Kabushiki Kaisha Focus control apparatus and control method therefor
US10091411B2 (en) * 2014-06-17 2018-10-02 Lg Electronics Inc. Mobile terminal and controlling method thereof for continuously tracking object included in video
JP6546474B2 (ja) * 2015-07-31 2019-07-17 キヤノン株式会社 撮像装置およびその制御方法

Also Published As

Publication number Publication date
US20210360165A1 (en) 2021-11-18
US11533422B2 (en) 2022-12-20

Similar Documents

Publication Publication Date Title
JP5653035B2 (ja) 撮像装置、焦点検出方法、および制御方法
US10321044B2 (en) Image pickup apparatus and image pickup system with point image intensity distribution calculation
JP7264192B2 (ja) 撮像素子、および撮像装置
JP2017032646A (ja) 撮像装置及びその制御方法
JP2017192028A (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP2018031969A (ja) 撮像装置及びその制御方法
JP2021179527A (ja) 撮影制御装置、撮像装置、撮影制御方法、及びプログラム
JP7324160B2 (ja) 撮影制御装置、撮像装置、撮影制御方法、及びプログラム
JP6845912B2 (ja) 撮像装置及びその制御方法
JP2018180135A (ja) 撮像装置
CN102300037B (zh) 摄像装置
US20220351395A1 (en) Subject tracking apparatus, image capturing apparatus, subject tracking method, and storage medium
US20240284047A1 (en) Inference apparatus, image capturing apparatus, training apparatus, inference method, training method, and storage medium
JP7395326B2 (ja) レンズ装置、撮像装置、通信方法、および、プログラム
US11729502B2 (en) Apparatus including focusing function and method of the same
US20240284043A1 (en) Apparatus, control method for apparatus, and storage medium
US11710257B2 (en) Image processing apparatus and its control method, imaging apparatus, image processing method, and storage medium
JP2018116267A (ja) 焦点検出装置および方法、および撮像装置
JP2017219786A (ja) 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体
JP6714434B2 (ja) 撮像装置およびその制御方法、プログラム、記憶媒体
JP2021152600A (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP2022170554A (ja) 撮像装置およびその制御方法
JP2022170555A (ja) 撮像装置およびその制御方法
JP2018180134A (ja) 撮像装置
JP2021096320A (ja) 制御装置およびその制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20210103

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210113

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230502

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240510

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240805

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241003