JP2022131706A - 画像処理装置およびその制御方法、撮像装置、プログラム - Google Patents

画像処理装置およびその制御方法、撮像装置、プログラム Download PDF

Info

Publication number
JP2022131706A
JP2022131706A JP2021030780A JP2021030780A JP2022131706A JP 2022131706 A JP2022131706 A JP 2022131706A JP 2021030780 A JP2021030780 A JP 2021030780A JP 2021030780 A JP2021030780 A JP 2021030780A JP 2022131706 A JP2022131706 A JP 2022131706A
Authority
JP
Japan
Prior art keywords
area
detection
target
subject
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021030780A
Other languages
English (en)
Inventor
謙太郎 渡邉
Kentaro Watanabe
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021030780A priority Critical patent/JP2022131706A/ja
Priority to US17/670,438 priority patent/US11570352B2/en
Publication of JP2022131706A publication Critical patent/JP2022131706A/ja
Priority to US18/067,639 priority patent/US11838629B2/en
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/32Means for focusing
    • G03B13/34Power focusing
    • G03B13/36Autofocus systems

Abstract

Figure 2022131706000001
【課題】所望の被写体の検出領域を処理の対象領域に設定することが可能な画像処理装置を提供する。
【解決手段】撮像装置は、撮像された画像から被写体の複数の部位を検出する(S301乃至S303)。撮像装置は被写体の検出領域に関連する領域を関連領域として設定し(S305)、画像中の任意領域を探索領域として設定する(S306)。探索領域が被写体の検出領域と関連領域のうち、少なくとも一方に重複している場合、関連領域が検出領域を包含していない領域であってもAF(オートフォーカス)対象領域として設定され(S307)、AF対象領域の通知処理が実行される(S308)。
【選択図】 図3

Description

本発明は、撮像された画像に基づいて被写体の検出および設定を行う技術に関する。
撮像装置において撮像素子により取得した画像から被写体を検出し、オートフォーカス(AF)制御で被写体に焦点を合わせる技術がある。一方で、ユーザが画像中の任意の位置に焦点を合わせられるように補助するために、撮像された画像の一部に矩形枠(以下、AF固定枠とも称する)を表示し、ユーザの操作指示に応じて矩形枠領域に対する焦点合わせを行う技術がある。これら2つの技術を組み合わせて、被写体検出枠とAF固定枠の両方を表示し、それぞれの枠の位置情報や領域情報に基づいて、どちらに焦点を合わせるかを決定することができる。その結果をユーザに通知することで、焦点合わせの対象とユーザの意思に沿った対象との一致率を向上させることが可能である。
特許文献1には被写体を的確に認識するための技術が開示されている。画像の状況または撮像モードに応じて、被写体枠よりも広い範囲のタッチ許容枠が設定され、ユーザによる画像上の指定位置が検出されると、タッチ許容枠と指定位置とに基づいて追尾対象となる被写体が認識される。
特開2012-15889号公報
ところで、検出対象である被写体によっては、例えばそのサイズが小さい場合、または動きが速い場合、撮像装置を把持したユーザが被写体検出枠をAF固定枠の範囲内に捉え続けることが困難になる。ユーザに所望の被写体をAF対象としたいという意思があったとしても、被写体検出枠とAF固定枠とが重複した状態を維持できず、所望の被写体をAF対象に選びづらくなる可能性がある。本発明の目的は、所望の被写体の検出領域を処理の対象領域に設定することが可能な画像処理装置を提供することである。
本発明の一実施形態の画像処理装置は、撮像された画像を処理する画像処理装置であって、前記画像から被写体の検出を行い、第1および第2の検出領域を取得する検出手段と、前記第1の検出領域を前記第2の検出領域に関連する関連領域として設定する関連領域設定手段と、前記画像にて被写体に係る探索領域を設定する探索領域設定手段と、前記画像の任意の領域を処理の対象領域に設定する対象設定手段と、を備え、前記対象設定手段は、前記探索領域と、前記第2の検出領域または前記関連領域とが重複する場合、前記第2の検出領域を前記対象領域に設定することを特徴とする。
本発明の画像処理装置によれば、所望の被写体の検出領域を処理の対象領域に設定することが可能である。
本実施形態の撮像装置の構成例を示す図である。 本実施形態における人物検出部の構成を示すブロック図である。 本実施形態における動作を説明するフローチャートである。 関連領域設定処理のフローチャートである。 AF対象領域設定処理のフローチャートである。 表示画面例を示す模式図である。
以下に本発明の実施形態について、図面を参照して詳細に説明する。画像処理装置を適用した装置として、画像内の人物の瞳、頭部、胴体を検出し、検出された被写体ごとに関連領域を設定するとともに探索領域およびAF対象領域を設定し、AF対象領域をユーザに通知する撮像装置の例を示す。
例えば、被写体検出枠とAF固定枠のうち、どちらの枠に対応する領域をAF対象領域とするかを決定する処理において、被写体検出枠とAF固定枠とが重複しているかどうかを判定することができる。被写体検出枠とAF固定枠とが重複している場合、被写体検出枠がAF対象領域として設定され、重複していない場合にはAF固定枠がAF対象領域として設定される。
被写体のサイズが小さい場合や動きが速い場合に被写体をAF対象に選びづらいという課題に対し、被写体をAF対象として選びやすくする対策として、被写体検出枠を大きくする方法がある。また、被写体検出枠とAF固定枠との重複の判定範囲を広げる方法がある。しかしながら、サイズが小さい被写体や動きの速い被写体に対して、ユーザが被写体付近を捉え続けなければならない点は変わっていない。また、被写体検出枠や重複の判定範囲を広げすぎた場合には弊害が発生しうる。範囲を必要以上に広げることは、被写体検出されていない領域をユーザがAF対象領域として設定することを妨げる要因となる。そこで以下の実施形態では、ユーザがAF固定枠中に被写体検出枠を捉え続けることが困難な被写体に対して、AF対象として設定しやすくする方法について説明する。
図1は本実施形態に係る撮像装置の構成例を示す図である。瞳AF機能を搭載したミラーレスカメラの構成例を示す。交換レンズ100は、撮像装置の本体部120に装着可能な光学機器のうちの一つである。交換レンズ100の撮影レンズユニット101は、主撮像光学系102、光量調節を行う絞り103、および焦点調節を行うフォーカスレンズ群104を備える。
レンズシステム制御用マイクロコンピュータ(以下、レンズ制御部という)111は、交換レンズ100の制御を行う。絞り制御部112は絞り103の動作を制御し、フォーカスレンズ制御部113はフォーカスレンズ群104の動作を制御する。例えばフォーカスレンズ制御部113は、本体部120から取得したフォーカスレンズ駆動情報に基づいてフォーカスレンズ群104を撮影レンズユニット101の光軸方向に駆動させることで、撮像光学系の焦点調節制御を行う。なお、フォーカスレンズ群104は、複数のフォーカスレンズを有していても、1枚のフォーカスレンズのみを有していてもよい。図1では図示の簡略化のため、交換レンズの例として単焦点レンズを示しているが、焦点距離を変更可能なレンズ(ズームレンズ)であってもよい。その場合、レンズ制御部111はズームレンズ位置を検出するエンコーダ出力から焦点距離情報を取得する。また、手振れ補正機能を有する交換レンズの場合、レンズ制御部111は像ブレ補正用のシフトレンズ群の制御を行う。
本体部120は、露出制御に用いるシャッター121や、CMOS(相補型金属酸化膜半導体)センサ等の撮像素子122を備える。撮像素子122の出力する撮像信号は、アナログ信号処理回路123で処理された後、カメラ信号処理回路124に送信される。カメラシステム制御用マイクロコンピュータ(以下、カメラ制御部という)131は、撮像装置全体を制御する。例えば、カメラ制御部131は不図示のシャッター駆動用のモータを制御し、シャッター121の駆動制御を行う。
メモリカード125は撮影された画像のデータ等を記録する記録媒体である。カメラ制御部131は、撮影者によって操作されるレリーズスイッチ181の押下状態に基づいて撮像画像のデータをメモリカード125に記録する処理を行う。
画像表示部171は液晶パネル(LCD)等の表示デバイスを備える。画像表示部171は、撮影者がカメラで撮影しようとしている被写体の画像のモニタ表示や、撮影した画像の表示を行う。タッチパネル172は撮影者が指やタッチペン等により画像表示部171における座標を指定する際に使用する操作部であり、画像表示部171と一体的に構成することができる。例えば、タッチパネル172を、光の透過率が画像表示部171の表示を妨げないように構成し、画像表示部171の表示面の内部に組み込む内蔵型(インセル型)のデバイスがある。タッチパネル172上の入力座標と、画像表示部171上の表示座標とが対応付けられる。これにより、あたかもユーザが画像表示部171に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザーインターフェース)を構成することができる。タッチパネル172への操作状態はカメラ制御部131によって管理される。
本体部120は、交換レンズ100とのマウント面に、交換レンズ100と通信を行うための通信端子であるマウント接点部161を備える。一方、交換レンズ100は、本体部120とのマウント面に、本体部120と通信を行うための通信端子であるマウント接点部114を備える。
レンズ制御部111とカメラ制御部131は、マウント接点部114,161を介して所定のタイミングでシリアル通信を行うことができる。この通信により、カメラ制御部131からレンズ制御部111にフォーカスレンズ駆動情報、絞り駆動情報等が送られ、またレンズ制御部111からカメラ制御部131へ焦点距離等の光学情報が送られる。
カメラ信号処理回路124はアナログ信号処理回路123からの信号を取得して信号処理を行う。カメラ信号処理回路124は人物検出部141を備える。人物検出部141は画像から人物の複数の部位を検出して検出情報を出力する。人物検出部141の詳細については図2にて説明する。人物検出部141による人物検出結果はカメラ制御部131に送られる。
カメラ制御部131は探索領域設定部150、関連領域設定部151、表示枠設定部152、AF対象設定部153、焦点検出部154を有する。各部はカメラ制御部131が備えるCPU(中央演算処理装置)がプログラムを実行することにより実現される。
探索領域設定部150は、画像表示部171に表示されているAF固定枠やタッチパネル172がタッチ操作された際の座標から探索領域を設定する。画像内の任意の領域を探索領域として設定することが可能である。関連領域設定部151は、人物検出部141から取得された検出結果に含まれる各被写体に対し、関連領域を設定する。
表示枠設定部152は、画像表示部171に対し、AF固定枠と被写体検出枠、およびAF対象領域の情報を表示させるための設定を行う。AF対象設定部153は、設定された領域をAF対象領域として焦点検出部154に通知する処理を行う。
焦点検出部154は、AF対象設定部153によって通知された、焦点合わせの対象被写体に対応する画像信号に基づいて焦点検出処理を行う。焦点検出処理は位相差検出式やコントラスト検出式等で実行される。位相差検出式の場合、視差を有する一対の像信号の相関演算により像ずれ量が算出される。像ずれ量から更にデフォーカス量に変換する処理が行われる。デフォーカス量は、交換レンズ100のレンズ駆動時の敏感度等を考慮することで、さらにフォーカスレンズ駆動量へと変換することができる。またコントラスト検出式の場合には、取得された画像のコントラスト評価情報に基づいて合焦位置を検出することができる。
カメラ制御部131は、焦点検出部154によって取得された焦点検出結果(像ずれ量またはデフォーカス量)、あるいは焦点検出結果に基づいて算出されたフォーカスレンズ駆動量等の駆動情報をレンズ制御部111に送信する。フォーカスレンズ制御部113は、カメラ制御部131から受信したフォーカスレンズ駆動情報に基づいて、フォーカスレンズの駆動制御を行う。換言すると、カメラ制御部131がフォーカスレンズ制御部113を介してフォーカスレンズの駆動制御を行う。
図2は人物検出部141の構成例を示すブロック図である。人物検出部141は頭部検出部201、瞳検出部202、胴体検出部203を有する。
頭部検出部201は、撮像された画像から人物の頭部領域を検出する。頭部検出には特徴的なエッジやパターンを検出した結果による方法や、顔領域をマシンラーニングによって学習したアルゴリズムによる方法等の、公知の方法を用いることができる。
瞳検出部202は、頭部検出部201の出力した頭部領域に基づき、撮像された画像から瞳領域を検出する。瞳検出にはパターンマッチングによる方法や、瞳領域をマシンラーニングによって学習したアルゴリズムによる方法等の、公知の方法を用いることができる。
胴体検出部203は、撮像された画像から胴体領域を検出する。胴体領域は人体の首から下、腰から上の胴体部分を含み、腕部を含まない矩形領域である。頭部検出部201、瞳検出部202と同様、胴体検出にはパターンマッチングによる方法や、胴体領域をマシンラーニングによって学習したアルゴリズムによる方法等の、公知の方法を用いることができる。
図3乃至図5を参照して、被写体検出からAF対象通知までの動作について説明する。図3は、人物検出部141が人物を検出してから、カメラ制御部131がAF対象をユーザに通知するまでの全体の動作を説明するフローチャートである。図4は、図3中において関連領域設定部151が行う関連領域設定処理を説明するフローチャートである。図5は、図3中においてAF対象設定部153が行うAF対象領域設定処理を説明するフローチャートである。
まず、図3のS301で頭部検出部201は、撮像された画像から頭部検出を行い、S302の処理に進む。S302で瞳検出部202は、撮像された画像とS301で取得された頭部検出結果を用いて瞳検出を行う。このとき、S301で取得された頭部検出結果が1つも無かった場合、瞳検出は行われず、S303の処理に進む。
S302の次にS303で胴体検出部203は、撮像された画像から胴体検出を行い、S304の処理に進む。S304で人物検出部141はS301、S302、およびS303で得られた各検出結果をまとめて人物検出結果とする。人物検出結果の情報はカメラ制御部131へ送られる。なお、S301、S302、およびS303の検出において、いずれも検出結果が得られなかった場合には、空の人物検出結果の情報がカメラ制御部131へ送られる。S304の次にS305の処理に進む。
S305で関連領域設定部151は、人物検出結果に含まれる各検出被写体に対して関連領域を設定する。関連領域設定処理の詳細については後述する。次のS306で探索領域設定部150は、画像表示部171に表示されているAF固定枠に基づいた探索領域を設定する。AF固定枠は、その位置と範囲がユーザの行った設定により定められる。表示枠設定部152によってAF固定枠が画像表示部171に通知され、画像表示部171は撮像された画像にAF固定枠を重畳して表示する。
S307でAF対象設定部153は、AF対象領域を設定する。AF対象領域の設定処理の詳細については後述する。その後、S308で表示枠設定部152は、AF対象領域情報を画像表示部171に通知する。
図4を参照して、図3のS305(関連領域設定処理)の処理内容を詳細に説明する。S401で関連領域設定部151は、人物検出結果に頭部検出結果があるか否かを判断する。頭部検出結果があると判断された場合、S402の処理に進み、頭部検出結果が無いと判断された場合には関連領域設定処理を終了する。
S402で関連領域設定部151は、人物検出結果に瞳検出結果があるか否かを判断する。瞳検出結果があると判断された場合、S403の処理に進み、瞳検出結果が無いと判断された場合にはS404の処理に進む。
S403で関連領域設定部151は、頭部検出領域を瞳検出結果の関連領域として設定し、S404の処理に進む。S404で関連領域設定部151は、人物検出結果に胴体検出結果があるか否かを判断する。胴体検出結果があると判断された場合、S405の処理に進み、胴体検出結果が無いと判断された場合には関連領域設定処理を終了する。
S405で関連領域設定部151は、胴体検出領域を頭部検出結果の関連領域として設定し、S406の処理に進む。S406で関連領域設定部151は、人物検出結果に瞳検出結果があるか否かを判断する。瞳検出結果があると判断された場合、S407の処理に進み、瞳検出結果が無いと判断された場合には関連領域設定処理を終了する。なお、S402での判断結果を示す情報を人物検出部141が保持しておき、当該情報をその後のS406の処理で用いてもよい。
S407で関連領域設定部151は、胴体検出領域を瞳の関連領域に追加し、関連領域設定処理を終了する。
図5を参照して、図3のS307(AF対象領域設定処理)の処理内容を詳細に説明する。S501でAF対象設定部153は、人物検出結果に瞳検出結果があるか否かを判断する。瞳検出結果があると判断された場合、S502の処理に進み、瞳検出結果が無いと判断された場合にはS503の処理に進む。
S502でAF対象設定部153は、瞳を、AF対象領域設定処理内における検出対象領域(以下、単に検出対象領域とも称する)に設定し、S505に進む。S503でAF対象設定部153は、人物検出結果に頭部検出結果があるか否かを判断する。頭部検出結果があると判断された場合、S504の処理に進み、頭部検出結果が無いと判断された場合にはS505の処理に進む。
S504でAF対象設定部153は、頭部を検出対象領域に設定し、S505の処理に進む。S505でAF対象設定部153は、図3のS306にて探索領域設定部150が設定した探索領域の情報を取得する。
S506でAF対象設定部153は、探索領域と検出対象領域とが重複しているか否かを判断する。探索領域と検出対象領域とが重複していると判断された場合、S507の処理に進み、探索領域と検出対象領域とが重複していないと判断された場合にはS508の処理に進む。ただし、これまでの処理で検出対象領域が設定されていない場合には、探索領域と検出対象領域とが重複していないと判断され、S508の処理に進む。
S507でAF対象設定部153は、検出対象領域をAF対象領域として設定し、AF対象領域設定処理を終了する。また、S508でAF対象設定部153は、探索領域と、検出対象領域として設定されている検出対象の関連領域とが重複しているか否かを判断する。探索領域と検出対象の関連領域とが重複していると判断された場合、S507の処理に移行し、重複していないと判断された場合にはS509の処理に進む。ただし、これまでの処理で検出対象領域が設定されていないか、または検出対象に関連領域が設定されていない場合には、探索領域と検出対象の関連領域とが重複していないと判断され、S509の処理に進む。
S509でAF対象設定部153は、探索領域をAF対象領域として設定し、AF対象領域設定処理を終了する。
図6を参照して、表示例を説明する。図6(A)は被写体である人物の上半身の撮影時の表示画面例600を示す模式図である。図6(B)は被写体である人物の頭部の撮影時の表示画面例610を示す模式図である。
図6(A)にて、表示枠601は被写体の探索領域に基づく枠(AF枠や追尾枠等)である。被写体人物の胴体検出領域602は、被写体人物の頭部検出領域603に関連する関連領域である。胴体検出領域602が非表示領域であることを点線で図示している。胴体検出領域602は頭部検出領域603を包含していない関連領域として設定されている。この場合、表示枠601と被写体人物の頭部検出領域603とは画面上で重複していない。よって図5のS506からS508の処理へ進む。表示枠601と胴体検出領域602とが画面上で重複しているので、図5のS508からS507の処理へ進む。頭部検出領域603がAF対象領域として設定され、頭部検出領域603に対応する枠が画面上に表示される。
図6(B)にて、表示枠611は被写体の探索領域に基づく枠(AF枠や追尾枠等)である。被写体人物の頭部検出領域612は、被写体人物の瞳検出領域613に関連する関連領域である。頭部検出領域612が非表示領域であることを点線で図示している。この場合、表示枠611と被写体人物の瞳検出領域613とは画面上で重複していない。よって図5のS506からS508の処理へ進む。表示枠611と頭部検出領域612とが画面上で重複しているので、図5のS508からS507の処理へ進む。瞳検出領域613がAF対象領域として設定され、瞳検出領域613に対応する枠が画面上に表示される。
従来の技術では、表示枠内に被写体の一部が検出された場合、表示枠と検出対象領域とが重複していないかぎり、検出対象領域をAF対象領域として選択することができない。例えばAF固定枠内に被写体の一部が捉えられていても被写体検出枠を捉えていないと被写体をAF対象とすることができない。これに対し、本実施形態では、検出される被写体ごとに各部位(全体含む)に優先順位(上位下位)が設定されている。いずれかの領域がAF対象領域として設定される操作が行われた場合、その時点で検出されている最上位の被写体部位にAF対象領域の設定がなされる。すなわち、表示枠内に被写体の一部が検出された場合、表示枠と検出対象領域の関連領域とが重複していれば、検出対象領域をAF対象領域として選択することができる。つまり、画像から被写体の検出領域を取得してその関連領域を設定し、探索領域と検出領域または関連領域との重複を判断して処理の対象領域を設定することが可能である。よってユーザは所望の被写体を容易に指定することができる。
本実施形態では、検出対象が瞳または頭部である場合、胴体領域が関連領域として設定されてAF対象領域設定処理で用いられる。胴体領域は首から上を含まない範囲であるので、瞳や頭部よりも検出領域が広く、また瞳や頭部に比べ被写体の動きがゆるやかである。さらに、胴体領域は検出対象である瞳や頭部を包含していないので、検出対象が激しく動いている状態でも胴体領域は影響を受けづらい。よって、撮像装置を把持するユーザはAF固定枠の領域内に被写体を捉えることが容易になる。
また、被写体が瞳や頭部等のように検出領域サイズが小さく、動きの速くなりがちな部位であっても、AF固定枠を胴体周辺に近づければAF対象として選択できるようになる。よって、ユーザが狙った被写体をAF対象として選びづらくなるという課題への対策を講じることができる。さらには、同一の人物の部位が関連領域として設定されるため、ユーザが人物ではない別の領域をAF対象としたい時の動作を妨げることはない。
また、図3乃至図5を用いて説明したアルゴリズムに基づく処理では、ユーザがAF固定枠を被写体に近づけてAF対象を選択するまでの動作が行われる。その後の動作ではさらにユーザ操作によりAF対象を確定する処理が行われる。AF対象の確定が行われるとAF対象となる被写体が固定される(以下、固定されたAF対象の被写体を固定AF対象とも称する)。固定AF対象とは別の被写体はAF対象に選択されなくなる。AF対象の確定はユーザにより解除されるか、または撮像装置が該当する被写体を見失うまで継続される。
AF対象の確定処理は、ユーザがレリーズスイッチ181を押下するか、またはタッチパネル172へのタッチ操作を行うことにより発動する。どちらの方法で処理が開始されかによって、AF対象として固定される被写体は異なる。例えば、レリーズスイッチ181の押下によるAF対象の確定処理では、あらかじめ設定されているAF対象領域が固定AF対象として確定する。一方で、タッチパネル172へのタッチ操作によるAF対象の確定処理では、タッチ操作で指定された座標に基づいて固定AF対象が決定される。タッチ操作で指定された座標が検出対象領域内または検出対象の関連領域内に含まれていた場合、検出対象領域が固定AF対象の領域として確定される。またタッチ操作で指定された座標が検出対象領域内または検出対象の関連領域内に含まれていない場合、タッチ操作で指定された座標の周辺で顕著度の近い領域が固定AF対象の領域として確定される。顕著度とは、画素ごとの色や輝度、深度がどれほど近いかを示す指標である。深度は画像の奥行き方向を表す情報であり、視点の異なる複数の画像の像ずれ量の分布やデフォーカス量の分布、距離画像や距離マップ等の情報から公知の方法で取得可能である。なお例外として、検出対象が人物の瞳または顔であり、かつ関連領域が人物の胴体領域であるときに、タッチ操作で指定された座標が人物の胴体領域内の場合がある。この場合のみ、検出対象領域ではなくタッチ位置周辺での顕著度の近い領域が固定AF対象の領域として確定される。
前記実施形態によれば、撮像画像内の被写体の検出対象領域に関連する関連領域を設定し、AF固定枠の領域と、検出対象領域またはその関連領域とが重複している場合、当該検出対象領域をAF対象領域として設定することが可能である。
[その他の実施形態]
以上、本発明の実施形態を詳述したが、本発明は特定の実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の様々な形態も本発明の技術的範囲に含まれる。例えば、被写体は人物でなくともよく、犬、猫といった動物、または無生物でもよく、特定の種別に限定されない。
前記実施形態では瞳領域に対して頭部領域と胴体領域の2つの領域を関連領域として設定される例を示したが、検出対象と関連領域とが1対1対応でなくともよい。また、胴体に対しては関連領域が無い場合のように、関連領域を持たない検出対象があってもよい。
また、前記実施形態では検出被写体に対し、同一の人物の部位の検出結果を関連領域として使用する例を示した。これに限らず、検出被写体と関連領域とは別種の被写体であってもよい。例えば、人物と装飾品等であってもよい。被写体人物が装飾品等を身に着けている場合、探索領域と関連領域である装飾品等の検出領域とが重複する場合に被写体人物に対応する検出領域をAF対象領域として設定することが可能である。
前記実施形態のように、関連領域の設定に検出結果を用いることは一例であり、検出結果を用いなくともよい。例えば、検出対象領域に対し、ある位置関係にある固定範囲の領域や、色情報や深度情報が近い範囲を算出することで取得される領域を関連領域に設定してもよい。またはマシンラーニングによって検出対象の関連領域を算出するべく学習されたアルゴリズムによって取得される領域等を関連領域に設定することができる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
122 撮像素子
124 カメラ信号処理回路
131 カメラ制御部
141 人物検出部
150 探索領域設定部
151 関連領域設定部
152 表示枠設定部
153 AF対象設定部
154 焦点検出部
171 画像表示部


Claims (12)

  1. 撮像された画像を処理する画像処理装置であって、
    前記画像から被写体の検出を行い、第1および第2の検出領域を取得する検出手段と、
    前記第1の検出領域を前記第2の検出領域に関連する関連領域として設定する関連領域設定手段と、
    前記画像にて被写体に係る探索領域を設定する探索領域設定手段と、
    前記画像の任意の領域を処理の対象領域に設定する対象設定手段と、を備え、
    前記対象設定手段は、前記探索領域と、前記第2の検出領域または前記関連領域とが重複する場合、前記第2の検出領域を前記対象領域に設定する
    ことを特徴とする画像処理装置。
  2. 前記関連領域設定手段は、前記第2の検出領域を包含していない領域を前記関連領域として設定し、
    前記対象設定手段は、設定した前記対象領域を通知する処理を行う
    ことを特徴とする請求項1に記載の画像処理装置。
  3. 前記対象設定手段は、前記探索領域と前記第2の検出領域とが重複しておらず、かつ前記探索領域と前記関連領域とが重複していない場合、前記探索領域を前記対象領域に設定する
    ことを特徴とする請求項1または請求項2に記載の画像処理装置。
  4. 前記第1の検出領域は、被写体の第1の部位に対応する領域であり、
    前記第2の検出領域は、前記被写体の第2の部位に対応する領域である
    ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  5. 前記検出手段は第1および第2の被写体を検出し、
    前記第1の検出領域は、前記第1の被写体に対応する領域であり、
    前記第2の検出領域は、前記第2の被写体に対応する領域である
    ことを特徴とする請求項1乃至3のいずれか1項に記載の画像処理装置。
  6. 前記対象設定手段は、設定した前記対象領域を通知している場合、前記関連領域の通知を行わない
    ことを特徴とする請求項2に記載の画像処理装置。
  7. 前記探索領域に対応する表示枠および前記対象領域に対応する表示枠を表示する表示手段を備える
    ことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理装置。
  8. 請求項1乃至7のいずれか1項に記載の画像処理装置と、
    撮像光学系を介して被写体を撮像する撮像手段と、
    撮像された画像を表示する表示手段と、を備える
    ことを特徴とする撮像装置。
  9. 前記対象設定手段は、決定した前記対象領域を、前記撮像光学系の焦点調節制御の対象領域として前記表示手段によって通知する処理を行う
    ことを特徴とする請求項8に記載の撮像装置。
  10. 画像内の被写体を指定する指定手段を備え、
    前記対象設定手段は、前記指定手段により指定された前記画像内の位置が前記対象領域内または前記関連領域内であるか否かを判断して前記対象領域を確定する処理を行う
    ことを特徴とする請求項9に記載の撮像装置。
  11. 撮像された画像を処理する画像処理装置にて実行される制御方法であって、
    前記画像から被写体の検出を行い、第1および第2の検出領域を取得する工程と、
    前記第1の検出領域を前記第2の検出領域に関連する関連領域として設定する関連領域設定工程と、
    前記画像にて被写体に係る探索領域を設定する探索領域設定工程と、
    前記画像の任意の領域を処理の対象領域に設定する対象領域設定工程と、を有し、
    前記対象領域設定工程では、前記探索領域と、前記第2の検出領域または前記関連領域とが重複する場合、前記第2の検出領域を前記対象領域に設定する処理が行われる
    ことを特徴とする画像処理装置の制御方法。
  12. 請求項11に記載の各工程を画像処理装置のコンピュータに実行させる
    ことを特徴とするプログラム。

JP2021030780A 2021-02-26 2021-02-26 画像処理装置およびその制御方法、撮像装置、プログラム Pending JP2022131706A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2021030780A JP2022131706A (ja) 2021-02-26 2021-02-26 画像処理装置およびその制御方法、撮像装置、プログラム
US17/670,438 US11570352B2 (en) 2021-02-26 2022-02-12 Image processing apparatus and control method thereof, imaging apparatus, and storage medium
US18/067,639 US11838629B2 (en) 2021-02-26 2022-12-16 Image processing apparatus and control method thereof, imaging apparatus, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021030780A JP2022131706A (ja) 2021-02-26 2021-02-26 画像処理装置およびその制御方法、撮像装置、プログラム

Publications (1)

Publication Number Publication Date
JP2022131706A true JP2022131706A (ja) 2022-09-07

Family

ID=83006672

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021030780A Pending JP2022131706A (ja) 2021-02-26 2021-02-26 画像処理装置およびその制御方法、撮像装置、プログラム

Country Status (2)

Country Link
US (2) US11570352B2 (ja)
JP (1) JP2022131706A (ja)

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101594298B1 (ko) * 2009-11-17 2016-02-16 삼성전자주식회사 디지털 영상 처리기에서 포커스 조정 장치 및 방법
JP2012015889A (ja) 2010-07-02 2012-01-19 Sony Corp 画像処理装置および画像処理方法
JP5814557B2 (ja) * 2011-02-07 2015-11-17 キヤノン株式会社 画像表示制御装置、撮像装置、表示制御方法、及び制御プログラム
JP5156108B2 (ja) * 2011-04-23 2013-03-06 オリンパスイメージング株式会社 撮像装置および撮像方法
US8849064B2 (en) * 2013-02-14 2014-09-30 Fotonation Limited Method and apparatus for viewing images
JP6512810B2 (ja) * 2014-12-11 2019-05-15 キヤノン株式会社 撮像装置および制御方法とプログラム
WO2016103962A1 (ja) * 2014-12-26 2016-06-30 富士フイルム株式会社 合焦制御装置、撮像装置、合焦制御方法、及び合焦制御プログラム
JP6608148B2 (ja) 2015-02-24 2019-11-20 キヤノン株式会社 距離情報生成装置、撮像装置、距離情報生成方法および距離情報生成プログラム
CN106060373B (zh) * 2015-04-03 2019-12-20 佳能株式会社 焦点检测装置及其控制方法
KR102392789B1 (ko) * 2015-10-21 2022-05-02 삼성전자주식회사 초점 설정을 위한 방법 및 그 전자 장치
JP2018207309A (ja) * 2017-06-05 2018-12-27 オリンパス株式会社 撮像装置、撮像方法およびプログラム
US10958825B2 (en) * 2017-10-17 2021-03-23 Canon Kabushiki Kaisha Electronic apparatus and method for controlling the same
JP2019041414A (ja) 2018-11-29 2019-03-14 株式会社ニコン 電子機器、撮像装置、およびプログラム
CN117119301A (zh) * 2018-12-28 2023-11-24 株式会社尼康 电子设备、照相机以及程序
JPWO2021010070A1 (ja) * 2019-07-12 2021-01-21
JP7418104B2 (ja) * 2019-08-30 2024-01-19 キヤノン株式会社 画像処理装置及び画像処理装置の制御方法
US11323623B2 (en) * 2019-12-25 2022-05-03 Canon Kabushiki Kaisha Image stabilization apparatus, method of controlling the same, and storage medium
JP2021173803A (ja) * 2020-04-21 2021-11-01 キヤノン株式会社 撮像装置およびその制御方法、プログラム、記憶媒体
US11546502B2 (en) * 2020-09-14 2023-01-03 Canon Kabushiki Kaisha Image processing apparatus and method of controlling the same
JP2022131642A (ja) 2021-02-26 2022-09-07 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、プログラム

Also Published As

Publication number Publication date
US11570352B2 (en) 2023-01-31
US20230117507A1 (en) 2023-04-20
US20220279132A1 (en) 2022-09-01
US11838629B2 (en) 2023-12-05

Similar Documents

Publication Publication Date Title
JP5967432B2 (ja) 処理装置、処理方法、及び、プログラム
EP2204684A2 (en) Lens control apparatus, optical apparatus, and lens control method
JP5900257B2 (ja) 処理装置、処理方法、及び、プログラム
JP7418104B2 (ja) 画像処理装置及び画像処理装置の制御方法
JP2021021857A (ja) 撮像装置およびその制御方法
CN113475055B (zh) 电子设备、照相机以及程序
JP2021150760A (ja) 撮像装置およびその制御方法
JP7302055B1 (ja) 画像処理装置およびその制御方法、撮像装置、プログラム
JP2022131706A (ja) 画像処理装置およびその制御方法、撮像装置、プログラム
JP7337865B2 (ja) 画像処理装置およびその制御方法、撮像装置、プログラム
JP2006157154A (ja) 情報入力装置、カメラ
US11050923B2 (en) Imaging apparatus and control method
JP6319081B2 (ja) 端末装置、撮影システム、及び撮影方法
US11669975B2 (en) Subject tracking device, subject tracking method, and imaging apparatus
JP7377078B2 (ja) 画像処理装置および画像処理方法、ならびに撮像装置
JP7204622B2 (ja) ズーム制御装置およびその制御方法
JP2019008075A (ja) 撮像装置
JP5943693B2 (ja) 撮像装置、その制御方法、および制御プログラム
JP2021180347A (ja) 制御装置、撮像装置、制御方法、およびプログラム
JP2021164087A (ja) 撮像装置およびその制御方法
JPH06294927A (ja) フォーカスエリア設定装置
JP2021040183A (ja) 画像処理装置及び画像処理方法
JP2009290519A (ja) カメラ
JP2019125850A (ja) 電子機器、その制御方法、およびプログラム、並びに記憶媒体
WO2017085787A1 (ja) 画像表示装置、画像表示システム、画像表示方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240222