JP7277149B2 - 撮像装置及びその制御方法 - Google Patents

撮像装置及びその制御方法 Download PDF

Info

Publication number
JP7277149B2
JP7277149B2 JP2019007011A JP2019007011A JP7277149B2 JP 7277149 B2 JP7277149 B2 JP 7277149B2 JP 2019007011 A JP2019007011 A JP 2019007011A JP 2019007011 A JP2019007011 A JP 2019007011A JP 7277149 B2 JP7277149 B2 JP 7277149B2
Authority
JP
Japan
Prior art keywords
pupil
area
face
detection
control unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019007011A
Other languages
English (en)
Other versions
JP2020118717A (ja
Inventor
龍弥 山崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2019007011A priority Critical patent/JP7277149B2/ja
Priority to US16/741,181 priority patent/US11050923B2/en
Publication of JP2020118717A publication Critical patent/JP2020118717A/ja
Application granted granted Critical
Publication of JP7277149B2 publication Critical patent/JP7277149B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/66Remote control of cameras or camera parts, e.g. by remote control devices
    • H04N23/663Remote control of cameras or camera parts, e.g. by remote control devices for controlling interchangeable camera parts based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)

Description

瞳に自動的にピントを合わせることができる撮像装置に関する。
撮像素子を使用したデジタルカメラにおいて、撮像素子から得られた画像データ人の顔を検出し、顔に対応する画像データの領域から瞳が検出された場合には当該瞳にピントを合わせる技術が知られている。
特許文献1では、左右の瞳のいずれかにピントを合わせることをユーザが指定するモードの場合に、選択された瞳にピントを合わせることが開示されている。
特開2015-96961号公報
特許文献1によれば、左右の瞳のうち、ユーザが意図した瞳にピントを合わせることが可能である。しかしながら、特許文献1ではユーザビリティの面で課題が残る。例えば、ユーザが左右の瞳のいずれかを指定した場合に、ユーザが指定しなおさない限りは、指定された瞳とは異なる瞳にピントを合わせたい場合であっても指定された瞳にピントが合ってしまう。また、例えば、同じ人物の顔かそうでないかによらず、左右の瞳のうち同じ瞳にピントを合わせてしまう。
そこで、本発明では、先行技術と比較して、より撮影者の意図通りした瞳にピントを合わせる技術を提供することを目的としている。
そこで、本発明は、撮像素子から出力された画像信号に基づいて第1の領域を検出する第1の検出手段と、前記第1の領域に含まれる、第1の瞳に対応する第2の領域又は前記第1の瞳とは異なる第2の瞳に対応する第3の領域を検出する第2の検出手段と、前記第2の領域又は前記第3の領域のいずれかを自動的に選択する選択手段を有し、ユーザによって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズを駆動する第1のモードと、前記選択手段によって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズの駆動を制御する第2のモードと、のいずれかのモードによってフォーカスレンズの駆動を制御する制御手段と、を有し、前記制御手段は、前記第1の検出手段によって前記第1の領域が検出されなくなった場合には、前記第1のモードから前記第2のモードへと移行するよう構成したことを特徴とする。
本発明によれば、先行技術と比較して、より撮影者の意図通りした瞳にピントを合わせることができる。
本発明を実施するための構成図 本発明の実施例1の動作を示すフローチャート 自動瞳選択の方法を示すフローチャート 実施例1における、顔枠あるいは瞳枠表示の遷移例を示した図 本発明の実施例2の動作を示すフローチャート 顔認証動作による顔検知再開方法に関するフローチャート
本発明の各種実施例について、添付図面を参照して説明する。各実施形態では、瞳検出機能を有する撮像装置を例示する。瞳検出機能を有する撮像装置としては、ビデオカメラ、デジタルカメラおよび銀塩スチルカメラや、さらにカメラ機能を搭載したスマートフォンなどの携帯機器も本発明の一側面を構成する。
図1は本発明の第1実施形態に係る撮像装置の構成例を示す図であり、瞳AF機能を搭載したミラーレスカメラ(以下、カメラ)の構成を例示したものである。
交換レンズ100は、カメラ本体部120に装着可能な光学機器のうちの一つである。交換レンズ100は、主撮影光学系102、光量調節を行う絞り103、およびピント調節を行うフォーカスレンズ群104を含む撮影レンズユニット101を備える。
レンズシステム制御用マイクロコンピュータ(以下、レンズ制御部という)111は、絞り103の動作を制御する絞り制御部112、フォーカスレンズ群104の動作(駆動とも称する)を制御するフォーカスレンズ制御部113、などを備える。フォーカスレンズ制御部113は、カメラ本体部120から取得したフォーカスレンズ駆動情報に基づいてフォーカスレンズ群104を撮影レンズユニット101の光軸方向に駆動させ、カメラのピント調節を行う。
なお、フォーカスレンズ群104は、複数のフォーカスレンズを有していても、1枚のフォーカスレンズのみを有していても良い。また、ここでは図の簡略化のため、交換レンズの例として単焦点レンズを示しているが、焦点距離を変更可能なレンズ(ズームレンズ)であっても良い。ズームレンズである場合には、レンズ制御部113はズームレンズ位置を検出するエンコーダ出力から焦点距離情報する。また、手振れ補正機能を搭載したレンズの場合には、レンズ制御部113は、振れ補正用のシフトレンズ群などの制御も行う。
カメラ本体部120は、露出制御に用いるシャッター121や、CMOS(相補型金属酸化膜半導体)センサ等の撮像素子122を備える。撮像素子122の出力する撮像信号は、アナログ信号処理回路123で処理された後、カメラ信号処理回路124に送られる。
カメラシステム制御用マイクロコンピュータ(以下、カメラ制御部という)131は、撮像装置全体を制御する。例えば、カメラ制御部131は不図示のシャッター駆動用のモータを駆動制御し、シャッター121を駆動する。メモリカード125は撮影された画像のデータを記録する記録媒体である。撮影者によって操作されるレリーズスイッチ181の押下状態がカメラ制御部131に送られ、その状態に応じて撮像した画像がメモリカード125に記憶される。
画像表示部171は、撮影者がカメラで撮影しようとしている画像をモニタし、また撮影した画像を表示する液晶パネル(LCD)等の表示デバイスを備える。また、タッチパネル172は撮影者が指やタッチペンにより画像表示部171における座標を指定することができる操作部であり、画像表示部171とは一体的に構成することができる。例えば、タッチパネルを光の透過率が画像表示部171の表示を妨げないように構成し、画像表示部171の表示面の内部に組み込む内蔵型(インセル型)などである。そして、タッチパネル172上の入力座標と、画像表示部171上の表示座標とを対応付ける。これにより、あたかもユーザが画像表示部171上に表示された画面を直接的に操作可能であるかのようなGUI(グラフィカルユーザーインターフェース)を構成することができる。操作部172への操作状態はカメラ制御部131で管理される。
カメラ本体部120は、交換レンズ100とのマウント面に、交換レンズ100と通信を行うための通信端子であるマウント接点部161を備える。また、交換レンズ100は、カメラ本体120とのマウント面に、カメラ本体120と通信を行うための通信端子であるマウント接点部114を備える。
レンズ制御部105とカメラ制御部131は、マウント接点部114および161を介して所定のタイミングでシリアル通信を行うよう通信を制御する。この通信により、カメラ制御部131からレンズ制御部111にはフォーカスレンズ駆動情報、絞り駆動情報などが送られ、レンズ制御部111からカメラ制御部131へ焦点距離などの光学情報が送られる。
カメラ信号処理回路124は、顔情報検出部141を備え、さらに器官情報検出部142を備えており、器官情報検出部142は顔情報検出部141で検出した顔情報から、瞳、口などの器官情報を検出する。顔情報検出部141、器官情報検出部142における検出結果はカメラ制御部131に送られる。
カメラ制御部131には、本発明に関連するブロックとして、対象とする瞳を検出した顔情報から自動で選択する瞳自動選択部150、検出した顔、あるいは瞳情報に対応して表示部171に表示させるための検出枠を設定する表示枠設定部151を有する。また、撮影者による操作に応じて、撮影者が指定した瞳を検出し続ける瞳として指定、あるいは指定を解除する瞳指定/指定解除部152を有する。また、ユーザによる操作に応じて指定した瞳や顔を記憶する記憶部153、さらに、選択あるいは指定した瞳や顔を、ピントを合わせるべき被写体(対象被写体とも称する)として焦点検出部155に通知するAF対象被写体設定部154がある。これらは顔情報検出部141、器官情報検出部142の出力に基づいて動作する。焦点検出部155は、AF対象被写体設定部154によって通知されたピントを合わせるべき被写体に対応する画像信号に基づいて、焦点検出処理を行う。焦点検出処理は、例えば公知の位相差検出式や、コントラスト検出式等によって実行される。位相差検出式の場合、焦点検出処理として、視差を有する一対の像信号を相関演算することで算出された像すれ量の算出、もしくは像ずれ量を更にデフォーカス量に変換して算出する処理が行われる。デフォーカス量は、交換レンズ100のレンズ駆動時の敏感度等を考慮することで、更にフォーカスレンズ駆動量へと変換することができる。カメラ制御部152は、焦点検出部155によって検出された焦点検出結果(像ずれ量またはデフォーカス量)あるいは焦点検出結果に基づいて算出されたフォーカスレンズ駆動量をレンズ制御部111に送信する。フォーカスレンズ制御部113は、カメラ制御部131から受信したフォーカスレンズ駆動情報に基づいて、フォーカスレンズの駆動を制御する。換言すると、カメラ制御部131がフォーカスレンズ制御部113を介してフォーカスレンズの駆動を制御する。
<瞳指定処理>
図2はカメラ制御部131内での本発明の実施例1に関する動作を示すフローチャートである。図2の処理は、フレーム毎の画像が生成される度に行われるものとして説明するが、適宜変更可能である。
以下、図1、図2を参照しながら、本発明の実施例1の動作について詳細に説明する。
まず、顔情報検出部141は、撮像された画像信号から顔に対応する領域(第1の領域に対応する)を検出する処理が行われる(不図示)。更に器官情報検出部142は、当該画像信号から、顔情報検出部141で検出された顔に対応するに含まれる領域であって、瞳に対応する領域を検出する処理が行われる。
S201で、カメラ制御部131は、撮像された画像に対して、顔情報検出部141で顔が検出されたかどうかを判定する。顔が検出されていればS202に進み、顔一重枠表示フラグをセットする。
次にS203でカメラ制御部131は、器官情報検出部142によって瞳が検出されたかどうかを判定する。
S203で瞳が検出されていると、S204で、カメラ制御部131は、瞳指定中フラグがセットされているかどうかを判定する。
S203で瞳指定中フラグがセットされていない場合、S205において、カメラ制御部131は、前述のタッチパネル172の操作により左右どちらかの瞳が指定されたかどうかを判定する。より具体的には、カメラ制御部131は、瞳指定/指定解除部152が撮影者による操作に応じて、左右のどちらかの瞳を指定している状態かどうかを判定する。撮影者はタッチパネル172においてピントを合わせたい瞳をタッチすることにより左右どちらかの瞳を指定することができる。瞳指定のためのタッチ操作が行われた場合に、瞳が選択されたと判断する。
まだ瞳の指定が行われていない場合は、S206において瞳自動選択処理が実行される。瞳自動選択処理について、詳しくは図3で後述する。
S206で左右の瞳のどちらかが自動で選択されると、S207で、カメラ制御部131は、自動選択された瞳位置に対し、一重の瞳枠表示フラグをセットし、S216へと進む。
一方S205で瞳指定されていた場合、S208で、瞳指定記憶処理を行う。ここでは記憶部153が、指定された瞳が左目であるか右目であるかを記憶する処理が行われる。また、自動選択に関するパラメータをリセットする。本実施例における自動選択に関するパラメータは、自動選択した瞳の左右を変更するためのカウンタ、瞳自動選択中フラグであり、これらがリセット対象になる。
そして、S209において、カメラ制御部131は瞳指定中フラグをセットし、S211へと移行する。
さて、ここで一旦S204の処理に戻る。S204で瞳指定中フラグがセットされているという状態は、つまり、撮影者によって指定された左右どちらかの瞳が記憶部153に記憶されている状態であることを示している。瞳指定中フラグがセットされている、すなわち左右どちらかの瞳が撮影者により指定されている場合は、S210で次の処理を行う。カメラ制御部131は、S203で検出したとされている瞳がS208で記憶した、タッチパネル172で指定した瞳(第1の瞳に対応する)と一致しているかどうかを判定する。そして、指定した瞳が検出されている(第1の瞳に対応する第2の領域が検出されている)場合にはS211へと移行する。
S211では指定された瞳が画角上に存在する状況になっているため、指定された瞳位置に対して、瞳が指定されていることを示す二重枠の瞳表示フラグをセットし、S216へと進む。
さて、カメラ制御部131は、S203において器官情報検出部142で瞳が検出できなかった場合は、S212において、瞳指定中フラグがセットされているかどうかを判定する。ここで瞳指定中フラグがセットされていれば、瞳は検出できていないが顔はまだ検出されている状態であり、指定した瞳が再度検出できる可能性が高いと考えられる。そこで、カメラ制御部131は、瞳指定が継続していることを示すために、S213で顔二重枠表示フラグをセットし、S216へと進む。
S212で瞳指定中フラグがセットされていない場合は瞳が指定されておらず、また瞳の検出もできていない状態であり、そのままS216へと進むことになる。
一方、カメラ制御部131は、S210で検出していると判定された瞳が指定された瞳とは異なる瞳(第2の瞳に対応する)である(第2の瞳に対応する第3の領域が検出されている)場合にはS213に進む。S213で顔二重枠表示フラグをセットした後S216へと進む。
S213で顔二重枠表示フラグをセットするところが本発明の実施例1の特徴的なところであり、指定した瞳が見つからなくても、顔が見つかっている間は瞳指定フラグをクリアせずに、つまり、指定した左右どちらかの瞳を記憶したままという状態になる。また、顔二重枠表示を行うことで、撮影者に対し、瞳指定が解除されていないことを明示できるようになっている。
さて、カメラ制御部131は、S201で顔検出できなかった場合には、S214で瞳指定中フラグをクリアして瞳指定を解除する。さらに、カメラ制御部131は、S215で顔枠あるいは瞳枠ではなく、顔、瞳ともに検出できていない状態を示す多点枠表示を行うためのフラグをセットし、S216へと進む。
そして、S216において、焦点検出部155による焦点検出を行う。そして、当該焦点検出の結果に基づいて、レンズ制御部111がフォーカスレンズの駆動を制御する。ここで、S201で顔検出がなされてないと判断された場合には、例えば多点枠の各々に対応する画像信号に基づいて焦点検出が行われる。このとき、例えば多点枠のうち最至近の焦点検出結果を選択するなど、公知の方法で枠を選択し、選択された枠に対応する焦点検出結果によってフォーカスレンズの駆動が制御される。また、S203で瞳検出がなされていないと判断された場合には、顔に対応する領域の画像信号を用いて焦点検出が行われる。これら以外の場合には、S206又はS208において選択/指定された瞳として記憶された瞳に対応する領域の画像信号を用いて焦点検出が行われる。
また、S216において、セットされた枠表示フラグの条件に合わせて表示枠設定部151が表示枠設定部151により顔枠、瞳枠などを設定し、表示部171は当該設定に応じた表示を実行し、S217へと進む。
S217で、カメラ制御部131は、現在のフレームにおける検出結果に基づいて設定された枠表示フラグをすべてクリアする。この処理により、次のフレームの検出結果に対し、新たに表示する枠の状態が決定されることになる。
<瞳自動選択処理>
図3はS206でカメラ制御部131によって実行される瞳自動選択処理を説明するフローチャートである。
S301で、カメラ制御部131は、器官情報検出部142によって両目ともに検出されているか、片目のみが検出されているかを判定する。
両目が検出されている場合、S302において、瞳自動選択部150は、顔情報検出部141で検出された顔の向き、顔位置に応じて左右どちらかの瞳を選択する。例えば顔が正面を向いている場合、画角の中心に近い瞳が選択され、顔が左右のどちらかを向いている場合はカメラに近い側の瞳を選択する。
瞳自動選択部150は、S301で瞳が片側しか検出されていない場合は、S303で検出されている瞳を選択する。
次にS304で、カメラ制御部131は、現在瞳が自動選択中であるかどうかを判定している。自動選択中でない場合は、S312へと移行する。S312以降の処理は、瞳の自動選択が初めて実行される場合の処理となる。
そしてS312で、カメラ制御部131は、S302あるいはS303で選択した瞳を対象被写体として設定する。
S313で、カメラ制御部131は、今回対象被写体として選択した瞳が左右のどちらであるかを記憶部153記憶させ、S314で瞳自動選択中フラグをセットする。
一方、カメラ制御部131は、S304ですでにどちらかの瞳が対象被写体として選択されていた場合には、S305において、S302あるいはS303で選択された瞳が、前回対象被写体として設定した瞳と同じかどうかを判定する。同じでない場合はS306以降で、対象被写体として設定している瞳をもう一方の瞳に変更するかどうかを決定する処理を行う。
S306で、カメラ制御部131は、カウンタをインクリメントする。
S307で、カメラ制御部131は、カウンタが所定値以上かどうかを判定する。所定値以上の場合は、カメラ制御部131は、S308で、瞳自動選択部150に対象とする瞳を現在の瞳からもう一方の瞳へと変更させる。そして、カメラ制御部131は、S309で、記憶部153に対象としている瞳を新たに記憶させ直すよう制御する。そして、カメラ制御部131は、S310でカウンタをリセットし、次の瞳の変更処理に備える。
S307でカウンタが所定値以上になっていない場合は、カメラ制御部131は、S311で前回と同じ瞳を対象被写体として再設定する。あるいは、前回と同じ瞳が検出できていない場合は前回被写体として設定していた瞳と同じ位置を対象被写体として設定し、瞳の変更処理を保留する。このカウンタによる処理は、選択した瞳が切り替わり続けることにより表示が不自然になることを防ぐためである。
また、S305で選択した瞳が前回と同じ瞳だった場合は、カメラ制御部131は、S310でカウンタをクリアする。
以上のように、瞳自動選択処理では、例えば、顔が正面を向いている場合は画角内のより中心に近い瞳、また顔向きが正面ではなく左右どちらかに動いている場合にはより手前にある瞳を選択することによって、ピントが合わせやすくなるように設定する。また、選択していない方の瞳のピントが合いやすい状況になった場合には、選択する瞳を自動で切り替えるという動作を行っている。
<表示枠の表示例>
図4は、図2のフローチャートで示した表示枠の表示例を示したものであり、表示部171に表示される顔枠および瞳枠の例となる。
図4(a)は、瞳自動選択時の表示であり、S202→S203→S204→S205→S206→S207→S216と遷移した場合に表示される。
図4(b)は瞳指定時の枠表示であり、一重の顔枠と、二重の瞳枠が表示される。S205→S208→S209→S211→S216、あるいはS204→S210→S211→S216と遷移した場合の表示である。
また、図4(c)はS210→S213→S216、あるいはS203→S212→S213→S216と遷移した場合の表示で、瞳指定はしているが、指定した瞳が検出できなかった場合の表示枠である。
そして図4(d)は、S214→S215→S216と遷移した場合、すなわち顔が検出できなかった場合の多点枠表示となる。
尚、本実施例では、指定した瞳以外の瞳が検出された場合には顔枠のみを表示する構成としたが、これに限らない。指定した瞳以外の瞳のみが検出された場合には例えば瞳枠を一重にして、顔枠を二重枠にする(図4、(e)の表示)など、撮影者が瞳を指定中であることがわかるものであれば指定した瞳以外の瞳に枠がついても良い。
なお、本実施例ではピントを合わせるべき被写体として、左右どちらの瞳が選択されるかに着目して説明した。不図示であるが、選択された瞳に対応する撮像信号に基づいて、焦点検出部155による焦点検出処理が行われる。そして、焦点検出部155によって得られた焦点検出結果に基づいて、基づいて算出されたフォーカスレンズ駆動情報(フォーカスレンズの駆動情報又はこれに類する情報)を、カメラ制御部131がレンズ制御部111に送信する。これにより、適切な瞳にピントを合わせることができる。本実施例でユーザの指定した瞳に対してピントを合わせるようにカメラ制御部131がフォーカスレンズ104の駆動を制御するモードが、第1のモードに対応する。また、瞳自動選択処理によって選択された瞳に対してピントを合わせるようにカメラ制御部131がフォーカスレンズ104の駆動を制御するモードが、第2のモードに対応する。
以上、説明したように、左右、どちらかの瞳が指定された場合に、瞳に対応した顔の検出が継続されている間は、指定状態を設定し続ける。これにより、撮影者が撮影を望んで設定した瞳にピントを合わせ続けることが可能である。また、当該顔が検出されなくなった場合には、当初撮影者が意図していたシーンとは異なるシーンになったと考えられることから、ユーザによる瞳の指定を解除して自動的に選択された瞳にピントを合わせる。これにより、シーンの変化にも柔軟に対応して瞳にピントを合わせ続けることが可能である。さらに、常に指定した瞳が選択できることにより、撮影者が望んだ瞳に対し常にピントを合わせることができる。
なお、本実施例では瞳に対応した顔の検出が継続されている間は瞳の指定状態を維持し、顔が検出されなくなったことに応じてユーザによる瞳の指定を解除する例を説明したが。ここで、顔に代えて人体や頭部を用いても良い。瞳に対応する人体や頭部を用いることで、顔の場合と同様、撮影者が意図している被写体を捉えることができている間は意図した瞳にピントを合わせ続けることができる。
次に、本発明の第2の実施形態について説明する。本実施例では、ユーザによって顔認証された被写体について、左右のいずれかの瞳をAFの対象被写体として指定することができる。これにより、顔自体を一時的に見失ったり、大きく構図が変化した場合であっても、同じ人を再び捉えた場合には同じ瞳にピントを合わせることができる。
本実施例の構成や処理で、実施例1と同じ構成は極力説明を省略し、差異を中心に説明する。実施例2においては、顔情報検出部141が公知の顔認証機能を有する点が異なる。顔認証機能では、顔情報検出部141によって検出された顔であってユーザによって指定操作がなされた顔を特定するための情報(顔の特徴点情報などであり、認証情報とも称する)を不図示のメモリに記憶しておく機能である。これにより、例えば顔認証がなされた顔は優先的にピントを合わせるようにすることもできる。ここで、本実施例では、このユーザによって登録された認証情報とともに、ユーザによって左右いずれの瞳が選択されたかに関する情報(指定情報とも称する)を紐づけて記憶させておく。これにより、顔認証機能によって認証された顔に関しては、常に同じ瞳にピントを合わせることが可能である。
図5は実施例2に関するカメラ制御部131内のフローチャートを示している。図5において図2と共通する部分は極力説明を省略し、主に図2との差異部分に着目して説明する。
S501で、カメラ制御部131は、顔情報検出部141によって顔が検出されているかどうかを判定する。
顔が検出されていると、S502で、カメラ制御部131は、検出された顔が顔情報検出部141によって認証済か否かを判定する。
認証済でない場合、S503で、カメラ制御部131は、現在検出されている顔に対する顔認証の指定があったか否かを判定する。この顔認証の指定は、現在検出されている顔を撮影者が認証したい場合に、例えばタッチパネル172上の操作によって行われる。
そして、カメラ制御部131は、顔認証の指定がなされている場合には、S504で顔情報検出部141が指定された顔の認証を行うよう制御する。また、カメラ制御部131は、顔の認証情報を記憶部153に記憶させるよう制御する。さらに、カメラ制御部131は、認証済フラグをセットする。
S502ですでに認証が行われている場合は、S505で、カメラ制御部131は、認証を解除するための情報をリセットする。この認証を解除するための情報については、後に詳細に説明する。
S502~S505で一連の認証関連の設定が終わると、S506に進む。ここで、S506~S517、およびS519~S521のフローに関しては、実施例1の図2、S202~S213、およびS215~S217までの処理と同一のため、説明は省略する。ただし、S512において瞳の指定情報を不図示のメモリに記憶する際には、S504にて記憶された認証情報と紐づけて記憶するようカメラ制御部131が制御する。
さて、S501で顔検出してない場合はS518に進み。ここで、カメラ制御部131は、認証状態確認処理を実行するよう制御する。
<認証状態確認処理>
図6はS518の認証状態確認処理を詳細に示した図であり、図6を用いてS518の処理、また、認証を解除するための情報に関して詳細に説明する。
S601で、カメラ制御部131は、現在顔認証中かどうかを判定している。認証中でない場合は、実施例1と同様、S605で瞳指定中フラグをクリアする。一方顔認証中である場合、S602に進み、S602以降で、カメラ制御部131は、認証を解除するかどうかの判定を行うよう制御する。ここではその一例として顔を見失ってからの時間経過が所定時間以上になった場合に認証を解除するような設定としている。すなわち、顔が検出できなくなり、図6(図5、S518)の処理に進むたびにS602でカウンタを加算していき、S603でカウンタの値が閾値以上かどうかを判定する。カウンタの値が閾値を超えていない場合は何もせずこのフローの処理を終了する。閾値以上になると、S604に進み、カメラ制御部131は、認証済フラグをクリアする。この処理により、所定時間が過ぎても顔が再び検出されなければ、認証を解除し、瞳指定も同時に解除されることになる。前述の認証を解除するための情報はこの例ではカウンタ値に相当し、カウンタ値が閾値に達する前に再度認証した顔が見つかれば、カウンタをリセットすることで、初期状態に戻すことができる。
顔が検出できなくなった後、長く時間が経過している場合は、撮影シーンが大きく変化し、撮影対象も変化した可能性が高いと考えられるため、この処理を行うことで、認証状態を自動で解除することが可能となる。
もちろんこのカウンタの閾値を撮影者が設定可能にし、閾値を無限に設定しておけば、認証した人を検出するたびに必ず同じ瞳が指定されるようにすることもできる。
さらに本実施例では顔の認証は撮影者の設定により行われる構成としたが、他にも例えば検出した顔に対して自動で認証を行い、その後、瞳指定が行われた場合に認証結果を有効にするといった構成にしても構わない。以上説明したように、認証機能を使用することにより、さらに撮影者の意図を損なうことなく必要な検出動作が行われることになる。
<その他の実施例>
以上、2つの実施例によって本発明をその好適な実施形態に基づいて詳述してきたが、本発明はこれら特定の実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の様々な形態も本発明に含まれる。上述の実施形態の一部を適宜組み合わせてもよい。
また、上述の実施形態の機能を実現するソフトウェアのプログラムを、記録媒体から直接、或いは有線/無線通信を用いてプログラムを実行可能なコンピュータを有するシステム又は装置に供給し、そのプログラムを実行する場合も本発明に含む。従って、本発明の機能処理をコンピュータで実現するために、該コンピュータに供給、インストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明の機能処理を実現するためのコンピュータプログラム自体も本発明に含まれる。その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等、プログラムの形態を問わない。プログラムを供給するための記録媒体としては、例えば、ハードディスク、磁気テープ等の磁気記録媒体、光/光磁気記憶媒体、不揮発性の半導体メモリでもよい。また、プログラムの供給方法としては、コンピュータネットワーク上のサーバに本発明を形成するコンピュータプログラムを記憶し、接続のあったクライアントコンピュータはがコンピュータプログラムをダウンロードしてプログラムするような方法も考えられる。
122 撮像素子
124 カメラ信号処理回路
131 カメラ制御部
141 顔情報検出部
142 器官情報検出部
150 瞳自動選択部
151 表示枠設定部
152 瞳指定/指定解除部
153 指定瞳記憶部
171 表示部
172 タッチパネル

Claims (6)

  1. 撮像素子から出力された画像信号に基づいて第1の領域を検出する第1の検出手段と、
    前記第1の領域に含まれる、第1の瞳に対応する第2の領域又は前記第1の瞳とは異なる第2の瞳に対応する第3の領域を検出する第2の検出手段と、
    前記第2の領域又は前記第3の領域のいずれかを自動的に選択する選択手段を有し、
    ユーザによって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズを駆動する第1のモードと、前記選択手段によって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズの駆動を制御する第2のモードと、のいずれかのモードによってフォーカスレンズの駆動を制御する制御手段と、を有し、
    前記制御手段は、前記第1の検出手段によって前記第1の領域が検出されなくなった場合には、前記第1のモードから前記第2のモードへと移行することを特徴とする撮像装置。
  2. 前記制御手段は、前記第1の検出手段によって前記第1の領域の検出が継続されている場合に、前記第2の検出手段によって前記第2の領域が検出されなくなった場合には、前記第1の領域に対応する画像信号に基づいてフォーカスレンズを駆動することを特徴とする請求項1に記載の撮像装置。
  3. 前記制御手段は、前記第1の検出手段によって前記第1の領域の検出が継続されている場合に前記第2の検出手段によって前記第2の領域が検出されなくなってから、前記第2の検出手段によって前記第2の領域が検出された場合には、前記第2の領域に対応する画像信号に基づいてフォーカスレンズの駆動を制御することを特徴とする請求項2に記載の撮像装置。
  4. ユーザによって登録された顔と当該顔に含まれる瞳に対するユーザの指定情報を記憶する記憶手段を有し、
    前記選択手段は、前記第1の検出手段によって前記顔が検出されなくなった場合であっても、当該顔がユーザによって登録された顔である場合には、前記第1の瞳への指定を解除しないことを特徴とする請求項1乃至請求項3のいずれか1項に記載の撮像装置。
  5. 前記第1の領域は顔に対応する領域であることを特徴とする請求項1乃至請求項4のいずれか1項に記載の撮像装置。
  6. 撮像素子から出力された画像信号に基づいて第1の領域を検出する第1の検出ステップと、
    前記第1の領域に含まれる、第1の瞳に対応する第2の領域又は前記第1の瞳とは異なる第2の瞳に対応する第3の領域を検出する第2の検出ステップと、
    前記第2の領域又は前記第3の領域のいずれかを自動的に選択する選択手段を有し、
    ユーザによって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズを駆動する第1のモードと、前記選択手段によって選択された前記第2の領域又は前記第3の領域に対応する画像信号に基づいてフォーカスレンズの駆動を制御する第2のモードと、のいずれかのモードによってフォーカスレンズの駆動を制御する制御ステップと、を有し、
    前記制御ステップでは、前記第1の検出ステップにおいて前記第1の領域が検出されなくなった場合には、前記第1のモードから前記第2のモードへと移行することを特徴とする撮像装置の制御方法。
JP2019007011A 2019-01-18 2019-01-18 撮像装置及びその制御方法 Active JP7277149B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2019007011A JP7277149B2 (ja) 2019-01-18 2019-01-18 撮像装置及びその制御方法
US16/741,181 US11050923B2 (en) 2019-01-18 2020-01-13 Imaging apparatus and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019007011A JP7277149B2 (ja) 2019-01-18 2019-01-18 撮像装置及びその制御方法

Publications (2)

Publication Number Publication Date
JP2020118717A JP2020118717A (ja) 2020-08-06
JP7277149B2 true JP7277149B2 (ja) 2023-05-18

Family

ID=71608477

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019007011A Active JP7277149B2 (ja) 2019-01-18 2019-01-18 撮像装置及びその制御方法

Country Status (2)

Country Link
US (1) US11050923B2 (ja)
JP (1) JP7277149B2 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007312249A (ja) 2006-05-19 2007-11-29 Canon Inc 画像処理装置及び画像処理方法
JP2011013683A (ja) 2010-08-13 2011-01-20 Ricoh Co Ltd 撮像装置、自動合焦方法、およびその方法をコンピュータが実行するためのプログラム
JP2014017665A (ja) 2012-07-09 2014-01-30 Canon Inc 表示制御装置、表示制御装置の制御方法、プログラムおよび記録媒体
JP2016197179A (ja) 2015-04-03 2016-11-24 キヤノン株式会社 焦点検出装置およびその制御方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7792335B2 (en) * 2006-02-24 2010-09-07 Fotonation Vision Limited Method and apparatus for selective disqualification of digital images
US20060182433A1 (en) * 2005-02-15 2006-08-17 Nikon Corporation Electronic camera
JP4747003B2 (ja) * 2005-06-22 2011-08-10 富士フイルム株式会社 自動合焦制御装置およびその制御方法
JP4218720B2 (ja) * 2006-09-22 2009-02-04 ソニー株式会社 撮像装置、および撮像装置制御方法、並びにコンピュータ・プログラム
US8102465B2 (en) * 2006-11-07 2012-01-24 Fujifilm Corporation Photographing apparatus and photographing method for photographing an image by controlling light irradiation on a subject
US7634187B2 (en) * 2007-01-04 2009-12-15 Qualcomm Incorporated Dynamic auto-focus window selection that compensates for hand jitter
JP4518131B2 (ja) * 2007-10-05 2010-08-04 富士フイルム株式会社 撮像方法及び装置
JP2010015024A (ja) * 2008-07-04 2010-01-21 Canon Inc 撮像装置、その制御方法、プログラム及び記憶媒体
IL215883A0 (en) * 2011-10-24 2012-03-01 Iriss Medical Technologies Ltd System and method for indentifying eye conditions
JP5911557B2 (ja) 2014-12-16 2016-04-27 オリンパス株式会社 撮像装置
DK179948B1 (en) * 2017-05-16 2019-10-22 Apple Inc. Recording and sending Emoji
US10537244B1 (en) * 2017-09-05 2020-01-21 Amazon Technologies, Inc. Using eye tracking to label computer vision datasets

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007312249A (ja) 2006-05-19 2007-11-29 Canon Inc 画像処理装置及び画像処理方法
JP2011013683A (ja) 2010-08-13 2011-01-20 Ricoh Co Ltd 撮像装置、自動合焦方法、およびその方法をコンピュータが実行するためのプログラム
JP2014017665A (ja) 2012-07-09 2014-01-30 Canon Inc 表示制御装置、表示制御装置の制御方法、プログラムおよび記録媒体
JP2016197179A (ja) 2015-04-03 2016-11-24 キヤノン株式会社 焦点検出装置およびその制御方法

Also Published As

Publication number Publication date
US11050923B2 (en) 2021-06-29
US20200236293A1 (en) 2020-07-23
JP2020118717A (ja) 2020-08-06

Similar Documents

Publication Publication Date Title
JP5409189B2 (ja) 撮像装置及びその制御方法
CN108377329B (zh) 摄像装置及其控制方法
US11812133B2 (en) Image processing apparatus and method for controlling image processing apparatus
US11450131B2 (en) Electronic device
JP7154758B2 (ja) 画像処理装置及びその制御方法
JP7293025B2 (ja) 撮像装置およびその制御方法
CN114882543A (zh) 图像处理设备、图像处理方法和计算机可读存储介质
JP7446913B2 (ja) 電子機器、電子機器の制御方法、プログラム
CN113364945A (zh) 电子装置、控制方法和计算机可读介质
JP7433788B2 (ja) 制御装置、撮像装置、制御方法、プログラム
JP7277149B2 (ja) 撮像装置及びその制御方法
JP6465566B2 (ja) 撮像装置及び撮像方法
JP6745682B2 (ja) 撮像装置、制御方法、プログラム、及び記憶媒体
JP2011017754A (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP6700693B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
JP7110078B2 (ja) 撮像装置、撮像方法
CN113286074A (zh) 电子装置、电子装置的控制方法以及计算机可读介质
CN112040095A (zh) 电子装置、电子装置的控制方法及存储介质
JP2021180347A (ja) 制御装置、撮像装置、制御方法、およびプログラム
JP7377078B2 (ja) 画像処理装置および画像処理方法、ならびに撮像装置
JP2021082866A (ja) 表示装置
JP2020046504A (ja) 撮像装置、その制御方法、およびプログラム
JP2021078075A (ja) 表示装置
JP2016122132A (ja) 像振れ補正装置並びにその制御方法、プログラム及び記憶媒体
JP2021082865A (ja) 表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220117

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220928

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221202

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230303

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230404

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230508

R151 Written notification of patent or utility model registration

Ref document number: 7277149

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151