JP2006295888A - 撮像装置およびディスプレイの制御方法 - Google Patents

撮像装置およびディスプレイの制御方法 Download PDF

Info

Publication number
JP2006295888A
JP2006295888A JP2006015096A JP2006015096A JP2006295888A JP 2006295888 A JP2006295888 A JP 2006295888A JP 2006015096 A JP2006015096 A JP 2006015096A JP 2006015096 A JP2006015096 A JP 2006015096A JP 2006295888 A JP2006295888 A JP 2006295888A
Authority
JP
Japan
Prior art keywords
feature value
display
image data
subject
circuit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006015096A
Other languages
English (en)
Other versions
JP4324170B2 (ja
Inventor
Yoshihiro Saga
吉博 嵯峨
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2006015096A priority Critical patent/JP4324170B2/ja
Priority to US11/369,157 priority patent/US7672580B2/en
Publication of JP2006295888A publication Critical patent/JP2006295888A/ja
Application granted granted Critical
Publication of JP4324170B2 publication Critical patent/JP4324170B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B13/00Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
    • G03B13/18Focusing aids
    • G03B13/30Focusing aids indicating depth of field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2101/00Still video cameras

Abstract

【課題】 被写体検出技術を用いて、被写体を自動で抽出し、記憶されたデータとの比較結果に基づきディスプレイに情報を表示することで、ユーザーの撮影の負担を減らす撮像装置を提供する。
【解決手段】 この撮像装置は、撮像素子の出力から生成された画像データから、検出対象となる被写体を検出して被写体の特徴を示す特徴値を演算する検出回路と、検出回路にて演算された特徴値を記憶する記憶回路を備える。そして、検出回路が前記ディスプレイに表示された画像データから演算した特徴値と、記憶回路に記憶された特徴値を比較し、ディスプレイが、この比較結果に応じた情報を表示する。
【選択図】 図1

Description

本発明は撮像装置、および、ディスプレイの制御方法に関するものである。
撮像した画像データの中から被写体の顔の特徴的な部位を検出したり、肌色部分を検出することで、顔領域を自動で検出する顔検出技術を用いて、入力された画像から顔画像を抽出する技術がある。特開2004−013871号公報には、特定の画像データを参照画像として登録し、新たに入力された画像データが参照画像に合致するかを判断する技術が提案されている。
例えば、特開平09−251534号公報では、予め登録された顔の画像データを識別対象となる画像データとの相関値を計算することで、顔が存在する領域を特定する方法が開示されている。また、特開平10−162118号公報では、画像データを周波数帯域別に複数に分割して顔が存在する可能性が高いと推定される領域を限定し、限定した領域に対して予め登録された顔画像データとの相関値を計算する方法が開示されている。
これらの技術をカメラに応用した例を説明する。
特開2003−107335号公報では、画像データから形状解析等の手法によって主被写体を自動的に検出し、検出された主被写体に対して焦点検出エリアを表示する。そして、この焦点検出エリアに対して焦点調節処理を行わせる方法が開示されている。特開2004−317699号公報では、画像データから特徴点を抽出することで主被写体である顔の存在する領域を識別し、この領域の大きさに応じて焦点検出エリアを設定する方法が開示されている。また、特開2004−320286号公報では、画像データから特徴点を抽出することで顔の存在する領域を識別し、この領域の大きさに応じてズーム駆動を行う方法が開示されている。
特開2004−013871号公報 特開平09−251534号公報 特開平10−162118号公報 特開2003−107335号公報 特開2004−317699号公報 特開2004−320286号公報
ところで、スポーツをしている被写体はその動きが激しいため、撮影したい特定の選手を光学ファインダーを用いて、あるいは、撮像装置の背面モニターを用いて発見することは難しかった。
また、カメラマンとしてパーティーや遠足といった行事に参加した場合には、参加者を偏り無く撮るように要求されることになる。しかしながらこのような行事には不特定多数の人物が参加することも多く、カメラマンが全ての参加者について撮影が済んだかを確認することは大変な労力を有する。上記の文献に開示された技術を用いれば、予め行事の参加者の顔の画像データを参照画像として登録し、撮影された画像データと比較することで、撮影が済んでいない参加者を検索することができる。また、誰を何枚撮影したかを調べることもできる。しかし、この方法では、事前に参加者の画像データを参照画像として登録をする手順が必要となり、手間を要する。また、急な撮影の依頼であり、参加者の画像データを参照画像として登録することができない場合には、この方法を用いることはできない。
そこで、本発明は、被写体検出技術を用いて、被写体を自動で抽出し、記憶されたデータとの比較結果に基づきディスプレイに情報を表示することで、ユーザーの撮影の負担を減らすことを課題としている。
上記課題を解決するため、本願に係る撮像装置は、撮像素子と、撮像素子の出力から生成された画像データから、検出対象となる被写体を検出し、検出した被写体の特徴を示す特徴値を演算する検出回路と、前記検出回路にて演算された特徴値を記憶する記憶回路と、前記検出回路にて得られた特徴値と、前記記憶回路に記憶されている特徴値を比較する比較回路と、撮像素子の出力から生成される画像データを用いて、動画表示を行うディスプレイと、を備え、前記比較回路は、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶回路に記憶された特徴値を比較し、前記ディスプレイは、この比較結果に応じた情報を表示することを特徴とするものである。
同様に上記課題を解決するため、本願に係るディスプレイの制御方法は、撮像素子の出力から生成された画像データから、検出対象となる被写体を検出し、検出した被写体の特徴を示す特徴値を演算する検出工程と、前記検出工程にて演算された特徴値を記憶する記憶工程と、前記検出工程にて得られた特徴値と、前記記憶工程に記憶されている特徴値を比較する比較工程と、撮像素子の出力から生成される画像データを用いて、ディスプレイに動画表示を行わせる表示工程と、を備え、前記比較工程では、前記検出工程が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶工程に記憶された特徴値を比較し、前記表示工程では、前記ディスプレイに、この比較結果に応じた情報を表示させることを特徴とするものである。
本発明によれば、被写体検出技術を用いて、被写体を自動で抽出し、記憶されたデータとの比較結果に基づきディスプレイに情報を表示することで、ユーザーの撮影の負担を減らすことができる。
以下、図面を用いながら、本発明の好適な実施形態について説明を行う。
(第1の実施形態)
第1の実施形態における撮像装置100の構成を図1に示す。本実施形態では撮像装置として、電子スチルカメラを例にあげて説明を行う。
図1において、101は被写体像を撮像素子102に結像するための対物レンズ群である。102は対物レンズ群101により結像された被写体像をアナログの画像データとして出力する光電変換機能を有するCCD等の撮像素子である。103は撮像素子102にて光電変換されたアナログの画像データをデジタルの画像データに変換するA/Dコンバータである。104はA/Dコンバータ103にてデジタルの画像データに変換された画像データに種々の画像処理を施し、表示用画像データや記録用画像データを生成する画像処理回路である。105は画像データを転送するためのデータバスである。106はディスプレイ108に画像を表示するための表示用画像データを加工する表示回路である。107は表示用画像データをアナログの画像データに変換して出力するD/Aコンバータである。108はD/Aコンバータ107にてアナログの画像データに変換した表示用画像データを表示するための液晶モニターからなるディスプレイである。109は撮像装置100の処理のプログラムや撮像処理に必要なデータを格納するフラッシュメモリ等のシステム記憶部である。110はシステム記憶部109にデータを転送するためのシステム記憶部コントローラである。111は撮影した画像データを記録する書き換え可能なメモリカードである。112はメモリカード111を着脱可能にするメモリソケットである。113は撮影された画像データを、メモリソケット112を介してメモリカード111に転送するためのメモリカードコントローラである。114は撮像装置100の各種プログラムを実行するCPUである。CPU114はシステム記憶部109に記憶されているプログラムに従って撮影処理を制御する。
115は撮像装置100の各種スイッチ類の信号を制御するインターフェース部である、Input/Outputインターフェース部(これよりI/Oインターフェース部という)である。116は撮像装置100の処理モードをユーザーが指定するためのモードスイッチである。処理モードとしては、撮影を行うための撮影モード、撮影した画像をディスプレイ108にて見るための再生モード、および、検出対象となる被写体の特徴値を記憶させる登録モードがある。117はユーザーが撮像装置100に対する指示を入力するための十字キーからなる送りボタンである。118は静止画の撮影を指示するシャッターボタンである。このシャッターボタンをストロークの半分だけ押し込む(これより、半押しという)ことで不図示のスイッチSW1がオンし、ストロークの全てを押し込む(これより、全押しという)ことで不図示のスイッチSW2がオンする。119はディスプレイ108で画像を表示するために、表示回路106にデータバス105を介して、画像処理回路104から送られる表示用画像データを保持するためのDRAMである。120はDRAM119をデータバス105に接続するメモリコントローラである。
121はデータバス105を介して送られてくる表示用画像データと、パラメータ保持回路124から読み出したパラメータを用いて、検出対象となる被写体の特徴的な部分、例えば人の顔を画像データから検出することができる特徴検出回路である。特徴検出回路121は検出した特徴的な部分を特徴値として算出し、CPU114はこの特徴値を特徴値記憶回路122に転送して記憶させる。なお、過去の撮影によって生成した特徴値をメモリカード111またはシステム記憶部109に保存させておくことも可能である。CPU114はこれらメモリカード111またはシステム記憶部109に記憶された特徴値をデータバス105を介して読み出し、特徴値記憶回路122に記憶させる。123は特徴値を比較する特徴値比較回路であり、特徴検出回路121が出力する特徴値と特徴値記憶回路122から読み出した特徴値を比較し、一致の度合いを演算する。特徴値比較回路123は、この一致の度合いが高ければ、すなわち類似していれば特徴検出回路121によって検出された特徴値を有する被写体と、特徴値記憶回路122に記憶された特徴値を有する被写体とが同一であると判定する。
ここで、画像データから顔を検出する技術としては、様々な手法が公知となっている。例えば、ニューラルネットワークに代表される学習を用いた方法がある。また、目、鼻、口、および、顔の輪郭といった物理的な形状の特徴のある部位を画像データからテンプレートマッチングを用いて識別する手法がある。他にも、肌の色や目の形といった画像データの特徴量を検出し統計的解析を用いた手法があげられる(例えば、特開平10−232934号公報や特開2000−48184号公報等を参照)。さらに、直前の顔領域が検出された位置の近傍であるかを判定したり、服の色を加味するために顔領域の近傍の色を判定したり、あるいは、画面の中央付近ほど顔識別のための閾値を低く設定したりする方法がある。または予め主被写体が存在する領域を指定させてヒストグラムや色情報を記憶し、相関値を求めることで主被写体を追尾する方法がある。本実施形態では、一対の目(両目)、鼻、口、および、顔の輪郭を検出し、これらの相対位置より人の顔領域を決定する手法により顔領域の識別処理を行っている。
また、特徴検出回路121はパラメータ保持回路124から読み出すデータに応じて、人の顔以外の対象(例えば、動物、選手の背番号、特定の車)を検出することも可能である。例えば、特開平5−89244号公報には、カメラで撮像した画像データ中のナンバープレートの文字を認識する方法が提案されている。例えばスポーツ選手のユニフォームの背番号を特徴値として予め記憶し、撮影した静止画から、上記の特徴と一致する部分を検索する。また、特開平07−231733号公報には、魚を写した画像データを用いて魚の全長と体高より魚の種別を認識する方法が提案されている。この技術は動物の検出にも応用できる。このように特徴検出回路121はパラメータ保持回路124から読み出すデータに応じて、任意の被写体を検出することができる。
125は撮影履歴スイッチである。本実施形態では、撮影履歴スイッチ125はユーザーによって操作され、撮影履歴スイッチがオンとなっている間を履歴期間として設定する。履歴期間以外では、特徴値比較回路123は、特徴検出回路121が出力する特徴値と特徴値記憶回路122から読み出した全ての特徴値を比較する。反対に履歴期間では、特徴値比較回路123は、特徴検出回路121が出力する特徴値と、履歴期間に新たに特徴値記憶回路122に記憶された特徴値を比較する。つまり、撮影履歴スイッチ125がオンされた場合は、特徴値比較回路123は、撮影履歴スイッチ125のオンによって設定された履歴期間よりも前に特徴値記憶回路122に記憶された特徴値を用いない。
126は焦点調節回路であり、対物レンズ群101内のフォーカスレンズを駆動することで、撮像素子102に結像される被写体像の合焦状態を調節する。127は露出量調節回路であり、対物レンズ群101の間、あるいは、対物レンズ群101の隣に配置された絞りやシャッターを制御することで、撮像素子102に到達する光量を調節する。
この撮像装置100は、シャッターボタン118が全押しされてスイッチSW2がオンするよりも前の段階では、撮像素子102の周期的な出力を用いて表示用画像データを随時更新し、ディスプレイ108に被写体の動画像を表示するモニター処理を連続して行う。モニター処理では被写体の画像が連続して更新された動画像が表示されるので、ユーザーはディスプレイ108に表示された画像を見ながら、被写体の様子を観察し、撮影のタイミングを計ることができる。また、このモニター処理に並行して、特徴検出回路121による特徴検出処理が連続して行われる。本実施形態では特徴検出処理として人の顔を検出する顔検出処理を行うものであり、パラメータ保持回路124には人の顔の特徴を示す値をあらかじめ記録しておく。特徴検出回路121によって人の顔が検出され、ディスプレイ108は、人の顔が検出された位置に、そのことを示す枠を被写体の画像に重畳して表示する。
撮像装置100は検出された顔の位置に対して、焦点調節を行うため、被写体が移動したり画角が変化したりしても、撮像装置100は人の顔の位置に焦点を合わせることができる。また、撮像装置100は検出された顔の位置の重み付けを最も大きくして、露出量を調節するので、画角が変化したり被写体が移動したりしても、撮像装置100は人の顔の輝度を適正化した画像データを得ることができる。
また、シャッターボタン118によって撮影のタイミングが指示されると、撮影直後に、撮影した画像がディスプレイ108に表示される。この処理により、ユーザーは撮影の成否を確認することができる。
次に図2に示すフローチャートを用いて撮像装置100の撮影処理を説明する。
モードスイッチ116によって撮影モードが設定されると、図2に示すフローチャートが開始される。
ステップS101にて、CPU114は撮影履歴スイッチ125の状態の確認を行う。撮影履歴スイッチ125がオンされていれば履歴期間が設定されていると判定する。
ステップS102にて、CPU114は撮像素子102の出力を用いて表示用画像データを生成し、ディスプレイ108に被写体の画像を表示するモニター処理を開始させる。
ステップS103にて、撮像素子102が光電変換を行ってアナログの画像データを出力し、画像処理回路104がアナログの画像データから得られたデジタルの画像データを基に表示用画像データを生成し、DRAM119に記憶させる。そしてディスプレイ108がこの表示用画像データを用いて被写体の画像を表示する。
ステップS104にて、特徴検出回路121がDRAM119に記憶された表示用画像データを読出し、パラメータ保持回路124から読み出したパラメータを用いて、顔検出処理を行い、特徴値を算出する。複数の顔が検出された場合には、それぞれの顔に対して特徴値を算出する。顔検出処理は、表示用画像データの基となるデジタルの画像データや、このデジタルの画像データから別に生成された検出用画像データから行っても構わない。
ステップS105にて、CPU114はステップS104での顔検出処理が成功したかを判定し、成功していればステップS106に進み、失敗していればステップS115に進む。
顔の検出処理が成功していれば、ステップS106にて、CPU114は撮影履歴スイッチ125がオンされているかを判定する。撮影履歴スイッチ125がオンされていればステップS107に進み、特徴値記憶回路122から履歴期間に記憶された特徴値として、後述する履歴フラグが設定された特徴値を読み出す。履歴フラグが設定された特徴値については、後述する。
撮影履歴スイッチ125がオンされていなければステップS108に進み、特徴値記録回路122から全ての特徴値を読み出す。この特徴値にはメモリカード111またはシステム記憶部109から読み出した特徴値も含まれる。
ステップS109にて、特徴値比較回路123は、ステップS107あるいはステップS108で読み出した特徴値と、ステップS104にて得られた特徴値を比較する。そして比較した結果、これらの特徴値の類似度が基準となるレベルを満たしており、これらの特徴値が同一の被写体に対するものであると判定された場合はステップS110に進み、そうでなければステップS111に進む。
ステップS110にて、CPU114は特徴値記憶回路122から、同一の被写体と判定された特徴値に付随して記憶された撮影回数を読み出し、システム記憶部109に撮影回数を記憶させる。この撮影回数は、付随する特徴値を有する被写体が何回撮影されたかを示すものである。特徴値記憶回路122には、履歴期間が設定されている間の撮影回数と、履歴期間に関係なく今までの全ての撮影回数とが、別々に記憶されている。
ステップS111にて、CPU114はシステム記憶部109に、ステップS104にて検出された顔の座標データを記憶させる。
ステップS112にて、特徴値比較回路123がステップS104にて検出された全ての顔に対して特徴値の比較が済んだかを判定する。この比較が済んでいればステップS113に進む。済んでいなければステップS106に戻り、残りの顔に対しても特徴値の比較を行う。
ステップS113にて、CPU114は検出したそれぞれの顔に対してシステム記憶部109に記憶した座標データを参照し、ディスプレイ108に、それぞれの顔の大きさに沿わせた顔検出枠を重畳させた画像を表示させる。
ステップS114にて、CPU114はさらにディスプレイ108に、検出したそれぞれの顔に対して、顔検出枠の近傍に、システム記憶部109に記憶させた撮影回数を被写体像に重畳させた画像を表示させる。このとき履歴期間が設定されていれば、履歴期間が設定されている間の撮影回数を表示し、履歴期間が設定されていなければ、今までの全ての撮影回数を表示する。
図4に、このときのディスプレイ108に表示される画像の例を示す。検出された顔を覆う矩形の顔検出枠が表示され、その近傍には撮影回数が表示されている。この顔検出枠の形は矩形に限定されるものではなく、楕円形や、検出された顔の輪郭に沿う形であっても構わない。本実施形態では、未撮影の人物と判定された顔には顔検出枠の表示のみを行い、撮影回数の表示は行わない。また、未撮影の顔を囲う顔検出枠と、撮影済みの顔を囲う顔検出枠の色を異ならしめることにより、ユーザーが容易に撮影済みか否かを判定することができる。本実施形態では未撮影の顔を囲う顔検出枠を黄色で表示し、撮影済みの顔を囲う顔検出枠を橙色で表示している。なお、未撮影の顔が検出された場合、その旨を音声で示す構成としても良い。
ステップS115にて、CPU114は、ステップS104にて顔検出処理が成功していれば、検出された顔の位置を基準として、焦点調節回路126と露出量調節回路127を制御し、焦点調節処理および露出量調節処理を行う。この焦点調節処理および露出量調節処理は、図ではAF、AEと記してある。ステップS104で顔検出処理に失敗していれば、公知の手法、例えば中央エリアの重み付けを周囲のエリアよりも大きくした中央重点法を用いた焦点調節処理、露出量調節処理を行う。
ステップS116にて、CPU114はシャッターボタン118が半押しされてスイッチSW1がオンされたかを判定する。スイッチSW1がオンされていればステップS117に進み、オンされていなければステップS103に戻る。
スイッチSW1がオンされれば、焦点状態および露出量を固定し、シャッターボタン118が全押しされてスイッチSW2がオンされるまで待機する。
ステップS117にて、撮像素子102の出力を用いて表示用画像データを更新し、ディスプレイ108に表示する被写体像を更新する。
ステップS118にて、CPU114はシャッターボタン118が全押しされてスイッチSW2がオンされたかを判定する。スイッチSW2がオンされれば図3のステップS121に進み、オンされていなければステップS116に戻る。スイッチSW2がオンされることなく、スイッチSW1がオンされた状態が保持されると、ステップS116、S117を繰り返し、顔検出や焦点調節が行われることなく、ディスプレイ108に表示される画像の更新のみが継続される。
このように本実施形態では、被写体の様子を観察するモニター処理において、ディスプレイ108に表示されている被写体が撮影済みであるか、および、何回撮影されたかを一目で把握することができる。したがって、カメラマンとしてパーティーや遠足といった行事に参加した場合、これらの団体のメンバーを把握していなくとも、この団体に撮像装置100を向けるだけで、誰が撮影済みでないのかを容易に把握することができる。
フローチャートに戻り、ステップS118でスイッチSW2がオンされると、図3のステップS121に進み、CPU114は撮影処理を行う。撮像素子102から出力されたアナログの画像データをA/Dコンバータ103にてデジタルの画像データに変換し、画像処理回路104にて輝度値の修正およびホワイトバランス調節が施され、メモリ上に画像データとして記録される。さらにこの画像データを圧縮した表示用画像データをDRAM119異なる領域に生成する。画像処理回路104は画像データを圧縮して記録用画像データを生成する。
ステップS122にて、CPU114はメモリカードコントローラ113を用いて記録用画像データをメモリカード111に転送する。
ステップS123にて、特徴検出回路121がDRAM119に記憶された表示用画像データを読出し、パラメータ保持回路124から読み出したパラメータを用いて、画像データから顔の検出処理を行い、特徴値を算出する。
ステップS124にて、CPU114はステップS123での顔検出処理が成功したかを判定し、成功していればステップS125に進み、失敗していればステップS137に進む。ステップS137ではDRAM119に記憶された表示用画像データを用いてディスプレイに画像を表示し、図2のステップS103に戻る。
ステップS125にて、CPU114は撮影履歴スイッチ125がオンされているかを判定する。撮影履歴スイッチ125がオンされていればステップS126に進み、特徴値記憶回路122から履歴期間に記憶された特徴値、後述する履歴フラグが設定された特徴値を読み出す。
ステップS127にて、履歴フラグが設定されている特徴値と、ステップS124にて得られた特徴値を比較する。そして比較した結果、これらの特徴値の類似度が基準となるレベルを満たしており、これらの特徴値が同一の被写体に対するものであると判定された場合はステップS128に進み、そうでなければステップS129に進む。
ステップS128にて、特徴値に付随して記憶された撮影回数に1を加え、ステップS131に進む。この撮影回数は初期値として0が設定されており、このステップS128を通るたびに1ずつ増加する。
ステップS129にて、特徴値記憶回路122はステップS124にて算出された特徴値を、新たに検出された被写体の特徴値として記憶する。つまり、このステップS129を通る度に、特徴値記憶回路122に特徴値が記憶された被写体の数が増加する。
そしてステップS130にて、ステップS129にて記憶された特徴値に対して履歴フラグを立て、ステップS131に進む。
ステップS131にて、特徴値比較回路123がステップS124にて検出された全ての顔に対しての特徴値の比較が済んでいればステップS136に進む。済んでいなければステップS125に戻り、残りの顔に対しても特徴値の比較を行う。
ステップS136にて、CPU114は検出したそれぞれの顔に対してシステム記憶部109に記憶した座標データを参照し、ディスプレイ108に、顔の大きさに沿わせた顔検出枠を被写体像に重畳させた画像を表示させ、図2のステップS103に戻る。
このように、撮影履歴スイッチがオンされていると、撮影された画像データから検出された顔の特徴値が、特徴値記憶回路122に記憶された特徴値と類似すれば、ステップS128にてその被写体の撮影回数をインクリメントする。モニター処理時には、CPU114がステップS114にてこの撮影回数を被写体像の近傍に表示するため、ユーザーがその被写体の撮影回数を容易に把握することができる。また、特徴値記憶回路122は撮影回数をインクリメントするだけでなく、このとき得られた特徴値を追加記憶する。同一の被写体に対する特徴値の情報は、その数が多いほど一致の判定における精度が高くなるためである。
また、撮影された画像データから検出された顔の特徴値が、特徴値記憶回路122に記憶された特徴値と類似しないのであれば、ステップS129にて新たな被写体の特徴値として、その値を特徴値記憶回路122に記憶する。ステップS130にてこの特徴値に履歴フラグを設定することで、この特徴値が、履歴期間に新たに検出された被写体の特徴値であることを識別できるようにしている。
フローチャートのステップS125に戻り、撮影履歴スイッチ125がオンされていなければステップS132に進む。
ステップS132では、特徴値比較回路123は特徴値記憶回路122から全ての特徴値を読み出す。この特徴値にはメモリカード111またはシステム記憶部109から読み出した特徴値も含まれる。
ステップS123にて、特徴値記憶回路122から読み出した全ての特徴値と、ステップS124にて得られた特徴値を比較する。そして比較した結果、これらの特徴値の類似度が基準となるレベルを満たしており、これらの特徴値が同一の被写体に対するものであると判定された場合はステップS134に進み、そうでなければステップS135に進む。
ステップS134にて、特徴値に付随して記憶された撮影回数に1を加え、ステップS131に進む。この撮影回数は初期値として0が設定されており、このステップS134を通るたびに1ずつ増加する。
ステップS135にて、特徴値記憶回路122はステップS124にて算出された特徴値を、新たに検出された被写体の特徴値として記憶し、ステップS131に進む。つまり、このステップS135を通る度に、特徴値記憶回路122に特徴値が記憶された被写体の数が増加する。撮影履歴スイッチがオンされていない場合は、新たな被写体の特徴値が得られた場合であっても履歴フラグは設定されない。このように、撮影履歴スイッチがオンされていない場合は、オンされている場合と比較して、新たな被写体に対する特徴値が検出された場合に、この特徴値に履歴フラグを設定しない点で異なっている。
ここで、撮像装置100に撮影履歴スイッチを備え、履歴期間を設けたことの効果について説明する。
例えばユーザーがプロのカメラマンであり、撮影の対象となる被写体が毎回異なるのであれば、この履歴期間を設ける必要はない。撮影の対象となる被写体が毎回異なるのであれば、今までにその被写体を撮影したことがあるか否かだけを把握できれば良いからである。
しかしながら撮影の対象となる被写体が、それよりも前の別の撮影での被写体と同一である場合には不都合が生じることがある。例えば、あるパーティーの被写体にA氏が含まれていたとする。このA氏は、それよりも前に行われた別の行事にも参加しており、この行事で既に撮影されているため、特徴値記憶回路122にA氏に対する特徴値が記憶されているものとする。すると、A氏はこのとき行われているパーティーでは1枚も撮影されていないにも関わらず、モニター処理時にディスプレイに写ったA氏の横には、既に撮影が済んでいることを表す撮影回数が表示されてしまうことになる。ディスプレイを見たカメラマンは、A氏はこのパーティーでの撮影が済んでいる人だと勘違いしてしまい、このパーティーにおけるA氏の画像データを得ることなく撮影を終えてしまう可能性がある。
そこで、本実施形態では、撮影履歴スイッチ125がオンされて履歴期間が設定された場合は、履歴期間の間でのみ撮影された人を撮影済みとしてカウントするようにしている。履歴期間の間に新たに検出された顔についてのみ、特徴値に履歴フラグを設定することで、この識別を行えるようにしている。
撮影履歴スイッチ125をオフして履歴期間を解除すると、この特徴値に設定された履歴フラグの設定を解除するように構成されている。先程のA氏の事例に適用すると、先の行事が行われている間だけ撮影履歴スイッチ125をオンしておけば、モニター処理時には、A氏の近傍にはこの行事の間にA氏が撮影された撮影回数のみが表示されることになる。行事が終了後に撮影履歴スイッチ125を解除すれば、特徴値に設定された履歴フラグは全て解除される。そして、パーティーの開始時に再び撮影履歴スイッチ125をオンすると、モニター処理時には、A氏の近傍にはこのパーティーの間にA氏が撮影された撮影回数のみが表示されることになる。
このように、本実施形態によれば、事前に被写体の画像データを集めずとも、ユーザーの意図する期間内の間に、撮影済みであるか、あるいは、何枚撮影されたかについて容易に把握することができる。
なお、本実施形態では履歴期間の設定方法として、撮影履歴スイッチ125のオン/オフの切り換えを例にあげたが、これに限定されるものではない。履歴期間の設定方法としては、他にも様々な方法が考えられる。例えば、開始時と終了時の日時をユーザーに指定させる方法、日時に応じて撮像装置が自動的に設定する方法、あるいは、全自動やポートレートモードのように撮影モードの変化に応じて自動的に設定する方法などが考えられる。
また、被写体の特徴値の記憶方法として、撮像装置100内のシステム記憶部109に記憶させる方法と、メモリカード111に記憶させる方法とが考えられる。いずれの場合も必要に応じて、記憶された特徴値を特徴記憶回路122に転送することで用いる。検出の対象となる被写体に応じて特徴値を記憶先を変更すれば、より多くの特徴値を記憶させることが可能となる。また、撮影中にメモリカード111の容量が不足し、メモリカード111を交換する必要に迫られた場合は、メモリカード111に記憶された特徴値をシステム記憶部109に転送すればよい。また、撮影して得られた画像データと特徴値を関連付け、ある被写体の画像データを全て消去した場合に、これに対応する特徴値を自動的に消去する構成とすると使い勝手が向上する。
(第2の実施形態)
次に図5に示すフローチャートを用いて撮像装置100の別の撮影処理を説明する。図5に示すフローチャートは、モニター処理時に常に顔検出を行うのではなく、被写体の様子に変化が生じたと判定された場合のみ顔検出を行う点が、図3に示すフローチャートと異なる。
図5のステップのうち、図2に示すフローチャートと同じ処理を行うステップには、図2と同じ番号が付されている。
撮影モードが設定されると、ステップS101にて、CPU114は撮影履歴スイッチ125の状態の確認を行う。
ステップS102にて、CPU114は撮像素子102の出力を用いて表示用画像データを生成し、ディスプレイ108に被写体の画像を表示するモニター処理を開始させる。
ステップS103にて、撮像素子102が光電変換を行ってアナログの画像データを出力し、画像処理回路104がこのアナログの画像データから得られたデジタルの画像データを基に表示用画像データを生成し、DRAM119に記憶する。そしてディスプレイ108がこの表示用画像データを用いて被写体像を表示する。
次にステップS201にて、ディスプレイ108に顔検出枠が表示されているかを判定し、表示されていなければ顔検出処理を行う必要があるため、ステップS104に進む。ディスプレイ108に顔検出枠が表示されていれば、顔検出処理を行う必要性を判定するためにステップS202に進む。
ステップS202では、ステップS103で得られた画像データと、直前の顔検出処理が行われた画像データの輝度値を比較し、その差が基準レベルを超えていれば被写体に変化が生じたとしてステップS104に進む。被写体に変化が生じていないと判定した場合は、被写体に変化がないと推定し、新たな顔検出処理は不要であると判断する。そして顔検出処理を行うことなくステップS115に進む。なお、このステップS202における被写体の変化の有無の判定は、他の方法であっても構わない。例えば、対物レンズ群101内のズームレンズの駆動の有無や、撮像装置100の姿勢情報、あるいは、撮像装置100に搭載された不図示の角速度センサの出力結果を用いてもよい。
ステップS104以降の処理については、図3に示すフローチャートと同じである。
以上のように、本実施形態によれば、ディスプレイ108に顔検出枠が表示されている場合は、被写体に変化が生じたと推定された場合のみ、新たな顔検出処理を行う。このため、特徴検出回路121や特徴値比較回路123にかかる負荷を低減させることができ、撮像装置100の消費エネルギーを低減させることができる。
(第3の実施形態)
次に図6に示すフローチャートを用いて撮像装置100の更に別の撮影処理を説明する。図6に示すフローチャートは、焦点調節処理および露出量調節処理に、顔検出結果を反映させていない点で上記の実施形態とは異なる。
モードスイッチ116によって撮影モードが設定されると、図6に示すフローチャートが開始される。
ステップS101にて、CPU114は撮影履歴スイッチ125の状態の確認を行う。撮影履歴スイッチ125がオンされていれば履歴期間が設定されていると判定する。
ステップS102にて、CPU114は撮像素子102の出力を用いて表示用画像データを生成し、ディスプレイ108に被写体の画像を表示するモニター処理を開始させる。
ステップS103にて、撮像素子102が光電変換を行ってアナログの画像データを出力し、画像処理回路104がこのアナログの画像データから得られたデジタルの画像データを基に表示用画像データを生成し、DRAM119に記憶する。そしてディスプレイ108がこの表示用画像データを用いて被写体像を表示し、ステップS301に進む。
ステップS301にて、CPU114はシャッターボタンが半押しされてスイッチSW1がオンしたかを判定する。スイッチSW1がオンされていればステップS302に進み、オンされていなければステップS103に戻る。
ステップS302にて、CPU114は焦点調節回路126と露出量調節回路127を制御し、表示用画像データを用いて焦点調節処理および露出量調節処理を行わせる。
ステップS303にて、CPU114はディスプレイ108に、焦点調節の対象となったエリアを示す枠を被写体像に重畳させた画像を表示させる。この枠を、以下AF枠という。
ステップS104にて、特徴検出回路121がDRAM119に記憶された表示用画像データを読出し、パラメータ保持回路124から読み出したパラメータを用いて、画像データから顔の検出処理を行い、特徴値を算出する。複数の顔が検出された場合には、それぞれの顔に対して特徴値を算出する。
ステップS105にて、CPU114はステップS104での顔の検出処理が成功したかを判定し、成功していればステップS106に進み、失敗していればステップS106からステップS114をとばしてステップS118に進む。
顔の検出処理が成功してステップS106に進んだのであれば、CPU114は撮影履歴スイッチ125がオンされているかを判定する。撮影履歴スイッチ125がオンされていればステップS107に進み、特徴値記憶回路122から履歴期間に記憶された特徴値、つまり、履歴フラグが設定された特徴値を読み出す。履歴期間に記憶された特徴値については後ほど説明を行う。
撮影履歴スイッチ125がオンされていなければステップS108に進み、特徴値記録回路122から全ての特徴値を読み出す。この特徴値にはメモリカード111またはシステム記憶部109から読み出した特徴値も含まれる。
ステップS109にて、特徴値比較回路123はステップS107あるいはステップS108で読み出した特徴値と、ステップS104にて得られた特徴値を比較する。そして比較した結果、これらの特徴値の類似度が基準となるレベルを満たしており、これらの特徴値が同一の被写体に対するものであると判定された場合はステップS110に進み、そうでなければステップS111に進む。
ステップS110にて、CPU114は特徴値記憶回路122から、同一の被写体と判定された特徴値に付随して記憶された撮影回数を読み出し、システム記憶部109に撮影回数を記憶させる。この撮影回数は、付随する特徴値を有する被写体が何回撮影されたかを示すものである。特徴値記憶回路122には、履歴期間が設定されている間に撮影された回数と、履歴期間に関係なく今までに撮影された全ての回数とが別々に記憶されている。
ステップS111にて、CPU114はシステム記憶部109に、ステップS104にて検出された顔の座標データを記憶させる。
ステップS112にて、特徴値比較回路123がステップS104にて検出された全ての顔に対しての特徴値の比較が済んでいればステップS113に進む。済んでいなければステップS106に戻り、残りの顔に対しても特徴値の比較を行う。
ステップS113にて、CPU114は検出したそれぞれの顔に対してシステム記憶部109に記憶した座標データを参照し、ディスプレイ108に、顔の大きさに沿わせた顔検出枠を被写体像に重畳させた画像を表示させる。
ステップS114にて、CPU114はさらにディスプレイ108に、検出したそれぞれの顔に対して、顔検出枠の近傍にシステム記憶部109に記憶させた撮影回数を被写体像に重畳させた画像を表示させる。
図7に、このときのディスプレイ108に表示される画像の例を示す。検出された顔を覆う矩形の顔検出枠が表示され、その近傍には撮影回数が表示されている。AF枠と顔検出枠を同時に表示すると、具合によっては、どの枠が何を示すのかがユーザーにとってわかり難いものになってしまうおそれがある。そこで本実施形態では、顔検出枠のみを例えば0.5秒周期で点滅させるものとする。
さらに、AF枠、未撮影の顔を囲う顔検出枠、および、撮影済みの顔を囲う顔検出枠の色を互いに異ならしめることにより、ユーザーが容易に撮影済みか否かを判定することができる。本実施形態ではAF枠を緑色で、未撮影の顔を囲う顔検出枠を黄色で表示し、撮影済みの顔を囲う顔検出枠を橙色で表示している。また、図7では未撮影の顔を囲う顔検出枠の近傍に未撮影であることを示す星印を表示することで、ユーザーが未撮影の顔をより発見しやすいようにしている。
ステップS114にてディスプレイ108に表示を行わせると、ステップS118にて、CPU114はスイッチSW2がオンされたかを判定する。以降の処理は第1の実施形態と同じである。
本実施形態ではAF枠と顔検出枠を別々に表示することにより、どの顔に焦点があっているのかを明確に把握することができる。
このように、上述した実施形態では、被写体の特徴値を撮影中に特徴値記憶回路122に記憶する処理ついて説明を行ったが、特徴値を別の方法で特徴値記録回路122に記憶する処理についても触れておく。
図8を用いて特徴値を特徴値記憶回路122に記憶させる処理を説明する。
図8に示すフローチャートは、モードスイッチ116によって登録モードが選択されることで登録処理を開始する。
ステップS401にて、CPU114は撮像素子102の出力を用いて表示用画像データを生成し、ディスプレイ108に被写体の画像を表示するモニター処理を開始させる。
ステップS402にて、CPU114はシャッターボタン118が半押しされてスイッチSW1がオンされたかを判定する。スイッチSW1がオンされていればステップS403に進み、オンされていなければ待機する。
ステップS403にて、特徴検出回路121がDRAM119に記憶された表示用画像データを読出し、パラメータ保持回路124から読み出したパラメータを用いて、画像データから顔の検出処理を行い、特徴値を算出する。複数の顔が検出された場合には、それぞれの顔に対して特徴値を算出する。
ステップS404にて、CPU114はステップS403での顔の検出処理が成功したかを判定し、成功していればステップS405に進む。失敗していればステップS402に戻って新たに画像を読み込み、再びスイッチSW1がオンされるまで待機する。
ステップS405にて、CPU114は検出したそれぞれの顔の座標データを参照し、ディスプレイ108に、顔の大きさに沿わせた顔検出枠を被写体像に重畳させた画像を表示させる。ここで顔が複数検出された場合は、最も面積の大きな顔と、その他の顔とで顔検出枠の色を異ならしめる。例えば最も面積の大きな顔にかかる顔検出枠を黄色とし、他の顔にかかる顔検出枠を橙色とする。
ステップS406にて、送りボタン117が操作されたかを判定する。送りボタン117が操作されることを検知すると、ステップS407において、その操作に応じて、顔検出枠を黄色にて表示すべき顔を変更する。
ステップS408にて、シャッターボタン118が全押しされてスイッチSW2がオンされたかを判定する。スイッチSW2がオンされない場合はステップS406に戻る。スイッチSW2がオンされると、ステップS409にて、その時点で黄色で顔検出枠が表示されていた顔の特徴値をシステム記憶部109あるいはメモリカード111に記憶し、ステップS402に戻る。ここで特徴値を記憶させようとした被写体の別の特徴値が既にメモリカード111に記憶されている場合には、特徴値を追加するか、あるいは上書きする。登録モードにて検出された特徴値は、撮影中に検出された特徴値よりも、正確な情報であると推定されるためである。
上記の処理をモードスイッチ116によって登録モードが解除されるまで行う。
次に、図9を用いて特徴値を特徴値記憶回路122に記憶させる別の処理を説明する。
図9に示すフローチャートは、モードスイッチ116によって再生モードが選択され、かつ、メニュー画面から特徴値の登録に関するコマンドを選択することで登録処理を開始する。
ステップS501にて、CPU114は既に撮影された画像データをメモリカード111から読み出す。
ステップS502にて、読み出した画像データをDRAM119に展開し、表示回路106を用いてディスプレイ108に展開された画像データのいずれかを表示する。
ステップS503にて、CPU114は送りボタン117が操作されたかを判定する。送りボタン117が操作されていれば、ステップS504にて、その操作に応じて、ディスプレイ108に表示する画像を切り換える。
そしてステップS402にて、CPU114はシャッターボタン118が半押しされてスイッチSW1がオンされたかを判定する。スイッチSW1がオンされていればステップS403に進み、オンされていなければステップS503に戻る。
ステップS403にて、特徴検出回路121が、パラメータ保持回路124から読み出したパラメータを用いて、ディスプレイ108に表示されている表示用画像データから顔の検出処理を行い、特徴値を算出する。複数の顔が検出された場合には、それぞれの顔に対して特徴値を算出する。
ステップS404にて、CPU114はステップS403での顔の検出処理が成功したかを判定し、成功していればステップS405に進む。失敗していればステップS503に戻って新たに画像を読み込み、再びスイッチSW1がオンされるまで待機する。
ステップS405にて、CPU114は検出したそれぞれの顔の座標データを参照し、ディスプレイ108に、顔の大きさに沿わせた顔検出枠を被写体像に重畳させた画像を表示させる。ここで顔が複数検出された場合は、最も面積の大きな顔と、その他の顔とで顔検出枠の色を異ならしめる。例えば最も面積の大きな顔にかかる顔検出枠を黄色とし、他の顔にかかる顔検出枠を橙色とする。
ステップS406にて、送りボタン117が操作されたかを判定する。送りボタン117が操作されていれば、ステップS407にて、その操作に応じて、顔検出枠を黄色にて表示すべき顔を変更する。
ステップS408にて、シャッターボタン118が全押しされてスイッチSW2がオンされたかを判定する。スイッチSW2がオンされない場合はステップS503に戻る。スイッチSW2がオンされると、ステップS409にて、その時点で黄色にて顔検出枠が表示されていた顔の特徴値をシステム記憶部109あるいはメモリカード111に記憶し、ステップS402に戻る。ここで特徴値を記憶させようとした被写体の別の特徴値が既にメモリカード111に記憶されている場合には、特徴値を追加するか、あるいは上書きする。登録モードにて検出された特徴値は、撮影中に検出された特徴値よりも、正確な情報であると推定されるためである。
上記の処理をメニュー画面から特徴値の登録に関する処理を解除するコマンドが選択されるまで行う。
上述の図8、9に示すように、わざわざ撮影時以外の状況を用いて被写体の特徴値を記憶させる場合は、その被写体が検出されたことを、他の被写体が検出されたことよりも明確にしらしめる必要があると予想される。
そこで、図8、9に示すフローチャートのように、撮影中以外に特徴値を記憶する場合には、その旨を示す優先フラグを特徴値とあわせて記憶する。そして、撮影中にこの優先フラグを備えた特徴値に類似する被写体を検出した場合には、図10に示すように、その被写体が目立つよう他の被写体とは異なる形態の表示を行う。
この表示を行うことで、ユーザーはディスプレイ108に写った被写体を見逃すことなく撮影することが可能となる。
なお、上記の実施形態では、ディスプレイ108は検出された被写体の静止画の撮影回数を表示したが、これに限られるものではない。動画を撮影するビデオカメラにおいて、検出された被写体の動画における撮影時間を表示したり、動画における登場回数を表示したりする構成であっても構わない。
本発明を実行する撮像装置のブロック図である。 第1の実施形態における撮像処理のフローチャートである。 第1の実施形態における撮像処理のフローチャートである。 第1の実施形態におけるディスプレイに表示される画像の例を示す図である。 第2の実施形態における撮像処理のフローチャートである。 第3の実施形態における撮像処理のフローチャートである。 第3の実施形態におけるディスプレイに表示される画像の例を示す図である。 特徴値の登録処理のフローチャートである。 特徴値の登録処理の別のフローチャートである。 登録処理にて特徴値を登録した被写体が存在するときのディスプレイに表示される画像の例を示す図である。
符号の説明
100 撮像装置
101 対物レンズ群
102 撮像素子
103 A/Dコンバータ
104 画像処理回路
105 データバス
106 表示回路
107 D/Aコンバータ
108 ディスプレイ
109 システム記憶部
110 システム記憶部コントローラ
111 メモリカード
112 メモリソケット
113 メモリカードコントローラ
114 CPU
115 I/Oインターフェース部
116 モードスイッチ
117 送りボタン
118 シャッターボタン
119 DRAM
120 メモリコントローラ
121 特徴検出回路
122 特徴値記憶回路
123 特徴値比較回路
124 パラメータ保持回路
125 撮影履歴スイッチ
126 焦点調節回路
127 露出調節回路

Claims (17)

  1. 撮像素子と、
    撮像素子の出力から生成された画像データから、検出対象となる被写体を検出し、検出した被写体の特徴を示す特徴値を演算する検出回路と、
    前記検出回路にて演算された特徴値を記憶する記憶回路と、
    前記検出回路にて得られた特徴値と、前記記憶回路に記憶されている特徴値を比較する比較回路と、
    撮像素子の出力から生成される画像データを用いて、動画表示を行うディスプレイと、を備え、
    前記比較回路は、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶回路に記憶された特徴値を比較し、前記ディスプレイは、この比較結果に応じた情報を表示することを特徴とする撮像装置。
  2. 撮影を指示するための操作部材を備え、前記記憶回路は、前記操作部材の動作に応じて得られた画像データから前記検出回路によって演算された特徴値を記憶することを特徴とする請求項1に記載の撮像装置。
  3. 前記ディスプレイが動画表示を行っている間に前記操作部材が操作されると、前記検出回路が前記操作部材の動作に応じて得られた画像データから特徴値を演算することを特徴とする請求項2に記載の撮像装置。
  4. 前記記憶回路は被写体の特徴値とともにこの被写体の撮影に関する量を記憶しており、前記比較回路が、前記検出回路が前記操作部材の動作に応じて得られた画像データから演算した特徴値と、前記記憶回路に既に記憶されている特徴値が、同一の被写体に対する特徴値であると判定した場合には、前記記憶回路は、この被写体の撮影の量に関する情報を記憶することを特徴とする請求項2または3に記載の撮像装置。
  5. 前記比較回路は、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であるかを判定することを特徴とする請求項4に記載の撮像装置。
  6. 前記比較回路が、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であると判定した場合に、前記ディスプレイはこの被写体の撮影の量に関する情報を表示することを特徴とする請求項5に記載の撮像装置。
  7. 前記被写体の撮影の量に関する情報とは、撮影回数、および、撮影時間の少なくとも一方であることを特徴とする請求項4から6のいずれかに記載の撮像装置。
  8. 前記比較回路が、前記検出回路が前記操作部材の動作に応じて得られた画像データから演算した特徴値と、設定された期間内に前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であると判定した場合には、前記記憶回路は、この被写体の撮影の量に関する情報を記憶することを特徴とする請求項4に記載の撮像装置。
  9. 前記比較回路が、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、設定された期間内に前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であると判定した場合に、前記ディスプレイはこの被写体の撮影の量に関する情報を表示することを特徴とする請求項8に記載の撮像装置。
  10. 前記比較回路は、前記検出回路が前記操作部材の動作に応じて得られた画像データから演算した特徴値と、設定された期間外に前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であるかの判定は行わないことを特徴とする請求項8に記載の撮像装置。
  11. 前記比較回路は、前記検出回路が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、設定された期間外に前記記憶回路に記憶された特徴値が、同一の被写体に対する特徴値であるかの判定は行わないことを特徴とする請求項9に記載の撮像装置。
  12. 撮像素子の出力から生成された画像データから、検出対象となる被写体を検出し、検出した被写体の特徴を示す特徴値を演算する検出工程と、
    前記検出工程にて演算された特徴値を記憶する記憶工程と、
    前記検出工程にて得られた特徴値と、前記記憶工程に記憶されている特徴値を比較する比較工程と、
    撮像素子の出力から生成される画像データを用いて、ディスプレイに動画表示を行わせる表示工程と、を備え、
    前記比較工程では、前記検出工程が前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶工程に記憶された特徴値を比較し、前記表示工程では、前記ディスプレイに、この比較結果に応じた情報を表示させることを特徴とするディスプレイの制御方法。
  13. 前記記憶工程では、撮影を指示するための操作部材の動作に応じて得られた画像データから前記検出工程によって演算された特徴値を記憶することを特徴とする請求項12に記載のディスプレイの制御方法。
  14. 前記比較工程で、前記検出工程で撮影を指示するための操作部材の動作に応じて得られた画像データから演算した特徴値と、前記記憶工程で記憶された特徴値が、同一の被写体に対する特徴値であると判定した場合に、この被写体の撮影の量に関する情報を記憶する工程を有することを特徴とする請求項13に記載のディスプレイの制御方法。
  15. 前記比較工程で、前記検出工程で前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、前記記憶工程で記憶した特徴値が、同一の被写体に対する特徴値であると判定した場合に、前記表示工程では、前記ディスプレイに、この被写体の撮影の量に関する情報を表示させることを特徴とする請求項14に記載のディスプレイの制御方法。
  16. 前記比較工程で、前記検出工程で撮影を指示するための操作部材の動作に応じて得られた画像データから演算した特徴値と、設定された期間内に前記記憶工程で記憶された特徴値が、同一の被写体に対する特徴値であると判定した場合に、この被写体の撮影の量に関する情報を記憶する工程を有することを特徴とする請求項14に記載のディスプレイの制御方法。
  17. 前記比較工程で、前記検出工程で前記ディスプレイに表示された動画に用いられる画像データから演算した特徴値と、設定された期間内に前記記憶工程で記憶した特徴値が、同一の被写体に対する特徴値であると判定した場合に、前記表示工程では、前記ディスプレイに、この被写体の撮影の量に関する情報を表示させることを特徴とする請求項14に記載のディスプレイの制御方法。
JP2006015096A 2005-03-17 2006-01-24 撮像装置およびディスプレイの制御方法 Expired - Fee Related JP4324170B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2006015096A JP4324170B2 (ja) 2005-03-17 2006-01-24 撮像装置およびディスプレイの制御方法
US11/369,157 US7672580B2 (en) 2005-03-17 2006-03-06 Imaging apparatus and method for controlling display device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005077161 2005-03-17
JP2006015096A JP4324170B2 (ja) 2005-03-17 2006-01-24 撮像装置およびディスプレイの制御方法

Publications (2)

Publication Number Publication Date
JP2006295888A true JP2006295888A (ja) 2006-10-26
JP4324170B2 JP4324170B2 (ja) 2009-09-02

Family

ID=37010449

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006015096A Expired - Fee Related JP4324170B2 (ja) 2005-03-17 2006-01-24 撮像装置およびディスプレイの制御方法

Country Status (2)

Country Link
US (1) US7672580B2 (ja)
JP (1) JP4324170B2 (ja)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008053904A1 (fr) 2006-10-31 2008-05-08 Canon Kabushiki Kaisha Corps électrophotographique photosensible, son procédé de fabrication, cartouche de traitement et dispositif électrophotographique
JP2008242916A (ja) * 2007-03-28 2008-10-09 Casio Comput Co Ltd 撮像装置、撮像画像の表示方法およびプログラム
WO2008133237A1 (ja) * 2007-04-23 2008-11-06 Sharp Kabushiki Kaisha 撮像装置、その制御プログラムを記録したコンピュータ読取り可能な記録媒体、ならびに制御方法
JP2009044463A (ja) * 2007-08-08 2009-02-26 Sanyo Electric Co Ltd 電子カメラ及び被写界像再生装置
JP2009290519A (ja) * 2008-05-29 2009-12-10 Canon Inc カメラ
JP2010010729A (ja) * 2008-06-24 2010-01-14 Casio Comput Co Ltd 撮像装置及びプログラム
JP2010041439A (ja) * 2008-08-05 2010-02-18 Victor Co Of Japan Ltd 撮像装置、撮像方法、画像信号再生装置および画像信号再生方法
JP2010157960A (ja) * 2009-01-05 2010-07-15 Hitachi Ltd 撮像装置
JP2010183187A (ja) * 2009-02-03 2010-08-19 Canon Inc 撮像装置およびその制御方法、プログラム
KR101046041B1 (ko) * 2007-03-28 2011-07-01 가시오게산키 가부시키가이샤 촬상 장치
JP2012105319A (ja) * 2011-12-26 2012-05-31 Casio Comput Co Ltd 撮像装置及びそのプログラム
JP2012105357A (ja) * 2012-02-13 2012-05-31 Jvc Kenwood Corp 画像信号再生装置および画像信号再生方法
JP2013012130A (ja) * 2011-06-30 2013-01-17 Canon Inc 画像処理装置
US8872954B2 (en) 2009-06-22 2014-10-28 Canon Kabushiki Kaisha Image processing apparatus having feature extraction and stored image selection capability, method of controlling the apparatus, program thereof, and storage medium

Families Citing this family (59)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8494286B2 (en) 2008-02-05 2013-07-23 DigitalOptics Corporation Europe Limited Face detection in mid-shot digital images
US9129381B2 (en) 2003-06-26 2015-09-08 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
US8330831B2 (en) 2003-08-05 2012-12-11 DigitalOptics Corporation Europe Limited Method of gathering visual meta data using a reference image
US7620218B2 (en) 2006-08-11 2009-11-17 Fotonation Ireland Limited Real-time face tracking with reference images
US8498452B2 (en) 2003-06-26 2013-07-30 DigitalOptics Corporation Europe Limited Digital image processing using face detection information
US7269292B2 (en) 2003-06-26 2007-09-11 Fotonation Vision Limited Digital image adjustable compression and resolution using face detection information
US8593542B2 (en) 2005-12-27 2013-11-26 DigitalOptics Corporation Europe Limited Foreground/background separation using reference images
US8155397B2 (en) 2007-09-26 2012-04-10 DigitalOptics Corporation Europe Limited Face tracking in a camera processor
US7565030B2 (en) 2003-06-26 2009-07-21 Fotonation Vision Limited Detecting orientation of digital images using face detection information
US7844076B2 (en) 2003-06-26 2010-11-30 Fotonation Vision Limited Digital image processing using face detection and skin tone information
US9692964B2 (en) 2003-06-26 2017-06-27 Fotonation Limited Modification of post-viewing parameters for digital images using image region or feature information
US8989453B2 (en) 2003-06-26 2015-03-24 Fotonation Limited Digital image processing using face detection information
US8896725B2 (en) 2007-06-21 2014-11-25 Fotonation Limited Image capture device with contemporaneous reference image capture mechanism
US8682097B2 (en) 2006-02-14 2014-03-25 DigitalOptics Corporation Europe Limited Digital image enhancement with reference images
US7440593B1 (en) 2003-06-26 2008-10-21 Fotonation Vision Limited Method of improving orientation and color balance of digital images using face detection information
US7792970B2 (en) 2005-06-17 2010-09-07 Fotonation Vision Limited Method for establishing a paired connection between media devices
US7471846B2 (en) 2003-06-26 2008-12-30 Fotonation Vision Limited Perfecting the effect of flash within an image acquisition devices using face detection
US7574016B2 (en) 2003-06-26 2009-08-11 Fotonation Vision Limited Digital image processing using face detection information
US8948468B2 (en) 2003-06-26 2015-02-03 Fotonation Limited Modification of viewing parameters for digital images using face detection information
TWI236287B (en) * 2004-05-19 2005-07-11 Asia Optical Co Inc Digital camera and manual focus method thereof
US8320641B2 (en) 2004-10-28 2012-11-27 DigitalOptics Corporation Europe Limited Method and apparatus for red-eye detection using preview or other reference images
US8503800B2 (en) 2007-03-05 2013-08-06 DigitalOptics Corporation Europe Limited Illumination detection using classifier chains
US7315631B1 (en) 2006-08-11 2008-01-01 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
JP4507281B2 (ja) * 2006-03-30 2010-07-21 富士フイルム株式会社 画像表示装置、撮像装置および画像表示方法
JP4823135B2 (ja) * 2006-05-22 2011-11-24 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 情報処理装置、情報処理方法、情報処理プログラム、及び携帯端末装置
ATE497218T1 (de) 2006-06-12 2011-02-15 Tessera Tech Ireland Ltd Fortschritte bei der erweiterung der aam- techniken aus grauskalen- zu farbbildern
JP4338047B2 (ja) * 2006-07-25 2009-09-30 富士フイルム株式会社 撮像装置
JP4656657B2 (ja) * 2006-07-31 2011-03-23 キヤノン株式会社 撮像装置及びその制御方法
US7403643B2 (en) 2006-08-11 2008-07-22 Fotonation Vision Limited Real-time face tracking in a digital image acquisition device
US7916897B2 (en) 2006-08-11 2011-03-29 Tessera Technologies Ireland Limited Face tracking for controlling imaging parameters
US8055067B2 (en) 2007-01-18 2011-11-08 DigitalOptics Corporation Europe Limited Color segmentation
JP4568918B2 (ja) * 2007-01-30 2010-10-27 富士フイルム株式会社 撮像装置および撮像制御方法
EP2115662B1 (en) 2007-02-28 2010-06-23 Fotonation Vision Limited Separating directional lighting variability in statistical face modelling based on texture space decomposition
KR101247147B1 (ko) 2007-03-05 2013-03-29 디지털옵틱스 코포레이션 유럽 리미티드 디지털 영상 획득 장치에서의 얼굴 탐색 및 검출
WO2008131823A1 (en) * 2007-04-30 2008-11-06 Fotonation Vision Limited Method and apparatus for automatically controlling the decisive moment for an image acquisition device
US7916971B2 (en) 2007-05-24 2011-03-29 Tessera Technologies Ireland Limited Image processing method and apparatus
US7676145B2 (en) * 2007-05-30 2010-03-09 Eastman Kodak Company Camera configurable for autonomous self-learning operation
JP2009010777A (ja) * 2007-06-28 2009-01-15 Sony Corp 撮像装置、撮影制御方法、プログラム
JP4961282B2 (ja) * 2007-07-03 2012-06-27 キヤノン株式会社 表示制御装置及びその制御方法
JP5046788B2 (ja) * 2007-08-10 2012-10-10 キヤノン株式会社 撮像装置及びその制御方法
US8106998B2 (en) * 2007-08-31 2012-01-31 Fujifilm Corporation Image pickup apparatus and focusing condition displaying method
JP2009118009A (ja) * 2007-11-02 2009-05-28 Sony Corp 撮像装置、その制御方法およびプログラム
JP5040760B2 (ja) * 2008-03-24 2012-10-03 ソニー株式会社 画像処理装置、撮像装置、表示制御方法およびプログラム
US7855737B2 (en) 2008-03-26 2010-12-21 Fotonation Ireland Limited Method of making a digital camera image of a scene including the camera user
JP5429445B2 (ja) * 2008-04-08 2014-02-26 富士フイルム株式会社 画像処理システム、画像処理方法、およびプログラム
CN103402070B (zh) * 2008-05-19 2017-07-07 日立麦克赛尔株式会社 记录再现装置及方法
JP4640456B2 (ja) * 2008-06-25 2011-03-02 ソニー株式会社 画像記録装置、画像記録方法、画像処理装置、画像処理方法、プログラム
US8885047B2 (en) * 2008-07-16 2014-11-11 Verint Systems Inc. System and method for capturing, storing, analyzing and displaying data relating to the movements of objects
CN106919911A (zh) 2008-07-30 2017-07-04 快图有限公司 使用脸部检测的自动脸部和皮肤修饰
JP2010226558A (ja) * 2009-03-25 2010-10-07 Sony Corp 画像処理装置、画像処理方法、及び、プログラム
JP5434339B2 (ja) * 2009-07-29 2014-03-05 ソニー株式会社 撮像制御装置、撮像システム、撮像方法、プログラム
US8379917B2 (en) 2009-10-02 2013-02-19 DigitalOptics Corporation Europe Limited Face recognition performance using additional image features
EP2549738B1 (en) 2011-07-19 2013-08-28 Axis AB Method and camera for determining an image adjustment parameter
US9049382B2 (en) * 2012-04-05 2015-06-02 Canon Kabushiki Kaisha Image processing apparatus and image processing method
US9712750B2 (en) * 2012-04-09 2017-07-18 Sony Corporation Display control device and associated methodology of identifying a subject in an image
US9508119B2 (en) * 2012-07-13 2016-11-29 Blackberry Limited Application of filters requiring face detection in picture editor
JP5889247B2 (ja) * 2013-07-02 2016-03-22 キヤノン株式会社 画像処理装置、画像処理方法及び画像処理プログラム、並びに撮像装置
JP2018160799A (ja) * 2017-03-23 2018-10-11 ソニーセミコンダクタソリューションズ株式会社 制御装置、制御方法、プログラム、及び、電子機器システム
WO2019212501A1 (en) * 2018-04-30 2019-11-07 Hewlett-Packard Development Company, L.P. Trained recognition models

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5031049A (en) * 1984-05-25 1991-07-09 Canon Kabushiki Kaisha Automatic object image follow-up device
JPH0589244A (ja) 1991-09-27 1993-04-09 Hitachi Ltd パターンマツチング方法及び装置
JP3483039B2 (ja) 1993-09-30 2004-01-06 博文 松尾 画像信号による識別装置
JP3279913B2 (ja) 1996-03-18 2002-04-30 株式会社東芝 人物認証装置、特徴点抽出装置及び特徴点抽出方法
JPH10162118A (ja) 1996-11-29 1998-06-19 Canon Inc 画像処理装置及び方法
JP3469031B2 (ja) 1997-02-18 2003-11-25 株式会社東芝 顔画像登録装置及びその方法
JP2000048184A (ja) * 1998-05-29 2000-02-18 Canon Inc 画像処理方法及び顔領域抽出方法とその装置
CN1110767C (zh) 1999-11-12 2003-06-04 成都银晨网讯科技有限公司 面像识别门禁和考勤系统
CN1126066C (zh) 2000-05-31 2003-10-29 成都银晨网讯科技有限公司 面像识别ic卡个人身份识别认证系统及其识别方法
US7298412B2 (en) * 2001-09-18 2007-11-20 Ricoh Company, Limited Image pickup device, automatic focusing method, automatic exposure method, electronic flash control method and computer program
JP2003107335A (ja) 2001-09-28 2003-04-09 Ricoh Co Ltd 撮像装置、自動合焦方法、およびその方法をコンピュータが実行するためのプログラム
JP2004013871A (ja) 2002-06-12 2004-01-15 Creer:Kk 防犯システム
JP4078973B2 (ja) 2002-12-26 2008-04-23 カシオ計算機株式会社 画像撮影装置およびプログラム
JP2004320286A (ja) 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
JP2004317699A (ja) 2003-04-15 2004-11-11 Nikon Gijutsu Kobo:Kk デジタルカメラ
US20040207743A1 (en) * 2003-04-15 2004-10-21 Nikon Corporation Digital camera system
JP4196714B2 (ja) 2003-04-15 2008-12-17 株式会社ニコン デジタルカメラ
JP2004343357A (ja) * 2003-05-14 2004-12-02 Konica Minolta Photo Imaging Inc 記録媒体セット、画像記録装置及び画像記録方法

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008053904A1 (fr) 2006-10-31 2008-05-08 Canon Kabushiki Kaisha Corps électrophotographique photosensible, son procédé de fabrication, cartouche de traitement et dispositif électrophotographique
EP2397907A1 (en) 2006-10-31 2011-12-21 Canon Kabushiki Kaisha Electrophotographic photosensitive member, method of manufacturing electrophotographic photosensitive member, process cartridge, and electrophotographic apparatus
JP2008242916A (ja) * 2007-03-28 2008-10-09 Casio Comput Co Ltd 撮像装置、撮像画像の表示方法およびプログラム
KR101046041B1 (ko) * 2007-03-28 2011-07-01 가시오게산키 가부시키가이샤 촬상 장치
EP2139225A1 (en) * 2007-04-23 2009-12-30 Sharp Kabushiki Kaisha Image picking-up device, computer readable recording medium including recorded program for control of the device, and control method
US8780227B2 (en) 2007-04-23 2014-07-15 Sharp Kabushiki Kaisha Image pick-up device, control method, recording medium, and portable terminal providing optimization of an image pick-up condition
JP2010263639A (ja) * 2007-04-23 2010-11-18 Sharp Corp 撮像装置、制御方法、制御プログラム、記録媒体および携帯端末
EP2139225A4 (en) * 2007-04-23 2011-01-05 Sharp Kk PICTURE DEVICE, COMPUTER READABLE RECORDING MEDIUM WITH A RECORDED PROGRAM FOR CONTROLLING THE DEVICE AND CONTROL DEVICE
WO2008133237A1 (ja) * 2007-04-23 2008-11-06 Sharp Kabushiki Kaisha 撮像装置、その制御プログラムを記録したコンピュータ読取り可能な記録媒体、ならびに制御方法
JP2009044463A (ja) * 2007-08-08 2009-02-26 Sanyo Electric Co Ltd 電子カメラ及び被写界像再生装置
US8081804B2 (en) 2007-08-08 2011-12-20 Sanyo Electric Co., Ltd. Electronic camera and object scene image reproducing apparatus
JP2009290519A (ja) * 2008-05-29 2009-12-10 Canon Inc カメラ
JP2010010729A (ja) * 2008-06-24 2010-01-14 Casio Comput Co Ltd 撮像装置及びプログラム
JP4582212B2 (ja) * 2008-06-24 2010-11-17 カシオ計算機株式会社 撮像装置及びプログラム
JP2010041439A (ja) * 2008-08-05 2010-02-18 Victor Co Of Japan Ltd 撮像装置、撮像方法、画像信号再生装置および画像信号再生方法
JP2010157960A (ja) * 2009-01-05 2010-07-15 Hitachi Ltd 撮像装置
JP2010183187A (ja) * 2009-02-03 2010-08-19 Canon Inc 撮像装置およびその制御方法、プログラム
US8605190B2 (en) 2009-02-03 2013-12-10 Canon Kabushiki Kaisha Image sensing apparatus and control method thereof
US8872954B2 (en) 2009-06-22 2014-10-28 Canon Kabushiki Kaisha Image processing apparatus having feature extraction and stored image selection capability, method of controlling the apparatus, program thereof, and storage medium
JP2013012130A (ja) * 2011-06-30 2013-01-17 Canon Inc 画像処理装置
JP2012105319A (ja) * 2011-12-26 2012-05-31 Casio Comput Co Ltd 撮像装置及びそのプログラム
JP2012105357A (ja) * 2012-02-13 2012-05-31 Jvc Kenwood Corp 画像信号再生装置および画像信号再生方法

Also Published As

Publication number Publication date
US7672580B2 (en) 2010-03-02
JP4324170B2 (ja) 2009-09-02
US20060210264A1 (en) 2006-09-21

Similar Documents

Publication Publication Date Title
JP4324170B2 (ja) 撮像装置およびディスプレイの制御方法
JP4182117B2 (ja) 撮像装置及びその制御方法及びプログラム及び記憶媒体
JP5144422B2 (ja) 撮影装置及び撮影方法
JP4945722B2 (ja) 撮像装置
JP5713055B2 (ja) 撮像装置、撮像方法及びプログラム
JP2004320286A (ja) デジタルカメラ
JP5171468B2 (ja) 撮像装置及び撮像装置の制御方法
US7817911B2 (en) Photographic method and apparatus
JP5030022B2 (ja) 撮像装置及びそのプログラム
KR101046041B1 (ko) 촬상 장치
JP2004320285A (ja) デジタルカメラ
JP2008252711A (ja) ディジタルカメラ
JP2009212804A (ja) 構図アシスト機能付き撮像装置及び該撮像装置における構図アシスト方法
JP2008054293A (ja) 撮影装置および方法並びにプログラム
JP5448868B2 (ja) 撮像装置および撮像装置の制御方法
JP4173459B2 (ja) デジタルカメラ
JP5328528B2 (ja) 撮像装置、撮像装置の制御方法、及びコンピュータプログラム
JP2008054031A (ja) デジタルカメラ及び表示制御方法
JP2005086271A (ja) 電子カメラ
JP2008172732A (ja) 撮像装置及びその制御方法、プログラム、
JP7342883B2 (ja) 撮像制御装置、撮像装置、撮像制御方法
JP2009207100A (ja) 撮像装置及びそのプログラム
JP2007208355A (ja) 撮影装置および方法並びにプログラム
JP2012182820A (ja) 撮像装置及びプログラム
JP2011066828A (ja) 撮像装置、撮像方法及びプログラム

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090422

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090602

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090605

R150 Certificate of patent or registration of utility model

Ref document number: 4324170

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130612

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees