<第1実施形態の説明>
図1は第1実施形態の電子カメラの構成を示すブロック図である。
電子カメラは、撮影光学系11と、第1レンズ駆動部12と、揺動センサ部13と、像ぶれ補正レンズ14と、第2レンズ駆動部15と、撮像素子16と、アナログ信号処理部17と、A/D変換部18と、内蔵メモリ19と、画像処理部20と、カードI/F21と、入出力I/F22と、操作部材23および液晶モニタ24と、閃光発光部25と、CPU26と、顔登録メモリ27およびデータバス28とを有している。なお、内蔵メモリ19、画像処理部20、カードI/F21、入出力I/F22およびCPU26は、データバス28を介して接続されている。
撮影光学系11は、ズームレンズ11aと、合焦位置調節用のフォーカシングレンズ11bとを含む複数のレンズ群で構成されている。撮影光学系11を構成する各レンズは、第1レンズ駆動部12によって光軸方向に駆動調整される。
揺動センサ部13は、電子カメラの縦揺れを検出する縦方向角速度センサと、電子カメラの横揺れを検出する横方向角速度センサとを備えている。揺動センサ部13は電子カメラの揺れを示すカメラ揺動データをCPU26に出力する。このカメラ揺動データは、像ぶれ補正レンズ14の移動量の演算に使用される。
像ぶれ補正レンズ14は光軸直角方向に揺動可能に構成されている。第2レンズ駆動部15は、像ぶれ補正レンズ14を縦方向に揺動させる縦揺動手段と、像ぶれ補正レンズ14を横方向に揺動させる横揺動手段とで構成される。この第2レンズ駆動部15は、CPU26が演算した像ぶれ補正レンズ14の移動量に基づいて、像ぶれ補正レンズ14を揺動させてぶれ補正を実行する。
撮像素子16は、撮影光学系11を通過した光束を光電変換して被写体像のアナログ画像信号を生成する。この撮像素子16は、非レリーズ時(撮影待機時)にも所定間隔毎に被写体を露光し、間引き読み出しによるアナログ画像信号(スルー画像信号)を出力する。スルー画像信号は、後述のAF演算、AE演算および顔検出動作や、ファインダ用画像の生成などに使用される。
アナログ信号処理部17は、相関二重サンプリングを行うCDS回路、アナログ画像信号の出力を増幅するゲイン回路、入力信号の波形を一定の電圧レベルにクランプするクランプ回路等で構成されている。A/D変換部18は撮像素子16のアナログ画像信号をデジタル画像信号に変換する。内蔵メモリ19は、画像処理部20での画像処理の前工程および後工程でデータを一時的に保存する。なお、内蔵メモリ19には後述の撮影画像データを記録可能な記録領域を設けることもできる。
画像処理部20はデジタル画像信号に所定の画像処理を施す。この画像処理部20はレリーズ時の画像信号に基づいて撮影画像データを生成する。また、画像処理部20はスルー画像信号に基づいてスルー画像データを順次生成する。このスルー画像データの解像度は、撮影画像データの解像度よりも低く設定される。スルー画像データは、CPU26による顔認識処理に使用されるとともに、液晶モニタ24の表示画像(プレビュー画像)としても使用される。さらに、画像処理部20は撮影画像データの圧縮処理なども実行する。さらにまた、画像処理部20は、撮影画像の一部を切り出して解像度を変換する電子ズーム処理を行うことも可能である。
また、画像処理部20は、CPU26の指示により各種表示(顔認識時の枠表示など)のビデオデータを生成し、上記のビデオデータをスルー画像データに重畳させて液晶モニタ24に出力する。これによって、プレビュー画像には上記の各種表示が合成される。
カードI/F21には、記録媒体29を接続するためのコネクタが形成されている。記録媒体29は公知の半導体メモリなどで構成される。そして、カードI/F21は、記録媒体29に対する撮影画像データの書き込み/読み込みを制御する。
入出力I/F22には、操作部材23および液晶モニタ24が接続されている。操作部材23は入力釦やレリーズ釦などを備えている。操作部材23の入力釦は、例えば、電子カメラの撮影モード(通常撮影モード、再生モード、顔登録モード、顔認識撮影モード等)の切り換え入力などを受け付ける。また、操作部材23のレリーズ釦は、半押しによるAF動作の指示入力と、全押しによるレリーズ入力とを受け付ける。
一方、液晶モニタ24は主として電子カメラの背面部分に配置される。この液晶モニタ24には、撮影画像データの再生画像や電子カメラの各種設定を変更するための設定画面などが表示される。上記の設定画面には後述の顔認識データを編集するための編集画面が含まれる。また、撮影モードでの液晶モニタ24には上記のプレビュー画像を動画表示することが可能である。したがって、ユーザーは、液晶モニタ24のプレビュー画像を確認しつつ被写体のフレーミングを行うことができる。
さらに、入出力I/F22には外部接続端子が形成されている。そして、入出力I/F22は、外部接続端子を介して接続されたコンピュータなどとのデータ送受信をUSB(Universal Serial Bus)やIEEE1394などのシリアル通信規格に準拠して制御する。また、入出力I/F22の外部接続端子には、外部との無線通信を行うための拡張機器である通信ユニット30を接続することも可能である。
閃光発光部25は、キセノン発光管、発光のエネルギを蓄えるメインコンデンサ、閃光を被写体に効率良く照射するための反射傘やレンズ部材、発光タイミングや光量を調整する発光制御回路などから構成されている。
CPU26は、不図示のROMに格納されたシーケンスプログラムに従って電子カメラの各部動作を制御する。例えば、CPU26はスルー画像信号に基づいて公知のコントラスト方式のAF(オートフォーカス)演算や、公知のAE(自動露出)演算などを実行する。また、CPU26は、上記のカメラ揺動データに基づいて像ぶれ補正レンズ14の移動量を演算する。
さらに、CPU26は顔検出部31、顔認識部32として機能する。顔検出部31は、スルー画像データまたは撮影画像データから特徴点を抽出して被写体の顔領域、顔の大きさ等を検出する。例えば、顔検出部31は、特開2001−16573号公報などに記載された特徴点抽出処理によって顔領域を抽出する。また、上記の特徴点としては、例えば、眉、目、鼻、唇の各端点、顔の輪郭点、頭頂点や顎の下端点などが挙げられる。
顔認識部32は、「顔登録モード」では、検出した顔の特徴点に基づいて顔認識データを生成する。例えば、顔認識部32は、検出した顔の特徴点の位置、特徴点から求まる顔パーツの大きさ、各特徴点の相対距離などから登録人物の顔認識データを生成する。
また、顔認識部32は、「顔認識撮影モード」では、撮影画面内の人物の顔が顔認識データの登録人物の顔か否かを判定する顔認識処理を行う。具体的には、まず顔認識部32は検出された顔の特徴点に基づいて、撮影人物の顔の特徴点の位置、各顔パーツの大きさ、各特徴点の相対距離などを演算する。次に顔認識部32は、上記の演算結果と顔認識データとを比較して所定の登録人物の顔と撮影人物の顔との相似度を求める。そして、顔認識部32は上記の相似度が閾値を上回る場合に撮影人物が所定の登録人物に合致すると判定する。
なお、CPU26は、顔認識処理の結果に基づいて、撮影条件または画像処理の設定変更や、撮像素子16へのレリーズ指示などを実行することが可能である。
顔登録メモリ27には、CPU26の顔認識部32が生成した顔認識データが記録される。この顔登録メモリ27には登録人物ごとにグループフォルダが生成されている。グループフォルダには、各登録人物の顔認識データがそれぞれ記録されている。すなわち、顔登録メモリ27の顔認識データは、グループフォルダによって登録人物ごとにグループ化されている。例えば、グループフォルダには、同一の登録人物に関して顔の向き、眼鏡の有無および撮影条件などが異なる複数の顔認識データを記録することが可能である。そして、登録人物を指定することで、CPU26はグループフォルダ内の顔認識データを顔登録メモリ27から一括して読み出すことが可能となっている。
また、顔登録メモリ27には、「登録人物の名称」および「顔認識時の処理設定」のデータが記録されている。上記の「登録人物の名称」および「顔認識時の処理設定」は、各登録人物のグループフォルダにそれぞれ対応付けされている。
ここで、「顔認識時の処理設定」には、登録人物が認識された場合に適用される電子カメラの各種制御の設定が記録されている。例えば、「顔認識時の処理設定」には、(1)撮影時の撮影条件の設定、(2)撮影画像データの画像処理の設定、(3)撮影画像データの記録先の設定、(4)撮影画像データの印刷指定の設定、(5)撮影画像データの送信設定、などが含まれる。
上記(1)の撮影条件の設定には、各登録人物を撮影するときの露出補正値や、被写界深度の設定(浅め、標準の選択)などが含まれる。また、登録人物の検出の際にCPU26が自動的に撮影を行う設定も可能である。上記(2)の画像処理の設定には、撮影画像データのソフトフォーカス処理の有無の設定、エッジ強調の抑制の設定などが含まれる。
上記(3)の記録先の設定では、撮影画像データの記録先となる記録媒体29内の記録フォルダのディレクトリパスを各登録人物ごとに指定できる。すなわち、CPU26は顔登録メモリ27のデータを参照し、各登録人物ごとに異なる記録フォルダに撮影画像データを記録することが可能となる。
上記(4)の印刷指定の設定では、例えば、DPOF(Digital Print Order Format)などの規格による撮影画像データの印刷指定の有無を各登録人物ごとに指定できる。なお、上記(5)の送信設定では、登録人物の撮影時における撮影画像データの送信の要否と、送信先のアドレス情報(電子メールアドレス)とを指定できる。
また、顔登録メモリ27には、「顔登録画像」、「顔認識データの登録時期」および「顔認識データの取得時の撮影条件」のデータが記録されている。上記の「顔登録画像」、「顔認識データの登録時期」および「顔認識データの取得時の撮影条件」のデータは、グループフォルダ内の個々の顔認識データにそれぞれ対応付けされている。
上記の「顔登録画像」は顔認識データ取得時の撮影画像データであって、所定の画素サイズにリサイズされている。そして、「顔登録画像」は上記の編集画面で液晶モニタ24に表示される。すなわち、「顔登録画像」は、登録人物または顔認識データの識別性、検索性を高めるインデックス画像として機能する。例えば、「顔登録画像」によって、ユーザーは誰のどのような画像(顔正面、横向きなど)から顔認識データが生成されたかを編集画面で確認することも可能となる。
「顔認識データの登録時期」は、その顔認識データの元となる顔登録画像データの撮影日時のデータである。また、「顔認識データの取得時の撮影条件」は、顔登録画像データの撮影条件のデータである。上記の撮影条件には、例えば、撮影光学系11の焦点距離のデータや、撮影時のホワイトバランスおよび露出条件や、撮影時のフラッシュ発光の有無などが含まれる。なお、「顔認識データの登録時期」および「顔認識データの取得時の撮影条件」のデータは、CPU26が顔認識処理で使用する顔認識データを絞り込む場合の判定にも使用される。
以下、第1実施形態の電子カメラの動作を「顔登録モード」と「顔認識撮影モード」とに分けて説明する。
(顔登録モードでの動作)
図2は第1実施形態の「顔登録モード」の動作を示す流れ図である。この「顔登録モード」は撮影モードの一種であって、ユーザーが登録人物の顔を撮影して顔認識データを生成するためのモードである。
ステップ101:まず、ユーザーは操作部材23により電子カメラの撮影モードを「顔登録モード」に設定する。
例えば、電子カメラが「通常撮影モード」や「ポートレート撮影モード」に設定された状態において、ユーザーはモード選択画面を呼び出す操作を行う。これにより、CPU26はモード選択画面(図3(a)参照)を液晶モニタ24に表示する。そして、ユーザーは操作部材23でモード選択画面上の選択枠を操作し、CPU26に「顔登録モード」の起動を指示する。これにより、CPU26は「顔登録モード」の一連の動作を開始する。
ステップ102:CPU26は、液晶モニタ24に「顔登録モード」のメニューを表示する(図3(b)参照)。このメニューでは、ユーザーは操作部材23で選択枠を操作して「新規」または「追加」をCPU26に選択入力する。新たな人物の顔を登録する場合には、ユーザーは「新規」を選択入力する。一方、既に登録されている人物の顔をさらに撮影する場合には、ユーザーは「追加」を選択入力する。
ステップ103:CPU26は、メニュー(S102)で「新規」が選択されたか否かを判定する。「新規」の場合(YES側)にはS104に移行する。一方、「追加」の場合(NO側)にはS105に移行する。
ステップ104:S102で「新規」が選択された場合、CPU26は顔登録メモリ27に新規登録人物(今回撮影する登録人物)のグループフォルダを生成する。そして、CPU26は「登録人物の詳細情報画面」(図5参照)を液晶モニタ24に表示するとともに、ユーザーに「登録人物の名称」および「顔認識時の処理設定」の情報の入力を促す。図5の「登録人物の詳細情報画面」で入力された情報は、グループフォルダに対応付けされた状態で顔登録メモリ27に記録される。その後、S106に移行する。
なお、ユーザーは「登録人物の名称」および「顔認識時の処理設定」の入力を省略することもできる。この場合には、ユーザーは、図3(b)の編集の項目から図5の「登録人物の詳細情報画面」を立ち上げて、これらの情報を後で改めて顔登録メモリ27に入力することができる。
ステップ105:一方、S102で「追加」が選択された場合、CPU26は登録人物の選択画面(図4参照)を液晶モニタ24に表示し、今回撮影する登録人物をユーザーに選択入力させる。
ステップ106:CPU26は、電子カメラの撮影時の設定を顔登録撮影に適した設定に変更する。具体的にはCPU26は以下の(1)〜(7)の設定を行う。
(1)CPU26は、「顔登録モード」においてAF方式を顔検出モードに設定する。この場合には、CPU26はレリーズ釦の操作に関係なく、スルー画像データによって検出した顔領域に合わせてピント合わせを自動的に繰り返す。これにより、検出した顔にピントを合わせることが可能となる。なお、ユーザーがレリーズ釦を半押しした場合にCPU26がAFロックを行うようにしてもよい。
(2)CPU26は、「顔登録モード」においてAE方式を顔検出領域を基準とするスポットAEモードに設定する。この場合には、CPU26はスルー画像データによって検出した顔領域に合わせてAE演算を実行する。これにより、検出した顔の露出が最適化される。
(3)CPU26は、「顔登録モード」において画像処理部20の電子ズーム処理を不能化する。または、CPU26は、電子ズームの倍率を例えば2倍程度に制限する等の手段で、電子ズームの最大倍率を通常時よりも小さくなるように制限する。電子ズームを行った場合には撮影した顔登録画像の情報量が少なくなって、顔の特徴点の抽出精度が低下するからである。
(4)CPU26は、「顔登録モード」においてズームレンズ11aの倍率調整範囲を通常撮影時よりも広角側に狭めて最大倍率を小さくする。顔検出時には、ズームレンズを広角側に設定して被写界深度を深くする方が顔検出できる可能性が増加するからである。また、ズームレンズを広角側に設定すれば、撮影画像が手ぶれする可能性も低下するからである。なお、この場合において、ズームレンズ11aの位置を広角端に固定すると被写界深度がより深くなるので特に好ましい。
ところで、撮影光学系の絞り(不図示)を絞っても被写界深度は深くなるが、この場合にはシャッタ秒時に相当する撮影時間が長くなって顔登録画像が手ぶれする可能性が増加する。そのため、手ぶれを回避する観点から、CPU26は絞りをできるだけ開放側に設定することがより好ましい。なお、CPU26は、顔検出ができない場合に被写界深度を徐々に深くする制御を行ってもよい。
(5)CPU26は、「顔登録モード」において、揺動センサ部13の出力に基づいて像ぶれ補正レンズ14を移動させて光学的なぶれ補正を行う。手ぶれによる顔登録画像の撮影失敗を回避するためである。
(6)CPU26は、「顔登録モード」において、アナログ信号処理部17における画像信号のゲイン設定(撮像感度の設定)を通常撮影時の設定よりも高くする。撮像感度が高くなると上記の撮影時間は短くなるので、顔登録画像が手ぶれする可能性も低下するからである。
(7)CPU26は、「顔登録モード」において、閃光発光部25の閃光発光を不能化する。撮影時に閃光発光を行うと撮影人物の顔に影ができて顔検出の精度が低下するからである。なお、被写界が暗く十分な露出が確保できない状態で強制的に撮影する場合や、閃光発光時の顔認識データを意図的に取得しようとする場合には、CPU26は閃光発光部25を例外的に発光させるようにしてもよい。
ステップ107:CPU26は、撮像素子16を駆動させてスルー画像信号の取得を行う。撮像素子16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像処理部20はスルー画像信号に基づいてスルー画像データを生成する。そして、液晶モニタ24にはスルー画像データに基づいてプレビュー画像が動画表示される。
ステップ108:一方、CPU26の顔検出部31は、スルー画像データに公知の顔検出処理を施して撮影画面内の顔領域を検出する。
また、S108では、顔検出部31は顔領域の検出精度(顔の検出正解率)を規定する閾値を低くして、顔候補の検出率を通常よりも高めにするのがより好ましい。顔検出がしにくい顔の向き(例えば横向きなど)で顔登録画像を撮影しようとする場合もあるからである。
なお、顔検出部31が撮影画面内で人物の顔を検出した場合、画像処理部20はプレビュー画像の顔領域の位置に矩形の枠を合成表示する(図6参照)。これにより、ユーザーはプレビュー画像で顔検出の有無を確認することができる。
ステップ109:CPU26はS108で撮影画面から顔検出されたか否かを判定する。顔検出された場合(YES側)にはS110に移行する。一方、顔検出されていない場合(NO側)にはS107に戻る。
ステップ110:CPU26は、顔領域における顔の特徴点の検出状態に基づいて顔の向きを推定する。そして、CPU26は推定した顔の向きが、予め指定された顔の向き(正面向き、横向きなど)と一致するか否かを判定する。顔の向きが所定方向である場合(YES側)にはS111に移行する。一方、顔の向きが所定方向以外である場合(NO側)にはS107に戻る。このとき、CPU26は「被写体の顔の向きを変えて撮影しなおして下さい」などの警告表示を液晶モニタ24等に表示させるようにしてもよい。
ここで、S110での顔の向きの検出は公知の手段によって行われる。例えば、特開平9−163212号公報のように、CPU26が顔画像から顔の輪郭と鼻の座標とを検出して顔の向きを計算してもよい。あるいは特開2005−209137号公報のように、顔方向毎に顔画像を分類登録した画像データベースに基づいてCPU26が顔の向きを識別するようにしてもよい。
S110でのNO側の場合にはCPU26はレリーズを行わず、被写体の顔の向きが変わるまで撮影が行われることはない。したがって、所定の顔の向きの顔登録画像から顔認識データを生成することが可能となる。
ステップ111:CPU26は、顔領域における顔の特徴点の検出状態に基づいて顔の表情を推定する。そして、CPU26は推定した顔の表情がニュートラルな状態(目つぶりなどをしていない標準状態)であるか否かを判定する。顔の表情がニュートラルである場合(YES側)にはS112に移行する。一方、顔の表情がニュートラルでない場合(NO側)にはS107に戻る。このとき、CPU26は「被写体の表情を変えて撮影しなおして下さい」などの警告表示を液晶モニタ24等に表示させるようにしてもよい。
ここで、S111での顔の表情の検出は公知の手段によって行われる。例えば、特開2004−272933号公報のように、普通の表情 、目をつぶった顔 、口を開いた顔、笑顔などのクラスに分類された学習用顔画像を予め用意し、CPU26が正準判別分析による識別を行なった上で各クラスごとに設定された評価値で顔の表情を判別してもよい。あるいは、開いた目、閉じた目、開いた口、閉じた口などの標準パターンを予め用意し、CPU26が各パターンと顔領域とのマッチングをとり、パターンの組合せから表情を推定してもよい。
S111でのNO側の場合にはCPU26はレリーズを行わず、被写体の顔の表情が変わるまで撮影が行われることはない。したがって、顔の表情がニュートラルな状態の顔登録画像をより確実に取得できる。笑顔や目をつぶった状態の画像から顔認識データを生成すると顔認識の精度が大きく低下する可能性もあるため、表情がニュートラルな顔登録画像は顔認識に最も適した画像であると考えられるからである。
なお、CPU26は、上記のS110およびS111の処理をユーザーの設定に応じて省略することも可能である。
ステップ112:CPU26は、検出した顔領域の位置を基準としてAF演算およびAE演算を実行する。
ステップ113:CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦が全押しされた場合(YES側)にはS114に移行する。一方、レリーズ釦に入力がない場合(NO側)にはCPU26はレリーズ釦の全押し操作を待機する。
ステップ114:CPU26は撮像素子16を駆動させて被写体像を撮影する。その後、画像処理部20はレリーズ時の画像信号に基づいて撮影画像データ(顔登録画像データ)を生成する。
ステップ115:CPU26の顔認識部32は、顔登録画像データ(S114)から登録人物の顔認識データを生成する。また、画像処理部20は、顔登録画像データの顔領域をトリミングするとともに、解像度変換で所定のサイズにリサイズしてインデックス画像データを生成する。
ステップ116:CPU26は、顔認識データ、インデックス画像データ、顔登録画像データの撮影条件および撮影日時を顔登録メモリ27に記録する。上記の各データはそれぞれ対応付けされた状態で、S104またはS105で指定された登録人物のグループフォルダに記録される。上記の各データのうち、インデックス画像データは「顔登録画像」に対応する。また、撮影条件は「顔認識データの登録時期」に対応し、撮影条件は「顔認識データの取得時の撮影条件」に対応する。
以上で、「顔登録モード」での一連の動作が終了する。なお、CPU26は、S116の後にS107に戻って登録人物の顔認識データの登録をさらに続行するようにしてもよい。
以下、第1実施形態の「顔登録モード」の効果を説明する。上記の顔登録撮影では、撮影時の設定が顔登録に適した設定が変更されるとともに、顔領域の検出位置を基準としてAF演算およびAE演算が行われる(S106、S112)。そして、人物の顔を撮影した顔登録画像データに基づいて顔認識データが生成される(S114、S115)。そのため、ユーザーは登録したい人物に電子カメラを向けてレリーズするだけで、適正に撮影された顔登録画像に基づく顔認識データを容易に取得できる。
(顔認識撮影モードでの動作)
図7は第1実施形態の「顔認識撮影モード」の動作を示す流れ図である。この「顔認識撮影モード」は、指定した登録人物が撮影画面に存在する場合に、電子カメラが所定の制御を行って撮影画像データを取得する撮影モードである。
ステップ201:まず、ユーザーは操作部材23により電子カメラの撮影モードを「顔認識撮影モード」に設定する。
例えば、電子カメラが「通常撮影モード」や「ポートレート撮影モード」に設定された状態において、ユーザーはモード選択画面を呼び出す操作を行う。これにより、CPU26はモード選択画面(図3(a)参照)を液晶モニタ24に表示する。そして、ユーザーは操作部材23でモード選択画面上の選択枠を操作し、CPU26に「顔認識撮影モード」の起動を指示する。これにより、CPU26は「顔認識撮影モード」の一連の動作を開始する。
ステップ202:CPU26は、登録人物の選択画面(図4参照)を液晶モニタ24に表示する。そして、CPU26は、顔認識対象の登録人物(撮影時に顔認識を行う登録人物)の指定入力を受け付ける。なお、顔認識対象の登録人物を撮影前に予めユーザーがCPU26に指定入力しておくことも可能である。
ここで、「登録人物の選択画面」では、CPU26は1または2以上の登録人物の指定を受け付けることができる。例えば、CPU26は顔登録メモリ27の登録人物の全指定を受け付けることもできる。また、グループフォルダを所定のカテゴリ(例えば、家族、サークルなど)で予めリンクするとともに、ユーザーが選択画面でカテゴリを指定入力することで、CPU26にリンクされた登録人物の一括指定を入力することもできる。
ステップ203:CPU26は、撮像素子16を駆動させてスルー画像信号の取得を行う。撮像素子16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像処理部20はスルー画像信号に基づいてスルー画像データを生成する。そして、液晶モニタ24にはスルー画像データに基づいてプレビュー画像が動画表示される。
ステップ204:一方、CPU26の顔検出部31は、スルー画像データに公知の顔検出処理を施して撮影画面内の顔領域を検出する。
ステップ205:CPU26はS204で撮影画面から顔検出されたか否かを判定する。顔検出された場合(YES側)にはS206に移行する。一方、顔検出されていない場合(NO側)にはS209に移行する。
ステップ206:CPU26は、検出した顔領域の位置を基準としてAF演算を実行する。なお、顔領域を複数検出した場合には、CPU26は、撮影画面の中央に位置する顔領域または最も至近側に位置する顔領域を優先してAF演算を実行する。
ステップ207:CPU26の顔認識部32は、検出した顔領域(S204)に対して顔認識処理を実行する。そして、顔認識部32は、認識対象の顔(S202)が含まれているか否かを判定する。認識対象の顔が含まれている場合(YES側)にはS208に移行する。一方、認識対象の顔が含まれない場合(NO側)にはS210に移行する。
ステップ208:CPU26は、検出された登録人物に対応する「顔認識時の処理設定」のデータに基づいて、電子カメラの撮影条件の設定や画像処理の設定などを変更する。その後、S210に移行する。
ここで、認識対象の顔が撮影画面内に複数検出されている場合には、CPU26は所定のアルゴリズムで登録人物の優先順位を決定する。そして、CPU26は、優先順位が最も高い登録人物に対応する「顔認識時の処理設定」に基づいて電子カメラの各種設定を変更する。なお、「顔認識時の処理設定」で登録人物の自動撮影が設定されている場合には、CPU26はS211に移行して登録人物を自動的に撮影する。
ステップ209:一方、この場合には、CPU26はユーザーによるレリーズ釦の半押し操作に応じて、通常撮影時のアルゴリズムでAFエリアを選択してAF演算を実行する。
ステップ210:CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦が全押しされた場合(YES側)にはS211に移行する。一方、レリーズ釦に入力がない場合(NO側)にはCPU26はレリーズ釦の全押し操作を待機する。
ステップ211:CPU26は撮像素子16を駆動させて被写体像を撮影する。その後、画像処理部20はレリーズ時の画像信号に基づいて撮影画像データを生成する。なお、認識対象の顔が撮影されている場合には、画像処理部20はS208で設定された画像処理を撮影画像データに施す。
ステップ212:CPU26は撮影画像データを記録媒体29に記録する。なお、認識対象の顔が撮影されている場合、CPU26は顔登録メモリ27で指定されているディレクトリパスに基づいて、所定の記録フォルダに撮影画像データを分類して記録することもできる。以上で、「顔認識撮影モード」での一連の動作が終了する。
以下、本実施形態の「顔認識撮影モード」の効果を説明する。上記の顔認識撮影モードでは、顔認識データに基づいて撮影人物の顔認識が行われる(S207)。そして、認識対象の顔が検出された場合には、その登録人物に対応する設定で撮影時の各種処理などが行われる(S208、S211、S212)。そのため、登録人物の撮影時にユーザーの意図を反映させた処理を自動的に行うことができ、電子カメラを操作するユーザーの利便性が著しく向上する。
<第2実施形態の説明>
図8は第2実施形態の「顔登録モード」での動作を示す流れ図である。なお、図8のS301〜S312は図2のS101〜S112にそれぞれ対応し、図8のS315は図2のS116に対応するので重複説明を省略する。
ステップ313:CPU26はAF終了後に自動的にレリーズを行って、撮像素子16を駆動させて被写体像を撮影する。その後、画像処理部20はレリーズ時の画像信号に基づいて撮影画像データ(顔登録画像データ)を生成する。
ステップ314:CPU26の顔認識部32は、顔登録画像データ(S313)から登録人物の顔認識データを生成する。また、画像処理部20は、顔登録画像データからインデックス画像データを生成する。
以下、第2実施形態の「顔登録モード」の効果を説明する。第2実施形態では、顔検出時には人物の顔を自動的に撮影して顔認識データが生成される(S313、S314)。そのため、ユーザーは登録したい人物に電子カメラを向けるだけで、適正な顔登録画像に基づく顔認識データを容易に取得することが可能となる。特に、第2実施形態ではピント合わせおよびレリーズが自動化されるので、撮影光学系をユーザー自身に向けてユーザーの顔登録撮影を1人のみで行うことも可能となる。
<第3実施形態の説明>
図9は第3実施形態の「顔登録モード」での動作を示す流れ図である。なお、図9のS401〜S409は図2のS101〜S109にそれぞれ対応し、図9のS414は図2のS116に対応するので重複説明を省略する。
ステップ410:CPU26は、検出した顔領域の位置を基準としてAF演算およびAE演算を実行する。
ステップ411:CPU26は自動的に所定回数のレリーズを連続して行ない、複数の撮影画像データ(顔登録画像データ)を取得する。ここで、S411ではCPU26は撮影条件をすべて同じにして複数の顔登録画像データを撮影する。例えば、被写体が静止していない場合や手ぶれが発生する場合には、同じ撮影条件でも異なる画像が撮影されるためである。なお、CPU26は露出条件やホワイトバランスなどのパラメータを段階的に変化させてブラケティング撮影を行ってもよい。
ステップ412:CPU26の顔検出部31は、S411で取得した複数の顔登録画像データに対してそれぞれ顔検出処理を施して特徴点を抽出する。そして、CPU26は、顔の特徴点の検出状態が良好な順(例えば、抽出された特徴点の数が多い順)に各顔登録画像データに優先順位を設定する。なお、第1実施形態のS110やS111で示したように、CPU26は顔登録画像データの顔の向きや表情も考慮して上記の優先順位を設定してもよい。
ステップ413:CPU26は、S411で取得した複数の顔登録画像データのうちで最も優先順位の高い顔登録画像データを選択する。そして、CPU26の顔認識部32は、この選択された顔登録画像データから顔認識データを生成する。また、画像処理部20は、選択された顔登録画像データからインデックス画像データを生成する。
以下、第3実施形態の「顔登録モード」の効果を説明する。第3実施形態では、複数の顔登録画像データから最適な画像を選択して顔認識データを生成する。そのため、第3実施形態によれば、顔認識撮影時における顔認識の精度をより向上させやすくなる。
<第4実施形態の説明>
図10は第4実施形態の「顔登録モード」での動作を示す流れ図である。なお、図10のS501〜S505は図2のS101〜S105ににそれぞれ対応し、図10のS513、S514は図2のS115、S116にそれぞれ対応するので重複説明を省略する。
ステップ506:CPU26は、電子カメラの撮影時の設定を顔登録撮影に適した設定に変更する。具体的には、CPU26はS106の(3)〜(7)と同様の設定を行うとともに、以下の(a)および(b)の設定を行う。
(a)CPU26は、「顔登録モード」において撮影画面中央のAFエリアを選択してAF演算を行う。この場合には、CPU26はレリーズ釦が半押し操作に応じていわゆる中央重点AFでピント合わせを行うとともに、ピントが合った時点でAFロックする制御を実行する。撮影画面中央で顔登録画像を取得することで、撮影光学系の収差の影響をより小さくして精度の高い顔認識データを生成するためである。
(b)CPU26は、「顔登録モード」においてAE方式を撮影画面中央を基準とするスポットAEモードに設定する。これにより、撮影画面中央で撮影される顔の露出が最適化される。
ステップ507:CPU26は、撮像素子16を駆動させてスルー画像信号の取得を行う。撮像素子16は所定間隔毎に間引き読み出しでスルー画像信号を出力する。画像処理部20はスルー画像信号に基づいてスルー画像データを生成する。そして、液晶モニタ24にはスルー画像データに基づいてプレビュー画像が動画表示される。
ここで、S507での画像処理部20は、プレビュー画像の撮影画面の中央に構図補助表示を合成する(図11参照)。図11の構図補助表示は撮影画面内における顔を収める位置を矩形状の枠で示したものである。この構図補助表示により、ユーザーはフレーミングの際に顔の位置決めを容易に行うことができる。そのため、ユーザーは状態のよい顔登録画像を簡単に撮影することが可能となる。なお、構図補助表示の他の例として、矩形状の枠の四隅のみをプレビュー画像に合成してもよい。あるいは、構図補助表示の他の例として、例えば、顔を収める範囲以外をモノクロ表示するなどの手段で、顔を収める範囲の内外で画像の表示色を変化させるようにしてもよい(いずれも図示を省略する)。
また、S507での画像処理部20は、プレビュー画像の中央以外の周辺領域に撮影見本表示を合成する(図11参照)。図11の撮影見本表示は所定方向を向いた人物の顔の写真やイラストを表示したものである。例えば、正面向きの顔登録画像を撮影する場合、撮影見本表示には正面向きの顔画像が表示されることとなる。この撮影見本表示により、今回の撮影に適した顔の状態(顔の向きなど)をユーザーは視覚的に理解できる。そのため、ユーザーは状態のよい顔登録画像を簡単に撮影することが可能となる。なお、画像処理部20は、「正面の顔を撮影して下さい」などのメッセージ表示をプレビュー画像に合成してもよい。
ステップ508:CPU26はレリーズ釦が半押しされたか否かを判定する。レリーズ釦が半押しされた場合(YES側)にはS509に移行する。一方、レリーズ釦に入力がない場合(NO側)にはS507に戻る。
ステップ509:CPU26は、ユーザーによるレリーズ釦半押し操作に応じて撮影画面中央を基準とするAF演算およびAE演算を実行する。
ステップ510:CPU26はレリーズ釦が全押しされたか否かを判定する。レリーズ釦が全押しされた場合(YES側)にはS511に移行する。一方、レリーズ釦に入力がない場合(NO側)にはCPU26はレリーズ釦の全押し操作を待機する。
ステップ511:CPU26は、ユーザーによるレリーズ釦全押し操作に応じて撮影画像データ(顔登録画像データ)を取得する。
ステップ512:CPU26の顔検出部31は、顔登録画像データ(S511)の撮影画面中央の部分に公知の顔検出処理を施して撮影画面内の顔領域を検出する。
以下、第4実施形態の「顔登録モード」の効果を説明する。第4実施形態では、ユーザーがマニュアル撮影した顔登録画像データに基づいて顔認識データが生成される。そのため、ユーザーの意図に即した顔認識データを作成することが可能となる。また、撮影光学系の収差の影響が少ない撮影画面中央で顔登録画像を取得するので、より精度の高い顔認識データを生成することが可能となる。
(第1実施形態から第4実施形態における顔登録モードの変形例)
上記の実施形態では撮影時に顔登録画像から顔認識データを生成する例を説明した。しかし、顔登録画像から顔認識データを生成する代わりに、CPUが顔登録画像から顔領域の部分を切り出して顔画像データを生成し、この顔画像データをメモリや記録媒体に記録するようにしてもよい。そして、コンピュータによる後処理で顔画像データから顔認識データを生成するようにすることもできる。
ここで、顔画像データは、顔登録画像の顔領域を例えば80×80画素程度のサイズで切り出して生成される。かかる顔画像データの画像に対しては、解像度変換による変倍処理を施さないようにするのが好ましい。また、顔登録画像データの場合と同様に、CPUは、上記の顔画像データに、インデックス画像データ、顔登録画像データの撮影条件および撮影日時を対応付けして記録しておくことが好ましい。さらに、上記の顔画像データについても、CPUは、同一の撮影人物から生成した複数の顔画像データを同一のフォルダ等にグループ化して記録するのが好ましい。
(実施形態の補足事項)
以上、本発明を上記の実施形態によって説明してきたが、本発明の技術的範囲は上記実施形態に限定されるものではなく、例えば以下のような形態であってもよい。
(1)第1実施形態から第3実施形態までの「顔登録モード」でも、第4実施形態のようにプレビュー画像に構図補助表示や撮影見本表示を合成表示するようにしてもよい。また、第4実施形態の「顔登録モード」でも、レリーズ前にスルー画像データで顔検出処理を行うようにしてもよい。
(2)上記実施形態において、CPU26はレリーズ釦の半押しをトリガとして顔検出によるAF演算を行うようにしてもよい。
(3)上記実施形態において、「顔登録モード」および「顔検出撮影モード」を、「通常撮影モード」、「ポートレート撮影モード」、「再生モード」などと同様にモードダイヤル等で直接指定して立ち上げられるようにしてもよい。
(4)第3実施形態の「顔登録モード」において、CPU26は優先順位の高い順に二以上の顔認識データを生成するようにしてもよい。
(5)第4実施形態の「顔登録モード」において、CPU26は顔登録画像データを記録媒体29などに撮りだめし、複数の顔登録画像データをバッチ処理して顔認識データを一括生成するようにしてもよい。このとき、第3実施形態のように、顔登録画像データに優先順位を設定して、優先順位の高い順に顔認識データを生成するようにしてもよい。
(6)顔登録メモリの「顔認識データの登録時期」のデータは、元となる顔登録画像データが概ねいつ頃撮影されたかを示すものでも足りる。したがって、「顔認識データの登録時期」については撮影年、撮影月、撮影日のいずれかで記録を打ち切って、詳細な時刻などの記録を省略するようにしてもよい。
(7)「顔認識撮影モード」の顔認識処理(S207)では、顔認識部32はグループ化された顔認識データのうちから判定に使用する顔認識データを所定条件で絞り込むようにしてもよい。例えば、顔認識部32は、「顔認識データの登録時期」に基づいて撮影日時よりも一定期間以上古い顔認識データを除外してもよい。同様に、顔認識部32は「顔認識データの取得時の撮影条件」に基づいて今回の撮影条件と大きく異なる撮影条件で生成された顔認識データを除外してもよい。
(8)「顔認識撮影モード」の顔認識処理(S207)では、顔認識部32は撮影光学系11の焦点距離のデータから演算したディストーションの度合いに応じて、顔認識データを補正するようにしてもよい。
(9)「顔登録モード」において、CPU26は顔認識データの顔の向きに関する識別情報を生成し、顔登録メモリ27に上記識別情報も記録するようにしてもよい。顔の向きに関する識別情報は、第1実施形態のS110に示す処理の結果に基づいてCPU26が生成してもよい。あるいは、撮影時または編集時におけるユーザーの入力に基づいてCPU26が上記識別情報を生成してもよい。
(10)本発明の電子カメラは実施形態の電子カメラの構成と必ずしも一致する必要はない。例えば、内蔵メモリ19と顔登録メモリ27とが共通のメモリで構成されていてもよい。顔登録メモリ27がデータバス28を介してCPU26に接続されていてもよい。また、揺動センサ部13、像ぶれ補正レンズ14および第2レンズ駆動部15からなる光学的なぶれ補正機構が省略されていてもよい。さらに、電子カメラ内に通信ユニット30が内蔵されていてもよい。
(11)CPU26は顔登録メモリ27内のデータを記録媒体29に記録して、顔登録メモリ27のバックアップを可能としてもよい。また、CPU26は、予め他の電子カメラで生成された顔認識データ等を記録媒体29から取得し、電子カメラ間で顔登録メモリ27のデータを共用できるようにしてもよい。