(実施形態1)
本実施形態では予め設定した撮影予定人数と画像解析により抽出した画像フレーム内の人数とが一致した場合に所定のタイミングで撮影指示を行う例について述べる。
図1は、本発明に係る撮像装置の一実施例としてのデジタルカメラの外観を示す図であり、ここでは主として正面(図1(a))及び背面(図1(b))の外観を示す。デジタルカメラ100は、図1(a)に示すように正面側に撮像レンズ(レンズ)1、発光ダイオード(以下、LED)等の発光素子2、リモコン信号受信窓7、および音声出力用孔11を有している。また、デジタルカメラ100の背面には図1(b)に示すように、モードダイアル3、液晶画面4、カーソルキー5、SETキー6、メニューキー10等が設けられている。また、上面にはシャッターキー8および電源ボタン9が設けられている。なお、側部には図示されていないが、パーソナルコンピュータ(以下、パソコン)やモデム等の外部装置とUSBケーブルに接続する場合に用いるUSB端子接続部が設けられており、底部には三脚固定用ネジ穴が設けられている。なお、LED2、リモコン信号受信窓7、および音声出力用孔11は必須ではないが、後述するように、変形例1−1ではリモコン信号受信窓7は必須である。また、変形例1−2でLEDを点滅するように構成する場合はLED2は必須である。デジタルカメラ100は静止画撮影モードや動画撮影モード、および本発明に基づく自動撮影モード等の各種撮影機能を備えている。また、公知のセルフタイマーによる自動撮影機能およびオートフォーカス機能を備えている。
図2は、デジタルカメラ100を遠隔操作可能なリモートコントローラ(以下、リモコン)の一実施例の外観を示す図である。図2で符号20はリモコン、符号21はリモコン信号送信部、符号22は案内メッセージのほか撮影予定人数や撮影開始設定時間等を表示する液晶画面、符号23は電源キー、符号24は表示用電源キー、符号25は通常撮影設定キー、符号26は自動撮影設定キー、符号27はカーソルキーでありメニュー選択用の選択手段として用いることができる。符号28はセットキーであり、カーソル27によってメニューを選択した際の確定キーや、撮影指示キーとして用いることができる。また、符号29は入力キーであり、撮影予定人数の設定やセルフタイマーの時間設定入力用に用いることができる。リモコン20は必須ではないが変形例1−1においては必須である。
図3は本実施形態に係わるデジタルカメラの電気的構成の一実施例を示すブロック図であり、デジタルカメラ100は、撮像部31、画像データ処理部32、顔抽出処理部33、制御部35、一時記憶メモリ36、画像表示部37、記録部38、外部入出力部40、発光駆動部(LED駆動部)41、リモコン信号受信部42、音声出力部43、操作部45を備えており、本発明に基づく自動撮影モードを含む静止画撮影モードおよび動画撮影モードを有している。また、ハードまたはソフトによって構成されたセルフタイマーを備えている。
なお、発光駆動部41、リモコン信号受信部42、音声出力部43は必須ではないが後述するように、変形例1−1ではリモコン信号受信部42は必須である。また、変形例1−2で音声出力するように構成する場合は音声出力部43は必須であり、変形例1−2でLED2を点滅するように構成する場合はLED駆動部41は必須である。変形例1−1ではリモコン信号受信部4は必須である。また、撮像部31および画像データ処理部32は本発明の撮像系を構成する。
撮像部31は、撮影レンズ1のほか、基本モードである撮像モードにおいてズームレンズを移動させて光学ズーム動作を行わせるズーム駆動部やフォーカスレンズを移動させて合焦動作を行わせるAF駆動部等を含むレンズ駆動系(図示せず)と、撮像素子、信号変換部、撮像タイミング制御部や撮影補助光源等を含む撮像信号系(図示せず)を有しており、撮像レンズ1を経由し、撮像レンズの撮像光軸後方に配置された撮像素子に入射した被写体光像は撮像素子によって光電変換され撮像信号(アナログ)として出力される。撮像素子の出力信号は信号変換部で相関二重サンプリングおよびゲイン調整され、A/D変換によりデジタル信号に変換される。A/D変換された撮像信号は所定の周期で画像データ処理部32に送られる。撮像素子は、被写体の二次元画像を撮像するCMOS(Complementary Metal Oxide Semiconductor)などの固体撮像デバイスであり、典型的には毎秒数十フレームの画像を撮像する。なお、撮像素子はCMOSに限定されない。
画像データ処理部32は、撮像部31から出力されたデジタル信号(画像データ)に対して画像補間処理及びγ補正処理を含むカラープロセス処理を行ってデジタル値の輝度信号Y及び色差信号Cb、Crを生成し、DRAM等の一時記憶メモリ36にバス30を介してDMA転送する。
顔抽出処理部33は、自動撮影モード時に、一時記憶メモリ36に記憶されている1フレーム分の画像データの中から人物の顔画像領域を抽出し、抽出した顔画像領域の数をカウントして人数情報を生成し、バス30を介して制御部35に送出する。人物の顔画像領域の抽出処理は、公知の技術(例えば特許文献1(特開平2004−145563号広報)に記載の技術)を適宜用いることができる。なお、この顔画像領域の抽出処理のために専用の回路を設けてもよいし、制御部35で顔画像領域の抽出処理のための顔検出用プログラムを実行させるようにしてもよい。
制御部35は、デジタルカメラ100全体の制御動作を司るものであり、CPU若しくはMPU(以下、CPU)と、該CPUで実行される動作プログラム等を記憶したフラッシュメモリ等のプログラム格納メモリ、及びワークメモリとして使用されるRAM等により構成されている。また、制御部35は画像データ処理部32からの画像データ(輝度及び色差信号)のDRAM等の一時記憶メモリ36へのDMA転送終了後に、この輝度及び色差信号を一時記憶メモリ36から読出し、画像表示部37の表示用バッファメモリ(図示せず)に書き込むよう制御する。
また、制御部35は自動撮影モード時に顔抽出処理部33から受け取る人数情報と詳細は後述する予め設定された撮影予定人数とを比較し、一致した場合に撮像指示信号を撮像部31に送出する。また、制御部35はセルフタイマーのカウントダウンを制御し、カウントダウン終了時には撮像指示信号を撮像部31に送出する。
一時記憶メモリ36はDRAM等で構成され、画像データ処理部32から取得する画像データを一時記憶するバッファメモリとして機能する。
画像表示部37はVRAM等の画像表示用バッファメモリ、表示制御部、及び液晶画面4を有し、制御部35の制御下で表示用バッファメモリに書き込まれた上記輝度及び色差信号を表示制御部を介して定期的に読み出し、これらのデータを基にビデオ信号を生成して上記液晶画面4に出力する。
記録部38は、画像データの圧縮または伸張を行うデータ圧縮伸張部、DRAM等のバッファメモリから転送されるデータの記録媒体39への書き込みや記録媒体39からの読み出しを行うコントローラ(図示せず)から構成されている。記録媒体39は内蔵メモリ(フラッシュメモリ)や光ディスク、あるいは着脱可能なメモリーカード等の書き換え可能な記録媒体からなり記録部38によって書き込まれた画像データや撮像情報等を保存記録する。
外部入出力部40は、デジタルカメラ100とUSBケーブル等の接続手段やインターネット等の通信ネットワークによりデジタルカメラ100に接続する外部装置との間で画像データやプログラム等を入出力する際の入出力インターフェィス等からなる。発光駆動部41は制御部35の制御下で、例えばLED等の発光素子2を点灯若しくは点滅させる。
リモコン信号受信部42はリモコン20からの信号を受信して受信信号をデジタルデータに変換(復号)し、バス30を介して制御部35に送出する。音声出力部43はスピーカ等の音声出力装置からなり、登録されているメッセージ等の音声信号を音声に変換して出力する。
操作部45は、図1に示したモードダイアル3、カーソルキー5、SETキー6、シャッターキー8、電源ボタン9、およびメニューキー等のキーと、それらのキーが操作されると操作されたキーの操作信号を生成して制御部35に送出するキー処理部(図示せず)等から構成されている。
モードダイアル3は撮像モードや再生モードの選択を行うものである。ユーザはモードダイアル3を操作して、静止画撮像モード、自動撮影モード、マクロ撮像モード、連写モード、速写モード、動画撮像モード等の撮像モードや再生モードを選択することができる。自動撮影モードは静止画撮像モードまたは動画撮影モード下で表示される処理選択メニューで選択できる。なお、モードダイアル3で自動撮影モードを選択できるように構成してもよい。
カーソルキー5はモード設定やメニュー選択等に際して液晶画面4に表示されるメニューやアイコン等をカーソルでポイント(指定)する際に操作するキーであり、カーソルキー5の操作によりカーソルを上下又は左右に移動させることができる。また、セットキー6はカーソルキー5によってカーソル表示されている項目を選択設定する際に押されるキーである。またセットキー6を確認キー、または画像指定キーとして用いることもできる。カーソルキー5およびセットキー6は本実施形態1において撮影予定人数設定手段として機能することができる。また、後述する実施形態2において撮影予定人数設定手段または撮影予定登録者設定手段として機能することができる。
シャッターキー8は、撮像時にレリーズ操作を行うもので、2段階のストロークを有しており、1段目の操作(半押し状態)でオートフォーカス(AF)と自動露出(AE)を行わせるための合焦指示信号を発生し、2段目の操作(全押し状態)で撮像処理を行うための撮像指示信号を発生する。また、自動撮影モード時にはシャッターキー8の全押し操作によりセルフタイマーの設定を行うことができる。また、メニューキー10は、その時点で処理可能な選択メニューやアイコンを表示する場合に操作されるキーである。また、自動撮影モード時には選択終了キーとして用いることもできる。
図4は自動撮影モード開始時に、同時撮影する予定の人数を予め撮影予定人数として設定しておくために液晶画面4上に表示される撮影予定人数設定画面の一実施例を示す図である。図4で撮影予定人数設定画面50は本発明の撮影予定人数設定手段として機能し、撮影予定人数の選択入力を促すメッセージ51と撮影予定人数設定欄52が表示される。ユーザはカーソルキー5の上方(↑)を押し続けることにより撮影予定人数設定欄52に表示される人数を桁ごとに1ずつ増加させることができる。また、カーソルキー5の下方(↓)を押すことにより撮影予定人数設定欄52に表示される人数を桁ごとに1ずつ減少させることができる。これにより、ユーザはカーソルキー5の操作により撮影予定人数設定欄52の桁ごとに表示される数を増減させて所望の撮影予定人数を表示させることができる。所望の人数が表示されたあと、ユーザがセットキー6を押すと撮影予定人数が設定される。なお、図示(図4(a))の例では撮影予定人数設定欄52に表示する初期値を0としたが、0以外の初期値を表示するようにしてもよい。
図5は本発明に基づく自動撮影モード時の制御部35による制御動作例を示すフローチャートであり、デジタルカメラ100に本発明の自動撮影機能を実現させるためのプログラムを説明するためのものである。以下に示す処理は基本的に制御部35が予めフラッシュメモリ等のプログラムメモリに記憶されたプログラムに従って実行する例で説明するが、全ての機能をプログラムメモリに格納する必要はなく、必要に応じて、その一部若しくは全部を、例えば、ネットワークを介して受信して実現するようにしてもよい。以下、図1〜図5に基いて説明する。
デジタルカメラ100の電源キー9がオンのとき、ユーザがモードダイアル3を操作して静止画撮影モードを選択すると液晶画面4に表示される処理選択メニューの中から自動撮影モードを選択することができる。制御部35は操作部45からの信号を調べ、自動撮影モードが選択された場合はステップS2に進み、他のモードが選択された場合は選択されたモードの処理を行う(ステップS1)。
自動撮影モードが選択された場合は、制御部35は、RAMに確保した撮影予定人数設定領域(図示せず)のクリアやセルフタイマーに所定の時間をセットする等の初期設定を行った後(ステップS2)、画像表示部37を制御して図4に示したような撮影予定人数設定画面50を液晶画面4上に表示させて撮影予定人数の設定を促し(ステップS3)、撮影予定人数が設定されるとその撮影予定人数を保持(RAMに確保した撮影予定人数設定領域に記憶)してステップS5に進む(ステップS4)。
制御部35は、撮像部31および画像データ処理部32を制御してその時点のズーム値に対応した焦点距離でAE処理を実行させ、撮影レンズ1を介して取り込んだ被写体光像から画像データを得ると共に自動ホワイトバランス(AWB)処理により光源の色に対応したホワイトバランスになるように調整を施した上で、所定の周期で1フレーム分の画像データを得て一時記憶メモリ36にDMA転送し、一時記憶メモリ36に取り込んだ画像データから画素数を間引いたビデオスルー画像データで画像表示部37の表示用バッファを書き換えて液晶画面4にスルー画像を表示する(ステップS5)。ユーザはスルー表示されている画像を見てフレーミングを行って全員が撮影範囲に入る好適な構図の画像を画面内に収めるようにできる。
制御部35は液晶画面4の画面領域の所定区画、例えば画面中央、をフォーカスエリアとして撮像部31のレンズ駆動系を制御してAF(オートフォーカス)処理を実行する(ステップS6)。
また、制御部35は顔抽出処理部33を制御して一時記憶メモリ36に定期的に取り込まれる1フレーム分の画像のうちの一つをサンプリング画像とし、そのサンプリング画像から顔領域を抽出させてから(ステップS7)、抽出した顔領域の数(=人数)をカウントさせ、カウント値を取得する(ステップS8)。ここで、上記ステップS6のオートフォーカス処理とステップS7、S8の顔抽出および撮影予定人数カウント処理は平行処理するように制御することが望ましい。
制御部35はオートフォーカス処理が終わったか否かを調べ、オートフォーカ処理が終わると合焦位置をロックしてステップS10に進む(ステップS9)。なお、ユーザはステップS4〜S8の間にシャッターキー8を全押しするかリモコン操作によりセルフタイマー機能をセットできる。
オートフォーカス処理が終わると、制御部35は上記ステップS8で取得した顔領域の数と上記ステップS4で保持した撮影予定人数を比較し、顔領域の数=設定された撮影予定人数の場合はステップS13に進み、そうでない場合はステップS7に戻る(ステップS10)。
制御部35はセルフタイマー機能が設定されているか否か(つまり、シャッターキー8が全押しされているか否か、若しくはリモコン操作によりセルフタイマー設定用のフラグがオンにされているか否か)を調べ、セルフタイマー機能が設定されている場合はステップS12に進み、セルフタイマー機能が設定されていない場合は即時撮影と判定してステップS13に進む(ステップS11)。なお、即時撮影の場合にも、撮影予定人数と認識された人数が一致した後に所定の時間(例えば、3秒)をおいてその間、後述するように音声、点滅、或いは撮影予告メッセージを表示して撮影予告を行なってから撮影を行なうようにすることが望ましい。
セルフタイマー機能が設定されている場合はセルフタイマーのカウントダウンを開始し、タイマーの値が0になるとステップS13に進み、そうでない場合はセルフタイマーのカウントダウンを続行する(ステップS12)。
セルフタイマー機能が設定されていないかセルフタイマーの値が0になった場合は、制御部35は、撮像部31および画像データ処理部32からなる撮像系を制御して撮像を実行する。つまり、その時点で直ちに画像データ処理部32から一時記憶メモリ36への経路を停止してスルー画像取得時とは異なる本撮影時の撮像素子駆動方式への切り替えを実行し(ステップS13)、記録部38を制御して画像データを取り込んで画像圧縮処理を施させ、この圧縮データからなる画像ファイルを記録媒体39に記録させる(ステップS14)。
上記図5のフローチャートに示した動作により、デジタルカメラ100は1フレーム分の画像から抽出した顔領域の数が予め設定された撮影予定人数と一致する場合に自動的に撮影を行うので、集合写真を撮影する場合に撮影者が人数を目視等で確認しなくてもよいし、人数を数え間違えるようなことが生じない。また、セルフタイマー機能を設定しておくと、1フレーム分の画像から抽出した顔領域の数が予め設定された撮影予定人数と一致する場合にタイマーのカウントダウンを開始する。従って、撮影者も一緒に撮影する際には撮影者が撮影範囲に入ってからカウントダウンが始まるので、従来のセルフタイマーのように撮影者が急いで撮影範囲に入らなくてもよく、例えば、撮影者も他のメンバーと同様に撮影ポーズを決める時間的余裕があるので良好な構図の集合写真を撮ることができる。
<変形例1−1>
上記図5のフローチャートに示した例では、デジタルカメラ100側で撮影予定人数等を設定したが、リモコン20(図2)を用いて撮影予定人数の設定やセルフタイマー機能を設定することもできる。図6は自動撮影モード時にリモコン20の液晶画面22上に表示される撮影予定人数およびセルフタイマー設定用画面の一実施例を示す図であり、図6(a)は撮影予定人数設定欄の表示例、図6(b)、図6(b)‘は撮影予定人数が設定された後に液晶画面22上に表示される時間設定欄の表示例、図6(c)、図6(c)’は設定完了時の表示例である。
図6(a)でユーザは入力キー29を操作して撮影予定人数設定欄22−1に撮影予定人数を入力することができる。また、図6(b)でユーザは入力キー29およびセットキー29を操作して時間設定欄22−2にセルフタイマー時間を設定することができる。即時撮影を行なう場合は図6(b)が表示されたとき、単にセットキー6を押すか時間設定欄22−2に0を入力すればよい。
図7はリモコン20を用いて自動撮影を行う際のリモコン20側の制御動作例を示すフローチャートであり、図1、図2、図6、および図7を用いて説明する。リモコン20の制御は、当該リモコン20に搭載されたリモコン制御部(図示せず)によって行われる。
リモコン20の電源キー23がオンのとき、ユーザが自動撮影設定キー26を押すと(ステップT1)、リモコン制御部は液晶画面22に図6(a)に示したような撮影予定人数設定欄22−1を表示して撮影予定人数の入力を促し、ユーザが入力キー29を操作して撮影予定人数を入力してセットキー28を押すと(ステップT2)、リモコン制御部はその撮影予定人数をリモコン20の一時記憶メモリ(図示せず)に保持する(ステップT3)。
次いで、リモコン制御部は、液晶画面22の撮影予定人数設定欄22−1をクリアしてから図6(b)、(b)‘に示すような時間設定欄22−2を表示してセルフタイマーの設定時間の入力を促し(ステップT4)、ユーザが時間を入力した場合、つまり、ユーザが入力キー29を操作してセルフタイマーの設定時間を入力してセットキー28を押すとリモコン制御部はその設定時間をリモコン20の一時記憶メモリ(図示せず)に保持してステップT6に進み(ステップT5)、設定時間を入力しない場合、つまり、単にセットキー28を押すか0を時間設定欄62に入力するとリモコン制御部は所定の時間、例えば1秒、をリモコン20の一時記憶メモリに保持してステップT6に進む(ステップT6)。
次に、リモコン制御部は図6(c)若しくは図6(c)‘に示すような設定完了画面を表示し、送信可能であることをユーザに知らせてデジタルカメラ100のリモコン操作を促す。ユーザは、デジタルカメラ100にスルー表示されている画像に対し、フレーミングを行って全員が撮影範囲に入る好適な構図の画像を画面内に収めるようにしたあと、デジタルカメラ100のLED2の点滅(或いは音声による合焦報知)があると、リモコン20のリモコン信号送信部21をデジタルカメラ100の正面中央下部にあるリモコン信号受信窓7に向けてから送信操作、例えば、セットキー6の押し下げ、を行うので、リモコン制御部は送信操作が行なわれたか否かを調べ、送信操作が行なわれた場合はステップT8に進み、そうでない場合は送信操作を待つ(ステップT7)。
送信操作が行なわれると、リモコン制御部はリモコン20の一時記憶メモリに保持している撮影予定人数およびセルフタイマーの設定時間を変換してリモコン信号を生成し(ステップT8)、リモコン信号送信部21を介してデジタルカメラ100に生成したリモコン信号を送信する(ステップT9)。
図8は、リモコン20を用いて自動撮影指示が行われた際のデジタルカメラ100側の制御動作例を示すフローチャートであり、ステップU9の自動撮影処理動作は図5のフローチャートのステップS6〜S14の動作と同様である。以下、図1〜図3、および図5〜図8に基づいて説明する。
デジタルカメラ100の電源キー9がオンのとき、制御部35は、RAM上の撮影予定人数設定領域やセルフタイマー設定領域のクリア等の初期設定を行った後(ステップU1)、撮像部31および画像データ処理部32を制御してその時点のズーム値に対応した焦点距離でAE処理を実行させ、撮影レンズ1を介して取り込んだ被写体光像から画像データを得ると共に自動ホワイトバランス(AWB)処理により光源の色に対応したホワイトバランスになるように調整を施した上で、所定の周期で1フレーム分の画像データを得て一時記憶メモリ36にDMA転送し、一時記憶メモリ36に取り込んだ画像データから画素数を間引いたビデオスルー画像データで画像表示部37の表示用バッファを書き換えて液晶画面4にスルー画像を表示する(ステップU2)。ユーザはスルー表示されている画像に対し、フレーミングを行って全員が撮影範囲に入る好適な構図の画像を画面内に収めるようにすることができる。
制御部35はリモコン信号受信部42がリモコン20からリモコン信号を受信したか否かを調べ、リモコン信号を受信した場合はステップU5に進み、受信しない場合はステップU4に進む(ステップU3)。
制御部35はシャッターキー8が操作されたか否かを調べ、シャッターキー8が操作された場合は通常撮影処理を実行し、シャッターキー8が操作されていない場合はステップU2に戻る(ステップU4)。このステップU3、U4により、デジタルカメラ100は、通常撮影処理においてスルー画像が表示されている間(つまり、ユーザによるオートフォーカス指示のためのシャッターキー半押し操作若しくは撮影指示のための全押し操作が行なわれるまで)は自動撮影指示のためのリモコン信号を受け付けることができる。
リモコン信号受信部42はリモコン20からリモコン受信窓7を介してリモコン信号を受信すると、受信したリモコン信号をデジタルデータ(撮影予定人数、セルフタイマー設定時間)に復号して制御部35に送る(ステップU5)。
制御部35はリモコン信号受信部42からデータ(撮影予定人数、セルフタイマー設定時間)を受け取ると、撮影予定人数をRAM上に確保した撮影予定人数設定領域に保持(記憶)し(ステップU6)、ステップU1の初期設定で設定したセルフタイマー設定時間を受信した設定時間で更新してから(ステップU7)、セルフタイマー機能設定フラグをオン(例えばフラグ値=「1」)にしてステップU9に進む(ステップU8)。
制御部35は、図5のステップS6〜S17に示したような自動撮影処理の実行制御を行い、セルフタイマー機能が設定されていないかセルフタイマーの値が0になった場合は、制御部35は撮影を実行する(ステップU9)。
上記図8のフローチャートに示した動作により、デジタルカメラ100はリモコン操作により撮影予定人数を設定すると自動的に撮影を行うことができるので、撮影者も一緒に撮影する際には撮影者が構図を決定して撮影範囲に入ってからリモコン操作を行なえばよく他人に撮影を依頼しなくても済む。また、リモコン操作でセルフタイマーの設定時間を設定しておくと、最後の人が撮影範囲に入って撮影予定人数と抽出した顔領域の数が一致してからカウントダウンが始まるので、最後に加わった人が撮影範囲に入ってカメラに顔を向けた途端に撮影が行なわれるようなことがなく、例えば他のメンバーと同様に撮影ポーズを決める時間的余裕がある。
<変形例1−2>
上記図5のフローチャートに示した例では、撮影予定人数と抽出した顔領域の数が一致すると、直ちに、若しくは所定時間後に撮影を行なうようにしたが、音声出力により抽出した顔領域数を被撮影者に報知したり、セルフタイマー機能設定時に撮影までの残り時間を音声出力するように構成してもよい。また、音声出力に代えて認識した人数や残り時間の報知メッセージを液晶画面4に表示するようにしてもよい。
音声出力による報知の具体例として、図5のフローチャートのステップS8とステップS9の間に、「制御部35は、ステップS8で取得した人数データを音声出力部43に送って認識した人数を音声出力する(例えば、「現在の人数は11人です」)」ステップを設けるようにしてもよい。また、このステップに代えて、「制御部35は、ステップS4で設定した撮影予定人数データとステップS8で取得した人数データおよびその差分を音声出力部43に送って撮影予定人数、認識人数、不足人数を音声出力する(例えば、「撮影予定者は15人ですが、現在の人数は11人です、あと4人揃っていません」)ステップを設けるようにしてもよい。例えば、このようなステップを設けたプログラムを実行することにより、撮影者および被撮影者に現在の人数を報知できるので、撮影範囲に入っていない人数を特定し易い。
また、図5のフローチャートのステップS12とステップS13の間に、「制御部35はセルフタイマーのカウントダウンによる残り時間データを所定時間(例えば、1秒間隔)で音声出力部に43に送って残り時間を音声出力する(例えば、「あと5秒、4秒、・・・、2秒、撮影します」)ステップを設けるようにしてもよい。これにより、被撮影者は撮影時まで後どのくらい時間があるかを知ることができるのでカメラに注意を集中することができる。なお、このステップに代えて、「制御部35はLED駆動部41を制御してセルフタイマーの残り時間があとt秒(例えば、t=2)になるまでLED2を点滅させ、残りt秒間は点灯させる」ステップを設けるようにしてもよい。
また、即時撮影の場合(つまり、ステップS12でセルフタイマー機能が設定されていない場合)にステップS11とS13の間に「制御部35は上記ステップS12でセルフタイマー機能が設定されていない場合に、撮影を予告するメッセージデータ(例えば、撮影します、2秒、1秒、スタート」)を音声出力部43に送って音声出力するようにしてからステップS13に進む」ステップを設けるようにしてもよい。撮影予定人数と認識された人数が一致すると直ちに撮影すると被撮影者は不意をつかれたり、カメラに注意を向けていない間に撮影されてしまう可能性があるが、このように構成することによりカメラに注意を集中することができる。また、このステップに代えて、「制御部35は上記ステップS12でセルフタイマー機能が設定されていない場合に、LED駆動部41を制御して所定時間の間LED2を点滅させ最後に点灯させてからステップS13に進む」ステップを設けるようにしてもよい。
また、以下に液晶画面4を用いた報知の具体例について説明する。図9は本発明に係る撮像装置の一実施例としての、表示部が前方に180度回動可能に構成されたデジタルカメラの一例を示す図であり、図9(a)は背面図、図9(b)は上面図、図9(c)は正面図であって三脚350に固定して表示部16を180度開き液晶画面4を被撮影者側に向けた状態を示す。なお、デジタルカメラ350の電気的構成は図1に示したデジタルカメラ100と同様でよい。図9で、符号1〜符号10は図1に示したデジタルカメラ1の符号1〜10と同じ部分を示している。また、符号15はデジタルカメラ本体、符号16は前方に180度回動可能に構成された回転表示部、符号17は表示部16を本体15に軸支し、前後に回動可能とする軸部、符号18はスルー画像、符号19は認識された人数表示(図示の例では11人)、符号350は三脚を意味する。
デジタルカメラ350に本発明の画像認識による自動撮影方法を適用する場合、図5のフローチャートのステップS8とステップS9の間に、「制御部35は、ステップS8で取得した人数を回転表示部16の液晶画面4に表示する」ステップを設けたプログラムを実行することにより、図5のステップS3で撮影者が撮影予定人数を設定したあと、ステップS5のスルー表示時に構図を決定してから、回転表示部16を前方に180度開くと、スルー表示されている構図および抽出された顔領域のカウント値が被撮影者側に見えるようになる。即時撮影の場合はステップS9〜S11、S13の経路で撮影者が撮影範囲に入って人数が揃うと撮影処理が行なわれる。
即時撮影の場合に、ステップS11とS13の間に「制御部35は上記ステップS12でセルフタイマー機能が設定されていない場合に、画像表示部37を制御して所定時間の間回転表示部16の液晶画面4を点滅させ、最後に点灯させてからステップS13に進む」ステップを設けるようにしてもよい。このように構成すると撮影予定人数と認識された人数が一致した場合に直ちに撮影すると被撮影者は不意をつかれたり、カメラに注意を向けていない間に撮影されてしまうようなことがないので、ユーザはカメラに注意を集中することができる。また、上述した「残り時間(秒)を回転表示部16の液晶画面4に表示する」ステップの代わりに、「セルフタイマーの残り時間が0になるまで回転表示部16の液晶画面4を点滅させる」ステップを設けるようにしてもよい。
尚、上述した実施形態に加え、検出した顔領域が撮影予定登録者数より多い場合は、例えば、図20に示すように、ユーザによる確認が終わるまで、所定画像の撮像を実施しない構成としてもよい。これにより、撮影予定登録者以外の人物が撮影されることを防止することができる。
図20は、図5に示したフローチャートのステップS10を下記ステップS10−1〜S10−3で置き換えたものであり、設定した撮影予定人数とカメラ視野内の顔領域の数が異なる場合はメッセージを出力してそれを報知すると共に撮影を禁止し、スルー表示(図5のステップS5)に戻り、ユーザがカメラの視野を変更するか人数が揃うまで待つ。なお、ユーザが撮影指示を行った場合にのみ撮影を行なう。
図20で、オートフォーカス処理が終わると、制御部35は上記ステップS8で取得した顔領域の数と上記ステップS4で保持した撮影予定人数を比較し、顔領域の数=設定された撮影予定人数の場合はステップS11進み、そうでない場合はステップS10−2に進む(ステップS10−1)。
制御部35は、画像表示部37を制御して、ユーザに撮影の可否を確認するためのメッセージ、例えば、「設定した人数とカメラ視野内の人数が違います。このまま撮影する場合は、シャッターキーを押してください。」を表示させる(ステップS10−2)。これにより、設定した人数とカメラ視野内の人数がことなる場合は自動的な撮影が禁止され、ユーザはシャッター8を押して撮影を行なうか、ステップS5に戻ってカメラの視野を変更するか予定した人数が揃うまで撮影を待つか等を選択できる。なお、音声によりこのようなメッセージを出力するようにしてもよい。
制御部35は操作部45からの信号を調べ、撮影指示、例えば、シャッターキー8の操作があったか否かを調べ撮影指示があった場合はステップS11に進み、そうでない場合は所定時間(例えば、15秒)待ってからステップS5に戻る(ステップS10−3)。
(実施形態2)
本実施形態では、フレーム内の画像(スルー画像)における顔領域に対して、顔認識情報メモリ(顔登録メモリ)に登録されている複数の顔画像データに基づいた顔領域の個別認識により個別認識することができた顔領域の数があらかじめ設定した撮影予定登録者数と一致した場合に、所定のタイミングで自動撮影を行う例について述べる。
図10は本発明に係る撮像装置の一実施例としてのデジタルカメラの電気的構成の一実施例を示すブロック図である。なお、デジタルカメラ400の外観構成は図1に示したデジタルカメラの外観構成と同様とする。また、デジタルカメラ400の電気的構成は図2に示したデジタルカメラ100の電気的構成に、顔認識処理部34および顔認識情報メモリ46を追加した構成であり、顔認識処理部34および顔認識情報メモリ46以外の構成、つまり、撮像部31〜顔抽出処理部33、および制御部35〜操作部45の電気的構成および機能はデジタルカメラ100の電気的構成および機能と同様である。
顔認識処理部34は顔抽出処理部33で抽出された顔領域の顔部分を正規化し、正規化した顔の特徴データを抽出して顔認識情報メモリに登録されている認識用顔レコードに記憶されている特徴データと比較して類似度を判定し、類似度が所定の閾値以上である場合にフレーム内で検出された顔が顔認識情報メモリに登録されているどの人物の顔であるかを個別認識する。顔認識処理技術は、公知の技術(例えば前述した特許文献2(特開平2002−251380号公報)記載の技術)を適宜用いることができる。顔部分の正規化は、例えば、顔部分のサイズ、傾き、顔の向き等を、拡大若しくは縮小、傾き角度調整、回転、等の処理によって行うことができる。また、類似度の判定には、例えば、検出した顔の特徴データと顔認識情報メモリ46に登録済みの人物の顔の特徴データの差分から距離(距離自乗平均)を求め、距離が所定の閾値以下の場合に類似度が高い(若しくは一致している)と判定することができる。また、なお、この顔認識処理のために専用の回路を設けてもよいし制御部35で顔認識用プログラムを実行させるようにしてもよい。
顔認識情報メモリ46は、図11に示すように顔認識テーブル60を構成する複数の顔認識レコードや認識対象人物のベストショットシーンの顔画像(圧縮画像データ)を登録した照合用画像データ70を検索可能に複数記憶してなり、顔認識処理部34によって参照される。顔認識情報メモリはまたユーザのキー入力操作によって新規登録、調整、または削除等の更新が可能である。なお、顔認識情報メモリ46はDRAM等の書き換え可能なメモリであればよく、記憶媒体39とは別の専用メモリであってもよいが、記憶媒体39上に確保したメモリ領域でもよい。
図12は、顔認識テーブル60を構成する顔認識レコード69の構造の一実施例を示す図であり、顔認識レコード69は図12(a)に示すように、それぞれの顔認識レコードを識別するための個人IDを記憶する個人ID欄61、名前を記録する名前欄62、撮影対象画像として選択された場合は所定のマークを書き込む撮像対象欄63、正規化された顔の特徴データを記録する特徴データ欄64、照合用画像データドレスを記憶する照合用画像データドレス欄65等を含む。また、図示の例で撮像対象欄63は必須ではないが後述する変形例では必須である。
特徴データ欄64には顔認識処理部34で抽出した顔領域の顔部分の特徴データと比較して類似判定を行うための登録済み特徴データが記憶されており、例えば、図12(b)に示すように顔の各部位(目、鼻、口、耳、額顎、・・・等)の位置を記憶する位置欄64−1や各部位のサイズを記憶するサイズ欄64−2、各部分の角度を記憶する角度欄64−3、顔の各部位間の相対関係例えば、左右の目の間隔や、顔の横サイズとの比率等)を記憶する相対関係欄64−4等を示すデータが含まれる。
照合用画像データドレス欄65は個人の顔画像を記憶した照合用画像データの格納先の先頭アドレスであり、例えば、撮影予定登録者を指定する際に個人IDや名前等を指定して照合用画像を再生して液晶画面4に表示する際などに用いることができる。
図13は顔認識情報メモリ46に登録されている照合用画像の一実施例を示す図であり、照合用画像81、82は予めデジタルカメラ400で撮影され、画像認識処理により正規化されて顔認識情報メモリ46に登録された画像である。なお、照合用画像は他の撮像装置で撮影され外部入出力部40を介してデジタルカメラ400に取り込まれ、顔認識情報メモリ46に登録された画像でもよい。外部から取り込まれた照合用画像はデジタルカメラ400側で正規化してもよいが、デジタルカメラ400用に他のデジタルカメラのような外部撮像装置で正規化したものでもよい。また、図13では正面図のみを照合用画像として登録した例を示したが、図14に示すように、各人物について所定の方向(図示の例では「正面」、「あおり」、「俯瞰」、「横顔」の4方向)から撮影した画像86〜89をそれぞれの方向ごとに正規化して照合用画像として顔認識情報メモリ46に登録するようにしてもよい。
図15は、本実施形態にかかわる画像認識による自動撮影の説明図であり、フレーム画像90はデジタルカメラ400によって取り込まれた電車や雑踏での複数の人物像を示す。自動撮影モードでユーザが図4に示したような撮影予定者数設定画面を用いて顔認識情報メモリ46の顔認識テーブル60に登録した人物のうちから撮影予定登録者数(例えば「2」)を設定すると、顔抽出処理部33はフレーム90内の画像から顔領域91、92、93を抽出する。顔認識処理部34は抽出された各顔領域の顔部分を順次正規化して特徴データを抽出し、顔認識テーブル60を構成する各顔認識レコード69の特徴データ欄64に記憶されている特徴データと抽出した各特徴データを順次比較する。制御部35は抽出された各顔領域の顔部分について顔認識処理を行い、個別認識することができた顔部分(高い類似度を得ることができた顔部分)の数が設定した撮影予定登録者数と一致するか否かを調べ、一致した場合に自動撮影を行なう。なお、本実施形態の変形例として後述するように自動撮影モードで撮影予定登録数を設定する際、図17(b)に示すような撮影予定登録者数設定画面を用いて顔認識テーブル60に登録されている人物のうちで撮影する人物を指定し、フレーム画像の中から指定した人物をすべて認識できた場合に自動撮影を行なうようにしてもよい。また、自動撮影モードで、図17(c)に示すような撮影除外者登録画面で撮影しない人物を指定するようにしてフレーム画像の中で除外指定した人物以外の登録人物を一人でも認識できた場合に自動撮影を行なうようにしてもよいし、除外指定した人物以外の登録人物をすべて認識した場合に自動撮影を行なうようにしてもよい。
図16は、本発明に基づく自動撮影モード時の制御部35による制御動作例を示すフローチャートであり、デジタルカメラ400に本発明の自動撮像機能を実現させるためのプログラムを説明するためのものである。以下に示す処理は基本的に制御部35が予めフラッシュメモリ等のプログラムメモリに記憶されたプログラムに従って実行する例で説明するが、全ての機能をプログラムメモリに格納する必要はなく、必要に応じて、その一部若しくは全部を、例えば、ネットワークを介して受信して実現するようにしてもよい。以下、図4、図10〜図16に基づいて説明する。
デジタルカメラ400の電源キー9がオンのとき、ユーザがモードダイアル3を操作して静止画撮影モードを選択すると液晶画面4に表示される処理選択メニューの中から自動撮影モードを選択することができる。制御部35は操作部45からの信号を調べ、自動撮影モードが選択された場合はステップV2に進み、他のモードが選択された場合は選択されたモードの処理を行う(ステップV1)。
自動撮影モードが選択された場合は、制御部35は、RAM等のメモリに確保したセルフタイマーの時間設定等の初期設定を行った後(ステップV2)、画像表示部37を制御して図4に示したような撮影人数設定画面を液晶画面4上に表示させて撮影予定登録者数の設定を促し(ステップV3)、撮影予定登録者数が設定されるとその撮影予定登録者数を保持(RAM上に確保した撮影予定登録者数設定領域に記憶)してステップV5に進む(ステップV4)。
制御部35はRAM等のメモリに確保した顔領域カウンタ及び認識カウンタをゼロクリアし、類似度保持領域をクリアして初期化する(ステップV5)。ここで、顔領域カウンタは顔抽出処理部33で抽出した顔領域の数をカウントするカウンタであり、認識カウンタは顔認識処理部34での顔認識処理により個別認識することができた顔領域の数をカウントするカウンタである。
撮像部31および画像データ処理部32を制御してその時点のズーム値に対応した焦点距離でAE処理を実行させ、撮影レンズ1を介して取り込んだ被写体光像から画像データを得ると共に自動ホワイトバランス(AWB)処理により光源の色に対応したホワイトバランスになるように調整を施した上で、所定の周期で1フレーム分の画像データを得て一時記憶メモリ36にDMA転送し、一時記憶メモリ36に取り込んだ画像データから画素数を間引いたビデオスルー画像データで画像表示部37の表示用バッファを書き換えて液晶画面4にスルー画像を表示する(ステップV6)。ユーザはスルー表示されている画像を見てフレーミングを行って全員が撮影範囲に入る好適な構図の画像を画面内に収めるようにできる。
制御部35は、一時記憶メモリ36に順次取り込まれる画像から1フレーム分のサンプリング画像を取り出し、顔抽出処理部33を制御してサンプリング画像から顔領域を抽出させてから顔領域の位置をRAM等のメモリに保持(一時記憶)し(ステップV7)、顔領域カウンタに1を加えて顔領域カウンタ値を更新してから上記ステップV4で設定した撮影予定登録者数を比較し、顔領域カウンタの値が撮影予定登録者数以上の場合はステップV9に進み、撮影予定登録者数未満の場合はステップV5に戻る(ステップV8)。ここで、ステップV7での顔領域の位置は例えばフレーム内の一点を原点とした座標(顔領域が矩形の場合は4隅の座標)や顔領域の中心の座標で表すことができる。また、顔領域の位置ではなく、抽出した顔領域の画像データそのものをメモリに記憶するようにしてもよい。また、ステップV8で顔領域カウンタの値が撮影予定登録者数より少ない場合にその旨のメッセージ(例えば、「カメラ視野内に設定した数の登録者がいません」)を表示または音声出力してカメラの視野を変えるように促してステップV5に戻るようにしてもよい。なお、上記ステップV8では、後のステップで実施される顔の個別認識処理に先立って、予め抽出した顔領域の数を確認しておくことで、各顔領域に対して個別認識を行うまでもなく、個別認識できる顔領域の数が撮影予定登録者数より少ないときに、処理負担の大きい顔認識処理を実行してしまうことを防止している。
そして、抽出した顔領域の数が、撮影予定登録者数以上になると、制御部35は、顔認識処理部34を制御して顔認識情報メモリ46に登録されている顔認識テーブルを用いてステップV6で抽出した顔領域の顔部分の顔認識処理を順次実行させ、その顔領域の顔部分が顔認識情報メモリ46に登録されている複数の顔認識レコードのうちのある顔認識レコードに記憶されている人物の顔と一致すると認識できた場合はステップV10に進み、個別認識できなかった場合はステップV12に進む(ステップV9)。顔部分の顔認識処理部34は前述したように顔抽出処理部33で抽出された顔領域の顔部分を正規化し、正規化した顔の特徴データを抽出して顔認識情報メモリに登録されている認識用顔レコードに記憶されている特徴データと比較して類似度を判定し、フレーム内で検出された顔が顔認識情報メモリに登録されているどの人物の顔であるかを認識するが、顔認識処理は公知の方法を適宜用いることができる。なお、認識の際には抽出されたある顔領域の顔部分と類似度が最も高い人物の顔画像がその顔領域の顔画像の人物として認識されることになるが、類似度が最も高くても所定の類似度より低い場合にはその顔領域の顔部分を非認識(認識できない顔画像)とすることが望ましい。このようにすることにより、一定の水準の認識精度を保つことができる。
制御部35は、上記ステップV9の個別認識処理により個別認識することができた顔領域の位置とその類似度を対応付けてRAM等のメモリに確保されている類似度保持領域に保持し(ステップV10)、認識カウンタの値に1を加えて認識カウンタ値を更新し、その値と上記ステップV4で設定した撮影予定登録者数とを比較し、認識カウンタの値と撮影予定登録者数が一致する場合はフレーム内の顔領域のなかで指定された数の登録者分の顔認識ができたものとしてステップV13に進む(ステップV11)。また、認識カウンタの値<撮影予定登録者数の場合または上記ステップV9で認識できなかった場合は、顔領域カウンタから1を差し引いて顔領域カウンタを更新してからその値が0より大きいか否かを調べ、0より大きい場合は次の顔の顔認識処理を実行するためにステップV9に戻り、顔領域カウンタの値が0の場合はフレーム内に撮影予定登録者数分の人数の登録者が写っていないのでステップV5に戻る(ステップV12)。なおステップS12で顔領域カウンタの値が0の場合にその旨のメッセージ(例えば、「カメラ視野内に設定した数の登録者を認識できませんでした」)を表示または音声出力してカメラの視野や距離や光量等の撮影条件を変えるように促してステップV5に戻るようにしてもよい。
制御部35は上記ステップV10でメモリの類似度保持領域に保持した類似度のうち最も高い類似度と対応付けられて記憶された顔領域またはその中心部分をフォーカスエリアとして撮像部31のレンズ駆動系を制御してAF(オートフォーカス)処理を実行する(ステップV13)。なお、フォーカスエリアとして認識された顔部分を含む顔領域のうち、最もカメラに近い顔領域またはその中心部分をフォーカスエリアとするように構成してもよい。
制御部35はセルフタイマー機能が設定されているか否か(つまり、シャッターキー8が全押しされているか否か、若しくはリモコン操作によりセルフタイマー設定用のフラグがオンにされているか否か)を調べ、セルフタイマー機能が設定されている場合はステップV15に進み、セルフタイマー機能が設定されていない場合は即時撮影と判定してステップV16に進む(ステップV14)。
セルフタイマー機能が設定されている場合は直ちにセルフタイマーのカウントダウンを開始し、セルフタイマーの値が0になるとステップV16に進み、そうでない場合はセルフタイマーのカウントダウンを続行する(ステップV15)。
セルフタイマー機能が設定されていないかセルフタイマーの値が0になった場合は、制御部35は撮影を実行する。つまり、その時点で直ちに画像データ処理部32から一時記憶メモリ36への経路を停止してスルー画像取得時とは異なる本撮影時の撮像素子駆動方式への切り替を実行し(ステップV16)、記録部38を制御して画像データを取り込んで画像圧縮処理を施させ、この圧縮データからなる画像ファイルを記録媒体39に記録させて撮影処理を終了する(ステップV17)。
上記図16のフローチャートに示した動作により、デジタルカメラ400は顔認識により個別認識することができた被撮影者の人数が予め設定された撮影予定登録者数と一致する場合に自動的に撮影を行うことができる。例えば、電車内や遊園地、イベント会場のような人ごみの中で例えば家族や友人のような登録人物がフレーム内にいる場合に自動撮影を行なうので、撮影者が人数や人の顔を目視等で確認しなくてもよいし、見間違えるようなことが生じない。また、被撮影者の人数が予め設定された人数の登録者と一致する場合に類似度の最も高い顔領域にオートフォーカス処理により自動的にピントを合わせるので、人ごみの中で撮影対象者にピントのあった写真を自動撮影できる。また、セルフタイマー機能を設定しておくと、顔認識により認識された被撮影者の人数が予め設定された撮影予定登録者数と一致する場合にタイマーのカウントダウンを開始するので、撮影対象者に声をかけるなどしてカメラに注目させてから自動撮影することもできる。
<変形例2>
上記実施形態2では予め顔認識情報メモリ46に顔画像及び個別認識用の顔画像データを登録しておき、フレーム中から抽出した顔領域内の顔部分について顔の個別認識処理を行い、ユーザが設定した撮影予定登録者数分の撮影予定登録者を認識できた場合にオートフォーカスを実行して自動撮影を行なう例を示したが、本実施形態では顔認識情報メモリ46に登録した顔画像のなかから所望の(複数可)撮影予定登録者を指定すると、フレーム中から抽出した顔領域内の顔画像について顔の個別認識処理を行い、ユーザが指定した撮影予定登録者の顔または撮影除外者以外の撮影予定登録者の顔を認識できた場合にオートフォーカスを実行して自動撮影を行なう例について説明する。
図17は撮影予定登録者数設定画面の一実施例を示す図であり、図17(a)は登録画像指定方法選択画面170の一実施例、図17(b)は登録画像指定画面の一実施例、図17(c)は撮影方法設定画面の一実施例、図17(d)は撮影除外者設定画面の一実施例である。また、本実施形態において撮影予定登録者数設定画面は撮影予定登録者数設定手段として機能する。なお、図17(b)は必須であるが、図17(a)、(c)、(d)は必須ではない。
図17(a)の登録画像指定方法選択画面170で「登録者全員」メニューを選択すると、顔認識情報メモリ46に登録されている全員が撮影対象となり、顔画像の選択を要しない。登録者数、つまり、顔認識情報メモリ46に登録済みの顔画像レコードの数をNとすると、前述した実施形態1で撮影予定者数=Nとした場合と同様になる。
図17(a)で「登録画像指定」メニューを選択すると、図17(b)に示すような登録画像指定画面171が表示され、顔認識情報メモリ46に登録されている顔画像172が表示されるので、ユーザはカーソルキー5のような選択キーおよびセットキー6のような確認キーを操作して表示される登録済み顔画像のうちから撮影対象とする人物の顔画像を選択することができる。なお、撮影対象とする登録済み顔画像は複数選択することができる。また、顔画像を登録順に再生表示するのではなく、登録者の個人IDまたは名前を入力するとその顔画像を再生表示し確認キーを押すとその顔画像が選択されるように構成してもよい。
図17(a)で「撮影除外者指定」メニューを選択すると、図17(c)に示すような撮影方法設定画面174が表示され、ユーザが「撮影方法1」または「撮影方法2」を選択すると所定のフラグ値が設定された後に、図17(d)に示すような除外者指定画面176が表示されるので、ユーザはカーソルキー5のような選択キーおよびセットキー6のような確認キーを操作して表示される登録済み顔画像のうちから撮影対象とする人物の画像を選択することができる。なお、撮影除外とする登録済み画像は複数選択することができる。図17(c)で「撮影方法1」を選択すると、フレーム内で除外者以外の登録者を一人でも顔認識できた場合にオートフォーカスを実行して自動撮影を行なうことができる。また、「撮影方法2」を選択すると、フレーム内で除外者以外の登録者が全員顔認識できた場合にオートフォーカスを実行して自動撮影を行なうことができる。
図18および図19は、本変形例に係わる自動撮影モード時の制御部による制御動作例を示す一連のフローチャートである。図18は図16に示したフローチャートのステップV3の撮影人数設定機能を後述のステップV3−1〜V3−19で置き換えたものであり、図19は図16のフローチャートのステップV9の画像認識処理機能を後述のステップV9−1〜V9−3で置き換えたものである。また、図18および図19において図示していないステップV1、V2、ステップV4〜V8、ステップV10〜V17の機能及び動作は図16のフローチャートのテップV1、V2、ステップV4〜V8、ステップV10〜V17の機能及び動作と同様である。以下、図10〜図19に基いて説明する。なお、ステップV2の初期設定では更に人数カウンタの値をゼロクリアするものとする。
図18において、ステップV2の初期設定が終わると、制御部35は画像表示部37を制御して液晶画面4上に図17(a)に示したような登録画像指定方法選択画面170を表示させてユーザに登録画像指定方法の選択を促し(ステップV3−1)、操作部45からの信号を調べてユーザが「登録者全員」メニューを選択するとステップV3−3に進み、「登録画像指定」メニューを選択するとステップV3−5に進み、「撮影除外者指定」メニューを選択するとステップV3−15に進む(ステップV3−2)。
図17(a)で「登録者全員」メニューが選択されると、制御部35は撮影方法判定フラグに第1の値、例えば、「1」を設定すると共に、顔認識情報メモリ46に登録されている顔画像レコード数(=登録者数)を撮影予定登録者数として保持(RAMに確保した撮影予定登録者数設定領域に記憶)し(ステップV3−3)、全ての顔認識レコードの撮像対象欄63に所定のマーク(例えば「*」)を書き込んでからステップV4に進む(ステップV3−4)。
図17(a)で「登録画像指定」メニューが選択されると、制御部35は撮影方法判定フラグに第1の値、例えば、「1」を設定し(ステップV3−5)、画像表示部37を制御して液晶画面4上に図17(b)に示すような登録画像指定画面171を表示させ、顔認識情報メモリ46に登録されている照合用画像データを取り出して顔画像データの伸張等の画像再生処理を施し、画像表示部37に再生した顔画像を送って登録画像指定画面171上に表示させ、ユーザの選択を促す。(ステップV3−6)。ここで、ユーザはカーソルキー5を操作して顔認識情報メモリ46に登録されている照合用画像データ70を正順若しくは逆順に検索して登録画像指定画面171上に再生画像を表示させ、撮影対象人物の画像が表示されると画像指定キー、例えば、セットキー6を押してその画像を選択指定することができる。
制御部35は操作部45からの信号を調べ、カーソルキー5が右方(>)操作された場合は操作の都度、顔認識情報メモリ46に登録されている照合用画像データ70を正順に検索して再生処理を施して登録画像指定画面171上に表示させ、カーソルキー5が左方(<)操作された場合は操作の都度、顔認識情報メモリ46に登録されている照合用画像データ70を逆順に検索して再生処理を施して登録画像指定画面171上に表示させる。また、画像指定キーが押されるとそのとき登録画像指定画面171上に表示されている顔画像の人物が指定されたものとしてステップV3−8に進む(ステップV3−7)。
画像指定キーが押されると、制御部35は上記ステップV3−7で指定された顔画像に対応する顔認識レコードの撮像対象欄63に所定のマーク(例えば「*」)を書き込んでから(ステップV3−8)、撮影予定登録者数カウンタの値に1を加えると共に撮影予定登録者数カウンタの値(=人数)を表示し(ステップV3−9)、さらに操作部45からの信号を基に選択終了キーが押されたか否かを調べ、終了選択キーが押された場合はステップV3−11に進み、そうでない場合はステップV3−7に戻る(ステップV3−10)。図17の例では選択終了キーとしてメニューキー10を用いたが、これに限定されない。選択終了キーとしてシャッターキー8を用いるようにし、シャッターキー8が半押し操作された場合を選択終了とするようにしてもよいし、その他のキーを選択終了キーとして用いるように構成してもよい。
撮影対象者の指定が終わると、制御部35は撮影方法判定フラグの値を調べ、撮影方法判定フラグの値が第1の値の場合はステップV3−12に進み、第2の値の場合はステップV3−13に進み、第3の値の場合はステップV3−14に進む(ステップV3−11)。
撮影方法判定フラグの値が第1の値の場合は、制御部35は人数カウンタの値を撮影予定登録者数として保持してステップV4に進む(ステップV3−12)。このステップの動作により、ステップV8以降(図16参照)においてフレーム内に撮影対象者として指定された全人物の顔を個別認識できた場合に自動撮影を行なうことができる。
撮影方法判定フラグの値が第2の値の場合は、制御部35は撮影予定登録者数として数値「1」を保持してステップV4に進む(ステップV3−13)。このステップの動作により、ステップV8以降(図16参照)においてフレーム内に撮影除外者以外の撮影予定登録者のうちの一人を個別認識できた場合に自動撮影を行なうことができる。
撮影方法判定フラグの値が第3の値の場合は、制御部35は顔認識情報メモリ46に登録されている全顔画像レコード数(つまり、登録者数)から人数カウンタの値を差し引いた値を撮影予定登録者数として保持してステップV4に進む(ステップV3−14)。このステップの動作により、ステップV8以降(図16参照)においてフレーム内に撮影除外者以外の登録者全員を個別認識できた場合に自動撮影を行なうことができる。
図17(a)で「撮影除外者指定」メニューが選択されると、制御部35は画像表示部37を制御して図17(c)に示すような撮影方法設定画面174を表示させてユーザの選択を促し(ステップV3−15)、操作部45からの信号を調べてユーザが「撮影方法1」を選択した場合にはステップV3−17に進み、「撮影方法2」を選択した場合にはステップV3−18に進む(ステップV3−16)。
「撮影方法1」が選択された場合には、制御部35は撮影方法判定フラグに第2の値、例えば「2」を設定してステップV3−19に進む(ステップV3−17)。
「撮影方法2」が選択された場合には、制御部35は撮影方法判定フラグに第3の値、例えば「3」を設定してステップV3−19に進む(ステップV3−18)。
次に、制御部35は画像表示部37を制御して図17(d)に示すような除外者指定画面176を液晶画面4上に表示させてから、顔認識情報メモリ46に登録されている照合用画像データを取り出して顔画像データの伸張等の画像再生処理を施し、画像表示部37に再生した顔画像を送って除外者指定画面176上に表示させ、ユーザの選択を促し、ステップV3−7に進む(ステップV3−19)。
図19において、ステップV8の動作の後、制御部35は撮影方法判定フラグの値を調べ、撮影方法判定フラグの値が第1の値の場合はステップV9−3に進み、第2または第3の値の場合はステップV9−2に進む(ステップV9−1)。このステップの動作により、撮影方法判定フラグの値が第1の値の場合は、ステップV9−3においてフレーム内に撮影対象者として指定された人物全員の顔を個別認識できた場合において自動撮影を行なうことができる。
制御部35は撮影除外者以外の登録者を撮影対象者とするために顔認識情報メモリ46に登録されている顔認識レコードのうち撮影対象欄63のマーク書き換え処理を行い(ステップV9−2)。マーク書き換え処理は顔認識レコードのうち撮影対象欄63に所定のマークが記憶されている撮影対象欄63のマークを消去すると共に、所定のマークが記憶されていない撮影対象欄63に所定のマーク(例えば「*」)を記憶することにより行うことができる。このステップのマーク書き換え動作により、撮影方法判定フラグの値が第2の値の場合は、ステップV9−3においてフレーム内に撮影除外者以外の登録者一人を個別認識できた場合に自動撮影を行なうことができる。また、撮影方法判定フラグの値が第3の値の場合は、ステップV9−3においてフレーム内に撮影除外者以外の登録者全員を個別認識できた場合に自動撮影を行なうことができる。
次に、制御部35は、顔認識処理部34を制御して顔認識情報メモリ46に登録されている顔認識レコードのうち撮影対象欄63に所定のマーク(例えば「*」)が記憶されている顔認識レコードを用いてステップV6で抽出した顔領域(i;iは顔領域カウンタの値)の顔部分の個別認識処理を順次実行させ、その顔領域の顔部分が顔認識情報メモリ46に登録されている複数の顔認識レコードのうちのある顔認識レコードに記憶されている人物の顔と一致すると認識できた場合はステップV10に進み、認識できなかった場合はステップV12に進む(ステップV9−6)。
上記図18および図19に示したフローチャートのステップV3−1〜V3−12、ステップV4〜V8、ステップV9−1、V9−3の経路によれば、顔を個別認識して自動撮像を行う際に、抽出した顔領域の顔部分が指定した撮影予定登録者の顔として個別認識された場合にのみ撮像を行なうので、顔認識情報メモリ46に登録した顔画像のなかから所望の(複数可)撮影登録者を指定すると、フレーム中から抽出した顔領域内の顔画像について顔の個別認識処理を行い、オートフォーカスを実行して自動撮影を行なうことができる。また、V3−1、V3−2、ステップV3−15〜V3−19、ステップV4〜V8、ステップV9−1、V9−3の経路によれば、顔を個別認識して自動撮像を行う際に、抽出した顔領域の顔部分の一つでも指定した撮影除外者以外の登録者の顔として個別認識できるとオートフォーカスを実行して自動撮影を行なうことができる。また、V3−1、V3−2、ステップV3−15、V3−16、V3−18、ステップV4〜V8、ステップV9−1〜V9−3の経路によれば、顔を個別認識して自動撮像を行う際に、抽出した各顔領域の顔部分のいくつかが指定した撮影除外者以外の登録者全員の顔としてそれぞれ個別認識できるとオートフォーカスを実行して自動撮影を行なうことができる。
尚、上述した実施形態に加え、撮影予定登録者として個別認識できなかった顔領域があったときには、例えば、図21に示すように、撮影予定登録者として個別認識できない顔領域がなくなるまで、所定画像の撮像を実施しない構成としてもよい。撮影予定登録者以外の人物が撮影されることを防止することができる。
図21は、図16に示したフローチャートのステップV8を下記ステップV8−1〜V−3で置き換えた図21(a)と図16に示したフローチャートのステップV12を下記ステップV12−1〜V12−3で置き換えた図21(b)からなる。図21(a)は、顔領域カウンタの値が撮影予定登録者数以上の場合はステップV7で抽出した顔領域の中に、撮影予定登録者以外の人物の顔領域があった場合はメッセージを出力してそれを報知すると共に撮影を禁止してスルー表示(図16のステップV5)に戻り、ユーザがカメラの視野を変更するか撮影予定登録者以外の人物がカメラ視野内から出るまで待つ。また、図21(b)は図撮影予定登録者として個別認識できなかった顔領域がある場合はメッセージを出力してそれを報知すると共に撮影を禁止しスルー表示(図16のステップV5)に戻り、ユーザがカメラの視野を変更するか個別認識できる顔の人物(うまり、撮影登録者)が視野内に入るまで待つ。なお、ユーザが終了指示を行うと撮影を終了する。
図21(a)で、制御部35は、顔領域カウンタに1を加えて顔領域カウンタ値を更新してから上記ステップV4で設定した撮影予定登録者数を比較し、顔領域カウンタの値が撮影予定登録者数未満の場合はステップV5に戻り、撮影予定登録者数と同じの場合はステップV9に進み、撮影予定登録者数以上の場合は撮影予定登録者以外の人物がカメラ視野内にいることを意味するのでステップV8−2に進む(ステップV8)。
制御部35は、画像表示部37を制御して、ユーザに撮影の可否を確認するためのメッセージ、例えば、「撮影予定者以外の人物が写っています。」を表示させる(ステップV8−2)。これにより、撮影予定者数以上の人物がカメラ視野内にいる場合は、ユーザは撮影を終了するか、撮影予定登録者以外の人物がカメラ視野内からいなくなるまで待つかを選択できる。なお、音声によりこのようなメッセージを出力するようにしてもよい。
制御部35は操作部45からの信号を調べ、終了指示があった場合は処理を終了し、そうでない場合は所定時間(例えば、5秒)待ってからステップV5に戻る(ステップV8−3)。
図21(b)で、制御部35は、顔領域カウンタから1を差し引いて顔領域カウンタを更新してからその値が0より大きいか否かを調べ、0より大きい場合は次の顔の顔認識処理を実行するためにステップV9に戻り、顔領域カウンタの値が0の場合はフレーム内に撮影予定登録者数分の人数の登録者が写っていないのでステップV12−2に進む(ステップV12−1)。顔領域カウンタの値が0の場合はステップV7で抽出した顔領域の中に、撮影予定登録者以外の人物の顔領域があった(つまり、撮影予定登録者以外の人物がカメラ視野内にいる)ことを意味する
制御部35は、画像表示部37を制御して、ユーザに撮影の可否を確認するためのメッセージ、例えば、「撮影予定登録者以外の人物が写っています。」を表示させる(ステップV12−2)。これにより、撮影予定登録者以外の人物がカメラ視野内にいる場合は、ユーザは撮影を終了するか、撮影予定登録者として個別認識できない人物がカメラ視野内からいなくなるまで待つかを選択できる。なお、音声によりこのようなメッセージを出力するようにしてもよい。
制御部35は操作部45からの信号を調べ、終了指示があった場合は処理を終了し、そうでない場合は所定時間(例えば、5秒)待ってからステップV5に戻る(ステップV12−3)。
また、上述した実施形態では、顔領域カウンタの値や顔認識カウンタ(認識カウンタ)の値に基づいて、所定画像が自動撮影される自動撮影モードについて説明したが、本発明は自動撮影モードに限定するものではなく、例えば、顔領域カウンタの値や顔認識カウンタ(認識カウンタ)の値に基づいて、所定画像の撮像の実行が許容される構成としてもよい。例えば、ユーザからの指示に基づいて実行される前記撮像系による所定画像の撮像を禁止する撮像禁止手段を備え、前記撮像禁止手段は、前記撮影予定人数と前記顔領域カウンタや前記顔認識カウンタの値が一致、または、前記撮影予定登録者の数と前記顔認識カウンタの値が一致したときに、ユーザからの指示に基づいて実行される前記撮像系による所定画像の撮像を許容する構成としてもよい。撮影予定人数となる前に、ユーザが誤って操作部45等を操作することにより、ユーザが意図しない所定画像の撮像を実行してしまうことを防止することができる。
例えば、図5のフローチャートのステップS10で顔領域の数が撮影予定人数になった場合で、セルフタイマー機能が設定されていない場合に、ステップS11とS13の経路の間に、顔領域の数が撮影予定人数になった旨を報知するメッセージを出力するステップと、ユーザによる撮影指示(例えば、シャッター操作)があった場合に限りステップS13(撮像)に進むステップを設けるようにしてもよい。また、図16のフローチャートのステップV11で認識カウンタの値が撮影予定登録者数になった場合に、ステップV11とV13の経路の間に、顔領域の数が撮影予定登録者数になった旨を報知するメッセージを出力するステップと、ユーザによる撮影指示(例えば、シャッター操作)があった場合に限りステップV13(オートフォーカス処理)に進むステップを設けるようにしてもよい。
また、上述した実施形態では、操作部45を介してユーザが予め撮影予定人数等を設定する構成について説明したが、撮影予定人数等は、自動的に設定される構成としてもよい。例えば、撮像系から取得される画像に基づいて人物の全影領域を抽出し、前記抽出した人物の全影領域の数を撮影予定人数とする構成としてもよい。つまり、撮像系から取得される画像に基づいて人物として認識可能な人物全員に対して顔領域が抽出されたときに、所定画像の撮像を実行する構成としてもよい。
例えば、デジタルカメラ400の電子回路構成に更に被写体の輪郭を抽出する輪郭抽出部を備えるようにし、図5のフローチャートのステップS3を「制御部35は輪郭抽出部を制御してフレーム内の被写体の輪郭を抽出する」ステップとし、ステップS4を「抽出した輪郭から人物の数を判定して撮影予定人数として設定する」ステップとするようにしてもよい。また、図16のフローチャートのステップV3を「制御部35は輪郭抽出部を制御してフレーム内の被写体の輪郭を抽出する」ステップとし、ステップV4を「抽出した輪郭から人物の数を判定して撮影予定人数として設定する」ステップとするようにしてもよい。
以上、本発明のいくつかの実施例について説明したが本発明は上記各実施例に限定されるものではなく、種々の変形実施が可能であることはいうまでもない。また、上記実施形態1、実施形態2、およびこれらの各変形例では、静止画撮影モード下で自動撮影モードを実行する場合について説明したが、本発明の適用範囲は静止画撮影時に限定されず、動画撮影モードや高速連写モード時にも適用できる。また、撮像装置という用語は、デジタルカメラやカメラ付き携帯電話機のほか、撮像部を有する情報機器などにも適用し得るものである。