以下、図面を参照しながら本発明の実施の形態について説明する。
図1は、本発明を適用したビデオカメラ1の一実施の形態の構成を示すブロック図である。
ビデオカメラ1は、撮像している画像をリアルタイムで表示する機能を有する撮像装置の一例である。なお、本実施の形態では、ビデオカメラ1を例にして説明するが、これに限らず、例えば、デジタルスチルカメラ、撮像機能付き携帯電話機、または撮像機能付きパーソナルコンピュータ等、撮像機能と、撮像している画像を表示する機能を有する機器に適用することができる。
ビデオカメラ1は、光学ブロック11、レンズアイリスドライバ12、CCD(Charge Coupled Devices)13、タイミング生成回路14、CCDドライバ15、前処理回路16、DSP(Digital Signal Processor)17、SDRAM(Synchronous Dynamic Random Access Memory)18、CPU(Central Processing Unit)19、RAM(Random Access Memory)20、フラッシュROM(Read Only Memory)21、ディスプレイコントローラ22、表示部23、入力部24、ドライブコントローラ25、記録メディアインターフェース27、およびバス29を含むようにして構成される。また、ビデオカメラ1には、例えば、リムーバブルメディア26と記録メディア28の2つの記録媒体がそれぞれ適宜装着される。
光学ブロック11は、例えば、光学レンズ、フォーカス機構、シャッタ機構、および絞り(アイリス)機構等から構成され、被写体に反射した光(の像)を集め、すなわち、被写体の像の光をCCD13の受光部に結像させる。光学ブロック11は、レンズアイリスドライバ12により駆動される。
レンズアイリスドライバ12は、CPU19からの制御に応じて、光学ブロック11を動作させる駆動信号を生成し、生成した駆動信号を光学ブロック11に供給して、光学ブロック11を動作させる。例えば、レンズアイリスドライバ12は、画像の撮像時にユーザの指示に基づいて、合焦させたり、絞りを調節して光量を調整させるための駆動信号を光学ブロック11に供給する。
CCD13は、CCDセンサから構成され、CCDドライバ15から供給される駆動信号に応じて、光学ブロック11により結像された光(像)を光電変換することにより、光をアナログの電気信号に変換する。CCD13は、CPU19により制御されるタイミング生成回路14からのタイミング信号を基に、変換したアナログ信号である画像データを前処理回路116に供給する。
なお、CCD13は、CCDセンサに限らず、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサ等、画素を単位として画像の信号を生成する撮像素子であればよい。
タイミング生成回路14は、CPU19による制御を基に、CCD13の動作の時間的な基準となるタイミング信号を生成し、生成したタイミング信号を、CCD13およびCCDドライバ15に供給する。
CCDドライバ15は、タイミング生成回路14から供給されるタイミング信号を基に、CCD13を駆動するための駆動信号を生成し、生成した駆動信号をCCD13に供給する。
前処理回路16は、CCD13から供給されるアナログ信号である画像データに対して、CDS(Correlated Double Sampling)処理を行い、S/N(Signal/Noise)比を良好に保つようにするとともに、AGC(Automatic Gain Control)処理を行い、利得を制御する。そして、前処理回路16は、A/D(Analog/Digital)変換を行い、アナログ信号をデジタル信号に変換し、変換により得られたデジタル信号である画像データをDSP17に供給する。なお、前処理回路16からDSP17に供給される画像データは、SDRAM18に記憶される。
CPU19は、例えば、レンズアイリスドライバ12、タイミング生成回路14、またはDSP17等、ビデオカメラ1の各部の動作を制御する。例えば、CPU19は、被写体の画像を撮像する場合、レンズアイリスドライバ12を制御して、光学ブロック11を動作するようにする駆動信号を生成させて、生成した駆動信号を光学ブロック11に供給することで、光学ブロック11を動作させる。
また、CPU19は、例えば、フラッシュROM21またはRAM20等に記憶されているプログラムに従って各種の処理を実行する。
RAM20には、CPU19が実行するプログラムや各種のデータ等が適宜記憶される。フラッシュROM21は、CPU19が実行するプログラムや各種のデータを記録する。これらのCPU19、RAM20、およびフラッシュROM21は、バス29により相互に接続される。
バス29には、さらに、DSP17、ディスプレイコントローラ22、入力部24、ドライブコントローラ25、および記録メディアインターフェース27が接続されている。
DSP17は、例えば、専用のIC(Integrated Circuit)である専用DSP、または汎用DSP等からなる。
DSP17は、前処理回路16から供給されるデジタル信号である画像データに対して、画像処理を適用する。DSP17は、例えば、AF(Auto Focus)処理部41、AE(Auto Exposure)処理部42、AWB(Auto White Balance)処理部43、および圧縮伸張部44等を含み、前処理回路16から供給された画像データに所定のカメラ信号処理を適用し、所定のカメラ信号処理により、種々の調整がされた画像データを所定の圧縮方式で圧縮する。
また、DSP17は、SDRAMコントローラ45を含む。SDRAMコントローラ45は、DSP17が実行するプログラムや各種データに基づいて、SDRAM18を制御することにより、一時的にそれらのプログラムや各種データをSDRAM18に記憶させる。
SDRAM18は、SDRAMコントローラ45の制御に基づいて、DSP17が実行するプログラムや各種データ等を適宜記憶する。例えば、SDRAM18が、前処理回路16から供給される画像データを一時的に記憶することで、DSP17は、一時的に記憶された画像データに対して、所定のカメラ信号処理および画像データを圧縮する処理を適用し、圧縮された画像データを生成する。
具体的には、SDRAM18に記憶される前処理回路16から供給された画像データに対して、AF処理部41は、被写体に焦点(ピント)を合わせる処理(いわゆる、オートフォーカス)を行い、AE処理部42は、被写体の明るさを基に露出を決定する処理(いわゆる、自動露出)を行い、AWB処理部43は、白色である予め定められた基準の色を基に全体の画像データを補正する処理(いわゆる、ホワイトバランス)を行う。
圧縮伸張部44は、所定のカメラ信号処理により、種々の調整がされた画像データを所定の圧縮方式で圧縮する。例えば、圧縮伸張部44は、画像データをJPEG(Joint Photographic Experts Group)方式で圧縮する。これにより、画像データのデータ量を減らしてから、画像データをリムーバブルメディア26に記録することができる。
DSP17は、CPU19の制御を基に、SDRAM18から圧縮した画像データを読み出し、その画像データを、バス29を介してドライブコントローラ25に供給することで、リムーバブルメディア26に画像データをファイルとして記録させる。
ドライブコントローラ25は、リムーバブルメディア26に対応した所定のインターフェースから構成され、DSP17から供給された画像データをリムーバブルメディア26に記録させるか、またはリムーバブルメディア26に記録されている画像データを読み出して、DSP17またはCPU19等に供給する。
リムーバブルメディア26は、例えば、テープ(例えば磁気テープ)または光ディスク(例えば、記録可能なDVD(Digital Versatile Disc))等であり、必要に応じてビデオカメラ1に装着される。また、リムーバブルメディア26は、後述する記録メディア28と同一の記録媒体として構成することも可能である。なお、リムーバブルメディア26には、例えば、ハードディスク等の磁気ディスク、メモリカード等の半導体メモリ、またはMD(Mini-Disc)(商標)等の光磁気ディスクを用いるようにしてもよい。
また、DSP17は、コントロールキー等からなる入力部24や、タッチパネル52等を通じて受け付けたユーザからの操作入力に応じて、目的とする画像データがリムーバブルメディア26から読み出された場合、バス29を介して、リムーバブルメディア26から供給されるデータ圧縮されている画像データを、そのデータ圧縮に応じた所定の伸張処理(解凍処理)を行うことで、画像データを伸張し、伸張した画像データを、バス29を介して、ディスプレイコントローラ22に供給する。
つまり、圧縮伸張部44は、画像データがリムーバブルメディア26から読み出された場合、バス29を介して、リムーバブルメディア26から供給される圧縮されている画像データを、その圧縮の方式に応じた所定の伸張処理(解凍処理)を行うことで、画像データを伸張する。伸張した画像データは、バス29を介して、ディスプレイコントローラ22に供給される。
ディスプレイコントローラ22は、DSP17から供給される画像データを基に、表示部23に供給する画像信号を生成し、生成した画像信号を表示部23に供給する。ディスプレイコントローラ22は、画像信号を表示部23に供給することにより、表示部23の表示を制御する。
表示部23は、ディスプレイコントローラ22から供給される画像信号を基に、画像信号に応じた画像を表示画面に表示する。なお、画像の表示の形態は、フラッシュROM21に記録された制御プログラムに従う。すなわち、ディスプレイコントローラ22は、CPU19の実行する制御プログラムに従って、表示部23の画面に表示する、画像の表示の形態を決定する。
表示部23は、カラー液晶表示部51およびタッチパネル52を含む。
カラー液晶表示部51は、例えば、LCD(Liquid Crystal Display)パネルや、有機EL(Electro Luminescence)パネル等からなり、ディスプレイコントローラ22から供給される画像信号を基に、画像信号に応じた画像を表示する。これにより、例えば、リムーバブルメディア26に記録されている画像データに対応する画像が、カラー液晶表示部51の画面に表示される。
カラー液晶表示部51に重畳されたタッチパネル52は、カラー液晶表示部51の画面を透過するようになされており、カラー液晶表示部51に表示された操作画面のキー等を選択するユーザの操作を受け付けて、その操作位置を示す位置情報を示す信号をCPU19に供給する。CPU19は、タッチパネル52から供給される信号に基づいて、ビデオカメラ1の各部の動作を制御する。
記録メディアインターフェース27は、記録メディア28に対応した所定のインターフェースから構成され、DSP17またはCPU19から供給されたデータを記録させるか、または記録メディア28に記録されているデータを読み出して、DSP17またはCPU19等に供給する。
記録メディア28は、例えば、メモリスティック(商標)等のメモリカードであり、必要に応じてビデオカメラ1に装着される。もちろん、記録メディア28は、リムーバブルメディア26と同一の記録媒体として構成することも可能である。
なお、図示は省略しているが、ビデオカメラ1においては、マイクロホンから取り込まれた音声信号に対しても、所定の処理が施され、所定の処理を施すことにより得られた音声データは、例えば、リムーバブルメディア26に記録される。つまり、ビデオカメラ1により撮像され記録されるデータは、一般的に、画像データの他に、音声データ等からも構成されるが、本実施の形態では、説明を簡易にするために、映像を表示するための画像データについてだけ説明する。
また、上述した図1の例において、ビデオカメラ1は、記録メディアインターフェース27を設けて、そこに記録メディア28を装着する構成を例にして説明したが、記録メディア28に記録するデータをリムーバブルメディア26に記録させることで、記録メディアインターフェース27を設けない構成とすることも可能である。つまり、ビデオカメラ1に装着される記録媒体は、リムーバブルメディア26だけでもよく、その場合、記録メディア28に記録していたデータは、リムーバブルメディア26に記録される。
さらに、ビデオカメラ1のハードウェアの構成は、図1の例に限定されず、後述する図2または9の機能的構成を少なくとも有していればよい。
図2は、図1のビデオカメラ1の機能的構成の例を示すブロック図である。
ビデオカメラ1は、制御部101、操作部102、撮像部103、顔画像検出部104、顔画像照合部105、重畳部106、表示制御部107、顔画像選択部108、顔画像記憶部109、記録メディア制御部110、顔画像検出部111、表示部23、および記録メディア28を含むようにして構成される。
なお、図2では、図1と同様の箇所には、同一の符号が付してあり、処理が同じ部分に関しては、その説明は繰り返しになるので省略する。
また、本実施の形態では、ビデオカメラ1は、上述した図1のハードウェア構成を有しているので、制御部101は、例えば、図1のCPU19に相当し、操作部102は、図1の入力部24またはタッチパネル52に相当する。また、撮像部103は、例えば、図1の光学ブロック11乃至前処理回路16に相当し、顔画像検出部104、顔画像照合部105、重畳部106、および顔画像検出部111は、例えば、図1のDSP17に相当する。
さらにまた、顔画像選択部108は、例えば、図1のタッチパネル52に相当し、表示制御部107は、例えば、図1のディスプレイコントローラ22に相当し、顔画像記憶部109は、例えば、図1のフラッシュROM21に相当し、記録メディア制御部110は、例えば、図1の記録メディアインターフェース27に相当する。
ただし、顔画像検出部104、顔画像照合部105、重畳部106、表示制御部107、記録メディア制御部110、または顔画像検出部111は、例えば、ソフトウェア(コンピュータプログラム)を実行する図1のCPU19により実現されるようにしてもよい。つまり、顔画像検出部104、顔画像照合部105、重畳部106、表示制御部107、記録メディア制御部110、または顔画像検出部111は、ハードウェアとして構成することもできるし、ソフトウェアとして構成することもできるし、さらに、ソフトウェアとハードウェアの組み合わせとしても構成することができる。
制御部101は、撮像者の操作に応じて操作部102から供給される操作信号に基づいて、図2のビデオカメラ1の各部の動作を制御する。
撮像部103は、被写体を撮像する。撮像部103は、撮像により得られた被写体の画像を、顔画像検出部104および重畳部106に供給する。
なお、以下、本実施の形態では、単に、「画像」と記載した場合、画像そのものと、その画像を表示するための画像データの両方の意味を含むものとする。
顔画像検出部104は、撮像部103から供給される画像から顔画像を検出する、顔画像検出処理を行う。顔画像検出部104は、顔画像検出処理を行うことにより得られた検出結果を顔画像照合部105に供給する。
なお、詳細は後述するが、顔画像検出処理とは、撮像された被写体の画像のなかから、人物の顔の画像を検出する処理である。つまり、顔画像検出部104は、顔画像検出処理を実行することで、撮像部103によって撮像された画像から、その画像に写っている人物の顔の画像を検出する。
顔画像選択部108は、例えば、撮像者によるタッチパネル52への操作に基づいて、表示部23に表示されている被写体の画像のなかから、撮像対象者の顔画像を選択する。顔画像選択部108は、選択した撮像対象者の顔画像(または顔画像に関する情報)を顔画像記憶部109に供給する。
なお、顔画像選択部108は、撮像者によるタッチパネル52への操作の他に、例えば、表示部23に表示された被写体の画像のなかのフォーカスが合わされた顔画像に対して操作される撮像者によるキー入力に応じて、撮像対象者の顔画像を選択するようにしてもよい。要は、撮像対象者の顔画像が選択されればよいのであって、その手段、方法は、任意である。
顔画像記憶部109は、顔画像選択部108から供給される、撮像部103により撮像された撮像対象者の顔画像(または顔画像に関する情報)を記憶する。顔画像記憶部109は、顔画像照合部105からの要求に応じて、記憶している撮像対象者の顔画像を顔画像照合部105に供給する。
また、顔画像記憶部109には、顔画像データベース109aが記憶されており、その顔画像データベース109aに撮像対象者の顔画像や、顔画像に関する情報が登録される。なお、顔画像記憶部109は、撮像対象者の顔画像を、顔画像データベース109aに登録せずに一時的に記憶し、その一時的に記憶している顔画像を顔画像照合部105に供給してもよい。
顔画像照合部105は、顔画像検出部104から供給される顔画像の検出結果および顔画像記憶部109から読み出した撮像対象者の顔画像に基づいて、顔画像照合処理を行う。顔画像照合部105は、顔画像照合処理を行うことにより得られた顔画像の照合結果を重畳部106に供給する。
なお、詳細は後述するが、顔画像照合処理とは、撮像された被写体の画像から検出された顔画像と、撮像対象者の顔画像とを照合して、検出された顔画像のなかから撮像対象者の顔画像を特定する処理である。
つまり、顔画像照合部105は、顔画像検出部104から供給される顔画像の検出結果と、顔画像データベース109aに登録されている撮像対象者の顔画像とを照合することで、撮像された被写体の画像の顔画像のなかから、撮像対象者の顔画像を特定する。これにより、撮像された被写体の画像のなかから、顔画像データベース109aに登録されている顔画像が特定される。
重畳部106は、顔画像照合部105から供給される顔画像の照合結果に基づいて、撮像部103から供給される被写体の画像における、顔画像照合部105により特定された撮像対象者の顔画像に顔マークを重畳する。重畳部106は、顔マークが重畳された被写体の画像を表示制御部107に供給する。なお、重畳部106は、照合結果が顔マークの重畳を行なわないことを示している場合、顔マークの重畳を行なわずに、撮像部103から供給される画像をそのまま表示制御部107に供給する。
ここで、顔マークとは、撮像対象者を撮像者に認識させるためのマークである。例えば、顔マークは、円形、四角形、または楕円形の形状からなるアイコンからなり、それらの形状からなるアイコンが撮像対象者の顔画像に重畳される。
表示制御部107は、重畳部106から供給される、顔マークが重畳された被写体の画像を、表示部23(のカラー液晶表示部51)に表示させる。なお、表示制御部107は、重畳部106から顔マークが重畳されていない画像が供給された場合、顔マークの重畳されていない被写体の画像を、表示部23に表示させる。
記録メディア制御部110は、顔画像記憶部109の顔画像データベース109aに登録されている撮像対象者の顔画像(または顔画像に関する情報)を読み出し、その顔画像を記録メディア28に記録する。これにより、記録メディア28は、撮像対象者の顔画像や、その撮像対象者の顔画像に関する情報等を記録する。
また、記録メディア制御部110は、記録メディア28に記録されている、撮像対象者の顔画像を含んでいる画像(または顔画像)を読み出し、その画像を顔画像検出部111に供給する。
顔画像検出部111は、記録メディア制御部110から供給される撮像対象者の顔画像を含んでいる画像から顔画像を検出する、顔画像検出処理を行なう。顔画像検出部111は、顔画像検出処理を行うことにより得られた検出結果を顔画像記憶部109に供給し、顔画像データベース109aに登録する。これにより、顔画像データベース109aには、記録メディア28に記録されていた画像に含まれる撮像対象者の顔画像が登録される。
つまり、顔画像データベース109aには、被写体の画像のなかから撮像者により選択された撮像対象者の顔画像、または記録メディア28に記録されていた画像に含まれる撮像対象者の顔画像が登録されているので、顔画像照合部105は、それらの顔画像と、撮像された被写体の画像から検出された顔画像とを照合することで、撮像対象者の顔画像を特定する。
なお、顔画像検出部111は、記録メディア28に記録されている画像が顔画像である場合、顔画像検出部111による顔画像検出処理を行なわずに、記録メディア28から読み出した顔画像をそのまま顔画像データベース109aに登録させる。
また、本実施の形態では、説明の都合上、顔画像検出部104と顔画像検出部111を別のブロックとして説明するが、もちろん、それらのブロックを同一のブロックとしてもよい。
図3は、撮像対象者の登録方法の概要について説明する図である。
ビデオカメラ1においては、図3に示すように、撮像者により画像151が撮像される場合、表示部23には画像151がリアルタイムで表示される。つまり、撮像者は、表示部23にリアルタイムで表示されている画像151を見ながら、その画像151に対応する被写体を撮像する。
例えば、図3に示すように、ビデオカメラ1で運動会を撮影する場合、ビデオカメラ1を操作している親は、我が子を撮像するために表示部23に表示されている画像151を確認するが、同じような運動着を着ている多くの子供達のなかから我が子を見つけ出すのは困難である。そこで、ビデオカメラ1では、撮像された被写体の画像から顔画像を検出し、検出された顔画像のなかから、例えば、自分の子供等の撮像対象者に対して顔マーク151aを重畳させることで、例えば、我が子を撮像する親等の撮像者に対して、自分の子供等の撮像対象者を直感的に識別させることが可能となる。
つまり、図3の例では、タッチパネル52を有している表示部23に表示されている画像151において、撮像者により、例えば、自分の子供等の撮像対象者が触れられることで、その触れられた撮像対象者に対して、顔マーク151aが重畳される。ちなみに、表示部23に表示されている画像151において、顔マーク151aに囲まれた撮像対象者である子供の画像が撮像者により触れられたことになる。
そして、撮像中であれば、撮像対象者である自分の子供の画像には顔マーク151aが重畳されているので、撮像者である親は、その顔マーク151aを追って撮像することで、運動会のような子供を見失う可能性が高い状況下にあっても、画枠から外れることなく確実に、撮像対象者である子供を撮像することが可能となる。
また、ビデオカメラ1においては、撮像者により選択された撮像対象者の顔画像152(または顔画像152を含む画像)を、記録メディア28に記録させることもできる。つまり、記録メディア28に顔画像152を記録させておくことで、例えば、再度、同じ撮像対象者の撮像が行われるとき、ビデオカメラ1では、撮像対象の顔画像を選択する操作を行わずに、記録メディア28に記録されている顔画像152を読み出し、その顔画像152により撮像対象者を特定して、撮像対象者の顔画像に顔マーク151aを重畳させることができる。また、その記録メディア28を他のビデオカメラに装着させることで、他のビデオカメラでも同様に、撮像された画像のなかから、顔画像152となる顔画像を特定し、特定された顔画像に対して顔マークを重畳させることが可能となる。
次に、その具体的な処理の流れについて説明する。
図4は、図2のビデオカメラ1により実行される、顔マーク重畳処理について説明するフローチャートである。
ステップS11において、撮像部103は、被写体を撮像し、撮像により得られた被写体の画像を、顔画像検出部104および重畳部106に供給する。
ステップS12において、制御部101は、操作部102からの操作信号に基づいて、例えば、撮像者により顔マークの重畳を指示するボタンが押下されることで、顔マークの重畳が指示されているか否かを判定する。
ステップS12において、顔マークの重畳が指示されていると判定された場合、ステップS13において、顔画像検出部104は、撮像部103から供給される画像から顔画像を検出する顔画像検出処理を行う。
ここで、図5のフローチャートを参照して、ステップS13の処理に対応する、顔画像検出部104により実行される顔画像検出処理の詳細について説明する。
ステップS31において、顔画像検出部104は、撮像部103から供給される画像から顔画像を検出する。
ここで、顔画像の検出方法であるが、一般的には、画像のなかから人の目を識別して、識別された目を顔画像であるとする方法が用いられる。この方法の場合、顔画像検出部104は、撮像部103から供給される画像に対して、グレースケール処理を施し、それにより得られた画像から、目の白黒部分を面積比や形状等より判断して検出する。
ステップS32において、顔画像検出部104は、撮像部103から供給される画像から、目以外の顔の器官(主要パーツ)である特徴点を抽出する。
ここで、特徴点の抽出方法であるが、顔画像検出部104は、例えば、ステップS31の処理において検出された目以外の顔の器官である鼻、口、眉、耳、または髪等を検出することで、特徴点を抽出する。なお、器官の検出方法であるが、全ての器官の画像を検出する必要はなく、例えば目と口の画像だけを検出する等、器官の画像の一部だけを検出するようにしてもよい。また、顔画像検出部104は、色フィルタを用いて肌色判断を行なって人間の肌の画像を検出することにより、顔画像の検出を行うようにしてもよい。
なお、顔画像の検出方法には、種々の方法があり、所定の画像のなかから顔画像を検出できる方法であれば、いずれの方法を用いるようにしてもよい。例えば、人間の頭部は楕円形の形状をしているので、それを利用して、顔画像を検出するようにしてもよい。具体的には、顔画像検出部104は、撮像部103から供給される画像から、楕円状となる画像を検出することにより、その楕円状の画像を頭部とすることで、顔画像を検出する。さらに、顔画像の検出方法としては、楕円状の形状をしている画像を検出する他に、例えば、顔の下側の輪郭線と類似した形状の画像を検出する方法等を用いることももちろん可能である。要は、所定の画像から顔画像が検出されればよいのであって、その手段、方法は、任意である。
図4のフローチャートに戻り、ステップS14において、表示制御部107は、重畳部106を介して撮像部103から供給される被写体の画像を表示部23に表示させる。このとき、表示部23は、撮像者により撮像対象者の顔画像が選択されていないので、重畳部106により供給される、顔マークが重畳されていない被写体の画像を表示する。これにより、撮像者は、この表示部23に表示されている被写体の画像を見ながら撮像を行う。
ステップS15において、顔画像選択部108は、撮像者によるタッチパネル52への操作に基づいて、表示部23に表示されている被写体の画像のなかから撮像対象者の顔画像を選択する。
なお、ステップS12において、顔マークの重畳が指示されていないと判定された場合、ステップS13の処理をスキップし、処理はステップS14に進む。この場合、ステップS15において、表示部23に表示されている画像には、顔マークの重畳が指示されておらず、顔画像検出処理(ステップS13の処理)が施されていないので、撮像者は、表示部23に表示されている画像から撮像対象者の顔画像を選択することはできない。
ステップS16において、顔画像選択部108は、撮像者により撮像対象者の顔画像が選択されたか否かを判定する。
ステップS16において、撮像者により撮像対象者の顔画像が選択されたと判定された場合、ステップS17において、顔画像記憶部109は、顔画像選択部108により選択された撮像対象者の顔画像を顔画像データベース109aに登録する。これにより、顔画像データベース109aには、顔画像選択部108により選択された撮像対象者の顔画像が登録される。
ステップS18において、制御部101は、操作部102からの操作信号に基づいて、例えば、撮像者により撮像対象者の顔画像の記録メディア28への記録を指示するボタンが押下されることで、選択された撮像対象者の顔画像の記録が指示されたか否かを判定する。
ステップS18において、選択された撮像対象者の顔画像の記録が指示されたと判定された場合、ステップS19において、記録メディア制御部110は、顔画像データベース109aに登録されている撮像対象者の顔画像を記録メディア28に記録する。これにより、記録メディア28には、撮像者により選択された撮像対象者の顔画像が記録されるので、撮像者は、例えば、その記録メディア28を他のビデオカメラに装着させることで、同一の撮像対象者の顔画像に対して顔マークを重畳させることが可能となる。
一方、ステップS18において、選択された撮像対象者の顔画像の記録が指示されていないと判定された場合、ステップS19の処理をスキップし、処理はステップS20に進む。つまり、この場合、撮像対象者の顔画像は、記録メディア28に記録されないことになる。
ステップS20において、顔画像照合部105は、顔画像照合処理を行って、顔画像の照合結果を重畳部106に供給する。具体的には、顔画像照合部105は、顔画像検出部104からの顔画像の検出結果と、顔画像データベース109aに登録されている撮像対象者の顔画像とを照合することで、撮像された被写体の画像の顔画像のなかから、撮像者により選択された撮像対象者の顔画像を特定する。これにより、撮像された被写体の画像のなかから、撮像者により選択された撮像対象者の顔画像と同一の顔画像が特定される。
ステップS21において、重畳部106は、顔画像照合部105からの顔画像の照合結果に基づいて、表示部23に表示される画像のうち、顔画像照合部105により特定された撮像対象者の顔画像に顔マークを重畳する。重畳部106は、その顔マークが重畳された画像を表示制御部107に供給する。
ステップS22において、表示制御部107は、重畳部106から供給される顔マークが重畳された被写体の画像を表示部23に表示させる。
つまり、図3に示すように、表示部23に表示されている画像151において、撮像者である親によって、自分の子供が撮像対象者として選択された場合、表示制御部107は、その選択された子供の顔画像に顔マーク151aが重畳された画像151を表示部23に表示させる。これにより、例えば、運動会の様子をビデオカメラ1で撮像している親は、たくさんいる子供達のなかから、顔マーク151aが重畳されている自分の子供を追うことで、確実に我が子を撮像することが可能となる。
また、撮像対象者の顔画像に重畳される顔マーク151aの形状であるが、図6に示すように様々な形状とすることができる。
すなわち、図6の例に示すような子供を撮像対象者とした場合、図6の左側に示すように、例えば、表示部23に表示されている画像171の撮像対象者(図6の例では「子供」)の顔の周りに重畳されている円形の形状(図6の顔マーク171a)の他に、図6の中央に示すような四角形の形状(図6の顔マーク171b)や、図6の右側に示すような楕円形の形状(図6の顔マーク171c)等であってもよい。また、図示は省略するが、円形、四角形、または楕円形の他にも、例えば、一点鎖線や波線などを用いてもよいし、三角形やダイヤモンド型、菱形等を用いてもよい。また、撮像対象者が複数人存在する場合には、撮像対象者ごとに色遣いを変えてもよい。つまり、顔マーク151aは、撮像者に対して撮像された画像のなかから撮像対象者の顔画像を把握させることができればよく、その形状や色、大きさ等を任意に変更することができる。
図4のフローチャートに戻り、ステップS23において、制御部101は、操作部102からの操作信号に基づいて、例えば、撮像者により撮像の停止を指示するボタンが押下されることで、撮像終了が指示されたか否かを判定する。
ステップS23において、撮像終了が指示されていないと判定された場合、ステップS11に戻り、上述した、ステップS11乃至S23の処理が繰り返される。すなわち、ステップS23において、撮像終了が指示されたと判定されるまで、ステップS11乃至S23において、撮像対象者の顔画像に対して顔マークが重畳される処理が繰り返され、撮像者は、撮像対象者の顔画像に重畳された顔マークを追いながら撮像を行うことになる。
一方、ステップS23において、撮像終了が指示されたと判定された場合、図4の顔マーク重畳処理は終了する。
以上のように、ビデオカメラ1は、撮像者により選択された撮像対象者の顔画像に対して、顔マークを重畳させて表示することができる。これにより、撮像者は、表示部23に表示される画像内の特定人物を把握できるので、撮像機会を逃さずに所望の撮像対象者を撮像することができる。
なお、上述した例では、ステップS18の処理において、制御部101は、操作部102からの操作信号に基づいて、選択された撮像対象者の顔画像の記録が指示されたか否かを判定するとして説明したが、ステップS18の判定処理を行なわずに、ステップS19の処理に進むことで、撮像者により選択された撮像対象者の顔画像を、強制的に記録メディア28に記録させるようにしてもよい。
ところで、上述した例では、撮像者により選択された撮像対象者の顔画像に対して、顔マークを重畳させて表示するとして説明したが、本実施の形態では、例えば、デジタルスチルカメラにより撮像された画像であって、記録メディア28に記録されている画像を利用して、撮像されている被写体のなかにその記録メディア28から読み込んだ撮像対象者の顔画像と同一の人物が存在する場合、その人物の顔に顔マークを重畳させることも可能である。
そこで、次に、図7および8を参照して、上述したような、撮像されている画像のなかから撮像対象者となる顔画像を選択する代わりに、記録メディア28に記録されている画像から撮像対象者の顔画像を特定し、その撮像対象者に顔マークを重畳する処理について説明する。
図7は、記録メディア28に記録された顔画像を含んでいる画像を利用した、撮像対象者の登録方法の概要について説明する図である。
図7に示すように、撮像対象者の顔画像(図7の例では子供の画像)を含んでいる画像192を記録している記録メディア28が、ビデオカメラ1に装着された場合、ビデオカメラ1は、その記録メディア28に記録されている画像192を読み込む。そして、ビデオカメラ1においては、撮像された画像191のなかに、記録メディア28から読み込んだ画像192に含まれる顔画像と同一の人物が存在する場合、その人物の顔に顔マーク191aが重畳され、その顔マーク191aが重畳された画像191が表示部23に表示される。
これにより、記録メディア28から読み出された画像から撮像対象者が特定されるので、撮像者は、撮像時に、表示部23に表示された画像から撮像対象者の顔画像を探して登録する操作を行なう必要がないため、迅速に、かつ、確実に撮像対象者を撮像することが可能となる。
次に、その具体的な処理の流れについて説明する。
図8は、図2のビデオカメラ1により実行される、記録メディア28に記録された画像に含まれる顔画像を利用した、顔マーク重畳処理について説明するフローチャートである。
ステップS51において、図4のステップS11の処理と同様に、撮像部103により、被写体が撮像され、それにより得られた被写体の画像が、顔画像検出部104および重畳部106に供給される。
ステップS52において、制御部101は、操作部102からの操作信号に基づいて、例えば、撮像者により顔マークの重畳を指示するボタンが押下されることで、顔マークの重畳が指示されているか否かを判定する。
ステップS52において、顔マークの重畳が指示されていると判定された場合、ステップS53において、制御部101は、顔画像を含んでいる画像を記録している記録メディア28が記録メディアインターフェース27に装着されているか否かを判定する。
ステップS53において、顔画像を含んでいる画像を記録している記録メディア28が装着されていると判定された場合、ステップS54において、記録メディア制御部110は、装着されている記録メディア28から画像を読み出し、その画像を顔画像検出部111に供給する。
ステップS55において、顔画像検出部111は、記録メディア制御部110から供給される画像から顔画像を検出する顔画像検出処理を行って、顔画像の検出結果を顔画像記憶部109に供給する。これにより、記録メディア28に記録されている画像のなかから撮像対象者の顔画像が検出される。
なお、顔画像検出部111により実行される、ステップS55の処理に対応する、図5の顔画像検出処理の詳細は、上述した、顔画像検出部104による、図4のステップS13の処理と同様であるので、その説明は省略する。
ステップS56において、顔画像記憶部109は、記録メディア28から読み出された画像に含まれる撮像対象者の顔画像であって、顔画像検出部111により検出された撮像対象者の顔画像を顔画像データベース109aに登録する。これにより、顔画像データベース109aには、記録メディア28に記録されていた画像から検出された撮像対象者の顔画像が登録される。
ステップS57において、顔画像検出部104は、図4のステップS13の処理と同様に、撮像部103により撮像された画像から顔画像を検出する顔画像検出処理を行って、顔画像の検出結果を顔画像照合部105に供給する。これにより、撮像部103により撮像された被写体の画像のなかから顔画像が検出される。
なお、顔画像検出部104により実行される、ステップS57の処理に対応する、図5の顔画像検出処理の詳細は、上述した、顔画像検出部104による、図4のステップS13の処理と同様であるので、その説明は省略する。
ステップS58において、顔画像照合部105は、顔画像照合処理を行って、顔画像の照合結果を重畳部106に供給する。具体的には、顔画像照合部105は、顔画像検出部104からの顔画像の検出結果と、顔画像データベース109aに登録されている撮像対象者の顔画像とを照合することで、撮像された被写体の画像の顔画像のなかから、記録メディア28に記録されていた撮像対象者の顔画像を特定する。これにより、撮像された被写体の画像のなかから、記録メディア28に記録されていた画像の顔画像と同一の人物の顔画像が特定される。
ステップS59において、顔画像照合部105は、顔画像照合処理によって、撮像された被写体の画像の顔画像のなかから、記録メディア28に記録されていた画像に含まれる撮像対象者の顔画像が特定されたか否かを判定する。
ステップS59において、顔画像が特定されたと判定された場合、ステップS60において、重畳部106は、顔画像照合部105から供給される顔画像の照合結果に基づいて、表示部23に表示される画像のうち、顔画像照合部105により特定された撮像対象者の顔画像に顔マークを重畳する。重畳部106は、その顔マークが重畳された画像を表示制御部107に供給する。
ステップS61において、表示制御部107は、重畳部106から供給される顔マークが重畳された被写体の画像を表示部23に表示させる。
つまり、図7に示したように、ビデオカメラ1においては、表示部23に表示される画像191から、記録メディア28に記録されている画像192に含まれる撮像対象者である子供の顔画像と一致する顔画像が特定された場合、表示制御部107は、その特定された子供の顔画像に顔マーク191aが重畳された画像191を表示部23に表示させる。これにより、例えば、運動会の様子をビデオカメラ1で撮像している親は、表示部23に表示された画像191のなかから顔マーク191aが重畳された自分の子供を追うことで、我が子を見逃さなくなり、常に撮像対象となる我が子を撮り続けることができる。
一方、ステップS59において、顔画像が特定されていないと判定された場合、ステップS60の処理をスキップし、処理はステップS61に進む。ステップS61において、表示制御部107は、重畳部106から供給される顔マークが重畳されていない被写体の画像を表示部23に表示させる。つまり、このとき、顔画像照合処理によって顔画像が特定されておらず、撮像された被写体の画像に、記録メディア28に記録されている画像に含まれる撮像対象者の顔画像が存在していないので、顔マークが重畳されていない被写体の画像が表示部23に表示される。
ステップS62において、図4のステップS23と同様に、制御部101により、撮像終了が指示されたか否かが判定され、撮像終了が指示されていないと判定された場合、ステップS51乃至S62の処理が繰り返される。すなわち、ステップS62において、撮像終了が指示されたと判定されるまで、ステップS51乃至S62において、撮像対象者の顔画像に対して顔マークが重畳される処理が繰り返され、撮像者は、撮像対象者に重畳された顔マークを追いながら、所望の撮像対象者の撮像を行うことになる。
一方、ステップS62において、撮像終了が指示されたと判定された場合、図8の顔マーク重畳処理は終了する。
以上のように、ビデオカメラ1は、装着された記録メディア28から読み出された画像に含まれる撮像対象者の顔画像に対して、顔マークを重畳して表示することができる。これにより、撮像者は、撮像対象者となる人物の動きが分かるので、常に撮像対象者となる人物を中心に撮像を行うことができる。
なお、上述した例では、ステップS52の処理によって、顔マークの重畳が指示されている場合に、記録メディア28から撮像対象者の顔画像を含んでいる画像を読み出して、顔マークを重畳する処理を行うとして説明したが、それに限らず、例えば、ステップS52の処理を省略して、記録メディア28がビデオカメラ1に装着された場合に、顔マークを重畳する処理を行うようにしてもよい。もちろん、この例の場合、記録メディア28がビデオカメラ1に装着されていないとき、顔マークを重畳する処理は行なわれない。
ところで、撮像者にとっては、撮像対象者を常に撮像し続けることが理想であるが、子供等の撮像対象者は常に動いていることが多く、また、ビデオカメラ1を手に持って動かしながら撮像を行なうため、撮像対象者が画枠から外れてしまい、見失ってしまう可能性がある。その場合、上述したように、撮像対象者の顔画像に顔マークを重畳させようとしても、撮像対象者自体が表示部23に表示されている画像のなかに存在しないため(画枠から外れてしまっているため)、顔マークを重畳させることができない。そこで、上述した例では、撮像されている画像のなかに存在する撮像対象者となる人物の顔に顔マークを重畳させていたが、さらに、その撮像対象者の存在する位置の方向を示すアイコン(以下、状態マークと称する)を重畳させることで、撮像対象者を画面から見失った場合でも、その状態マークによって迅速にその撮像対象者の位置を確認することが可能となる。したがって、次に、図9乃至20を参照して、撮像された画像に状態マークを重畳する処理について説明する。
図9は、ビデオカメラ1の機能的構成の他の例を示すブロック図である。
なお、図9では、図2と同様の箇所には、同一の符号が付してあり、処理が同じ部分に関しては、その説明は繰り返しになるので省略する。すなわち、図9において、ビデオカメラ1は、図2のビデオカメラ1と比較して、状態検出部201が追加して設けられている。
状態検出部201は、撮像部103から供給される画像から、顔画像データベース109aに登録されている撮像対象者の状態を検出する、状態検出処理を行う。状態検出部201は、状態検出処理を行うことにより得られた検出結果を重畳部106に供給する。
なお、詳細は後述するが、状態検出処理とは、画枠から外れてしまった撮像対象者の存在する位置を推測する処理によって、撮像対象者の状態を検出する処理である。
重畳部106は、状態検出部201から供給される撮像対象者の検出結果に基づいて、撮像部103から供給される被写体の画像に対して、撮像対象者の状態を示す状態マークを重畳する。重畳部106は、状態マークが重畳された被写体の画像を表示制御部107に供給する。また、上述したように、重畳部106は、顔画像照合部105から供給される顔画像の照合結果に基づいて、撮像対象者が画枠のなかに存在するとき、撮像部103から供給される被写体の画像における撮像対象者の顔画像に顔マークを重畳する。
表示制御部107は、重畳部106から供給される画像に基づいて、顔マークまたは状態マークの重畳された被写体の画像を表示部23に表示させる。
次に、図10および11を参照して、状態マークの概要について説明する。
ビデオカメラ1においては、図10に示すように、撮像者により被写体が撮像される場合、表示部23には、撮像された被写体の画像301が表示される。この画像301には、撮像対象者であることを示す顔マーク302aと、その顔マーク302aが重畳された撮像対象者の状態を示す状態マーク303aが重畳される。
つまり、図10の例では、撮像者は、ビデオカメラ1により、サッカーの試合を撮像しているが、その試合で注目している選手を撮像対象者として登録(選択)しているので、その選択されている選手には顔マーク302aが重畳されている。状態マーク303aは、選択されている撮像対象者の状態、すなわち、顔マーク302aが重畳されている選手の状態を示しており、図10の例では、顔マーク302aが重畳された選手が画像301のなかに存在していることを示している。
具体的には、状態マーク303aでは、撮像対象者の存在有無を示す円のなかに上下左右の4方向を示している矢印が付されているが、その矢印は、撮像対象者が画枠から外れてしまった場合、その撮像対象者の存在する位置の方向を示す。すなわち、状態マーク303aでは、実線で記した矢印の方向に撮像対象者が存在し、点線で記した矢印の方向には撮像対象者が存在しないことを示す。つまり、図10の例では、画像301のなかに、顔マーク302aが重畳された選手(撮像対象者)が存在するので、状態マーク303aの円が実線で記され、その円のなかの上下左右の4方向の矢印は、点線で記されている。
また、図11の例では、画像301のなかに、顔マーク302aが重畳された選手(撮像対象者)が存在せず、かつ、その選手が画枠の左方向の位置に存在するので、状態マーク303aの円のなかでは左方向の矢印だけが実線で記され、その他の3方向の矢印が点線で記されている。なお、図11の例においては、撮像対象者が画像301のなかに存在しないので、状態マーク303aでは、撮像対象者の存在有無を示す円が点線で記される。
なお、状態マーク303aにおいて、上述したような実線と点線の使い分け方は、後述する他の図においても同様とされる。
また、以下、状態マークにおいて、撮像対象者が画枠内に存在する状態を、「存在状態」と称し、このとき、状態マークは、円が実線で記され、4方向の矢印が点線で記される。さらに、撮像対象者が画枠の左方向の位置に存在する状態を、「左移動状態」と称し、同様に、右方向の位置に存在する状態を「右移動状態」、上方向の位置に存在する状態を「上移動状態」、下方向の位置に存在する状態を「下移動状態」とそれぞれ称する。このとき、状態マークにおいて、撮像対象者の存在有無を示す円のなかの、4方向の矢印は、撮像対象者が存在する位置の方向だけが実線で記され、それ以外の3方向は点線で記されることになる。
このように、ビデオカメラ1は、撮像対象者が表示部23に表示されている画面のなかに存在しない場合であっても、状態マークによって、撮像対象者が画枠から外れていることと、その画枠から外れている撮像対象者の存在する位置の方向を示すことができる。これにより、撮像者は、撮像対象者が表示部23の画面から外れてしまったとしても、状態マークにより撮像対象者の存在する位置の方向を確認し、状態マークの矢印の方向にビデオカメラ1を動かすことで、撮像対象者を画枠内に収めて撮像することが可能となる。
次に、その具体的な処理の流れについて説明する。
図12は、図9のビデオカメラ1により実行される、顔・状態マーク重畳処理について説明するフローチャートである。
ステップS71において、図8のステップS51の処理と同様に、撮像部103により、被写体が撮像され、それにより得られた画像が、顔画像検出部104、重畳部106、および状態検出部201に供給される。
ステップS72において、制御部101は、操作部102からの操作信号に基づいて、例えば、撮像者により顔マークと状態マークの重畳を指示するボタンが押下されることで、顔マークと状態マークの重畳が指示されているか否かを判定する。ステップS72において、顔マークと状態マークの重畳が指示されていると判定された場合、処理はステップS73に進む。
ステップS73乃至S80において、図8のステップS53乃至S60と同様に、顔画像検出部104、顔画像照合部105、重畳部106、顔画像記憶部109、記録メディア制御部110、および顔画像検出部111により、記録メディア28に記録されている画像に基づいて、撮像された被写体の画像のなかから撮像対象者が特定され、その撮像対象者に顔マークが重畳される。
ステップS81において、撮像部103、重畳部106、状態検出部201は、撮像部103により撮像される画像から撮像対象者の状態を検出し、その画像に対して状態マークを重畳する、状態検出処理を行なう。
ここで、図13のフローチャートを参照して、ステップS81の処理に対応する、撮像部103、重畳部106、および状態検出部201により実行される、状態検出処理の詳細について説明する。
ステップS91において、状態検出部201は、顔画像データベース109aに登録されている撮像対象者の顔画像を読み出すことで、撮像対象者を特定する。
ステップS92において、撮像部103は、撮像対象者にフォーカスを合わせる。
ステップS93において、状態検出部201は、特定された撮像対象者の存在する位置を決定する。
具体的には、図14に示すように、例えば、Nフレーム目の画像において、位置P(6,5)の位置に存在していた撮像対象者が、その次のフレームであるN+1フレーム目の画像においては、位置Q(10,8)の位置に移動したとき、位置PからQに移動した撮像対象者の移動速度は、撮像対象者の位置PからQへの移動距離から求めることができる。
なお、この画像の1フレームは、図14の例では、説明を簡略化するために、図中の水平方向をX方向、垂直方向をY方向としたとき、(X,Y)=(0,0),(20,0),(0,15),(20,15)の4点を四隅とするブロック、すなわち、15×20(個)のブロックからなる。また、1フレームの画像において、撮像対象者の位置は、例えば、撮像対象者の顔の重心等の位置とする。
つまり、点Xにフォーカスをあわせたときの焦点距離をXfとし、フレームレートをfr(fps)、水平(横)方向の座標をx、垂直(縦または奥行き)方向の座標をyとしたとき、図15に示すように、撮像対象者のいる位置Qにフォーカスを合わせた場合の焦点距離は、Qf(=F(図15の例では「F」と表現している))となる。
また、1フレーム当たりの撮像対象者の位置Qの移動距離(つまり、撮像対象者の移動距離)は、上記Qfとの関係により一意に求められる。すなわち、撮像対象者の位置Qであるが、図15の例では、水平方向の移動距離がQx(m)となり、垂直方向の移動距離がQy(m)となるので、fr=30(fps)とすると、撮像対象者の移動速度は、水平方向の速度(水平速度)が30×Qx(m/s)となり、垂直方向の速度(垂直速度)が30×Qy(m/s)となる。
さらにまた、図16に示すように、撮像経過時間をTn、ある撮像時点におけるフレーム番号をnとする(つまり、nより1つ前のフレームは、n−1と表現できる)と、撮像開始時間Tnの1秒後は、fr=30(fps)であるので、T30と表現できる。このような関係を前提として、撮像対象者の画面上の位置は下記の座標(1)のように表現できる。
Qn(qxn,qyn)・・・(1)
すなわち、状態検出部201は、撮像対象者の存在する位置として、例えば、座標(1)で示される、Qn(qxn,qyn)を決定する。
図13のフローチャートに戻り、ステップS94において、状態検出部201は、撮像対象者が表示部23に表示されている画面内に存在するか否かを判定する。例えば、状態検出部201は、決定された撮像対象者の存在する位置の座標、Qn(qxn,qyn)が、図14の画像内の座標であるか否かを判定する。
ステップS94において、撮像対象者が画面内に存在しないと判定された場合、ステップS95において、状態検出部201は、画面内に存在撮像対象者の存在する位置を推測する、撮像対象者位置推定処理を行って、撮像対象者位置推測処理を行うことにより得られた、撮像対象者の存在する位置を示す情報を重畳部106に供給する。
つまり、状態検出部201は、撮像対象者が画枠から外れて画面からはみ出した場合、座標(1)を用いて、QnとQn-1との位置関係から、その撮像対象者のはみ出した位置を推定する。
具体的には、例えば、図14において、Qn-1(15,5)から、Qn(18,5)に移動した撮像対象者が画面の右端からはみ出した場合、その撮像対象者の速度を一定とすると、Qn+1(qxn+1,qyn+1)は、上述した関係から、Qn+1(21,5)であると推定できる。すなわち、画面の右端からはみ出した撮像対象者は、画枠から外れて、Qn+1(21,5)の位置に存在していると推測される。
また、撮像対象者のはみ出す方向の右端以外の例として、例えば、図14において、図Qn-1(10,10)から、Qn(10,13)に移動した撮像対象者が画面の上端からはみ出した場合、その撮像対象者の速度を一定とすると、Qn+1(qxn+1,qyn+1)は、上述した関係から、Qn+1(10,16)であると推定できる。すなわち、画面の上端からはみ出した撮像対象者は、画枠から外れて、Qn+1(10,16)の位置に存在していると推測される。
このように、画枠からはみ出した撮像対象者のはみ出す前の座標を利用して、はみ出した後の座標を求めることができる。
なお、上述した例では、撮像対象者が画面の右端または上端からはみ出す例について説明したが、もちろん、撮像対象者が画面の左端や下端からはみ出した場合の座標も同様に求めることができる。また、上述した方法以外であっても、画枠から外れた撮像対象者の位置を推測できる方法であれば、いずれの方法を用いるようにしてもよい。
図13のフローチャートに戻り、ステップS96において、重畳部106は、状態検出部201から供給される撮像対象者位置推測の結果に基づいて、撮像部103から供給される画像に、画枠外に外れている撮像対象者の存在する位置を示す状態マークを重畳する。
一方、ステップS94において、撮像対象者が画面内に存在していると判定された場合、ステップS95の処理をスキップし、ステップS96において、重畳部106は、撮像部103から供給される画像に、撮像対象者が画枠内に存在していることを示す状態マークを重畳する。
このとき、重畳部106は、顔マーク(図12のステップS80の処理)と状態マーク(図13のステップS96の処理)の両方のマークが重畳された画像データを表示制御部107に供給する。
図12のフローチャートに戻り、ステップS82において、表示制御部107は、重畳部106から供給される、顔マークまたは状態マークが重畳された被写体の画像を表示部23に表示させる。
つまり、表示部23には、図10に示したように、撮像対象者が画像301のなかに存在する場合、撮像対象者を撮像者に識別させるための顔マーク302aと、その撮像対象者が画像301のなかに存在していることを示す状態マーク303aとが画像301に重畳されて表示される。それに対して、図11に示したように、撮像対象者が画像301のなかに存在しない場合、例えば撮像対象者が画像301の左方向に存在するので、左方向だけが実線で示される状態マークが画像301に重畳されて表示される。
これにより、撮像者は、撮像対象者を見失ってしまったとしても、その撮像対象者が存在する方向を状態マークにより把握することができるので、すぐに撮像対象者を見つけて撮像を行うことができる。
また、上述した例では、1人だけを撮像対象者として、その撮像対象者に対して、顔マークと状態マークが重畳された画像を表示する例について説明したが、本実施の形態では、それに限らず、複数人を撮像対象者とし、それらの撮像対象者に対して、顔マークと状態マークを画像に重畳させて、表示させることもできる。
図17は、複数の撮像対象者に対して、状態マークが重畳された画面の構成例を示す模式図である。
図17の例では、撮像者は、ビデオカメラ1により、サッカーの試合を撮像しているが、その試合で注目している4人の選手を登録(選択)しているので、それらの選択されている選手には、顔マーク302b乃至302eがそれぞれ重畳されている(図17では、顔マーク302eを重畳する選手が画枠の外に存在するので、画像301には、顔マーク302eが重畳されていない)。また、表示部23に表示されている画像301の左側には、顔マーク302b乃至302eに対応して、その顔マークの重畳された選手の状態を示す状態マーク303b乃至303eが表示される。
具体的には、状態マーク303bは、顔マーク302bが重畳された選手(以下、選手bとも称する)の状態を示している。選手bが画枠内に存在するので、状態マークは、「存在状態」を示している。同様に、状態マーク303cは、顔マーク302cが重畳された選手(以下、選手cとも称する)の状態を示し、その選手cが画枠内に存在するので、「存在状態」を示している。
また、同様に、状態マーク303dは、顔マーク302dが重畳された選手(以下、選手dとも称する)の状態を示し、その選手dが画枠内に存在するので、「存在状態」を示している。さらにまた、状態マーク303eは、顔マーク302eが重畳された選手(以下、選手eとも称する)の状態を示し、その選手eが画枠から外れて左方向の位置に存在するので、「左移動状態」を示している。
その後、ビデオカメラ1においては、例えば、「左移動状態」にある選手を撮像するために、撮像者により左方向に動かされたとき、選手eが画枠内に入ってくるが、それにより、選手bと選手dが画枠から外れてしまった場合、表示部23は、例えば、図18に示されるような画面を表示する。
図18の例では、状態マーク303bは、例えば、撮像者により、ビデオカメラ1が左方向に動かされることで、選手bが画枠の右方向に外れてしまっているので、その表示を、「存在状態」から「右移動状態」に変更する。同様に、状態マーク303cは、例えば、撮像者により、ビデオカメラ1が左方向に動かされても、選手cが画枠内に存在し続けているので、その表示を「存在状態」のまま維持する。
また、同様に、状態マーク303dは、例えば、撮像者により、ビデオカメラ1が左方向に動かされることで、選手dが画枠の左方向に外れてしまっているので、その表示を、「存在状態」から「左移動状態」に変更する。さらにまた、状態マーク303eは、例えば、撮像者により、ビデオカメラ1が左方向に動かされることで、選手eが画枠内に入ってくるので、その表示を、「左移動状態」から「存在状態」に変更する。つまり、撮像者は、表示部23に表示されている、図17の画面の状態マーク303eにしたがって、ビデオカメラ1を左方向に動かすことで、図18に示すように、選手eを撮像することが可能になった。
このように、ビデオカメラ1では、複数の撮像対象者を選択した場合でも、1人の撮像対象者を選択した場合と同様に、撮像された画像に対して、顔マークと状態マークを重畳させることができる。これにより、撮像者は、複数の撮像対象者を選択している場合に、撮像対象者を見失ってしまったとしても、画枠から外れてしまっている撮像対象者が存在する方向を把握することができるので、すぐに撮像対象者を見つけて撮像を継続することができる。
なお、状態マークの表示方法であるが、上述した例に限らず、例えば、図17および図18の例において、選手(撮像対象者)ごとに色を変えたり、状態マークに対応させて、選手の顔画像や名前等の撮像対象者を特定できる情報を表示してもよい。また、状態マークの表示位置であるが、上述した例では、画像301の左側に表示されるとして説明したが、それに限らず、例えば、画像301に重畳するように表示させてもよいし、画像301の上下左右のどの位置に表示させるようにしてもよい。
また、上述した例では、状態マークとして、表示部23に表示されている画面から外れてしまった撮像対象者の位置(方向)を示す例について説明したが、本実施の形態では、状態マークは、画枠から外れてしまった撮像対象者の存在する位置を示すとともに、その撮像対象者を画枠内に入れるためのズームボタンの操作用のガイド(以下、操作ガイドと称する)を示すようにしてもよい。
図19は、操作ガイドを含む状態マークが重畳された画面の構成例を示す模式図である。
図19の例では、図17および図18と同様に、ビデオカメラ1で撮像を行っている撮像者は、4人の選手を撮像対象者として選択している状態で、サッカーの試合を撮像している。
図19の例では、状態マーク303b1は、選手bの状態を示し、その選手bが画枠の右方向に外れてしまっているので、「右移動状態」を示している。また、状態マーク303b1の下側には、操作ガイド303b2が表示されている。操作ガイド303b2には、ズームマーク304のズーム位置と対応する点線で示された現在のズーム位置(以下、現在ズーム位置と称する)と、撮像対象者である選手bを撮像する(つまり、選手bを画枠内に入れる)ことが可能な実線で示されたズーム位置(以下、対象ズーム位置と称する)が表示される。
つまり、選手bは、ズーム位置が現在ズーム位置であると画枠に収まらずに表示されていないが、「Tele」、すなわち、ズーム位置を対象ズーム位置までズームダウンすることで、選手bが画枠内に収まる。
なお、図14乃至16を参照して上述したように、画枠から外れた撮像対象者の存在する位置を求めることができるので、対象ズーム位置は、例えば、その位置を用いて算出される。
同様に、状態マーク303c1は、選手cの状態を示し、その選手cが画枠のなかに存在するので、「存在状態」を示している。また、状態マーク303c1の下側には、操作ガイド303c2が表示される。操作ガイド303c2は、「exist」、すなわち、選手cが画枠内に収まっており、対象ズーム位置を表示する必要がないので、現在ズーム位置だけを表示する。
また、状態マーク303d1は、選手dの状態を示し、その選手dが画枠の左方向に外れてしまっているので、「左移動状態」を示している。また、状態マーク303d1の下側には、操作ガイド303d2が表示され、現在ズーム位置と対象ズーム位置が表示される。つまり、選手dは、ズーム位置が現在ズーム位置であると画枠に収まらずに表示されていないが、「Tele」、すなわち、ズーム位置を対象ズーム位置までズームダウンすることで、選手dが画枠内に収まる。
さらに、状態マーク303e1は、選手eの状態を示し、その選手eが画枠のなかに存在するので、「存在状態」を示している。また、状態マーク303e1の下側には、操作ガイド303e2が表示され、現在ズーム位置と対象ズーム位置が表示される。つまり、この場合、選手eは画枠内に収まっているが、画像301に表示されている選手eの顔が小さくなり過ぎているため、「Wide」、すなわち、ズーム位置を対象ズーム位置までズームアップすることで、顔が映るようになる。
このように、ビデオカメラ1では、状態マークとして、撮像対象者を画枠内に表示させるためのズームボタンの操作ガイドを表示させることができる。これにより、撮像者は、撮像対象者を見失った場合でも、撮像対象者までの距離感を把握し、適切なズームアウトや回転動作等の操作を行うことができる。
なお、状態マークとして、画枠から外れている撮像対象者までの実際の距離(例えば、「2.5m」等)を表示するようにしてもよい。また、状態マークは、操作ガイドだけを表示させるようにしてもよい。また、ビデオカメラ1に設けられるスピーカ(図示せず)により、例えば、「ビデオカメラ1を左方向に動かしてください。」等の状態マークにより示される内容を音声により出力するようにしてもよい。
さらにまた、ビデオカメラ1においては、撮像開始時からずっと画面に映っていない撮像対象者に対して、「円」と「矢印」の両方が点線となる状態マークが表示され、そのとき、操作ガイドは、「Tele」、「Wide」、「exist」のいずれでもない状態となる。
また、状態マークは、本実施の形態では、図10,11,および図17乃至19に示したように、撮像対象者の存在有無を示す円のなかに上下左右の4方向を示す矢印が付されたアイコンとして形成されると説明したが、それに限らず、図20に示すような、様々な形態からなるようにすることができる。
図20の例では、状態マーク311a乃至311gは、撮像対象者の存在する位置の方向を4方向で示すための方向キーが設けられており、それらの方向キーによって、撮像対象者の存在する方向を指し示す。つまり、状態マークは、撮像対象者の位置を示すことのできるアイコンであれば、その形状や色、大きさ等を任意に変更可能である。また、本実施の形態では、4方向により撮像対象者の位置を示したが、その方向も、例えば8方向等、任意に変更可能である。要は、撮像者に対して、撮像対象者の位置を示すことができればよいのであって、その表示の形態は、任意である。
図12のフローチャートに戻り、ステップS83において、図8のステップS62と同様に、制御部101により、撮像終了が指示されたか否かが判定され、撮像終了が指示されていないと判定された場合、ステップS71乃至S83の処理が繰り返される。すなわち、ステップS83において、撮像終了が指示されたと判定されるまで、ステップS71乃至S83において、顔マークと状態マークを重畳する所定が繰り返される。その結果、撮像者は、撮像対象者に重畳された顔マークを追いながら撮像を行なうとともに、その撮像対象者が画枠から外れてしまった場合でも、状態マークにしたがって、ビデオカメラ1を動かすことで確実に撮像対象者を撮像することができる。
このように、ビデオカメラ1は、撮像者にとって有意義な撮像対象者の特定や撮像対象者の動きを把握することができる機能を提供することで、撮像者に対して、確実に、かつ、迅速に、対象の被写体を把握させることができる。
また、撮像者は、撮像時に撮像したい人物を複数選択することが可能となるので、適切な画枠の調整を行うことが可能となる。さらに、撮像者は、選択した撮像対象者の動きを的確に把握することができるので、シーンに応じたピント合わせが可能となる。
さらにまた、ビデオカメラ1では、撮像対象者が画枠から外れた場合、コーション表示や音声案内を行うので、撮像者は、撮像対象者をすぐに追いかけて、撮像することができる。
なお、本実施の形態では、撮像対象者の顔画像を含む画像を記録している記録メディア28から、撮像対象者の顔画像を取得するとして説明したが、それに限らず、例えば、ビデオカメラ1に設けられた通信部(図示せず)により、例えば、インターネット等のネットワークを介して他の機器から取得した画像から、撮像対象者の顔画像を取得するようにしてもよい。
また、本実施の形態では、撮像対象者の一例として、「子供」を例にして説明したが、それに限らず、子供以外の人はもちろん、例えば、自動車等の乗り物や動物等、ビデオカメラ1により撮像される被写体、特に動くものに対して用いることができる。さらにまた、撮像対象者を特定する画像は、被写体の顔画像に限らず、撮像対象者を特定可能な部位の画像であればよい。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等に、記録媒体からインストールされる。
この記録媒体は、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD)を含む)、光磁気ディスク(MD(商標)を含む)、若しくは半導体メモリ等よりなる図1のリムーバブルメディア26により構成されるだけでなく、コンピュータに予め組み込まれた状態でユーザに提供される、プログラムが記録されている図1のフラッシュROM21等で構成される。
また、上述した一連の処理を実行させるプログラムは、必要に応じてルータ、モデム等のインターフェースを介して、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の通信媒体を介してコンピュータにインストールされるようにしてもよい。
なお、本明細書において、記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
1 ビデオカメラ, 17 DSP, 19 CPU, 22 ディスプレイコントローラ, 23 表示部, 24 入力部, 27 記録メディアインターフェース, 28 記録メディア, 52 タッチパネル, 101 制御部, 102 操作部, 103 撮像部, 104 顔画像検出部, 105 顔画像照合部, 106 重畳部, 107 表示制御部, 108 顔画像選択部, 109 顔画像記憶部, 109a 顔画像データベース, 110 記録メディア制御部, 111 顔画像検出部, 201 状態検出部