以下、本発明を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(画像表示制御:画像に含まれる顔に関連付けて選択操作支援画像を表示させる例)
2.第2の実施の形態(画像表示制御:補助操作部材を利用して選択操作支援画像が関連付けられた顔を選択する例)
3.第3の実施の形態(画像表示制御:印刷装置において選択操作支援画像を表示させて所望の顔を選択する例)
4.第4の実施の形態(画像表示制御:再生装置において選択操作支援画像を表示させて所望の顔を選択する例)
<1.第1の実施の形態>
[撮像装置の内部構成例]
図1は、本発明の第1の実施の形態における撮像装置100の内部構成例を示すブロック図である。撮像装置100は、光学ブロック111と、レンズアイリスドライバ112と、CCD(Charge Coupled Devices)113と、タイミング生成回路114と、CCDドライバ115と、前処理回路116とを備える。また、撮像装置100は、DSP(Digital Signal Processor)117と、SDRAM(Synchronous Dynamic Random Access Memory)118とを備える。また、撮像装置100は、CPU(Central Processing Unit)119と、RAM(Random Access Memory)120と、フラッシュROM(Read Only Memory)121とを備える。また、撮像装置100は、表示コントローラ122と、操作部123と、ドライブコントローラ124と、記録メディアインターフェース126と、バス128と、液晶モニタ130と、ファインダ135とを備える。また、撮像装置100には、例えば、リムーバブルメディア125および記録メディア127の2つの記録媒体がそれぞれ適宜装着される。撮像装置100は、例えば、撮像された画像をリアルタイムで表示する機能を有するデジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)等の画像処理装置により実現される。
光学ブロック111は、例えば、光学レンズ、フォーカス機構、シャッタ機構、絞り(アイリス)機構等から構成され、被写体から反射された光を集光し、被写体の像の光をCCD113の受光部に結像させるものである。この光学ブロック111は、レンズアイリスドライバ112により駆動される。
レンズアイリスドライバ112は、CPU119の制御に基づいて、光学ブロック111を動作させる駆動信号を生成し、この生成された駆動信号を光学ブロック111に供給して光学ブロック111を動作させるものである。例えば、レンズアイリスドライバ112は、撮像時において、ユーザの指示に基づいて、基準対象物に合焦させるための駆動信号や、絞りを調節して光量を調整させるための駆動信号を生成して光学ブロック111に供給する。
CCD113は、CCDセンサから構成され、CCDドライバ115から供給される駆動信号に応じて、光学ブロック111から供給された光を光電変換することにより、光信号をアナログの電気信号(アナログ信号)に変換するものである。また、CCD113は、タイミング生成回路114から供給されるタイミング信号に基づいて、変換されたアナログ信号(画像データ)を前処理回路116に供給する。なお、CCD113として、例えば、CCDセンサ以外に、画素を単位として画像信号を生成する撮像素子を用いることができる。この撮像素子として、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサ等を用いることができる。
タイミング生成回路114は、CPU119の制御に基づいて、CCD113の動作の時間的な基準となるタイミング信号を生成し、この生成されたタイミング信号をCCD113およびCCDドライバ115に供給するものである。
CCDドライバ115は、タイミング生成回路114から供給されるタイミング信号に基づいて、CCD113を駆動するための駆動信号を生成し、この生成された駆動信号をCCD113に供給するものである。
前処理回路116は、CPU119の制御に基づいて、CCD113から供給されるアナログ信号(画像データ)に対して、各種の前処理を行うものである。この前処理として、前処理回路116は、例えば、CDS(Correlated Double Sampling)処理を行い、S/N(Signal/Noise)比を良好に保つようにする。また、AGC(Automatic Gain Control)処理を行い、利得を制御する。そして、前処理回路116は、A/D(Analog/Digital)変換を行い、アナログ信号をデジタル信号に変換し、この変換により得られたデジタル信号(画像データ)をDSP117に供給する。なお、前処理回路116からDSP117に供給される画像データは、SDRAM118に順次記憶される。
CPU119は、RAM120やフラッシュROM121等に記憶されているプログラムに基づいて、撮像装置100の各部の動作を制御するものである。また、CPU119は、操作部123またはタッチパネル132から供給される操作信号に基づいて、撮像装置100の各部の動作を制御する。
RAM120には、CPU119が実行するプログラムや各種のデータ等が適宜記憶されるメモリである。フラッシュROM121は、CPU119が実行するプログラムや各種のデータ等を記録するメモリである。これらのCPU119、RAM120およびフラッシュROM121は、バス128により相互に接続される。また、バス128には、DSP117、表示コントローラ122、操作部123、ドライブコントローラ124および記録メディアインターフェース126が接続されている。
DSP117は、CPU119の制御に基づいて、前処理回路116から供給されるデジタル信号(画像データ)に対して、各種の画像処理を行うものである。DSP117は、例えば、AF(Auto Focus)処理部、AE(Auto Exposure)処理部、AWB(Auto White Balance)処理部、圧縮伸張部等を含む。そして、前処理回路116から供給された画像データに所定のカメラ信号処理を施し、このカメラ信号処理が施された画像データを所定の圧縮方式で圧縮する。また、DSP117はSDRAMコントローラを含み、このSDRAMコントローラは、DSP117が実行するプログラムや各種データに基づいてSDRAM118を制御して、一時的にそれらのプログラムや各種データをSDRAM118に記憶させる。なお、DSP117として、例えば、専用のIC(Integrated Circuit)である専用DSPまたは汎用DSP等を用いることができる。
SDRAM118は、SDRAMコントローラの制御に基づいて、DSP117が実行するプログラムや各種データ等を適宜記憶するメモリである。例えば、SDRAM118が前処理回路116から供給される画像データを一時的に記憶することにより、DSP117は、その一時的に記憶された画像データに対して所定のカメラ信号処理および画像データの圧縮処理を施し、圧縮された画像データを生成する。
具体的には、SDRAM118に記憶される前処理回路116から供給された画像データに対して、DSP117のAF処理部は、被写体に焦点(ピント)を合わせる処理(いわゆる、オートフォーカス)を行う。また、DSP117のAE処理部は、被写体の明るさに基づいて露出を決定する処理(いわゆる、自動露出)を行う。また、DSP117のAWB処理部は、白色である予め定められた基準の色に基づいて全体の画像データを補正する処理(いわゆる、ホワイトバランス)を行う。また、DSP117の圧縮伸張部は、所定のカメラ信号処理により、種々の調整がされた画像データを所定の圧縮方式で圧縮する。この圧縮伸張部は、例えば、画像データをJPEG(Joint Photographic Experts Group)方式で圧縮する。そして、DSP117は、圧縮された画像データをSDRAM118から読み出し、この画像データをバス128を介してドライブコントローラ124に供給する。これにより、画像データのデータ量を減らしてから、画像データをリムーバブルメディア125に記録することができる。
また、DSP117は、操作部123やタッチパネル132により受け付けられたユーザからの操作入力に応じて、画像データがリムーバブルメディア125から読み出された場合、その画像データに対して所定の伸張処理(解凍処理)を行う。すなわち、DSP117の圧縮伸張部は、バス128を介して、リムーバブルメディア125から供給される圧縮されている画像データを、その圧縮の方式に応じた所定の伸張処理を行うことにより、その画像データを伸張する。そして、DSP117は、その伸張された画像データを、バス128を介して表示コントローラ122に供給する。
操作部123は、ユーザからの操作入力を受け付ける操作部であり、受け付けられた操作入力に応じた操作信号をCPU119に出力する。操作部123として、例えば、図2に示すシャッターボタン141、リング型操作部材143等が撮像装置100に設けられている。
表示コントローラ122は、CPU119の制御に基づいて、DSP117から供給される画像データに基づいて、カラー液晶表示部131に画像を表示させるための画像信号を生成し、この生成された画像信号をカラー液晶表示部131に供給するものである。また、表示コントローラ122は、DSP117から供給される画像データに基づいて、カラー液晶表示部131と同様の画像をファインダ135に表示させるための画像信号を生成し、この生成された画像信号をファインダ135に供給する。すなわち、表示コントローラ122は、画像信号をカラー液晶表示部131およびファインダ135に供給することにより、カラー液晶表示部131およびファインダ135の表示を制御する。
液晶モニタ130は、カラー液晶表示部131およびタッチパネル132を備え、撮像装置100を使用するユーザに対するインターフェースを提供するものである。
カラー液晶表示部131は、表示コントローラ122から供給される画像信号に基づいて、その画像信号に応じた画像を表示するものである。例えば、撮像装置100を用いた撮影時において、モニタリングモードが設定されている場合には、DSP117から供給される画像データに対応する撮像画像がカラー液晶表示部131に順次表示される。このモニタリングモードは、例えば、撮像装置100が画像記録待機状態である場合に、DSP117から供給される画像データに対応する撮像画像をリアルタイムで表示させる撮像モードである。また、リムーバブルメディア125に記録されている画像データに対応する画像が、カラー液晶表示部131に表示される。カラー液晶表示部131として、例えば、LCD(Liquid Crystal Display)パネルや有機EL(Electro Luminescence)パネルを用いることができる。
タッチパネル132は、カラー液晶表示部131の画面を透過するように、カラー液晶表示部131に重ねて配置されているタッチパネルである。タッチパネル132は、カラー液晶表示部131に表示されている操作画面のキー等のユーザによる操作入力を受け付けると、その操作位置に対応する操作信号をCPU119に供給する。
ファインダ135は、撮像装置100を用いた撮影時において、その撮像範囲をユーザが確認するためのファインダであり、表示コントローラ122から供給される画像信号に基づいて、その画像信号に応じた画像を表示する。なお、本発明の第1の実施の形態では、撮像装置100を用いた撮影時(例えば、モニタリングモード設定時)において、カラー液晶表示部131およびファインダ135には同一の画像を表示させることができるものとする。
ドライブコントローラ124は、リムーバブルメディア125に対応した所定のインターフェースから構成され、CPU119の制御に基づいて、DSP117から供給された画像データをリムーバブルメディア125に記録させるものである。また、ドライブコントローラ124は、リムーバブルメディア125に記録されている画像データを読み出し、DSP117またはCPU119等に供給する。
リムーバブルメディア125は、DSP117から供給された画像データを記録する記録媒体である。このリムーバブルメディア125は、撮像装置100に内蔵するようにしてもよく、着脱可能に撮像装置100に装着されるようにしてもよい。リムーバブルメディア125として、例えば、テープ(例えば、磁気テープ)、光ディスク(例えば、記録可能なDVD(Digital Versatile Disc))を用いることができる。また、リムーバブルメディア125として、例えば、磁気ディスク(例えば、ハードディスク)、半導体メモリ(例えば、メモリカード)、光磁気ディスク(例えば、MD(MiniDisc))を用いるようにしてもよい。
記録メディアインターフェース126は、記録メディア127に対応した所定のインターフェースから構成され、CPU119の制御に基づいて、DSP117またはCPU119から供給されたデータを記録メディア127に記録させるものである。また、記録メディアインターフェース126は、記録メディア127に記録されているデータを読み出し、DSP117またはCPU119等に供給する。
記録メディア127は、メモリカード等の記録メディアであり、必要に応じて撮像装置100に装着される。なお、本発明の第1の実施の形態では、ドライブコントローラ124および記録メディアインターフェース126を撮像装置100に設け、リムーバブルメディア125および記録メディア127を装着可能とする例を示す。ただし、記録メディア127に記録されるデータをリムーバブルメディア125に記録させ、記録メディアインターフェース126を省略するように構成するようにしてもよい。
[撮像装置の外観および使用例]
図2は、本発明の第1の実施の形態における撮像装置100の外観を示す図である。図3は、本発明の第1の実施の形態における撮像装置100を用いて撮影を行う場合における撮影者の撮影姿勢の一例を示す図である。図2(a)には、撮像装置100の正面(すなわち、被写体に向けられるレンズ面)側の外観を示し、図2(b)には、撮像装置100の背面(すなわち、撮影者に向けられる液晶モニタ130の面)側の外観を示す。また、図2(c)には、撮像装置100の正面側の斜視図を示す。また、図3(a)には、撮像装置100を両手で構えた撮影者150を撮像装置100の正面側から示し、図3(b)には、撮像装置100を両手で構えた撮影者150を撮像装置100の側面側から示す。なお、本発明の第1の実施の形態で示す撮像装置の外観は、説明の容易のため、簡略化して図示する。例えば、撮像装置100の外側面には、電源スイッチ等の操作部材が備えられているが、これらの図示および説明を省略する。
撮像装置100は、液晶モニタ130と、ファインダ135と、シャッターボタン(レリーズボタン)141と、レンズ142と、リング型操作部材143と、ダイヤル型操作部材144乃至146とを備える。なお、シャッターボタン141、リング型操作部材143、ダイヤル型操作部材144乃至146は、図1に示す操作部123に対応する。また、レンズ142は図1に示す光学ブロック111に対応する。なお、液晶モニタ130およびファインダ135は、図1に示すものと同一であるため、同一の符号を付して説明する。
シャッターボタン141は、DSP117により生成された画像データを静止画ファイルとしてリムーバブルメディア125に記録する際に押下されるボタンである。撮像装置100を用いて撮影者が撮像操作(いわゆる、写真撮影)を行う場合には、液晶モニタ130またはファインダ135により所望の被写体を確認した後に、撮影者がシャッターボタン141を押下する。シャッターボタン141が押下されると、シャッターボタン141の押下に応じた操作信号がCPU119に供給される。この操作信号が供給されると、CPU119は、DSP117により生成された画像データを静止画ファイルとしてリムーバブルメディア125に記録させる
レンズ142は、外界の光を集光するレンズであり、この入射光がズームレンズおよびフォーカスレンズを介してCCD113に出力される。
リング型操作部材143は、レンズ鏡筒外径部に設けられているリング型操作部材である。このリング型操作部材143を光軸方向を軸として回転させることにより、その回転に応じた操作信号がCPU119に出力される。リング型操作部材143として、例えば、手動によりフォーカス(ピント)合わせを行うためのマニュアルフォーカスリングを用いることができる。例えば、マニュアルフォーカスモードが設定されている場合には、リング型操作部材143の回転に応じてフォーカス制御が行われる。一方、オートフォーカスモードが設定されている場合には、フォーカス制御にリング型操作部材143が用いられない。そこで、本発明の第1の実施の形態では、オートフォーカスモードが設定されている場合において、基準顔を選択するための操作部材としてリング型操作部材143を用いる。なお、リング型操作部材143の操作方法については、図7および図8等を参照して詳細に説明する。
ダイヤル型操作部材144乃至146は、各種の撮影モード等を設定する場合に用いられる操作部材である。例えば、フラッシュの発光を強制的にオン/オフにするモード、セルフタイマを使用するモード、液晶モニタ130にメニュー画面を表示するモード等の各種のモードを選択する場合等に、ダイヤル型操作部材144乃至146が操作される。
液晶モニタ130は、撮像装置100の背面側に設けられ、カラー液晶表示部131に各画像を表示し、タッチパネル132において操作入力を受け付けるものである。
ファインダ135は、撮像装置100の背面側に設けられ、例えば、モニタリングモードが設定されている場合には、液晶モニタ130に表示される画像と同一の画像がモニタリング表示される。
ここで、撮像装置100を用いて撮影を行う場合について説明する。図3に示すように、撮像装置100を用いて撮影を行う場合には、撮影者150は、右手151により撮像装置100の本体を持ち、左手152によりリング型操作部材143を握った状態でシャッターチャンスを待つことが多い。この待機状態では、例えば、右手151の人差し指がシャッターボタン141上に乗せられた状態でシャッターチャンスを待つことになる。このように、撮影の待機状態では、右手151を他の操作に用いることができないことが想定される。そこで、本発明の第1の実施の形態では、左手152により容易に操作が可能なリング型操作部材143を用いて、液晶モニタ130およびファインダ135に表示される画像に含まれる複数の顔から、所望の顔を選択する例について説明する。
[撮像装置の機能構成例]
図4は、本発明の第1の実施の形態における撮像装置100の機能構成例を示すブロック図である。撮像装置100は、撮像部200と、撮像制御部201と、顔検出部210と、顔識別部220と、特定人物情報記憶部230と、選択操作内容決定部240と、選択操作支援画像保持部250と、表示制御部260と、表示部261とを備える。また、撮像装置100は、記録制御部270と、記録部271と、基準対象物選択部280と、姿勢検出部290と、選択操作受付部300と、操作受付部310とを備える。ここで、本発明の各実施の形態では、「画像」と記載した場合には、画像そのものと、その画像を表示するための画像データとの両方の意味を含むものとする。
撮像部200は、被写体を撮像して画像(撮像画像)を生成するものであり、生成された撮像画像を撮像制御部201、顔検出部210、顔識別部220、選択操作内容決定部240、表示制御部260および記録制御部270に出力する。なお、画像生成の際に用いられるカメラパラメータ(撮像パラメータ)が、撮像制御部201により順次決定される。なお、撮像部200は、例えば、図1に示す光学ブロック111、レンズアイリスドライバ112、CCD113、タイミング生成回路114、CCDドライバ115および前処理回路116に対応する。
撮像制御部201は、撮像部200により生成される撮像画像に関するカメラパラメータを決定するものであり、決定されたカメラパラメータを用いて、撮像部200に対する撮像制御を行う。具体的には、撮像制御部201は、撮像部200により生成された撮像画像を評価し、シャッター速度、露出、ホワイトバランス等のカメラパラメータを決定する。また、撮像制御部201は、撮像部200により生成された撮像画像から顔が検出された場合には、検出された顔および現在の撮像画像の評価に基づいて、カメラパラメータを決定する。また、撮像制御部201は、撮像部200により生成された撮像画像から複数の顔が検出された場合には、例えば、基準顔として選択された顔および現在の撮像画像の評価に基づいてカメラパラメータを決定する。例えば、基準顔が選択された場合には、その基準顔の撮像画像における位置および大きさが選択操作支援画像保持部250から取得され、これらの位置および大きさに基づいて、基準顔に合焦させて適切な露出を設定するためのカメラパラメータが決定される。なお、撮像制御部201は、例えば、図1に示すDSP117およびCPU119に対応する。
顔検出部210は、撮像部200から出力された撮像画像について顔検出処理を行うものであり、検出された顔に関する顔情報を顔識別部220および選択操作内容決定部240に出力する。この顔検出方法として、例えば、顔の輝度分布情報が記録されているテンプレートと実画像とのマッチングによる顔検出方法(例えば、特開2004−133637参照。)、撮像画像に含まれる肌色の部分や人間の顔の特徴量に基づいた顔検出方法を用いることができる。また、顔を含む画像である顔画像について、この顔画像上の2画素間の輝度差を学習し、この学習により得られた特徴量を顔検出基準データとして予め保持しておく。そして、この顔検出基準データを用いて、撮像部200から出力された撮像画像における一定範囲の対象画像について顔検出を順次行う顔検出方法を用いることができる。また、顔情報には、検出された顔の撮像画像における位置およびサイズが含まれる。ここで、顔情報に含まれる顔の位置は、例えば、検出された顔の周囲を囲む矩形の顔検出ウィンドウの位置(例えば、顔検出ウィンドウの中心の位置)とすることができる。また、顔情報に含まれる顔のサイズは、例えば、その顔検出ウィンドウのサイズ(例えば、顔検出ウィンドウの水平方向および垂直方向の各画素数)とすることができる。なお、顔検出部210は、例えば、図1に示すDSP117に対応する。また、顔検出部210は、特許請求の範囲に記載の対象物検出部の一例である。
顔識別部220は、顔検出部210により検出された顔が、特定人物情報記憶部230に特定人物情報が記憶されている特定人物の顔(登録顔)であるか否かを識別するものであり、識別結果を顔識別情報として選択操作内容決定部240に出力する。具体的には、顔識別部220は、顔検出部210により検出された顔を含む顔画像について、その顔に含まれる両目に基づいて正規化を行い、この正規化された顔画像(正規化顔画像)における特徴量を抽出する。なお、両目の検出方法として、例えば、顔検出方法と同様に、目の輝度分布情報が記録されているテンプレートと実画像とのマッチングによる目検出方法等を用いることができる。続いて、顔識別部220は、抽出された特徴量と、特定人物情報記憶部230に記憶されている特徴量233(図5に示す)とを照合することにより、顔検出部210により検出された顔が登録顔であるか否かを識別する。そして、識別結果として、例えば、識別された登録顔に対応する特定人物識別番号231(図5に示す)が、処理対象となった顔に関する顔情報とともに、選択操作内容決定部240に出力される。ここで、顔識別方法として、例えば、特徴量の類似度に基づいて顔識別を行う顔識別方法を用いることができる。すなわち、特定人物情報記憶部230に記憶されている特徴量233と、正規化顔画像から抽出された特徴量とが比較されることにより、これらの特徴量の類似度が算出される。そして、この算出された類似度が閾値を超えた場合に、その正規化顔画像に含まれる顔が登録顔であると判定される。また、顔識別方法として、例えば、比較対象となる登録顔画像および正規化顔画像のそれぞれの画像上の2点間の特徴量の差分値を用いた弱判別器による識別処理を行う識別方法を用いることができる。また、例えば、特徴量として特徴ベクトルを用いて識別処理を行う識別方法を用いることができる(例えば、特開2008−129830号参照。)。なお、顔識別部220は、例えば、図1に示すDSP117に対応する。また、顔識別部220は、特許請求の範囲に記載の識別部の一例である。
特定人物情報記憶部230は、特定人物に関する特定人物情報を人物毎に記憶するものであり、記憶されている特定人物情報を顔識別部220および表示制御部260に供給する。なお、特定人物情報記憶部230の内容については、図5を参照して詳細に説明する。また、特定人物情報記憶部230は、例えば、図1に示すフラッシュROM121に対応する。また、特定人物情報記憶部230は、特許請求の範囲に記載の特定対象物画像記憶部の一例である。
選択操作内容決定部240は、顔検出部210により検出された複数の顔から所望の顔を基準顔として選択するための選択操作内容(選択操作方法)を決定するものである。そして、この決定された選択操作内容に基づいて選択操作支援画像保持部250の保持内容を順次更新する。具体的には、選択操作内容決定部240は、顔検出部210により複数の顔が検出された場合には、これらの複数の顔から基準顔を選択する。例えば、顔検出部210から出力された顔情報と、顔識別部220から出力された顔識別情報とに基づいて、基準顔が選択される。また、既に基準顔が選択されている場合には、選択操作支援画像保持部250の保持内容に基づいて、基準顔を特定する。そして、選択操作内容決定部240は、顔検出部210により検出された複数の顔の中から操作支援画像を付す対象となる顔を選択し、これらの顔を基準顔として選択するための選択操作内容を顔毎に決定する。また、選択操作内容決定部240は、基準対象物選択部280から選択情報が出力された場合には、この選択情報に対応する顔を基準顔として決定し、他の顔に関する選択操作内容を決定する。また、選択操作内容決定部240は、撮像部200から出力された撮像画像に基づいて、選択操作支援画像保持部250に顔情報が保持されている顔について追尾処理を行う。なお、選択操作内容決定部240は、例えば、図1に示すCPU119に対応する。
選択操作支援画像保持部250は、選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像およびこれに関連付けられた顔情報等を保持するものであり、保持されている情報を各部に供給する。例えば、選択操作支援画像保持部250の保持内容に基づいて、撮像画像への操作支援画像の重畳が表示制御部260により行われる。また、例えば、選択操作支援画像保持部250の保持内容に基づいて、カメラパラメータの決定処理が撮像制御部201により行われる。また、選択操作支援画像保持部250の保持内容は、選択操作内容決定部240により順次更新される。なお、選択操作支援画像保持部250の保持内容については、図6を参照して詳細に説明する。また、選択操作支援画像保持部250は、例えば、図1に示すフラッシュROM121に対応する。
表示制御部260は、撮像部200から出力された画像に、選択操作支援画像保持部250に保持されている保持内容に応じた選択操作支援画像を重畳し、この選択操作支援画像が重畳された画像を表示部261に表示させるものである。この選択操作支援画像の撮像画像への重畳の要否については、ユーザ操作により変更することができる。また、表示制御部260は、ユーザ操作に基づいて、特定人物情報記憶部230に記憶されている特定人物情報に含まれる特定人物の顔を表示させる。また、表示制御部260は、姿勢検出部290により検出された姿勢に関する姿勢情報に基づいて、撮像画像に重畳される選択操作支援画像の表示形態を変更する。なお、表示制御部260は、例えば、図1に示す表示コントローラ122に対応する。
表示部261は、表示制御部260により選択操作支援画像が重畳された画像を表示するものである。また、選択操作支援画像が重畳されていない場合には、撮像部200により生成された画像のみが表示される。表示部261は、例えば、図1に示すカラー液晶表示部131およびファインダ135に対応する。
記録制御部270は、操作受付部310により受け付けられた操作内容に応じて、撮像部200から出力された撮像画像を記録部271に記録させるものである。記録制御部270は、例えば、図1に示すドライブコントローラ124に対応する。
記録部271は、記録制御部270の制御に基づいて、撮像部200から出力された撮像画像を記録するものである。記録部271は、例えば、図1に示すリムーバブルメディア125に対応する。
基準対象物選択部280は、選択操作受付部300により受け付けられた操作入力に応じて、選択操作支援画像保持部250に顔情報が保持されている複数の対象物のうちから、基準対象物を選択するものである。そして、基準対象物選択部280は、選択された基準対象物に関する選択情報(例えば、図6に示す選択操作支援画像識別番号251)を選択操作内容決定部240に出力する。なお、基準対象物選択部280は、例えば、図1に示すCPU119に対応する。
姿勢検出部290は、撮像装置100の加速度、動き、傾き等を検出することにより撮像装置100の姿勢を検出するものであり、検出された姿勢に関する姿勢情報を選択操作内容決定部240に出力する。姿勢検出部290は、例えば、ジャイロセンサにより実現することができる。
選択操作受付部300は、表示部261に表示されている選択操作支援画像に応じて行われた操作内容を受け付けるものであり、受け付けられた操作内容を基準対象物選択部280に出力する。選択操作受付部300は、例えば、図2に示すリング型操作部材143に対応する。また、選択操作受付部300は、特許請求の範囲に記載の操作受付部の一例である。
操作受付部310は、ユーザにより行われた操作内容を受け付けるものであり、受け付けられた操作内容を選択操作内容決定部240、表示制御部260および記録制御部270に出力する。操作受付部310は、例えば、図1に示す操作部123およびタッチパネル132に対応する。
ここで、顔検出部210、顔識別部220、表示制御部260および記録制御部270については、ソフトウェア(コンピュータプログラム)を実行するCPU119により実現するようにしてもよい。すなわち、これらについては、ハードウェアとして構成するようにしてもよく、ソフトウェアとして構成するようにしてもよい。また、ソフトウェアおよびハードウェアの組み合わせとしても構成するようにしてもよい。
図5は、本発明の第1の実施の形態における特定人物情報記憶部230に記憶されている各情報を模式的に示す図である。特定人物情報記憶部230には、ユーザにより予め登録されている人物(特定人物)に関する特定人物情報が記憶されている。具体的には、特定人物情報記憶部230には、特定人物識別番号231と、登録名称232と、特徴量233と、登録顔画像234とが関連付けて記憶されている。
特定人物識別番号231は、特定人物情報記憶部230に特定人物情報が記憶されている各特定人物を管理するための識別情報であり、例えば、登録された順番に「#1」、「#2」に関連付けられて特定人物情報が記憶される。
登録名称232には、特定人物情報記憶部230に特定人物情報が記憶されている各特定人物に関する名称(氏名や通称等)が記憶される。例えば、特定人物情報記憶部230に特徴量および登録顔画像を登録する際に特定人物の名称がユーザにより入力され、この入力された名称が登録名称232として記憶される。図5では、登録名称232として、各特定人物の名字が記憶されている場合を示す。
特徴量233には、特定人物情報記憶部230に特定人物情報が記憶されている各特定人物に関する特徴量が記憶される。この特徴量は、画像から検出された顔が特定人物の顔に該当するか否かを識別するために用いられる判定情報であり、例えば、顔を構成する目や鼻、口、眉等の各部の位置関係や形状を認識するための顔画像の特徴や特性を示すデータを用いることができる。この特徴量として、例えば、特定人物の顔を含む顔画像から、色や輝度等の値に基づいて抽出されるデータを用いることができる。なお、図5では、特徴量233の内容を省略して示す。
登録顔画像234には、特定人物情報記憶部230に特定人物情報が記憶されている各特定人物に関する顔画像の画像データ(圧縮または非圧縮)が記憶される。なお、図5では、登録顔画像234に記憶されている顔画像の画像データを図形化して示す。登録顔画像234に記憶されている顔画像は、例えば、図25(a)乃至図28(a)に示すように、撮像画像と同時に選択操作補助画像として表示部261に表示させることができる。また、登録顔画像234に記憶されている顔画像は、例えば、ユーザからの指示操作により表示部261に表示させることができる。これにより、登録されている特定人物の顔をユーザが随時確認することができる。
なお、図5では、特定人物として5人の人物に関する特定人物情報が特定人物情報記憶部230に記憶されている場合を例にして示す。例えば、特定人物識別番号231「#1」には「田中」氏に関する特定人物情報が記憶され、特定人物識別番号231「#2」には「山田」氏に関する特定人物情報が記憶されているものとする。また、特定人物識別番号231「#3」には「佐藤」氏に関する特定人物情報が記憶され、特定人物識別番号231「#4」には「志村」氏に関する特定人物情報が記憶されているものとする。また、特定人物識別番号231「#5」には「鈴木」氏に関する特定人物情報が記憶されているものとする。
図6は、本発明の第1の実施の形態における選択操作支援画像保持部250に保持されている内容を概略的に示す図である。選択操作支援画像保持部250には、選択操作支援画像識別番号251と、選択操作支援画像252と、顔情報253と、特定人物番号254とが保持されている。なお、図6に示す例では、画像に含まれる複数の人物のうち、5人の顔に選択操作支援画像を付して表示する場合における選択操作支援画像保持部250について説明する。
選択操作支援画像識別番号251は、選択操作支援画像を管理するための識別情報であり、例えば、選択操作支援画像が種類毎に「#11」乃至「#15」に関連付けられて記憶される。
選択操作支援画像252には、画像に含まれる複数の顔から所望の顔を選択するための選択操作内容を示す選択操作支援画像255乃至259のテンプレート画像が記憶される。図6に示す例では、画像に含まれる複数の顔に、5種類のリング型の選択操作支援画像255乃至259を付す場合を例にして示す。例えば、選択操作支援画像識別番号251「#11」には、ユーザ操作や予め設定されている条件等に基づいて決定された基準顔に付される選択操作支援画像255が記憶されている。また、選択操作支援画像識別番号251「#12」乃至「#15」には、基準顔以外の顔に付される選択操作支援画像256乃至259が記憶されている。これらの選択操作支援画像255乃至259が、撮像画像に含まれる各顔を囲むように付され、撮像画像に重ねて合成される。また、選択操作支援画像255乃至259は、検出された各顔の撮像画像におけるサイズに応じて拡大または縮小され、検出された顔を囲むように、拡大または縮小後の選択操作支援画像が撮像画像に重畳される。このように選択操作支援画像255乃至259を表示することにより、撮像画像に含まれる複数の顔から所望の顔を選択するための選択操作内容を、その顔の位置に関連付けてユーザに提供することができる。なお、選択操作支援画像については、図7および図8を参照して詳細に説明する。また、選択操作支援画像の配置およびその重畳については、図9乃至図32等を参照して詳細に説明する。
顔情報253には、顔検出部210により検出された顔に関する顔情報が記憶される。ここで、顔情報として、例えば、顔検出部210により検出され顔の撮像画像における位置(X,Y)およびサイズ(H,W)が顔情報253に記憶される。具体的には、選択操作支援画像識別番号251「#11」には、ユーザ操作または予め設定されている条件に基づいて決定された基準顔に関する顔情報が記憶される。また、選択操作支援画像識別番号251「#12」乃至「#15」には、選択操作内容決定部240により選択操作内容が決定された基準顔以外の顔に関する顔情報が記憶される。この顔情報253に記憶された顔情報に対応する顔に、その顔情報に関連付けて選択操作支援画像252に記憶されている選択操作支援画像が付される。なお、撮像画像から検出された顔が5人未満の場合には、その検出された顔の数だけ顔情報253に顔情報が記憶される。また、撮像画像から検出された顔が6人以上の場合には、例えば、予め設定された優先順位に従って顔情報が顔情報253に記憶される。例えば、特定人物の顔(登録顔)が検出された場合には、その登録顔に関する顔情報を優先して顔情報253に記憶する。また、例えば、6人以上の登録顔が検出された場合には、予め設定されている登録顔の優先順位に従ってその登録顔に関する顔情報を顔情報253に記憶する。また、6人以上の顔が検出されたが、そのうち登録顔が5人未満である場合には、例えば、顔検出部210による顔検出処理の際に算出される評価値が高い顔を優先して顔情報を顔情報253に記憶する。
特定人物番号254には、顔検出部210により検出された顔のうち、顔識別部220により登録顔であると識別された顔について、その特定人物の特定人物識別番号231(図5に示す)が記憶される。なお、顔識別部220により登録顔であるとは識別されていない顔については、特定人物識別番号231は記憶されない。
なお、選択操作支援画像保持部250の保持内容は、例えば、選択操作内容決定部240によりフレーム毎に順次更新される。例えば、選択操作支援画像保持部250に保持された顔に関する顔情報は、選択操作内容決定部240による追尾処理により追尾されて更新される。
[リング型操作部材の操作例]
図7は、本発明の第1の実施の形態における撮像装置100の外観と、リング型操作部材143の操作領域とを示す図である。図7(a)には、撮像装置100の背面側の外観を示す。図7(a)に示す撮像装置100は、図2(b)に示す撮像装置100に、正面側に設けられているリング型操作部材143を破線で示したものである。例えば、図3に示すように、撮影時には、撮影者150の顔は撮像装置100の背面側と向き合うことになる。そこで、図7では、撮影時における撮影者からの視線を考慮して、撮像装置100の背面側から見た場合におけるリング型操作部材143の選択操作内容を例にして説明する。また、図7では、説明の容易のため、リング型操作部材143の12時の位置(撮像装置100の垂直方向における上端部の位置)を基準位置170として説明する。また、図7において、矢印161および162は、リング型操作部材143の操作方向を示す矢印である。例えば、図3に示すように、撮影者150がリング型操作部材143を左手152で握っている状態で、リング型操作部材143を矢印161または162の方向に回転させることができる。
図7(b)には、リング型操作部材143の操作領域を円状に模式的に示す。図7(b)に示す円状のリング型操作部材143の操作領域は、例えば、図7(a)に示す基準位置170の移動経路に対応する。ここで、本発明の第1の実施の形態では、図6に示すように、5種類の選択操作支援画像255乃至259を表示させる。そこで、選択操作支援画像255乃至259により表される操作方向および操作範囲に対応するように、リング型操作部材143の操作領域が設定される。リング型操作部材143の操作領域として、例えば、不感領域171および172と、操作領域173乃至175とが設定される。ここで、不感領域171および172と、操作領域173乃至175とは、リング型操作部材143の基準位置170の移動経路に対応する領域である。また、不感領域171に対応する角度を角度θ1とし、不感領域172に対応する角度を角度θ2とし、操作領域173に対応する角度を角度θ3とし、操作領域174に対応する角度を角度θ4とする。なお、図7(b)では、リング型操作部材143の基準位置170の移動経路において、操作領域173および174に対応する部分を太線で示す。また、リング型操作部材143の基準位置170の移動経路において、操作領域175に対応する部分の外側を太線で示す。なお、リング型操作部材143の操作範囲と、図6に示す選択操作支援画像255乃至259との関係を図8に示す。
図8は、本発明の第1の実施の形態におけるリング型操作部材143の操作範囲と、選択操作支援画像保持部250に保持されている選択操作支援画像255乃至259との関係を示す図である。なお、図8では、リング型操作部材143の基準位置170の移動経路を示す円上において、リング型操作部材143の操作範囲181乃至185を太線で示す。また、リング型操作部材143の操作範囲と、選択操作支援画像255乃至259との関係については、図7を参照して詳細に説明する。
図7(b)に示す不感領域171および172は、これらに対応する角度θ1およびθ2の回転が検出されても撮像者による操作とみなさずに操作を受け付けない領域である。なお、不感領域171および172は、図8(a)に示す操作範囲181に対応する。ここで、図8(a)に示す選択操作支援画像255は、撮像画像に含まれる複数の顔のうち、基準顔として選択されている顔に付される選択操作支援画像である。この選択操作支援画像255を構成する実線の楕円には、12時の位置に、実線の線幅よりも直径の大きな黒丸を付す。この黒丸は、例えば、リング型操作部材143の基準位置170を模式的に示すものである。
ここで、不感領域171および172に対応する角度θ1およびθ2として、例えば、1、2度程度の比較的小さい値を設定することができる。ただし、リング型操作部材の回転トルクやリング径等の操作部材自体の機能や、撮影者の操作能力によって適切な範囲が変わるため、それぞれに応じた適切な不感領域の範囲を設定することが望ましい。また、不感領域の範囲を撮影者の手動操作により設定するようにしてもよい。例えば、リング型操作部材の回転トルクが軽い場合には、撮像者が意図していなくても若干の回転が発生することが想定される。このため、不感領域の範囲を比較的大きく設定することが好ましい。また、リング型操作部材のリング径が比較的小さい場合には、撮影者の指の動きだけでもリングが動くことが想定される。このため、不感領域の範囲を比較的大きく設定することが好ましい。一方、リング型操作部材のリング径が比較的大きい場合には、撮影者の手首を使わないと回転が発生しないことも想定される。そこで、このような場合には、不感領域の範囲を比較的小さく設定することが好ましい。
操作領域173は、図8(b)に示す選択操作支援画像256に対応する操作を実行するための操作範囲182に対応する領域である。例えば、選択操作支援画像256が付されている顔を基準顔として選択するための選択操作を撮影者が行う場合には、基準位置170が操作範囲182の範囲内となるようにリング型操作部材143を矢印161方向に回転させて停止させる。ここで、図8(b)に示す選択操作支援画像256は、撮像画像に含まれる複数の顔のうち、基準顔以外の顔に付される選択操作支援画像である。この選択操作支援画像256を構成する楕円には、選択操作支援画像255と同様に、12時の位置に、リング型操作部材143の基準位置170を模式的に示す黒丸を付す。また、選択操作支援画像256を構成する楕円には、その黒丸を基点として、CCW(Counter ClockWise:反時計回り)方向に略10時の位置に向かって伸びる実線の矢印を付す。この矢印は、例えば、選択操作支援画像255の楕円と同じ太さとする。また、選択操作支援画像256を構成する楕円上における矢印部分以外の他の部分は、矢印よりも細い点線で構成する。このように、選択操作支援画像256を構成する楕円に付された矢印により、選択操作支援画像256が付された顔を選択するために必要なリング型操作部材143の操作方向と操作範囲を表すことができる。
具体的には、撮影者が選択操作支援画像256に対応する操作を実行する場合には、図7(b)に示すように、リング型操作部材143を矢印161方向にθ(θ1+θ3≧θ>θ1)度回転させて停止させる。この回転操作がユーザにより行われると、その操作方向および操作量が選択操作受付部300から基準対象物選択部280に出力される。そして、基準対象物選択部280は、その操作方向および操作量に基づいて、選択操作支援画像保持部250に顔情報が保持されている顔から、基準顔として選択すべき顔を選択する。すなわち、選択操作支援画像256が付された顔が基準顔として選択される。そして、新たに選択された基準顔に関する選択情報(例えば、その選択された顔情報に関連付けられている選択操作支援画像識別番号)が選択操作内容決定部240に出力され、選択操作内容決定部240はその基準顔に基づいて他の顔の選択操作内容を決定する。そして、選択操作内容決定部240は、決定された新たな基準顔および他の顔の選択操作内容に基づいて、選択操作支援画像保持部250の内容を更新する。
ここで、基準対象物選択部280により行われるリング型操作部材143の回転操作の停止判断について説明する。例えば、撮像部200により生成される撮像画像が、1フレーム=30fps(frame per second)とする。この場合において、リング型操作部材143が矢印161方向に回転操作された後に、1fps当たりの回転検出量(操作量)が1度以内となった場合に、撮像者による回転操作が停止したと判断することができる。また、例えば、リング型操作部材143が矢印161方向に回転操作された後に、その逆方向(すなわち、矢印162方向)の回転が検出された場合に、撮像者による回転操作が停止したと判断することができる。このように、リング型操作部材143の回転操作の停止を判断することにより、撮像者による回転操作の直後に基準顔を迅速に選択させることができる。
操作領域174は、図8(d)に示す選択操作支援画像258に対応する操作を実行するための操作範囲184に対応する領域である。例えば、選択操作支援画像258が付されている顔を基準顔として選択するための選択操作を撮影者が行う場合には、基準位置170が操作範囲184の範囲内となるようにリング型操作部材143を矢印162方向に回転させて停止させる。ここで、図8(d)に示す選択操作支援画像258は、撮像画像に含まれる複数の顔のうち、基準顔以外の顔に付される選択操作支援画像である。この選択操作支援画像258を構成する楕円には、選択操作支援画像255と同様に、12時の位置に、リング型操作部材143の基準位置170を模式的に示す黒丸を付す。また、選択操作支援画像258を構成する楕円には、その黒丸を基点として、CW(ClockWise:時計回り)方向に略2時の位置に向かって伸びる実線の矢印を付す。この矢印は、例えば、選択操作支援画像255の楕円と同じ太さとする。また、選択操作支援画像258を構成する楕円上における矢印部分以外の他の部分は、矢印よりも細い点線で構成する。このように、選択操作支援画像258を構成する楕円に付された矢印により、選択操作支援画像258が付された顔を選択するために必要なリング型操作部材143の操作方向と操作範囲を表すことができる。具体的には、撮影者が選択操作支援画像258に対応する操作を実行する場合には、図7(b)に示すように、リング型操作部材143を矢印162方向にθ(θ2+θ4≧θ>θ2)度回転させて停止させる。この回転操作がユーザにより行われると、その操作方向および操作量が選択操作受付部300から基準対象物選択部280に出力される。そして、基準対象物選択部280による基準顔選択処理および選択操作内容決定部240による選択操作内容決定処理が行われる。なお、リング型操作部材143の回転操作の停止判断については、操作領域173と同様であるため、ここでの説明を省略する。
また、図8(c)に示すように、撮影者が選択操作支援画像257に対応する操作を実行する場合には、基準位置170が操作範囲183の範囲内となるようにリング型操作部材143を矢印161方向に回転させる。ここで、図8(c)に示す選択操作支援画像257は、撮像画像に含まれる複数の顔のうち、基準顔以外の顔に付される選択操作支援画像である。この選択操作支援画像257を構成する楕円には、選択操作支援画像255と同様に、12時の位置に、リング型操作部材143の基準位置170を模式的に示す黒丸を付す。また、選択操作支援画像257を構成する楕円において、図8(b)に示す選択操作支援画像256における矢印のCCW方向の終端の位置を基点として、CCW方向に略8時の位置に向かって伸びる実線の矢印を付す。この矢印は、例えば、選択操作支援画像255の楕円と同じ太さとする。また、選択操作支援画像257を構成する楕円上における矢印部分以外の他の部分は、矢印よりも細い点線で構成する。このように、選択操作支援画像257を構成する楕円に付された矢印により、選択操作支援画像257が付された顔を選択するために必要なリング型操作部材143の操作方向と操作範囲を表すことができる。具体的には、撮影者が選択操作支援画像257に対応する操作を実行する場合には、図7(b)に示すように、リング型操作部材143を矢印161方向にθ(θ>θ1+θ3)度回転させる。この回転操作がユーザにより行われると、その操作方向および操作量が選択操作受付部300から基準対象物選択部280に出力される。そして、基準対象物選択部280による基準顔選択処理および選択操作内容決定部240による選択操作内容決定処理が行われる。
ここで、基準対象物選択部280により行われるリング型操作部材143の回転操作の判断について説明する。撮影者が選択操作支援画像257に対応する操作を実行する場合には、例えば、リング型操作部材143の回転操作の停止を判断せずに、基準位置170が図7(b)に示す操作領域173の範囲外となったことを条件に、その回転操作の操作量を判断する。すなわち、撮像者による回転操作の操作量が、矢印161方向にθ(θ>θ1+θ3)度を超えたと判断された場合に、回転操作の停止を判断することなく、基準顔を選択させることができる。例えば、矢印161方向に回転された状態で、図8(c)に示す操作範囲183の範囲外となった場合でも、選択操作支援画像257に対応する操作であると判断するようにしてもよい。これにより、撮像者の回転操作に対して、遅延無く迅速な応答が可能である。
ここで、撮像者による回転操作の操作量が、矢印161方向にθ(θ>θ1+θ3)度を超えたことを判断する判断方法について説明する。例えば、撮影者による回転操作状態が、次の(1)および(2)の何れの条件も満たした状態を維持しつつ、その操作量が矢印161方向にθ(θ>θ1+θ3)度を超えたことを判断条件とすることができる。
(1)逆方向(すなわち、矢印162方向)の回転が検出されないこと。
(2)撮像部200により生成される撮像画像が、1フレーム=30fpsとする場合に、1fpsあたりに検出された回転量(操作量)が1度よりも小さくならないこと。
なお、回転操作状態は、単位時間当たりの回転検出量が、例えば、1度/fps以上の状態で、回転検出量が角度θ1よりも大きくなった状態とすることができる。また、この回転操作状態と判断された場合に、単位時間当たりの回転検出量が、例えば、1度/fps以上となった時点からの回転量を操作量とみなすようにしてもよい。
また、図8(e)に示すように、撮影者が選択操作支援画像259に対応する操作を実行する場合には、基準位置170が操作範囲185の範囲内となるようにリング型操作部材143を矢印162方向に回転させる。ここで、図8(e)に示す選択操作支援画像259は、撮像画像に含まれる複数の顔のうち、基準顔以外の顔に付される選択操作支援画像である。この選択操作支援画像259を構成する楕円には、選択操作支援画像255と同様に、12時の位置に、リング型操作部材143の基準位置170を模式的に示す黒丸を付す。また、選択操作支援画像259を構成する楕円において、図8(d)に示す選択操作支援画像258における矢印のCW方向の終端の位置を基点として、CW方向に略4時の位置に向かって伸びる実線の矢印を付す。この矢印は、例えば、選択操作支援画像255の楕円と同じ太さとする。また、選択操作支援画像259を構成する楕円上における矢印部分以外の他の部分は、矢印よりも細い点線で構成する。このように、選択操作支援画像259を構成する楕円に付された矢印により、選択操作支援画像259が付された顔を選択するために必要なリング型操作部材143の操作方向と操作範囲を表すことができる。具体的には、撮影者が選択操作支援画像259に対応する操作を実行する場合には、図7(b)に示すように、リング型操作部材143を矢印162方向にθ(θ>θ2+θ4)度回転させる。この回転操作がユーザにより行われると、その操作方向および操作量が選択操作受付部300から基準対象物選択部280に出力される。そして、基準対象物選択部280による基準顔選択処理および選択操作内容決定部240による選択操作内容決定処理が行われる。
なお、これらの回転操作の判断は一例であり、例えば、単位時間あたりの回転検出量の閾値は、リング型操作部材の設定トルクや回転検出分解能によって適切な数値が変わる可能性がある。このため、回転操作の判断に用いられる閾値として、撮像装置に応じて適切な値を設定することが好ましい。また、逆方向の回転が検出された場合に、回転停止と判断する設定についても、リング型操作部材の設定トルクや回転検出分解能によって適切に判断することができる場合と、適切に判断することができない場合とが想定される。このため、撮像装置に応じて適切に設定することが好ましい。
ここで、図7(b)に示す操作領域173および174を特定するための角度(θ1+θ3、θ2+θ4)について説明する。例えば、操作領域173および175の境界となる角度(θ1+θ3)と、操作領域174および175の境界となる角度(θ2+θ4)については、撮像者の各操作の使い分けを実施し易くするため、例えば、15度程度とすることができる。ただし、リング型操作部材の回転トルクやリング径等の操作部材自体の機能や、撮影者の操作能力によって適切な角度が変わるため、それぞれに応じた適切な角度を設定することが望ましい。また、これらの角度を撮影者の手動操作により設定するようにしてもよい。また、本発明の第1の実施の形態では、角度θ1およびθ2を同一とし、角度θ3およびθ4を同一とする例について説明する。しかしながら、角度θ1およびθ2を異なる値とするようにしてもよく、また、角度θ3およびθ4についても異なる値とするようにしてもよい。
[選択操作支援画像の表示制御例]
以下では、選択操作支援画像255乃至259を、撮像画像に含まれる複数の顔に付す場合について図面を参照して詳細に説明する。
図9は、本発明の第1の実施の形態における表示部261に表示される撮像画像の一例を示す図である。図9(a)には、サッカーの試合を撮像している場合における撮像画像400を示す。この撮像画像400は、撮像部200により生成された撮像画像であり、サッカー選手401乃至405が含まれるものとする。この例では、説明の容易のため、サッカー選手401乃至405が撮像装置100に対して正面向きまたは側面向きであるものとして説明する。
図9(b)には、撮像画像400において、サッカー選手401乃至405の各顔が顔検出部210により検出された場合を模式的に示す。図9(b)では、撮像画像400において検出された各顔の大きさを破線の矩形411乃至415で示す。例えば、撮像画像において、1人の顔が検出された場合には、その顔に最適なカメラパラメータを決定することができる。また、撮像画像から複数の顔が検出された場合には、例えば、1人の顔を基準顔として選択し、この基準顔に最適なカメラパラメータを決定することができる。この場合に、例えば、水平方向において最も真中に近い顔を基準顔として決定することができる。また、例えば、撮像画像全体において、最も中心位置に近い顔を基準顔として決定するようにしてよく、撮像画像において最も大きい顔を基準顔として決定するようにしてよい。また、カメラ制御処理において測定される各顔までの被写体距離を用いて、最も撮像装置100に近い顔を基準顔として決定するようにしてもよい。また、例えば、特定人物情報記憶部230に記憶されている特定人物情報に、予め優先度を設定しておき、この優先度が最も高い顔を基準顔として決定するようにしてよい。このように、撮像画像から複数の顔が検出された場合には、例えば、撮像画像における各顔の位置等に基づいて基準顔を設定することができる。しかしながら、例えば、サッカーの試合を撮像している状態で、撮像画像における各顔の位置とは無関係に、撮像範囲に含まれる所望のサッカー選手を最も綺麗に撮像したいと考える場合も想定される。また、例えば、撮像画像の中心位置に存在するサッカー選手の顔を基準顔としている状態で、その選手がボールをパスしたような場合には、そのパスが出された選手に基準顔を迅速に移動させたい場合も想定される。そこで、本発明の第1の実施の形態では、基準顔以外の顔を迅速に選択することができるように、基準顔以外の顔には、基準顔として選択するための選択操作内容を視覚的に表す選択操作支援画像256乃至259を付す。また、基準顔にはその旨を表す選択操作支援画像255を付す。この選択操作支援画像の配置方法については、図10を参照して詳細に説明する。
図10は、本発明の第1の実施の形態における選択操作内容決定部240により決定される選択操作内容を模式的に示す図である。図10(a)に示す例では、撮像部200により生成された撮像画像400における左下隅を原点とし、水平方向をx軸とし、垂直方向をy軸とする。この場合において、撮像画像400から検出された複数の顔のx軸方向の位置関係に基づいて、選択操作内容を決定する例を示す。なお、図10(a)に示す例では、説明の容易のため、撮像画像400におけるx軸方向の大きさを20とし、y軸方向の大きさを15とした場合を例にして示す。すなわち、(X,Y)=(0,0),(20,0),(0,15),(20,15)の4点を四隅とする座標により撮像画像400に含まれる各顔を特定する場合を例にして示す。
最初に、撮像画像400から複数の顔(サッカー選手401乃至405の各顔)が検出され、これらの各顔が特定人物情報記憶部230に特定人物情報が記憶されている顔であるため、これらの各顔の中から基準顔が決定される。例えば、撮像画像400におけるx軸方向の中心位置に最も近い顔を決定する。図10(a)に示す例では、サッカー選手401の顔の中心位置を座標(3,6)とし、サッカー選手402の顔の中心位置を座標(7,10)とし、サッカー選手403の顔の中心位置を座標(10,12)とする。また、サッカー選手404の顔の中心位置を座標(15,8)とし、サッカー選手405の顔の中心位置を座標(18,5)とする。この場合には、サッカー選手403の顔の中心位置の座標(10,12)が、撮像画像400におけるx軸方向の中心位置に最も近い顔である。そこで、サッカー選手403の顔が基準顔として決定される。なお、既に基準顔が決定されている場合には、このような決定処理を行わない。また、基準顔に関する顔情報は、図6に示す選択操作支援画像保持部250の選択操作支援画像識別番号251「#11」に関連付けて記憶される。
続いて、基準顔と、他の顔との撮像画像400におけるx軸方向の位置関係に基づいて選択操作内容が決定される。例えば、基準顔(サッカー選手403の顔)の座標(10,12)のx座標を基準とする。この場合に、基準顔の右側方向(x座標の増加方向)において、基準顔からのx座標における距離が最も近い顔には、リング型操作部材143をCW方向に小さく回転させる選択操作内容が決定される。例えば、図10(b)に示すように、基準顔の右側方向において、基準顔からのx座標における距離は、サッカー選手404の顔の距離K3が最も近い。このため、サッカー選手404の顔には、リング型操作部材143をCW方向に小さく回転させる選択操作内容が決定される。すなわち、サッカー選手404の顔には選択操作支援画像258を付すことが決定される。
また、基準顔の右側方向において、基準顔からのx座標における距離が2番目に近い顔には、リング型操作部材143をCW方向に大きく回転させる選択操作内容が決定される。例えば、図10(b)に示すように、基準顔の右側方向において、基準顔からのx座標における距離は、サッカー選手405の顔の距離K4が2番目に近い。このため、サッカー選手405の顔には、リング型操作部材143をCW方向に大きく回転させる選択操作内容が決定される。すなわち、サッカー選手405の顔には選択操作支援画像259を付すことが決定される。
また、基準顔の左側方向(x座標の減少方向)において、基準顔からのx座標における距離が最も近い顔には、リング型操作部材143をCCW方向に小さく回転させる選択操作内容が決定される。例えば、図10(b)に示すように、基準顔の左側方向において、基準顔からのx座標における距離は、サッカー選手402の顔の距離K1が最も近い。このため、サッカー選手402の顔には、リング型操作部材143をCCW方向に小さく回転させる選択操作内容が決定される。すなわち、サッカー選手402の顔には選択操作支援画像256を付すことが決定される。
また、基準顔の左側方向において、基準顔からのx座標における距離が2番目に近い顔には、リング型操作部材143をCCW方向に大きく回転させる選択操作内容が決定される。例えば、図10(b)に示すように、基準顔の左側方向において、基準顔からのx座標における距離は、サッカー選手401の顔の距離K2が2番目に近い。このため、サッカー選手401の顔には、リング型操作部材143をCCW方向に大きく回転させる選択操作内容が決定される。すなわち、サッカー選手401の顔には選択操作支援画像257を付すことが決定される。
このように選択操作内容決定部240により決定された選択操作内容は、選択操作支援画像保持部250に保持される。すなわち、決定された選択操作内容に応じて、各顔に関する顔情報が顔情報253に保持され、各顔に関する顔識別情報が特定人物番号254に保持される。また、選択操作内容決定部240により決定処理が行われる毎に、選択操作支援画像保持部250に保持されている内容が順次更新される。これにより、選択操作支援画像255乃至259の配置が決定される。
図11は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図11(a)には、図9に示す撮像画像400に、図10で示した決定方法により決定された選択操作支援画像255乃至259が重畳された撮像画像420を示す。また、図11(b)には、撮像画像420に含まれる各顔と、撮像画像420に重畳される選択操作支援画像255乃至259との関係を模式的に示す。図11(b)に示す例では、撮像画像420に含まれる各顔を含む画像421乃至425の下側に、これらの各顔に付される選択操作支援画像255乃至259を並べて示す。また、この例では、図11(b)に示すように、円環(サイクル)状に選択操作支援画像255乃至259を決定する例について説明する。
例えば、図3に示すように、撮影者150が撮像装置100を両手で持って撮影をしている場合には、ファインダ135に順次表示される撮像画像を見ながらシャッターチャンスを待つことが多い。このファインダ135には、例えば、図11(a)に示すように、選択操作支援画像255乃至259が重畳された撮像画像420が表示される。この撮像画像420が表示されている場合において、撮像画像420に含まれる複数の顔の中から所望の顔を撮影者150が選択する場合には、各顔に付された選択操作支援画像255乃至259を見て、その選択操作内容に従って選択操作を行うことができる。すなわち、所望の顔に付された選択操作支援画像を見て、その選択操作内容に従ったリング型操作部材143の一度の回転操作により選択操作を行うことができるため、選択操作が容易である。このため、撮影者150は撮影姿勢を崩すことなく、容易に所望の顔を選択することができる。
例えば、サッカー選手403がサッカー選手405にボール406をパスした場合を想定する。この場合には、ボール406をパスされたサッカー選手405が綺麗になるように撮影を行いたい場合が多い。そこで、このような場合には、サッカー選手405の顔に付された選択操作支援画像429の選択操作内容に従って、撮影者150が選択操作を行うことにより、サッカー選手405の顔を基準顔として選択することができる。この選択方法については、図12を参照して詳細に示す。
図12は、本発明の第1の実施の形態における表示部261に表示される撮像画像の表示例と、リング型操作部材143との関係を示す図である。図12(a)には、サッカー選手403がサッカー選手405にボール406をパスした場合における撮像画像430を示す。なお、図12(a)では、ボール406の軌跡を破線で模式的に示す。図12(b)には、撮像装置100の背面側の外観を示す。なお、図12(b)に示す撮像装置100は、図7(a)に示す撮像装置100と同様であるため、ここでの説明を省略する。
ここで、表示部261に撮像画像430が表示されている場合において、基準顔をサッカー選手403の顔からサッカー選手405の顔に変更する場合について説明する。撮像装置100を用いて撮影を行っている場合には、例えば、撮影者が液晶モニタ130またはファインダ135により撮像画像430を見ている。このため、撮影者は、基準顔とすべきサッカー選手405の顔に付されている選択操作支援画像429の選択操作内容を見て、リング型操作部材143を回転操作することができる。例えば、図3に示すように、撮影者150がリング型操作部材143を左手152で握っている状態で、選択操作支援画像429の選択操作内容に従って、リング型操作部材143を矢印431の方向に大きく回転させる。このように、リング型操作部材143を矢印431の方向に大きく回転させることにより、基準位置170が、図7(b)に示す操作領域175の範囲内となるように回転させることができる。そして、この回転に応じた操作方向および操作量が、選択操作受付部300から基準対象物選択部280に出力される。この操作方向および操作量を受けた基準対象物選択部280は、選択操作支援画像保持部250の保持内容に基づいて、この操作方向および操作量に応じた顔を選択する。すなわち、選択操作支援画像259が付されたサッカー選手405の顔が基準顔として選択される。そして、新たに選択された基準顔に関する選択情報(例えば、サッカー選手405の顔に関連付けられている選択操作支援画像識別番号251「#15」)が選択操作内容決定部240に出力される。このように、例えば、図12(b)に示すように、リング型操作部材143を矢印431の方向に大きく回転させた場合には、サッカー選手405の顔が基準顔として選択され、この基準顔に基づいて他の顔を選択するための選択操作内容が決定される。この例では、図11(b)に示すように、1つの円環426に従って、新たに選択された基準顔に対応する他の顔の選択操作内容を決定する例を示す。また、この例では、説明の容易のため、撮像画像におけるサッカー選手401乃至405の位置が変更してない場合を例にして説明する。
図13は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図13(a)には、図12(a)に示す撮像画像430に、リング型操作部材143の回転操作により新たに決定された選択操作支援画像255乃至259が重畳された撮像画像440を示す。また、図13(b)には、撮像画像440に含まれる各顔と、撮像画像440に重畳される選択操作支援画像255乃至259との関係を模式的に示す。
例えば、図12(b)に示すようにリング型操作部材143の回転操作が行われた場合には、選択操作内容決定部240が、新たに基準顔として選択された顔情報の更新を行う。すなわち、新たに基準顔として選択されたサッカー選手405の顔に関する顔情報が、図6に示す選択操作支援画像保持部250の選択操作支援画像識別番号251「#11」に関連付けて記憶される。
続いて、選択操作内容決定部240が、基準顔と、他の顔との撮像画像430におけるx軸方向の位置関係に基づいて選択操作内容を決定する。例えば、基準顔(サッカー選手405の顔)の座標(18,5)のx座標を基準とする。この場合に、基準顔の右側方向においては、他の顔が存在しない。そこで、例えば、図11(b)の円環426に示すように、各顔が繋がっているものと想定する。そして、基準顔の左側方向において、基準顔からのx座標における距離が最も遠い顔に、リング型操作部材143をCW方向に小さく回転させる選択操作内容が決定される。例えば、図12(a)に示すように、基準顔の左側方向において、基準顔(サッカー選手405の顔)からのx座標における距離は、サッカー選手401の顔が最も遠い。このため、サッカー選手401の顔には、リング型操作部材143をCW方向に小さく回転させる選択操作内容が決定される。すなわち、サッカー選手401の顔には選択操作支援画像258を付すことが決定される。
また、基準顔の左側方向において、基準顔からのx座標における距離が2番目に遠い顔には、リング型操作部材143をCW方向に大きく回転させる選択操作内容が決定される。例えば、図12(a)に示すように、基準顔の左側方向において、基準顔(サッカー選手405の顔)からのx座標における距離は、サッカー選手402の顔が2番目に遠い。このため、サッカー選手402の顔には、リング型操作部材143をCW方向に大きく回転させる選択操作内容が決定される。すなわち、サッカー選手402の顔には選択操作支援画像259を付すことが決定される。
また、基準顔の左側方向において、基準顔からのx座標における距離が最も近い顔には、リング型操作部材143をCCW方向に小さく回転させる選択操作内容が決定される。例えば、図12(a)に示すように、基準顔の左側方向において、基準顔(サッカー選手405の顔)からのx座標における距離は、サッカー選手404の顔が最も近い。このため、サッカー選手404の顔には、リング型操作部材143をCCW方向に小さく回転させる選択操作内容が決定される。すなわち、サッカー選手404の顔には選択操作支援画像256を付すことが決定される。
また、基準顔の左側方向において、基準顔からのx座標における距離が2番目に近い顔には、リング型操作部材143をCCW方向に大きく回転させる選択操作内容が決定される。例えば、図12(a)に示すように、基準顔の左側方向において、基準顔(サッカー選手405の顔)からのx座標における距離は、サッカー選手403の顔が2番目に近い。このため、サッカー選手403の顔には、リング型操作部材143をCCW方向に大きく回転させる選択操作内容が決定される。すなわち、サッカー選手403の顔には選択操作支援画像257を付すことが決定される。
このように選択操作内容決定部240により選択操作内容が決定されると、選択操作支援画像保持部250に保持されている内容が更新される。また、更新された選択操作支援画像保持部250の内容に基づいて、図13(a)に示すように、選択操作支援画像255乃至259が重畳された撮像画像440が表示される。このように、リング型操作部材143の回転操作が行われた後の選択操作支援画像255乃至259は、例えば、円環426に従って、図11(b)に示す矢印427または428方向に選択操作支援画像255乃至259を移動させて決定することができる。例えば、図13(a)に示す撮像画像440は、図11(b)に示す矢印427方向に選択操作支援画像255乃至259を移動させて決定した例である。また、リング型操作部材143の回転操作を行うことにより、サッカー選手401、402、404の顔を基準顔として決定する場合についても、同様に、選択操作支援画像255乃至259を移動させて決定することができる。これらの表示例については、図14乃至図16に示す。
図14乃至図16は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図14(a)には、図11(a)に示す撮像画像420が表示されている状態で、リング型操作部材143の回転操作によりサッカー選手404が基準顔として選択された後に表示される撮像画像451を示す。図15(a)には、図11(a)に示す撮像画像420が表示されている状態で、リング型操作部材143の回転操作によりサッカー選手402が基準顔として選択された後に表示される撮像画像452を示す。図16(a)には、図11(a)に示す撮像画像420が表示されている状態で、リング型操作部材143の回転操作によりサッカー選手401が基準顔として選択された後に表示される撮像画像453を示す。なお、図14(a)乃至図16(a)では、ボール406の軌跡を破線で模式的に示す。また、図14(b)乃至図16(b)には、撮像画像451乃至453に含まれる各顔と、撮像画像451乃至453に重畳される選択操作支援画像255乃至259との関係を模式的に示す。
[選択操作支援画像の表示制御の変形例]
図11乃至図16に示す例では、基準顔が変更される毎に、円環426に従って選択操作支援画像255乃至259を決定する例を示した。このように、円環426に従って選択操作支援画像を決定する場合には、撮影者の左右方向と、選択操作支援画像により表される操作方向とが異なるように、選択操作支援画像が配置されることがある。例えば、図13に示す撮像画像440では、基準顔(サッカー選手405の顔)の左側方向において、リング型操作部材143をCCW方向に回転させる選択操作内容を表す選択操作支援画像257および256が配置されている。しかしながら、選択操作支援画像257および256の左側方向においては、リング型操作部材143をCW方向に回転させる選択操作内容を表す選択操作支援画像258および259が配置されている。このように、撮影者の左右方向と、選択操作支援画像により表される操作方向とが異なる場合には、その選択操作内容を容易に認識することができないと感じる撮影者も想定される。そこで、例えば、基準顔には選択操作支援画像255を付すとともに、基準顔以外の顔については、x座標の値の小さい顔から順番に、選択操作支援画像256乃至259を配置して付すようにしてもよい。具体的には、基準顔以外の顔について、x座標の値の小さい顔から、選択操作支援画像257、256、258、259の順番で割り振るようにする。これらの表示例については、図17乃至図20に示す。
図17乃至図20は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図17乃至図20に示す例は、基準顔以外の顔について、x座標の値の小さい顔から、選択操作支援画像257、256、258、259の順番で割り振る表示例である。なお、図17(a)に示す表示例は、図13(a)に示す撮像画像440の変形例であり、図18(a)に示す表示例は、図14(a)に示す撮像画像451の変形例である。また、図19(a)に示す表示例は、図15(a)に示す撮像画像452の変形例であり、図20(a)に示す表示例は、図16(a)に示す撮像画像453の変形例である。また、図17(b)乃至図20(b)には、撮像画像461乃至464に含まれる各顔と、撮像画像461乃至464に重畳される選択操作支援画像255乃至259との関係を模式的に示す。
また、例えば、図11乃至図16に示す表示例において、基準顔以外の顔に付される選択操作支援画像のうち、撮影者の左右方向と異なる操作方向となる選択操作支援画像については、表示しないようにしてもよい。これらの表示例については、図21乃至図24に示す。
図21乃至図24は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図21乃至図24に示す例は、撮影者の左右方向と異なる操作方向となる選択操作支援画像については表示しない例である。なお、図21(a)に示す表示例は、図13(a)に示す撮像画像440の変形例であり、図22(a)に示す表示例は、図14(a)に示す撮像画像451の変形例である。また、図23(a)に示す表示例は、図15(a)に示す撮像画像452の変形例であり、図24(a)に示す表示例は、図16(a)に示す撮像画像453の変形例である。また、図21(b)乃至図24(b)には、撮像画像465乃至468に含まれる各顔と、撮像画像465乃至468に重畳される選択操作支援画像255乃至259との関係を模式的に示す。
これらの選択操作支援画像の配置については、例えば、ユーザの手動操作により変更可能とするようにしてもよい。このように、ユーザの好みに応じて選択操作支援画像の配置を変更して表示させることにより、撮像画像に含まれる複数の対象物のうちから、所望の対象物をさらに容易に迅速に選択することができる。
以上では、撮像画像に含まれる複数の顔の位置がx軸方向においてそれぞれ異なる場合について説明した。しかしながら、例えば、撮像画像に含まれる複数の顔の位置がx軸方向において同一となる場合も想定される。このように、x軸方向における位置が同一となる顔については、例えば、y座標の値を用いて選択操作支援画像の配置を決定することができる。例えば、図11(a)に示す円環426に従って、選択操作支援画像の配置を決定する場合において、x軸方向における位置が同一となる2つの顔について、y座標の値が大きい顔については円環426の左側の選択操作支援画像を配置すると決定する。一方、y座標の値が小さい顔については円環426の右側の選択操作支援画像を配置すると決定することができる。また、例えば、基準顔からのy座標の差分値に基づいて選択操作支援画像の配置を決定するようにしてもよい。また、x座標の値の小さい顔から、所定の順番で選択操作支援画像を割り振る場合においても、x軸方向における位置が同一となる顔については、y座標の値を用いて選択操作支援画像を割り振ることができる。
また、例えば、撮像画像に含まれる複数の顔のx軸方向における位置と、y軸方向における位置とが略同一となる場合も想定される。このように、x軸方向およびy軸方向における位置が略同一となる顔については、撮像画像上において、ほぼ重なっている状態であると考えられる。このため、x軸方向およびy軸方向における位置が同一となる複数の顔のうち、少なくとも1つの顔が撮像装置100側に表示され、何れかの顔が後ろに隠れる状態になっていると考えられる。このような場合には、顔検出部210が顔検出処理を行う際に算出される評価値を用いて、選択操作支援画像の配置を決定することができる。例えば、図11(a)に示す円環426に従って、選択操作支援画像の配置を決定する場合には、評価値が高い顔については円環426の左側の選択操作支援画像の配置を決定することができる。また、例えば、特定人物情報記憶部230に記憶されている特定人物情報に予め優先順位を設定しておき、x軸方向およびy軸方向における位置が同一となる複数の顔が登録顔である場合には、その優先順位に基づいて選択操作支援画像の配置を決定することができる。
また、図11乃至図24に示す例では、各選択操作支援画像をサッカー選手の顔の位置に重畳して表示する例を示したが、例えば、各顔の背景によっては、各選択操作支援画像が見難くなってしまうおそれがある。そこで、例えば、選択操作支援画像を付す対象となる対象物の背景に応じて、選択操作支援画像の表示形態を変更するようにしてもよい。例えば、選択操作支援画像を付す対象となる対象物の背景に応じて、選択操作支援画像の輝度を高くしたり、点滅させたり、エッジ強調を使用したりすることにより、選択操作支援画像自体を見易くすることができる。また、例えば、選択操作支援画像を付す対象となる対象物の背景に、半透明のグレー画像を重畳させ、この上から選択操作支援画像を重畳させることにより、選択操作支援画像自体を見易くすることができる。
[選択操作補助画像の表示制御例]
図11乃至図24に示す例では、撮像画像に含まれるサッカー選手の顔の位置に各選択操作支援画像を重畳して表示する例を示した。しかしながら、例えば、各選択操作支援画像については、撮像画像に重畳するとともに、他の表示領域において各顔に関連付けて表示するようにしてもよい。以下では、撮像画像の表示領域以外の表示領域に選択操作支援画像を表示する例について図面を参照して詳細に示す。
図25乃至図29は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像の表示例を示す図である。図25乃至図29に示す例は、各選択操作支援画像を、撮像画像に重畳するとともに、他の表示領域において各顔に関連付けて表示する表示例である。なお、図25(b)に示す撮像画像420は、図11(a)に示す撮像画像420と同一である。
図25(a)に示す画像500は、図25(b)に示す撮像画像420が表示されている状態で、撮像画像420の表示領域以外の表示領域に表示される画像である。例えば、カラー液晶表示部131またはファインダ135における表示領域において、撮像画像420を表示する撮像画像表示領域と、画像500を表示する選択操作補助画像表示領域とを設けことができる。また、カラー液晶表示部131およびファインダ135以外の他の表示部を撮像装置100に設け、この表示部において、画像500を表示するようにしてもよい。このように、図25乃至図29に示す例では、撮像画像および選択操作補助画像を同時に表示する例を示す。
図25(a)に示す画像500は、撮像画像420に含まれる所望の顔を選択するための選択操作を支援するための選択操作補助画像であり、例えば、撮像画像420に含まれる各人物に関する選択操作補助画像501乃至505により構成される。
選択操作補助画像501乃至505は、例えば、特定人物情報記憶部230に記憶されている特定人物情報と、選択操作支援画像506乃至510とが関連付けられている画像である。例えば、特定人物情報として、特定人物情報記憶部230に記憶されている登録名称232および登録顔画像234が表示される。この特定人物情報は、例えば、選択操作支援画像保持部250に保持されている特定人物番号254に基づいて、表示制御部260が、特定人物情報記憶部230から取得して表示させる。また、選択操作支援画像506乃至510は、選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像の一例である。すなわち、選択操作支援画像506乃至510は、同時に表示される撮像画像420に含まれるサッカー選手401乃至405の各顔に付されている選択操作支援画像255乃至259に対応するものである。また、選択操作補助画像501乃至505は、同時に表示される撮像画像420におけるx軸方向の位置に基づいて配置される。すなわち、図25(a)および(b)に示すように、サッカー選手401乃至405のx軸方向における位置が対応している。なお、図25乃至図29に示す例では、撮像画像に重畳される選択操作支援画像と、選択操作補助画像に含まれる選択操作支援画像とを異なる形態として示すが、これらを同一の形態として表示するようにしてもよい。
ここで、図25(b)では、図11乃至図24に示す例と同様に、撮像画像に選択操作支援画像255乃至259を重畳した例を示した。ただし、例えば、撮像画像に含まれる各顔に顔マークを付し、これらの顔マークの色と、これに対応する選択操作補助画像の枠の色とを同一とすることにより、各顔と選択操作支援画像とを関連付けるようにしてもよい。例えば、図26に示すように、撮像画像520に含まれる各顔に顔マーク521乃至525を付し、これらの顔マーク521乃至525の色と、これに対応する選択操作補助画像531乃至535の枠の色とを同一とすることができる。なお、図26では、これらの同一の色を付す部分を太線で示す。また、選択操作補助画像531乃至535の太線および顔マーク以外については、図25に示す例と同様である。
ここで、例えば、撮像装置100を用いて撮影を行っている場合には、撮像画像に含まれる各人物が頻繁に動いて位置関係が頻繁に変更される可能性がある。また、撮像画像(画枠)に新たな人物が進入したり、現在表示されている人物が撮像画像の範囲外へ移動したりすること等も想定される。このような場合には、選択操作補助画像の配置に変更が発生することになるため、撮影者が選択操作補助画像を見易くすることが重要となる。
そこで、図25(a)および図26(a)に示すように、同時に表示される撮像画像におけるx軸方向の位置に基づいた選択操作補助画像の配置以外に、例えば、規定時間以上位置が不変だった場合にのみ選択操作補助画像の配置を変更するようにしてもよい。また、選択操作補助画像の配置の変更をさらに少なくしたい場合には、例えば、顔識別部220により識別された順番に選択操作補助画像の配置を決定し、この配置を変更しないようにしてもよい。この場合に、例えば、既に配置された選択操作補助画像に対応する人物が撮像画像の範囲外へ移動した場合やその人物を顔識別部220が識別できなくなることが想定される。この場合には、選択操作補助画像の枠内には特定人物情報を表示させずに空き状態とし、他の選択操作補助画像については配置状態も変更しないようにすることができる。このように、空き状態となった選択操作補助画像については、撮像画像(画枠)に新たな人物が進入した場合や、新たな人物が顔識別部220により識別された場合に、その新たな人物に関する選択操作補助画像として割り当てるようにしてもよい。これにより、選択操作補助画像の配置に変更が発生することを防止することができ、選択操作補助画像を見易くすることができる。また、特定人物情報記憶部230に記憶されている特定人物情報に、予め優先度を設定しておき、この優先度の順番に選択操作補助画像を配置するようにしてもよい。
図27(a)には、選択操作補助画像の配置の変更を少なくした場合における表示例を示す。図27(a)に示す表示例は、例えば、顔識別部220により識別された順番に選択操作補助画像の配置を決定した場合を示すものとする。例えば、サッカー選手405と、選択操作補助画像541とが対応するものとする。なお、この場合には、図27(a)および(b)に示すように、撮像画像550に含まれる各顔のx軸方向における位置と、選択操作補助画像541乃至545の配置とが同一とならない場合が生じる。このため、これらの選択操作補助画像の配置については、撮影者の好みに応じて手動操作により変更可能とするようにしてもよい。
図28(a)には、図27に示す表示状態から、撮像画像に含まれる人物が移動して、識別できなくなった人物が生じた場合における表示例を示す。例えば、サッカー選手405が移動して撮像装置100からの距離が遠くなったような場合には、図28(b)に示すように、撮像画像570に含まれるサッカー選手405のサイズが小さくなる。このように撮像画像における顔のサイズが小さい場合や焦点が合っていない場合には、顔識別部220により識別できない場合も想定される。このような場合にでも、既に特定人物であると識別されているような場合には、例えば、追尾処理により各人物の顔を追尾して同一人物であることが推定し続けられる間は、その特定人物に関する選択操作補助画像を表示し続けることができる。ただし、例えば、顔識別部220により識別できなくなった後には、同一人物であることが推定し続けられる場合でも、その特定人物に関する選択操作補助画像の名称および登録顔画像については消去するようにしてもよい。図28(a)に示す例では、撮像画像570に含まれるサッカー選手405に関する選択操作補助画像561を表示し続けるが、その枠内の名称および登録顔画像については消去する例を示す。なお、顔識別部220により識別できなくなった後に、再度、顔識別部220により識別することができるようになった場合には、その特定人物に関する選択操作補助画像の名称および登録顔画像を追加表示することができる。また、例えば、図28(b)に示すサッカー選手405のように、撮像画像570におけるサイズが小さい場合には、撮影者に見易くするため、選択操作支援画像257をその顔に応じて小さくせずに、比較的大きいサイズとするようにしてもよい。また、同様に、例えば、撮像画像における顔のサイズが小さい場合等において、既に特定人物であると識別されているような場合には、同一人物であることが推定し続けられる間は、その特定人物に選択操作支援画像を重畳して表示し続けるようにしてもよい。
以上では、特定人物情報記憶部230に記憶されている特定人物情報(登録名称232および登録顔画像234)を用いて選択操作補助画像を表示する例を示した。しかしながら、例えば、撮像画像に含まれる顔を含む顔画像を撮像装置から取り出し、この取り出された顔画像を用いるようにしてもよい。
図29(a)には、撮像画像590から取り出された顔画像を用いて選択操作補助画像581乃至585を表示する例を示す。図29(a)および(b)では、撮像画像590における取出し元の位置(破線の矩形)と、選択操作補助画像581乃至585に含まれる顔画像との関係を破線の矢印で結んで示す。ここで、例えば、サッカー選手405のように、撮像装置100からの距離が遠く、撮像画像590における顔のサイズが小さい場合には、その顔を含む顔画像を拡大処理して用いるようにすることができる。また、例えば、現在の基準顔と離れていて焦点があっていない顔(いわゆる、ぼやけている顔)については、シャープネス処理して用いるようにすることができる。
ここで、撮像画像から取り出された顔画像を用いて選択操作補助画像を表示する場合には、例えば、順次生成される撮像画像毎に順次顔画像を取り出して選択操作補助画像を表示することができる。ただし、選択操作補助画像に比較的綺麗な顔画像を表示するため、例えば、顔識別部220が顔識別処理を行う際に算出される評価値を用いて、この評価値が閾値を超えた場合に、その顔画像を取り出して用いるようにしてもよい。また、現在表示されている顔画像の評価値よりも高い値の評価値が算出されたことを条件に、その評価値に対応する顔画像を新たに表示するようにしてもよい。また、顔識別部220により算出される評価値の代わりに、顔検出部210が顔検出処理を行う際に算出される評価値を用いるようにしてもよい。このように選択操作補助画像を表示することにより、例えば、正面向きを向いていた特定人物が後ろを向いてしまった場合でも、正面向きの顔画像を表示させておくことができる。
[選択操作支援画像の表示制御の変形例]
以上では、撮像装置100の上下方向と、撮影者の上下方向とが同一の場合における撮影時(撮像範囲が横長となる撮影時)の表示例を示した。しかしながら、例えば、図30(a)に示すように、光軸方向に対して90度回転させた状態で撮像装置100による撮影が行われることもある。そこで、以下では、このような撮影姿勢による撮影時の表示例を示す。
図30は、本発明の第1の実施の形態における撮像装置100を用いて撮影を行う場合における撮影者の撮影姿勢の一例と、その撮影時(撮像範囲が縦長となる撮影時)における選択操作支援画像の表示例を示す図である。図30(a)には、光軸方向に対して90度回転させた状態で撮像装置100を両手で構えた撮影者150を撮像装置100の側面側から示す。図30(b)には、図30(a)に示す撮影姿勢で撮影が行われた場合における撮像画像の表示例を示す。
図30(a)に示す撮影姿勢で撮影が行われた場合には、図30(b)に示すように、撮影者は、縦長の撮像画像600を見ることになる。この撮像画像600は、撮像装置100の回転と同様に、光軸方向に対して90度回転された状態となる。そこで、このような場合には、撮影者の上下方向に合わせて、CW方向に90度回転させた選択操作支援画像255乃至259を各顔に重畳して表示させることができる。例えば、表示制御部260は、姿勢検出部290により撮像装置100の回転角度が検出されると、この検出された回転角度に応じて、選択操作支援画像255乃至259を回転させて表示させる。これにより、撮影者がどのような撮影姿勢であっても、撮像画像に重畳して表示される選択操作支援画像の上下方向の関係が同一となるように表示されるため、撮影者が見易くなる。なお、これらの選択操作支援画像の回転表示については、撮影者の手動操作により変更可能とするようにしてもよい。
また、以上では、主にx軸方向における対象物の位置関係に基づいて選択操作支援画像の配置を決定する例を示した。しかしながら、例えば、カーレース等の競走を正面から撮影するような場合には、撮像範囲が横長となる撮影時でも、対象物(例えば、車)の並びが主に縦方向になることが想定される。このような撮影時には、主にy軸方向における対象物の位置関係に基づいて選択操作支援画像の配置を決定するようにしてもよい。この場合には、例えば、図31および図32に示すように、選択操作支援画像の配置の決定方法に応じて、選択操作支援画像の表示形態を変更するようにしてもよい。
図31および図32は、本発明の第1の実施の形態における選択操作内容決定部240により決定された選択操作内容を表す選択操作支援画像の表示例を示す図である。図31には、各選択操作支援画像の表示形態を変更して撮像画像601に重畳する表示例を示す。また、図32には、各選択操作支援画像の表示形態を変更して撮像画像602に重畳するとともに、他の表示領域において選択操作補助画像の表示形態を変更して表示する表示例を示す。図31および図32(b)に示すように、例えば、主にy軸方向における対象物の位置関係に基づいて選択操作支援画像の配置を決定した場合には、CCW方向に90度回転させた選択操作支援画像255乃至259を各顔に重畳して表示させることができる。また、選択操作補助画像を表示させる場合には、図32(a)に示すように、例えば、選択操作補助画像を上下方向に並べて表示させることができる。この場合に、選択操作補助画像に含まれる選択操作支援画像の矢印方向についても変更することができる。このように、選択操作支援画像の配置の決定方法に応じて、選択操作支援画像または選択操作補助画像の表示形態を変更することにより、何れの基準によって選択操作支援画像の配置が決定されているのかを撮影者が容易に把握することができる。
[撮像装置の動作例]
次に、本発明の第1の実施の形態における撮像装置100の動作について図面を参照して説明する。
図33は、本発明の実施の形態における撮像装置100による撮像画像記録処理の処理手順を示すフローチャートである。この例では、撮像画像記録待機状態(例えば、モニタリングモード設定時)である場合に、撮像画像を生成し、この撮像画像に選択操作支援画像を重畳して表示させる表示制御処理を行う例について説明する。
最初に、撮像画像記録待機状態であるか否かが判断される(ステップS901)。撮像画像記録待機状態である場合には(ステップS901)、撮像部200が撮像画像を生成し(ステップS902)、生成された撮像画像について顔検出部210が顔検出処理を行う(ステップS903)。なお、この顔検出処理は各フレームに対して行うようにしてもよく、一定間隔毎のフレームに対して行うようにしてもよい。また、ステップS903は、特許請求の範囲に記載の対象物検出手順の一例である。一方、撮像画像記録待機状態でない場合には(ステップS901)、撮像画像記録処理の動作を終了する。
続いて、撮像画像から顔が検出されたか否かが判断される(ステップS904)。撮像画像から顔が検出されている場合には(ステップS904)、検出された顔について顔識別部220が顔識別処理を行う(ステップS905)。続いて、選択操作内容決定部240が、選択操作支援画像保持部250の保持内容に基づいて、基準顔が存在するか否かを判断する(ステップS906)。基準顔が存在しない場合には(ステップS906)、選択操作内容決定部240が、予め設定されている条件(一定条件)に基づいて、顔検出部210により検出された顔の中から、基準顔を選択する(ステップS907)。
基準顔が存在する場合には(ステップS906)、リング型操作部材143により他の顔の選択操作が行われた否かが判断される(ステップS908)。リング型操作部材143により他の顔の選択操作が行われた場合には(ステップS908)、基準対象物選択部280が、選択操作支援画像保持部250の保持内容に基づいて、その選択操作に対応する基準顔を選択する(ステップS909)。一方、他の顔の選択操作が行われていない場合には(ステップS908)、選択操作内容決定部240が、選択操作支援画像保持部250に保持されている基準顔について追尾処理を行う(ステップS910)。続いて、選択操作内容決定部240が、基準顔に基づいて他の顔の選択操作内容を決定し、この決定された選択操作内容に基づいて選択操作支援画像保持部250の保持内容の更新を行う(ステップS911)。なお、ステップS911は、特許請求の範囲に記載の選択操作内容決定手順の一例である。
続いて、表示制御部260が、選択操作支援画像保持部250の保持内容に基づいて、選択操作支援画像を撮像画像に重畳して表示部261に表示させる(ステップS912)。すなわち、選択操作内容決定部240により新たに決定された選択操作内容に対応する各選択操作支援画像が撮像画像に重畳されて表示される。なお、ステップS912は、特許請求の範囲に記載の表示制御手順の一例である。続いて、撮像制御部201が、選択操作支援画像保持部250に保持されている基準顔の内容に基づいて、カメラパラメータを決定する(ステップS913)。例えば、撮像制御部201が、基準顔の撮像画像における位置および大きさに基づいて、基準顔に最適なカメラパラメータを決定する。
また、撮像画像から顔が検出されていない場合には(ステップS904)、表示制御部260が、撮像部200により生成された撮像画像を表示部261に表示させる(ステップS914)。続いて、撮像制御部201が、予め設定されている条件に基づいてカメラパラメータを決定する(ステップS915)。
続いて、シャッターボタン141が押下されたか否かが判断され(ステップS916)、シャッターボタン141が押下された場合には、記録制御部270が、生成された撮像画像を記録部271に記録させる(ステップS917)。一方、シャッターボタンが押下されない場合には(ステップS916)、撮像画像記録処理の動作を終了する。
このように、本発明の第1の実施の形態では、順次更新される選択操作支援画像保持部250の保持内容に基づいて、撮像画像に含まれる顔を基準顔として選択するための操作方向および操作範囲を表す選択操作支援画像が各顔の周りに重畳される。そして、撮影者は、選択したい顔に重畳された選択操作支援画像に従って、リング型操作部材143を一度操作するのみで、所望の顔を基準顔として選択することができる。これにより、撮影者は、選択操作内容を確認しながら素早く確実に目的の顔を基準顔として選択することができる。
また、本発明の第1の実施の形態では、リング型操作部材143の操作範囲として、左右方向のそれぞれに、比較的小さい操作量または比較的大きい操作量の何れかの操作領域を設定する。すなわち、左右方向のそれぞれに2段階の操作領域を設定する。このように、操作領域が限定されているため、撮影者が撮影に集中しているような場合でも、適切な操作を正確に行うことができる。これにより、決定的な瞬間の静止画撮影を成功させる確率を高めることができる。また、リング型操作部材143を回転操作するのみでよいため、選択操作による手振れを防止することができる。また、動いている被写体に対しても、選択操作を素早く確実に行うことができる。
[操作部材の変形例]
以上では、リング型操作部材143を用いて、選択操作支援画像に従って基準顔を選択する選択操作内容を示した。しかしながら、例えば、撮像装置に備えられている他の操作部材(例えば、操作方向および操作量を検出することが可能な操作部材)を用いて基準顔の選択操作を行うようにしてもよい。例えば、図2に示すダイヤル型操作部材144乃至146を用いて、選択操作支援画像に従って基準顔の選択操作を行うようにしてもよい。また、例えば、マニュアルアイリスリング等の操作部材を用いるようにしてもよい。また、回転操作を行う操作部材以外に、例えば、複数の操作量を検出可能な押下げボタンやシーソー型操作部材等を用いるようにしてもよい。なお、撮像装置に装着可能な外部操作部材からの操作入力を受け付け、この操作入力に基づいて基準顔の選択操作を行うようにしてもよい。また、エンドレス回転タイプではない操作部材(例えば、中点復帰(ゴーホーム)タイプのリング型操作部材)を用いるようにしてもよい。また、回転端や押し下げ端があるスイッチを使用する場合には、2種類の回転量(押し下げ量)による切り替えのみではなく、回転端や押し下げ端に達した場合の操作指示を追加するようにしてもよい。なお、分解能によって端の検出が不正確な場合には、端に達した場合にマイクロスイッチが押されるようにすることにより、端の検出精度を高めることができる。また、押し下げスイッチを操作部材として使用する場合等において、押し下げ量が少なく押し下げ量による切換が困難な場合には、単なる押し下げと端までの押し下げとを使用するようにしてもよい。また、操作部材としてスイッチを用いる場合には、例えば、一般的なカメラのシャッターボタンと同じ2段階の押し下げ式のボタンを用いることができる。このようなボタンでは、連続した押し下げ量を検出することはできないが、半押しと全押しの2種類の押し下げ状態の検出が可能であるため、操作部材として使用可能である。なお、図34および図35では、操作部材の例を示す。
図34および図35は、本発明の第1の実施の形態における基準対象物の選択操作を行う際に用いることが可能な操作部材を備える撮像装置の例を示す図である。図34(a)乃至(c)に示す撮像装置631乃至633は、例えば、デジタルビデオカメラであり、ダイヤル型634、リング型操作部材635乃至637が備えられている。撮像装置631乃至633により撮影を行う場合において、基準顔の選択操作を行う場合には、例えば、表示部638乃至640に表示される撮像画像を見ながら、選択操作支援画像に従ってダイヤル型634、リング型操作部材635乃至637の回転操作を行う。これにより、所望の顔を基準顔として選択することができる。
図35には、基準対象物の選択操作を行う際に用いることが可能なタッチパネル611を備える撮像装置610を示す。撮像装置610は、例えば、デジタルスチルカメラであり、タッチパネル611が備えられている。例えば、図35に示すように、左手613および右手614で撮像装置610を持った状態で、タッチパネル611に表示される撮像画像を見ながら、撮像装置610により撮影を行うことができる。図35では、タッチパネル611に表示される撮像画像には、サッカー選手401乃至405の各顔に選択操作支援画像621乃至625を付した場合を示す。選択操作支援画像621乃至625は、選択操作支援画像255乃至259の一部を変形したものであり、選択操作支援画像622乃至625における各矢印は操作量を示す。また、選択操作支援画像622および624における各矢印の終端には一重丸を付し、選択操作支援画像623および625における各矢印の終端には二重丸を付す。
例えば、図35に示すように、タッチパネル611に表示される撮像画像を見ながら、撮像装置610により撮影を行う場合において、基準顔の選択操作を行う場合には、タッチパネル611を指で触れておく。例えば、左手613の親指でタッチパネル611を触れておく。このようにタッチパネル611を指で触れると、タッチパネル611における左手613の親指の位置612を起点として選択操作画像615が表示される。この選択操作画像615は、タッチパネル611における位置612を起点として左右方向に指を滑らせることにより基準顔の選択操作を行うための画像であり、位置612を起点として左右方向に指を滑らせる方向および量を表す。また、選択操作画像615には、指を滑らせる量の目安となる一重丸および二重丸を付す。この一重丸および二重丸は、選択操作支援画像622乃至625における各矢印の終端に付されている一重丸および二重丸に対応するものである。例えば、サッカー選手401の顔を基準顔として選択する場合には、サッカー選手401の顔に付されている選択操作支援画像623の矢印方向および二重丸に従って、タッチパネル611における左手613の親指を左側方向に二重丸616の位置まで滑らせる。これにより、所望の顔を基準顔として容易に選択することができる。
[選択操作支援画像の変形例]
以上で示した選択操作支援画像以外に、例えば、選択操作内容を表すことが可能な他の画像を選択操作支援画像として用いることができる。この選択操作支援画像の例を図36および図37に示す。
図36および図37は、本発明の第1の実施の形態における基準対象物の選択操作を行うための選択操作内容を表す選択操作支援画像の例を示す図である。なお、図36(a)に示す選択操作支援画像は、図8等に示す選択操作支援画像255乃至259に対応する。
図36(b)に示す選択操作支援画像は、操作方向および操作量を表す選択操作支援画像である。すなわち、図36(a)に示す選択操作支援画像における矢印の長さは、操作範囲を表すものであるのに対し、図36(b)に示す選択操作支援画像における矢印の長さは、操作量(基準位置からの回転角度)を表す。
図36(c)に示す選択操作支援画像は、操作方向および操作量を表す選択操作支援画像の変形例であり、図36(b)に示す円形の選択操作支援画像を、矩形の選択操作支援画像としたものである。
図36(d)に示す選択操作支援画像は、操作方向および操作量を文字で表す選択操作支援画像である。図36(e)に示す選択操作補助画像は、操作方向および操作量を文字で表す選択操作支援画像を含むものである。図36(d)および(e)に示す例では、選択操作内容を日本語で表す例を示すが、英語等の外国語で表すようにしてもよく、日本語と外国語とが混在した文字を表すようにしてもよい。また、選択操作内容を、図36(a)乃至(c)等に示すマークと、文字とで同時に表すようにしてもよい。
また、以上では、左右方向において、それぞれ2つの操作範囲を表す選択操作支援画像について説明した。ここで、上述したように、例えば、複数の操作量を検出することが可能な押し下げボタンを選択操作部材として用いることができる。この押し下げボタンを用いて基準顔の選択操作を行う場合における選択操作支援画像の例を図37で示す。図37(a)には、押し下げボタンの操作方向および操作量を表す選択操作支援画像を示す。また、図37(b)には、押し下げボタンの操作方向および操作範囲を表す選択操作支援画像を示す。なお、図37では、付与の対象となる人物の顔に、選択操作支援画像を重畳させた例を示す。
これらの選択操作支援画像については、操作部材の種類やユーザの好みに応じて変更可能とすることができる。例えば、ユーザが設定した操作範囲に対応するように選択操作支援画像の矢印範囲を変更して表示するようにしてもよい。また、選択操作内容を表す他の選択操作支援画像を用いるようにしてもよい。
<2.第2の実施の形態>
[撮像装置の外観例]
以上では、1つの操作部材を用いて撮像画像に含まれる複数の対象物のうちから基準対象物を選択する例を示した。例えば、撮影時には、撮影に集中するため、細かい操作を行うことが困難であることも想定されるため、本発明の第1の実施の形態では、リング型操作部材143の操作範囲を左右方向において2領域に設定する例を示した。これにより、例えば、基準対象物以外の他の4つの対象物を選択することが可能となる。しかしながら、撮像画像に含まれる対象物の数が多く、選択操作の対象となる対象物を多くしたい場合も想定される。そこで、本発明の第2の実施の形態では、簡易的な操作を維持しつつ選択操作の対象となる対象物を多くする例について説明する。
図38は、本発明の第2の実施の形態における撮像装置700の外観を示す図である。図38(a)には、撮像装置700の正面側の斜視図を示す。図38(b)には、撮像装置700を用いて撮影を行う場合における撮影者の撮影姿勢の一例を示す。なお、撮像装置700の内部構成については、図1に示す撮像装置100と略同様であるため、ここでの説明を省略する。また、撮像装置700は、例えば、撮像された画像をリアルタイムで表示する機能を有するデジタルビデオカメラ(例えば、カメラ一体型レコーダ)等の撮像装置により実現される。撮像装置700は、レンズ鏡筒701と、リング型操作部材702と、補助操作部材703と、接眼ユニット704と、アイピース705とを備える。
レンズ鏡筒701は、撮像装置700本体の前部に装着され、光学系を収容するものである。
リング型操作部材702は、レンズ鏡筒701の外径部に設けられているリング型操作部材である。リング型操作部材702として、例えば、手動によりフォーカス合わせを行うためのマニュアルフォーカスリングを用いることができる。
補助操作部材703は、レンズ鏡筒701の外径部に設けられているボタン型操作部材であり、押し下げの有無を検出することができる。
接眼ユニット704は、拡大された撮像画像を撮影者に提供するためのユニットであり、アイピース705を備える。このアイピース705は、撮影時において、拡大された撮像画像を撮影者が視認する際に用いられる。
ここで、撮像装置700を用いて撮影を行う場合について説明する。図38(b)に示すように、撮像装置700を用いて撮影を行う場合には、撮影者155は、撮像装置700本体を右肩に乗せた状態で、両手によりレンズ鏡筒701の外径部を持つ。また、撮影者155は、右眼でアイピース705を覗くことにより、拡大された撮像画像を視認することができる。このような撮影姿勢では、例えば、左手によりリング型操作部材702を操作し、右手により補助操作部材703を操作することができる。すなわち、リング型操作部材702および補助操作部材703を同時に操作することができる。
[撮像装置の機能構成例]
図39は、本発明の第2の実施の形態における撮像装置700の機能構成例を示すブロック図である。ここで、撮像装置700は、図4に示す撮像装置100の変形例であるため、撮像装置100と共通する部分については、同一の符号を付してこれらの説明を省略し、撮像装置100と異なる部分を中心に説明する。撮像装置700は、選択操作内容決定部711と、基準対象物選択部712と、補助操作受付部713と、選択操作受付部714と、選択操作支援画像保持部720とを備える。
選択操作内容決定部711は、顔検出部210により検出された複数の顔から所望の顔を基準顔として選択するための選択操作内容を決定するものであり、この決定された選択操作内容に基づいて選択操作支援画像保持部720の保持内容を順次更新する。なお、選択操作内容決定部711は、選択操作内容の決定対象となる顔が増えた点以外は、選択操作内容決定部240と同様である。
選択操作支援画像保持部720は、選択操作内容決定部711により決定された選択操作内容を表す選択操作支援画像およびこれに関連付けられた顔情報等を保持するものであり、保持されている情報を各部に供給する。なお、選択操作支援画像保持部720の保持内容については、図40を参照して詳細に説明する。
基準対象物選択部712は、補助操作受付部713および選択操作受付部714により受け付けられた操作入力に応じて、選択操作支援画像保持部720に顔情報が保持されている複数の対象物のうちから、基準対象物を選択するものである。そして、基準対象物選択部712は、選択された基準対象物に関する選択情報を選択操作内容決定部711に出力する。この基準対象物の選択方法については、図41および図42を参照して詳細に説明する。
補助操作受付部713および選択操作受付部714は、表示部261に表示されている選択操作支援画像に応じて行われた操作内容を受け付けるものであり、受け付けられた操作内容を基準対象物選択部712に出力する。なお、補助操作受付部713は、例えば、図38に示す補助操作部材703に対応し、選択操作受付部714は、例えば、図38に示すリング型操作部材702に対応する。また、補助操作受付部713および選択操作受付部714は、特許請求の範囲に記載の操作受付部の一例である。
図40は、本発明の第2の実施の形態における選択操作支援画像保持部720に保持されている内容を概略的に示す図である。選択操作支援画像保持部720は、選択操作支援画像識別番号721と、選択操作支援画像722と、顔情報723と、特定人物番号724とが保持されている。なお、選択操作支援画像保持部720は、図6に示す選択操作支援画像保持部250の一部を変形したものであり、選択操作支援画像722に記憶される選択操作支援画像の種類が多くなった点以外は略同一である。そこで、以下では、図6に示す選択操作支援画像保持部250と異なる点を中心に説明し、共通する点についての説明を省略する。また、図40に示す例では、画像に含まれる複数の人物のうち、9人の顔に選択操作支援画像を付して表示する場合における選択操作支援画像保持部720について説明する。
選択操作支援画像722には、画像に含まれる複数の顔から所望の顔を選択するための選択操作内容を示す選択操作支援画像731乃至739のテンプレート画像が記憶される。図40に示す例では、画像に含まれる複数の顔に、9種類のリング型の選択操作支援画像731乃至739を付す場合を例にして示す。例えば、選択操作支援画像識別番号721「#11」には、ユーザ操作や予め設定されている条件等に基づいて決定された基準顔に付される選択操作支援画像731が記憶されている。また、選択操作支援画像識別番号251「#12」乃至「#15」には、基準顔以外の顔に付される選択操作支援画像732乃至735が記憶されている。これらの選択操作支援画像731乃至735は、図6に示す選択操作支援画像255乃至259に対応するものであり、リング型操作部材702を用いて選択操作を行うための選択操作内容を表す。また、選択操作支援画像識別番号251「#15」乃至「#19」には、基準顔以外の顔に付される選択操作支援画像736乃至739が記憶されている。これらの選択操作支援画像736乃至739は、リング型操作部材702および補助操作部材703を用いて選択操作を行うための選択操作内容を表す選択操作支援画像である。
このように、選択操作支援画像732乃至735と、選択操作支援画像736乃至739とは、選択操作を行う際に用いられる操作部材が異なるため、異なる表示形態として表示する。この例では、選択操作支援画像731乃至735には、基準位置を示す白丸を楕円上に付す。また、選択操作支援画像736乃至739には、基準位置を示す黒丸を楕円上に付す。このように、選択操作を行う際に用いられる操作部材が異なる選択操作支援画像同士を容易に識別することができるように、それぞれの表示形態を変更して表示する。なお、選択操作支援画像の表示例および選択方法については、図41および図42を参照して詳細に説明する。
[選択操作支援画像の表示制御例]
図41は、本発明の第2の実施の形態における選択操作内容決定部711により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図41に示す撮像画像750は、選択操作内容決定部711により決定された選択操作支援画像731乃至739が、サッカー選手751乃至759の各顔に重畳された撮像画像である。ここで、選択操作支援画像731乃至735については、例えば、本発明の第1の実施の形態と同様に配置を決定することができる。また、選択操作支援画像736乃至739については、選択操作支援画像731が付される顔の位置を基準として、選択操作支援画像731乃至735が付された顔以外の顔に、本発明の第1の実施の形態と同様に配置を決定することができる。すなわち、選択操作支援画像731が付される顔の位置を基準として、選択操作支援画像731乃至735の配置を優先的に決定した後に、選択操作支援画像736乃至739の配置を決定することができる。
ここで、図41に示す撮像画像750が表示されている場合において、選択操作支援画像732乃至739が付されている顔を基準顔として選択するための選択操作内容について説明する。なお、選択操作支援画像732乃至735が付されている顔を基準顔として選択する選択操作については、リング型操作部材702を用いる点以外は、本発明の第1の実施の形態と同様である。例えば、選択操作支援画像732乃至735の操作方向および操作範囲に従ってリング型操作部材702の回転操作を行う。
選択操作支援画像736乃至739が付されている顔を基準顔として選択する場合には、リング型操作部材702の回転操作とともに、補助操作部材703の押下操作を行う。例えば、補助操作部材703を押した状態で、選択操作支援画像736乃至739の操作方向および操作範囲に従ってリング型操作部材702の回転操作を行うことにより、所望の顔を基準顔として選択することができる。または、例えば、補助操作部材703を1度押した後に、選択操作支援画像736乃至739の操作方向および操作範囲に従ってリング型操作部材702の回転操作を行うことにより、所望の顔を基準顔として選択するようにしてもよい。
これらの補助操作部材703の押下げ操作の判定は、例えば、リング型操作部材702の回転操作が終了するまでに行う必要がある。例えば、リング型操作部材702の回転操作の停止が検出される前で、かつ、リング型操作部材702の回転操作により特定される操作範囲に達するまでに補助操作部材703の押下操作が行われた場合に、その押下げ操作が行われたと判定することができる。
また、補助操作部材703を1度押した後に、リング型操作部材702の回転操作を行うことにより、所望の顔を基準顔として選択する場合には、補助操作部材703の押下操作の解除設定を行う必要がある。この解除設定として、例えば、リング型操作部材702の回転操作の終了後に解除する設定、補助操作部材703をもう一度押下げて解除する設定、または、補助操作部材703の押下げ操作後一定時間後に解除する設定等の設定条件を用いることができる。
また、本発明の第1の実施の形態では、図21乃至図24において、基準顔以外の顔に付される選択操作支援画像のうち、撮影者の左右方向と異なる操作方向となる選択操作支援画像については、表示しない例を示した。本発明の第2の実施の形態では、例えば、同一方向について4種類の選択操作支援画像を表示させることができるため、図21乃至図24において選択操作支援画像が付されなかった顔についても選択操作支援画像を表示させることができる。この表示例を図42に示す。
図42は、本発明の第2の実施の形態における選択操作内容決定部711により決定された選択操作内容を表す選択操作支援画像が撮像画像に重畳された場合における表示例を示す図である。図42に示す撮像画像760は、選択操作内容決定部711により決定された選択操作支援画像731乃至733、736、737が、サッカー選手761乃至765の各顔に重畳された撮像画像である。ここで、選択操作支援画像731乃至733については、例えば、図21乃至図24において示した配置と同様に配置を決定することができる。また、選択操作支援画像736および737については、選択操作支援画像736乃至739のうち、基準顔からの方向が同一方向となる選択操作支援画像が選択され、配置が決定される。なお、図42に示す撮像画像760が表示されている場合において、選択操作支援画像731乃至733、736、737が付されている顔を基準顔として選択するための選択操作内容については、図41に示す例と同様である。
このように、現在の基準顔が撮像画像に含まれる複数の顔の中で最も右側に存在している場合でも、撮影者の左右方向と同一の操作方向となる選択操作支援画像を4人に付して表示させることができる。これにより、選択操作が直感的にわかりやすい上に、選択対象者の数を増やすことができる。
このように、本発明の第2の実施の形態によれば、補助操作部材の押下げ操作を組み合わせることにより、簡易的な操作を維持しつつ選択操作の対象となる対象物を多くすることができる。
なお、本発明の第2の実施の形態では、円状の選択操作支援画像を表示して、選択操作部材としてリング型操作部材を用いる例を示したが、他の操作部材を用いる場合についても同様に適用することができる。例えば、内部の可変抵抗等により押し下げ量を検出することが可能なシーソー型操作部材を用いることができる。このシーソー型操作部材を用いる場合には、例えば、シーソー型操作部材の形状に応じた選択操作支援画像を表示するようにしてもよい。また、例えば、補助操作部材の使用により選択操作支援画像736乃至739が付された顔が選択可能となったことを撮像画像上に表示させるようにしてもよい。例えば、補助操作部材の押下げ操作時に選択可能となった顔に付された選択操作支援画像を異なる形態(例えば、点滅表示や色の変更により異なる表示形態とする)で表示させることができる。
<3.第3の実施の形態>
以上では、画像処理装置の一例として撮像装置を例にして説明した。以下では、他の画像処理装置について図面を参照して詳細に説明する。
[印刷装置の機能構成例]
図43は、本発明の第3の実施の形態における印刷装置800の機能構成例を示すブロック図である。ここで、印刷装置800は、図4に示す撮像装置100の変形例であるため、撮像装置100と共通する部分については、同一の符号を付してこれらの説明を省略し、撮像装置100と異なる部分を中心に説明する。印刷装置800は、コンテンツ入力部801と、印刷処理部802とを備える。
コンテンツ入力部801は、操作受付部310により受け付けられた操作入力に応じて、動画(ビデオデータ)や静止画等のコンテンツを入力するものである。そして、このコンテンツが顔検出部210、顔識別部220、選択操作内容決定部240、表示制御部260および印刷処理部802に出力される。
印刷処理部802は、操作受付部310により受け付けられた操作入力に応じて、コンテンツ入力部801から出力されたコンテンツに対応する画像を印刷する処理を行うものである。例えば、印刷処理部802は、選択操作支援画像保持部250の保持内容に基づいて、印刷対象となる画像における所定領域を拡大して印刷する。なお、印刷処理部802は、特許請求の範囲に記載の出力制御部の一例である。
[選択操作支援画像の表示制御例]
図44は、本発明の第3の実施の形態における印刷装置800の外観および印刷装置800のタッチパネル811に表示される画像を示す図である。図44(a)には、印刷装置800のタッチパネル811に表示される画像420を示し、図44(b)には、印刷装置800の正面側の外観を簡略化して示す。なお、図44(a)に示す画像420は、図11(a)に示す画像と同様である。
印刷装置800は、タッチパネル811およびダイヤル型操作部材812を備える。なお、タッチパネル811は、例えば、図43に示す表示部261および操作受付部310に対応し、ダイヤル型操作部材812は、例えば、図43に示す選択操作受付部300に対応する。
印刷装置800は、例えば、コンテンツ入力部801から出力されたコンテンツに対応する画像を印刷処理する前に、その画像をタッチパネル811に表示させて確認することができる。また、例えば、印刷装置800は、タッチパネル811に表示されている画像の一部の領域を拡大して印刷することができる。例えば、タッチパネル811に表示されている画像に顔が含まれている場合には、その顔を含む画像領域を拡大して印刷することができる。例えば、タッチパネル811に表示されている画像において、所望の顔を押下して選択することができる。しかしながら、例えば、図44(b)に示すように、タッチパネル811のサイズが小さい場合には、タッチパネル811に表示されている画像に含まれる顔が小さくなり、見難い場合が想定される。また、この場合には、所望の顔を適切に選択することができない場合も想定される。
そこで、本発明の第3の実施の形態では、例えば、タッチパネル811に表示されている選択操作支援画像255乃至259に従って、ダイヤル型操作部材812の回転操作を行うことにより、所望の顔の選択操作を行う。これにより、印刷装置800に大きいサイズのタッチパネルを設ける必要がなく、印刷装置800に既に備えられているダイヤル型操作部材812を用いて所望の顔の選択操作を適切に行うことができる。
図45は、本発明の第3の実施の形態における印刷装置820の外観を示す図である。この印刷装置820は、図44に示す印刷装置800の変形例であり、機能構成については印刷装置800と同様であるため、ここでの説明を省略する。印刷装置820は、ダイヤル型操作部材821およびリモートコントローラー830を備える。このリモートコントローラー830には、ボタン型操作部材831およびダイヤル型操作部材832が設けられている。また、印刷装置820は、表示装置822と接続され、印刷対象となる画像を表示装置822に表示させることができる。なお、表示装置822は、例えば、図43に示す表示部261に対応し、ボタン型操作部材831は、例えば、図43に示す操作受付部310に対応し、ダイヤル型操作部材821および832は、例えば、図43に示す選択操作受付部300に対応する。印刷装置820は、例えば、コンテンツとして動画を入力し、この動画を構成する各画像を印刷処理する印刷装置(例えば、ビデオプリンタ)とすることができる。
印刷装置820は、印刷装置800と同様に、例えば、コンテンツ入力部801から出力されたコンテンツに対応する画像を印刷処理する前に、その画像を表示装置822に表示させて確認することができる。また、例えば、印刷装置820は、表示装置822に表示されている画像の一部の領域を拡大して印刷することができる。そして、例えば、表示装置822に表示されている選択操作支援画像255乃至259に従って、ダイヤル型操作部材821または832の回転操作を行うことにより、所望の顔の選択操作を行う。また、例えば、ボタン型操作部材831を補助操作部材として使用して、顔の選択操作を行うようにしてもよい。これにより、表示装置822がタッチパネルでない場合でも、印刷装置820に既に備えられている各操作部材を用いて所望の顔の選択操作を適切に行うことができる。
<4.第4の実施の形態>
[再生装置の機能構成例]
図46は、本発明の第4の実施の形態における再生装置850の機能構成例を示すブロック図である。ここで、再生装置850は、図43に示す印刷装置800の変形例であるため、印刷装置800と共通する部分については、同一の符号を付してこれらの説明を省略し、印刷装置800と異なる部分を中心に説明する。再生装置850は、コンテンツ入力部801および表示制御部851を備える。
表示制御部851は、操作受付部310により受け付けられた操作入力に応じて、コンテンツ入力部801から出力されたコンテンツに対応する画像を表示部261に表示させるものである。例えば、表示制御部851は、選択操作支援画像保持部250の保持内容に基づいて、表示対象となる画像における所定領域を拡大して表示する。なお、表示制御部851は、特許請求の範囲に記載の出力制御部の一例である。
[選択操作支援画像の表示制御例]
図47および図48は、本発明の第4の実施の形態における再生装置850の外観を示す図である。図47および図48に示す例では、再生装置850の正面側の外観を簡略化して示す。また、図47に示す画像420は、図11(a)に示す画像と同様である。また、図48に示す画像880は、図47に示す画像420の一部の領域を拡大表示した画像である。
再生装置850は、ダイヤル型操作部材861およびリモートコントローラー870を備える。このリモートコントローラー870には、ボタン型操作部材871およびダイヤル型操作部材872が設けられている。また、再生装置850は、表示装置862と接続され、入力されたコンテンツに対応する画像を表示装置862に表示させる。なお、表示装置862は、例えば、図46に示す表示部261に対応し、ボタン型操作部材871は、例えば、図46に示す操作受付部310に対応し、ダイヤル型操作部材861および872は、例えば、図46に示す選択操作受付部300に対応する。
再生装置850は、コンテンツ入力部801から出力されたコンテンツに対応する画像を表示装置862に表示させる場合に、例えば、表示されている画像の一部の領域を指定して拡大表示させることができる。例えば、図48に示すように、サッカー選手403の顔の周辺画像を拡大して表示させることができる。しかしながら、例えば、サッカーの試合の動画を再生中に、所望の選手を選択して拡大表示させる場合には、各選手が動きまわっていることが多いため、その選択操作が困難であることが想定される。そこで、例えば、表示装置862に表示されている選択操作支援画像255乃至259に従って、ダイヤル型操作部材861または872の回転操作を行うことにより、所望の顔の選択操作を行う。また、例えば、ボタン型操作部材871を補助操作部材として使用して、顔の選択操作を行うようにしてもよい。これにより、再生装置850に既に備えられている各操作部材を用いて所望の顔の選択操作を適切に容易に行うことができる。
なお、本発明の第3および第4の実施の形態では、コンテンツ入力部801から入力されたコンテンツについて顔検出処理および顔識別処理を行い、これらの処理により取得された情報を用いて選択操作内容決定処理を行う例を示した。しかしながら、例えば、撮影時に行われた顔検出処理または顔識別処理等により取得された情報を用いるようにしてもよい。例えば、撮影時に顔検出処理または顔識別処理等を行い、これらの処理により取得された情報(顔情報、顔識別情報等)をメタデータとしてコンテンツに関連付けて記憶しておく。そして、メタデータが関連付けられたコンテンツをコンテンツ入力部801から入力し、そのメタデータを用いて選択操作内容決定処理を行うようにしてもよい。
ここで、画像から検出された顔の数が、選択操作支援画像の数よりも多い場合には、予め決められた割り当て方法により、一定の顔についてのみ選択操作支援画像を付すようにしてもよい。この割り当て方法として、例えば、次の(1)および(2)の何れかの割り当て方法を用いることができる。また、(1)および(2)を組み合せた割り当て方法を用いるようにしてもよい。
(1)顔検出処理または顔識別処理により算出される評価値が高い顔から順番に割り当てる。なお、顔識別処理により算出される評価値を優先して用いる。
(2)特定人物情報毎に優先度を登録しておき、優先度の高い顔から順番に割り当てる。
ただし、サッカーの試合のように各選手が動き回るような場合には、選択操作支援画像の割り当て対象となる顔が頻繁に変更される可能性がある。そこで、例えば、顔検出処理または顔識別処理により算出される評価値が規定時間以上、選択操作支援画像の割り当て対象となる順位以内の値となった場合にのみ、その評価値に対応する顔を割り当て対象とするようにしてもよい。
また、例えば、他の補助操作部材を用いて、その補助操作部材が押下げられた場合にのみ、選択操作支援画像を撮像画像に重畳して表示するようにしてもよい。ただし、その補助操作部材が押されていない状態でも、選択操作内容の決定処理は継続して行われる。その補助操作部材により選択操作支援画像が重畳された後には、例えば、リング型操作部材の回転操作の終了後に選択操作支援画像の表示を解除することができる。また、例えば、その補助操作部材をもう一度押下げることによる解除、または、その補助操作部材の押下げ後、一定時間経過後に解除する等の設定をするようにしてもよい。また、例えば、選択操作支援画像の付与対象となる顔の動き予想(例えば、特開2008−98755号参照。)により、その顔の位置関係が押し下げ後すぐに(例えば、1秒以内)入れ替わることが想定される場合には、入れ替え後の位置関係に基づいて重畳するようにしてもよい。これにより、撮像画像に重畳される選択操作支援画像が頻繁に変更されることを防止してユーザの好みに応じて表示を行うことができる。
また、顔識別処理を行う際に用いられる特定人物情報は、例えば、撮像装置100により取得された画像に基づいて登録しておくことができるが、例えば、他の撮像装置により撮影された画像や、インターネットに掲載された情報等を利用するようにしてもよい。
また、本発明の実施の形態では、人の顔を対象物として検出する例について説明したが、例えば、自動車等の乗り物や動物等を対象物とする場合についても本発明の実施の形態を適用することができる。例えば、動くものを対象物としても容易に選択操作を行うことができる。また、本発明の実施の形態では、サッカーの試合を撮像している場合を例にして説明したが、例えば、陸上のゴールの正面シーンや競馬の横から見たシーン等を撮像する場合に本発明の実施の形態を適用することができる。
また、本発明の実施の形態では、人物の顔を用いて個人識別処理を行う例を示した。ここで、例えば、2チームで対戦する試合(サッカーやバレーボール等)の場合には、ユニフォームがチーム毎に統一(例えば、色や模様)されていることが多い。また、ユニフォームには、背番号等の個人を識別可能な番号が付されていることが多い。そこで、ユニフォームおよび背番号を用いて、個人識別処理を行うようにしてもよい。また、人物の顔を用いた個人識別処理と、ユニフォームおよび背番号を用いた個人識別処理とを同時に行うようにしてもよい。例えば、正面向きの人物の場合には、これらの各処理を同時に行うことにより、個人識別の精度を向上させることができる。また、例えば、後ろ向きの人物の場合には、ユニフォームおよび背番号を用いた個人識別処理を行うことにより、一度識別された人物を継続的に追従することができる。背番号の認識技術として、例えば、文字認識技術(例えば、OCR(Optical Character Recognition)技術)を用いることができる。また、カーレース等を撮像する場合には、カーナンバー等の文字画像を利用することも可能である。
また、例えば、撮像装置100からの被写体距離が基準顔と近い他の顔に付す選択操作支援画像については、ピントが合っている旨を通知するため、他の選択操作支援画像と異なる形態(例えば、色を変更する)に変更して表示するようにしてもよい。この被写体距離の推定は、例えば、顔の大きさに基づいて推定するようにしてもよく、コントラストに基づいて推定するようにしてもよい。
また、本発明の実施の形態では、左右方向の2段階の操作領域を設定する例を示したが、例えば、ユーザの操作の能力に応じて、3段階以上の操作領域を設定するようにしてもよい。この操作領域は、ユーザにより適宜設定可能とすることができる。
また、撮像機能付き携帯電話機、パーソナルコンピュータ等の画像処理装置に本発明の実施の形態を適用することができる。また、例えば、撮像装置および画像処理装置が装置間インターフェースで接続されている画像処理システムにおいて、撮像装置により生成された画像を画像処理装置が表示装置に表示させる場合に本発明の実施の形態を適用することができる。このシステムにおいて、例えば、画像処理装置において受け付けられた選択操作に基づいて、撮像装置自体を可動させる制御を行い、撮影範囲を変更しながら撮影を行うようにしてもよい。例えば、基準対象物に選択された対象物が撮像範囲の中心となるように撮像装置を可動させることができる。
なお、本発明の実施の形態は本発明を具現化するための一例を示したものであり、上述のように特許請求の範囲における発明特定事項とそれぞれ対応関係を有する。ただし、本発明は実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変形を施すことができる。
また、本発明の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。