以下、図面を参照して、本発明の実施形態を説明する。
まず、図1および図2を参照して、本発明の一実施形態に係る電子機器の構成を説明する。本実施形態の電子機器は、例えば、情報処理装置として機能するノートブック型の携帯型パーソナルコンピュータ10から実現されている。
このパーソナルコンピュータ10は、放送番組データ、外部機器から入力されるビデオデータといった、映像コンテンツデータ(オーディオビジュアルコンテンツデータ)を記録および再生することができる。即ち、パーソナルコンピュータ10は、テレビジョン放送信号によって放送される放送番組データの視聴および録画を実行するためのテレビジョン(TV)機能を有している。このTV機能は、例えば、パーソナルコンピュータ10に予めインストールされているTVアプリケーションプログラムによって実現されている。また、TV機能は、外部のAV機器から入力されるビデオデータを記録する機能、および記録されたビデオデータおよび記録された放送番組データを再生する機能も有している。
さらに、パーソナルコンピュータ10は、パーソナルコンピュータ10に格納されたビデオデータ、放送番組データのような映像コンテンツデータに登場する人物の顔画像の一覧等を表示する顔画像一覧表示機能を有している。この顔画像一覧表示機能は、例えば、TV機能内にその一機能として実装されている。顔画像一覧表示機能は、映像コンテンツデータの概要等をユーザに提示するための映像インデキシング機能の一つである。この顔画像一覧表示機能は、映像コンテンツデータ全体の中のどの時間帯にどの人物が登場するのかをユーザに提示することができる。また、この顔画像一覧表示機能は、映像コンテンツデータから例えば等時間間隔で抽出された複数のフレームそれぞれに対応する静止画像を時間順に並べて表示するサムネイル表示機能も有している。
図1はコンピュータ10のディスプレイユニットを開いた状態における斜視図である。本コンピュータ10は、コンピュータ本体11と、ディスプレイユニット12とから構成されている。ディスプレイユニット12には、TFT−LCD(Thin Film Transistor Liquid Crystal Display)17から構成される表示装置が組み込まれている。
ディスプレイユニット12は、コンピュータ本体11に対し、コンピュータ本体11の上面が露出される開放位置とコンピュータ本体11の上面を覆う閉塞位置との間を回動自在に取り付けられている。コンピュータ本体11は薄い箱形の筐体を有しており、その上面にはキーボード13、本コンピュータ10をパワーオン/パワーオフするためのパワーボタン14、入力操作パネル15、タッチパッド16、およびスピーカ18A,18Bなどが配置されている。
入力操作パネル15は、押されたボタンに対応するイベントを入力する入力装置であり、複数の機能をそれぞれ起動するための複数のボタンを備えている。これらボタン群には、TV機能(視聴、録画、録画された放送番組データ/ビデオデータの再生)を制御するための操作ボタン群も含まれている。また、コンピュータ本体11の正面には、本コンピュータ10のTV機能をリモート制御するリモコンユニットとの通信を実行するためのリモコンユニットインタフェース部20が設けられている。リモコンユニットインタフェース部20は、赤外線信号受信部などから構成されている。
コンピュータ本体11の例えば右側面には、TV放送用のアンテナ端子19が設けられている。また、コンピュータ本体11の例えば背面には、例えばHDMI(high-definition multimedia interface)規格に対応した外部ディスプレイ接続端子が設けられている。この外部ディスプレイ接続端子は、放送番組データのような映像コンテンツデータに含まれる映像データ(動画像データ)を外部ディスプレイに出力するために用いられる。
次に、図2を参照して、本コンピュータ10のシステム構成について説明する。
本コンピュータ10は、図2に示されているように、CPU101、ノースブリッジ102、主メモリ103、サウスブリッジ104、グラフィクスプロセッシングユニット(GPU)105、ビデオメモリ(VRAM)105A、サウンドコントローラ106、BIOS−ROM109、LANコントローラ110、ハードディスクドライブ(HDD)111、DVDドライブ112、ビデオプロセッサ113、メモリ113A、カードコントローラ113、無線LANコントローラ114、IEEE 1394コントローラ115、エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)116、TVチューナ117、およびEEPROM118等を備えている。
CPU101は本コンピュータ10の動作を制御するプロセッサであり、ハードディスクドライブ(HDD)111から主メモリ103にロードされる、オペレーティングシステム(OS)201、およびTVアプリケーションプログラム202のような各種アプリケーションプログラムを実行する。TVアプリケーションプログラム202はTV機能を実行するためのソフトウェアである。このTVアプリケーションプログラム202は、TVチューナ117によって受信された放送番組データを視聴するためのライブ再生処理、受信された放送番組データをHDD111に記録する録画処理、およびHDD111に記録された放送番組データ/ビデオデータを再生する再生処理等を実行する。また、CPU101は、BIOS−ROM109に格納されたBIOS(Basic Input Output System)も実行する。BIOSはハードウェア制御のためのプログラムである。
ノースブリッジ102はCPU101のローカルバスとサウスブリッジ104との間を接続するブリッジデバイスである。ノースブリッジ102には、主メモリ103をアクセス制御するメモリコントローラも内蔵されている。また、ノースブリッジ102は、PCI EXPRESS規格のシリアルバスなどを介してGPU105との通信を実行する機能も有している。
GPU105は、本コンピュータ10のディスプレイモニタとして使用されるLCD17を制御する表示コントローラである。このGPU105によって生成される表示信号はLCD17に送られる。また、GPU105は、HDMI制御回路3およびHDMI端子2を介して、外部ディスプレイ装置1にデジタル映像信号を送出することもできる。
HDMI端子2は上述の外部ディスプレイ接続端子である。HDMI端子2は、非圧縮のデジタル映像信号と、デジタルオーディオ信号とを一本のケーブルでテレビのような外部ディスプレイ装置1に送出することができる。HDMI制御回路3は、HDMIモニタと称される外部ディスプレイ装置1にデジタル映像信号をHDMI端子2を介して送出するためのインタフェースである。
サウスブリッジ104は、LPC(Low Pin Count)バス上の各デバイス、およびPCI(Peripheral Component Interconnect)バス上の各デバイスを制御する。また、サウスブリッジ104は、ハードディスクドライブ(HDD)111およびDVDドライブ112を制御するためのIDE(Integrated Drive Electronics)コントローラを内蔵している。さらに、サウスブリッジ104は、サウンドコントローラ106との通信を実行する機能も有している。
またさらに、サウスブリッジ104には、PCI EXPRESS規格のシリアルバスなどを介してビデオプロセッサ113が接続されている。
ビデオプロセッサ113は、前述の映像インデキシングに関する各種処理を実行するプロセッサである。このビデオプロセッサ113は、映像インデキシング処理を実行するためのインデキシング処理部として機能する。すなわち、映像インデキシング処理においては、ビデオプロセッサ113は、映像コンテンツデータに含まれる動画像データから複数の顔画像を抽出すると共に、抽出された各顔画像が映像コンテンツデータ内に出現する時点を示すタイムスタンプ情報、等を出力する。顔画像の抽出は、例えば、動画像データの各フレームから顔領域を検出する顔検出処理、検出された顔領域をフレームから切り出す切り出し処理等によって実行される。顔領域の検出は、例えば、各フレームの画像の特徴を解析して、予め用意された顔画像特徴サンプルと類似する特徴を有する領域を探索することによって行うことができる。顔画像特徴サンプルは、多数の人物それぞれの顔画像特徴を統計的に処理することによって得られた特徴データである。
さらに、映像インデキシング処理においては、上述の顔画像抽出処理と並行して、サムネイル画像取得処理もビデオプロセッサ113によって実行される。サムネイル画像は、映像コンテンツデータから所定時間間隔で抽出された複数のフレームの各々に対応する画像(縮小画像でもよい)である。
また、さらに、ビデオプロセッサ113は、例えば、映像コンテンツデータ内に含まれるコマーシャル(CM)区間を検出する処理、および音声インデキシング処理も実行する。通常、各CM区間の時間長は、予め決められた幾つかの時間長の内の1つに設定されている。また、CM区間の前後には一定時間長の無音期間が存在する。したがって、CM区間の検出処理においては、例えば、映像コンテンツデータ内に含まれるオーディオデータが分析され、一定時間長の無音区間が検出される。そして、検出された連続する2つの無音区間に挾まれ、且つ一定値以上の時間長を有する部分データを含む区間が、CM区間として検出される。
音声インデキシング処理は、映像コンテンツデータ内に含まれるオーディオデータを分析して、映像コンテンツデータ内に含まれる、音楽が流れている音楽区間、および人物によるトークが行われているトーク区間を検出するインデキシング処理である。音声インデキシング処理においては、例えば、オーディオデータの周波数スペクトルの特徴が分析され、その周波数スペクトルの特徴に応じて、音楽区間、およびトーク区間が検出される。音楽区間に対応する周波数スペクトルの特徴と、トーク区間に対応する周波数スペクトルの特徴とは互いに異なるので、周波数スペクトルの特徴を分析することによって、音楽区間およびトーク区間のそれぞれを検出することができる。また、音楽区間に対応する周波数スペクトルの特徴とトーク区間に対応する周波数スペクトルの特徴とが混ざり合った周波数スペクトルを有する区間は、音楽区間とトーク区間とが重なった重畳区間として検出することができる。
トーク区間の検出処理においては、例えば、話者セグメンテーション技術または話者クラスタリング技術等が用いられ、これによって話者の切り替わりも検出される。同一の話者(または同一の話者グループ)が連続してトークしている期間が、一つのトーク区間となる。
さらに、音声インデキシング処理は、映像コンテンツデータ内の各部分データ(一定時間長のデータ)毎に歓声レベルを検出する歓声レベル検出処理、および映像コンテンツデータ内の各部分データ毎に盛り上がりレベルを検出する盛り上がりレベル検出処理を実行する。
歓声レベルは、歓声の大きさを示す。歓声は、大勢の人の声が合わさった音である。大勢の人の声が合わさった音は、ある特定の周波数スペクトルの分布を有する。歓声レベル検出処理においては、映像コンテンツデータに含まれるオーディオデータの周波数スペクトルが分析され、そしてその周波数スペクトルの分析結果に従って、各部分データの歓声レベルが検出される。盛り上がりレベルは、ある一定以上の音量レベルがある一定時間長以上連続的に発生する区間の音量レベルである。例えば、比較的盛大な拍手、大きな笑い声のような音の音量レベルが、盛り上がりレベルである。盛り上がりレベル検出処理においては、映像コンテンツデータに含まれるオーディオデータの音量の分布が分析され、その分析結果に従って、各部分データの盛り上がりレベルが検出される。
メモリ113Aは、ビデオプロセッサ113の作業メモリとして用いられる。インデキシング処理(CM検出処理、映像インデキシング処理、および音声インデキシング処理)を実行するためには多くの演算量が必要とされる。本実施形態においては、CPU101とは異なる専用のプロセッサであるビデオプロセッサ113がバックエンドプロセッサとして使用され、このビデオプロセッサ113によってインデキシング処理が実行される。よって、CPU101の負荷の増加を招くことなく、インデキシング処理を実行することが出来る。なお、CM検出処理は上述したようにオーディオデータを解析することによって実行することができるので、以下では、CM検出処理を音声インデキシング処理内の1つの処理として扱うことにする。
サウンドコントローラ106は音源デバイスであり、再生対象のオーディオデータをスピーカ18A,18BまたはHDMI制御回路3に出力する。
無線LANコントローラ114は、たとえばIEEE 802.11規格の無線通信を実行する無線通信デバイスである。IEEE 1394コントローラ115は、IEEE 1394規格のシリアルバスを介して外部機器との通信を実行する。
エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)116は、電力管理のためのエンベデッドコントローラと、キーボード(KB)13およびタッチパッド16を制御するためのキーボードコントローラとが集積された1チップマイクロコンピュータである。このエンベデッドコントローラ/キーボードコントローラIC(EC/KBC)116は、ユーザによるパワーボタン14の操作に応じて本コンピュータ10をパワーオン/パワーオフする機能を有している。さらに、エンベデッドコントローラ/キーボードコントローラIC(EC/KBC)116は、リモコンユニットインタフェース20との通信を実行する機能を有している。
TVチューナ117はテレビジョン(TV)放送信号によって放送される放送番組データを受信する受信装置であり、アンテナ端子19に接続されている。このTVチューナ117は、例えば、地上波デジタルTV放送のようなデジタル放送番組データを受信可能なデジタルTVチューナとして実現されている。また、TVチューナ117は、外部機器から入力されるビデオデータをキャプチャする機能も有している。
次に、図3を参照して、TVアプリケーションプログラム202によって実行される顔画像一覧表示機能について説明する。
放送番組データのような映像コンテンツデータに対するインデキシング処理(映像インデキシング処理、および音声インデキシング処理)は、上述したように、インデキシング処理部として機能するビデオプロセッサ113によって実行される。
ビデオプロセッサ113は、TVアプリケーションプログラム202の制御の下、例えば、ユーザによって指定された録画済みの放送番組データ等の映像コンテンツデータに対してインデキシング処理を実行する。また、ビデオプロセッサ113は、TVチューナ117によって受信された放送番組データをHDD111に格納する録画処理と並行して、当該放送番組データに対するインデキシング処理を実行することもできる。
映像インデキシング処理(顔画像インデキシング処理とも云う)においては、ビデオプロセッサ113は、映像コンテンツデータに含まれる動画像データをフレーム単位で解析する。そして、ビデオプロセッサ113は、動画像データを構成する複数のフレームそれぞれから人物の顔画像を抽出すると共に、抽出された各顔画像が映像コンテンツデータ内に登場する時点を示すタイムスタンプ情報を出力する。各顔画像に対応するタイムスタンプ情報としては、映像コンテンツデータの開始から当該顔画像が登場するまでの経過時間、または当該顔画像が抽出されたフレーム番号、等を使用することが出来る。
さらに、ビデオプロセッサ113は、抽出された各顔画像のサイズ(解像度)も出力する。ビデオプロセッサ113から出力される顔検出結果データ(顔画像、タイムスタンプ情報TS、およびサイズ)は、データベース111Aに顔画像インデキシング情報として格納される。このデータベース111Aは、HDD111内に用意されたインデキシングデータ記憶用の記憶領域である。
さらに、映像インデキシング処理においては、ビデオプロセッサ113は、顔画像を抽出する処理と並行して、サムネイル画像取得処理も実行する。すなわち、ビデオプロセッサ113は、顔画像を含むフレームであるか否かに関係なく、映像コンテンツデータから例えば所定の等時間間隔でフレームを順次抽出し、抽出した各フレームに対応する画像(サムネイル画像)と、そのサムネイル画像が出現する時点を示すタイムスタンプ情報TSとを出力する。ビデオプロセッサ113から出力されるサムネイル画像取得結果データ(サムネイル、タイムスタンプ情報TS)も、データベース111Aにサムネイルインデキシング情報として格納される。
顔画像インデキシング処理では顔画像を含む部分領域のみがフレームから取得されるのに対し、サムネイル画像取得処理では、フレーム全体の静止画像が取得される。
また、音声インデキシング処理においては、ビデオプロセッサ113は、映像コンテンツに含まれるオーディオデータを分析して、映像コンテンツデータ内に含まれる複数種の属性区間(CM区間、音楽区間、およびトーク区間)を検出し、検出された各属性区間の開始および終了の時点を規定する区間属性情報を出力する。この区間属性情報は、例えば、各属性区間毎にその属性区間の開始時点および終了時点をそれぞれ示す時間情報から構成することができる。また、区間属性情報を、属性区間の開始時点を示す情報とその属性区間の時間長を示す情報とによって構成してもよい。
この区間属性情報は、属性検出結果情報としてデータベース111Aに格納される。さらに、音声インデキシング処理においては、ビデオプロセッサ113は、上述の歓声レベル検出処理および盛り上がりレベル検出処理も実行する。これら歓声レベル検出処理の結果および盛り上がりレベル検出処理の結果も、上述の属性検出結果情報の一部としてデータベース111Aに格納される。
属性検出結果情報(区間属性情報)は、図4に示されているように、例えば、CM区間テーブル、音楽区間テーブル、トーク区間テーブル、および歓声/盛り上がりテーブルから構成されている。
CM区間テーブルは、検出されたCM区間の開始時点および終了時点を示すCM区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数のCM区間が存在する場合には、それら複数のCM区間それぞれに対応するCM区間属性情報がCM区間テーブルに格納される。CM区間テーブルにおいては、検出された各CM区間毎に当該CM区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
音楽区間テーブルは、検出された音楽区間の開始時点および終了時点を示す音楽区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数の音楽区間が存在する場合には、それら複数の音楽区間それぞれに対応する音楽区間属性情報が音楽区間テーブルに格納される。音楽区間テーブルにおいては、検出された各音楽区間毎に当該音楽区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
トーク区間テーブルは、検出されたトーク区間の開始時点および終了時点を示す音楽区間属性情報を格納する。映像コンテンツデータの開始位置から終端位置までのシーケンス内に複数のトーク区間が存在する場合には、それら複数のトーク区間それぞれに対応するトーク区間属性情報がトーク区間テーブルに格納される。トーク区間テーブルにおいては、検出された各トーク区間毎に当該トーク区間の開始時点および終了時点をそれぞれ示すスタートタイム情報およびエンドタイム情報が格納される。
歓声/盛り上がりテーブルは、映像コンテンツデータ内の一定時間長の部分データ(タイムセグメントT1,T2,T3,…)それぞれにおける歓声レベルおよび盛り上がりレベルを格納する。
図3に示されているように、TVアプリケーションプログラム202は、顔画像一覧表示機能を実行するための顔画像一覧表示処理部301を含んでいる。この顔画像一覧表示処理部301は、例えば、インデキシングビューワプログラムとして実現されており、データベース111Aに格納されたインデキシング情報(顔画像インデキシング情報、サムネイルインデキシング情報、区間属性情報、等)を用いて、映像コンテンツデータの概要を俯瞰するためのインデキシングビュー画面を表示する。
具体的には、顔画像一覧表示処理部301は、データベース111Aから顔画像インデキシング情報(顔画像、タイムスタンプ情報TS、およびサイズ)を読み出し、そしてその顔画像インデキシング情報を用いて、映像コンテンツデータに登場する人物の顔画像の一覧を、インデキシングビュー画面上の2次元の表示エリア(以下、顔サムネイル表示エリアと称する)上に表示する。この場合、顔画像一覧表示処理部301は、映像コンテンツデータの総時間長を、例えば等間隔で、複数の時間帯に分割し、時間帯毎に、抽出された顔画像の内から当該時間帯に登場する顔画像を所定個選択する。そして、顔画像一覧表示処理部301は、時間帯毎に、選択した所定個の顔画像それぞれを並べて表示する。
すなわち、2次元の顔サムネイル表示エリアは、複数の行および複数の列を含むマトリクス状に配置された複数の顔画像表示エリアを含む。複数の列それぞれには、映像コンテンツデータの総時間長を構成する複数の時間帯が割り当てられている。具体的には、例えば、複数の列それぞれには、映像コンテンツデータの総時間長をこれら複数の列の数で等間隔に分割することによって得られる、互いに同一の時間長を有する複数の時間帯がそれぞれ割り当てられる。もちろん、各列に割り当てられる時間帯は必ずしも同一の時間長でなくてもよい。
顔画像一覧表示処理部301は、顔画像それぞれに対応するタイムスタンプ情報TSに基づき、各列内に属する行数分の顔画像表示エリア上に、当該各列に割り当てられた時間帯に属する顔画像それぞれを、例えば、それら顔画像の出現頻度順(顔画像の検出時間長順)のような順序で並べて表示する。この場合、例えば、当該各列に割り当てられた時間帯に属する顔画像の内から、出現頻度(登場頻度)の高い順に顔画像が行数分だけ選択され、選択された顔画像が登場頻度順に上から下に向かって並んで配置される。もちろん、出現頻度順ではなく、各列に割り当てられた時間帯に出現する顔画像それぞれを、その出現順に並べて表示してもよい。
この顔画像一覧表示機能により、映像コンテンツデータ全体の中のどの時間帯にどの人物が登場するのかをユーザに分かりやすく提示することができる。顔サムネイル表示エリアの具体的な構成例については、図6以降で後述する。
また、顔画像一覧表示処理部301は、データベース111Aからサムネイルインデキシング情報(サムネイル画像、タイムスタンプ情報TS)を読み出し、そしてサムネイルインデキシング情報を用いて、サムネイル画像それぞれを、顔サムネイル表示エリアの下方側または上方側の一方に配置されたサムネイル表示エリア(以下、じゃばらサムネイル表示エリアと称する)上に、それらサムネイル画像の出現時間順に一列に並べて表示する。
映像コンテンツデータによっては、顔画像が登場しない時間帯も存在する。したがって、インデキシングビュー画面上に顔サムネイル表示エリアのみならず、じゃばらサムネイル表示エリアも表示することにより、顔画像が登場しない時間帯においても、その時間帯の映像コンテンツデータの内容をユーザに提示することができる。しかも、じゃばらサムネイル表示エリア上の各サムネイル画像はフレーム全体の画像である。よって、じゃばらサムネイル表示エリアは、映像コンテンツデータ全体の概要をユーザに提示するのに有用である。
さらに、顔画像一覧表示処理部301は、データベース111Aから区間属性情報(CM区間属性情報、音楽区間属性情報、トーク区間属性情報)を読み出し、その区間属性情報に従って、映像コンテンツデータの開始位置から終端位置までのシーケンス内における各属性区間(CM区間、音楽区間、トーク区間)の位置(開始時点から終了時点までの区間)を示すバー領域を含む区間バーを、インデキシングビュー画面上の顔サムネイル表示エリアの下方側または上方側の一方に表示する。この区間バーは、例えば、3つのサブ区間バー、つまりCM区間の位置を示すCM区間バー、音楽区間の位置を示す音楽区間バー、トーク区間の位置を示すトーク区間バーを含んでいる。
シーケンス内に複数のCM区間が存在する場合、複数のCM区間それぞれの位置を示す複数のバー領域がCM区間バー内に表示される。同様に、シーケンス内に複数の音楽区間が存在する場合には複数の音楽区間それぞれの位置を示す複数のバー領域が音楽区間バー内に表示され、シーケンス内に複数のトーク区間が存在する場合には複数のトーク区間それぞれの位置を示す複数のバー領域がトーク区間バー内に表示される。
インデキシングビュー画面上に区間バーを表示することにより、顔サムネイル表示エリア内の各顔画像がどのような属性区間(CM区間、音楽区間、トーク区間)に登場する人物の顔画像であるかを、ユーザに提示することができる。また、じゃばらサムネイル表示エリア上の各サムネイル画像がどのような属性区間(CM区間、音楽区間、トーク区間)から抽出されたフレームであるかをユーザに提示することもできる。したがって、ユーザは、登場人物と、サムネイル画像と、区間属性とを考慮して、映像コンテンツデータ全体の中から再生を開始すべきデータ位置を見つけることができる。
さらに、顔画像一覧表示処理部301は、データベース111Aから歓声レベル情報および盛り上がりレベル情報を読み出し、それら歓声レベル情報および盛り上がりレベル情報に従って、映像コンテンツデータの開始位置から終端位置までのシーケンス内における歓声レベルの変化および盛り上がりレベルの変化をそれぞれ示すグラフを、インデキシングビュー画面上の顔サムネイル表示エリアの下方側または上方側の一方に配置されたレベル表示エリア上に表示する。
このレベル表示エリアを見ることにより、ユーザに、映像コンテンツデータ内のどの辺りに大きな歓声が生じた区間が存在し、また映像コンテンツデータ内のどの辺りに盛り上がりの大きな区間が存在するかを提示することができる。ユーザは、登場人物と、サムネイル画像と、区間属性と、歓声レベルと、盛り上がりレベルとを考慮して、映像コンテンツデータ全体の中から再生を開始すべきデータ位置を見つけることができる。
次に、図5を参照して、TVアプリケーションプログラム202の機能構成を説明する。
TVアプリケーションプログラム202は、上述の顔画像一覧表示処理部301に加え、記録処理部401、インデキシング制御部402、再生処理部403等を備えている。
記録処理部401は、TVチューナ117によって受信された放送番組データ、または外部機器から入力されるビデオデータをHDD111に記録する記録処理を実行する。また、記録処理部401は、ユーザによって予め設定された録画予約情報(チャンネル番号、日時)によって指定される放送番組データをTVチューナ117を用いて受信し、その放送番組データをHDD111に記録する予約録画処理も実行する。
インデキシング制御部402は、ビデオプロセッサ(インデキシング処理部)113を制御して、インデキシング処理(映像インデキシング処理、音声インデキシング処理)をビデオプロセッサ113に実行させる。ユーザは、録画対象の放送番組データ毎にインデキシング処理を実行するか否かを指定することができる。例えば、インデキシング処理の実行が指示された録画対象の放送番組データについては、その放送番組データがHDD111に記録された後に、インデキシング処理が自動的に開始される。また、ユーザは、既にHDD111に格納されている映像コンテンツデータの内から、インデキシング処理を実行すべき映像コンテンツデータを指定することもできる。
再生処理部403は、HDD111に格納されている各映像コンテンツデータを再生する処理を実行する。また、再生処理部403は、ある映像コンテンツデータの顔画像一覧の中の一つの顔画像が選択されている状態でユーザ操作によって再生指示イベントが入力された時、選択されている顔画像が出現する時点よりも所定時間前の時点から映像コンテンツデータの再生を開始する機能を有している。さらに、再生処理部403は、じゃばらサムネイル表示エリア上の中の一つのサムネイル画像が選択されている状態でユーザ操作によって再生指示イベントが入力された時も、選択されているサムネイル画像が出現する時点よりも所定時間前の時点から映像コンテンツデータの再生を開始することができる。
なお、インデキシング処理は、必ずしもビデオプロセッサ113によって実行する必要はなく、例えば、TVアプリケーションプログラム202にインデキシング処理を実行する機能を設けてもよい。この場合、インデキシング処理は、TVアプリケーションプログラム202の制御の下に、CPU101によって実行される。
次に、図6乃至図9を参照して、インデキシングビュー画面の具体的な構成について説明する。
図6には、顔画像一覧表示処理部301によってLCD17に表示されるインデキシングビュー画面の例が示されている。このインデキシングビュー画面は、ある映像コンテンツデータ(例えば放送番組データ)をインデキシング処理することによって得られた画面である。このインデキシングビュー画面には、顔画像の一覧を表示するための上述の顔サムネイル表示エリアと、上述のレベル表示エリアと、上述の区間バーと、サムネイル画像の一覧をじゃばら形式で表示するための上述のじゃばらサムネイル表示エリアとを含んでいる。
ここで、じゃばら形式とは、選択されているサムネイル画像を通常サイズで表示し、他の各サムネイル画像についてはその横方向サイズを縮小して表示する表示形式である。図6においては、選択されたサムネイル画像との距離が大きいサムネイル画像ほど、その横方向サイズが縮小されている。
レベル表示エリアにおいては、歓声レベルの変化を示すグラフ(図6中の濃い色で示されるグラフ)と、歓声レベルの変化を示すグラフ(図6中の薄い色で示されるグラフ)が表示される。
区間バーは、トーク区間バーと、音楽区間バーと、CM区間バーとを含んでいる。CM区間バーにおいては、各CM区間(各部分CM区間)の位置にバー領域(図6の黒色の帯状領域)が表示される。音楽区間バーにおいては、各音楽区間(各部分音楽区間)の位置にバー領域(図6のクロスハッチングされた帯状領域)が表示される。トーク区間バーにおいては、各トーク区間(各部分トーク区間)の位置にバー領域(図6のハッチングされた帯状領域)が表示される。
さらに、インデキシングビュー画面上には、現在位置バーも表示される。現在位置バーは、現在選択されているサムネイル画像が映像コンテンツデータ全体の中のどの辺りに位置するフレームであるかを示す。選択されているサムネイル画像が変更されると、これに伴って現在位置バーの表示位置も変更される。
図7は、顔サムネイル表示エリアの構成例が示されている。
顔サムネイル表示エリアは、複数の行と複数の列とを含むマトリクス状に配置された複数個の顔画像表示エリアを含んでいる。図7においては、顔サムネイル表示エリアは6行×16列から構成されている。顔サムネイル表示エリアに含まれる顔画像表示エリアの数は、96個である。
列1〜列16のそれぞれには、例えば、映像コンテンツデータの総時間長を列数(=16)で等間隔で分割することによって得られる、互いに同一の時間長Tを有する複数の時間帯がそれぞれ割り当てられる。
例えば、映像コンテンツデータの総時間長が2時間であるならば、その2時間が16個の時間帯に等間隔で分割される。この場合、各時間帯の時間長Tは、7.5分である。例えば、列1には、先頭0:00:00から0:07:30までの時間帯が割り当てられ、列2には、0:07:30から0:15:00までの時間帯が割り当てられ、列3には、0:15:00から0:22:30までの時間帯が割り当てられる。映像コンテンツデータの総時間長に応じて、各時間帯の時間長Tは変化する。
もちろん、複数の列それぞれに割り当てられる時間帯の長さは、必ずしも同一である必要はない。
顔画像一覧表示処理部301は、ビデオプロセッサ113によって抽出された顔画像それぞれに対応するタイムスタンプ情報に基づき、各列内の6個の顔画像表示エリア上に、当該各列に割り当てられた時間帯に属する顔画像それぞれをたとえば上述の頻度順に並べて表示する。この場合、顔画像一覧表示処理部301は、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から行数分(6個)の顔画像を選択し、選択した行数分の顔画像それぞれを並べて表示する。
このように、顔サムネイル表示エリアにおいては、左端位置(1,1)を基点とし、右端位置(6,16)を映像コンテンツデータの終端とする時間軸が用いられている。
顔サムネイル表示エリアの各顔画像表示エリアに表示される顔画像のサイズは“大”、 “中”、“小”の内からユーザが選択することができる。行と列の数は、ユーザが選択した顔画像のサイズに応じて変化される。顔画像のサイズと行と列の数との関係は、次の通りである。
(1)“大”の場合; 3行×8列
(2)“中”の場合; 6行×16列
(3)“小”の場合: 10行×24列
“大”の場合においては、各顔画像は、例えば、180×180ピクセルのサイズで表示される。“中”の場合においては、各顔画像は、例えば、90×90ピクセルのサイズで表示される。“小”の場合においては、各顔画像は、例えば、60×60ピクセルのサイズで表示される。デフォルトの顔画像サイズは、例えば、“中”に設定されている。
顔サムネイル表示エリア内の各顔画像は、選択されていない“標準”状態、選択されている“フォーカス”状態の2つの状態のいずれかに設定される。“フォーカス”状態の顔画像のサイズは、“標準”状態の時のサイズ(180×180、90×90、または60×60)よりも大きく設定される。図7においては、座標(1,12)の顔画像が“フォーカス”状態である場合を示している。また、“フォーカス”状態の顔画像を枠で囲んでも良い。顔サムネイル表示エリア上における顔画像の選択および“フォーカス”状態の顔画像の移動は、ユーザによる入力装置の操作(例えば、リモコンユニットの上下左右ボタンの押下操作、キーボードの上下左右カーソルキーの押下操作、マウスカーソルの移動操作)に応じて実行される。すわち、顔画像一覧表示処理部301は、ユーザによる入力装置の操作に応じて顔サムネイル表示エリア上における複数の顔画像の1つを選択し、その選択した顔画像を他の各顔画像と区別した状態で表示する。具体的には、上述したように、選択した顔画像の表示サイズを拡大する処理、および選択した顔画像を囲む枠を表示する処理等が行われる。
じゃばらサムネイル表示エリアに表示されるサムネイル画像の枚数は、ユーザ設定に従って、例えば240枚、144枚、96枚、48枚のいずれかに設定される。デフォルトは例えば240枚である。
サムネイル画像は、選択されていない“標準”状態、選択されている“フォーカス”状態の2つの状態のいずれかに設定される。“フォーカス”状態のサムネイル画像は、他のサムネイル画像よりも大きいサイズで表示される。また、“フォーカス”状態のサムネイル画像を枠で囲んでも良い。
じゃばらサムネイル表示エリア上におけるサムネイル画像の選択および“フォーカス”状態のサムネイル画像の移動も、ユーザによる入力装置の操作(リモコンユニットの左右ボタンの操作、キーボードの左右カーソルキーの操作、マウスカーソルの移動)に応じて実行される。すわち、顔画像一覧表示処理部301は、ユーザによる入力装置の操作に応じてじゃばらサムネイル表示エリアにおける複数のサムネイル画像の1つを選択し、その選択したサムネイル画像を他の各サムネイル画像よりも大きなサイズで表示する。“フォーカス”状態のサムネイル画像の移動に伴って“フォーカス”状態から“標準”状態に変更されるサムネイル画像のサイズは縮小される。ユーザは、リモコンユニットの左右ボタンの操作、キーボードの操作、またはマウスの操作等によって“フォーカス”状態のサムネイル画像を左右に移動させながら、映像コンテンツデータの内容を俯瞰することができる。
顔サムネイル表示エリアとじゃばらサムネイル表示エリアとの間のフォーカスの移動も、ユーザによる入力装置の操作に応じて実行される。顔サムネイル表示エリアにフォーカスがある場合においては、ユーザによる入力装置の操作に応じて、顔サムネイル表示エリア上における顔画像の選択および“フォーカス”状態の顔画像の移動が行われる。一方、じゃばらサムネイル表示エリアにフォーカスがある場合においては、ユーザによる入力装置の操作に応じて、じゃばらサムネイル表示エリア上におけるサムネイル画像の選択および“フォーカス”状態のサムネイル画像の移動が行われる。
次に、図8を参照して、顔サムネイル表示エリアとじゃばらサムネイル表示エリアとの関係について説明する。
同一列に属する顔画像表示エリア群の集合、つまり顔サムネイル表示エリア内の個々の列を“大区間”と称する。また、“大区間”をさらに分割したものを“小区間”と称する。1つの大区間に含まれる小区間の数は、じゃばらサムネイル表示エリアに表示されるサムネイル画像の数を顔サムネイル表示エリアの列数で割った商で与えられる。例えば、顔サムネイル表示エリアが6行×16列で、じゃばらサムネイル表示エリアに表示されるサムネイル画像の数が240枚であるならば、1つの大区間に含まれる小区間の数は、15(=240÷16)となる。1つの大区間は15個の小区間を含む。換言すれば、1つの大区間に対応する時間帯には、15枚のサムネイル画像が属することになる。
じゃばらサムネイル表示エリア上のあるサムネイル画像が選択された時、顔画像一覧表示処理部301は、選択されたサムネイル画像のタイムスタンプ情報に基づき、顔サムネイル表示エリア内の複数の列(複数の大区間)の内で、選択されたサムネイル画像が属する時間帯が割り当てられた列(大区間)を選択する。選択される大区間は、選択されたサムネイル画像を小区間として含む大区間である。そして、顔画像一覧表示処理部301は、選択されたサムネイル画像と選択された大区間との間を対応付ける上述の現在位置バー(縦長のバー)を表示する。この現在位置バーは、選択されたサムネイル画像に対応する小区間が、選択された大区間に含まれる15個の小区間の内のどの小区間に対応するかを提示するために使用される。現在位置バーの幅は、小区間の幅と同じである。より具体的には、現在位置バーは、選択された大区間に含まれる15個の小区間の内で、選択されたサムネイル画像に対応する小区間の位置に表示される。例えば、選択されたサムネイル画像が、ある大区間に対応する時間帯に属する15枚のサムネイル画像の内の先頭の画像、つまり大区間内の先頭の小区間に対応する画像であるならば、選択されたサムネイル画像は、現在位置バーによって大区間の左端に対応付けられる。また、例えば、選択されたサムネイル画像が、ある大区間に対応する時間帯に属する15枚のサムネイル画像の内の終端の画像、つまり大区間内の終端の小区間に対応する画像であるならば、選択されたサムネイル画像は、現在位置バーによって大区間の右端に対応付けられる。
このように、じゃばらサムネイル表示エリア上のサムネイル画像が選択された時には、顔サムネイル表示エリア内の複数の列の内から、選択されたサムネイル画像が属する時間帯が割り当てられている列(大区間)が選択され、その選択された列と選択されたサムネイル画像とが現在位置バーによって対応付けられる。
現在位置バーにより、ユーザは、選択したサムネイル画像が、顔サムネイル表示エリア内のどの列(大区間)に対応する画像であるかを識別することができる。さらに、ユーザは、選択したサムネイル画像が、どの列(大区間)内のどの辺りの時点に対応する画像であるかも識別することができる。
また、顔画像一覧表示処理部301は、選択されたサムネイル画像のタイムスタンプ情報に基づいて、選択されたサムネイル画像が出現する時点を示す時間情報もインデキシングビュー画面上に表示する。
“現在位置変更”ボタンは選択されているサムネイル画像を変更するための操作ボタンである。“現在位置変更”ボタンがフォーカスされている状態でユーザが例えば左カーソルキーまたは右カーソルキーを操作すると、選択対象のサムネイル画像は、例えば1小区間単位で、左または右に移動する。
さらに、顔画像一覧表示処理部301は、ユーザによる映像コンテンツデータの俯瞰を支援するための機能として、第1および第2の2つの連動表示機能を有している。
第1の連動表示機能は、じゃばらサムネイル表示エリア上の“フォーカス”状態のサムネイル画像に応じて、顔サムネイル表示エリア上の顔画像を自動選択する機能である。すなわち、じゃばらサムネイル表示エリア上のあるサムネイル画像が選択されている状態( “フォーカス”状態)で、ユーザによる入力装置の操作によって第1の連動表示の実行を指示する所定のイベントが入力された場合、顔画像一覧表示処理部301は、顔サムネイル表示エリア上の複数の顔画像の内で、“フォーカス”状態のサムネイル画像の出現時点に最も近接する時点に出現する顔画像を検出し、当該検出した顔画像を“フォーカス”状態に設定する。この時、フォーカスを持つ要素もじゃばらサムネイル表示エリアから顔サムネイル表示エリアに移動される。第1の連動表示機能が実行された様子を図9に示す。 “フォーカス”状態のサムネイル画像と同一のフレームから抽出された顔画像が存在する場合には、その顔画像がフォーカスされ拡大表示される。また、“フォーカス”状態のサムネイル画像と同一のフレームから抽出された顔画像が存在しない場合には、“フォーカス”状態のサムネイル画像との時間差が最も小さい顔画像がフォーカスされ拡大表示される。
第1の連動表示機能により、ユーザは、じゃばらサムネイル表示エリア上の選択されているサムネイル画像とほぼ同じ時点に出現する顔画像を容易に確認することが出来る。また、顔サムネイル表示エリアにフォーカスが移動されているので、ユーザは、“フォーカス”状態に設定された顔画像に対応する時点からの映像コンテンツデータの再生を指示するための操作、または他の顔画像にフォーカスを移動させるための操作等を容易に行うことが出来る。
“フォーカス”状態のサムネイル画像の出現時点に最も近接する時点に出現する顔画像を検出する処理は、“フォーカス”状態のサムネイル画像に対応するタイムスタンプ情報と、複数の顔画像それぞれに対応するタイムスタンプ情報とに基づいて検出することができる。この検出処理は、基本的には、“フォーカス”状態のサムネイル画像が属する時間帯が割り当てられた列内に存在する各顔画像のみを対象に行えばよい。
第1の連動表示の実行を指示するイベントを入力するための入力装置の操作としては、例えば、リモコンユニットの上ボタンの押下操作、キーボードの上カーソルキーの押下操作(またはShiftキー+Tabキーの同時押下操作)等を利用することができる。
第2の連動表示機能は、顔サムネイル表示エリア上の“フォーカス”状態の顔画像に応じて、じゃばらサムネイル表示エリア上のサムネイル画像を自動選択する機能である。すなわち、顔サムネイル表示エリア上のある顔画像が選択されている状態(“フォーカス”状態)で、ユーザによる入力装置の操作によって第2の連動表示の実行を指示する所定のイベントが入力された場合、顔画像一覧表示処理部301は、じゃばらサムネイル表示エリア上の複数のサムネイル画像の内で、“フォーカス”状態の顔画像の出現時点に最も近接する時点に出現するサムネイル画像を検出し、当該検出したサムネイル画像を“フォーカス”状態に設定する。この時、フォーカスを持つ要素も顔サムネイル表示エリアからじゃばらサムネイル表示エリアに移動される。ユーザは、顔サムネイル表示エリア上の選択されている顔画像とほぼ同じ時点に出現するサムネイル画像を容易に確認することが出来る。また、じゃばらサムネイル表示エリアにフォーカスが移動されているので、ユーザは、“フォーカス”状態に設定されたサムネイル画像に対応する時点からの映像コンテンツデータの再生を指示するための操作、または他のサムネイル画像にフォーカスを移動させるための操作等を容易に行うことが出来る。
“フォーカス”状態の顔画像の出現時点に最も近接する時点に出現するサムネイル画像は、“フォーカス”状態の顔画像に対応するタイムスタンプ情報と、複数のサムネイル画像それぞれに対応するタイムスタンプ情報とに基づいて検出することができる。
第2の連動表示の実行を指示するイベントを入力するための入力装置の操作としては、例えば、リモコンユニットの下ボタンの押下操作、キーボードのTabキーの押下操作、またはキーボードの下カーソルキーの押下操作(選択されている顔画像が最下位行に存在する場合)等を利用することができる。
このように、本実施形態においては、顔サムネイル表示エリアとじゃばらサムネイル表示エリアの双方がインデキシングビュー画面上に表示され、これにより顔画像の一覧と、複数のサムネイル画像とをユーザに提示することが出来る。さらに、上下ボタン、上下カーソルキー、またはTabキ−等の操作に応じて、じゃばらサムネイル表示エリアのサムネイル画像と顔サムネイル表示エリアの顔画像との間でフォーカスを切り替え、フォーカスが置かれた画像(サムネイル画像、顔画像)を拡大表示させることができる。よって、顔画像とサムネイル画像とが時間的につながっていることをユーザに提示することが出来、さらに、ある顔画像からその顔画像から登場する近傍の場面を、またはある場面からその場面の近傍に登場する代表的な顔画像をユーザに提示することができる。
次に、図10のフローチャートを参照して、顔画像一覧表示処理部301によって実行される表示処理の手順を説明する。
まず、顔画像一覧表示処理部301は、データベース111Aに格納されている顔画像それぞれを、それら顔画像に対応するタイムスタンプ情報に基づいて、それら顔画像の出現時間順にソートする(ステップS101)。次いで、顔画像一覧表示処理部301は、ユーザによって指定された表示すべき顔画像サイズに応じて行及び列の数を決定すると共に、例えばインデキシング対象の映像コンテンツデータの総時間長を列数で均等に分割することによって、各列(大区間)に割り当てる時間帯を算出する。そして、顔画像一覧表示処理部301は、表示処理対象の列に割り当てられた時間帯内に属する顔画像の内から、行数分の顔画像を選択する(ステップS102)。表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも多い場合には、顔画像一覧表示処理部301は、例えば、出現頻度の高い顔画像を優先的に選択する処理を実行することもできる。
この場合、顔画像一覧表示処理部301は、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から、当該時間帯において登場する頻度の高い顔画像を優先的に選択する。例えば、ビデオプロセッサ113は、抽出した顔画像それぞれの特徴データの相関に基づいて、同一人物の顔画像それぞれを同一カテゴリーに分類するクラスタリング処理を実行することができる。この場合、図11に示すように、顔画像それぞれは、人物毎(すなわちカテゴリー毎)に分類されてデータベース111Aに格納される。図11においては、カテゴリー1は、ある人物Aの顔画像の集合を示しており、カテゴリー2は、ある人物Bの顔画像の集合を示しており、またカテゴリー3は、ある人物Bの顔画像の集合を示している。顔画像一覧表示処理部301は、登場する頻度の高い人物の顔画像を優先的に選択する。なお、ある同一人物の顔画像のみが比較的長い時間出現され続けている時間帯においては、当該時間帯に対応する列上に同一人物の異なる複数の顔画像を表示してもよい。
また、表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも多い場合、顔画像一覧表示処理部301は、データベース11Aに格納された顔画像それぞれのサイズ情報に基づいて、表示処理対象の列に割り当てられた時間帯に属する顔画像の内から、サイズの大きい顔画像を優先的に選択する処理を実行することもできる。
クローズアップされた顔を映すフレームから抽出される顔画像のサイズは、比較的大きなものとなる。したがって、抽出された顔画像のサイズが大きいほど、重要度の高い人物である可能性が高い。よって、サイズの大きい顔画像を優先的に選択することにより、重要度の高い人物の顔画像を優先的に表示することが可能となる。
次いで、顔画像一覧表示処理部301は、表示処理対象の列内の複数の顔画像表示エリアに、選択した顔画像それぞれを例えば出現頻度順に並べて表示する(ステップS103)。出現頻度の高い顔画像ほど、上方の顔画像表示エリアに表示される。
ステップS102,S103の処理は、全ての列に対する処理が完了するまで、表示処理対象の列の番号を更新しながら繰り返し実行される(ステップS104,S105)。この結果、顔画像表示エリアには、複数の顔画像が並んで表示される。
なお、表示処理対象の列に割り当てられた時間帯内に属する顔画像の数が行数よりも少ない場合には、対応する時間帯内に属するサムネイル画像を表示処理対象の列に表示することも出来る。
全ての列に対する処理が完了すると(ステップS104のNO)、顔画像一覧表示処理部301は、データベース11Aに格納されているサムネイル画像それぞれを、それらサムネイル画像それぞれのタイムスタンプ情報に基づいて、じゃばらサムネイル表示エリア上にそれらサムネイル画像が出現する時間順に一列に並べて表示する(ステップS106)。
次いで、顔画像一覧表示処理部301は、データベース111Aから歓声レベル情報および盛り上がりレベル情報を読み出し、それら歓声レベル情報および盛り上がりレベル情報に従って、レベル表示エリア上に、映像コンテンツデータの開始位置から終端位置までのシーケンス内における歓声レベルの変化を示すグラフと、シーケンス内における盛り上がりレベルの変化をそれぞれ示すグラフとを表示する(ステップS107)。
次に、顔画像一覧表示処理部301は、データベース111AからCM区間属性情報、音楽区間属性情報、およびトーク区間属性情報を読み出し、それらCM区間属性情報、音楽区間属性情報、およびトーク区間属性情報に基づいて、CM区間バー、音楽区間バー、トーク区間バーをそれぞれ表示する(ステップS108)。CM区間バーには、CM区間の位置を示すバー領域が表示される。同様に、音楽区間バーには音楽区間の位置を示すバー領域が表示され、トーク区間バーにはトーク区間の位置を示すトークバー領域が表示される。
次に、図12のフローチャートを参照して、選択されているサムネイル画像に対応する顔画像を自動選択するための第1の連動表示機能の処理手順の例を説明する。
じゃばらサムネイル表示エリア上のあるサムネイル画像が選択されている状態(“フォーカス”状態)でユーザによって例えば上キー(リモコンユニットの上ボタン、キーボードのTabキーまたは上カーソルキー、等)が押下された時、つまりじゃばらサムネイル表示エリアにフォーカスがある状態で第1の連動表示機能の実行を指示するイベントが入力された時(ステップS201のYES)、顔画像一覧表示処理部301は、選択されているサムネイル画像のタイムスタンプ情報をデータベース111Aから取得する(ステップS203)。なお、ステップS203の処理に先立って、じゃばらサムネイル表示エリア上のサムネイル画像が選択されているか否かを確認する処理(ステップS202)を必要に応じて実行しても良い。
この後、顔画像一覧表示処理部301は、“フォーカス”状態のサムネイル画像が属する時間帯が割り当てられた列内に表示されている顔画像それぞれを対象に、それら各顔画像の出現時点をチェックする処理を実行する。
この場合、まず、顔画像一覧表示処理部301は、“フォーカス”状態のサムネイル画像が属する時間帯が割り当てられた列内に未チェックの顔画像が残っているか否かを判定する(ステップS204)。未チェックの顔画像が残っているならば(ステップS204のYES)、顔画像一覧表示処理部301は、未チェックの顔画像の中の1つの顔画像をチェック対象の顔画像として特定し、そのチェック対象の顔画像に対応するタイムスタンプ情報をデータベース111Aから取得する(ステップS205)。そして、顔画像一覧表示処理部301は、“フォーカス”状態のサムネイル画像のタイムスタンプ情報とチェック対象の顔画像のタイムスタンプ情報とを比較する(ステップS206)。このステップS206では、“フォーカス”状態のサムネイル画像のタイムスタンプ情報とチェック対象の顔画像のタイムスタンプ情報との間の値の差(時間差)が算出される。次いで、顔画像一覧表示処理部301は、算出された時間差に基づいて、“フォーカス”状態のサムネイル画像のタイムスタンプ情報とチェック対象の顔画像のタイムスタンプ情報とが一致するか否かを判定する(ステップS207)。一致しないならば(ステップS207のNO)、顔画像一覧表示処理部301は、チェック対象の顔画像を識別する識別子(ID)と一緒に、ステップS206で算出した時間差を第1のリストに格納する(ステップS208)。一方、一致したならば(ステップS207のYES)、顔画像一覧表示処理部301は、チェック対象の顔画像を識別する識別子(ID)を第2のリストに格納する(ステップS209)。
“フォーカス”状態のサムネイル画像が属する時間帯が割り当てられた列内に未チェックの顔画像が無くなるまで、ステップS205〜S209の処理はチェック対象の顔画像を変更しながら繰り返し実行される。
“フォーカス”状態のサムネイル画像が属する時間帯が割り当てられた列内に未チェックの顔画像が無くなったならば(ステップS204のNO)、顔画像一覧表示処理部301は、第2のリストを参照して、“フォーカス”状態のサムネイル画像のタイムスタンプ情報に一致するタイムスタンプ情報を有する顔画像が存在するか否かを判定する(ステップS210)。
“フォーカス”状態のサムネイル画像のタイムスタンプ情報に一致するタイムスタンプ情報を有する顔画像が存在するならば(ステップS210のYES)、顔画像一覧表示処理部301は、当該顔画像を“フォーカス”状態のサムネイル画像の出現時点に最も近接する時点に出現する顔画像として検出し、その検出した顔画像を選択する(ステップS211)。ステップS211では、顔画像一覧表示処理部301は、検出した顔画像をフォーカスし、その顔画像を他の各顔画像と区別した状態で表示する。
“フォーカス”状態のサムネイル画像のタイムスタンプ情報に一致するタイムスタンプ情報を有する顔画像が存在しないならば(ステップS210のNO)、顔画像一覧表示処理部301は、第1のリストを参照して、時間差の最も小さい顔画像を、“フォーカス”状態のサムネイル画像の出現時点に最も近接する時点に出現する顔画像として検出し、その検出した顔画像を選択する(ステップS212)。ステップS212では、顔画像一覧表示処理部301は、検出した顔画像をフォーカスし、その顔画像を他の各顔画像と区別した状態で表示する。
次に、図13のフローチャートを参照して、選択されている顔画像に対応するサムネイル画像を自動選択するための第2の連動表示機能の処理手順の例を説明する。
顔サムネイル表示エリア上のある顔画像が選択されている状態(“フォーカス”状態)でユーザによって例えば下キー(リモコンユニットの下ボタン、キーボードのShftキー+Tabキー、または、選択されている顔画像が最下位行に位置する場合にはキーボードの下カーソルキー、等)が押下された時、顔サムネイル表示エリアにフォーカスがある状態で第2の連動表示機能の実行を指示するイベントが入力された時(ステップS301のYES)、顔画像一覧表示処理部301は、選択されている顔画像のタイムスタンプ情報をデータベース111Aから取得する(ステップS303)。なお、ステップS303の処理に先立って、顔サムネイル表示エリア上のサムネイル画像が選択されているか否かを確認する処理(ステップS302)を必要に応じて実行しても良い。
この後、顔画像一覧表示処理部301は、全てのサムネイル画像を対象に、または“フォーカス状態”の顔画像が存在する大区間に属するサムネイル画像それぞれを対象に、それら各サムネイル画像の出現時点をチェックする処理を実行する。
この場合、まず、顔画像一覧表示処理部301は、未チェックのサムネイル画像が残っているか否かを判定する(ステップS304)。未チェックのサムネイル画像が残っているならば(ステップS304のYES)、顔画像一覧表示処理部301は、未チェックのサムネイル画像の中の1つのサムネイル画像をチェック対象のサムネイル画像として特定し、そのチェック対象のサムネイル画像のタイムスタンプ情報をデータベース111Aから取得する(ステップS305)。そして、顔画像一覧表示処理部301は、“フォーカス状態”の顔画像のタイムスタンプ情報とステップS305で取得したサムネイル画像のタイムスタンプ情報とを比較する(ステップS306)。このステップS306では、“フォーカス状態”の顔画像のタイムスタンプ情報とチェック対象のサムネイル画像のタイムスタンプ情報との間の差(時間差)が算出される。次いで、顔画像一覧表示処理部301は、“フォーカス状態”の顔画像のタイムスタンプ情報とチェック対象のサムネイル画像のタイムスタンプ情報とが一致するか否かを判定する(ステップS307)。一致しないならば(ステップS307のNO)、顔画像一覧表示処理部301は、チェック対象のサムネイル画像を識別する識別子(ID)と一緒に、ステップS306で算出した時間差を第1のリストに格納する(ステップS308)。一方、一致したならば(ステップS307のYES)、顔画像一覧表示処理部301は、チェック対象のサムネイル画像を識別する識別子(ID)を第2のリストに格納する(ステップS309)。
未チェックのサムネイル画像が無くなるまで、ステップS305〜S309の処理はチェック対象のサムネイル画像を変更しながら繰り返し実行される。
未チェックのサムネイル画像が無くなったならば(ステップS304のNO)、顔画像一覧表示処理部301は、第2のリストを参照して、“フォーカス”状態の顔画像のタイムスタンプ情報に一致するタイムスタンプ情報を有するサムネイル画像が存在するか否かを判定する(ステップS310)。
“フォーカス”状態の顔画像のタイムスタンプ情報に一致するタイムスタンプ情報を有するサムネイル画像が存在するならば(ステップS310のYES)、顔画像一覧表示処理部301は、当該サムネイル画像を“フォーカス”状態の顔画像の出現時点に最も近接する時点に出現するサムネイル画像として検出し、その検出したサムネイル画像を選択する(ステップS311)。ステップS311では、顔画像一覧表示処理部301は、検出したサムネイル画像をフォーカスし、そのサムネイル画像を拡大表示する。
“フォーカス”状態の顔画像のタイムスタンプ情報に一致するタイムスタンプ情報を有するサムネイル画像が存在しないならば(ステップS310のYES)、顔画像一覧表示処理部301は、第1のリストを参照して、時間差の最も小さいサムネイル画像を、“フォーカス”状態の顔画像の出現時点に最も近接する時点に出現するサムネイル画像として検出し、その検出したサムネイル画像を選択する(ステップS312)。ステップS312では、顔画像一覧表示処理部301は、検出したサムネイル画像をフォーカスし、そのサムネイル画像を拡大表示する。
次に、図14のフローチャートを参照して、再生処理部403によって実行される再生処理の手順を説明する。
ユーザ操作に応じて映像コンテンツデータの再生を指示するイベントが入力された時(ステップS401のYES)、再生処理部403は、顔画像一覧表示処理部301と連携して、顔サムネイル表示エリア上のある顔画像がユーザによって選択されているか否かを判定する(ステップS402)。選択されている顔画像が存在するならば(ステップS402のYES)、再生処理部403は、選択されている顔画像のタイムスタンプ情報に基づいて、選択されている顔画像が登場する時点を検出する(ステップS403)。そして、再生処理部403は、検出された時点よりも所定時間前の時点、たとえば、2秒前の時点から、映像コンテンツデータの再生を開始する(ステップS404)。
なお、じゃばらサムネイル表示エリア上のあるサムネイル画像が選択されている状態で映像コンテンツデータの再生を指示するイベントが入力された時にも、その選択されているサムネイル画像のタイムスタンプ情報に基づいて、再生処理部403は、選択されているサムネイル画像が出現する時点よりも所定時間前の時点、たとえば、2秒前の時点から、映像コンテンツデータの再生を開始する。
以上のように、本実施形態では、顔サムネイル表示エリアのみならず、じゃばらサムネイル表示エリアもインデキシングビュー画面上に表示される。そしてユーザ操作に応じて、じゃばらサムネイル表示エリア上の複数の複数のサムネイル画像の内の1つが選択され、その選択されたサムネイル画像が拡大表示される。ユーザは、じゃばらサムネイル表示エリア上で、選択されるサムネイル画像を左右に移動させる操作を行うことにより、映像コンテンツデータ全体の中の様々な場面を容易に俯瞰することができる。さらに、本実施形態では、選択されるサムネイル画像に対応する顔画像を自動的に選択するための第1の連動表示機能が設けられているので、現在選択されているサムネイル画像に対応する場面の近くの時点に登場する人物の顔画像をユーザに提示することが出来る。
よって、映像コンテンツデータを再生することなく、映像コンテンツデータ全体の概要をユーザに提示することができ、且つユーザが着眼した映像コンテンツデータ内のある特定の部分(場面)にどの人物が登場するかをユーザに提示することが可能となる。
さらに、本実施形態では、選択される顔画像に対応するサムネイル画像を自動的に選択する第2の連動表示機能を上述の第1の連動表示機能と組み合わせて使用することができる。これにより、ある顔画像からその顔画像から登場する近傍の場面を、またはある場面からその場面の近傍に登場する代表的な顔画像をユーザに提示することができる。
また、本実施形態では、顔サムネイル表示エリア内の複数の列それぞれには、それら各列に割れ当てられた時間帯から抽出された顔画像それぞれを表示することができるので、映像コンテンツデータ全体の中のどの辺りの時間帯にどの人物が登場するかをユーザに提示することができる。
なお、本実施形態では、インデキシング処理部として機能するビデオプロセッサ113によってインデキシング情報(顔画像インデキシング情報、区間属性情報、等)を生成したが、例えば、放送番組データ内に予め当該放送番組データに対応するインデキシング情報が含まれている場合には、それを利用することができる。必要なインデキシング情報がすべて揃っていれば、インデキシング処理を行う必要はない。よって、本実施形態の顔画像一覧表示機能は、データベース111Aと顔画像一覧表示処理部301のみによっても実現することが出来る。
また、本実施形態の顔サムネイル表示エリアにおいては、左端位置を基点とし、右端位置を映像コンテンツデータの終端とする時間軸が用いられているが、例えば映像コンテンツデータの一部分について、左端位置を基点、右端位置を終端としてもよく、また、左右逆でもよい。また、上下方向と左右方向の配置を逆にしてもよい。
また、本実施形態の顔画像一覧表示処理の手順は全てソフトウェアによって実現することができるので、このソフトウェアをコンピュータ読み取り可能な記憶媒体を通じて通常のコンピュータに導入することにより、本実施形態と同様の効果を容易に実現することができる。
また、本実施形態の電子機器はコンピュータ10によって実現するのみならず、例えば、HDDレコーダ、DVDレコーダ、テレビジョン装置といった様々なコンシューマ電子機器によって実現することもできる。この場合、TVアプリケーションプログラム202の機能は、DSP、マイクロコンピュータのようなハードウェアによって実現することができる。
また、本発明は、上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。更に、異なる実施形態に構成要素を適宜組み合わせてもよい。
以下に、本願原出願の特許査定時の特許請求の範囲に記載された発明を付記する。
[1] 映像コンテンツデータから複数の顔画像を抽出すると共に、抽出された各顔画像が前記映像コンテンツデータ内に出現する時点を示すタイムスタンプ情報を出力する顔画像抽出処理と、前記映像コンテンツデータから所定時間間隔毎に1フレームの静止画像を抽出すると共に、抽出された各静止画像が前記映像コンテンツデータ内に出現する時点を示すタイムスタンプ情報を出力する静止画像抽出処理とを実行する画像抽出手段と、
前記画像抽出手段によって抽出された顔画像の一覧を表示画面上の第1の表示エリア上に表示すると共に、前記画像抽出手段によって抽出された静止画像それぞれをそれら静止画像の出現時間順に並べて前記表示画面上の第2の表示エリア上に表示する顔画像一覧表示手段とを具備し、
前記顔画像一覧表示手段は、
ユーザによる入力装置の操作に応じて前記第2の表示エリア上の複数の静止画像の内の1つを選択し当該選択した静止画像を他の各静止画像よりも大きなサイズで表示する処理と、前記第2の表示エリア上のある静止画像が選択されている状態で、前記ユーザによる前記入力装置の操作によって所定のイベントが入力された場合、前記選択されている静止画像に対応するタイムスタンプ情報と前記複数の顔画像それぞれに対応するタイムスタンプ情報とに基づいて、前記第1の表示エリア上の複数の顔画像の内から、前記選択されている静止画像の出現時点に最も近接する時点に出現する顔画像を選択し、当該選択した顔画像を他の各顔画像と区別した状態で表示する処理とを実行することを特徴とする電子機器。
[2] 前記第1の表示エリアは、複数の行および複数の列を含むマトリクス状に配置された複数の顔画像表示エリアを含み、前記複数の列それぞれには、前記映像コンテンツデータの総時間長を構成する複数の時間帯がそれぞれ割り当てられており、
前記顔画像一覧表示手段は、前記複数の顔画像それぞれに対応するタイムスタンプ情報に基づき、前記各列の顔画像表示エリア上に当該各列に割り当てられた時間帯に属する顔画像それぞれを並べて表示するように構成されていることを特徴とする[1]記載の電子機器。
[3] 前記顔画像一覧表示手段は、前記選択された静止画像に対応するタイムスタンプ情報に基づいて、前記第1の表示エリア内の複数の列の内から前記選択されたサムネイル画像が属する時間帯が割り当てられた列を選択し、前記選択された静止画像と前記選択された列とを対応付けるバーを前記表示画面上にさらに表示することを特徴とする[2]記載の電子機器。
[4] 前記第1の表示エリアに表示された顔画像の内の一つが選択されている状態で、前記ユーザによる前記入力装置の操作によって前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記選択されている顔画像に対応するタイムスタンプ情報に基づき、前記選択されている顔画像が出現する時点よりも所定時間前の時点から前記映像コンテンツデータの再生を開始する再生処理手段をさらに具備することを特徴とする[1]記載の電子機器。
[5] 前記顔画像一覧表示手段は、前記ユーザによる前記入力装置の操作に応じて前記第1の表示エリア上の複数の顔画像の内の1つを選択し当該選択した静止画像を他の各顔画像と区別した状態で表示する処理と、前記第1の表示エリア上のある顔画像が選択されている状態で、前記ユーザによる前記入力装置の操作によって所定のイベントが入力された場合、前記選択されている顔画像に対応するタイムスタンプ情報と前記複数の静止画像それぞれに対応するタイムスタンプ情報とに基づいて、前記第2の表示エリア上の複数の静止画像の内で前記選択されている顔画像の出現時点に最も近接する時点に出現する静止画像を選択し当該選択した顔画像を他の各静止画像よりも大きなサイズで表示する処理とをさらに実行することを特徴とする[1]記載の電子機器。
[6] 前記第1の表示エリアに表示された顔画像の内の一つが選択されている状態で、前記ユーザによる前記入力装置の操作によって前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記選択されている顔画像に対応するタイムスタンプ情報に基づき、前記選択されている顔画像が出現する時点よりも所定時間前の時点から前記映像コンテンツデータの再生を開始し、前記第2の表示エリアに表示された静止画像の内の一つが選択されている状態で、前記再生を指示するイベントが入力された場合、前記選択されている静止画像に対応するタイムスタンプ情報に基づき、前記選択されている静止画像が出現する時点よりも所定時間前の時点から前記映像コンテンツデータの再生を開始する再生処理手段をさらに具備することを特徴とする[5]記載の電子機器。
[7] 映像コンテンツデータの概要を示す情報を表示する画像表示方法であって、
前記映像コンテンツデータから複数の顔画像を抽出すると共に、抽出された各顔画像が前記映像コンテンツデータ内に出現する時点を示すタイムスタンプ情報を出力する顔画像抽出処理を実行するステップと、
前記映像コンテンツデータから所定時間間隔毎に1フレームの静止画像を抽出すると共に、抽出された各静止画像が前記映像コンテンツデータ内に出現する時点を示すタイムスタンプ情報を出力する静止画像抽出処理を実行するステップと、
前記抽出された顔画像の一覧を表示画面上の第1の表示エリア上に表示する顔画像一覧表示ステップと、
前記抽出された静止画像それぞれをそれら静止画像の出現時間順に並べて前記表示画面上の第2の表示エリア上に表示するステップと、
ユーザによる入力装置の操作に応じて前記第2の表示エリア上の複数の静止画像の内の1つを選択し当該選択した静止画像を他の各静止画像よりも大きなサイズで表示するステップと、
前記第2の表示エリア上のある静止画像が選択されている状態で、前記ユーザによる前記入力装置の操作によって所定のイベントが入力された場合、前記選択されている静止画像に対応するタイムスタンプ情報と前記複数の顔画像それぞれに対応するタイムスタンプ情報とに基づいて、前記第1の表示エリア上の複数の顔画像の内で前記選択されている静止画像の出現時点に最も近接する時点に出現する顔画像を選択し、当該検出した顔画像を他の各顔画像と区別した状態で表示するステップとを具備することを特徴とする画像表示方法。
[8] 前記第1の表示エリアは、複数の行および複数の列を含むマトリクス状に配置された複数の顔画像表示エリアを含み、前記複数の列それぞれには、前記映像コンテンツデータの総時間長を構成する複数の時間帯がそれぞれ割り当てられており、
前記顔画像一覧表示ステップは、前記複数の顔画像それぞれに対応するタイムスタンプ情報に基づき、前記各列の顔画像表示エリア上に当該各列に割り当てられた時間帯に属する顔画像それぞれを並べて表示することを特徴とする[7]記載の画像表示方法。
[9] 前記選択された静止画像に対応するタイムスタンプ情報に基づいて、前記第1の表示エリア内の複数の列の内から前記選択されたサムネイル画像が属する時間帯が割り当てられた列を選択し、前記選択された静止画像と前記選択された列とを対応付けるバーを前記表示画面上にさらに表示することを特徴とする[8]記載の画像表示方法。
[10] 前記第1の表示エリアに表示された顔画像の内の一つが選択されている状態で、前記ユーザによる前記入力装置の操作によって前記映像コンテンツデータの再生を指示するイベントが入力された場合、前記選択されている顔画像に対応するタイムスタンプ情報に基づき、前記選択されている顔画像が出現する時点よりも所定時間前の時点から前記映像コンテンツデータの再生を開始するステップをさらに具備することを特徴とする[7]記載の画像表示方法。