JP2007280325A - 動画表示装置 - Google Patents

動画表示装置 Download PDF

Info

Publication number
JP2007280325A
JP2007280325A JP2006109385A JP2006109385A JP2007280325A JP 2007280325 A JP2007280325 A JP 2007280325A JP 2006109385 A JP2006109385 A JP 2006109385A JP 2006109385 A JP2006109385 A JP 2006109385A JP 2007280325 A JP2007280325 A JP 2007280325A
Authority
JP
Japan
Prior art keywords
face
image
face information
moving image
frame position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2006109385A
Other languages
English (en)
Other versions
JP4797761B2 (ja
Inventor
Atsushi Irie
淳 入江
Erina Takigawa
えりな 瀧川
Naoteru Maeda
直輝 前田
Nireko Matsubara
楡子 松原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2006109385A priority Critical patent/JP4797761B2/ja
Publication of JP2007280325A publication Critical patent/JP2007280325A/ja
Application granted granted Critical
Publication of JP4797761B2 publication Critical patent/JP4797761B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】ユーザによる顔情報を手がかりとしたシーン検索を支援するための技術を提供する。
【解決手段】コンピュータが、動画から選択された複数のフレームの画像の各々から顔を検出し、各画像について、検出された顔に関する顔情報を取得し、画像から取得された顔情報を、その画像の動画中のフレーム位置とともに記憶装置に記録し、記憶装置から各画像のフレーム位置及び顔情報を読み込み、各画像のフレーム位置と顔情報との関係を示すグラフを生成し、動画をグラフとともに表示する。
【選択図】図5

Description

本発明は、動画を表示するための動画表示装置に関する。
HDDやDVDなどの大容量記録媒体の登場により、色々な場面の動画データを手軽に撮り(録り)ためておくことが可能になった。しかし、多数の若しくは長時間の動画データの中から所望のシーンを探し出すのは容易ではない。例えば、従来の動画表示装置では、スライダー等を操作しながら目視で所望のシーンを見つけ出すのが一般的であるが、このような探索手法は目的のシーンに到達するまでに相当な手間と時間がかかる。
ところで、ユーザが所望のシーンを探す際には、画像中の「顔」の情報を手がかりにすることが多い。例えば、動画の中から家族全員が写っているシーンを探し出したり、子供が良い顔で写っているシーンを探し出したり、といったケースが挙げられる。そこで従来より、顔の情報を手がかりとしたシーン検索を容易に行えるツールの登場が望まれていた。
なお、顔情報を画像検索に応用した技術としては、顔の数、顔のサイズ、顔の向き、性別、顔の表情、年齢、人種、眼鏡の有無、ひげの有無等を条件として与えると、動画の中から条件を満たすフレームを検出して、顔画像をディスプレイに表示する画像検索方法がある(特許文献1参照)。また、顔情報を画像の分類に応用した技術としては、自動販売機の前を通過する通行人を撮像し、その画像を解析することによって通行人数、通行人の年齢層、性別を調査する技術(特許文献2参照)、顧客の画像を画像処理することによって顧客を分類する技術(特許文献3参照)、デジタルカメラで撮影された画像を画像に写る顔の類似度に基づいて分類する技術(特許文献4参照)が知られている。
特開2001−167110号公報 特開2000−67369号公報 特開平7−262274号公報 特開2005−107885号公報
本発明は上記実情に鑑みてなされたものであって、その目的とするところは、ユーザによる顔情報を手がかりとしたシーン検索を支援するための技術を提供することにある。
上記目的を達成するために本発明は、以下の構成を採用する。
本発明の動画表示装置は、動画から選択された複数のフレームの画像の各々から顔を検出する顔検出手段と、前記各画像について、前記検出された顔に関する顔情報を取得する顔情報取得手段と、前記顔情報取得手段によって画像から取得された顔情報を、その画像の動画中のフレーム位置とともに記憶する顔情報記憶手段と、前記顔情報記憶手段から前記各画像のフレーム位置及び顔情報を読み込み、前記各画像のフレーム位置と顔情報との関係を示すグラフを生成するグラフ生成手段と、前記動画を前記グラフとともに表示する表示手段と、を備える。
顔検出の対象となる複数のフレームは、動画を構成する全部のフレームでもよいし、所定数おきに抜き出された一部のフレームでもよい。前記グラフの形式は問わないが、例え
ば、棒グラフ、折れ線グラフなどを好ましく採用できる。
上記構成によれば、グラフを見ることによって動画全体を通しての顔情報の推移を一目で把握できる。よって、フレームごとの顔情報や顔情報の時系列な変化を手がかりとして、所望のシーンのフレーム位置の当たりを簡単につけることができる。よって、所望のシーンを簡単かつ素早く発見することができる。
上記構成において、前記顔情報が、前記各画像から検出された顔の数を含み、前記グラフが、前記各画像のフレーム位置と顔の数との関係を示すものであるとよい。これにより、フレームごとの顔の数や顔の数の時系列な変化を一目で把握でき、顔の数を手がかりとするシーン検索が容易になる。
前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて所定のクラスのいずれかに分類する顔分類手段を有し、前記顔情報が、前記検出された顔が分類されたクラスを含み、前記グラフが、前記顔の数をクラス別に示すものであることも好ましい。
分類の基準としては、例えば、ピントの良し悪し、顔の大きさ、顔の向き、目の開閉、視線の向き、性別、年齢(若しくは年齢層)、人種、表情、ひげの有無、メガネの有無、顔の画像中の位置などがある。顔分類手段は1種類の分類を行うだけでもよいし、複数種類の分類を行ってもよい。
この構成によれば、顔の全体数の推移に加え、クラス別の顔の数の推移や、顔の全体数に占めるクラスごとの割合及びその推移なども一目で把握できる。クラスに関する手がかりが増えたことで、所望のシーンの発見がさらに容易になる。
前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて既知の顔か否か同定する顔同定手段を有し、前記顔情報記憶手段が、前記顔情報を人別に記憶し、前記グラフが、前記顔情報を人別に示すものであることも好ましい。
既知の顔とは、処理中のフレーム(検出された顔が含まれているフレーム)よりも前のフレームにおいて検出された顔、又は、装置に予め登録されている顔である。顔の同定は、「その顔の持ち主が誰であるか」という個人の特定までは必要なく、検出された複数の顔を人別に区別できさえすれば十分である。
上記構成によれば、グラフを見ることによって動画全体を通しての各人の顔情報の推移を一目で把握できる。よって、その情報を手がかりとして、所望のシーンのフレーム位置の当たりを簡単につけることができ、シーン検索に役立てることができる。
前記顔情報が、前記検出された顔の顔画像から抽出される特徴量を含み、前記グラフが、人別に、前記各画像のフレーム位置と特徴量の値との関係を示すものであることも好ましい。
あるいは、前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて所定のクラスのいずれかに分類する顔分類手段を有し、前記顔情報が、前記検出された顔が分類されたクラスを含み、前記グラフが、人別に、前記各画像のフレーム位置とクラスとの関係を示すものであることも好ましい。
特徴量としては、例えば、ピントの度合い(若しくはボケ度合い)、顔の大きさ、顔の向き(角度)、目の開き度合い、視線の向き(角度)、顔の画像中の位置などがある。1種類の特徴量を抽出するだけでもよいし、複数種類の特徴量を抽出してもよい。分類とし
ては、上述したものを採用できる。
このように顔情報として特徴量の値やクラスを表示することで、各人の顔の状態(写りの良さ)の推移を一目で把握できる。これにより、最も写りの良いシーンを見つける、といった検索が可能となる。
また、複数の人のグラフが同時に表示されることも好ましい。これにより、複数の人の顔の状態の推移を比較したり、全員の顔の状態が良好になったところを見つけたり、といったことが可能となる。
また、複数の顔情報のグラフが同時に表示されることも好ましい。これにより、複数の顔情報を組み合わせたシーン検索が可能となる。
前記表示手段が、ユーザによりフレーム位置が指定された場合に、前記動画の中から前記指定されたフレーム位置に対応する画像を表示することも好ましい。
これにより、グラフを見ることによって当たりをつけたフレーム位置を指定すれば直ちにその画像を確認できるので、所望のシーンを簡単かつ素早く発見できる。
本発明は、上記手段の少なくとも一部を有する動画表示装置として捉えてもよいし、上記処理の少なくとも一部を含む動画表示方法、または、かかる方法を実現するためのプログラムやそのプログラムを記録した記録媒体として捉えることもできる。なお、上記手段および処理の各々は可能な限り互いに組み合わせて本発明を構成することができる。
本発明によれば、ユーザによる顔情報を手がかりとしたシーン検索を支援することができる。
以下に図面を参照して、この発明の好適な実施の形態を例示的に詳しく説明する。
<装置構成>
図1は、本発明の実施形態に係る動画表示装置の機能構成を示すブロック図である。
動画表示装置は、動画の表示及び動画のシーン検索を行うための装置であって、図1に示すように、動画記憶部10、入力部11、顔検出部12、顔情報取得部13、顔情報記憶部14、グラフ生成部15、表示部16を備えている。
この動画表示装置は典型的には演算処理装置(CPU)、主記憶装置(メモリ)、補助記憶装置(ハードディスクなど)、ディスプレイ、入力装置(マウスなど)を備えた汎用のコンピュータと、このコンピュータで動作するソフトウエア(プログラム)から構成可能である。図1に示す機能要素は、演算処理装置がソフトウエア(プログラム)を実行し、必要に応じて主記憶装置、補助記憶装置、ディスプレイ、入力装置などのハードウエア資源を制御することで実現される。ただし、これらの機能要素の機能の一部又は全部を専用のチップで構成しても構わない。
動画記憶部10は表示及び検索の対象となる動画を記憶している。動画記憶部10は不揮発性の記憶装置(例えばハードディスク(HDD)やDVDなど)で構成可能である。なお、ローカル接続された記憶装置に限らず、ネットワーク接続された記憶装置に動画記憶部10を設けてもよい。表示及び検索の対象となる動画は、ビデオカメラ等で撮影した
ものでも、放送番組等を録画したものでも、記録媒体若しくはネットワークを介して提供されたデータであってもよい。
入力部11は、ユーザが動画表示装置に指示を入力するための機能であり、例えば、キーボードとポインティングデバイス(マウス、タッチパッド、タッチパネル、視線入力装置など)から構成される。
顔検出部12は、動画記憶部10から動画を読み込み、その動画から処理対象フレームの画像を取得し、各画像から顔を検出する機能である。顔検出結果(検出された顔の数、各顔の位置・大きさなど)は顔情報取得部13に渡される。
顔検出処理には、既存のどのような技術が適用されてもよい。一例を挙げると、(1)顔全体の輪郭に対応した基準テンプレートを用いたテンプレートマッチングによって顔を検出する手法、(2)顔の器官(目、鼻、耳など)に基づくテンプレートマッチングによって顔を検出する手法、(3)クロマキー処理によって頭部などの頂点を検出し、この頂点に基づいて顔を検出する手法、(4)肌の色に近い領域を検出し、その領域を顔として検出する手法、(5)ニューラルネットワークを使って教師信号による学習を行い、顔らしい領域を顔として検出する手法、などがある。
顔情報取得部13は、検出された顔に関する種々の情報を取得し、それらを顔情報として顔情報記憶部14に記録する機能である。本実施形態の顔情報取得部13は、顔同定機能130と顔分類機能131の2つの機能を有している。
顔同定機能130は、検出された顔をその顔画像に基づいて既知の顔か否か同定する機能である。具体的には、顔同定機能130は、最初の処理対象フレームから検出された顔のそれぞれに異なる識別番号(ラベル)を付与し、次のフレーム以降は、既にラベリングされた顔と同一の顔には同一の識別番号を付与し、既にラベリングされた顔の中に同一の顔が無ければ新しい識別番号を付与していく。これにより、検出された複数の顔を人別に区別することができる。なお、装置に予め顔(顔を定義する情報)及び個人情報を登録しておき、その登録された顔と比較することによって「検出された顔の持ち主が誰であるか」という個人の特定まで行うようにしてもよい。
顔同定機能130における同一顔の推定には、既存のどのような技術が適用されてもよい。例えば、顔認識技術を利用して、顔画像から抽出される顔特徴量の類似度に基づいて同一顔か否かを推定する手法を好ましく採用できる。
顔分類機能131は、検出された顔をその顔画像に基づいて所定のクラスのいずれかに分類(クラス分け)する機能である。本実施形態の顔分類機能131は、ピントの良し悪し、顔の大きさ、顔の向き、目の開閉、視線の向き、性別、年齢(年齢層)、人種、表情、ひげの有無、メガネの有無、顔の位置、の各項目について顔を分類可能である。
例えば、ピントの良し悪しについては、特徴量として顔画像のボケ度合い(例えば、低周波成分への偏り)を求め、その値に応じて顔を「ピント良好/通常/ピンぼけ」のいずれかのクラスに分類する。顔の大きさについては、特徴量として顔画像の幅や面積を用い、その値に応じて「大/中/小」のいずれかのクラスに分類する。顔の向きについては、顔の輪郭と目・鼻・口などの顔器官の相対的位置関係を調べ、「正面/斜め/横」のいずれかのクラスに分類する。特徴量として正面(カメラ方向)に対する顔の角度を算出してもよい。目の開閉については、まぶたの縁(まつげ)や瞳を認識することで「全開/半開/閉」のように分類する。特徴量として目の開き度合いを算出してもよい。視線の向きについては、瞳の位置などから「カメラ方向/非カメラ方向」のように分類する。特徴量と
して視線の角度を算出してもよい。性別、年齢(年齢層)、人種などの属性推定については既存の技術を利用可能である。性別は「男性/女性」のように分類され、年齢は「10歳未満/10代・20代/30代・40代/50代・60代/70歳以上」とか「子供/大人/老人」のように分類され、人種は「コーカソイド/モンゴロイド/ネグロイド」のように分類される。表情は「幸福/悲しみ/恐怖/怒り/驚き/嫌悪」のように分類される。ひげの有無やメガネの有無はそれぞれ「有り/無し」で分類される。顔の位置は特徴量としての画像座標に基づき「中央/右/左」のように分類される。なお、ここで挙げた特徴量及び分類は一例であり、適宜設計変更しても構わない。
顔情報記憶部14は、顔情報取得部13によって画像から取得された顔情報を、その画像の動画中のフレーム位置とともに記憶するデータベースである。顔情報記憶部14は不揮発性の記憶装置(例えばハードディスクなど)で構成可能である。顔情報記憶部14を動画記憶部10と同一の記憶装置に設けることも好ましい。
グラフ生成部15は、顔情報記憶部14から各画像のフレーム位置及び顔情報を読み込み、各画像のフレーム位置と顔情報との関係を示すグラフ(インジケータ)を生成する機能である。グラフの具体的な形式については後述する。
表示部16は、動画記憶部10からの動画の読み込み、動画の再生、動画表示画面とグラフ表示画面を含むユーザインターフェイスの生成、ディスプレイへの表示出力などを担う機能である。また、ユーザインターフェイスにおいてユーザからのフレーム位置の指定を受け付け、その指定されたフレーム位置に対応する画像を表示する機能も有する。
<顔情報作成処理>
図2のフローチャートに沿って、動画表示装置における顔情報作成処理の流れを説明する。
ユーザが入力部11を用いて顔情報作成処理の対象とすべき動画を指定すると、図2に示す処理が開始される。
まず、顔検出部12が動画記憶部10から処理対象となるフレームの画像を読み込む(ステップS100)。そして、顔検出部12はその画像から顔を検出する(ステップS101)。顔が検出されたらステップS103に処理を進め、顔が検出されなかったらステップS109に処理を進める(ステップS102)。図3は、画像及び顔検出結果の一例を示している。この例では、画像から3つの顔が検出されているので、ステップS103が実行される。
ステップS103では、顔同定機能130が1つ目の顔の同定を行う。ここで、既知の顔と同一であると判定されたら(ステップS104;YES)、その既知の顔と同一の識別番号を付与し(ステップS105)、未知の顔であると判定されたら(ステップS104;NO)、新しい識別番号を付与する(ステップS106)。
続いて、顔分類機能131が顔画像から特徴量の抽出及び顔の分類を行う(ステップS107)。
未処理の顔がある場合は(ステップS108;YES)、次の顔に対してステップS103〜S107の処理を繰り返す。画像から検出された顔全てについて顔同定及び顔分類を行ったら、ステップS109に処理を進める(ステップS108;NO)。
ステップS109では、ステップS101〜S108で取得された顔情報が当該画像の
フレーム位置とともに顔情報記憶部14に記録される。図4は、図3の画像に関する記録情報の一例を示している。記録情報には、フレーム位置(フレーム番号)、検出された顔の数、各顔の識別番号、各顔に関する特徴量の値及びクラスが含まれている。
次の処理対象フレームがある場合は(ステップS110;YES)、そのフレームに対してステップS100〜S109の処理を繰り返す。なお、動画を構成する全てのフレームを処理対象に選んでもよいが、処理の高速化を図るため、Nフレーム(Nは1より大きい整数)に1つの割合で処理対象フレームを選択してもよい。全ての処理対象フレームについて顔情報の取得を終えたら、処理を終了する(ステップS110;NO)。
上記顔情報取得処理が完了し、顔情報記憶部14に顔情報が記録された後は、グラフ(インジケータ)の表示及びそれを利用したシーン検索が可能となる。顔情報は動画と対応付けて管理されており、一旦作成された後はグラフ表示のたびに読み込まれ利用される。よって2回目以降はグラフの表示に要する時間を大幅に短縮できる。なお、ここではユーザによる指示を受けて顔情報取得処理を開始する例を挙げたが、動画再生中にバックグラウンドで顔情報取得処理を実行するようにしてもよい。
<表示例>
グラフの表示態様(グラフの形式、グラフに表示する顔情報の種類など)はユーザが自由に設定できる。ユーザによる設定内容は記録され、次回のグラフ表示のときにもその設定内容に従ってグラフが表示される。以下、代表的な表示態様を例示する。
図5は、顔の数の推移を折れ線グラフで示す表示例である。動画を再生表示する動画表示画面20の下にグラフ表示画面21が配置されている。グラフの横軸はフレーム位置を表しており、縦軸は各フレーム位置における顔の数を表している。またグラフ上には、再生中のフレーム位置を示すマーク22が表示されている。
ユーザは、入力部11を用いて、グラフ表示画面21上の任意の位置をクリックするか、スライダー23を移動させることで、フレーム位置を指定可能である。フレーム位置の指定があると、表示部16がその指定された位置にマーク22を移動させるとともに、動画表示画面20に指定されたフレーム位置に対応する画像を表示する。
このグラフを見ることによって、ユーザは各フレーム位置における顔の数、及び、動画全体を通しての顔の数の推移を一目で把握することができる。よって、この情報を手がかりとして、所望のシーンのフレーム位置の当たりをつけることができる。そして当たりをつけたフレーム位置の画像を直ちに確認できるので、所望のシーンを簡単かつ迅速に発見することができる。例えば、「家族5人全員が写っているシーン」を見つけたいのであれば、顔の数が「5」のフレームを順に確かめていけばよいし、「子供が1人で写っているシーン」を見つけたいのであれば、顔の数が「1」のフレームを順に確かめていけばよい。逆に、顔の数が「0」のフレームを見れば、「風景だけが写っているシーン」を検索可能である。
図6は、顔の数をクラス別に示した表示例であり、(a)は棒グラフの例、(b)は折れ線グラフの例を示している。この表示例では、男性/女性の別に顔の数を表示している。また動画表示画面20においても男性/女性の区別がつくように顔枠を表示している。なお、性別以外の分類についても同じようにクラス別表示が可能である。
図6のようなグラフを見れば、顔の全体数の推移に加え、クラス別の顔の数の推移や、顔の全体数に占めるクラスごとの割合及びその推移なども一目で把握できる。クラスに関する手がかりが増えたことで、所望のシーンの発見がさらに容易になる。例えば、「夫婦
だけで写っているシーン」を見つけたいのであれば、男性「1」かつ女性「1」のフレームを順に確かめていけばよい。
図7も、顔の数をクラス別に示した表示例である。この例では、顔の向きをクラス別に表示している。また、動画表示画面20に、顔枠でなく、クラスを表示している。
図8は、顔情報を人別に示した表示例である。この例では、識別番号A002が付された人の顔の大きさ及び顔の向きがそれぞれ折れ線グラフで表示されている。なお、図8では2種類の顔情報を表示しているが、1種類の顔情報あるいは2種類より多い顔情報を表示してもよい。
このようなグラフを見れば、動画全体を通しての各人の顔情報の推移を一目で把握できる。特に、顔の大きさ、顔の向き、ピント、目の開き度合い、視線の向き、表情、顔の位置などの顔情報は、「写りの良さ」に関係がある。よって、これらの情報をグラフ表示することで、写りの良いシーンを探すことが容易になる。しかも、図8のように複数種類の顔情報を同時にグラフ表示することで、複数の顔情報を組み合わせた複合検索が可能となる。図8の例では、顔が正面を向き、かつ、大きく写っているシーンが動画の後半に多いことがわかる。
図9も、顔情報を人別に示した表示例である。この例では、識別番号A001とA002それぞれの顔の大きさが折れ線グラフで表示されている。なお、2人より多い人数のグラフを同時に表示してもよい。また図8のように複数種類の顔情報を表示することも好ましい。
このようなグラフを見れば、複数の人の顔の状態の推移を比較したり、全員の顔の状態が良好になったところを見つけたり、といったことが可能となる。
なお、上記表示例はあくまで一例であり、グラフの形式や画面レイアウトなどは適宜変形可能である。例えば、縦軸をフレーム位置にして、横軸を顔情報にしてもよい。棒グラフと折れ線グラフ以外のグラフを用いてもよい。グラフ表示画面を動画表示画面の上や横に配置したり、両画面を別ウィンドウで表示したりしてもよい。
また、このグラフで表示された情報をどのようにシーン検索に役立てるかはユーザの工夫次第であり、上述した例に限るものではない。
また、上記実施形態では、顔情報として、顔の数、顔の位置、顔の大きさ、ピント、顔の向き、目の開閉、視線の向き、性別、年齢、人種、表情、ひげの有無、メガネの有無を取得している。しかし、顔情報はこれらに限らず、顔画像から取得可能な他の情報を用いてもよい。また、これら全ての顔情報を取得する必要はなく、少なくとも1種類の情報を取得すればよい。また、上記実施形態では、顔同定機能により顔の同定(人の識別)を行ったが、人別にグラフ表示を行わないのであれば、顔同定を行う必要はない。
図1は、動画表示装置の機能構成を示すブロック図である。 図2は、顔情報作成処理の流れを示すフローチャートである。 図3は、画像及び顔検出結果の一例を示す図である。 図4は、図3の画像に関する記録情報の一例を示す図である。 図5は、顔の数を折れ線グラフで示した表示例である。 図6(a)は、顔の数を男女別に棒グラフで示した表示例であり、図6(b)は、顔の数を男女別に折れ線グラフで示した表示例である。 図7は、顔の数を顔の向き別に折れ線グラフで示した表示例である。 図8は、顔の大きさ及び向きを人別に折れ線グラフで示した表示例である。 図9は、複数の人の顔の大きさを折れ線グラフで示した表示例である。
符号の説明
10 動画記憶部
11 入力部
12 顔検出部
13 顔情報取得部
130 顔同定機能
131 顔分類機能
14 顔情報記憶部
15 グラフ生成部
16 表示部
20 動画表示画面
21 グラフ表示画面
22 マーク
23 スライダー

Claims (11)

  1. 動画から選択された複数のフレームの画像の各々から顔を検出する顔検出手段と、
    前記各画像について、前記検出された顔に関する顔情報を取得する顔情報取得手段と、
    前記顔情報取得手段によって画像から取得された顔情報を、その画像の動画中のフレーム位置とともに記憶する顔情報記憶手段と、
    前記顔情報記憶手段から前記各画像のフレーム位置及び顔情報を読み込み、前記各画像のフレーム位置と顔情報との関係を示すグラフを生成するグラフ生成手段と、
    前記動画を前記グラフとともに表示する表示手段と、
    を備える動画表示装置。
  2. 前記顔情報が、前記各画像から検出された顔の数を含み、
    前記グラフが、前記各画像のフレーム位置と顔の数との関係を示すものである
    請求項1記載の動画表示装置。
  3. 前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて所定のクラスのいずれかに分類する顔分類手段を有し、
    前記顔情報が、前記検出された顔が分類されたクラスを含み、
    前記グラフが、前記顔の数をクラス別に示すものである
    請求項2記載の動画表示装置。
  4. 前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて既知の顔か否か同定する顔同定手段を有し、
    前記顔情報記憶手段が、前記顔情報を人別に記憶し、
    前記グラフが、前記顔情報を人別に示すものである
    請求項1記載の動画表示装置。
  5. 前記顔情報が、前記検出された顔の顔画像から抽出される特徴量を含み、
    前記グラフが、人別に、前記各画像のフレーム位置と特徴量の値との関係を示すものである
    請求項4記載の動画表示装置。
  6. 前記顔情報取得手段が、前記検出された顔をその顔画像に基づいて所定のクラスのいずれかに分類する顔分類手段を有し、
    前記顔情報が、前記検出された顔が分類されたクラスを含み、
    前記グラフが、人別に、前記各画像のフレーム位置とクラスとの関係を示すものである請求項4記載の動画表示装置。
  7. 複数の人のグラフが同時に表示される請求項4〜6のいずれかに記載の動画表示装置。
  8. 複数の顔情報のグラフが同時に表示される請求項4〜7のいずれかに記載の動画表示装置。
  9. 前記表示手段が、
    ユーザによりフレーム位置が指定された場合に、前記動画の中から前記指定されたフレーム位置に対応する画像を表示する
    請求項1〜8のいずれかに記載の動画表示装置。
  10. 記憶装置及び表示装置を備えるコンピュータが、
    動画から選択された複数のフレームの画像の各々から顔を検出し、
    前記各画像について、前記検出された顔に関する顔情報を取得し、
    画像から取得された顔情報を、その画像の動画中のフレーム位置とともに前記記憶装置に記録し、
    前記記憶装置から前記各画像のフレーム位置及び顔情報を読み込み、前記各画像のフレーム位置と顔情報との関係を示すグラフを生成し、
    前記動画を前記グラフとともに前記表示装置に表示する
    動画表示方法。
  11. 記憶装置及び表示装置を備えるコンピュータに、
    動画から選択された複数のフレームの画像の各々から顔を検出する処理と、
    前記各画像について、前記検出された顔に関する顔情報を取得する処理と、
    画像から取得された顔情報を、その画像の動画中のフレーム位置とともに前記記憶装置に記録する処理と、
    前記記憶装置から前記各画像のフレーム位置及び顔情報を読み込み、前記各画像のフレーム位置と顔情報との関係を示すグラフを生成する処理と、
    前記動画を前記グラフとともに前記表示装置に表示する処理と、
    を実行させるプログラム。
JP2006109385A 2006-04-12 2006-04-12 動画表示装置 Active JP4797761B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006109385A JP4797761B2 (ja) 2006-04-12 2006-04-12 動画表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006109385A JP4797761B2 (ja) 2006-04-12 2006-04-12 動画表示装置

Publications (2)

Publication Number Publication Date
JP2007280325A true JP2007280325A (ja) 2007-10-25
JP4797761B2 JP4797761B2 (ja) 2011-10-19

Family

ID=38681670

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006109385A Active JP4797761B2 (ja) 2006-04-12 2006-04-12 動画表示装置

Country Status (1)

Country Link
JP (1) JP4797761B2 (ja)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009164828A (ja) * 2007-12-28 2009-07-23 Sony Corp 画像処理装置、インデックス生成装置、撮像装置、インデックス生成方法およびプログラム
JP2010021893A (ja) * 2008-07-11 2010-01-28 Canon Inc 動画像処理装置および動画像処理方法
JP2010074399A (ja) * 2008-09-17 2010-04-02 Sony Corp 構図判定装置、構図判定方法、画像処理装置、画像処理方法、プログラム
JP2010103765A (ja) * 2008-10-23 2010-05-06 Toshiba Corp 電子機器および映像処理方法
JP2010103843A (ja) * 2008-10-24 2010-05-06 Toshiba Corp 電子機器及び映像表示方法
JP2010146159A (ja) * 2008-12-17 2010-07-01 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
JP2010171676A (ja) * 2009-01-22 2010-08-05 Olympus Imaging Corp カメラ、画像表示装置、画像表示方法、およびプログラム
JP2011004409A (ja) * 2010-07-30 2011-01-06 Casio Computer Co Ltd 撮像装置、制御プログラム及び表示制御方法
US8184945B2 (en) 2008-12-24 2012-05-22 Kabushiki Kaisha Toshiba Authoring device and authoring method
US8559683B2 (en) 2007-09-28 2013-10-15 Kabushiki Kaisha Toshiba Electronic apparatus and scene-type display method
US9014537B2 (en) 2006-07-04 2015-04-21 Sony Corporation Information processing apparatus and method, and program
WO2016147652A1 (ja) * 2015-03-19 2016-09-22 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法および記録媒体
WO2016147653A1 (ja) * 2015-03-19 2016-09-22 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法および記録媒体
JP2017208733A (ja) * 2016-05-19 2017-11-24 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
US10922864B2 (en) 2016-05-19 2021-02-16 Canon Kabushiki Kaisha Image processing device, image processing method and program, for object detection in an image

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001357404A (ja) * 2000-06-14 2001-12-26 Minolta Co Ltd 画像抽出装置
JP2006033659A (ja) * 2004-07-21 2006-02-02 Sony Corp コンテンツ記録再生装置、コンテンツ記録再生方法及びそのプログラム
JP2006031678A (ja) * 2004-05-28 2006-02-02 Sony United Kingdom Ltd 画像処理
WO2006025272A1 (ja) * 2004-09-01 2006-03-09 Nec Corporation 映像分類装置、映像分類プログラム、映像検索装置、および映像検索プログラム
JP2007241496A (ja) * 2006-03-07 2007-09-20 Sony Corp 画像処理装置、画像処理方法、およびプログラム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001357404A (ja) * 2000-06-14 2001-12-26 Minolta Co Ltd 画像抽出装置
JP2006031678A (ja) * 2004-05-28 2006-02-02 Sony United Kingdom Ltd 画像処理
JP2006033659A (ja) * 2004-07-21 2006-02-02 Sony Corp コンテンツ記録再生装置、コンテンツ記録再生方法及びそのプログラム
WO2006025272A1 (ja) * 2004-09-01 2006-03-09 Nec Corporation 映像分類装置、映像分類プログラム、映像検索装置、および映像検索プログラム
JP2007241496A (ja) * 2006-03-07 2007-09-20 Sony Corp 画像処理装置、画像処理方法、およびプログラム

Cited By (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9672411B2 (en) 2006-07-04 2017-06-06 Sony Corporation Information processing apparatus and method, and program
US9014537B2 (en) 2006-07-04 2015-04-21 Sony Corporation Information processing apparatus and method, and program
US8559683B2 (en) 2007-09-28 2013-10-15 Kabushiki Kaisha Toshiba Electronic apparatus and scene-type display method
JP2009164828A (ja) * 2007-12-28 2009-07-23 Sony Corp 画像処理装置、インデックス生成装置、撮像装置、インデックス生成方法およびプログラム
JP4506832B2 (ja) * 2007-12-28 2010-07-21 ソニー株式会社 画像処理装置、インデックス生成装置、撮像装置、インデックス生成方法およびプログラム
US8218620B2 (en) 2007-12-28 2012-07-10 Sony Corporation Picture processing apparatus, index creating apparatus, imaging apparatus, index creating method, and program
JP2010021893A (ja) * 2008-07-11 2010-01-28 Canon Inc 動画像処理装置および動画像処理方法
JP2010074399A (ja) * 2008-09-17 2010-04-02 Sony Corp 構図判定装置、構図判定方法、画像処理装置、画像処理方法、プログラム
US8121349B2 (en) 2008-10-23 2012-02-21 Kabushiki Kaisha Toshiba Electronic apparatus and video processing method
JP2010103765A (ja) * 2008-10-23 2010-05-06 Toshiba Corp 電子機器および映像処理方法
JP4620150B2 (ja) * 2008-10-23 2011-01-26 株式会社東芝 電子機器および映像処理方法
JP2010103843A (ja) * 2008-10-24 2010-05-06 Toshiba Corp 電子機器及び映像表示方法
US7986819B2 (en) 2008-10-24 2011-07-26 Kabushiki Kaisha Toshiba Electronic apparatus and video display method
JP4496264B2 (ja) * 2008-10-24 2010-07-07 株式会社東芝 電子機器及び映像表示方法
JP2010146159A (ja) * 2008-12-17 2010-07-01 Aisin Seiki Co Ltd 瞼検出装置、瞼検出方法及びプログラム
US8184945B2 (en) 2008-12-24 2012-05-22 Kabushiki Kaisha Toshiba Authoring device and authoring method
JP2010171676A (ja) * 2009-01-22 2010-08-05 Olympus Imaging Corp カメラ、画像表示装置、画像表示方法、およびプログラム
JP2011004409A (ja) * 2010-07-30 2011-01-06 Casio Computer Co Ltd 撮像装置、制御プログラム及び表示制御方法
WO2016147653A1 (ja) * 2015-03-19 2016-09-22 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法および記録媒体
US10867213B2 (en) 2015-03-19 2020-12-15 Nec Corporation Object detection device, object detection method, and recording medium
JP7460001B2 (ja) 2015-03-19 2024-04-02 日本電気株式会社 情報処理システム、情報処理方法、およびプログラム
JPWO2016147653A1 (ja) * 2015-03-19 2018-02-01 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法およびプログラム
US20180060697A1 (en) * 2015-03-19 2018-03-01 Nec Corporation Object detection device, object detection method, and recording medium
US10339422B2 (en) 2015-03-19 2019-07-02 Nec Corporation Object detection device, object detection method, and recording medium
US10373021B2 (en) 2015-03-19 2019-08-06 Nec Corporation Object detection device, object detection method, and recording medium
US10572772B2 (en) 2015-03-19 2020-02-25 Nec Corporation Object detection device, object detection method, and recording medium, and recording medium
US10755143B2 (en) 2015-03-19 2020-08-25 Nec Corporation Object detection device, object detection method, and recording medium
WO2016147652A1 (ja) * 2015-03-19 2016-09-22 日本電気株式会社 オブジェクト検出装置、オブジェクト検出方法および記録媒体
US11914851B2 (en) 2015-03-19 2024-02-27 Nec Corporation Object detection device, object detection method, and recording medium
JP2021051791A (ja) * 2015-03-19 2021-04-01 日本電気株式会社 情報処理装置、情報処理方法およびプログラム
US11373061B2 (en) 2015-03-19 2022-06-28 Nec Corporation Object detection device, object detection method, and recording medium
JP7107354B2 (ja) 2015-03-19 2022-07-27 日本電気株式会社 情報処理装置、情報処理方法およびプログラム
JP2022153453A (ja) * 2015-03-19 2022-10-12 日本電気株式会社 情報処理システム、情報処理方法、およびプログラム
JP7248177B2 (ja) 2015-03-19 2023-03-29 日本電気株式会社 情報処理システム、情報処理方法、およびプログラム
US11734920B2 (en) 2015-03-19 2023-08-22 Nec Corporation Object detection device, object detection method, and recording medium
US10922864B2 (en) 2016-05-19 2021-02-16 Canon Kabushiki Kaisha Image processing device, image processing method and program, for object detection in an image
JP2017208733A (ja) * 2016-05-19 2017-11-24 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム

Also Published As

Publication number Publication date
JP4797761B2 (ja) 2011-10-19

Similar Documents

Publication Publication Date Title
JP4797761B2 (ja) 動画表示装置
JP4765732B2 (ja) 動画編集装置
Doughty et al. Who's better? who's best? pairwise deep ranking for skill determination
JP4168940B2 (ja) 映像表示システム
JP5649425B2 (ja) 映像検索装置
US8345118B2 (en) Image capturing apparatus, image capturing method, album creating apparatus, album creating method, album creating system and computer readable medium
JP5510167B2 (ja) ビデオ検索システムおよびそのためのコンピュータプログラム
Yao et al. Oscar: On-site composition and aesthetics feedback through exemplars for photographers
KR101346539B1 (ko) 얼굴들을 상관시킴으로써 디지털 이미지들을 구조화하기
US20100156834A1 (en) Image selection method
JP5791364B2 (ja) 顔認識装置、顔認識方法、顔認識プログラム、およびそのプログラムを記録した記録媒体
US9179201B2 (en) Systems and methods of detecting significant faces in video streams
JP4881034B2 (ja) 電子アルバム編集システム、電子アルバム編集方法、及び電子アルバム編集プログラム
JP6369470B2 (ja) 情報処理システム
JP6529314B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP4490214B2 (ja) 電子アルバム表示システム、電子アルバム表示方法、及び電子アルバム表示プログラム
JP5163008B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
EP3324307B1 (en) Retrieval device, retrieval method, and computer-readable medium
JP2006079460A (ja) 電子アルバム表示システム、電子アルバム表示方法、電子アルバム表示プログラム、画像分類装置、画像分類方法、及び画像分類プログラム
JP2016062372A (ja) 情報処理装置及び情報処理プログラム
JP2006163527A (ja) 画像検索装置及び方法
JP4995770B2 (ja) 画像辞書生成装置,画像辞書生成方法,および画像辞書生成プログラム
KR101571888B1 (ko) 표정 인식을 이용한 영상 추출 장치 및 방법
Yoshida et al. Spatiotemporal video highlight by neural network considering gaze and hands of surgeon in egocentric surgical videos
US9373021B2 (en) Method, apparatus and system for outputting a group of images

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090209

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110111

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110302

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20110322

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110530

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20110607

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110705

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110718

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140812

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4797761

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150