JP4120597B2 - 部分コンテンツ作成方法及び装置及びプログラム - Google Patents

部分コンテンツ作成方法及び装置及びプログラム Download PDF

Info

Publication number
JP4120597B2
JP4120597B2 JP2004041594A JP2004041594A JP4120597B2 JP 4120597 B2 JP4120597 B2 JP 4120597B2 JP 2004041594 A JP2004041594 A JP 2004041594A JP 2004041594 A JP2004041594 A JP 2004041594A JP 4120597 B2 JP4120597 B2 JP 4120597B2
Authority
JP
Japan
Prior art keywords
video
comment
reference information
section
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004041594A
Other languages
English (en)
Other versions
JP2005236546A (ja
Inventor
和 宮川
正志 森本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2004041594A priority Critical patent/JP4120597B2/ja
Publication of JP2005236546A publication Critical patent/JP2005236546A/ja
Application granted granted Critical
Publication of JP4120597B2 publication Critical patent/JP4120597B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、部分コンテンツ作成方法及び装置及びプログラムに係り、特に、コンピュータ上での映像を介したコミュニケーションを行う際に、映像に対して入力されたコメントと共に映像区間への参照情報を入力することで部分コンテンツの作成を用意するための部分コンテンツ作成方法及び装置及びプログラムに関する。
ディジタル化された映像を要約する場合、映像中から重要な部位を特定する技術が必要となる。従来の映像要約技術では、付与された属性情報(例えば、キーワード)から重要と考えられる属性をユーザに入力・選択させ、適切な映像区間を決定する手法や、映像の特徴から重要度を推定する方法、ユーザの能動的/暗黙的なスコア付けを利用して映像区間を選定する手法などを用い、映像中の特定部位を抽出し、映像を要約している。
例えば、属性を用いた手法では、映像の種別を属性として映像区間に付与し、その属性をユーザが選択することによって注目する映像区間一覧を作成する。一例として、CM属性を持つ区間の代表画像のみを表示することで、映像中にどのようなCMが含まれているかを容易に一覧できる映像要約表示方法を示している。この手法は、比較的判り易い情報を用いて関連する映像区間を能動的に指定できるため、ユーザにとって明確な映像要約が可能な点が特徴である(例えば、特許文献1参照)。
また、重要度を推定する方法では、映像の特徴である画像、音声、Closed Caption(映像中の文字)を強調させることにより映像を要約する。Closed Caption中の重要な単語を推定し、それと関連した映像、音声区間に対して、顔の検出結果や画面の動き、音量などの特徴量から重要度を求めることで、最大1/20程度までに自動的に映像を圧縮できると述べられている(例えば、非特許文献1参照)。
ユーザのスコア付けを用いた手法では、各映像区間に対してユーザがコメントを付与できるシステムを対象に、コメントから映像区間への評価情報を取得する手法を提案している。一例として、各映像区間でのコメントの総量を暗黙的なスコア付けと捉えることで、映像区間の重要度を求め、重要な映像区間を時系列に繋ぎ合わせた要約映像を作成している。この手法は、刻々と付与されるコメントを対象とするため、その時点で最も重要と思われる映像区間を用いて要約映像を作成することを特徴とする。
特開平9−219825「映像要約方法及び装置」 M.Smith and T. Kanade, "Video skimming and characterization through the combination of image and language understanding techniques",CVPR, pp.775-781, 1997
しかしながら、上記の属性情報を用いた要約方法では、ユーザが望む属性情報が映像に付与されていない場合に問題が発生する。また、属性を増やそうとした場合、手動ではそのコストが問題となり、自動ではノイズが増えてしまうため、望ましい映像要約ができない恐れがある。
また、映像の特徴量から重要度を推定する方法では、ユーザの意図を反映し辛いことが問題となる。特に、色情報のような数値で表される映像特徴量は、キーワードなどの明確な情報と異なり、ユーザの意図との関連付けが難しく、ユーザの思い通りに要約映像を作ることが困難となる。
ユーザのスコアを用いた方法では、映像区間の重要度を統計的に求めることが問題となる。“良い”、“悪い”、“面白い”などの評価や上記の例に挙げたコメントの総量などを用いてスコアを求めた場合、必ずしもユーザが求める要約映像が作成されるとは限らない。例えば、“良い”場面だけを集めた映像がユーザにとって適切な要約映像になるとは限らない。
また、これらの技術は、映像単体を要約することに注目しており、例えば、数十話に亘るドラマ映像など、複数の映像からストーリに沿って要約する場合などを想定していない。
本発明は、上記の点に鑑みなされたもので、映像を用いたコミュニケーション手段に着目し、情報の不足をユーザの入力するコメントによって補い、且つ、コメントの参照を用いることで、ユーザの意図に沿った複数映像に跨る明確な映像要約を可能とする部分コンテンツ作成方法及び装置及びプログラムを提供することを目的とする。
上記の課題を解決するために、本発明では、ディジタル映像を要約する上で、まず、映像を用いたコミュニケーション手段において、映像及び映像区間をリンク(参照)したコメントを容易に入力可能な手段を提供し、その後、コメント及びリンクを用いて映像区間を選択的に繋げることで、要約映像を作成する方法及び装置及びプログラムを提供する。
以下の方法は、次々と入力されるコメントを対象とすることで情報の不足を補い、また、映像とコメントとリンクを用いた要約手段を用いることで、コメントの内容によってユーザの意図を反映すると共に、複数の映像に跨る要約を可能とするものである。
図1は、本発明の原理を説明するための図である。
本発明は、映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを作成するための部分コンテンツ作成方法であって、
コメント入力区間選択手順と(ステップ1)、
コミュニケーション手段を介して、映像区間に対してコメントを入力させるコメント情報入力手順と(ステップ2)、
コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させるニケーション手段を介して、映像区間から別の映像区間への参照情報を入力させる参照情報入力手順と(ステップ3)、
コメント入力区間選択手順と参照情報入力手順において、ユーザから入力されたコメント・参照情報を、映像区間と対応付けて、コメント・参照情報記憶手段に蓄積するコメント・参照情報蓄積手順(ステップ4)と、
コメント・参照情報記憶手段に蓄積されている対応付けられたコメント・参照情報を入力された映像区間と対応付けて、コミュニケーション手段を介して、ユーザに表示するコメント・参照情報表示手順(ステップ5)と、
コミュニケーション手段を介して、表示されているコメント・参照情報と入力された映像区間とが対応付けられた表示内容から、要約映像の基点となる映像区間をユーザに選択させる要約基点区間選択手順(ステップ6)と、
要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間を、コミュニケーション手段を介して、ユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加手順(ステップ7)と、
要約基点区間選択手順及び要約基点区間追加手順により選択された一連の映像区間を連結し、要約映像を作成する要約映像生成手順(ステップ8)と、を行う。
上記の手順により、まず、コメントを要約映像を作成する際の評価情報とすることで、刻々と増えるユーザのコメントによって要約に必要な情報の量を補うことができる。また、コメントは、数値情報と異なる文字情報のため、ユーザの意図と関連性を評価しやすい。特に、映像の内容に踏み込んだコメントの場合、“良い”、“悪い”などの簡単な評価と異なり、映像とユーザの意図との関連性により的確に評価できるようになる。
また、参照先として、数十話に亘るドラマ映像などを対象にできるため、複数の映像に跨った映像区間の連結が可能になる。よって、これらの手順を踏まえてコメントと参照情報を用いれば、ユーザの意図に沿った映像区間を複数の映像に跨って決定できるため、よりユーザの意図に合致する要約映像を作成することが可能となる。
また、本発明は、上記の参照情報入力手順(ステップ3)において、
ユーザに参照する映像区間を指定させる際に、
ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示し、ユーザが選択したコメントに基づいて、該コメントが参照している参照情報を取得し、該参照情報から映像区間参照情報を取り出して、参照する映像区間を特定して該ユーザに提示する。
上記のように、映像区間へ参照情報を入力する際に、入力済みのコメント・参照情報を選択することにより、関連付けられている映像区間への参照情報を入力することにより、映像の開始・終了時間を再度指定することなく、既に入力済みのコメント・参照情報を選択するだけで参照済みの映像区間が選択されるため、容易に映像区間を決定できる。
また、本発明は、コメント・参照情報蓄積手順(ステップ4)において、
ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加してコメント・参照情報記憶手段に蓄積する。
上記のように、映像区間から映像区間への参照情報を入力した際に、映像区間への一方向への参照ではなく、映像区間相互の参照情報を蓄積することにより、映像を連結する際に、連結時の基点となる映像区間から参照する映像だけでなく、基点となる区間を参照している映像区間も要約映像作成時に候補とすることが可能となる。
また、本発明は、コメント・参照情報蓄積手順(ステップ4)において、
映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定し、
特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与してコメント・参照情報記憶手段に蓄積する。
上記のように、コメント・参照情報を蓄積する際に、入力されたコメントから固有名詞などの特徴的なワード(部分コメント)を抜き出し、同様のワードをコメント内に持つ映像区間に対して自動的に参照情報を入力することにより、参照情報の入力が簡略化されると共に、例えば、複数のコメント内に書かれた共通の出演者名を要約映像の基準とするなど、より多彩な要約映像の生成が可能となる。
また、本発明は、要約基点区間追加手順(ステップ7)において、
要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
要約基点区間におけるコメントと、参照関係にある映像区間に置けるコメントを比較し、要約映像として連結する際の重要度を求め、
重要度の高い映像区間を要約基点映像区間として追加する。
上記のように、要約映像として連結可能な映像区間を選択する際の重要度を決定することにより、要約映像として連結可能な任意の映像区間を選択する際に、例えば、重要度順に候補を提示することで、ユーザは容易に映像区間を選択することが可能となる。また、重要度が最も高いものを選択していくことにより、自動的に要約映像を作成することも可能である。
図2は、本発明の原理構成図である。
本発明は、映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを作成するための部分コンテンツ作成装置であって、
コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させる映像区間選択手段11と、
映像区間選択手段11で選択された映像区間に対して、コミュニケーション手段を介して、コメントを入力させるコメント入力手段12と、
コミュニケーション手段を介して、コメントと同時に映像区間から別の映像区間への参照情報を入力させる参照情報入力手段13と、
コメント入力手段12及び、参照情報入力手段13においてユーザから入力されたコメント・参照情報を、映像区間と対応付けて、コメント・参照情報記憶手段5に蓄積するコメント・参照情報蓄積手段7と、
コメント・参照情報記憶手段5に蓄積されている対応付けられたコメント・参照情報をコミュニケーション手段を介して表示するコメント・参照情報表示手段6と、
コメント・参照情報表示手段6により表示された情報から、コミュニケーション手段を介して要約映像の基点となる映像区間をユーザに選択させる要約基点区間選択手段15と、
コミュニケーション手段を介して、要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間をユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加手段16と、
要約基点区間選択手段15及び要約基点区間追加手段16により選択された一連の映像区間を連結し、要約映像を作成する要約映像生成手段17と、を有する。
また、本発明の参照情報入力手段13は、
ユーザに参照する映像区間を指定させる際に、
ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示する手段と、
ユーザが選択した入力済みのコメントに基づいて、該コメントが参照している参照情報をコメント・参照情報記憶手段5から取得し、該参照情報に基づいて、該コメント・参照情報記憶手段5から映像区間に関連付けられた映像区間を特定して該ユーザに提示し、該映像区間に対する参照情報を入力させる手段と、を含む。
また、本発明のコメント・参照情報蓄積手段7は、
ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加してコメント・参照情報記憶手段5に蓄積する手段を含む。
また、本発明のコメント・参照情報蓄積手段7は、
映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定する手段と、
特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与してコメント・参照情報記憶手段5に蓄積する手段と、を含む。
また、本発明の要約基点区間追加手段16は、
要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
要約基点区間におけるコメントと、参照関係にある映像区間におけるコメントを比較し、要約映像として連結する際の重要度を求める手段と、
重要度の高い映像区間を要約基点映像区間として追加する手段と、を含む。
本発明は、映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを、作成するための部分コンテンツ作成プログラムであって、
コンピュータに、
コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させるコメント入力区間選択ステップと、
コミュニケーション手段を介して、映像区間に対してコメントを入力させるコメント情報入力ステップと、
コミュニケーション手段を介して、映像区間から別の映像区間への参照情報を入力させる参照情報入力ステップと、
コメント入力区間選択ステップと参照情報入力ステップにおいて、ユーザから入力されたコメント・参照情報を、映像区間と対応付けて、コメント・参照情報記憶手段に蓄積するコメント・参照情報蓄積ステップと、
コメント・参照情報記憶手段に蓄積されている対応付けられたコメント・参照情報を入力された映像区間と対応付けて、コミュニケーション手段を介して、ユーザに表示するコメント・参照情報表示ステップと、
コミュニケーション手段を介して、表示されているコメント・参照情報と入力された映像区間とが対応付けられた表示内容から、要約映像の基点となる映像区間をユーザに選択させる要約基点区間選択ステップと、
要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間を、コミュニケーション手段を介して、ユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加ステップと、
要約基点区間選択ステップ及び要約基点区間追加ステップにより選択された一連の映像区間を連結し、要約映像を作成する要約映像生成ステップと、を実行させる。
また、本発明の参照情報入力ステップにおいて、
ユーザに参照する映像区間を指定させる際に、
ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示し、ユーザが選択したコメントに基づいて、該コメントが参照している参照情報を取得し、該参照情報から映像区間参照情報を取り出して、参照する映像区間を特定して該ユーザに提示するステップを実行させる。
また、本発明のコメント・参照情報蓄積ステップにおいて、
ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加してコメント・参照情報記憶手段に蓄積するステップを実行させる。
また、本発明のコメント・参照情報蓄積ステップにおいて、
映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定するステップと、
特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与してコメント・参照情報記憶手段に蓄積するステップと、を実行させる。
また、本発明の要約基点区間追加ステップにおいて、
要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
要約基点区間におけるコメントと、参照関係にある映像区間に置けるコメントを比較し、要約映像として連結する際の重要度を求めるステップと、
重要度の高い映像区間を要約基点映像区間として追加するステップと、を実行させる。
上記のように本発明によれば、ネットワーク上で映像を介したコミュニケーションを行う場合において、従来の方法に比べ、映像区間の参照を許す幅広いコメント入力を可能とすると共に、映像区間に付与されたコメントと参照情報を用いて要約映像を作成できるため、よりユーザの意図を反映した要約映像を作成することができる。
以下、図面と共に、本発明の実施の形態を説明する。
以下の実施の形態の説明において、「映像コンテンツ」は、映像情報と音声情報を含むコンテンツに限定されることはなく、少なくとも画像情報を含むあらゆるコンテンツを映像コンテンツと呼ぶものとする。
また、「コメント」は、文字情報に限定されることなく、Web上のコンテンツを指し示すURLや感情を表現する画像等、コミュニケーションを図る上で利用可能な情報を含む。
以下の実施の形態では、ディジタル映像を要約する上で、まず、映像を用いたコミュニケーション手段において、映像及び映像区間リンク(参照)したコメントを容易に入力可能な手段を提供し、その後、コメント及びリンクを用いて映像区間を提案するものである。以下に示す方法は、次々と入力されるコメントを対象とすることで、情報の不足を補い、また、映像間のコメントとリンクを用いた要約手段を用いることで、コメントの内容によってユーザの意図を反映し、複数の映像にまたがる要約の作成を行うものである。
[第1の実施の形態]
図3は、本発明の第1の実施の形態におけるシステム構成を示す。
同図に示すシステムは、クライアント装置1とサーバ装置2から構成され、サーバ装置2上に蓄積された映像に対して他ユーザが書き込みをしたコメント・参照情報を表示したり、あるいはコメント・参照情報の書き込みを行い、そのコメント・参照情報を用いてユーザが部分コンテンツ(要約映像)を作成・閲覧するシステムである。
同図に示すシステムは、複数台のクライアント装置1とサーバ装置2を含み、クライアント装置1とサーバ装置2は、例えば、インターネットのようなネットワーク(図示せず)を介して接続される。クライアント装置1は、複数台存在するが、説明の簡略化のため、以下の説明では、1台として説明する。
クライアント装置1は、映像区間選択部11、コメント入力部12、参照情報入力部13、コメント・参照情報表示部14、要約基点区間選択部15、要約基点区間追加部16、要約映像生成部17、要約映像再生部18、及び、要約基点バッファ19から構成される。
なお、図示しないが、映像区間選択部11、コメント入力部12、参照情報入力部13、コメント・参照情報表示部14、要約基点区間選択部15には、ユーザとのコミュニケーション手段として、ユーザインタフェースが存在するものとする。
サーバ装置2は、映像インデクス情報DB21,コメント・参照情報蓄積部22、コメント・参照情報DB23,及び映像DB24から構成される。
クライアント装置1の映像区間選択部11は、ユーザに映像の中からコメントを付与したい区間を選択させるための画像を表示し、選択入力を受け付ける。
コメント入力部12は、選択された映像区間に対して付与するコメントを入力させるためのコメント入力画面を表示し、コメントの入力を受け付ける。
参照情報入力部13は、コメントと共に、映像区間から別の映像区間への参照情報を入力するための画面を表示し、ユーザからの参照情報の入力を受け付け、取得した参照情報をサーバ装置2に送信する。また、参照情報入力部13では、参照する映像区間をユーザに指定させる際に、入力済みのコメント・参照情報を指定させ、それに関連付けられた映像区間を表示し、ユーザにその中から映像区間を指定させることも可能である。
コメント・参照情報表示部14は、サーバ装置2のコメント・参照情報DB23に蓄積されている情報を、当該情報が入力された映像区間と対応付けて表示する。
要約基点区間選択部15は、表示されたコメント、参照情報から、要約映像の基点となる映像区間を選択させる。
要約基点区間追加部16は、要約映像の基点となる区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択させ、選択された映像区間を基点区間に追加する。また、当該要約基点区間追加部16は、要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、要約基点区間におけるコメントと、参照関係にある映像区間におけるコメントを比較し、要約映像として連結する際の重要度を求め、重要度に応じて候補をユーザに提示する。または、重要度の最も高いものを選択して要約映像生成部17に渡すことも可能である。
要約映像生成部17は、要約基点区間選択部15と要約基点区間追加部16によって選択された一連の映像区間を連結し、要約映像を作成する。
要約映像再生部18は、サーバ装置2に対して区間情報を送信することにより、サーバ装置2の映像DB24に蓄積されている映像コンテンツを取得して、ディスプレイ等の表示手段に表示する。
要約基点バッファ19は、要約基点区間選択部15により表示された画面において、ユーザが選択した映像区間を一時的に格納するバッファであり、要約基点ID毎に要約基点区間情報(映像ID,区間ID)及び深さからなる情報を有する。
サーバ装置2の映像インデクス情報DB21は、映像を幾つかの区間に分けるための区間情報やサムネイルを蓄積する。
コメント・参照情報蓄積部22は、クライアント装置1の参照情報入力部13から送信されたコメントと参照情報(コメント・参照情報)を蓄積する。この場合の、コメント・参照情報とは、コメントやコメントが入力された映像区間の情報、映像区間への参照情報など、コメント入力、参照情報入力によって生じる様々な情報を含む。
コメント・参照情報DB15は、コメント・参照情報蓄積部22から渡された情報を蓄積する。
映像DB24は、区間情報毎の映像コンテンツを蓄積する。
次に、上記のシステムの処理について説明する。
概略としては、図4に示すように、複数のクライアント装置1から入力されたコメント・参照情報をサーバ装置2上に蓄積する段階(ステップ100)と、クライアント装置1上に表示されたコメント・参照情報を元にユーザが任意の映像区間を逐次選択することで部分コンテンツ作成する段階(ステップ200)に分かれる。これらの処理は、コメントの内容と参照される映像区間を参考に、ユーザが映像区間を選択していくことにより、ユーザの意図に沿った部分コンテンツの作成を容易とする。
まず、コメント・参照情報をサーバ装置2上に蓄積する段階(ステップ100)について説明する。
(1)クライアント装置1は、映像区間選択部11において、ユーザに映像区間を選択させるための画面を表示し、コメントを入力したい映像区間をユーザに選択させる。
ユーザがコメントを入力したい映像区間を選択する場合、例えば、図5に示すように、帯状に表現された映像時間軸上でバーを動かすことで直感的に映像上の時刻を指定することができるスライダーインタフェースを利用する。同図にあるような開始ボタン及び終了ボタンを併用することで、コメントを入力したい区間の開始・終了点を入力できる。
本実施の形態では、映像コンテンツをいくつかの区間に分ける映像インデックス情報をサーバ装置2上の映像インデクス情報DB21から取得して用いる。
サーバ装置2の映像インデクス情報DB21の映像インデクス情報の例を図6に示す。ユーザがコメントを入力したい映像区間とは、同じ景色を映し続けている区間やある人物が現れている区間、文字が表示されているテロップ表示区間、音楽が流れている区間など、時間軸上の物理的、あるいは意味的に区分できる時間区間の場合が多いと考えられる。映像インデクス情報とは、このような映像上の物理的・意味的な位置や区間を示す情報で、手動・自動で付与される。例えば、場面の切り替わり点やテロップ表示区間などの物理的な区間は、既知の映像解析技術(例えば、特許28399132号広報、特開平9−238298号広報及び、特開平11−178007号広報等)を用いて取得できる。
本実施の形態における図6のインデクス情報では、場面の切り替え点を用いて映像を幾つかの区分に分割する。また、各映像区間の最初の画像をサムネイル(代表画像)として用いる。実際には、手動で付与された区間や製作者が入力したシーン毎のタイトル・出演者情報、区間内で特徴的な画像をサムネイルとして用いるなど、幅広い映像インデクス情報が利用できる。
映像インデクス情報(区間情報及びサムネイル)を用いることで映像区間選択部11は、図7のように映像区間選択画面aを提示できるため、ユーザは入力ボタンをクリックすることで容易に映像区間が選択できる。
(2) クライアント装置1において、コメント入力部12が、映像区間選択部11により取得した映像区間に対して、ユーザにコメントを入力させるためのコメント入力画面αを表示する。コメント入力画面の例を図8に示す。同図におけるコメント入力部12は、図8に示す入力ボタンがユーザによりクリックされた段階でクライアント装置1上のディスプレイに表示され、文字列等のコメントを入力させることで、選択された映像区間にコメントを付与する。
(3) クライアント装置1において、参照情報入力部13が、ユーザに他の映像区間への参照情報を入力させるための参照情報入力画面bを表示する。参照情報入力画面の例を図9に示す。
本実施の形態では、参照情報を入力する際には、以下のような手順により行う。
まず、コメントに参照情報を追加する場合、図9中の「参照入力」ボタンをクリックする。すると、参照情報入力画面bが画面上に表示される。参照情報入力部13は、映像インデクス情報DB21にある映像インデクス情報(映像区間情報とサムネイル)を図10のように一覧として表示する。
ユーザは、マウスカーソル等で該当するサムネイルを選択し、参照したい映像区間を選択する。また、同図中では、参照先を判り易く表現するために、「参照表示文字列」入力インタフェースを備えている。これは、映像区間への参照をコメント内に埋め込んで表現する際に、参照部分を文字列で表現するためのインタフェースである。実施の形態によっては、文字列ではなく、参照先の映像区間を代表するサムネイル等を用いてもよい。
最終的に、コメント入力部12及び参照情報入力部13により入力されたコメント・参照情報の画面表示イメージを図10に示す。なお、具体的な情報の蓄積方法及び、表示方法について後述する。
また、請求項2、7,12に係る発明として、参照情報入力部13は、既に入力済みのコメント・参照情報を用いて、上記のような映像区間選択を省略することができる。この方法については、コメント・参照情報蓄積部22の説明後に記載する。
(4)サーバ装置2は、コメント・参照情報蓄積部22において、上述したコメント及び参照情報をクライアント装置1から受け取り、コメント・参照情報DB23に蓄積する。
本実施の形態におけるコメント・参照情報の例を図11に示す。コメント・参照情報は、コメント情報ID「c(i)」と、参照情報ID「r(i)」に分類される。「c(i)」は、映像区間選択部11で選択された映像区間を表すコメント入力区間情報、即ち、コメント入力先の映像ID「i_mID(i)」、映像区間ID「i_d(i)」と、コメント入力部12で入力されたコメント文字列「chr(i)」で構成される。また、「r(i)」は、参照情報が入力されたコメント情報を示す入力元コメント情報「c(i)」と、参照表示用文字「rchr(i)」と、参照表示用文字「rchr(i)」、映像区間への参照情報、すなわち、参照する映像のID「r_mID(i)」、参照する映像区間ID「r_d(i)」で構成される。なお、映像区間ID「i_d(i)」、「r_d(i)」は、図6で説明した映像インデクス情報における映像区間IDを示す。
例えば、一つのコメント内で2箇所の映像区間への参照情報が入力された場合において、コメント・参照情報蓄積部22が、コメント・参照情報蓄積DB23上にデータを蓄積する場合を図12に示す。コメント・参照情報蓄積部22は、コメントが入力された映像区間の情報と共に、参照情報を埋め込む位置に、“<%参照情報ID%>”という文字列を追記したコメント文字列を、コメント情報としてDB23上に蓄積する。“<%参照情報ID%>”部分は、コメント・参照情報を表示する場合などに、再度参照情報に置換される。また、参照情報として、入力元コメント情報ID、参照表示用文字列、参照する映像区間情報を参照情報として蓄積する。
また、請求項2,7,12に係る発明として、参照情報入力部13は、既に入力済みのコメント・参照情報を用いて、映像区間選択処理を省略することができる。コメント・参照情報蓄積DB23上のデータ構造を踏まえ、図13に映像区間選択方法を示す。
コメントを入力する場合、映像そのものに対してコメントする場合と、既に付与されているコメントに対してコメントする(コメントにレスポンス)場合があり、議論を重視するような掲示板では、後者を利用したコミュニケーションが活発である。図13では、後者のようにコメントに対してコメントを入力する場面を想定し、さらに、同一の映像区間を参照しながらコメントを行う場合の動作を説明する。
図13の映像区間選択画面a上には、既に入力済みのコメント・参照情報が表示されており、このコメントに対して返信する場合、ユーザは、「返信コメント書き込み用ボタン(返信ボタン)」をクリックする。
ユーザは、次に、画面上に表示されたコメント入力画面b上で既に入力済みのコメント・参照情報を用いて参照情報を入力するための「参照情報入力手段呼び出しボタン」をクリックする。すると、参照情報入力部13は、コメント・参照情報蓄積DB23上から直ちに、返信コメントが入力されようとしているコメントのコメント情報を検索する。図13上では、「c(25)」が該当する。
次に、参照情報入力部13は、該当する「c(25)」のコメントが参照している映像区間を示す参照情報IDを取り出す。図13上では、「r(129)」、「r(139)」が該当する。
最終的に、参照情報入力部13は、各参照情報から映像区間参照情報を取り出すことで、返信先のコメントが参照する映像区間を特定し、ユーザに提示する。図13上では、映像ID「2」、区間ID「3」と、映像ID「12」が参照情報入力画面上bに表示される。
ユーザは、表示された映像区間を任意に選択することで、図9のように逐一映像区間を探す必要がなく、容易に参照情報を入力することができるようになる。
以上のような段階を経ることで、ユーザは映像区間に対して次々とコメント、及び、他の映像区間への参照情報を入力することができ、それらの情報は、コメント・参照情報蓄積DB23へ蓄積されることになる。
次に、クライアント装置1上に表示されたコメント・参照情報を元に、ユーザが任意の映像区間を逐次選択することで、要約映像を作成する段階(ステップ200)について説明する。
クライアント装置1は、コメント・参照情報表示部14において、サーバ装置2のコメント・参照情報蓄積DB23に蓄積されたコメント・参照情報を映像区間と対応付けて表示する。その例を図14に示す。コメント・参照情報表示部14は、図7と同様に、映像インデクス情報(映像区間、サムネイル)を用いて各映像区間を表示する。また、各映像区間に付与されているコメント・参照情報を、コメント参照情報DB23より取り出し、表示する。例えば、図14に示すように、コメント・参照情報表示画面c上の4番目の映像区間が映像ID「3」、区間ID「9」の場合、関連するコメント情報ID「c(25)」をコメント・参照情報DB23より取り出す。また、コメント文字列を見ることで、2つの参照情報「r(129)」、「r(130)」を取り出す。最終的に参照情報表示部16は仕切り線で区分することで、各映像区間に関連付けられたコメント・参照情報を映像区間と対応付けて表示する。
このように、映像区間とコメント・参照情報を対応付けて表示する参照情報表示方法は、映像区間選択部11による映像区間選択画面aや、参照情報入力部13による参照情報入力画面bなどと組み合わせることができる。例えば、映像区間選択画面dに組み合わせた場合を図15に示す。図7の表示例と比べた場合、過去のコメントを読むことができるため、映像区間を選択する場合の一助となり得る。また、既に説明したように、コメントに対するコメントを入力することも可能となる。
クライアント装置1は、要約基点区間選択部15において、表示されたコメント、参照情報から、要約映像の基点となる映像区間をユーザに選択させる。その画面例を図16に示す。ユーザは、コメント・参照情報画面e上に表示された映像インデックス情報、コメント、参照情報を閲覧しながら、興味ある映像区間を見つけた場合、要約基点区間選択部15により表示された要約基点区間選択画面f(図16上では、「要約」ボタン)をクリックすることで、その区間を要約映像の基点区間として選択できる。
要約基点区間として選択された映像区間は、クライアント装置1上で、要約基点区間バッファ19上に一時的に記憶される。要約基点区間バッファの例を図17に示す。要約基点バッファ19は、基点区間が追加される毎に付与される一意のID「要約基点ID」と、基点区間の映像区間情報、即ち、映像ID「mID(i)」と区間ID「d(i)」、最初に選択された映像区間からどれだけ参照を辿ったかを示す深さ「depth(i)」からなる。例えば、最初に選択された映像区間の映像IDが「3」、区間IDが「9」の場合、それぞれ、「c(0)」、「3」、「9」、「0」となる。
クライアント装置1は、要約基点区間追加部16において、要約映像の基点となる区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択し、選択された映像区間を基点区間に追加する。要約基点区間追加部16による要約基点区間画面の例を図18に示す。
図18に示す映像区間が選択された場合、映像基点区間追加部16は、コメント・参照情報DB23から、直ちに参照関係にある映像区間を抽出する。図18では、映像ID「2」、区間ID「3」と映像ID「6」、区間ID「12」が該当する。ユーザは、要約映像として閲覧したい映像があった場合、基点区間選択ボタン(図17の例では、「選択」ボタン)をクリックすることで、選択された映像を要約基点区間バッファ19に追加できる。図19に追加された場合の要約基点区間バッファ19の例を示す。
さらに、要約映像の候補となる映像区間をユーザに選択させる場合には、図20に示すようなアルゴリズムを用いて、要約基点区間追加画面に次の候補区間を提示する。図20の動作の概要は、現在選択されている映像区間から一定の深さ以内にある基点区間のみを選択し、その区間から参照される映像区間を提示する。このような方法を採ることで、現在選択されている映像区間からあまり内容が逸れていない映像区間だけが提示されるようになり、より内容に一貫性のある要約映像が作成され易くなる。
図20に示す映像基点区間追加部16が候補映像をユーザに提示する際のフローチャートの動作を説明する。
ステップ11) 画面に表示する映像区間の深さの幅をw(システムで予め定義しておく)、現在選択されている要約基点の深さをdとする。
ステップ12) 要約基点バッファ19へのポインタを初期化し、i=0とする。また、要約基点バッファ19に追加されている要約基点の総量をjとする。
ステップ13) ポインタの位置を確認する。0≦i<j(バッファの内側を指す)でない場合は処理を終了し、条件を満たす場合はステップ14に移行する。
ステップ14) ポン他が指し示す要約基点c(i)の深さをd_iとする。
ステップ15) d_iが設定された範囲内の深さにあるかどうかを調べる。
d−w≦d_i≦d+w
を満たす場合は、ステップ16に移行する。満たさない場合はステップ17に移行する。
ステップ16) 要約基点c(i)を表示候補の要約基点として選択する。
ステップ17) 次の要約基点を指し示すように、ポインタiを移動し、ステップ13に戻る。
上記のステップを経て、最終的に選ばれた複数の要約基点「c(n)」から参照される映像区間を、要約基点区間追加画面として表示する。図21は、上記のアルゴリズムを適応した例である。w=1とし、図示されている映像基点バッファ19上で、「c(5)」が選択されている場合、「c(5)」から深さ±1にある映像基点「c(3)」、「c(5)」(当然自分自身も含む)から参照される映像区間が、映像基点区間追加画面gが表示されることになる。
以上のように、要約基点区間追加部16による映像基点区間追加画面g上に要約基点区間から参照される映像区間を適宜表示することで、ユーザは、付与されたコメントを見て映像区間を評価しながら、興味ある映像を順次選択することができる。
クライアント装置1の要約映像生成部17は、要約基点区間選択部15と、要約基点区間追加部16においてユーザによって選択された一連の映像区間を連結し、要約映像を作成する。要約映像生成部17による要約映像生成画面の例を図22に示す。
要約映像生成部17は、要約基点バッファ19上に格納された基点区間を格納された順に、即ち、ユーザが基点区間を選択した順に表示し、最終的に必要な映像をユーザに選択させるインタフェースを備え、選択された映像の選択フラグをONにする。なお、ユーザに選択させることなく、要約基点バッファ19上に列挙された映像区間をそのまま利用する方法や、コミュニケーション手段を用いて映像区間の順番を任意に入れ替える等の方法も可能である。
クライアント装置1は、要約映像再生部18において、要約映像生成部17によって生成された要約映像を再生する。要約映像生成部17から受け取った要約映像に関する情報、即ち、選択された候補映像の映像区間集合をサーバ装置2に送信することで、次偽地と映像DB24から映像区間の映像を取得し、再生する。
このようにして、本実施の形態によれば、映像コメント入力・表示方法を用いることで、コメントしたい映像区間に対してコメントを入力するだけでなく、他の映像区間への参照情報を入力することができ、また、入力されているコメント及び参照情報を用いて次々に興味ある映像区間を探し出し、繋げていくことでユーザの好みの要約映像を作成することができる。
また、参照情報の入力を行う際に、既に入力済みのコメント・参照情報を用いて映像区間選択処理を省略することができるため、より容易に参照情報の入力が可能となる。
[第2の実施の形態]
本実施の形態では、サーバ装置2上に蓄積された映像に対して、他ユーザが書き込みをしたコメントを表示したり、あるいは、コメントの書き込みを行うことで、それらの情報を用いてサーバ装置2側で自動的に部分コンテンツ(要約映像)を作成する場合について説明する。
図23は、本発明の第2の実施の形態におけるシステム構成図である。
同図において、図3と同一構成部分には同一符号を付し、その説明を省略する。
クライアント装置1は、映像区間選択部11、コメント入力部12、参照情報入力部13、コメント・参照情報表示部14、要約基点区間選択部15、要約映像再生部18から構成される。
サーバ装置2は、映像インデクス情報DB21,コメント・参照情報蓄積部22、コメント・参照情報DB23,映像DB24,キーワードDB25,要約基点バッファ26、要約基点区間追加部27、要約映像生成部28から構成される。
同図に示すシステムは、図3に示すクライアント装置1の基点区間追加部16、要約映像生成部17、要約基点バッファ19をサーバ装置2側に持たせた構成であり、さらに、サーバ装置2に、キーワードDB25を付加した構成である。
キーワードDB25は、コメント・参照情報蓄積部22により参照されるデータベースであり、映像区間に付与されたコメントから特徴的なワードを抜き出す際に利用される。
上記の構成において、本実施の形態では、図24に示すような動作を行う。
まず、複数のクライアント装置1において、コメント・参照情報を入力し(ステップ300)、サーバ装置2上に蓄積する段階(ステップ400)と、クライアント装置1上に表示されたコメント・参照情報を元にユーザが任意の映像区間を選択する(ステップ500)ことで、サーバ装置2側で部分コンテンツを作成する段階(ステップ600)に分かれる。
ユーザが選択した映像区間と参照関係にある映像区間を、そのコメントの内容から算出される重要度を用いて繋ぎ合わせることで、ユーザの意図に沿った部分コンテンツの作成を行う。
なお、本実施の形態では、請求項1〜5(請求項6〜15)を実施した場合について説明する。
まず、コメント・参照情報をサーバ装置2上に蓄積する段階(ステップ300〜400)について説明する。
クライアント装置1は、サーバ装置2の映像コンテンツをいくつかの区間に分ける映像インデクス情報を保持する映像インデクス情報DB21から映像の区間情報、サムネイルを取得して映像区間を選択するための画面を表示し、ユーザに映像区間を選択させ、さらに、コメント及び参照情報を入力させるための画面を表示し、ユーザにコメント・参照情報を入力させ、コメントと参照情報をサーバ装置2に送信する。
サーバ装置2のコメント・参照情報蓄積部22は、コメント及び参照情報をクライアント装置1より受け取り、コメント・参照情報DB24に蓄積する。
コメント・参照情報蓄積部22は、映像区間への参照情報を蓄積する際に、入力元映像区間から参照先映像区間への参照情報を、相互参照情報として蓄積することができる(請求項3,8,13)。
図25に、相互参照となるコメント・参照情報を示す。
例えば、映像ID「3」、区間ID「9」の映像区間から映像ID「2」、区間ID「3」への参照情報を入力した場合、既に説明したように、映像ID「3」、区間ID「9」から映像ID「2」、区間ID「3」への参照は、コメントID「c(25)」及び参照情報ID「r(129)」により表現される。
相互参照とした場合、即ち、映像ID「3」、区間ID「9」の映像区間から映像ID「2」、区間ID「3」への参照情報を入力した際に、映像ID「2」、区間ID「3」から映像ID「3」、区間ID「9」への参照情報も同時に生成する場合、本実施の形態では、図25におけるコメントID「c(26)」のような表現を用いる。コメントID「c(26)」は、コメントID「c(25)」と同じ参照情報により相互参照するため、コメント文字列内に参照情報「r(129)」への参照を持つ。但し、映像ID「3」、区間ID「9」からの受け側の参照情報であることを示すため、「 ̄」を用い、“<% ̄参照情報ID%>”
と表現する。
このような相互参照表現を用いることで、例えば、図26に示すように、コメント・参照情報蓄積部22が、コメント・参照情報DB23のコメント情報テーブルのコメント入力区間情報を参照するだけで、ある映像区間から他の区間へのコメント・参照情報と、他の映像区間からその区間へのコメント・参照情報を容易に列挙することができる。自分が参照する映像区間だけでなく、自分を参照する映像区間を取得することで選択肢が増え、より多くの候補映像を用いて要約映像を作成できるようになる。
また、コメント・参照情報蓄積部22は、映像区間に付与されるコメント内の特徴的なワードを持つ別の映像区間へのコメント・参照情報を付与することができる。図27に本実施の形態における特徴的なワードを用いたコメント・参照情報付与方法を示す(請求項4,9,14)。
コメント・参照情報蓄積部22は、図27に示すコメント及び参照情報が入力されると、まず、通常の処理を行う。即ち、コメント情報ID「c(25)」及び参照情報ID「r(129)」を生成する。また、本実施の形態では、参照情報を相互参照表現可能であるため、さらに、コメント情報を追加するが、既に図25において説明したのでここでは割愛する。
次に、コメント・参照情報蓄積部22は、特徴的なワードを特定するために、ワードを蓄積したキーワードDB25を参照し、特徴的なワードとマッチする部分をコメント情報内から検索する。キーワードDB25は、固有名詞や地名などの特徴的と考えられるワードを列挙し、蓄積したDBである。図27では、「パリ」の部分が該当するため、コメント情報ID「c(25)」のコメント文字列の該当部分を置き換え、参照情報ID「r(139)」を新たに生成する。この際、参照情報ID「r(130)」が参照する映像区間は不定であるため、映像区間参照情報は、規定文字(例では、‘−’)とする。ワードのマッチングには、特定の文字列に完全にマッチングさせる方法やシソーラス語彙体系などを用いて概念的に似通った文字列もマッチングさせる方法など、既存の技術で実現可能である。
このような相互参照を用いることで、例えば、図28に示すように、映像区間の参照情報が不定(‘−’)である場合は、コメント・参照情報DB23の参照情報テーブルの参照表示文字列が一致する参照情報を取得することで、ある映像区間と共通するワードを持つ参照情報を列挙することができる。例えば、有名な俳優名や地名などをキーワードDB21に登録しておくことで、自動的に参照情報がコメント・参照情報蓄積部22に入力され、コメント内に俳優名が出現する映像区間を用いて要約映像を作成できるようになる。
以上のような段階を経ることで、ユーザは、映像区間に対して次々とコメント及び、他の映像区間への参照情報を入力することができ、それらの情報は、相互参照表現としてコメント・参照情報蓄積DB23に蓄積される。また、キーワードDB25を用いてコメント内に特徴的なワードを持つ映像区間を特定し、自動的にコメント参照情報を付与することで同一のワードを持つ映像区間を列挙できるようになる。
次に、クライアント装置1上に表示されたコメント・参照情報を元に、ユーザが任意の映像区間を一つ選択することで、サーバ装置2側で自動的に部分コンテンツを作成する段階(ステップ500,600)を説明する。
クライアント装置1のコメント・参照情報表示部14は、サーバ装置2のコメント・参照情報蓄積DB23に蓄積されたコメント・参照情報を映像区間と対応付けて表示する。要約基点区間選択部15は、表示されたコメント、参照情報から、要約映像の基点となる映像区間を選択する。これらの処理については、前述の図14、図16において説明しているため省略する。
ユーザは、要約基点区間選択部15により表示されたコメント・参照情報を参考に好みの映像区間を選択し、要約基点区間選択部15において、それを要約映像の基点となる映像区間として決定する。
サーバ装置2の要約基点区間追加部27は、ユーザが選択した要約映像の基点となる映像区間の情報をクライアント装置1の要約基点区間選択部15から取得し、その映像区間を元に要約映像の候補となる映像区間を追加していく。
本実施の形態においても、要約基点区間の選択は、図21で示したように、要約基点区間と参照関係にある映像区間を順次選択・追加する方法をとるが、第1の実施の形態と異なる点は、ユーザが要約基点区間を選択する代わりに、サーバ装置2が自動的に要約基点区間を選択・追加する点にある。追加された映像区間の情報は、要約基点バッファ26に蓄積されるが、要約基点バッファ26については、前述の第1の実施の形態における図17において説明しているので省略する。
要約基点区間を選別する手法としては、例えば、図29に示すように、要約基点バッファ26を参照し、バッファ26上にある最新の映像区間(c(5))から深さ±wの範囲内にある映像区間(c(3),c(4))と参照関係にある映像区間を列挙し、それらと類似性を評価することで、類似度が一定値以上かつ、最も類似度が高い映像区間を選択していく方法がある。類似度の求め方としては、例えば、「M. Smith and T. Kanade, “Video skimming and characterization through the combination of image and language understanding techniques”, CVPR, pp.775-781, 1997」に代表されるように、テロップ文字(画面上の表示文字)内の重要単語の重み付けや、人物の顔やオブジェクトの認識、画面の色合いや動きなど、映像中の特徴や属性などを用いて判定する方法等、既存技術により実現可能である。
次に、請求項5における、要約基点映像区間追加部27の処理について説明する。要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、該要約基点区間におけるコメントと、参照関係にある映像区間におけるコメントを比較し、要約映像として連結する際の重要度を求めることができる。本実施の形態にお場合、図29に示したような方法で、要約基点バッファ26を用いて連結可能な候補映像区間を算出し、それぞれの映像区間との類似度を計算する代わりにコメント間の類似性を比較することで映像区間の重要度を決定し、重要度の高い映像区間を要約基点映像区間として追加する。
要約基点バッファ26を用いて候補映像区間を算出する方法については、既に説明した図20のフローチャートと同等の処理で達成できる。図20のフローチャートによって最終的に選ばれた複数の要約基点「c(n)」から参照される映像区間を候補映像区間とする。重要度の算出方法を図30に示す。
映像基点区間追加部27が各候補映像区間の重要度を決定し、その中から要約基点映像区間を算出する方法について説明する。
本実施の形態では、各映像区間の保有するコメント間の類似性を評価し、類似するコメントを多く保有する映像区間をより重要度の高い映像区間と判断する。文章間の類似性を評価する方法には様々な手法が存在するが、本実施の形態では、コメントから名詞群を抽出し、それらの類似性を評価することで、コメントの類似性及び映像区間の重要度を求める。
ステップ21) 最も新しい要約基点映像区間c(1)が保有するm個のコメントをcmt_1(m)とする。
ステップ229 コメントcmt_1(m)に含まれるn個の名詞をnoun_1(m)(n)とする。コメント内から名詞群を抽出する方法として、日本語形態素解析プログラム、例えば、茶筌(http://chasen.aist-nara.ac.jp/chasen/whatis.html.ja)等を用いて抽出することができる。
ステップ23) 要約基点映像区間の候補となるi個の映像区間をp(i)とし、各映像区間の保有するj個のコメントをcmt(i)(j)とする。i個の候補映像区間は、図29に示したように、要約基点バッファ26を用いて、c(1)から深さw以内にある陽やいう基点映像区間から参照される映像区間とする。
ステップ24) コメントcmt_(i)(j)に含まれるk個の名詞をnoun(i)(j)とする。
ステップ25) 候補映像区間毎の処理を行うためのループカウンタo,コメント毎の処理を行うためのループカウンタp,名詞毎の処理を行うループカウンタqを初期化する。また、候補映像区間p(i)の重要度w(i)を初期化する。
ステップ26) 候補映像区間毎に、ステップ28以降の処理を行うための判定をする。すべての候補映像について重要度w(o)を求めていた場合は、ステップ27に移行し、そうでない場合はステップ28に移行する。
ステップ27) 最も重要度w(i)が大きい候補映像区間p(i)を採用して処理を終了する。
ステップ28) 候補映像区間p(o)が保有するj個のコメントについてステップ30以降の処理を行うための判定をする。全てのコメントについて処理をしていた場合はステップ29に移行し、そうでない場合にはステップ30に移行する。
ステップ29) 候補映像区間p(o)の重要度w(o)を、保有するコメントの数jで平均化する。次の候補映像区間p(o+1)の処理をするためにoの値をインクリメントし、ステップ26に戻る。
ステップ30) 候補映像区間p(o)の保有するコメントcmt(o)(p)と要約基点映像区間c(1)の保有するコメントと類似度を求めるための変数cmt_wを初期化する。
ステップ31) 要約基点映像区間c(1)の保有するコメントcmt_1(q)についてステップ33以降の処理をするための判定をする。全てのコメントcmt_1(q)とコメントcmt(o)(p)の類似度を求めた場合はステップ32に移行し、そうでない場合にはステップ33に移行する。
ステップ32) 候補映像区間p(o)の重要度w(o)に、コメントcmt(o)(p)と要約基点映像区間c(1)の保有するコメントとの類似度を足す。また、次のコメントcmt(o)(p+1)の処理をするためにpの値をインクリメントしてステップ28に戻る。
ステップ33) コメントcmt(o)(p)とcmt_1(q)との類似度を一時的に保持するための変数cmt_w(q)を初期化する。
ステップ34) コメントcmt(o)(p)が保有する名詞noun(o)(p)(r)についてステップ36以降の処理するための判定を行う。全ての名詞noun(o)(p)(r)について処理をしている場合はステップ35に移行し、そうでない場合はステップ36に移行する。
ステップ35) ステップ36以降で求める変数cmt_w(q)の値を名詞の数kで平均化して、最も大きな値を持つcmt_w(q)をコメントのcmt_wとする。
ステップ36) noun(o)(p)(r)とcmt_1(q)の保有する名詞との類似度を一時的に保持するための変数noun_wを初期化する。
ステップ37) noun(o)(p)(r)とnoun(q)(s)についてステップ39以降の処理をするための判定を行う。全ての名詞noun(q)(s)について処理をしている場合はステップ38に移行し、そうでない場合はステップ39に移行する。
ステップ38) コメント間の類似度cmt_w(q)に、ステップ39以降で求める名詞間の類似度noun_wを足す。また、次のnoun(o)(p)(r+1)の処理をするためrの値をインクリメントし、ステップ34に戻る。
ステップ39) noun(o)(p)(r)とnoun(q)(s)との間の類似度を求める。名詞間の類似度を求めるには様々な方法があるが、本実施の形態では、シソーラスを用いて、名詞間の類似性を評価する。シソーラスには、同義語や類義語などを扱う類義語辞書的なものと語の概念を体系化するものがある。前者は、例えば、“アメリカ”という単語に対して、“US”,“United States”、“United States of America”、“亜米利加”などの同義語を定義したり、“愛”という単語と類義関係にある“愛情”、“情愛”、“敬愛”、“慈しみ”、“親愛”などを定義する。
また、後者は、ある語句についての上位概念語、下位概念後などを定義したものであり、図31に示すよう様な構造を持っている。例えば、“惑星”を例に取った場合、上位概念に“天体”を持ち、天体から見た場合に、同様の概念となる語として、“衛星”や“恒星”を持つ。また、下位には、“火星”や“水星”など、より“惑星”を詳細にする語が並ぶ。シソーラスとしては、例えば前者は、「分類語彙表」(国立国語研究所)、後者は「EDR電子化辞書」(通信総合研究所)などがある。
シソーラスを用いた名詞間の類似性の評価は、同義語や類義語の場合はスコアを1に、それ以外の場合は概念辞書を用いて語と語の概念的な距離を用いることで算出する。概念的な距離を用いる場合、ここでは、図32に示すように、語から語へ到達できるパスをまず求め、パスの中でもっとも上位にあたるノードの深さをd、語iの深さをd、語jの深さをdとした場合に類似度のスコアを以下の式で求める(長尾真編、自然言語処理、岩波ソフトウェア科学15、岩波書店、1996)。なお、深さdは下に行くほど(具体的になるほど)大きな値となる。
上記のScore(i,j)は、より抽象的な概念(d)を辿らなければ比較する2つの語の概念が共通しない場合に小さくなり、より具体的な概念で共通する場合は大きくなる。また、2つの語の概念レベル(d,d)がより近い場合に大きな値となる。よってScore(i,j)は、2つの語の類似性が高ければ高いほど大きな値をとる。
ステップ40) 次のnoun(q)(s+1)の処理をするためsの値をインクリメントし、ステップ37に戻る。
上記のステップの概略を述べると、ステップ36、37,39、40で名詞間の類似度を決定する。ステップ34、38では、名詞とコメント間、ステップ30,31,33、35では、コメントとコメント間、ステップ28、29、30,32では、コメントと要約基点映像区間との類似度を算出し、その平均値を要約基点映像区間と候補映像区間との重要度とする。
上記のステップを経ることで、要約基点映像区間と候補映像区間との間の重要度を決定することができるため、その中で閾値よりも大きく、且つ、最も大きな重要度を持つ候補映像区間を次の要約基点映像区間として決定できる。
以上のように、要約基点区間追加部27では、要約基点区間から参照関係にある映像区間との間の重要度を各映像区間が保持するコメントから求め、重要度が高い映像区間を次々と要約基点区間に追加していくことで、ユーザの手を煩わせることなく、要約映像の候補を絞り込むことができる。従来の色情報や動き情報のような物理量では映像の内容を正確に把握できるとは言い難かったが、ユーザが内容を見て書き込んだコメントを利用して重要な映像区間を決定するため、よりユーザの意図を反映した要約映像を作成し易い。
クライアント装置1の要約映像生成部28は、要約基点区間選択部14、要約基点区間追加部27において、選択された一連の映像区間を連結し、要約映像を作成する。
要約映像生成部28は、一連の映像区間の時間を評価して一定時間内に収まるように要約基点バッファ25上の先頭の映像区間から順次選択して要約映像を作成する。これは、次々と映像を選択して、要約とは言い難い長さの映像を作成してしまうことを防ぐと共に、参照関係を用いて映像を選択していくため、あまり多くの映像を選ぶと、本来意図していなかった話題の映像も選択してしまうことを防ぐためである。
本実施の形態では、システムで設定した時間(例えば、5分)以内に収まるように映像を選択していくが、一定数の映像区間を選択する場合や、第1の実施の形態のようにユーザに選択させる場合なども実施できる。
クライアント装置1の要約映像再生部18は、サーバ装置2の要約映像生成部28から受け取った要約映像に関する情報、即ち選択された候補映像の映像区間集合をサーバ装置2側に送信することで、次々と映像DB24から映像区間の映像を取得し、再生する。
このようにして、第2の実施の形態によれば、請求項1記載の映像コメント入力・表示方法を用いることで、コメントしたい映像区間に対してコメントを入力するだけでなく、他の映像区間への参照情報を入力することができ、また、入力されているコメント及び参照情報を用いて、次々にユーザの興味に合致した映像区間を選択することで、ユーザの好みの要約映像を作成することができる。
また、請求項2の参照情報入力方法を用いることで、既に入力済みのコメント・参照情報を用いて映像区間選択を省略することができるため、より容易に参照情報の入力が可能となる。
また、請求項3のコメント・参照情報蓄積方法を用いることで、自身が参照する映像区間だけでなく、自身を参照する映像区間を要約映像の候補映像として扱うことができ、より多くの選択肢の中から要約映像を作ることができるため、ユーザの意図に沿った要約映像を作り易くなる。
また、請求項4のコメント・参照情報蓄積方法を用いることで、コメント内の特徴的なワードを自動的に参照することが可能であるため、ユーザの入力の手間が省けると共に、例えば、ドラマにおける俳優名や観光地の地名などを用いた要約映像が作成可能となり、幅広い要約映像の作成が容易になる。
また、請求項5の要約基点区間追加方法を用いることにより、映像の物理的な特徴量(例えば色合いや認識されたオブジェクト、カメラの動きなど)による判定ではなく、映像区間の内容を記述したコメントを用いて候補映像の重要度を判定できるため、映像の内容をより反映し、また、ユーザの意図を反映した要約映像の作成が容易になる。
また、本発明は、上記の第1、第2の実施の形態のクライアント装置及びサーバ装置の動作をプログラムとして構築し、クライアント装置及びサーバ装置として利用されるコンピュータにインストールし、CPU等の制御手段により実行させることも可能である。
また、構築されたプログラムをクライアント装置及びサーバ装置として利用されるコンピュータに接続されるハードディスクや、フレキシブルディスク、CD−ROM等の可搬記憶媒体に格納しておき、実行時にコンピュータにインストールすることも可能である。
また、上記の実施の形態では、各手段を、クライアント装置とサーバ装置に分離して搭載しているが、この例に限定されることなく、1つの装置上に設けてもよい。
なお、本発明は、上記の実施の形態に限定されることなく、特許請求の範囲内において、種々変更・応用が可能である。
ディジタル化された映像の要約映像を作成する技術に適用可能である。
本発明の原理を説明するための図である。 本発明の原理構成図である。 本発明の第1の実施の形態におけるシステム構成図である。 本発明の第1の実施の形態における動作の概要を示すフローチャートである。 本発明の第1の実施の形態におけるスライダーインタフェースの一例である。 本発明の第1の実施の形態における場面の切り替わり点を用いた映像インデクス情報の説明図である。 本発明の第1の実施の形態における映像インデクス情報を用いたクライアント装置上の画面表示例である。 本発明の第1の実施の形態におけるクライアント装置上のコメント入力画面表示例である。 本発明の第1の実施の形態における映像インデクス情報を用いたクライアント装置上の参照情報入力画面表示例である。 本発明の第1の実施の形態における入力されたコメント・参照情報の画面表示イメージである。 本発明の第1の実施の形態におけるコメント・参照情報の説明図である。 本発明の第1の実施の形態におけるコメント・参照情報蓄積部による情報格納例である。 本発明の第1の実施の形態における入力済みのコメント・参照情報を用いて参照情報入力画面を表示する際の処理を説明するための図である。 本発明の第1の実施の形態における映像インデクス情報を用いたクライアント装置上の参照情報表示例である。 本発明の第1の実施の形態における参照情報表示画面と組み合わせた場合の映像区間選択画面の表示例である。 本発明の第1の実施の形態における要約基点区間選択部による画面表示例である。 本発明の第1の実施の形態における要約基点バッファの説明図である。 本発明の第1の実施の形態における要約基点区間選択部による画面表示例である。 本発明の第1の実施の形態における要約基点バッファの説明図である。 本発明の第1の実施の形態における映像基点追加部が実行する候補映像区間の選択方法を示す詳細フローチャートである。 本発明の第1の実施の形態における候補映像区間の選択方法を示す図である。 本発明の第1の実施の形態における要約映像生成部による画面表示例である。 本発明の第2の実施の形態におけるシステム構成図である。 本発明の第2の実施の形態における動作の概要を示すシーケンスチャートである。 本発明の第2の実施の形態における相互参照となるコメント・参照情報の説明図である。 本発明の第2の実施の形態における相互参照表現によるコメント情報を用いた映像区間から映像区間へのコメント・参照情報の取得例である。 本発明の第2の実施の形態におけるコメント・参照情報蓄積部による特徴的なワードを用いたコメント・参照情報の格納例である。 本発明の第2の実施の形態における特徴的なワードを用いたコメント・参照情報の取得例である。 本発明の第2の実施の形態における候補映像区間の選択方法の例である。 本発明の第2の実施の形態における候補映像区間の重要度を決定する方法を示す詳細フローチャートである。 シソーラスの例である。 シソーラスを用いた名詞間の類似性の評価方法の一例である。
符号の説明
1 クライアント装置
2 サーバ装置
5 コメント・参照情報記憶手段
6 コメント・参照情報表示手段
7 コメント・参照情報蓄積手段
11 映像区間選択手段、映像区間選択部
12 コメント入力手段、コメント入力部
13 参照情報入力手段、参照情報入力部
14 コメント・参照情報表示部
15 要約基点区間選択手段、要約基点区間選択部
16 要約基点区間追加手段、要約基点区間追加部
17 要約映像生成手段、要約映像生成部
18 要約映像再生部
19 要約基点バッファ
21 映像インデクス情報DB
22 コメント・参照情報蓄積部
23 コメント・参照情報DB
24 映像DB
25 キーワードDB
26 要約基点バッファ
27 要約基点区間追加部
28 要約映像生成部

Claims (15)

  1. 映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを作成するための部分コンテンツ作成方法であって、
    前記コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させるコメント入力区間選択手順と、
    前記コミュニケーション手段を介して、前記映像区間に対してコメントを入力させるコメント情報入力手順と、
    前記コミュニケーション手段を介して、前記映像区間から別の映像区間への参照情報を入力させる参照情報入力手順と、
    前記コメント入力区間選択手順と前記参照情報入力手順において、前記ユーザから入力されたコメント・参照情報を、前記映像区間と対応付けて、コメント・参照情報記憶手段に蓄積するコメント・参照情報蓄積手順と、
    前記コメント・参照情報記憶手段に蓄積されている対応付けられたコメント・参照情報を入力された映像区間と対応付けて、前記コミュニケーション手段を介して、前記ユーザに表示するコメント・参照情報表示手順と、
    前記コミュニケーション手段を介して、表示されている前記コメント・参照情報と入力された映像区間とが対応付けられた表示内容から、要約映像の基点となる映像区間を前記ユーザに選択させる要約基点区間選択手順と、
    前記要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間を、前記コミュニケーション手段を介して、前記ユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加手順と、
    前記要約基点区間選択手順及び前記要約基点区間追加手順により選択された一連の映像区間を連結し、要約映像を作成する要約映像生成手順と、
    を行うことを特徴とする部分コンテンツ作成方法。
  2. 前記参照情報入力手順において、
    前記ユーザに参照する映像区間を指定させる際に、
    前記ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、前記コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示し、前記ユーザが選択したコメントに基づいて、該コメントが参照している参照情報を取得し、該参照情報から映像区間参照情報を取り出して、参照する映像区間を特定して該ユーザに提示する請求項1記載の部分コンテンツ作成方法。
  3. 前記コメント・参照情報蓄積手順において、
    ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加して前記コメント・参照情報記憶手段に蓄積する請求項1記載の部分コンテンツ作成方法。
  4. 前記コメント・参照情報蓄積手順において、
    前記映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定し、
    特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与して前記コメント・参照情報記憶手段に蓄積する請求項1乃至3記載の部分コンテンツ作成方法。
  5. 前記要約基点区間追加手順において、
    前記要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
    前記要約基点区間におけるコメントと、参照関係にある映像区間に置けるコメントを比較し、要約映像として連結する際の重要度を求め、
    前記重要度の高い映像区間を前記要約基点映像区間として追加する請求項1乃至4記載の部分コンテンツ作成方法。
  6. 映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを作成するための部分コンテンツ作成装置であって、
    前記コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させる映像区間選択手段と、
    前記映像区間選択手段で選択された前記映像区間に対して、前記コミュニケーション手段を介して、コメントを入力させるコメント入力手段と、
    前記コミュニケーション手段を介して、前記コメントと同時に前記映像区間から別の映像区間への参照情報を入力させる参照情報入力手段と、
    前記コメント入力手段及び、前記参照情報入力手段において前記ユーザから入力されたコメント・参照情報を、前記映像区間と対応付けて、コメント・参照情報記憶手段に蓄積するコメント・参照情報蓄積手段と、
    前記コメント・参照情報記憶手段に蓄積されている対応付けられたコメント・参照情報を前記コミュニケーション手段を介して表示するコメント・参照情報表示手段と、
    前記コメント・参照情報表示手段により表示された情報から、前記コミュニケーション手段を介して要約映像の基点となる映像区間を前記ユーザに選択させる要約基点区間選択手段と、
    前記コミュニケーション手段を介して、前記要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間を前記ユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加手段と、
    前記要約基点区間選択手段及び前記要約基点区間追加手段により選択された一連の映像区間を連結し、要約映像を作成する要約映像生成手段と、を有することを特徴とする部分コンテンツ作成装置。
  7. 前記参照情報入力手段は、
    前記ユーザに参照する映像区間を指定させる際に、
    前記ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、前記コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示する手段と、
    前記ユーザが選択した入力済みのコメントに基づいて、該コメントが参照している参照情報を前記コメント・参照情報記憶手段から取得し、該参照情報に基づいて、該コメント・参照情報記憶手段から映像区間に関連付けられた映像区間を特定して該ユーザに提示し、該映像区間に対する参照情報を入力させる手段と、を含む請求項7記載の部分コンテンツ作成装置。
  8. 前記コメント・参照情報蓄積手段は、
    ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加して前記コメント・参照情報記憶手段に蓄積する手段を含む請求項6記載の部分コンテンツ作成装置。
  9. 前記コメント・参照情報蓄積手段は、
    前記映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定する手段と、
    特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与して前記コメント・参照情報記憶手段に蓄積する手段と、を含む請求項6乃至7記載の部分コンテンツ作成装置。
  10. 前記要約基点区間追加手段は、
    前記要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
    前記要約基点区間におけるコメントと、参照関係にある映像区間におけるコメントを比較し、要約映像として連結する際の重要度を求める手段と、
    前記重要度の高い映像区間を前記要約基点映像区間として追加する手段と、を含む請求項6乃至9記載の部分コンテンツ作成装置。
  11. 映像に関するユーザとのコミュニケーションを行うための映像を用いたコミュニケーション手段を介して、ユーザの意図に沿った映像要約である部分コンテンツを、作成するための部分コンテンツ作成プログラムであって、
    コンピュータに、
    前記コミュニケーション手段を介して、コメント入力対象となる映像区間をユーザに選択させるコメント入力区間選択ステップと、
    前記コミュニケーション手段を介して、前記映像区間に対してコメントを入力させるコメント情報入力ステップと、
    前記コミュニケーション手段を介して、前記映像区間から別の映像区間への参照情報を入力させる参照情報入力ステップと、
    前記コメント入力区間選択ステップと前記参照情報入力ステップにおいて、前記ユーザから入力されたコメント・参照情報を、前記映像区間と対応付けて、コメント・参照情報記憶手段に蓄積するコメント・参照情報蓄積ステップと、
    前記コメント・参照情報記憶手段に蓄積されている対応付けられたコメント・参照情報を入力された映像区間と対応付けて、前記コミュニケーション手段を介して、前記ユーザに表示するコメント・参照情報表示ステップと、
    前記コミュニケーション手段を介して、表示されている前記コメント・参照情報と入力された映像区間とが対応付けられた表示内容から、要約映像の基点となる映像区間を前記ユーザに選択させる要約基点区間選択ステップと、
    前記要約基点区間と参照関係にある複数映像区間から、要約映像として連結可能な任意の映像区間を、前記コミュニケーション手段を介して、前記ユーザに選択させ、選択された映像区間を該基点区間に追加する要約基点区間追加ステップと、
    前記要約基点区間選択ステップ及び前記要約基点区間追加ステップにより選択された一連の映像区間を連結し、要約映像を作成する要約映像生成ステップと、
    を実行させることを特徴とする部分コンテンツ作成プログラム。
  12. 前記参照情報入力ステップにおいて、
    前記ユーザに参照する映像区間を指定させる際に、
    前記ユーザにより、該既に入力済みのコメント・参照情報を用いて参照情報を入力する旨の入力があった場合に、前記コメント・参照情報記憶手段から既に入力済みのコメント・参照情報を読み込んで表示し、前記ユーザが選択したコメントに基づいて、該コメントが参照している参照情報を取得し、該参照情報から映像区間参照情報を取り出して、参照する映像区間を特定して該ユーザに提示するステップを実行させる請求項11記載の部分コンテンツ作成プログラム。
  13. 前記コメント・参照情報蓄積ステップにおいて、
    ある映像区間から別の映像区間への参照情報を、相互参照情報であることを示す情報を付加して前記コメント・参照情報記憶手段に蓄積するステップを実行させる1請求項11記載の部分コンテンツ作成プログラム。
  14. 前記コメント・参照情報蓄積ステップにおいて、
    前記映像区間に付与されたコンテンツ内の特徴的なワードを、特徴的なワードを蓄積したキーワード記憶手段を参照して特定するステップと、
    特定されたワードを有する別の映像区間に対して、コメント・参照情報を付与して前記コメント・参照情報記憶手段に蓄積するステップと、を実行させる請求項11乃至13記載の部分コンテンツ作成プログラム。
  15. 前記要約基点区間追加ステップにおいて、
    前記要約基点区間と参照関係にある複数の映像区間から、要約映像として連結可能な任意の映像区間を選択する際に、
    前記要約基点区間におけるコメントと、参照関係にある映像区間に置けるコメントを比較し、要約映像として連結する際の重要度を求めるステップと、
    前記重要度の高い映像区間を前記要約基点映像区間として追加するステップと、を実行させる請求項1乃至14記載の部分コンテンツ作成プログラム。
JP2004041594A 2004-02-18 2004-02-18 部分コンテンツ作成方法及び装置及びプログラム Expired - Fee Related JP4120597B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004041594A JP4120597B2 (ja) 2004-02-18 2004-02-18 部分コンテンツ作成方法及び装置及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004041594A JP4120597B2 (ja) 2004-02-18 2004-02-18 部分コンテンツ作成方法及び装置及びプログラム

Publications (2)

Publication Number Publication Date
JP2005236546A JP2005236546A (ja) 2005-09-02
JP4120597B2 true JP4120597B2 (ja) 2008-07-16

Family

ID=35019068

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004041594A Expired - Fee Related JP4120597B2 (ja) 2004-02-18 2004-02-18 部分コンテンツ作成方法及び装置及びプログラム

Country Status (1)

Country Link
JP (1) JP4120597B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2147402A1 (en) 2007-05-08 2010-01-27 Koninklijke Philips Electronics N.V. Method and system for enabling generation of a summary of a data stream
JP5278425B2 (ja) * 2008-03-14 2013-09-04 日本電気株式会社 映像分割装置、方法及びプログラム
JP5243366B2 (ja) * 2009-08-18 2013-07-24 日本電信電話株式会社 映像要約方法および映像要約プログラム
JP5804960B2 (ja) * 2012-02-06 2015-11-04 三菱電機株式会社 情報提供装置
JP6917210B2 (ja) * 2017-06-20 2021-08-11 日本放送協会 要約映像生成装置およびそのプログラム
CN109933691B (zh) * 2019-02-11 2023-06-09 北京百度网讯科技有限公司 用于内容检索的方法、装置、设备和存储介质
CN113052149B (zh) * 2021-05-20 2021-08-13 平安科技(深圳)有限公司 视频摘要生成方法、装置、计算机设备及介质

Also Published As

Publication number Publication date
JP2005236546A (ja) 2005-09-02

Similar Documents

Publication Publication Date Title
US10599643B2 (en) Template-driven structured query generation
US10096145B2 (en) Method and system for assembling animated media based on keyword and string input
JP6015568B2 (ja) コンテンツ・リンクを生成する方法、装置およびプログラム
KR101659097B1 (ko) 복수의 저장된 디지털 이미지들을 탐색하기 위한 방법 및 장치
US8135739B2 (en) Online relevance engine
JP4449361B2 (ja) マルチメディア又はビデオストリームの注釈の共同インデックスをフィルタリングして、見るための方法、システム、及び実行させるためのプログラム
JP5098315B2 (ja) 関連情報決定方法及び装置並びにプログラム
US20110078140A1 (en) Method and system for user guided search navigation
JP2008537627A (ja) 複合ニュース・ストーリーの合成
WO2010109709A1 (ja) コンテンツ推薦装置及び方法
US20100145934A1 (en) On-demand search result details
JP4469868B2 (ja) 説明表現付加装置、プログラムおよび説明表現付加方法
KR101571240B1 (ko) 텍스트에 기반한 동영상 생성장치 및 그 생성방법
JP2009500764A (ja) 情報価値を反映した情報検索方法及びその装置
JP5455232B2 (ja) 画像選定装置、方法及びプログラム
JP2011154739A (ja) 文書探索サービス提供方法及びシステム
KR100644016B1 (ko) 동영상 검색 시스템 및 방법
JP4734048B2 (ja) 情報検索装置、情報検索方法および情報検索プログラム
JP4120597B2 (ja) 部分コンテンツ作成方法及び装置及びプログラム
JP2006186426A (ja) 情報検索表示装置、情報検索表示方法および情報検索表示プログラム
EP1405212B1 (en) Method and system for indexing and searching timed media information based upon relevance intervals
KR100916310B1 (ko) 오디오 신호처리 기반의 음악 및 동영상간의 교차 추천 시스템 및 방법
JP4606349B2 (ja) 話題画像抽出方法及び装置及びプログラム
JP2006228059A (ja) ポインタの位置情報を利用するプレゼンテーションコンテンツ検索システムおよびその方法、ならびにコンピュータ読み取り可能な記録媒体
JP4134975B2 (ja) 話題文書提示方法及び装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050531

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080401

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080414

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110509

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120509

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130509

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140509

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees