JP2010514302A - サマリ及びレポートを既に含んでいるオーディオビジュアル文書について新たなサマリを作成する方法及び該方法を使用する受信機 - Google Patents

サマリ及びレポートを既に含んでいるオーディオビジュアル文書について新たなサマリを作成する方法及び該方法を使用する受信機 Download PDF

Info

Publication number
JP2010514302A
JP2010514302A JP2009542078A JP2009542078A JP2010514302A JP 2010514302 A JP2010514302 A JP 2010514302A JP 2009542078 A JP2009542078 A JP 2009542078A JP 2009542078 A JP2009542078 A JP 2009542078A JP 2010514302 A JP2010514302 A JP 2010514302A
Authority
JP
Japan
Prior art keywords
report
roundup
round
document
audiovisual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009542078A
Other languages
English (en)
Other versions
JP2010514302A5 (ja
JP5079817B2 (ja
Inventor
シュヴァリエ,ルイ
デマルティ,クレール−ヘレン
オワゼル,リオネル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010514302A publication Critical patent/JP2010514302A/ja
Publication of JP2010514302A5 publication Critical patent/JP2010514302A5/ja
Application granted granted Critical
Publication of JP5079817B2 publication Critical patent/JP5079817B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/19Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier
    • G11B27/28Indexing; Addressing; Timing or synchronising; Measuring tape travel by using information detectable on the record carrier by using information signals recorded by the same method as the main recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • G06F16/738Presentation of query results
    • G06F16/739Presentation of query results in form of a video summary, e.g. the video summary being a video sequence, a composite still image or having synthesized frames
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7834Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using audio features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/783Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/7847Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
    • G06F16/785Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using colour or luminescence
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/02Editing, e.g. varying the order of information signals recorded on, or reproduced from, record carriers
    • G11B27/031Electronic editing of digitised analogue information signals, e.g. audio or video signals
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/34Indicating arrangements 
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/44Receiver circuitry for the reception of television signals according to analogue transmission standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Library & Information Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Signal Processing (AREA)
  • Computational Linguistics (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

本発明は、事前に装置に記録されているオーディオビジュアルドキュメントの新たなサマリを作成する方法に関連する。ドキュメントは、2つの部分、すなわちサマリ及び複数のレポートを含む。そしてサマリは、複数の部分に分割される。本発明によれば、サマリの部分及びレポートの間の対応関係を、装置は先ず調査し、サマリの部分に対応していないレポートを検出する。次に、サマリに対応していないレポートについてアブストラクトが作成され、そのアブストラクトは初期のサマリに組み込まれ、新たなサマリを作成する。こうして、ユーザは、レポートに関連するサマリの部分からどのレポートでも簡易に選択できる。本発明は、本方法を使用する受信機にも関連する。

Description

本発明は、初期のラウンドアップ及びレポートを有するオーディオビジュアル文書について新たなラウンドアップを作成する方法、及びその方法を使用する受信機に関連する。
今日、多くの装置が、記録されたオーディオビジュアル作品を受信及び再生できる。最近は、大容量のハードディスクがこれらのオーディオビジュアル受信機に組み込まれつつある:したがって、一方向性のブロードキャストネットワークや、1対1ネットワーク(例えば、インターネット)等からダウンロードしたコンテンツを受信機に保存することができる。これらの装置の内、パーソナルビデオレコーダ(PVR: Personal Video Recorder)には一般に電子番組ガイド(EPG: Electronic Program Guide)が備わっており、ハードディスクに記録されたコンテンツをユーザに表示したり、コマンドを使ってそれらを再生したりすることを可能にする。現在、ハードディスクのサイズは、番組を200時間以上記録することを可能にする。利用可能なこのような(膨大な)情報量により、内外のナビゲーションを速やかに行う新たな機能をPVRに付加することが求められる。EPGは、多くの基準に従って文書(ドキュメント)を再編成し、例えば、テーマ、タイプ、言語、ペアレンタルコントロール等のグループでドキュメントを提示する。この分類は、オーディオビジュアルコンテンツに付随するメタデータを用いて行われる。変形例として、受信機がコンテンツを分析して分類してもよい。ストレージ手段の別の例は、オーディオビジュアル作品を磁気テープに記録するビデオカセットレコーダに関連し、この場合、オーディオビジュアル作品へのアクセスは順番どおりに(シーケンシャルに)行われる。これらの製品の場合、現在のチャネルで受信したビデオを速やかに記録することや、将来のイベントをプログラムすることができる。コンテンツを記録する方法が何であれ、ユーザインターフェースは、ダウンロード及び記録した作品の選択や再生を制御することができる。先ず、ユーザは、視聴したい番組を番組ガイドを使って選択する。そして、「再生」ボタンを押すことで、その作品の視聴を開始する。
ディジタル記録(例えば、DVD)の場合、作品はいくつもの章(チャプタ)に分割されている。この場合、ユーザは、あるチャプタを選択し、選択したチャプタの最初から視聴を開始できる。「次のトラック」ボタンを押すことで、(現在のものを)スキップし、次のセグメントを視聴できる。ブロードキャストネットワークから受信されるいくつかの番組もセグメント化(分割)されており、いったんそれが受信機のハードディスクに記録された後、ユーザは、視聴する特定のセグメントを選択することができ、或いは、最初の数秒だけを見ることでセグメント毎にナビゲートし、必要なセグメントを探索可能にしている。番組が一切セグメント化されずに受信された場合でも、受信機の段階でセグメント化を行う分割方法がある。西暦2002年10月28日付けで出願された仏国特許出願第02.13977号(FR02.13977)として参照される特許出願は、あるセグメント法を説明しており、その方法は、オーディオビジュアルコンテンツ作品を使用し、そこから意味のあるまとまりをなす部分を抽出する。FR02.13977の出願で説明されている方法は、いくつものレベルに応じてスポーツビデオのセグメント化を行うことができる。映画やドキュメンタリのビデオのツリー構造を、自動的に抽出できる方法も存在する。古典的には、映像の色の突然の変化に基づいて、ビデオが複数のショット(shots)に分割される。それらのショットは、ショット内容の視覚的な類似性及び時間的な近接性に基づいて、場面(シーン)にグループ化される。一般に、多数のタイプのビデオドキュメントについて、いくつものレベルを有するツリー構造を決めることができる。
特許文献1(US2006/0107289)は、オーディオビジュアル番組及びそれら番組に関連するサービスデータを受信するオーディオビジュアル装置を説明している。この装置は、衛星、ケーブル及び地上の様々なネットワークから到来するいくつものデータを受信する手段と、それらのネットワークから受信したデータを記憶する手段とを有する。装置は電子番組ガイド(EPG)を表示し、記録された様々なドキュメントを提示する。ドキュメントはサムネイルの形式で表示され、サムネイルはドキュメントの最初のビデオフレームである。最初の映像が真っ黒だった場合、別の映像が表示される。この文献の場合、ドキュメントのタイトル及び最初の映像以外の何かをユーザに提示して、ラウンドアップ(roundup)の内容を豊かにすることはできない。
記録されたドキュメントがテレビジョンのニュース番組であった場合、この方法による索引付け(indexing)は、レポート(report)への直接的なアクセスを可能にする。一般に、テレビジョンのニュース番組はラウンドアップと共に始まり、ラウンドアップの間、そのニュース番組を構成する主なレポートが表示される。適切な場合、その索引付け法を使ったガイドは、ラウンドアップを或るレポートとして提示し、その態様でユーザに提示する。しかしながら実際には、ラウンドアップ中の映像は、様々なレポートを口頭で表す司会者を表示し、有効な索引付け法は考案されておらず、総ての画像が1つにまとまっている。別の状況では、ラウンドアップはいくつかのレポートに分割される。総ての場合において、ニュース番組の各部分は、同じ表示レベルで別々に示される。それらが実際のレポートであるか或いはラウンドアップであるかを示すことなく、ニュース番組がいくつものレポートで構成される様子がユーザにはっきりと見えてしまうので、この方法は申し分のない方法ではない。さらに、レポートがラウンドアップの中で提示されなかった場合、ユーザがそれを簡易に発見することは困難である。
米国特許出願公開第2006/0107289号明細書
本発明の課題は、レポート及びラウンドアップ部分の間で効率的なナビゲーションを可能にすることで、この種のドキュメントについて、特にユーザフレンドリなユーザインターフェースをユーザにもたらすことである。
本発明では、装置に記録されたオーディオビジュアルドキュメントの導入部分に新たなラウンドアップを作成する方法が使用される。
本方法は、
前記ドキュメントを2つの部分に分割するステップであって、一方の部分は前記ラウンドアップであり、他方の部分は複数のレポートを含む、ステップと、
前記ラウンドアップを複数の部分に分割するステップと、
あるラウンドアップの部分及びあるレポートの間の対応関係を調べ、ラウンドアップに対応しない少なくとも1つのレポートを検出するステップと、
ラウンドアップに対応しない少なくとも1つのレポートについて、該レポートから抽出されたオーディオビジュアルシーケンスの少なくとも1つの映像から、サマリを作成するステップと、
作成された前記サマリを前記新たなラウンドアップに統合するステップと
を有する方法である。
本発明の実施例によるオーディオビジュアル受信機のブロック図。 ナビゲータにより実行される主なステップを示すフローチャート。 記録されたドキュメントを分割する様子を示す図(新たなサマリの作成前)。 記録されたドキュメントを分割する様子を示す図(新たなサマリの作成後)。 事前にセグメント化され分割されたドキュメントのナビゲーションを可能にする画面例を示す図。
上述したように本発明の一形態によれば、ラウンドアップに現れてないレポートが、新たなラウンドアップに現れるようになり、ユーザは、オーディオビジュアルドキュメント内でナビゲートすることができ、導入部分のサマリから、ドキュメントに包含され且つサマリに関連付けられているどのレポートにも移ることができる。ドキュメントをラウンドアップの複数の部分に及び複数のレポートに分割することは、2段階で情報をユーザに提供することを可能にし、第1段階の情報は、レポートの主題をユーザに通知することを可能にし、第2段階の情報はレポート自身の内容である。
一実施例によれば、作成された前記サマリを前記新たなラウンドアップに統合することが、レポートの順序に従ってなされる。これにより、ユーザはドキュメントの構造に従いやすくなる。一実施例によれば、前記サマリを作成することが、例えば、司会者の姿の表示のような所定の特徴を有するオーディオビジュアルシーケンスを抽出することによりなされる。これにより、作成されたサマリのシーケンスは、関連性がさらに深い情報内容を有するようにできる。
一実施例によれば、所与のレポートに関連するサマリの作成は、該レポートの持続時間が所定値より長い場合にのみ行われる。これにより、ラウンドアップは、重要でないレポートに関する多くのサマリにより混乱させられずに済む。一実施例によれば、複数のレポートが同じシーケンスに連結され、該シーケンスは、少なくとも一部分がローカルに作成されたサマリに関連付けられる。複数のレポートを収集することで、サマリの数を制限することができる。一実施例によれば、連結されたレポートが、所定値より短い持続時間又は特定のテーマのような特定の属性を有する。その結果、いくつかのレポートをグループ化し、一意に関連するサマリを作成し、ユーザにとってさらに有意義になる。
一実施例によれば、ナビゲーションの際、装置は、該装置が作成したラウンドアップを表示する間、視覚的な指示部を表示する。これにより、ユーザは、そのサマリが、初期のドキュメントには存在しないが、自身の装置によって作成されたことを知る。
本発明は、オーディオビジュアル受信機にも関連し、その受信機は、中央処理ユニットと、ドキュメントの保存手段に記録されたオーディオビジュアルドキュメントの少なくとも一部を再生する手段と、選択コマンドの受付手段とを有するオーディオビジュアル受信機であって、前記ドキュメントは、複数の部分に分割されたラウンドアップと、複数のレポートとを含み、当該受信機は、ラウンドアップの各部分をレポートに関連付ける手段と、ラウンドアップの部分に対応しない少なくとも1つのレポートのサマリを作成する手段とを有し、前記サマリは、前記レポートから抽出されたオーディオビジュアルシーケンスの少なくとも1つの映像から構築され、前記保存手段は、前記サマリを、前記ドキュメントの新たなラウンドアップに統合し、作成されたラウンドアップの部分を活性化する選択コマンドを入力すると、対応するレポートの再生が始まる。
本発明の他の特徴及び利点は、添付図面を参照しながら一例として与えられる以下の実施例の説明により、さらに詳細に明らかにされる。
先ず、ディスプレイ装置2を備えたオーディオビジュアル受信機1の動作説明がなされる。受信機は、プログラムメモリ12に接続された中央処理装置3と、高ビットレートのローカルディジタルバス6と共に通信するためのインターフェース5とを有し、バスはオーディオ/ビデオデータがリアルタイムで伝送されることを可能にする。このネットワークは例えばIEEE1394に基づくネットワークである。受信機は、復調器4に結合された受信アンテナを介してブロードキャストネットワークからオーディオ/ビデオデータを受信することができる。受信機は、遠隔制御部8からの信号を受信する赤外線信号受信部7と、ダウンロードしたデータを保存するメモリ9と、テレビジョン画面2に送信されるオーディオ信号を生成するオーディオ/ビデオデコード論理部10とをさらに有する。一実施例の場合、メモリ9は、オーディオビジュアルドキュメントを記録可能にする大容量ハードディスクである。別の実施例の場合、オーディオビジュアルドキュメントは、コンパクトディスクやDVDディスク等のような取り外し可能な担体に含められ、その担体は、受信機に組み込まれている読み取り周辺機器(図1には図示されていない)に挿入される。遠隔制御部は、↑、↓、→及び←のような方向ボタンと、少なくとも1つのボタン「OK」とを有する。好適実施例の場合、方向は、カーソルを画面内で動かせるようにし、ユーザが行い得るコマンドは、アイコンの形式で示され、ユーザが、要求したコマンドに対応するアイコンにカーソルを置いて「OK」ボタンを押すと、そのコマンドが実行される。
受信機は、画面上のデータに関する表示回路11も有し、その回路はしばしば「オンスクリーンディスプレイ」(OSD: On Screen Display)回路と言及される。OSD回路11は、オンスクリーンディスプレイのメニューやピクトグラム(例えば、表示されるチャネルの番号)を利用可能にするテキスト及び図形の生成部であり、本発明に従って、ナビゲーションメニューを表示できる。OSD回路は、中央処理装置3及びナビゲータ12により制御される。有利なことに、ナビゲータ12は、リードオンリメモリに記録されたプログラムモジュールの形式で実現される。ナビゲータは、例えばASIC形式のような特定用途回路の形式で実現されてもよい。
ディジタルバス6及び/又はブロードキャストネットワークは、オーディオビジュアルドキュメントを含むデータをネットワークに送信する。おそらくは、これらのドキュメントは、記述的なデータ(descriptive data)に関連付けられる。このデータは、ブロードキャストネットワークから、又はディジタルネットワーク6から到来する。特に、記述的なデータ(記述データ)は、ドキュメントの様々なセグメントを規定するセグメンテーション情報を含む。有利なことに、記述データは、ドキュメントの優れた分解を可能にし且つあるテキストを含み、そのテキストは、少なくとも1つのタイトルが各セグメントに与えられることを可能にする。記述データは、例えば、DVB−SI規格で指定されているサービス情報に含められ、受信機のメモリ9に記録される。ナビゲータは、それを抽出し、ナビゲーションを管理する。
主な要素の説明に続いて、それらがどのように協同するかの説明がなされる。図2は、本発明の実施例による主なステップのフローチャートを示す。先ず(ステップ2.1)、ドキュメントが、ディジタルネットワーク6又はブロードキャストネットワークからダウンロードされ、メモリ9に記録される。それに続いて又はしばらくして、そのドキュメントがラウンドアップと一群のレポートを含んでいることを、ユーザが示す。典型的には、このドキュメントはテレビジョンのニュース番組であるが、ドキュメンタリでもよいし、いくつもの難関で構成されたゲームでもよいし、より一般的には、ドキュメントのラウンドアップで表示される複数のシーケンスを有する如何なるビデオ又はオーディオドキュメントでもよい。ドキュメントをマーキングしたことでプログラムの実行が開始され、そのプログラムは、ドキュメントを分析してラウンドアップを充実させるように設計されている。
ドキュメントがセグメンテーションデータを伴わずに受信された場合、プログラムは、ソフトウエアセグメンテーションモジュールをローカルに使用することを決定し、そのモジュールは、ドキュメントの中で、レポートや、それらのレポートを表すラウンドアップの部分を特定する。
ステップ2.2では、ドキュメントは、複数のレポートのシーケンスに分けられる。これを行う多くの方法が提案されている。例えば、可能性のある技法は、ビデオのショットに分割した後に、決められた映像を表す反復的なショットを特定し、その映像は典型的にはテレビジョンニュース番組の司会者の映像である。司会者が現れる2個所の間の様々なショットは、1つのレポートを特徴付ける1つの同じビデオセグメントにグループ化される。別の例の場合、ビデオシーケンスがショットに分割され、その後、ショットの内容の視覚的な類似性及びそれらの時間的な近接性に基づいて、ショットがシーンにグループ化される。音響的な環境(フットボールの試合に関するレポート、エコロジーのドキュメンタリに関するレポート、最近の政治介入に関するレポート等は、異なる特徴を有する)を分析することで、或いは報告を論評する同じレポータの声の連続性を分析することで、オーディオ信号成分が観測されてもよい。司会者が現れる2個所の間の様々なショットは、1つのレポートを特徴付ける1つの同じビデオセグメントにグループ化される。したがって、レポートのリストだけでなく、司会者を含むショットのリストも、このモジュールの出力から得られる。
一般的に、セグメントから抽出された「主要画像(キーピクチャ)」の小規模の群毎に、各セグメントを表現すること、及びそれらの画像の視覚的な属性間の知覚的な距離を評価することで、セグメント間の視覚的類似性が評価される。使用される属性は、例えば、支配的な色の分布や、勾配分布(gradient distributions)等でもよい。この第1の処理により、新しい番組は複数のレポートに分割され、それらレポートの1つは、ラウンドアップになる。
ステップ2.3では、プログラムはドキュメント中のラウンドアップを見出し、それを視覚的な同一性を表す部分に分割する。ラウンドアップがテレビジョンニュース番組の最初の部分で発見されたものと仮定する(主な見出しを思い出させるため、ラウンドアップがニュース番組の終わりに再びブロードキャストされる、という他の仮定を行うことも可能である。)。ラウンドアップの映像を探すことは、様々な仮定にしたがって実行可能であり、例えば、次のような仮定が考えられる:
−ラウンドアップの映像は、司会者の左上又は右下付近に位置する四角いサムネイルを含む。
−ラウンドアップは、一連のビデオクリップの形式で司会者が登場する前に、ニュース番組の初めにブロードキャストされる。
他の視覚的な認識技術も存在する。例えば、最初のレポートに先行する総てのショットの選択が、先ず実行される。これらのショット総てについて、ショット各々の画像総てについて、サムネイル検出が実行される。この検出は或る知識(事実)に基づいており、その知識とは、サムネイルは画像の或る部分に現れ、画像の残りの部分はほとんど不変のままである、ということである。例えば、数理形態学(mathematical morphology)による四角形の検出に関連する一連の画像間の相違をもたらす画像を利用することができる。
ラウンドアップがドキュメントの最初に現れ、レポートの画像は画面に挿入されるのではなく画面全体に現れる場合、次の知識(事実)に基づく検出法を使用することができる:
−司会者は、ラウンドアップと共に口頭でサマリ(summary)を与える。これは、話者によるセグメンテーションを使用可能にし、画像が選択される。その画像の中で司会者は喋っているが姿は見えない。
−ラウンドアップは、一般に、クレジット表示(credit)及び司会者の最初の登場の間に編成されている。この場合、音楽トラックの検出やクレジット表示の事前の情報に基づいて、クレジット表示を検出することは、ラウンドアップを、クレジット表示でないものとして検出可能にする。
動作の変形例として、ステップ2.2及び2.3の実行順序は逆でもよい。記録されたドキュメントを分析する最初の段階において、受信機は、記録されたドキュメントの画像間の類似性を先ず調べる。これにより、ドキュメントは一連のショット群に分割され、あるショットシーケンスは、ある視覚的な連続性を表す。類似度合いを算出するため、ショットシーケンスは互いに比較される。類似度合いが所定の閾値を超える場合、分析された画像又はシーケンスショットは、2つずつ関連付けられる。この比較は、画像の比較だけでなく、画像の一部分の比較も含む。実際、ニュース番組は、最も目立つ画面位置の司会者と共にラウンドアップを提示し、レポートに対応する画像を画面に挿入する。比較モジュールは、画面に現れる映像の中で、ある小さな画像が挿入されている部分が存在することを検出し、その画像を使って比較を行う。
類似性を評価するステップに続いて、受信機は、シーケンスショットの分布を分析し、そのシーケンスショットは、他のシーケンスショットとの類似度合いによって区別(マーク)されている。受信機は少なくとも1つのシーケンスショットのグループを特定し、そのシーケンスショットは、ドキュメント中の他のシーケンスショットとの間で最高の類似度合いを有する。このグループが、記録されたドキュメントの始まり又は終わりに位置していなかった場合(これらはラウンドアップの通常的な位置である)、本方法は適用できない。そうでなかった場合、グループを構成するシーケンスショット総てはラウンドアップを形成し、ドキュメントの残りの部分は、一群のレポートと考えられる。特に、本方法は、ラウンドアップの映像に司会者が存在していない場合や、ラウンドアップの映像が何らかの特徴を備えていなかったような場合に有利に適用可能である。
レポート及びラウンドアップが検出されると、ステップ2.4において、ラウンドアップの各部分とレポート各々との間に存在する類似性が検出される。本方法は、ラウンドアップの映像と、レポートの映像とを比較するステップを有する。測定距離に関連する映像の属性を抽出する古典的な技法は、類似の指標を用意し、ラウンドアップ及びレポート映像の関連付けを追跡できるようにする。多くの場合、ラウンドアップは、関連するレポートの映像サマリによって構成されているように考察可能であり、有利なことに、本発明は時間的な要素を使用して、映像照合プロセスをさらに堅牢(ロバスト)にする。例えば、ラウンドアップにおけるレポートの表示順序は、一般に、ニュース番組のレポートの順序と同じである。したがって、ある類似度を示す2つの映像が同じ順序で提示され、一方の画像がラウンドアップの中にあり、他方がレポートの中にあった場合、その類似の指標は増やされる。
目下の段階では、ドキュメントは分割され、ラウンドアップの部分とレポートとの間の関連付けが行われる。ステップ2.5において、各レポートがラウンドアップの中で提示されているか否かを、本プログラムは検査する。このため、ドキュメントのインデックステーブルがメモリ9の中に作成され、インデックステーブルは、ドキュメントの要素の各々が索引付けされることを可能にする。以下は、ドキュメントに関連するテーブル例を示し、コンテンツの時系列が図3aに示されている。
Figure 2010514302
上記の例の場合、レポート番号3はラウンドアップの中で表示されない。ステップ2.5が終了した段階において、本プログラムは、ラウンドアップ部分に関連付けられていないレポートを総て特定している。
ステップ2.6において、プログラムは、現在のラウンドアップの部分に関連付けられていないレポートについて、好ましくは短時間のサマリを、自動的に生成する。これを行うため、本プログラムは、オーディオビジュアル又はビデオシーケンスに連結されているレポートのエッセンス(ビデオセグメント、キーピクチャ又は主要な画像)を所定数個選択する。好適実施例の場合、レポートのエッセンスの選択は、レポートのショット各々について数秒かけて実行される。レポートショットの視覚的な及び/又は聴覚的な内容を分析することで、その数秒の期間の長さは異なってよい。例えば、ショットは顔の表示を含まなければならない、或いは最小の動きのビデオセグメントを含まなければならない、等々である。別の処理方法は、司会者の姿を含むレポートのシーケンスショットのみを取得するステップを有する。別の処理方法は、強い音を含むレポートのシーケンスショットのみを取得するステップを有し、この方法は、スポーツのレポートを要約する際に特に有用である。
ステップ2.7において、プログラムは、作成シアタサマリを初期のラウンドアップに自動的に追加することで、初期のラウンドアップを修正する。有利なことに、有利なことに、これらのサマリのビデオコンテンツは或るアイコンでマークされ、そのアイコンは、これらの部分が、記録されているドキュメントにローカルに追加されたことをユーザに示す。簡易な方法の場合、作成されたサマリの追加は、現在のラウンドアップの終わりの部分になされる。変形例としては、作成されたラウンドアップ部分を、ドキュメントの中でレポートが出現する順序で追加する。ラウンドアップ部分が、既に各レポートと同じ順序ではなかった場合、所与のレポートについて作成されたサマリは、ドキュメントの中で先行しているレポートに対応するラウンドアップ部分の後に挿入される。ステップ2.7が終了すると、総てのサマリがラウンドアップに自動的に挿入され、それ自身ドキュメントをなす。ドキュメントのインデックステーブルは、ラウンドアップの部分と各レポートとを関連付け、ドキュメントに関するテーブルの具体例が以下に示され、コンテンツの時系列が図3bに示されている。
Figure 2010514302
レポート3について20秒間のサマリが作成されていることが、テーブルに示されており、その結果、サマリ及びレポートの以後の部分はその時間分だけずれるようにシフトしている。全体的に、記録されたドキュメントの持続時間は、本プログラムにより作成されたサマリの合計持続時間の分だけ増やされる。
図3aは、ドキュメントを分割し、ラウンドアップの部分とレポートとの間の類似性を判定する様子を示す。ステップ2.2及び2.3により、オーディオビジュアルドキュメントは、4つの部分を有するラウンドアップと、ラウンドアップに続く5つのレポートとを含むことを、本プログラムは確認する。ステップ2.4において、ラウンドアップ部分と各レポートとの間の類似性を分析することで、本プログラムは、ラウンドアップ部分と各レポートとの間に4つの対応関係を設定できている:すなわち、ラウンドアップの第1部分と第1のレポートとの対応関係、ラウンドアップの第2部分と第2のレポートとの対応関係、ラウンドアップの第3部分と第4のレポートとの対応関係、及びラウンドアップの第4部分と第5のレポートとの対応関係である。ステップ2.5において、第3のレポートはラウンドアップの中で提示されていないことを、本プログラムは確認している。上述した手順により、本プログラムは、ステップ2.6において、第3のレポートのサマリを自動的に作成する。この作成の後サマリはステップ2.7においてラウンドアップに挿入され、図3bは、5つのサマリの部分と共にドキュメントを分割した様子を示し、各サマリの1つは、5つのレポートの内の1つに関連付けられる。
一実施例の場合、所与のレポートに関連するサマリの作成は、そのレポートの持続時間が所定期間より長い場合にのみ行われる。実際、ニュース番組は、非常に短時間の些細なニュースのレポートを含むことが一般的である。したがって、さらに短時間のサマリを作成することが有意義であることはほとんどなく、しかも、それらのレポートの重要度から言っても、些細なニュースをラウンドアップに導入することは正当化されない。このような理由により、所定値(典型的には、15秒)未満の持続時間のレポートについて、本プログラムはサマリを作成しない。一実施例では、短い持続時間の複数のレポートは、リンクされ、次々に連結される。こうして、これらのレポートが、より長い持続時間を有するレポートどうしの間で、ドキュメントの中で広げられたとしても、それらは同じコマンドにより選択され表示されることが可能である。短時間のレポート全体は、ある画面ページに関連付けられ、例えば「概要(in brief)」のような一般的な文字を表示する。ユーザがこのページを起動(アクティブに)すると、その短時間のレポート全体を表示する処理が始まる。
短い持続時間のレポート群を選択し、それらを所与のサマリに関連付ける判断基準が、単なる一例として与えられる。ラウンドアップでは参照されない、レポートのテーマを決定し、例えばスポーツのような同じテーマのレポートを、同じラウンドアップの部分に関連付けることでグループ化し直してもよい。このラウンドアップの部分はオリジナルのドキュメントにおける既存のものでもよく、本プログラムは、例えば、テーマ名を表示するビデオシーケンスを追加してもよい。
こうして、ユーザはドキュメント内をナビゲートすることができるようになり、あるラウンドアップの部分から関連するレポートへ又はその逆へ簡易に移ることができる。ユーザインターフェースは、ドキュメント内のナビゲーションを可能にする。図4は、事前にセグメント化されたビデオドキュメント内でナビゲーションを行う際の画面例を示し、レポート及びラウンドアップ部分の間のナビゲーションリンクが設定されている。
図4は、記録されたビデオドキュメントを視聴する際の画面例を示す。ビデオコンテンツは背景に現れ、コマンドバナー50が画面の下側に現れる。
書籍の形状の次のアイコン51
Figure 2010514302
は、表示されているビデオコンテンツがラウンドアップから抽出されていることを
示すために現れている。
映写機の形状の次のアイコン
Figure 2010514302
は、ビデオコンテンツがニュース番組のレポートの部分から抽出されていることを
示すために現れている。バナーは以下のコマンドアイコンを含み、ユーザに提示される:
−(52)関連するラウンドアップ/レポートを交換する。
−(53)ラウンドアップ又はレポートの最初に戻る。
−(54)ラウンドアップ抽出をスキップし、以前のレポートに移る。
−(55)ラウンドアップ抽出をスキップし、次のレポートに移る。
−(56)フレームを凍結(固定)する。
−(57)通常の動作速度/スローの動作速度で視聴する。
−(58)レポートモードによる継続/レポート。
第1コマンド52は、ラウンドアップの抽出内容を視聴し、関連するレポートが表示されるようにする。デフォルトとして、ラウンドアップが視聴されるように設定されている。ユーザが如何なるコマンドも入力しなかった場合、ユーザは、ニュース番組を構成する主なレポートのテーマ(目的、対象)を速やかに知ることができる。
コマンド58は、レポート又はラウンドアップの抽出内容を表示できるようにし、及びラウンドアップの視聴を開始する又は開始しないようにすることができる。デフォルトではこれは継続モードになっている:ユーザがコマンド52をイネーブルにし、関連するレポートを視聴する場合、このレポートだけでなく後続のものも、ニュース番組の終わりに至るまで表示される。ユーザがレポート/レポートモードをイネーブルにした場合、そして、アイコン52の起動により開始され視聴したレポートが終了した場合、ラウンドアップの次の部分を見ることで、ラウンドアップの視聴が続く。
このインターフェースを利用することで、対象物がユーザにとって興味を引くものであった場合、ラウンドアップの部分から対応するレポートへ移ることで、ユーザは抽出物から抽出物へナビゲートすることができる。したがって、本方法は、映像を処理してそれらの表示を修正する必要はなく、また受信したものから別の映像を作成する必要もない。したがって本装置は多くの電力を消費しない。
以上、本発明は図示の特定の実施例に関して説明されたが、本発明はこれらの実施例に限定されず、添付の特許請求の範囲によってのみ規定される。変形例や修正例は当業者にとって認識可能であることに留意を要する。

Claims (14)

  1. 装置に記録されたオーディオビジュアルドキュメントの導入部分に新たなラウンドアップを作成する方法であって、
    前記ドキュメントを2つの部分に分割するステップであって、一方の部分は前記ラウンドアップであり、他方の部分は複数のレポートを含む、ステップと、
    前記ラウンドアップを複数の部分に分割するステップと、
    あるラウンドアップの部分及びあるレポートの間の対応関係を調べ、ラウンドアップに対応しない少なくとも1つのレポートを検出するステップと、
    ラウンドアップに対応しない少なくとも1つのレポートについて、該レポートから抽出されたオーディオビジュアルシーケンスの少なくとも1つの映像から、サマリを作成するステップと、
    作成された前記サマリを前記新たなラウンドアップに統合するステップと
    を有する方法。
  2. 作成された前記サマリを前記新たなラウンドアップに統合することが、レポートの順序に従ってなされる、請求項1記載の方法。
  3. 前記サマリを作成することが、オーディオビジュアルシーケンスの少なくとも1つの映像を抽出することによりなされ、前記映像は、司会者の姿の表示のような所定の特徴を有する、請求項1又は2に記載の方法。
  4. 所与のレポートに関連するサマリの作成は、該レポートの持続時間が所定の持続時間より長い場合にのみ行われる、請求項1ないし3の何れか1項に記載の方法。
  5. 複数のレポートを同じシーケンスに連結するステップを有し、該シーケンスは、少なくとも一部分がローカルに作成されたサマリに関連付けられる、請求項1ないし3の何れか1項に記載の方法。
  6. 連結されたレポートが、所定値より短い持続時間又は特定のテーマのような特定の属性を有する、請求項5記載の方法。
  7. ラウンドアップの一部分がローカルに作成されたことを示す視覚的な指示部が、ラウンドアップの部分を表示する際に表示されるステップをさらに有する、請求項1ないし6の何れか1項に記載の方法。
  8. 中央処理ユニットと、ドキュメントの保存手段に記録されたオーディオビジュアルドキュメントの少なくとも一部を再生する手段と、選択コマンドの受付手段とを有するオーディオビジュアル受信機であって、前記ドキュメントは、複数の部分に分割されたラウンドアップと、複数のレポートとを含み、当該受信機は、
    ラウンドアップの各部分をレポートに関連付ける手段と、
    ラウンドアップの部分に対応しない少なくとも1つのレポートのサマリを作成する手段と
    を有し、前記サマリは、前記レポートから抽出されたオーディオビジュアルシーケンスの少なくとも1つの映像から構築され、
    前記保存手段は、前記サマリを、前記ドキュメントの新たなラウンドアップに統合し、
    作成されたラウンドアップの部分を活性化する選択コマンドを入力すると、対応するレポートの再生が始まる、オーディオビジュアル受信機。
  9. 前記保存手段は、レポートの順序に従って、レポートの前記サマリを前記新たなラウンドアップに統合する、請求項8記載のオーディオビジュアル受信機。
  10. ラウンドアップの部分に対応しないレポートのサマリを作成する手段が、オーディオビジュアルシーケンスの少なくとも1つの映像を抽出することによりなされ、前記映像は、司会者の姿の表示のような所定の特徴を有する、請求項8又は9に記載のオーディオビジュアル受信機。
  11. 所与のレポートに関連するサマリの作成は、該レポートの持続時間が所定の持続時間より長い場合にのみ行われる、請求項8ないし10の何れか1項に記載のオーディオビジュアル受信機。
  12. 前記保存手段が、複数のレポートに関連する1つのサマリを作成し、選択コマンドの入力により、該複数のレポートが再生される、請求項8ないし10の何れか1項に記載のオーディオビジュアル受信機。
  13. 1つのサマリに関連付けられた複数のレポートが、所定値より短い持続時間又は特定のテーマのような特定の属性を有する、請求項12記載のオーディオビジュアル受信機。
  14. ラウンドアップの新たな部分及び視覚的な指示部を表示する表示手段をさらに有し、前記指示部は、ラウンドアップの該部分がローカルに作成されたことを示す、請求項8ないし13の何れか1項に記載のオーディオビジュアル受信機。
JP2009542078A 2006-12-21 2007-12-20 サマリ及びレポートを既に含んでいるオーディオビジュアル文書について新たなサマリを作成する方法及び該方法を使用する受信機 Active JP5079817B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR06/55803 2006-12-21
FR0655803A FR2910769B1 (fr) 2006-12-21 2006-12-21 Procede de creation d'un resume d'un document audiovisuel comportant un sommaire et des reportages, et recepteur mettant en oeuvre le procede
PCT/EP2007/064380 WO2008074877A1 (fr) 2006-12-21 2007-12-20 Procede de creation d'un nouveau sommaire d'un document audiovisuel comportant deja un sommaire et des reportages et recepteur mettant en œuvre le procede

Publications (3)

Publication Number Publication Date
JP2010514302A true JP2010514302A (ja) 2010-04-30
JP2010514302A5 JP2010514302A5 (ja) 2011-02-10
JP5079817B2 JP5079817B2 (ja) 2012-11-21

Family

ID=38522788

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009542078A Active JP5079817B2 (ja) 2006-12-21 2007-12-20 サマリ及びレポートを既に含んでいるオーディオビジュアル文書について新たなサマリを作成する方法及び該方法を使用する受信機

Country Status (7)

Country Link
US (1) US8634708B2 (ja)
EP (1) EP2104937B1 (ja)
JP (1) JP5079817B2 (ja)
KR (1) KR101440168B1 (ja)
CN (1) CN101568968B (ja)
FR (1) FR2910769B1 (ja)
WO (1) WO2008074877A1 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6263507B1 (en) * 1996-12-05 2001-07-17 Interval Research Corporation Browser for use in navigating a body of information, with particular application to browsing information represented by audiovisual data
CN102385610B (zh) * 2011-08-30 2016-05-04 杭州海康威视数字技术股份有限公司 数字硬盘录像机录像文件保存与数据恢复的方法及其系统
US10282068B2 (en) 2013-08-26 2019-05-07 Venuenext, Inc. Game event display with a scrollable graphical game play feed
US9575621B2 (en) 2013-08-26 2017-02-21 Venuenext, Inc. Game event display with scroll bar and play event icons
US10500479B1 (en) 2013-08-26 2019-12-10 Venuenext, Inc. Game state-sensitive selection of media sources for media coverage of a sporting event
KR20160056888A (ko) * 2013-09-16 2016-05-20 톰슨 라이센싱 여러 사용자 주석들을 검색하고 그것들을 콘텐트 내에 오버레이하여 비디오들을 브라우징하기
US9578377B1 (en) 2013-12-03 2017-02-21 Venuenext, Inc. Displaying a graphical game play feed based on automatically detecting bounds of plays or drives using game related data sources
US8719032B1 (en) * 2013-12-11 2014-05-06 Jefferson Audio Video Systems, Inc. Methods for presenting speech blocks from a plurality of audio input data streams to a user in an interface
JP6511954B2 (ja) 2015-05-15 2019-05-15 富士ゼロックス株式会社 情報処理装置及びプログラム

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004364234A (ja) * 2003-05-15 2004-12-24 Pioneer Electronic Corp 放送番組内容メニュー作成装置及び方法

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050193408A1 (en) * 2000-07-24 2005-09-01 Vivcom, Inc. Generating, transporting, processing, storing and presenting segmentation information for audio-visual programs
FR2825556A1 (fr) * 2001-05-31 2002-12-06 Koninkl Philips Electronics Nv Generation d'une description dans un langage de balisage d'une structure d'un contenu multimedia
AU2003221185A1 (en) * 2002-04-12 2003-10-27 Mitsubishi Denki Kabushiki Kaisha Meta data edition device, meta data reproduction device, meta data distribution device, meta data search device, meta data reproduction condition setting device, and meta data distribution method
WO2004040471A1 (fr) 2002-10-28 2004-05-13 Thomson Licensing Sa Dispositif de structuration d’un document multimedia representant un evenement
US20040181545A1 (en) * 2003-03-10 2004-09-16 Yining Deng Generating and rendering annotated video files
JP2005025797A (ja) * 2003-06-30 2005-01-27 Sharp Corp Avデータ記録方法、avデータ再生方法、及び、avデータ記録媒体
US7483618B1 (en) * 2003-12-04 2009-01-27 Yesvideo, Inc. Automatic editing of a visual recording to eliminate content of unacceptably low quality and/or very little or no interest
KR20060126508A (ko) * 2003-12-18 2006-12-07 코닌클리케 필립스 일렉트로닉스 엔.브이. 시청각 데이터의 스트림의 멀티미디어 요약을 생성하기위한 방법 및 회로
US20050154987A1 (en) * 2004-01-14 2005-07-14 Isao Otsuka System and method for recording and reproducing multimedia
US9053754B2 (en) * 2004-07-28 2015-06-09 Microsoft Technology Licensing, Llc Thumbnail generation and presentation for recorded TV programs
US20070101394A1 (en) * 2005-11-01 2007-05-03 Yesvideo, Inc. Indexing a recording of audiovisual content to enable rich navigation

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004364234A (ja) * 2003-05-15 2004-12-24 Pioneer Electronic Corp 放送番組内容メニュー作成装置及び方法

Also Published As

Publication number Publication date
US20100209072A1 (en) 2010-08-19
US8634708B2 (en) 2014-01-21
EP2104937B1 (fr) 2012-05-23
JP5079817B2 (ja) 2012-11-21
EP2104937A1 (fr) 2009-09-30
WO2008074877A1 (fr) 2008-06-26
FR2910769A1 (fr) 2008-06-27
KR101440168B1 (ko) 2014-09-12
CN101568968A (zh) 2009-10-28
FR2910769B1 (fr) 2009-03-06
CN101568968B (zh) 2011-09-28
KR20090089878A (ko) 2009-08-24

Similar Documents

Publication Publication Date Title
JP5079817B2 (ja) サマリ及びレポートを既に含んでいるオーディオビジュアル文書について新たなサマリを作成する方法及び該方法を使用する受信機
JP5038607B2 (ja) スマートメディアコンテンツサムネイル抽出のシステムおよび方法
US8594429B2 (en) Method and apparatus for processing a video stream
US7483618B1 (en) Automatic editing of a visual recording to eliminate content of unacceptably low quality and/or very little or no interest
KR101058054B1 (ko) 비디오 추출
KR100818922B1 (ko) 시리즈 컨텐츠의 시청 포인트를 기초로 컨텐츠를재생시키는 장치 및 그 방법
JP5135024B2 (ja) コンテンツのシーン出現を通知する装置、方法およびプログラム
US20090222849A1 (en) Audiovisual Censoring
CN101398843B (zh) 用于浏览视频概要描述数据的设备及方法
JP3966515B2 (ja) ネットワークシステム、サーバ、データ記録再生装置及びその方法並びにプログラム
JP4683281B2 (ja) 再生システム、再生装置、再生方法、情報処理装置、情報処理方法、およびプログラム
JP2006525537A (ja) コンテンツ解析を用いて音楽ビデオを要約する方法及び装置
JP2008061120A (ja) 再生装置、検索方法、およびプログラム
KR20020050264A (ko) 컬러링된 슬라이더 바를 제공하는 재생 장치
EP1796387A1 (en) Video display apparatus, video display method, and video display program
JP2007524321A (ja) ビデオトレーラ
JP2006211311A (ja) ダイジェスト映像生成装置
US20030030852A1 (en) Digital visual recording content indexing and packaging
JP4735413B2 (ja) コンテンツ再生装置およびコンテンツ再生方法
JP4555214B2 (ja) 情報提示装置、情報提示方法、情報提示プログラム及び情報記録媒体
JP2007267259A (ja) 画像処理装置およびファイル再生方法
KR20060102639A (ko) 동영상 재생 시스템 및 방법
JP4366439B1 (ja) 映像コンテンツの編集方法とこれを用いた編集装置ならびに遠隔編集装置
JP2006180306A (ja) 動画記録再生装置
JP4230402B2 (ja) サムネイル画像抽出方法、装置、プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101215

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101215

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120814

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120829

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150907

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5079817

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250