JP3766280B2 - Content mediation apparatus and content mediation processing method - Google Patents

Content mediation apparatus and content mediation processing method Download PDF

Info

Publication number
JP3766280B2
JP3766280B2 JP2001056710A JP2001056710A JP3766280B2 JP 3766280 B2 JP3766280 B2 JP 3766280B2 JP 2001056710 A JP2001056710 A JP 2001056710A JP 2001056710 A JP2001056710 A JP 2001056710A JP 3766280 B2 JP3766280 B2 JP 3766280B2
Authority
JP
Japan
Prior art keywords
content
broadcast
identification information
type
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2001056710A
Other languages
Japanese (ja)
Other versions
JP2002262225A (en
Inventor
憲司 藤本
治彦 児島
憲一 南
曽根原  登
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2001056710A priority Critical patent/JP3766280B2/en
Publication of JP2002262225A publication Critical patent/JP2002262225A/en
Application granted granted Critical
Publication of JP3766280B2 publication Critical patent/JP3766280B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は,受信した放送コンテンツに対して,そこから自分が選択した一部分の映像や音楽などのコンテンツにタイトルなどの情報を付加し,コンテンツ再生装置やコンテンツ記録媒体へ転送できるようにしたコンテンツ仲介装置およびその処理方法に関する。
【0002】
特に本発明は,連続して放送される放送コンテンツについて,カメラの切り替えや音楽の切れ目など,シーンの変わり目を切り出すような比較的処理の軽い部分を,パーソナルコンピュータ(PC)などのクライアント装置で受け持ち,一方,シーンから付加情報を取り出すような処理時間の要する付加価値の高いサービス機能をネットワーク上の装置で行い,クライアント装置で取り出した放送データに対して,ネットワークを介して情報を取り出し,付加し,コンテンツ再生装置にデータを転送する放送コンテンツへの情報付加および蓄積の技術に関するものである。
【0003】
【従来の技術】
従来,視聴者が放送局から一方的に放送される放送コンテンツに関連する情報を得られるようにするための方法として,放送コンテンツをデジタル化し,いわゆる映像データとそれに付随するデータとを併せて送信するデジタル放送の特徴を利用し,付随するデータ中にURL(Uniform Resource Locator)などのインターネットへのリンクを埋め込み,映像コンテンツとのリンクを設定することによって視聴者に情報を提供する方法がある。
【0004】
また,例えば特開平10−177532号公報「テレビ番組と連携してインターネットホームページを自動的にテレビ画面上に表示させる方法および装置」に示されているように,個々のテレビ番組に関連したインターネットのURL情報を組み込んだテレビ番組表データを外部から端末内に取り込むことにより,テレビ番組と連携してインターネットホームページをテレビ画面上に表示させる方法がある。
【0005】
【発明が解決しようとする課題】
しかし,従来のデジタル放送で映像コンテンツとともに関連情報または関連情報へのリンクを送る方法は,あらかじめ放送局側で映像コンテンツに関連情報またはそれへのリンクを付加しておく必要があり,そのような付随データが用意されていないコンテンツについては,視聴者側でその関連情報を得ることはできなかった。
【0006】
また,特開平10−177532号公報に示されているような方法は,デジタルの放送コンテンツに対して付加価値を付ける方式であり,例えばアナログの放送コンテンツに対して情報を付加するものではない。
【0007】
また,コンテンツ自体にメタ情報が組み込まれていたとしても,視聴者の端末に,コンテンツからメタ情報を抜き出すための機構がない場合には,それについての関連情報を得ることはできない。メタ情報とは,例えば映像コンテンツのテロップ情報(歌詞,ニュース)や,抜き出した音楽データから検索した音楽タイトル,ドラマのあるシーンのロケ地などのようなものである。
【0008】
また,一方的に垂れ流される放送コンテンツの中に含まれている複合的な情報(映像,音声,BGM等)の一部しか再生もしくはハンドリングできないクライアント端末においてその一部を視聴した後,再生できなかった情報や関連情報を,複合的な情報の再生機能を有する他の端末で視聴しようとしても,従来技術ではそれが困難であった。
【0009】
アナログの放送コンテンツを蓄積できる装置として,ビデオテープレコーダ(VTR)装置があるが,VTR装置は,単に放送コンテンツを蓄積するだけであった。
【0010】
本発明は上記問題点の解決を図り,アナログ放送の場合,またはデジタル放送であっても関連情報にアクセスするための付随データが付加されていない放送の場合,さらに付随データが付加されて放送されたデジタル放送であっても,受信装置の性能や機能による制限によって情報が欠落してしまったような場合などにも,ネットワーク上に置かれた複合情報を処理できるサーバ装置から関連情報や欠落した付加情報を取り出して管理し,必要なときにそれを読み出して再生することができるようにすることを目的とする。
【0011】
【課題を解決するための手段】
上記課題を解決するために,本発明は,コンテンツ抽出手段によって放送コンテンツを放送データ素片に分割し,その中から複数の種類の識別情報生成方法の中のいずれかの方法を用いて抽出される識別情報をもとに,関連コンテンツ収集手段によってネットワーク上で稼動している関連コンテンツ抽出装置から付加情報を取り出し,分割したコンテンツと結合し,それを蓄積・管理することを主要な特徴とする。また,特に識別情報生成方法の種類を示すタイプ別に,該タイプと,放送データ素片に関連する付加情報の検索先を特定する情報との対応情報を参照し,前記識別情報をもとに,その識別情報の抽出に用いた前記識別情報生成方法の種類を示すタイプに対応する検索先を特定し,その検索先からネットワークを介して前記放送データ素片に関連する付加情報を収集することを特徴とする。
【0012】
この発明によれば,クライアント側の装置において抽出・分解した放送データ素片に対して,ネットワーク側で検出した付加情報を併せてクライアント側に蓄積し,視聴したいコンテンツを選択して再生装置に転送することができる。
【0013】
また,放送番組のように一方的に供給される複合コンテンツ(例えば映像と音声)のうち一部しか再生できない(例えば音声のみの再生)クライアント端末で受信したような場合にも,後で再生できなかった情報や関連情報を,他の端末で再生することができる。
【0014】
本発明と従来技術との違いは,例えば以下のとおりである。従来技術では,パーソナル・コンピュータ(PC)などのある程度の二次記憶媒体を持ち,容易に放送コンテンツを取得できる環境に置かれている装置で,受信した放送コンテンツをあるドラマの1映像シーンや音楽番組のある一曲などの単位で分割したときに,そのコンテンツに対しての情報が,装置の性能や持っている機能による制限によって,欠落してしまうことがあったが,本発明では,インターネットなどのネットワーク上のサーバ上でメディア変換された情報を検索し,欠落した付加情報を補填し,蓄積することができる。したがって,随時,蓄積されているコンテンツを一覧表示し,必要とする分だけ,携帯性のある再生装置にダウンロードしたり,DVDなどの二次媒体に転送することが可能になる。
【0015】
また,アナログの放送コンテンツを蓄積できるVTR装置は,時間によって放送コンテンツを分割することができるだけであるので,あるシーンごとに分割されたものに対して,付加情報をネットワークから取得し,着目するシーンと一緒に管理できるものではなかった。しかし,本発明では,アナログの放送コンテンツであっても,シーンごとに分割された放送データ素片に対してネットワークを介して取得した関連情報を付加し,一緒に管理することができる。
【0016】
【発明の実施の形態】
図1に,本発明に係るコンテンツ仲介装置を用いたシステムの構成例を示す。コンテンツ仲介装置1は,放送コンテンツ受信部10,コンテンツ抽出部11,関連コンテンツ収集部12,コンテンツ蓄積部13,コンテンツ一覧表示・転送部14を備える。これらの多くは,コンピュータとそのコンピュータが実行するソフトウェア・プログラムとによって実現される。このコンテンツ仲介装置1は,利用者のパーソナル・コンピュータ(PC)や,コンピュータを内蔵するテレビ受像機のようなものであってもよいし,またキオスク端末のようなものであってもよい。関連コンテンツ提供装置2は,インターネットなどのネットワーク3を介して関連コンテンツ収集部12に接続される。図中の矢印は,データの流れを表している。
【0017】
図2に,図1に示すシステムのフローを示す。無線,有線などを介して放送されている放送コンテンツを,放送コンテンツ受信部10にて受信し,それをコンテンツ抽出部11へ送る(S1)。
【0018】
コンテンツ抽出部11では,映像中のシーンの変わり目や音楽やアナウンスなどの音声の変わり目を認識し,切れ目のない放送コンテンツを,細かい映像(以降,放送データ素片と呼ぶ)に分割する(S2)。コンテンツ抽出部11は,さらに分割した放送データ素片の中から,関連コンテンツを取り出すためのIDを生成する(S3)。IDは,例えば,チャンネルと日時であっても構わないし,放送データ素片の中のコンテンツに埋め込まれているコンテンツを識別するようなコード(コンテンツID)であっても構わない。生成したIDをキーとして,関連コンテンツ収集部12に,付加するコンテンツ(以降,関連コンテンツと呼ぶ)の検索を依頼する。
【0019】
関連コンテンツ収集部12では,キーとなっているIDのタイプをもとに,検索を依頼すべき関連コンテンツ提供装置2のURLを決定する(S4)。決定したURLの関連コンテンツ提供装置2に対して,キーとしてIDを送り,関連コンテンツ提供装置2では,そのIDをもとに関連コンテンツを検索する(S5)。関連コンテンツ収集部12は,関連コンテンツ提供装置2から関連コンテンツを取得し,コンテンツ抽出部11へ返却する。コンテンツ抽出部11では,放送データ素片(分割したコンテンツ)と収集した関連コンテンツとIDとをセットにして,コンテンツ蓄積部13へ格納する(S6)。
【0020】
コンテンツ一覧表示・転送部14は,利用者の要求により,蓄積されている放送データ素片(コンテンツ)を,日時やチャンネル,またはコンテンツに付随する属性などの指定された条件をもとに一覧表示し(S7),利用者が視聴のために指定したコンテンツを選択し,選択したコンテンツをコンテンツ再生装置4へ転送することにより,利用者に視聴させる(S8)。
【0021】
図3は,コンテンツ抽出部11における処理のフローを示したものである。コンテンツ抽出部11は,データ分解部111にて,放送コンテンツ受信部10から切れ目なく転送される放送コンテンツに対して,ある意味のある単位の放送データ素片に分割する。放送は,アナログ放送であってもデジタル放送であってもよく,アナログ放送の場合にはデジタル・データに変換した後に,データ分解部111による処理を行う。
【0022】
放送データ素片への分割の仕方は,CMやドラマのシーンチェンジなどのカメラ映像の切り替わりであってもいいし,歌やBGMやアナウンサーなどの説明など,音声や音楽などの切れ目で分けても構わない。具体的には,例えば音楽番組の映像コンテンツの場合,切り出されるのは,ある歌手が歌っているシーンであり,その切り出し方法として,音楽が流れ出したときから終わるまでを検知する。そして,MPEGなどの動画像符号化形式のデータに変換して放送データ素片とする。なお,映像のカット点抽出等の具体的な方法については周知の技術であるため,ここでのさらに詳しい説明は省略する。
【0023】
切り出した放送データ素片は,その後の処理を平滑的に処理するために,一時的にデータキュー112に蓄えられる。データキュー112から取り出した放送データ素片について,ID検出部113にて関連コンテンツを取得するためのIDを生成する。IDは,その放送データ素片と関連放送コンテンツを関係付けるものであればよい。例えばIDは,放送チャンネルと放送時間であってもよく,また電子番組表などを照会して得た番組録画予約用コード(Gコード)とその番組が始まってからの相対時間であってもよい。また,IDは,放送コンテンツ自体に電子透かし技術などによって埋め込まれているコンテンツを識別するID(コンテンツID)であっても構わない。さらに,それらのIDが1つの放送データ素片に対して,複数個付けられても構わない。いずれにしても,IDの生成方法とそのID体系(IDのタイプ)に沿って関連コンテンツを提供する装置が用意されているとする。
【0024】
以下に,IDのタイプ別の生成例を示す。
(1)放送チャンネルと放送時間からIDを生成するとき,「チャンネル,放送日時(開始年月日 時分秒−終了年月日 時分秒)」とする。
(例:CH8,2001/01/01 10:30:40-2001/01/01 10:40:20 )
(2)Gコードを用いてIDを生成するとき,「Gコード,相対時間(開始相対分秒−終了相対分秒)」とする。
(例:12345,20:30-40:20 )
(3)コンテンツIDを用いるとき,放送コンテンツに埋め込まれているコンテンツに対してユニークに付与されているID(コンテンツID)を読み出し,それをIDとする。
【0025】
上記(1)〜(3)のうちのどのタイプのIDを生成するかについては,例えば優先順位を付けて,まず,放送データ素片に対してコンテンツIDがあるかどうかを判定し,コンテンツIDがあれば,コンテンツIDを抽出してIDとし,コンテンツIDがない場合,電子番組表からその放送コンテンツに対するGコードが判別できたかどうかを判定し,判別できたならGコードを用いてIDを生成し,判別できない場合には,放送チャンネルと放送時間を用いてIDを生成するという順番で行うようにしてもよい。
【0026】
以上のように,ID検出部113で生成されたIDをキーとして,情報検索依頼部114では,関連コンテンツ収集部12に関連コンテンツの検索を依頼する。その結果返却された関連コンテンツと,IDおよび放送データ素片を,データ・ID関連設定部115において,コンテンツ蓄積部13に格納する処理を行う。
【0027】
一連の処理が終わった後,再度,データキュー112から次の放送データ素片の取り出しを行い,同じ手順の処理を繰り返す。データキュー112に放送データ素片がない場合には,追加されるまで待つ。
【0028】
図4は,関連コンテンツ収集部12における処理のフローを示す。関連コンテンツ収集部12では,コンテンツ抽出部11からキーとして渡されたIDを,検索対象決定部121において,そのIDのタイプを識別し,ID・検索先対応テーブル122を参照して関連コンテンツを提供する装置を決定する。図4のID・検索先対応テーブル122では,IDタイプ別に関連コンテンツ提供装置2のアドレスをURLとして表しているが,アクセス先を一意に特定できればよく,電話番号でもIPアドレスでも構わない。
【0029】
検索依頼・結果受信部123では,検索対象決定部121が決定したURLに対して,検索処理を依頼し,その引数としてIDを渡す。その結果,関連コンテンツ提供装置2A,2B等から得られた関連コンテンツを,コンテンツ抽出部11へ返却する。
【0030】
図5と図6は,関連コンテンツ提供装置2を説明する図である。図5は,装置自体が放送コンテンツから付加情報を抜き出す機能を持ったタイプ(タイプAと呼ぶ)の関連コンテンツ提供装置2Aを示す。タイプAの関連コンテンツ提供装置2Aでは,情報抜き出し部21において,アナログ(またはデジタル)の放送コンテンツからコンテンツ抽出部11と同様の放送データ素片の切り出しを処理を行い,それぞれの放送データ素片に対して,文字情報の切り出しを行う。文字情報としては,同時に放映されている文字放送データや映像中のテロップなどがある。テロップについては,データとして放送されるものではないために,映像中の文字列を文字認識技術を用いて抜き出すなどの処理を施す。なお,ここでのテロップの抽出や文字認識技術としては,周知の技術を用いることができる。
【0031】
次に,抜き出した文字情報について,関連コンテンツ収集部12からの検索要求に応えられるように,インデクシング作成部22において,関連コンテンツとして,ジャンルやタイトルなどのデータの構造化を行い,IDを検索のキーとして,関連コンテンツ蓄積部23に格納する。蓄積するデータの構造化に関しては,ジャンルやタイトルその他の属性を,例えばXML(Extensible Markup Language)等の構造化記述言語を用いて記述することによって行う。XMLによる記述は,よく知られているように,データの構造を定義する部分とその定義に沿って記述されるデータとから構成される。データがどのような属性に属しているかは,< > ,</ >のタグで区切られ,これらが入れ子関係を取ることができるので,構造の定義が可能になっている。
【0032】
図6は,コンテンツIDを利用した関連コンテンツ提供装置2Bを示している。この関連コンテンツ提供装置2Bは,コンテンツIDを利用して,関連コンテンツ収集部12からの検索依頼を,実際に関連コンテンツを持っているコンテンツIDセンタ5に中継するタイプ(タイプBと呼ぶ)のものである。コンテンツIDセンタ5は,あらかじめコンテンツIDごとにコンテンツ情報が格納されているコンテンツIDデータベース51を持っている。
【0033】
関連コンテンツ収集部12が,放送コンテンツを構成している映像や音声・音楽等の要素コンテンツに対して,埋め込まれているコンテンツを一意に識別しているコンテンツIDを用いて,関連コンテンツ提供装置2Bに検索依頼を行うと,関連コンテンツ提供装置2Bは,以下の処理を行う。
【0034】
検索部25では,渡されたIDをもとに,検索すべきコンテンツIDセンタ5を特定し,IDに付随するコンテンツ情報を取得する。一つの放送データ素片に対して,複数のコンテンツIDが指定されていることもあるので,引き渡されたIDの個数分,コンテンツ情報取得処理を繰り返す。その結果得られたコンテンツ情報を,編集部26にて関連コンテンツとして編集し,関連コンテンツ収集部12へ返却する。ここで,編集する方法に関しても,上記XMLなどの構造化記述言語を用いて管理する方法を用いる。
【0035】
図7は,コンテンツ蓄積部13が持つ機能を示している。蓄積部131では,検索のキーとなるIDと,データである放送データ素片,関連コンテンツをデータベース133に蓄積する。取出し部132では,キーとしてIDを指定する検索の機能(検索A)と,関連コンテンツの中の条件を指定する検索の機能(検索B)を持つ。
【0036】
検索Aでは,キーとしてIDが指定されると,該当する放送データ素片と関連コンテンツとをデータベース133から取り出して返却する。検索Bでは,キーとして条件が指定されると,データベース133の関連コンテンツから抽出したタイトルと概略データを返却データとして返却する。
【0037】
上記検索Aに関しては,IDの部分は完全一致とする。また,検索Bに関しては,関連コンテンツにどのような属性が含まれてるかに依存しているが,例えば属性としてタイトルと歌詞が含まれている場合,指定される条件は,タイトルが「赤いスイートピー」であるとか,歌詞に「スイートピー」が含まれているとかいった条件になる。
【0038】
図8は,コンテンツ一覧表示・転送部14における処理のフローを示す。コンテンツ一覧表示・転送部14に対して,利用者が指定した日付やチャンネル,ジャンルなどの条件に応じて,一覧作成部141では,コンテンツ蓄積部13に対して,検索Bの条件指定による検索を行い,放送データ素片の一覧をディスプレイなどのユーザインタフェース6を用いて表示する。一覧表示するときには,関連コンテンツから抜き出したタイトル以外にも,映像のスナップショット画像なども併せて表示する。利用者は,1個または複数個のコンテンツを指定して,コンテンツ再生装置4への転送を依頼する。その指示を受けて,転送部142では,コンテンツ蓄積部13に対して,検索AのIDによる検索を行い,放送データ素片や関連コンテンツなどのデータをコンテンツ再生装置4へ転送する。
【0039】
コンテンツ再生装置4は,ディスプレイ,スピーカ,ヘッドホンその他,コンテンツを再生することができるものであればよく,また,例えば携帯電話のようなものであってもよい。コンテンツ再生装置4に転送するのではなく,書き換え可能な磁気ディスク,光ディスクまたは光磁気ディスクのような可搬型の外部記憶媒体に書き出すようにすることもできる。
【0040】
【発明の効果】
以上説明したように,本発明によれば,クライアント側の装置において,受信した放送から抽出・分解した放送データ素片に対して,それに関連する付加情報をネットワークを介して自動収集し,それらを関連付けて蓄積しておくことができる。これにより利用者は,随時視聴したいコンテンツを選択して再生装置に転送させ,視聴することができるようになる。
【0041】
特に,アナログ放送の放送コンテンツに対しても,関連情報を収集して蓄積し,それを必要なときに必要な再生装置で再生することが可能になる。また,デジタル放送であってもその付加情報が放送データ中に含まれない場合,もしくはクライアント端末に付加情報を抜き出すことができる機能が備わっていない場合にも,放送データ素片に対して関連情報の付加および蓄積が可能になる。
【図面の簡単な説明】
【図1】本発明を用いたシステムの構成例を示す図である。
【図2】図1のシステムのフローを示す図である。
【図3】コンテンツ描出部における処理のフローを示す図である。
【図4】関連コンテンツ収集部における処理のフローを示す図である。
【図5】関連コンテンツ提供装置(タイプA)を説明する図である。
【図6】関連コンテンツ提供装置(タイプB)を説明する図である。
【図7】コンテンツ蓄積部が持つ機能を示す図である。
【図8】コンテンツ一覧表示・転送部における処理のフローを示す図である。
【符号の説明】
1 コンテンツ仲介装置
2 関連コンテンツ提供装置
3 ネットワーク
4 コンテンツ再生装置
10 放送コンテンツ受信部
11 コンテンツ抽出部
12 関連コンテンツ収集部
13 コンテンツ蓄積部
14 コンテンツ一覧表示・転送部
[0001]
BACKGROUND OF THE INVENTION
The present invention adds content information such as a title to a part of video or music content selected by the broadcast content received from the received broadcast content so that the content can be transferred to a content playback device or content recording medium. The present invention relates to an apparatus and a processing method thereof.
[0002]
In particular, the present invention handles a relatively light-weight portion of a broadcast content that is broadcast continuously, such as camera switching or music break, such as cutting a scene change, by a client device such as a personal computer (PC). On the other hand, a high-value-added service function that requires processing time to extract additional information from a scene is performed by a device on the network, and information is extracted and added to the broadcast data extracted by the client device via the network. The present invention relates to a technique for adding and storing information to broadcast contents for transferring data to a content reproduction apparatus.
[0003]
[Prior art]
Conventionally, as a method for enabling a viewer to obtain information related to broadcast content broadcast unilaterally from a broadcasting station, the broadcast content is digitized and so-called video data and accompanying data are transmitted together. There is a method of providing information to viewers by using a characteristic of digital broadcasting, embedding a link to the Internet such as a URL (Uniform Resource Locator) in accompanying data, and setting a link with video content.
[0004]
Further, as disclosed in, for example, Japanese Patent Laid-Open No. 10-177532 “Method and apparatus for automatically displaying an Internet homepage on a television screen in cooperation with a television program”, an Internet program related to each television program is disclosed. There is a method of displaying an Internet homepage on a television screen in cooperation with a television program by capturing television program guide data incorporating URL information from the outside into a terminal.
[0005]
[Problems to be solved by the invention]
However, in the conventional method of sending related information or a link to related information together with video content in digital broadcasting, it is necessary to add related information or a link to the video content in advance on the broadcasting station side. For content that does not have accompanying data, the viewer could not obtain the relevant information.
[0006]
The method disclosed in Japanese Patent Laid-Open No. 10-177532 is a method for adding value to digital broadcast content, and does not add information to analog broadcast content, for example.
[0007]
Even if the meta information is incorporated in the content itself, if the viewer terminal does not have a mechanism for extracting the meta information from the content, related information about the meta information cannot be obtained. The meta information is, for example, telop information (lyrics, news) of a video content, a music title searched from extracted music data, a location of a scene with a drama, and the like.
[0008]
In addition, it is possible to play back after viewing a part of the client terminal that can only play or handle a part of the complex information (video, audio, BGM, etc.) contained in the broadcast content unilaterally flowing down. Even if it was attempted to view information that was not present or related information on another terminal having a composite information reproduction function, it was difficult to do so with the prior art.
[0009]
As a device capable of storing analog broadcast content, there is a video tape recorder (VTR) device, but the VTR device simply stores the broadcast content.
[0010]
The present invention solves the above problems, and in the case of analog broadcasting, or in the case of broadcasting to which related data for accessing related information is not added even if it is digital broadcasting, additional data is added and broadcasted. Even if it is a digital broadcast, even if the information is missing due to restrictions on the performance and functions of the receiving device, the related information or missing from the server device that can process the composite information placed on the network The object is to take out and manage additional information, and to read and reproduce it when necessary.
[0011]
[Means for Solving the Problems]
In order to solve the above-mentioned problems, the present invention divides broadcast content into broadcast data pieces by the content extraction means, and is extracted using any one of a plurality of types of identification information generation methods. The main feature is that additional information is extracted from the related content extraction device operating on the network by the related content collection means based on the identification information , combined with the divided content, and stored and managed. . Further, for each type indicating the type of identification information generation method, with reference to the correspondence information between the type and information for specifying a search destination of additional information related to the broadcast data fragment, based on the identification information, Identifying a search destination corresponding to the type indicating the type of the identification information generation method used to extract the identification information, and collecting additional information related to the broadcast data fragment from the search destination via the network. Features.
[0012]
According to the present invention, additional information detected on the network side is stored on the client side together with the broadcast data segment extracted and decomposed on the client side device, and the content to be viewed is selected and transferred to the playback device. can do.
[0013]
It can also be played back later when it is received by a client terminal that can only play a part of the unilaterally supplied composite content (eg video and audio) such as a broadcast program (eg playback only audio). Missing information and related information can be reproduced on other terminals.
[0014]
The difference between the present invention and the prior art is, for example, as follows. In the prior art, a device having a secondary storage medium such as a personal computer (PC) and placed in an environment in which broadcast content can be easily acquired, and the received broadcast content is a single drama video scene or music. When a program is divided into units such as a song, information on the content may be lost due to restrictions on the performance of the device or functions it has. It is possible to search for media-converted information on a server on the network, and to supplement and accumulate missing additional information. Accordingly, it is possible to display a list of accumulated contents as needed, and download to a portable playback device or transfer to a secondary medium such as a DVD as much as necessary.
[0015]
In addition, since a VTR device that can store analog broadcast content can only divide the broadcast content according to time, additional information is acquired from the network for each divided scene, and the scene of interest It was not something that could be managed together. However, according to the present invention, even analog broadcast content can be managed together by adding related information acquired via a network to a broadcast data segment divided for each scene.
[0016]
DETAILED DESCRIPTION OF THE INVENTION
FIG. 1 shows a configuration example of a system using a content mediating apparatus according to the present invention. The content mediating apparatus 1 includes a broadcast content receiving unit 10, a content extracting unit 11, a related content collecting unit 12, a content storage unit 13, and a content list display / transfer unit 14. Many of these are realized by a computer and a software program executed by the computer. The content mediating apparatus 1 may be a user's personal computer (PC), a television receiver with a built-in computer, or a kiosk terminal. The related content providing device 2 is connected to the related content collection unit 12 via a network 3 such as the Internet. The arrows in the figure represent the data flow.
[0017]
FIG. 2 shows a flow of the system shown in FIG. Broadcast content broadcast via wireless, wired or the like is received by the broadcast content receiver 10 and sent to the content extractor 11 (S1).
[0018]
The content extraction unit 11 recognizes the transition of scenes in the video and the transition of audio such as music and announcements, and divides the unbroken broadcast content into fine video (hereinafter referred to as broadcast data segments) (S2). . The content extraction unit 11 generates an ID for extracting related content from the further divided broadcast data pieces (S3). The ID may be, for example, a channel and date and time, or may be a code (content ID) that identifies the content embedded in the content in the broadcast data fragment. Using the generated ID as a key, the related content collection unit 12 is requested to search for content to be added (hereinafter referred to as related content).
[0019]
The related content collection unit 12 determines the URL of the related content providing apparatus 2 to be requested for search based on the ID type as a key (S4). An ID is sent as a key to the related content providing device 2 of the determined URL, and the related content providing device 2 searches for the related content based on the ID (S5). The related content collection unit 12 acquires the related content from the related content providing device 2 and returns it to the content extraction unit 11. The content extraction unit 11 sets the broadcast data segment (divided content), the collected related content, and the ID as a set and stores them in the content storage unit 13 (S6).
[0020]
The content list display / transfer unit 14 displays a list of stored broadcast data pieces (contents) based on specified conditions such as date and time, channel, or attributes associated with the content, according to user requests. Then, the user selects the content designated for viewing and transfers the selected content to the content reproduction device 4 to allow the user to view (S8).
[0021]
FIG. 3 shows the flow of processing in the content extraction unit 11. In the data extracting unit 111, the content extracting unit 11 divides the broadcast content transferred from the broadcast content receiving unit 10 into a meaningful unit of broadcast data pieces. The broadcast may be an analog broadcast or a digital broadcast. In the case of an analog broadcast, the data is converted into digital data and then processed by the data decomposing unit 111.
[0022]
The method of dividing into broadcast data pieces may be switching of camera images such as scene changes of commercials and dramas, or by dividing voices or music, such as explanations of songs, BGM, announcers, etc. I do not care. Specifically, for example, in the case of video content of a music program, the scene that is cut out is a scene where a certain singer is singing, and as the cut-out method, it is detected from when the music flows to the end. Then, the data is converted into data of a moving image encoding format such as MPEG to form a broadcast data fragment. Since a specific method such as video cut point extraction is a well-known technique, further detailed explanation is omitted here.
[0023]
The cut-out broadcast data segment is temporarily stored in the data queue 112 in order to perform subsequent processing smoothly. For the broadcast data segment taken out from the data queue 112, the ID detection unit 113 generates an ID for acquiring related content. The ID only needs to relate the broadcast data fragment and related broadcast content. For example, the ID may be a broadcast channel and a broadcast time, or may be a program recording reservation code (G code) obtained by referring to an electronic program guide and a relative time from the start of the program. . Further, the ID may be an ID (content ID) for identifying content embedded in the broadcast content itself by digital watermark technology or the like. Further, a plurality of such IDs may be assigned to one piece of broadcast data. In any case, it is assumed that an apparatus for providing related content is prepared in accordance with an ID generation method and its ID system (ID type).
[0024]
The following shows an example of generation for each ID type.
(1) When an ID is generated from a broadcast channel and a broadcast time, “channel, broadcast date and time (start date / month / hour / minute / second−end date / month / hour / minute / second)” is used.
(Example: CH8,2001 / 01/01 10: 30: 40-2001 / 01/01 10:40:20)
(2) When an ID is generated using a G code, “G code, relative time (start relative minute / second—end relative minute / second)”.
(Example: 12345, 20: 30-40: 20)
(3) When using the content ID, an ID (content ID) uniquely assigned to the content embedded in the broadcast content is read out and used as the ID.
[0025]
For which type of ID among the above (1) to (3) is to be generated, for example, priorities are assigned, and it is first determined whether or not there is a content ID for the broadcast data fragment, and the content ID If there is, the content ID is extracted and used as the ID. If there is no content ID, it is determined whether or not the G code for the broadcast content can be determined from the electronic program guide, and if it can be determined, the ID is generated using the G code. However, if it cannot be determined, IDs may be generated in the order in which broadcast channels and broadcast times are used.
[0026]
As described above, the information search request unit 114 requests the related content collection unit 12 to search for related content using the ID generated by the ID detection unit 113 as a key. The related content returned as a result, the ID, and the broadcast data fragment are stored in the content storage unit 13 in the data / ID association setting unit 115.
[0027]
After the series of processing is completed, the next broadcast data segment is taken out of the data queue 112 again, and the same procedure is repeated. When there is no broadcast data fragment in the data queue 112, it waits until it is added.
[0028]
FIG. 4 shows a processing flow in the related content collection unit 12. In the related content collection unit 12, the ID passed as a key from the content extraction unit 11 is identified in the search target determination unit 121, and the related content is provided by referring to the ID / search destination correspondence table 122. Determine the device to be used. In the ID / search destination correspondence table 122 of FIG. 4, the address of the related content providing apparatus 2 is represented as a URL for each ID type, but it is sufficient that the access destination can be uniquely identified, and it may be a telephone number or an IP address.
[0029]
The search request / result reception unit 123 requests a search process for the URL determined by the search target determination unit 121 and passes an ID as an argument thereof. As a result, the related content obtained from the related content providing devices 2A, 2B, etc. is returned to the content extraction unit 11.
[0030]
5 and 6 are diagrams for explaining the related content providing apparatus 2. FIG. 5 shows a related content providing device 2A of a type (referred to as type A) in which the device itself has a function of extracting additional information from broadcast content. In the related content providing apparatus 2A of type A, the information extracting unit 21 performs processing of cutting out broadcast data segments similar to those of the content extracting unit 11 from analog (or digital) broadcast content, and each broadcast data unit is divided into pieces. On the other hand, the character information is cut out. Character information includes teletext data that is being broadcast at the same time, and telops in the video. Since telops are not broadcast as data, processing such as extracting character strings in video using character recognition technology is performed. In addition, a well-known technique can be used as the telop extraction and the character recognition technique here.
[0031]
Next, with respect to the extracted character information, the indexing creation unit 22 performs structuring of data such as a genre and a title so as to respond to a search request from the related content collection unit 12, and searches the ID. The key is stored in the related content storage unit 23 as a key. The data to be stored is structured by describing the genre, title, and other attributes using a structured description language such as XML (Extensible Markup Language). As is well known, an XML description is composed of a part that defines the structure of data and data that is described according to the definition. The attribute to which the data belongs is delimited by <> and </> tags, and these can be nested, so the structure can be defined.
[0032]
FIG. 6 shows the related content providing apparatus 2B using the content ID. This related content providing apparatus 2B is of a type (referred to as type B) that uses a content ID to relay a search request from the related content collection unit 12 to the content ID center 5 that actually has the related content. It is. The content ID center 5 has a content ID database 51 in which content information is stored in advance for each content ID.
[0033]
The related content providing unit 2B uses the content ID that uniquely identifies the embedded content with respect to elemental content such as video, audio, music, and the like constituting the broadcast content. When the search request is made, the related content providing apparatus 2B performs the following processing.
[0034]
The search unit 25 identifies the content ID center 5 to be searched based on the passed ID, and acquires content information associated with the ID. Since a plurality of content IDs may be designated for one piece of broadcast data, the content information acquisition process is repeated as many times as the number of IDs delivered. The content information obtained as a result is edited as related content by the editing unit 26 and returned to the related content collection unit 12. Here, as for the editing method, a management method using a structured description language such as the XML is used.
[0035]
FIG. 7 shows the functions of the content storage unit 13. The accumulation unit 131 accumulates an ID serving as a search key, a broadcast data fragment as data, and related content in the database 133. The extraction unit 132 has a search function (search A) for specifying an ID as a key and a search function (search B) for specifying a condition in related content.
[0036]
In search A, when an ID is designated as a key, the corresponding broadcast data fragment and related content are retrieved from the database 133 and returned. In the search B, when a condition is specified as a key, the title and the outline data extracted from the related content in the database 133 are returned as return data.
[0037]
For the above search A, the ID part is completely matched. The search B depends on what attributes are included in the related content. For example, when the title and lyrics are included as attributes, the specified condition is that the title is “red sweet pea”. "Or" sweet pea "is included in the lyrics.
[0038]
FIG. 8 shows a processing flow in the content list display / transfer unit 14. According to the conditions such as date, channel, and genre specified by the user for the content list display / transfer unit 14, the list creation unit 141 searches the content storage unit 13 by specifying the search B condition. The broadcast data fragment list is displayed using a user interface 6 such as a display. When displaying a list, in addition to titles extracted from related content, video snapshot images and the like are also displayed. The user designates one or a plurality of contents and requests transfer to the content reproduction apparatus 4. In response to the instruction, the transfer unit 142 searches the content storage unit 13 using the ID of search A, and transfers data such as a broadcast data fragment and related content to the content reproduction device 4.
[0039]
The content playback device 4 may be any device that can play back content such as a display, speakers, headphones, etc., and may be a mobile phone, for example. Instead of transferring to the content reproduction apparatus 4, it can be written to a portable external storage medium such as a rewritable magnetic disk, optical disk or magneto-optical disk.
[0040]
【The invention's effect】
As described above, according to the present invention, the client-side device automatically collects additional information related to the broadcast data fragment extracted / decomposed from the received broadcast via the network, and collects them. It can be stored in association. As a result, the user can select the content he / she wishes to view at any time, transfer it to the playback device, and view it.
[0041]
In particular, it is also possible to collect and store related information for analog broadcast content, and to reproduce it on a necessary playback device when necessary. Even if the additional information is not included in the broadcast data even in the case of digital broadcasting, or if the client terminal is not equipped with a function that can extract the additional information, the related information is also obtained for the broadcast data fragment. Can be added and stored.
[Brief description of the drawings]
FIG. 1 is a diagram showing a configuration example of a system using the present invention.
FIG. 2 is a diagram showing a flow of the system of FIG. 1;
FIG. 3 is a diagram showing a flow of processing in a content rendering unit.
FIG. 4 is a diagram illustrating a processing flow in a related content collection unit.
FIG. 5 is a diagram for explaining a related content providing apparatus (type A).
FIG. 6 is a diagram for explaining a related content providing apparatus (type B).
FIG. 7 is a diagram illustrating functions of a content storage unit.
FIG. 8 is a diagram illustrating a processing flow in a content list display / transfer unit.
[Explanation of symbols]
DESCRIPTION OF SYMBOLS 1 Content mediation apparatus 2 Related content provision apparatus 3 Network 4 Content reproduction apparatus 10 Broadcast content receiving part 11 Content extraction part 12 Related content collection part 13 Content storage part 14 Content list display / transfer part

Claims (4)

受信した放送コンテンツに対して情報を付加し,蓄積し,要求されたコンテンツを転送するコンテンツ仲介装置であって,
連続的に流れてくる放送コンテンツを,ある意味のある単位で分割して放送データ素片を作成し,その放送データ素片から放送データ素片を識別する識別情報を,複数種類の識別情報生成方法のうちの少なくともいずれかの種類の方法により検出または生成するコンテンツ抽出手段と,
前記識別情報生成方法の種類を示すタイプ別に,該タイプと,放送データ素片に関連する付加情報の検索先を特定する情報との対応情報を持ち,前記識別情報をもとに,その識別情報の検出または生成に用いた前記識別情報生成方法の種類を示すタイプに対応する検索先を特定し,その検索先からネットワークを介して前記放送データ素片に関連する付加情報を収集する関連情報収集手段と,
前記放送データ素片と前記収集した付加情報と前記識別情報とを合わせて蓄積し管理するコンテンツ蓄積手段と,
前記コンテンツ蓄積手段によって蓄積されているコンテンツを一覧表示し,指定されたコンテンツを前記付加情報と合わせて取り出すことのできるコンテンツ一覧表示・転送手段とを備える
ことを特徴とするコンテンツ仲介装置。
A content mediating device that adds information to received broadcast content, stores it, and forwards the requested content.
Broadcast data segments are created by dividing broadcast content that flows continuously into meaningful units, and multiple types of identification information are generated to identify broadcast data segments from the broadcast data segments. Content extraction means for detecting or generating by at least one type of method ;
For each type indicating the type of the identification information generation method, there is correspondence information between the type and information for specifying a search destination of additional information related to the broadcast data fragment, and the identification information is based on the identification information. Related information collection for identifying a search destination corresponding to the type indicating the type of the identification information generation method used for detecting or generating the broadcast, and collecting additional information related to the broadcast data fragment from the search destination via the network Means,
Content storage means for storing and managing the broadcast data segment together with the collected additional information and the identification information;
A content mediating apparatus comprising: a content list display / transfer unit capable of displaying a list of contents stored by the content storage unit and taking out designated content together with the additional information.
請求項1記載のコンテンツ仲介装置において,
前記識別情報生成方法の種類を示すタイプには,放送チャンネルと放送時間を用いて識別情報を生成するタイプ,番組録画予約用コードと相対時間を用いて識別情報を生成するタイプ,または放送コンテンツに埋め込まれているコンテンツの識別子を識別情報とするタイプのうち,少なくともいずれか複数のタイプが含まれ,
前記コンテンツ抽出手段は,あらかじめ定められたタイプの優先順位に従って前記識別情報を検出または生成する
ことを特徴とするコンテンツ仲介装置。
The content mediation apparatus according to claim 1,
The type indicating the type of the identification information generation method includes a type for generating identification information using a broadcast channel and a broadcast time, a type for generating identification information using a program recording reservation code and a relative time, or a broadcast content. Includes at least one of the types whose identifier is the identifier of the embedded content,
The content mediation apparatus , wherein the content extraction means detects or generates the identification information in accordance with a predetermined type of priority .
受信した放送コンテンツに対して情報を付加し,蓄積し,要求されたコンテンツを転送するコンテンツ仲介装置によるコンテンツ仲介処理方法であって,
前記コンテンツ仲介装置が,
連続的に流れてくる放送コンテンツを,ある意味のある単位で分割して放送データ素片を作成する過程と,
その放送データ素片から放送データ素片を識別する識別情報を,複数種類の識別情報生成方法のうちの少なくともいずれかの種類の方法により検出または生成する過程と,
前記識別情報生成方法の種類を示すタイプ別に,該タイプと,放送データ素片に関連する付加情報の検索先を特定する情報との対応情報を参照し,前記識別情報をもとに,その識別情報の検出または生成に用いた前記識別情報生成方法の種類を示すタイプに対応する検索先を特定し,その検索先からネットワークを介して前記放送データ素片に関連する付加情報を収集する過程と,
前記放送データ素片と前記収集した付加情報と前記識別情報とを合わせてコンテンツ蓄積手段に蓄積し管理する過程と,
前記コンテンツ蓄積手段に蓄積されているコンテンツを一覧表示し,指定されたコンテンツを前記付加情報と合わせて再生または記録のために転送する過程とを有する
ことを特徴とするコンテンツ仲介処理方法。
A content mediation processing method by a content mediation device for adding information to a received broadcast content, storing it, and transferring the requested content,
The content mediating device is
The process of creating broadcast data fragments by dividing continuous broadcast content into meaningful units ,
A process of detecting or generating identification information for identifying a broadcast data segment from the broadcast data segment by at least one of a plurality of types of identification information generation methods ;
For each type indicating the type of the identification information generation method, reference is made to correspondence information between the type and information for specifying a search destination of additional information related to the broadcast data fragment, and the identification is performed based on the identification information Identifying a search destination corresponding to a type indicating the type of the identification information generation method used for detecting or generating information, and collecting additional information related to the broadcast data fragment from the search destination via the network ; ,
Storing and managing the broadcast data segment together with the collected additional information and the identification information in content storage means ;
A content mediation processing method comprising: displaying a list of contents stored in the content storage means, and transferring the designated content together with the additional information for reproduction or recording.
請求項3記載のコンテンツ仲介処理方法において,The content mediation processing method according to claim 3,
前記識別情報生成方法の種類を示すタイプとして,放送チャンネルと放送時間を用いて識別情報を生成するタイプ,番組録画予約用コードと相対時間を用いて識別情報を生成するタイプ,または放送コンテンツに埋め込まれているコンテンツの識別子を識別情報とするタイプのうち,少なくともいずれか複数のタイプを含み,As a type indicating the type of the identification information generation method, a type in which identification information is generated using a broadcast channel and a broadcast time, a type in which identification information is generated using a program recording reservation code and a relative time, or embedded in broadcast content Including at least one of the types that use the identifier of the content being identified as identification information,
前記識別情報を検出または生成する過程では,あらかじめ定められたタイプの優先順位に従って前記識別情報を検出または生成するIn the process of detecting or generating the identification information, the identification information is detected or generated according to a predetermined type of priority.
ことを特徴とするコンテンツ仲介処理方法。A content mediation processing method characterized by the above.
JP2001056710A 2001-03-01 2001-03-01 Content mediation apparatus and content mediation processing method Expired - Fee Related JP3766280B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001056710A JP3766280B2 (en) 2001-03-01 2001-03-01 Content mediation apparatus and content mediation processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001056710A JP3766280B2 (en) 2001-03-01 2001-03-01 Content mediation apparatus and content mediation processing method

Publications (2)

Publication Number Publication Date
JP2002262225A JP2002262225A (en) 2002-09-13
JP3766280B2 true JP3766280B2 (en) 2006-04-12

Family

ID=18916694

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001056710A Expired - Fee Related JP3766280B2 (en) 2001-03-01 2001-03-01 Content mediation apparatus and content mediation processing method

Country Status (1)

Country Link
JP (1) JP3766280B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004328499A (en) 2003-04-25 2004-11-18 Funai Electric Co Ltd Digital broadcast receiver with contents recording medium
TWI478154B (en) * 2003-10-04 2015-03-21 Samsung Electronics Co Ltd Reproducing method of storage medium storing search information
JP3987852B2 (en) * 2004-04-08 2007-10-10 シャープ株式会社 Service receiver
JP2006005897A (en) * 2004-05-19 2006-01-05 Dowango:Kk Terminal device, content distribution system, information output method, information output program
JP4911584B2 (en) * 2006-08-28 2012-04-04 三洋電機株式会社 Broadcast signal receiver
JP5018712B2 (en) * 2008-09-16 2012-09-05 ブラザー工業株式会社 Communication device for displaying content title
JP5152236B2 (en) * 2010-03-19 2013-02-27 ソニー株式会社 Information processing apparatus, information processing method, and program
US9185458B2 (en) * 2010-04-02 2015-11-10 Yahoo! Inc. Signal-driven interactive television

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1056632A (en) * 1996-08-07 1998-02-24 Toshiba Corp Broadcast system and broadcast receiver
JP2000194727A (en) * 1998-10-23 2000-07-14 Telecommunication Advancement Organization Of Japan Device and method for retrieving moving image and recording medium recording moving image retrieval program

Also Published As

Publication number Publication date
JP2002262225A (en) 2002-09-13

Similar Documents

Publication Publication Date Title
JP4304185B2 (en) Stream output device and information providing device
JP4025185B2 (en) Media data viewing apparatus and metadata sharing system
KR100885781B1 (en) Enhanced television services for digital video recording and playback
US9083854B2 (en) Method and video device for accessing information
JP3994682B2 (en) Broadcast information transmission / reception system
JP4224095B2 (en) Information processing apparatus, information processing program, and information processing system
US20040040041A1 (en) Interactive applications for stored video playback
JP5770408B2 (en) Video content viewing terminal
JP2004357334A (en) Av content generating apparatus and av program generating method
US20070199037A1 (en) Broadcast program content retrieving and distributing system
US7555196B1 (en) Methods and systems for synchronizing timecodes when sending indices to client devices
JP2012527157A (en) Correlation of media metadata collected from various sources
JP2006211311A (en) Digested video image forming device
KR20060132595A (en) Storage system for retaining identification data to allow retrieval of media content
JP4305080B2 (en) Video playback method and system
JP2007052626A (en) Metadata input device and content processor
CN101335037A (en) Recording apparatus, recording/reproducing system, and recording method
JP3766280B2 (en) Content mediation apparatus and content mediation processing method
JP4195555B2 (en) Content management receiver
JP2003061036A (en) Index information transmission method, index information reception method, reproduction method for program recording signal, program for recording signal reproducing device, and index information providing service
JP2006311592A (en) Stream reproduction control apparatus and computer program
EP2587829A1 (en) Video analysis information upload apparatus and video viewing system and method
JP2007228619A (en) Storage/output device
JP2002278867A5 (en)
JP2005176223A (en) Program for operating video receiving/reproducing apparatus, computer-readable storage medium recording this program, video receiving/reproducing apparatus and method thereof

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20041109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050106

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20060126

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090203

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100203

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110203

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120203

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130203

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees