JP2005229414A - 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム - Google Patents

情報処理装置および情報処理方法、プログラム、並びに、情報処理システム Download PDF

Info

Publication number
JP2005229414A
JP2005229414A JP2004037040A JP2004037040A JP2005229414A JP 2005229414 A JP2005229414 A JP 2005229414A JP 2004037040 A JP2004037040 A JP 2004037040A JP 2004037040 A JP2004037040 A JP 2004037040A JP 2005229414 A JP2005229414 A JP 2005229414A
Authority
JP
Japan
Prior art keywords
information
text
data
metadata
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004037040A
Other languages
English (en)
Other versions
JP2005229414A5 (ja
JP3884017B2 (ja
Inventor
Osamu Isaka
治 井坂
Akira Nakamura
章 中村
Tatsu Ikezawa
龍 池沢
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daikin Industries Ltd
Japan Broadcasting Corp
Original Assignee
Daikin Industries Ltd
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daikin Industries Ltd, Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Daikin Industries Ltd
Priority to JP2004037040A priority Critical patent/JP3884017B2/ja
Publication of JP2005229414A publication Critical patent/JP2005229414A/ja
Publication of JP2005229414A5 publication Critical patent/JP2005229414A5/ja
Application granted granted Critical
Publication of JP3884017B2 publication Critical patent/JP3884017B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Television Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Studio Circuits (AREA)

Abstract

【課題】 検索キーに対応する再生開始位置を検出する。
【解決手段】 検索キー「車椅子」を含むテキストの開始時刻「19:00:46:01」および終了時刻「19:00:56:51」が検出されて、テキストの表示時間10.5秒が算出され、テキストの音の数25で、テキストの表示時間が除算されることにより、テキスト表示時間に対する音声データの1音の発話時間の推定値0.42秒が算出される。したがって、12音目である「車椅子」が発話された時刻は、テキストの開始時刻から(0.42×12)秒だけ遅れた、「19:00:50:63」であると推定される。ここで、テキストに対応する音声データが、一定の速度で発話されない場合、「車椅子」が発話されたタイミングを検索できない可能性があるので、推定された発話時刻から所定の時間Δtだけ早い時刻が再生開始位置として検出される。本発明は、ホームサーバに適用できる。
【選択図】図8

Description

本発明は、情報処理装置および情報処理方法、プログラム、並びに、情報処理システムに関し、特に、放送信号に含まれている字幕情報を用いて、録画した放送番組を検索する場合に用いて好適な、情報処理装置および情報処理方法、プログラム、並びに、情報処理システムに関する。
放送される番組のデータには、映像データと音声データが含まれている。また、番組データには、映像データとして必ず表示される、いわゆる字幕(番組の題名やキャストなどの紹介、または、海外の作品における日本語字幕)以外に、表示させるか否かを選択可能な字幕データが含まれる。このような選択可能な字幕データは、一般に、クローズドキャプションと称され、主に、聴覚障害者用に開発され、海外の作品における日本語字幕のように、出演者の会話だけではなく、例えば、BGMや効果音などの説明も含まれる。
例えば、NTSC方式のアナログの地上波放送では、映像信号に525本の走査線が用いられており、この525本のうち、各フィールド(2フィールドで1フレームを構成)の最初の21本相当は、VBI(Vertical Blanking Interval:垂直帰線消去期間)と称される、走査を開始するためのインターバル用に割り当てられている。クローズドキャプションは、各フィールドのVBIのうち、VBIの21本目に7bitの文字コードを多重化することによって伝送されるようになされており、各フィールドを使って2種類の文字セットを毎秒約60文字伝送することができるようになされている。
また、デジタルテレビ放送の字幕情報の伝送については、国内規定であるBSデジタル放送運用規定・技術資料(ARIB TR−B15)で規定されているように、字幕情報用のトランスポートストリームを使って映像情報の伝送と同時に字幕情報を伝送できるようになされている。そして、デジタルテレビ放送用受信機において、字幕情報に対応する符号がデコードされ、字幕を構成する文字、図形が生成されて、映像に重畳されて表示されるようになされている。
デジタルテレビ放送において、字幕情報用のトランスポートストリームを使って映像情報の伝送と同時に伝送されたテキスト情報を、内部に保存したり、内部に保存したテキスト情報をテレビモニタでいつでも表示閲覧することができるようにすることにより、ユーザが、表示された字幕のメモを取らなくても、字幕の情報を活用することができるようにした技術がある(例えば、特許文献1)。
特開2003−78889
また、視聴者の操作、または、受信した字幕放送により、自動的にCM番組、文字情報、または、通信データを保存し、視聴者が保存された情報を利用して、放送局あるいはCM提供者に通信することにより、CM商品の購入を行うことができるようにした技術がある(例えば、特許文献2)。
特開2002−77872
なお、放送信号中の映像データと音声データとには、例えば、放送時にリアルタイムで視聴される以外に、録画されて再生された場合において時間軸がずれてしまうことがないように、例えば、それぞれが対応するようなリンク情報を有しているか、相対時刻のタイムスタンプを有するようになされている。これに対して、字幕データは、映像データまたは音声データに対するリンクデータや、相対時刻のタイムスタンプなどを有していない。
上述したように、放送される字幕データは、さまざまなサービスに利用され始めている。
しかしながら、クローズドキャプションなどの放送される字幕データを、録画された番組を検索することに利用しようとした場合、字幕データと映像データまたは音声データとには、アナログ放送またはデジタル放送のいずれにおいても、両者を対応させるようなタイムスタンプが付加されていないため、映像データからクローズドキャプションに対応するテキストデータを分離してしまった後、分離されたテキストと映像データとの対応をとることは不可能であり、したがって、クローズドキャプションから取得されるテキストを録画データの検索に利用することはできなかった。
また、クローズドキャプションから取得されるテキストを録画データの検索に利用することができたとしても、ユーザが所望するテキストに対応する録画データを検索するとき、クローズドキャプションから取得される全テキストから、ユーザが所望するテキストを検索しなければならないため、例えば、数値データの検索と比較して、その処理は複雑となってしまい、検索処理にも時間がかかってしまう。
そして、クローズドキャプションなど、聴覚障害者向けの字幕データは全ての放送信号に添付させることが求められている。しかしながら、このような字幕データは、通常、健常者には必要ではないため、字幕データ作成に必要な費用を捻出するためにスポンサーがつく可能性はほぼなく、作成にかかる費用を放送局が負担しているのが現状である。したがって、聴覚障害者にとって不利益であるにもかかわらず、クローズドキャプションなど、聴覚障害者向けの字幕データが放送信号に添付されている割合は低迷したままであり、問題となっている。ここで、これらの字幕データを2次的に利用することにより、字幕データ作成に対する放送局への対価を回収することが可能なシステムが構築されることは、産業の発展に貢献可能であるのみならず、字幕データが放送信号に添付される割合を向上することにつながるため、聴覚障害者にとっても有益である。
本発明はこのような状況に鑑みてなされたものであり、いわゆるクローズドキャプションなどの字幕データを利用して、録画データの検索を可能とするものである。
本発明の情報処理装置は、第1の時刻情報が付加された録画データの記憶を制御する録画データ記憶制御手段と、録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含むメタデータを記憶するメタデータ記憶手段と、ユーザの操作入力を受ける操作入力手段と、操作入力手段によりユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、メタデータ記憶手段により記憶されたメタデータとのマッチング処理を実行して、検索キーとなるテキスト情報に対応する第2の時刻情報およびテキストデータを検出するマッチング処理手段と、録画データ記憶制御手段により記憶が制御されている録画データから、マッチング処理手段により検出された第2の時刻情報に対応する記録位置を検索し、検索されたテキストデータのうち、検索キーとなるテキスト情報と一致するテキストの位置を検出して、検出結果に基づいて録画データを検索して読み出す検索手段とを備えることを特徴とする。
検索手段には、検索キーとなるテキスト情報と一致するテキストの位置より所定時間だけ前の時刻を、録画データの読み出しの開始位置として検索させるようにすることができる
暗号化されたメタデータを取得するメタデータ取得手段と、暗号化されたメタデータを復号するために用いられる鍵情報を取得する鍵情報取得手段と、メタデータ取得手段により取得された暗号化されたメタデータを、鍵情報取得手段により取得された鍵情報を用いて復号する復号処理手段とを更に備えさせるようにすることができ、メタデータ記憶手段により記憶されるメタデータは、復号処理手段により復号されたメタデータであるものとすることができる。
本発明の情報処理方法は、録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含むメタデータの記憶を制御するメタデータ記憶制御ステップと、検索を実行する番組を指定する情報および検索キーとなるテキスト情報の入力を制御する入力制御ステップと、入力制御ステップの処理により入力が制御された番組を指定する情報およびテキスト情報と、メタデータとのマッチング処理を実行して、テキスト情報に対応する第2の時刻情報と、テキスト情報を含むテキストデータを検出する検出ステップと、検出ステップの処理により検出されたテキストデータのうち、テキスト情報の位置を算出する算出ステップと、検出ステップの処理により検出された第2の時刻情報に対応する記録位置を検索し、検索された記録位置、および、算出ステップの処理により算出されたテキストデータのうちのテキスト情報の位置を基に、録画データを検索して読み出す読み出しステップとを含むことを特徴とする。
本発明のプログラムは、録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含むメタデータの記憶を制御するメタデータ記憶制御ステップと、検索を実行する番組を指定する情報および検索キーとなるテキスト情報の入力を制御する入力制御ステップと、入力制御ステップの処理により入力が制御された番組を指定する情報およびテキスト情報と、メタデータとのマッチング処理を実行して、テキスト情報に対応する第2の時刻情報と、テキスト情報を含むテキストデータを検出する検出ステップと、検出ステップの処理により検出されたテキストデータのうち、テキスト情報の位置を算出する算出ステップと、検出ステップの処理により検出された第2の時刻情報に対応する記録位置を検索し、検索された記録位置、および、算出ステップの処理により算出されたテキストデータのうちのテキスト情報の位置を基に、録画データを検索して読み出す読み出しステップとを含むことを特徴とする処理をコンピュータに実行させる。
本発明の情報処理装置および情報処理方法、並びに、プログラムにおいては、第1の時刻情報が付加された録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含むメタデータが記憶され、検索を実行する番組を指定する情報および検索キーとなるテキスト情報が入力され、番組を指定する情報およびテキスト情報と、メタデータとのマッチング処理が実行されて、テキスト情報に対応する第2の時刻情報とテキスト情報を含むテキストデータとが検出され、検出されたテキストデータのうちのテキスト情報の位置が算出され、第2の時刻情報に対応する記録位置が検索されて、検索された記録位置、および、算出されたテキストデータのうちのテキスト情報の位置を基に、録画データが検索されて読み出される。
本発明の情報処理システムは、放送信号を取得して処理する第1の情報処理装置と、テキスト情報を検索キーとして、録画データを検索する第2の情報処理装置と、第2の情報処理装置で実行される検索処理に利用されるメタデータを生成する第3の情報処理装置と、第2の情報処理装置で実行される検索処理に利用されるメタデータを復号する復号鍵を供給する第4の情報処理装置とによって構成される情報処理システムであって、第1の情報処理装置が、放送信号を取得する第1の放送信号取得手段と、第1の放送信号取得手段により取得された放送信号から、放送信号の番組を固有に区別可能な区別情報を取得する第1の区別情報取得手段と、第1の放送信号取得手段により取得された放送信号に、第1の時刻情報と、第1の区別情報取得手段により取得された区別情報とを付加して録画データを生成する情報付加手段とを備え、第2の情報処理装置が、第1の時刻情報と区別情報とが付加された録画データの記憶を制御する録画データ記憶制御手段と、暗号化されたメタデータを取得するメタデータ取得手段と、暗号化されたメタデータを復号するために用いられる復号鍵を取得する復号鍵取得手段と、メタデータ取得手段により取得された暗号化されたメタデータを、復号鍵取得手段により取得された復号鍵を用いて復号する復号処理手段と、復号処理手段により復号された、録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含むメタデータを記憶するメタデータ記憶手段と、ユーザの操作入力を受ける操作入力手段と、操作入力手段によりユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、メタデータ記憶手段により記憶されたメタデータとのマッチング処理を実行して、検索キーとなるテキスト情報に対応する第2の時刻情報およびテキストデータを検出するマッチング処理手段と、録画データ記憶制御手段により記憶が制御されている録画データから、マッチング処理手段により検出された第2の時刻情報に対応する記録位置を検索し、検索されたテキストデータのうち、検索キーとなるテキスト情報と一致するテキストの位置を検出して、検出結果に基づいて録画データを検索して読み出す検索手段とを備え、第3の情報処理装置が、放送信号を取得する第2の放送信号取得手段と、第2の放送信号取得手段により取得された放送信号から、放送信号の番組を固有に区別可能な区別情報を取得する第2の区別情報取得手段と、第2の放送信号取得手段により取得された放送信号から、ユーザにより表示するか否かを選択することが可能な字幕データを抽出してデコードする字幕データデコード手段と、字幕データデコード手段によりデコードされた字幕データに対応するテキストデータにタイムコードを付加するタイムコード付加手段と、タイムコード付加手段によりタイムコードが付加されたテキストデータに、区別情報取得手段により取得された区別情報を付加して、メタデータを生成するメタデータ生成手段と、メタデータ生成手段により生成されたメタデータを暗号化する暗号化手段とを備え、第4の情報処理装置は、第2の情報処理装置から、ユーザの認証に関する情報を取得する認証情報取得手段と、ユーザの登録情報の記憶を制御する登録情報記憶制御手段と、認証情報取得手段により取得されたユーザの認証に関する情報、および、登録情報記憶制御手段により記憶が制御されているユーザの登録情報を基に、認証処理を実行する認証処理手段と、認証処理手段によりユーザが正しく認証された場合、第2の情報処理装置への、メタデータを復号する復号鍵の供給を制御する復号鍵供給制御手段とを備えることを特徴とする。
本発明の情報処理システムは、第1の情報処理装置で、放送信号が取得され、取得された放送信号から、放送信号の番組を固有に区別可能な区別情報が取得され、取得された放送信号に、第1の時刻情報と区別情報とを付加して録画データが生成され、第2の情報処理装置で、第1の時刻情報と区別情報とが付加された録画データが記憶され、暗号化されたメタデータが取得され、暗号化されたメタデータを復号するために用いられる復号鍵が取得され、暗号化されたメタデータが復号鍵を用いて復号され、録画データの番組を区別するための区別情報、録画データに関するテキストデータ、および、テキストデータに対応する第2の時刻情報を含む、復号されたメタデータが記憶され、ユーザの操作入力を受け、ユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、メタデータとのマッチング処理が実行されて、検索キーとなるテキスト情報に対応する第2の時刻情報およびテキストデータが検出され、記録されている録画データから、検出された第2の時刻情報に対応する記録位置が検索されて、検索されたテキストデータのうち、検索キーとなるテキスト情報と一致するテキストの位置が検出されて、検出結果に基づいて録画データが検索されて読み出され、第3の情報処理装置で、放送信号が取得され、取得された放送信号から、放送信号の番組を固有に区別可能な区別情報が取得され、取得された放送信号から、ユーザにより表示するか否かを選択することが可能な字幕データが抽出されてデコードされ、デコードされた字幕データに対応するテキストデータにタイムコードが付加され、タイムコードが付加されたテキストデータに、区別情報が付加されて、メタデータが生成され、メタデータが暗号化され、第4の情報処理装置で、第2の情報処理装置からユーザの認証に関する情報が取得され、ユーザの登録情報が記憶され、ユーザの認証に関する情報、および、ユーザの登録情報を基に、認証処理が実行され、ユーザが正しく認証された場合、第2の情報処理装置へメタデータを復号する復号鍵が供給される。
第1の本発明によれば、検索キーとなるテキスト情報を基に、録画データを検索することができ、特に、検索キーとなるテキスト情報に対応する情報の位置を精度良く検出して、その位置から録画データを読み出すことができる。
第2の本発明によれば、メタデータと録画データが生成され、検索キーとなるテキスト情報を基に、メタデータを利用して、録画データを検索することができ、特に、メタデータを用いて、検索キーとなるテキスト情報に対応する情報の位置を精度良く検出して、その位置から録画データを読み出すことができる。
以下に本発明の実施の形態を説明するが、本明細書に記載の発明と、発明の実施の形態との対応関係を例示すると、次のようになる。この記載は、本明細書に記載されている発明をサポートする実施の形態が、本明細書に記載されていることを確認するためのものである。したがって、発明の実施の形態中には記載されているが、発明に対応するものとして、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その発明に対応するものではないことを意味するものではない。逆に、実施の形態が発明に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その発明以外の発明には対応しないものであることを意味するものでもない。
更に、この記載は、本明細書に記載されている発明の全てを意味するものでもない。換言すれば、この記載は、本明細書に記載されている発明であって、この出願では請求されていない発明の存在、すなわち、将来、分割出願されたり、補正により出現、追加される発明の存在を否定するものではない。
請求項1に記載の情報処理装置(例えば、図3のホームサーバ4)は、第1の時刻情報(例えば、図4の録画開始時刻情報95)が付加された録画データの記憶を制御する録画データ記憶制御手段(例えば、図3の録画データ記憶部72)と、録画データの番組を区別するための区別情報(例えば、図7の番組ID167)、録画データに関するテキストデータ(例えば、図7のテキストデータ165)、および、テキストデータに対応する第2の時刻情報(例えば、図7のタイムコード166)を含むメタデータ(例えば、図7のメタデータ161)を記憶するメタデータ記憶手段(例えば、図3のメタデータ記憶部78)と、ユーザの操作入力を受ける操作入力手段(例えば、図3の操作入力部71)と、操作入力手段によりユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、メタデータ記憶手段により記憶されたメタデータとのマッチング処理を実行して、検索キーとなるテキスト情報に対応する第2の時刻情報およびテキストデータを検出するマッチング処理手段(例えば、図3のマッチング処理部79)と、録画データ記憶制御手段により記憶が制御されている録画データから、マッチング処理手段により検出された第2の時刻情報に対応する記録位置を検索し、検索されたテキストデータのうち、検索キーとなるテキスト情報と一致するテキストの位置を検出して、検出結果に基づいて録画データを検索して読み出す検索手段(例えば、図3の録画データ検索出力部80)とを備えることを特徴とする。
検索手段は、検索キーとなるテキスト情報と一致するテキストの位置より所定時間(例えば、図8に示されるΔt)だけ前の時刻を、録画データの読み出しの開始位置として検索することができる。
暗号化されたメタデータを取得するメタデータ取得手段(例えば、図3のネットワークインターフェース73)と、暗号化されたメタデータを復号するために用いられる鍵情報を取得する鍵情報取得手段(例えば、図3のネットワークインターフェース73)と、メタデータ取得手段により取得された暗号化されたメタデータを、鍵情報取得手段により取得された鍵情報を用いて復号する復号処理手段(例えば、図3の復号処理部77)とを更に備えることができ、メタデータ記憶手段により記憶されるメタデータは、復号処理手段により復号されたメタデータであるものとすることができる。
請求項4の情報処理方法は、メタデータを利用して、第1の時刻情報が付加された録画データを検索する情報処理装置(例えば、図3のホームサーバ4)の情報処理方法であって、録画データの番組を区別するための区別情報(例えば、図7の番組ID167)、録画データに関するテキストデータ(例えば、図7のテキストデータ165)、および、テキストデータに対応する第2の時刻情報(例えば、図7のタイムコード166)を含むメタデータ(例えば、図7のメタデータ161)の記憶を制御するメタデータ記憶制御ステップ(例えば、図17のステップS150の処理)と、検索を実行する番組を指定する情報および検索キーとなるテキスト情報の入力を制御する入力制御ステップ(例えば、図19のステップS181およびステップS182の処理)と、入力制御ステップの処理により入力が制御された番組を指定する情報およびテキスト情報と、メタデータとのマッチング処理を実行して、テキスト情報に対応する第2の時刻情報と、テキスト情報を含むテキストデータを検出する検出ステップ(例えば、図19のステップS183の処理)と、検出ステップの処理により検出されたテキストデータのうち、テキスト情報の位置を算出する算出ステップ(例えば、図19のステップS184の処理)と、検出ステップの処理により検出された第2の時刻情報に対応する記録位置を検索し、検索された記録位置、および、算出ステップの処理により算出されたテキストデータのうちのテキスト情報の位置を基に、録画データを検索して読み出す読み出しステップ(例えば、図19のステップS185の処理)とを含むことを特徴とする。
また、請求項5に記載のプログラムにおいても、各ステップが対応する実施の形態(但し一例)は、請求項4に記載の情報処理方法と同様である。
請求項6の情報処理システムは、放送信号を取得して処理する第1の情報処理装置(例えば、図3の表示選択字幕デコーダ3)と、テキスト情報を検索キーとして、録画データを検索する第2の情報処理装置(例えば、図3のホームサーバ4)と、第2の情報処理装置で実行される検索処理に利用されるメタデータを生成する第3の情報処理装置(例えば、図5および図6のメタデータ作成サーバ6)と、第2の情報処理装置で実行される検索処理に利用されるメタデータを復号する復号鍵を供給する第4の情報処理装置(例えば、図9および図10の課金サーバ7)とによって構成される情報処理システムであって、第1の情報処理装置は、放送信号を取得する第1の放送信号取得手段(例えば、図3の入力端子21−1および21−2)と、第1の放送信号取得手段により取得された放送信号から、放送信号の番組を固有に区別可能な区別情報(例えば、番組ID)を取得する第1の区別情報取得手段(例えば、図3の番組ID情報抽出部39)と、第1の放送信号取得手段により取得された放送信号に、第1の時刻情報(たとえば、図4の録画開始時刻情報95)と、第1の区別情報取得手段により取得された区別情報とを付加して録画データを生成する情報付加手段(例えば、図3の出力信号生成部33)とを備え、第2の情報処理装置は、第1の時刻情報と区別情報とが付加された録画データの記憶を制御する録画データ記憶制御手段(例えば、図3の録画データ記憶部72)と、暗号化されたメタデータを取得するメタデータ取得手段(例えば、図3のネットワークインターフェース73)と、暗号化されたメタデータを復号するために用いられる復号鍵を取得する復号鍵取得手段(例えば、図3のネットワークインターフェース73)と、メタデータ取得手段により取得された暗号化されたメタデータを、復号鍵取得手段により取得された復号鍵を用いて復号する復号処理手段(例えば、図3の復号処理部77)と、復号処理手段により復号された、録画データの番組を区別するための区別情報(例えば、図7の番組ID167)、録画データに関するテキストデータ(例えば、図7のテキストデータ165)、および、テキストデータに対応する第2の時刻情報(例えば、図7のタイムコード166)を含むメタデータ(例えば、図7のメタデータ161)を記憶するメタデータ記憶手段(例えば、図3のメタデータ記憶部78)と、ユーザの操作入力を受ける操作入力手段(例えば、図3の操作入力部71)と、操作入力手段によりユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、メタデータ記憶手段により記憶されたメタデータとのマッチング処理を実行して、検索キーとなるテキスト情報に対応する第2の時刻情報およびテキストデータを検出するマッチング処理手段(例えば、図3のマッチング処理部79)と、録画データ記憶制御手段により記憶が制御されている録画データから、マッチング処理手段により検出された第2の時刻情報に対応する記録位置を検索し、検索されたテキストデータのうち、検索キーとなるテキスト情報と一致するテキストの位置を検出して、検出結果に基づいて録画データを検索して読み出す検索手段(例えば、図3の録画データ検索出力部80)とを備え、第3の情報処理装置は、放送信号を取得する第2の放送信号取得手段(例えば、図6の放送データ取得部141)と、第2の放送信号取得手段により取得された放送信号から、放送信号の番組を固有に区別可能な区別情報(例えば、番組ID)を取得する第2の区別情報取得手段(例えば、図6の番組ID情報抽出部143)と、第2の放送信号取得手段により取得された放送信号から、ユーザにより表示するか否かを選択することが可能な字幕データ(例えば、図2の表示選択字幕データ17)を抽出してデコードする字幕データデコード手段(例えば、図6の表示選択字幕データデコーダ145)と、字幕データデコード手段によりデコードされた字幕データに対応するテキストデータにタイムコードを付加するタイムコード付加手段(例えば、図6のタイムコード付加処理部147)と、タイムコード付加手段によりタイムコードが付加されたテキストデータに、区別情報取得手段により取得された区別情報を付加して、メタデータを生成するメタデータ生成手段(例えば、図6のメタデータ生成部144)と、メタデータ生成手段により生成されたメタデータを暗号化する暗号化手段(例えば、図6の暗号化処理部149)とを備え、第4の情報処理装置は、第2の情報処理装置から、ユーザの認証に関する情報を取得する認証情報取得手段(例えば、図10の操作入力情報取得部204)と、ユーザの登録情報の記憶を制御する登録情報記憶制御手段と(例えば、図10のユーザ情報データベース206)、認証情報取得手段により取得されたユーザの認証に関する情報、および、登録情報記憶制御手段により記憶が制御されているユーザの登録情報を基に、認証処理を実行する認証処理手段(例えば、図10の認証処理部207)と、認証処理手段によりユーザが正しく認証された場合、第2の情報処理装置への、メタデータを復号する復号鍵の供給を制御する復号鍵供給制御手段(例えば、図10の鍵供給処理部208)とを備えることを特徴とする。
以下、図を参照して、本発明の実施の形態について説明する。
図1は、本発明を適用した情報処理システムの構成について説明するためのシステム図である。
放送局1は、地上波、または、衛星波などを用いて、番組を放送する。放送される番組のデータには、映像データと音声データが含まれる。また、番組データには、映像データとして必ず表示される、いわゆる字幕(番組の題名やキャストなどの紹介、または、海外の作品における日本語字幕)以外に、表示させるか否かを選択可能な字幕データが含まれる。このような選択可能な字幕データ(いわゆる、クローズドキャプション)には、海外の作品における日本語字幕のような出演者の会話に対応するテキストデータのみならず、例えば、BGMや効果音などの説明も含まれていてもよい。
例えば、NTSC方式のアナログの地上波放送では、映像信号に525本の走査線が用いられており、この525本のうち、各フィールド(2フィールドで1フレームを構成)の最初の21本相当は、VBI(Vertical Blanking Interval:垂直帰線消去期間)と称される、走査を開始するためのインターバル用に割り当てられている。クローズドキャプションは、各フィールドのVBIのうち、VBIの21本目に7bitの文字コードを多重化することによって伝送されるようになされており、各フィールドを使って2種類の文字セットを毎秒約60文字伝送することができるようになされている。以下、クローズドキャプションに代表される、表示と非表示を選択可能な字幕データを、表示選択字幕データと称するものとする。
映像データ、音声データ、表示選択字幕データの具体的な例について、図2を用いて説明する。
映像データ15は、動画像データであり、図2においては、動画像データ中の、いくつかのタイミングにおけるフレーム画像データを抽出して図示している。音声データ16は、映像データ15と同時再生されるべき音声データである。表示選択字幕データ17は、例えば、音声データ17に対応するテキストデータであってもかまわないし、音声データに対応するテキストデータ以外の、音声データが会話である場合に、発話者を説明するためのテキストデータなどが含まれるようにしても良い。映像データ15と音声データ16は、例えば、それぞれ対応するようなリンク情報を有しているか、相対時刻のタイムスタンプを有することにより、例えば、放送時にリアルタイムで視聴される以外に、録画されて再生された場合においても時間軸がずれてしまうことがないようになされている。これに対して、表示選択字幕データ17は、再生時にデコードされるまで、映像データと同一に扱われることしか想定されていないため、映像データ15または音声データ16に対するリンクデータや、相対時刻のタイムスタンプなどを有していない。
再び、図1の説明に戻る。
ユーザは、テレビジョン受像機2を用いて、図2を用いて説明した表示選択字幕データ17を含む映像データ15、および、音声データ16で構成される放送信号を受信する。表示選択字幕データを表示させる必要がなく、かつ、表示選択字幕データを用いた、後述する検索処理を行わないユーザは、表示選択字幕デコーダ3を用いなくても、チューナ11によって選局された放送信号を、映像および音声信号処理部12において復調し、映像信号を出力部13のディスプレイに表示するとともに、音声信号を出力部13のスピーカに出力して、番組を視聴することが可能である。
表示選択字幕デコーダ3は、テレビジョン受像機2のチューナ11によって選局された放送信号の入力を受け、映像信号および音声信号をデコードするとともに、ユーザの操作入力に基づいて、表示選択字幕データを抽出してデコードし、出力部13に出力して表示および音声出力させることができる。更に、表示選択字幕デコーダ3は、テレビジョン受像機2のチューナ11によって選局された放送信号の入力を受け、放送信号を処理することにより、ホームサーバ4がインターネット5を介してメタデータ作成サーバ6から取得したメタデータを用いて検索処理を実行することが可能な、タイムスタンプつき録画データを生成して、ホームサーバ4に供給することができる。また、表示選択字幕デコーダ3は、ホームサーバにより録画され、検索処理により再生位置が指定された録画データの供給を受け、表示選択字幕を必要に応じてデコードして、出力部13に出力して表示および音声出力させることができる。
ホームサーバ4は、ユーザの操作入力に基づいて、表示選択字幕デコーダ3により生成されたタイムスタンプつき録画データの供給を受けて内部の記録媒体に記録(すなわち、録画)する。また、ホームサーバ4は、インターネット5を介して、メタデータ作成サーバ6から、表示選択字幕データに対応するテキストデータと、テキストデータに対応するタイムコードにより構成されるメタデータの供給を受けるとともに、課金サーバ7から、メタデータを復号するための鍵データの供給を受けてメタデータを復号し、復号されたメタデータを用いて、ユーザが入力したテキストとメタデータとのマッチング処理を実行する。そして、マッチング処理の結果、ユーザが入力したテキストを含むテキストデータおよびテキストデータに対応するタイムコードが検出され、タイムコードおよびテキストデータを基に、ユーザが入力したテキストに対応する録画データの再生位置が検出されて、検出された再生位置から録画データが読み出されて、表示選択字幕デコーダ3に供給される。検索処理の詳細については後述する。ここで、検索される「番組」とは、例えば、2時間ドラマなどのプログラムの全体であっても、1つのプログラムがコマーシャルなどで区切られている場合の区切られた1単位ごとでも、複数のプログラムを含むものであっても、更に、コマーシャルを含むものやコマーシャルのみを示すものであっても良い。
メタデータ作成サーバ6は、インターネット5を介して、または、所定の媒体を介して、もしくは、図示しないアンテナより受信することにより、放送局1が作成した表示選択字幕データつきの放送信号を取得し、それを基に、メタデータを作成して、作成したメタデータを暗号化する。また、メタデータ作成サーバ6は、暗号化されたメタデータを、インターネット5を介してユーザに配布するためのウェブページをインターネット5に公開し、例えば、ホームサーバ4や、図示しないパーソナルコンピュータなどを用いたユーザからのアクセスを受け、ユーザが所望した番組の検索に利用される暗号化されたメタデータを、インターネット5を介してダウンロードさせる。
課金サーバ7は、メタデータ作成サーバ6が作成し暗号化してユーザに配布したメタデータを復号するための復号鍵を、インターネット5を介してユーザに配布するためのウェブページをインターネット5に公開し、例えば、ホームサーバ4や、図示しないパーソナルコンピュータなどを用いたユーザからのアクセスを受け、ユーザが所望したメタデータの復号鍵に対する対価の決済を行ったうえで、ユーザに鍵を配布する。また、課金サーバ7は、表示選択字幕データを作成した放送局1に対する対価を放送局1に対して支払うための課金処理を実行する。
図3は、図1の表示選択字幕デコーダ3と、ホームサーバ4との構成を示すブロック図である。
テレビジョン受像機2のチューナ11により選局された放送信号のうち、表示選択字幕データを含む映像信号は、入力端子21−1より映像信号デコーダ31に供給され、音声信号は、入力端子21−2より音声信号デコーダ34に入力される。
映像信号デコーダ31は、供給された映像信号をデコードし、デコードされた映像データをメモリ32に供給する。メモリ32は、供給された映像信号を一時保持するフレームメモリである。音声信号デコーダ34は、供給された音声信号をデコードし、デコードされた音声データを出力する。
操作入力部41により入力されたユーザの操作により、受信された放送信号をリアルタイムに出力する、すなわち、現在放送中の番組を視聴することが指令された場合、表示選択字幕データデコーダ35は、メモリ32から映像データを取得する。そして、操作入力部41により入力されたユーザの操作により、表示選択字幕データの表示が指令された場合、表示選択字幕データデコーダ35は、取得した映像データに含まれる表示選択字幕データをデコードして、対応するテキストデータをOSD(On Screen Display)36に供給するとともに、映像データを合成処理部37に供給する。
OSD36は、供給されたテキストデータを、表示画面に重畳して表示させるための画像データであるOSDデータに変換して、合成処理部37に供給する。合成処理部37は、供給された映像データに、供給されたOSDデータを重畳して、出力端子22−1からテレビジョン受像機2の出力部13のディスプレイに出力する。また、このとき、音声出力処理部38は、音声信号デコーダ34によりデコードされた音声データを取得して、出力端子22−2から、テレビジョン受像機2の出力部13のスピーカに出力する。
操作入力部41により入力されたユーザの操作に基づいて、または、データ端子61−3を介して、ホームサーバ4から供給された制御信号に基づいて、供給された映像信号および音声信号をホームサーバ4に出力して録画させることが指令された場合、出力信号生成部33は、番組ID情報抽出部39に、メモリ32に保持されている映像データから番組管理データに含まれる番組IDを抽出させるように制御する。番組ID情報抽出部39は、映像信号デコーダ31によりデコードされた映像データに含まれる番組管理データから、番組(ここでも、「番組」とは、検索される単位を示し、例えば、2時間ドラマなどのプログラムの全体であっても、1つのプログラムがコマーシャルなどで区切られている場合の区切られた1単位ごとでも、複数のプログラムを含むものであっても、更に、コマーシャルを含むものやコマーシャルのみを示すものであっても良い)を固有に区別可能な番組ID情報を抽出し、出力信号生成部33に供給する。
出力信号生成部33は、タイマ40を参照して、録画が開始された時刻(絶対時刻)を取得し、メモリ32から供給される映像データ、または、音声信号デコーダ34から供給される音声データのうちの少なくともいずれか一方に、取得した時刻情報を付加するとともに、映像データおよび音声データに対して、番組ID情報抽出部39から供給された番組IDを付加して、録画される出力信号を生成し、出力端子23−1および23−2からホームサーバ4に供給する。この付加された時刻情報は、タイムスタンプとして、後述する検索処理において用いられる。
録画される出力信号について、図4を用いて説明する。
出力信号生成部33において、録画される出力信号のうち、映像データ15または音声データ16のうちのいずれか少なくとも一方に、録画開始時刻情報95が付加される。そして、映像データ15には、表示選択字幕データ17が含まれている。そして、これらのデータに番組ID情報が関連つけられて、録画用の出力信号が生成される。
図3に戻って、ホームサーバ4の構成について説明する。
操作入力部71は、例えば、ボタン、キー、タッチパネル、タッチパッド、レバーなどの入力デバイスで構成され、ユーザの操作入力を受ける。録画データ記憶部72は、入力端子61−1および入力端子61−2から供給される、番組IDとタイムスタンプが付加された映像データおよび音声データを記憶する。録画データ記憶部72は、例えば、ハードディスクなどの大容量記録媒体により構成されるようにしても、DVD(Digital Versatile Disk)やビデオテープなどのリムーバブルな記録媒体に構成されるようにしても良い。
録画制御部81は、ユーザが、操作入力部71に対して、放送番組の録画を指令したとき、表示選択字幕デコーダ3に供給された映像信号および音声信号を検索可能な情報として録画することができるように、番組IDおよびタイムスタンプを付加させて、ホームサーバ4に出力させるための制御信号を生成し、データ端子61−3およびデータ端子23−2を介して、表示選択字幕デコーダ3の出力信号生成部33に供給する。
ネットワークインターフェース73は、インターネット5に公開されているウェブページの情報を取得して、表示部74に表示させたり、表示部74を参照したユーザが、操作入力部71に入力した操作に基づいて、所定の情報を、メタデータ作成サーバ6、または、課金サーバ7に送信したり、メタデータ作成サーバ6から、メタデータをダウンロードして、暗号化メタデータ記憶部75に出力して記憶させたり、課金サーバ7から取得した復号鍵を、鍵情報記憶部76に出力して記憶させたりする。また、ネットワークインターフェース73は、ユーザが保有する図示しないパーソナルコンピュータなどを用いて取得された、暗号化されたメタデータや復号鍵などを、有線または無線を介した通信により、図示しないパーソナルコンピュータから受信することも可能である。
表示部74は、例えば、LCD(Liquid Crystal Display)またはCRT(Cathode Ray Tube)などで構成され、ネットワークインターフェース73を介して取得されたインターネット5に公開されているウェブページの情報や、操作入力部71によりユーザが入力した情報などを表示する。
暗号化メタデータ記憶部75は、取得された暗号化されたメタデータを記憶する。鍵情報記憶部76は、取得された復号鍵を記憶する。復号処理部77は、暗号化メタデータ75に記憶されている暗号化されたメタデータを、鍵情報記憶部76に記憶されている復号鍵を用いて復号し、メタデータ記憶部78に出力して記憶させる。メタデータ記憶部78は、復号されたメタデータの供給を受け、これを記憶する。
マッチング処理部79は、操作入力部71から、検索する録画データの番組IDを指定する情報と、検索のキーとなるテキストの入力を受け、メタデータ記憶部78に記憶されているメタデータを参照して、マッチング処理を実行し、マッチング結果である番組ID、検索キーを含むテキストデータ、および、タイムコードを録画データ検索出力部80に供給する。録画データ検索出力部80は、マッチング処理部79から供給されたマッチング結果である番組IDとタイムコードを基に、録画データ記憶部72を検索して、マッチング結果である番組IDとタイムコードにより指定されるテキストデータ、すなわち、検索のキーとなるテキストを含むテキストデータと、操作入力部71から供給された検索のキーとなるテキストを基に、検出されたテキストデータ中の、検索のキーとなるテキストの位置に対応する時刻情報を算出する。そして、録画データ検索出力部80は、算出された時刻情報を基に、録画データ記憶部72を検索して、検索のキーとなるテキストの開始点に対応する位置から開始される録画データを読み出し、出力端子62−2および出力端子62−2を介して、表示選択字幕デコーダ3に供給する。
録画データ検索出力部80は、対応するテキストの表示時間に対して、テキストに対応する音声データを構成する音が、一定の速度で発話されると仮定して、テキストの開始点に対応する位置を検出する。録画データ検索出力部80が、検索のキーとなるテキストの開始点を検出する方法については、図8を用いて後述する。
次に、図5は、メタデータ作成サーバ6の構成を示すブロック図である。
CPU(Central Processing Unit)101は、ROM(Read Only Memory)102に記憶されているプログラム、または記憶部108からRAM(Random Access Memory)103にロードされたプログラムに従って、各種の処理を実行する。RAM103にはまた、CPU101が各種の処理を実行するうえにおいて必要なデータなども適宜記憶される。
CPU101、ROM102、およびRAM103は、バス104を介して相互に接続されている。このバス104にはまた、入出力インタフェース105も接続されている。
入出力インタフェース105には、キーボード、マウスなどよりなる入力部106、ディスプレイやスピーカなどよりなる出力部107、ハードディスクなどより構成される記憶部108、モデム、ターミナルアダプタなどより構成される通信部109が接続されている。通信部109は、インターネット5を含むネットワークを介しての通信処理を行う。
入出力インタフェース105にはまた、必要に応じてドライブ110が接続され、磁気ディスク121、光ディスク122、光磁気ディスク123、もしくは、半導体メモリ124などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部108にインストールされる。
図6は、図5を用いて説明したメタデータ作成サーバ6が実行する機能(CPU101が実行するソフトウェアによって実行される機能を含む)について説明するための機能ブロック図である。
放送データ取得部141は、図5の通信部109に対応し、インターネット5を介して、または、図示しないアンテナを介して、放送データを取得して、デコーダ142に供給する。
デコーダ142は、供給された放送データをデコードする。ここで、デコーダ142は、放送データのうち、メタデータの作成に必要となる番組ID情報を含む番組管理情報や表示選択字幕データが含まれている映像信号のみをデコードすればよい。
番組ID情報抽出部143は、デコーダ142によりデコードされた映像データに含まれる番組管理データから、放送番組(ここでも、「番組」とは、検索される単位を示し、例えば、2時間ドラマなどのプログラムの全体であっても、1つのプログラムがコマーシャルなどで区切られている場合の区切られた1単位ごとでも、複数のプログラムを含むものであっても、更に、コマーシャルを含むものやコマーシャルのみを示すものであっても良い)を固有に区別可能な番組ID情報を抽出し、メタデータ生成部144に供給するとともに、供給された映像データを表示選択字幕データデコーダ145に供給する。
表示選択字幕データデコーダ145は、取得した映像データに含まれる表示選択字幕データをデコードして、対応するテキストデータを表示選択字幕データ解析部146に供給する。表示選択字幕データ解析部146は、表示選択字幕データデコーダ145から供給された、表示選択字幕データに対応するテキストデータを、適切な長さのテキスト群に分割(例えば、一度に表示されるテキストを1つのテキスト群として分割)し、分割されたテキスト群をタイムコード付加処理部147に供給する。
タイムコード付加処理部147は、タイマ148を参照して、供給されたテキスト群のそれぞれに対して、テキストの開始位置および終了位置に対応するタイムコードを付加する。タイムコード付加処理部147は、放送データ取得部141が、ユーザが放送データを取得する場合と同様に、リアルタイムで(すなわち、番組の放送時刻に)放送信号を取得した場合、タイマ148が示す現在時刻に基づいて、タイムコードをテキストデータに付加するものとする。
また、タイムコード付加処理部147は、放送データ取得部141が、番組の放送時刻から遅れて放送信号を取得した場合、または、デコーダ142乃至表示選択字幕データ解析部146の処理にかかる時間が、一般的なテレビジョン受像機を用いた放送信号の出力処理と比較して長くなってしまう場合、タイマ148が示す現在時刻と放送信号の取得の遅延時間、または、処理にかかる時間による遅延時間に基づいて、番組の放送時刻に対応するタイムコードを算出し、テキストデータに付加するものとする。更に、タイムコード付加処理部147は、表示選択字幕データが付与されるタイミングが、実際の放送の内容と異なる場合、タイミングのずれを適宜補正可能なようにしても良いことはいうまでもない。
メタデータ生成部144は、タイムコード付加処理部147から供給されたタイムコードが付加されたテキストデータに、番組ID情報抽出部143から供給された番組ID情報を付加してメタデータを生成し、暗号化処理部249に供給する。
図7を用いて、メタデータについて説明する。
表示選択字幕データ解析部146により、適切な長さのテキスト群であるテキスト1、テキスト2、・・・に分割されたテキストデータ165に対して、タイムコード付加処理部147において、それぞれのテキスト群の開始時刻と終了時刻が記載されたタイムコード166が付加される。例えば、テキスト1として、“「7時のニュースです」”、テキスト2として、“「今日の初めの話題は、・・・」”の部分のテキストが分割された場合、番組の放送において、これらの部分の表示選択字幕が表示される時刻に対応する開始時刻および終了時刻が、タイムコード166に記載される。そして、更に、番組ID情報抽出部143から供給された番組ID情報167が付加されて、メタデータ161が生成される。
図6の説明に戻る。
暗号化処理部149は、メタデータ作成部144から供給されたメタデータを、鍵情報記憶部150に予め記憶されている、番組IDに対応する暗号鍵で暗号化し、メタデータ記憶部151に供給する。メタデータ供給制御部152は、通信部153から供給されるメタデータを要求する信号に基づいて、ユーザが所望する番組に対応する暗号化されたメタデータをメタデータ記憶部151から検索して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに、インターネット5を介して供給する。
ページ情報記憶部155は、例えば、ダウンロード可能なメタデータの一覧や、メタデータを利用するために必要な復号鍵の取得方法など、ユーザにメタデータをダウンロードさせて利用させるために必要な情報を提供するためのウェブページに対応する情報を記憶している。ウェブページ公開処理部154は、ページ情報記憶部に記憶されているウェブページをインターネット5に公開する。
通信部153は、図5の通信部109に対応するものであり、インターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどと情報を授受するものである。
次に、メタデータ作成サーバ6において作成された、図7を用いて説明したメタデータ161のタイムコード166に基づいて、上述したホームサーバ4の録画データ検索出力部80が、検索のキーとなるテキストの開始点を検出する方法について、図8を用いて説明する。
ホームサーバ4の録画データ検索出力部80は、対応するテキストの表示時間に対して、テキストに対応する音声データを構成する音が、一定の速度で発話されると仮定して、テキストの開始点に対応する位置を検出する。例えば、図7を用いて説明したテキスト1およびテキスト2を含むメタデータに対応する録画データにおいて、「車椅子」が、検索キーであった場合、マッチング処理により、テキスト2に対応するタイムコード166が検出されるので、録画データ検索出力部80は、メタデータ161のタイムコード166に記載されている、テキスト2の開始時刻「19:00:46:01」および終了時刻「19:00:56:51」を基に、テキスト2の表示時間10.5秒を算出する。そして、録画データ検索出力部80は、テキスト2「今日の初めの話題は車椅子に関することです」の音の数25で、テキスト2の表示時間10.5秒を除算することにより、テキスト2の表示時間に対して、対応する音声データの1音の平均的な発話時間の推定値0.42秒を算出する。そして、録画データ検索出力部80は、テキスト2に含まれる「車椅子」の開始位置が12音目であることから、テキスト2に含まれる「車椅子」が発話された時刻を、テキスト2の開始時刻「19:00:46:01」から(0.42×12)秒だけ遅れた、「19:00:50:63」であると推定する。
ここで、録画データ検索出力部80は、対応するテキストの表示時間に対して、テキストに対応する音声データを構成する音が、一定の速度で発話されると仮定しているので、この仮定が成立しない場合、ユーザが所望するテキスト「車椅子」が発話されたタイミングを検索できない可能性がある。そこで、録画データ検索出力部80は、推定された発話時刻「19:00:50:63」から、所定の時間Δtだけ早い時刻を、再生開始位置として検出し、検出された再生開始位置から始まる録画データを録画データ記憶部72から読み出して、出力端子61−1および61−2を介して、表示選択字幕デコーダ3に供給する。
ここで、所定の時間Δtは、あらかじめ設定されている値であっても、利用者により設定変更可能な値であっても良い。
次に、図9は、課金サーバ7の構成を示すブロック図である。
CPU(Central Processing Unit)171は、ROM(Read Only Memory)172に記憶されているプログラム、または記憶部178からRAM(Random Access Memory)173にロードされたプログラムに従って、各種の処理を実行する。RAM173にはまた、CPU171が各種の処理を実行するうえにおいて必要なデータなども適宜記憶される。
CPU171、ROM172、およびRAM173は、バス174を介して相互に接続されている。このバス174にはまた、入出力インタフェース175も接続されている。
入出力インタフェース175には、キーボード、マウスなどよりなる入力部176、ディスプレイやスピーカなどよりなる出力部177、ハードディスクなどより構成される記憶部178、モデム、ターミナルアダプタなどより構成される通信部179が接続されている。通信部179は、インターネット5を含むネットワークを介しての通信処理を行う。
入出力インタフェース175にはまた、必要に応じてドライブ180が接続され、磁気ディスク121、光ディスク122、光磁気ディスク123、もしくは、半導体メモリ124などが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部178にインストールされる。
次に、図10は、図9の課金サーバ7が実行する機能(CPU171が実行するソフトウェアによって実行される機能を含む)について説明するための機能ブロック図である。
ページ情報記憶部202は、例えば、ユーザ登録用のユーザ情報および課金情報の入力、メタデータを利用するために必要な復号鍵の取得方法、復号鍵の購入要求の送信など、ユーザがダウンロードしたメタデータを復号するために必要な復号鍵を提供し、その課金を行うためのウェブページに対応する情報を記憶している。ウェブページ公開処理部201は、ページ情報記憶部に記憶されているウェブページをインターネット5に公開する。
通信部203は、図9の通信部179に対応するものであり、インターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどと情報を授受するものである。
操作入力情報取得部204は、通信部203を介して、ユーザが送信した操作入力情報を取得し、操作入力情報が、ウェブページの操作に関するものである場合は、ウェブページ公開処理部201に、ユーザ登録のための個人情報である場合は、ユーザ情報登録処理部205に、認証処理に必要な情報である場合は、認証処理部207に、鍵の購入を要求する情報である場合は、鍵供給処理部208に、課金処理に関する情報であるときは、課金処理部210に、それぞれ供給する。
ユーザ情報登録処理部205は、操作入力情報取得部204から、ユーザ登録のための個人情報の供給を受けて、ユーザ情報データベース206に供給する。認証処理部207は、新たに登録されたユーザに対して、ユーザを固有に区別可能なユーザIDを発行し、ユーザ情報データベース206に登録するとともに、発行したユーザIDを、通信部203を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出する。また、認証処理部207は、操作入力情報取得部204から、認証処理に必要な情報の供給を受け、ユーザ情報データベース206に登録されているユーザ情報を参照して認証処理を実行し、認証処理結果を鍵供給処理部208に出力する。
鍵供給処理部208は、操作入力情報取得部204から、鍵の購入を要求する情報の供給を受け、認証処理部207からユーザの認証処理が正しく終了したことを示す認証結果の入力を受けた場合、鍵情報データベース209から対応する復号鍵を読み込んで、通信部203を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに供給するとともに、課金処理部210に、鍵の供給に関する情報を出力する。
鍵情報データベース209は、番組IDごとに、暗号化されたメタデータを復号するための復号鍵を保存している。すなわち、鍵情報データベース209は、図6を用いて説明した、鍵情報記憶部150に予め記憶されている、暗号化処理部149がメタデータを暗号化する場合に用いられる番組IDごとの鍵情報に対応する復号鍵を保存している。
課金処理部210は、操作入力情報取得部204および鍵情報処理部208から供給された課金に関する情報を基に、課金処理を行い、課金に必要な情報を課金情報データベース211に登録したり、ユーザ情報データベース206および課金情報データベース211に登録されている内容を基に、ユーザに対する供給された復号鍵の対価の決済処理や、放送局1に対する表示選択字幕の提供の対価の支払い処理などを実行する。課金情報データベース211には、課金処理のために必要な情報が登録される。
次に、図11のフローチャートを参照して、図3を用いて説明した、表示選択字幕デコーダ3が実行する処理である表示選択字幕デコーダの処理1について説明する。
ステップS1において、映像信号デコーダ31および音声信号デコーダ34は、番組放送信号(映像信号および音声信号)の入力を受けて、デコードを行う。映像信号デコーダ31は、デコードした映像データをメモリ32に供給する。
ステップS2において、表示選択字幕データデコーダ35および音声出力処理部38は、操作入力部41から供給されるユーザの操作入力を基に、番組の視聴が指令されているか否かを判断する。
ステップS2において、番組の視聴が指令されていると判断された場合、ステップS3において、表示選択字幕データデコーダ35は、操作入力部41から供給されるユーザの操作入力を基に、表示選択字幕の表示が指令されているか否かを判断する。
ステップS3において、表示選択字幕の表示が指令されていると判断された場合、ステップS4において、表示選択字幕データデコーダ35は、表示選択字幕データをデコードして、OSD36に供給するとともに、映像データを合成処理部37に供給する。OSD36は、供給されたテキストデータを映像データに変換し、合成処理部37に出力する。合成処理部37は、供給されたOSDデータを映像データに合成して、出力端子22−1を介して、テレビジョン受像機2に出力する。また、音声出力処理部38も、音声信号デコーダ34によりデコードされた音声データを取得して、出力端子22−2を介して、テレビジョン受像機2に出力する。
ステップS3において、表示選択字幕の表示が指令されていないと判断された場合、ステップS5において、表示選択字幕データデコーダ35は、表示選択字幕データをデコードせず、映像データを、合成処理部37および出力端子22−1を介して、テレビジョン受像機2に出力する。また、音声出力処理部38も、音声信号デコーダ34によりデコードされた音声データを取得して、出力端子22−2を介して、テレビジョン受像機2に出力する。
ステップS2において、番組の視聴が指令されていないと判断された場合、もしくは、ステップS4またはステップS5の処理の終了後、ステップS6において、出力信号生成部33は、操作入力部41から供給されるユーザの操作入力、または、データ端子23−3を介して供給される、ホームサーバ4の録画制御部81からの制御信号を基に、番組の録画が指令されているか否かを判断する。ステップS6において、番組の録画が指令されていないと判断された場合、処理が終了される。
ステップS6において、番組の録画が指令されたと判断された場合、ステップS7において、図12を用いて後述する録画データ作成処理1が実行される。
ステップS8において、出力信号生成部33は、ステップS6の処理により作成された録画データを、出力端子23−1および出力端子23−2を介して、ホームサーバ4に供給し、処理が終了される。
このような処理により、表示選択字幕デコーダ3は、ユーザの操作入力に基づいて、受信された放送信号を視聴するときに、表示選択字幕をデコードして映像に重畳させて表示させたり、表示選択字幕に対応するテキストデータを検索処理に用いることが可能な録画データを生成して、ホームサーバ4に供給して録画させることが可能となる。
次に、図12のフローチャートを参照して、図11のステップS7において実行される録画データ作成処理1について説明する。
ステップS21において、番組ID情報抽出部39は、メモリ32に保持されているデコードされた映像データに含まれる番組管理用データから、録画される番組を個別に識別可能な番組ID情報を抽出して、出力信号生成部33に供給する。
ステップS22において、出力信号生成部33は、タイマ40を参照して、メモリ32から供給された映像データ、または、音声信号デコーダ34から供給された音声データにのうちの少なくともいずれか一方に、例えば、録画開始時刻を示す情報などの、絶対時間によるタイムスタンプを付加する。
ステップS23において、出力信号生成部33は、タイムスタンプが付加された映像データまたは音声データに、更に、番組IDを付加し、図4を用いて説明した録画用の出力信号を生成して、処理は、図11のステップS8に進む。
このような処理により、表示選択字幕に対応するテキストデータを検索処理に用いることが可能な、番組IDおよびタイムスタンプが付加された録画データが生成される。
次に、図13のフローチャートを参照して、図5および図6を用いて説明したメタデータ作成サーバ6が実行するメタデータ作成処理1について説明する。
ステップS61において、放送データ取得部141は、番組放送信号(少なくとも、映像信号)の入力を受け、デコーダ142に供給する。デコーダ142は、供給された映像信号をデコードして、番組ID情報抽出部143に供給する。
ステップS62において、番組ID情報抽出部143は、供給された映像データに含まれる番組管理用データから、番組を認識するための番組固有の情報である番組IDを抽出し、番組IDをメタデータ生成部144に供給するとともに、デコードされた映像データを、表示選択字幕データデコーダ145に供給する
ステップS63において、表示選択字幕データデコーダ145は、供給された映像データから表示選択字幕データを抽出してデコードし、表示選択字幕データ解析部146に供給する。
ステップS64において、表示選択字幕データ解析部146は、表示選択字幕データに対応するテキストデータを解析し、所定の長さ(例えば、表示が選択された場合に一度に表示される所定の文字数や、ユーザが所定の時間で読解することが可能な程度の長さ)のテキスト群に分解して、タイムコード付加処理部147に供給する。
ステップS65において、タイムコード付加処理部147は、供給されたテキスト群に対して、開始時刻と終了時刻のタイムコードをそれぞれ付加し、メタデータ生成部144に供給する。
ステップS66において、メタデータ生成部144は、タイムコード付加処理部147から供給されたタイムコード付のテキストデータ群に、番組ID情報抽出部143から供給された番組IDを付加して、図7を用いて説明したメタデータ161を作成して、暗号化処理部149に供給する。
ステップS67において、暗号化処理部149は、供給されたメタデータ161を、鍵情報記憶部150に記憶されている、番組IDに対応する鍵を用いて暗号化し、メタデータ記憶部151に供給する。
ステップS68において、メタデータ記憶部151は、暗号化されたメタデータを記憶して、処理が終了される。
このような処理により、表示選択字幕データに対応するテキストデータ、テキストデータに対応するタイムコード、および、番組IDにより構成されるメタデータが生成され、暗号化されて記憶される。暗号化されて記憶されたメタデータは、後述する処理により、ユーザが保有するホームサーバ4にダウンロードされる。
次に、図14のフローチャートを参照して、図9および図10を用いて説明した課金サーバ7が実行するユーザ登録処理について説明する。
ステップS81において、ウェブページ公開処理部201は、ページ情報記憶部202に記憶されているユーザ登録のためのウェブページを、インターネット5に公開する。
ステップS82において、操作入力情報取得部204は、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどから、通信部203を介して、ユーザ登録要求を受けたか否かを判断する。ステップS82において、ユーザ登録要求を受けていないと判断された場合、処理は、ステップS81に戻り、それ以降の処理が繰り返される。
ステップS82において、ユーザ登録要求を受けたと判断された場合、操作入力情報取得部204は、ユーザ登録要求を受けたことをウェブページ公開処理部201に通知するので、ステップS83において、ウェブページ公開処理部201は、ユーザ登録画面に対応するデータを、通信部203およびインターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出する。
ステップS84において、操作入力情報取得部204は、例えば、決済方法などの課金方法に関する情報や、ユーザの氏名やメールアドレスなどの個人情報を含む、ユーザ登録データの供給を受け、ユーザ情報登録処理部205に供給する。
ステップS85において、ユーザ情報登録処理部205は、ユーザ情報データベース206にユーザ登録データを供給して記憶させる。ユーザ情報データベース206は供給されたユーザ登録データを記憶する。
ステップS86において、認証処理部207は、新たに登録されたユーザに対して、ユーザを固有に区別可能なユーザIDを発行し、ユーザ情報データベース206に登録するとともに、発行したユーザIDを、通信部203およびインターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出して、処理が終了される。
このような処理により、課金サーバ7にユーザ情報が登録される。登録されたユーザ情報は、後述する鍵情報の供給時、および、課金処理時に利用される。
次に、図15のフローチャートを参照して、図5および図6を用いて説明したメタデータ作成サーバ6が実行するメタデータ供給処理について説明する。
ステップS101において、ウェブページ公開処理部154は、ページ情報記憶部155に記憶されているメタデータ要求を受けるためのウェブページを、インターネット5に公開する。
ステップS102において、メタデータ供給制御部152は、通信部153を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどから、所定の番組IDにより区別される番組に対応するメタデータを要求する操作入力を示す信号の入力を受けたか否かを判断する。ステップS102において、メタデータを要求する操作入力を示す信号の入力を受けていないと判断された場合、処理は、ステップS101に戻り、それ以降の処理が繰り返される。
ステップS102において、メタデータを要求する操作入力を示す信号の入力を受けたと判断された場合、ステップS103において、メタデータ供給制御部152は、要求された番組に対応する、暗号化されたメタデータをメタデータ記憶部151から読み出して、通信部153およびインターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出し、処理が終了される。
このような処理により、暗号化されたメタデータが、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出される。送出されたメタデータは、ホームサーバ4に記憶され、後述する処理により復号されて、検索処理に用いられる。
次に、図16のフローチャートを参照して、図9および図10を用いて説明した課金サーバ7が実行する復号鍵供給制御処理について説明する。
ステップS121において、ウェブページ公開処理部201は、ページ情報記憶部202に記憶されているメタデータを復号するための復号鍵の購入要求を受けるためのウェブページを、インターネット5に公開する。
ステップS122において、操作入力情報取得部204は、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどから、通信部203を介して、復号鍵を要求する操作入力を受けたか否かを判断する。ステップS122において、復号鍵を要求する操作入力を受けていないと判断された場合、処理は、ステップS121に戻り、それ以降の処理が繰り返される。
ステップS122において、復号鍵を要求する操作入力を受けたと判断された場合、操作入力情報取得部204は、復号鍵を要求する操作入力を受けたことを認証処理部207に通知するので、ステップS123において、認証処理部207は、例えば、通信部205を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに、ユーザIDの送出を要求して、ユーザ情報データベース206に登録されているユーザIDを照会することなどにより、認証処理を実行する。
ステップS124において、鍵供給処理部208は、認証処理部207から供給される認証処理の結果を基に、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどを用いて復号鍵を要求する操作入力を実行したユーザは、正しく認証されたか否かを判断する。
ステップS124において、正しく認証されたと判断された場合、ステップS125において、鍵供給処理部208は、課金処理部210を制御して、ユーザから入力された情報、もしくは、ユーザ情報データベース206または課金情報データベース211に登録されている情報を基に、決済処理を実行させる。決済処理には、例えば、クレジットカード決済、電子マネー決済などがある。課金処理部210は、一般的なこれらの決済方法を用いて、決済処理を実行する。
ステップS126において、鍵供給処理部208は、課金処理部210から供給される信号を基に、正しく決済が終了したか否かを判断する。
ステップS126において、正しく決済が終了したと判断された場合、ステップS127において、鍵供給処理部208は、操作入力情報取得部204から供給される、ユーザからの復号鍵の要求を示す信号から、要求された復号鍵に対応するメタデータの番組IDを取得する。
ステップS128において、鍵供給処理部208は、番組IDに対応する復号鍵を鍵情報データベース209から読み出し、通信部203およびインターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送出する。
ステップS129において、課金処理部210は、ユーザが選択した決済方法、金額、または、決済結果などを、課金情報データベース211に登録する。課金情報データベース211は、登録された課金情報を記憶して、処理が終了される。
ステップS124において、正しく認証されなかったと判断された場合、または、ステップS125において、正しく決済が終了しなかったと判断された場合、ステップS130において、認証処理部207または課金処理部210は、通信部203およびインターネット5を介して、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに、処理が正しく終了しなかったことをユーザに通知するためのエラーメッセージを出力して、処理が終了される。
このような処理により、メタデータを復号するための復号鍵が、ユーザにより購入されて、ユーザが保有するホームサーバ4、または、図示しないパーソナルコンピュータなどに送信される。この復号鍵は、後述する処理により、メタデータの復号に用いられる。また、この復号鍵の購入によりユーザから得られた対価のうちの少なくとも一部は、表示選択字幕データを作成した放送局1に支払われるので、表示選択字幕が付加された番組の割合が増えることが予測され、聴覚障害者がより多くの番組を楽しむことができるようになる。
次に、図17のフローチャートを参照して、図15のメタデータ供給処理、および、図16の復号鍵供給制御処理と並行して、図3を用いて説明した、ユーザが保有するホームサーバ4において実行される、メタデータ記憶処理1について説明する。
ステップS141において、図18を用いて後述するメタデータ取得処理が実行される。なお、メタデータ取得処理は、ここでは、ステップS141において実行されるものとしているが、後述するステップS149が実行される前であれば、いかなるタイミングで実行されても良い。
ステップS142において、ネットワークインターフェース73は、インターネット5において公開されている、メタデータを復号するための復号鍵の購入要求を受けつけるウェブページにアクセスして、ウェブページを表示部74に表示する。ユーザは、表示部74に表示されたウェブページを参照して、操作入力部71を用いて、メタデータの利用を希望する番組を指定するので、ネットワークインターフェース73は、操作入力部71から供給されるメタデータの利用を希望する番組を指定する情報、すなわち、番組IDで指定される、暗号化されたメタデータを復号するための復号鍵の購入を要求する信号を、インターネット5を介して、課金サーバ7に送信する。
ネットワークインターフェース73は、課金サーバ7から認証処理に必要な情報の入力を要求するウェブページに対応するデータを受信して、ウェブページを表示部74に表示させる。ユーザは、表示部74に表示された、認証処理に必要な情報の入力を要求するウェブページを参照して、操作入力部71を用いて、例えば、ユーザIDなどの、認証処理に必要な情報を入力するので、ステップS143において、ネットワークインターフェース73は、操作入力部71から供給される認証処理に必要な情報を、インターネット5を介して、課金サーバ7に送信する。
ステップS144において、ネットワークインターフェース73は、課金サーバ7から供給される信号を基に、正しく認証されたか否かを判断する。
ステップS144において、正しく認証されたと判断された場合、ネットワークインターフェース73は、課金サーバ7から決済処理に必要な情報の入力を要求するウェブページに対応するデータを受信して、ウェブページを表示部74に表示させる。ユーザは、表示部74に表示された、決済処理に必要な情報の入力を要求するウェブページを参照して、操作入力部71を用いて、決済処理に必要な情報を入力するので、ステップS145において、ネットワークインターフェース73は、例えば、決済方法の指定や、決済のための金融機関などとの契約において設定されているユーザIDやパスワードなどの、操作入力部71から供給される決済処理に必要な情報を、インターネット5を介して、課金サーバ7に送信する。
ステップS146において、ネットワークインターフェース73は、課金サーバ7から供給される信号を基に、正しく決済が終了したか否かを判断する。
ステップS146において、正しく決済が終了したと判断された場合、ステップS147において、ネットワークインターフェース73は、指定された番組IDに対応する復号鍵を、インターネット5を介して、課金サーバ7から受信し、鍵情報記憶部76に供給する。
ステップS148において、鍵情報記憶部76は、供給された復号鍵を番組IDに対応つけて記憶する。
ステップS149において、復号処理部77は、鍵情報記憶部76に記憶された復号鍵を用いて、暗号化メタデータ記憶部75に記憶されている暗号化されたメタデータを復号して、メタデータ記憶部78に供給する。
ステップS150において、メタデータ記憶部78は、復号済みのメタデータを記憶して、処理が終了される。
ステップS144において、正しく認証されなかったと判断された場合、または、ステップS147において、正しく決済が終了しなかったと判断された場合、ステップS151において、ネットワークインターフェース73は、インターネット5を介して、課金サーバ7から、処理が正しく終了されなかったことを示すエラーメッセージを受信して、表示部74に出力して表示させ、処理が終了される。
このような処理により、暗号化されたメタデータがメタデータ作成サーバ6からダウンロードされ、メタデータを復号するための復号鍵の購入のための処理が実行されて、課金サーバ7から復号鍵が取得されるので、メタデータを復号して、検索処理に利用するための復号鍵が、ホームサーバ4の内部に記憶される。
次に、図18のフローチャートを参照して、図17のステップS141において実行されるメタデータ取得処理について説明する。
ステップS161において、ネットワークインターフェース73は、インターネット5において公開されている、メタデータ要求を受けるためのウェブページにアクセスして、ウェブページを表示部74に表示する。ユーザは、表示部74に表示されたウェブページを参照して、操作入力部71を用いて、メタデータの利用を希望する番組を指定するので、ネットワークインターフェース73は、操作入力部71から供給されるユーザの操作入力によって指定された番組に対応する番組名または番組IDを、インターネット5を介して、メタデータ作成サーバ6に供給する。
ステップS162において、ネットワークインターフェース73は、インターネット5を介して、メタデータ作成サーバ6から、暗号化されたメタデータを受信したか否かを判断する。ステップS162において、メタデータを受信していないと判断された場合、処理は、ステップS161に戻り、それ以降の処理が繰り返される。
ステップS162において、メタデータを受信したと判断された場合、ステップS163において、ネットワークインターフェース73は、受信した暗号化されたメタデータを、暗号化メタデータ記憶部75に供給する。暗号化メタデータ記憶部75は、供給された暗号化メタデータを記憶して、処理が終了される。
このような処理により、暗号化されたメタデータをメタデータ作成サーバ6からダウンロードすることができる。
次に、図19のフローチャートを参照して、図3を用いて説明した、ユーザが保有するホームサーバ4において実行される検索処理について説明する。
操作入力部71は、ステップS181において、ユーザから、検索したい番組を指定する入力を受け、マッチング処理部97に供給し、ステップS182において、再生開始位置を検索するための検索キーとなるテキストデータの入力を受け、マッチング処理部97に供給する。例えば、図2を用いて説明した放送番組が録画されており、ユーザが、その「7時のニュース」のうち、興味がある部分を再生させるための検索処理を行おうとした場合、操作入力部71は、「7時のニュース」という番組を指定するための操作入力を受けるとともに、「7時のニュース」のうちの「車椅子」というテキストの入力を受け、マッチング処理部97に供給する。
ステップS183において、マッチング処理部97は、ステップS181においてユーザに指定された番組に対応する番組ID、および、ステップS182においてユーザに指定されたテキストを検索キーとして、メタデータ記憶部78に記憶されているメタデータとのマッチング処理を実行し、検索キーを含むテキストデータと、そのテキストデータに対応するタイムコードを検出して、録画データ検索出力部80に供給する。例えば、メタデータ記憶部78に、図7を用いて説明したメタデータが記憶されている場合、マッチング処理部97によって実行されるマッチング処理により、「車椅子」というテキストを含むテキスト2に対応する開始時刻「19:00:46:01」および終了時刻「19:00:56:51」が検出されるので、マッチング処理部97は、テキスト2に対応する開始時刻「19:00:46:01」および終了時刻「19:00:56:51」、並びに、テキスト2に対応する「今日の初めの話題は、車椅子に関することです」を、録画データ検索出力部80に供給する。
なお、同一番組IDにより区別される複数のテキスト群に、検索キーであるテキストデータが含まれていた場合、マッチング処理部97は、検索キーであるテキストデータに対応する複数のタイムコードおよびテキストデータを検出することができるようにしても良く、このとき、例えば、検索キーであるテキストデータが含まれていた複数のテキスト群を表示部74に表示させて、ユーザにより選択可能なようにしたり、ユーザの操作入力に基づいて、タイムコードにおいて早い時刻であるものから順番に、再生開始位置を順次変更することが可能なようにすることなどにより、複数の検出結果のうち、ユーザが所望する再生開始位置を含むテキストデータを、簡単な操作によって選択することができるようにしておくと好適である。
ステップS184において、録画データ検索出力部80は、図8を用いて説明したように、供給されたテキストデータに対応する音声データの音数(多くの場合、文字数となる)とタイムコードから、ユーザが指定した「車椅子」というテキストが発話されたと推定される時刻を検出し、検出された時刻情報、すなわち、再生開始位置の検索キーとなるテキスト「車椅子」の発話タイミングに対応する時刻より、所定の時間Δtだけ早い時刻に対応する時刻情報を算出する。
ステップS185において、録画データ検索出力部80は、算出された時刻情報を基に、録画データ記憶部72から、番組IDで指定される録画データの、検索キーとなるテキストに対応する再生開始位置と推定される時刻より、所定の時間だけ早い位置を検索して、出力端子61−1および出力端子61−2を介して、表示選択字幕データデコーダ3に出力して、処理が終了される。
このような処理により、ユーザが入力したテキストデータを含むテキスト群の開始時刻および終了時刻に対応するタイムコードが検出され、検出されたタイムコードに基づいて、検索キーとなるテキストデータに対応する録画再生の開始位置の時刻情報が算出されて、算出された時刻情報を基に、録画データが検索される。本発明を適用することにより、例えば、録画データに含まれる字幕データに対応するテキストデータを全て検索して、ユーザが入力したテキストデータに対応する録画再生の開始位置が決定される場合と比較して、簡単に、高速に、ユーザが所望する再生開始位置を検索することが可能となるばかりでなく、テキスト群の長さやテキスト群における検索キーの位置にかかわらず、検索キーに対応する映像および音声に近い位置から録画データを再生させることが可能となる。
次に、図20のフローチャートを参照して、図9および図10を用いて説明した課金サーバ7が実行する課金処理について説明する。
ステップS201において、課金処理部210は、課金情報データベース211に登録されている情報を参照して、復号鍵を購入したユーザの課金情報を生成する。具体的には、課金処理部210は、課金情報データベース211に登録されている情報を参照して、ユーザ別に、決算を行った金融機関(例えば、クレジットカード会社、電子マネーのサービス提供元など)ごとに、復号鍵の購入により発生した代金を集計して、課金情報をする。
ステップS202において、課金処理部210は、所定の金融機関などに対する課金処理を実行する。具体的には、課金処理部210は、例えば、カード会社などの金融機関が保有する、決済処理を実行する図示しない課金サーバに、インターネット5、または、所定の専用線を介してアクセスし、ステップS201において生成されたユーザの課金情報を送信する。
ステップS203において、課金処理部210は、課金情報データベース211に登録されている情報を参照して、番組ごとの表示選択字幕データに対応するメタデータを復号するための復号鍵の供給数を算出する。
ステップS204において、課金処理部210は、ステップS203の算出結果に基づいて、放送局1ごとに、提供された表示選択字幕データに対応するメタデータを復号するための復号鍵の供給数を算出する。
ステップS205において、課金処理部210は、ステップS204の算出結果に基づいて、放送局ごとの支払い金額を算出する。具体的には、課金処理部210は、ユーザから得られた復号鍵の対価から、課金サーバ7を保有するサービス提供者が得る利益(放送局1と課金サーバ7を保有するサービス提供者との契約により決められるものであり、所定の金額であっても、復号鍵の対価のうちの何割かであっても良い)を引いた金額を算出し、放送局ごとの支払い金額とする。
ステップS206において、課金処理部210は、ステップS205の処理によって算出された支払い金額を基に、それぞれの放送局へ対価を支払う処理を実行し、処理が終了される。具体的には、課金処理部210は、放送局1により指定された金融機関(例えば、銀行など)が保有する実行する図示しない課金サーバに、インターネット5、または、所定の専用線を介してアクセスし、ステップS205において算出された支払い金額を、指定された口座に振り込むために必要な情報を送信する。
このような処理により、メタデータの復号に用いられる復号鍵の配布に対する対価の課金処理を行うことができる。また、この復号鍵の購入によりユーザから得られた対価のうちの少なくとも一部は、表示選択字幕データを作成した放送局1に支払われるので、表示選択字幕が付加された番組の割合が増えることが予測され、聴覚障害者がより多くの番組を楽しむことができるようになる。
以上説明した処理により、表示選択字幕データを用いて、ユーザにより入力されたテキストデータを用いて、録画データから、ユーザが所望する情報を精度良く検索すること、すなわち、ユーザが検索キーとして入力したテキストに対応する音声が発話された時刻に近い時刻から、録画データの再生を開始させることが可能となる。また、検索処理に利用されるメタデータを復号するための復号鍵を課金サーバ7により有料でユーザに配布するようにすることにより、放送局に対して、表示選択字幕データの作成に対する対価を支払うようにすることができるので、産業の発展に貢献可能であるのみならず、字幕データが放送信号に添付される割合を向上することにつながり、聴覚障害者にとっても非常に有益となる。
なお、ここでは、メタデータは、メタデータ作成サーバ6によって作成され、インターネット5を介して、ユーザが保有するホームサーバ4に供給されるものとして説明したが、メタデータは、メタデータ作成サーバ6サーバで作成されなくても、例えば、ホームサーバ4や、表示選択字幕デコーダ3をはじめとする、いずれかの装置において作成されるものとしてもよく、ホームサーバ4がメタデータを取得することが可能であれば、本発明を適用することが可能であることはいうまでもない。また、ホームサーバ4が取得するメタデータが復号されていないものである場合にも、本発明は適用可能であり、そのようなとき、ホームサーバ4は、メタデータを復号するための復号鍵を取得し、復号処理を実行する機能を省略することが可能である。
上述した一連の処理は、ソフトウェアにより実行することもできる。そのソフトウェアは、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
この記録媒体は、図5または図7に示すように、コンピュータとは別に、ユーザにプログラムを提供するために配布される、プログラムが記録されている磁気ディスク121(フレキシブルディスクを含む)、光ディスク122(CD-ROM(Compact Disk-Read Only Memory),DVD(Digital Versatile Disk)を含む)、光磁気ディスク123(MD(Mini-Disk)(商標)を含む)、もしくは半導体メモリ124などよりなるパッケージメディアなどにより構成される。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
なお、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
また、複数の装置により構成されるシステムの一部、または、全部が実行する処理が、同一の情報処理装置の処理によって実現される場合であっても、本発明は適用可能であることは言うまでもない。
本発明を適用した情報処理システムの構成について説明するための図である。 図1の放送局から放送される放送信号について説明するための図である。 図1の表示選択字幕デコーダおよびホームサーバについて説明するためのブロック図である。 図3の表示選択字幕デコーダによって生成される録画データについて説明するための図である。 図1のメタデータ作成サーバの構成について説明するためのブロック図である。 図5のメタデータ作成サーバが実行する処理について説明するための機能ブロック図である。 メタデータ作成サーバにより作成されるメタデータについて説明するためのブロック図である。 検索のキーとなるテキストの開始点を検出する方法について説明するための図である。 図1の課金サーバの構成について説明するためのブロック図である。 図9の課金サーバが実行する処理について説明するための機能ブロック図である。 表示選択字幕デコーダの処理1について説明するためのフローチャートである。 録画データ作成処理1について説明するためのフローチャートである。 メタデータ作成処理1について説明するためのフローチャートである。 ユーザ登録処理について説明するためのフローチャートである。 メタデータ供給処理について説明するためのフローチャートである。 復号鍵供給制御処理について説明するためのフローチャートである。 メタデータ記憶処理1について説明するためのフローチャートである。 メタデータ取得処理について説明するためのフローチャートである。 検索処理について説明するためのフローチャートである。 課金処理について説明するためのフローチャートである。
符号の説明
1 放送局
2 テレビジョン受像機
3 表示選択字幕デコーダ
4 ホームサーバ
5 インターネット
6 メタデータ作成サーバ
7 課金サーバ
15 映像データ
16 音声データ
17 表示選択字幕データ
21 入力端子
33 出力信号生成部
35 表示選択字幕データデコーダ
36 OSD
37 合成処理部
39 番組ID情報抽出部
40 タイマ
41 操作入力部
71 操作入力部
72 録画データ記憶部
73 ネットワークインターフェース
77 復号処理部
78 メタデータ記憶部
79 マッチング処理部
80 録画データ検出出力部
95 録画開始時刻情報
141 放送データ取得部
143 番組ID情報抽出部
144 メタデータ生成部
145 表示選択字幕データデコーダ
147 タイムコード付加処理部
149 暗号化処理部
152 メタデータ供給制御部
161 メタデータ
165 テキストデータ
166 タイムコード
167 番組ID
204 操作入力情報取得部
205 ユーザ情報登録処理部
206 ユーザ情報データベース
207 認証処理部
208 鍵供給処理部
210 課金処理部
211 課金情報データベース

Claims (6)

  1. テキスト情報を検索キーとして、録画データを検索する情報処理装置において、
    第1の時刻情報が付加された前記録画データの記憶を制御する録画データ記憶制御手段と、
    前記録画データの番組を区別するための区別情報、前記録画データに関するテキストデータ、および、前記テキストデータに対応する第2の時刻情報を含むメタデータを記憶するメタデータ記憶手段と、
    ユーザの操作入力を受ける操作入力手段と、
    前記操作入力手段により前記ユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、前記メタデータ記憶手段により記憶された前記メタデータとのマッチング処理を実行して、検索キーとなる前記テキスト情報に対応する前記第2の時刻情報および前記テキストデータを検出するマッチング処理手段と、
    前記録画データ記憶制御手段により記憶が制御されている前記録画データから、前記マッチング処理手段により検出された前記第2の時刻情報に対応する記録位置を検索し、検索された前記テキストデータのうち、検索キーとなる前記テキスト情報と一致するテキストの位置を検出して、検出結果に基づいて前記録画データを検索して読み出す検索手段と
    を備えることを特徴とする情報処理装置。
  2. 前記検索手段は、検索キーとなる前記テキスト情報と一致するテキストの位置より所定時間だけ前の時刻を、前記録画データの読み出しの開始位置として検索する
    ことを特徴とする請求項1に記載の情報処理装置。
  3. 暗号化された前記メタデータを取得するメタデータ取得手段と、
    暗号化された前記メタデータを復号するために用いられる鍵情報を取得する鍵情報取得手段と、
    前記メタデータ取得手段により取得された暗号化された前記メタデータを、前記鍵情報取得手段により取得された前記鍵情報を用いて復号する復号処理手段と
    を更に備え、
    前記メタデータ記憶手段により記憶される前記メタデータは、前記復号処理手段により復号された前記メタデータである
    ことを特徴とする請求項1に記載の情報処理装置。
  4. メタデータを利用して、第1の時刻情報が付加された録画データを検索する情報処理装置の情報処理方法において、
    前記録画データの番組を区別するための区別情報、前記録画データに関するテキストデータ、および、前記テキストデータに対応する第2の時刻情報を含む前記メタデータの記憶を制御するメタデータ記憶制御ステップと、
    検索を実行する番組を指定する情報および検索キーとなるテキスト情報の入力を制御する入力制御ステップと、
    前記入力制御ステップの処理により入力が制御された前記番組を指定する情報および前記テキスト情報と、前記メタデータとのマッチング処理を実行して、前記テキスト情報に対応する前記第2の時刻情報と、前記テキスト情報を含む前記テキストデータを検出する検出ステップと、
    前記検出ステップの処理により検出された前記テキストデータのうち、前記テキスト情報の位置を算出する算出ステップと、
    前記検出ステップの処理により検出された前記第2の時刻情報に対応する記録位置を検索し、検索された記録位置、および、前記算出ステップの処理により算出された前記テキストデータのうちの前記テキスト情報の位置を基に、前記録画データを検索して読み出す読み出しステップと
    を含むことを特徴とする情報処理方法。
  5. メタデータを利用して、第1の時刻情報が付加された録画データを検索する処理をコンピュータに実行させるためのプログラムであって、
    前記録画データの番組を区別するための区別情報、前記録画データに関するテキストデータ、および、前記テキストデータに対応する第2の時刻情報を含む前記メタデータの記憶を制御するメタデータ記憶制御ステップと、
    検索を実行する番組を指定する情報および検索キーとなるテキスト情報の入力を制御する入力制御ステップと、
    前記入力制御ステップの処理により入力が制御された前記番組を指定する情報および前記テキスト情報と、前記メタデータとのマッチング処理を実行して、前記テキスト情報に対応する前記第2の時刻情報と、前記テキスト情報を含む前記テキストデータを検出する検出ステップと、
    前記検出ステップの処理により検出された前記テキストデータのうち、前記テキスト情報の位置を算出する算出ステップと、
    前記検出ステップの処理により検出された前記第2の時刻情報に対応する記録位置を検索し、検索された記録位置、および、前記算出ステップの処理により算出された前記テキストデータのうちの前記テキスト情報の位置を基に、前記録画データを検索して読み出す読み出しステップと
    を含むことを特徴とする処理をコンピュータに実行させるためのプログラム。
  6. 放送信号を取得して処理する第1の情報処理装置と、
    テキスト情報を検索キーとして、録画データを検索する第2の情報処理装置と、
    前記第2の情報処理装置で実行される検索処理に利用されるメタデータを生成する第3の情報処理装置と、
    前記第2の情報処理装置で実行される検索処理に利用される前記メタデータを復号する復号鍵を供給する第4の情報処理装置と
    によって構成される情報処理システムにおいて、
    前記第1の情報処理装置は、
    前記放送信号を取得する第1の放送信号取得手段と、
    前記第1の放送信号取得手段により取得された前記放送信号から、前記放送信号の番組を固有に区別可能な区別情報を取得する第1の区別情報取得手段と、
    前記第1の放送信号取得手段により取得された前記放送信号に、第1の時刻情報と、前記第1の区別情報取得手段により取得された前記区別情報とを付加して前記録画データを生成する情報付加手段と
    を備え、
    前記第2の情報処理装置は、
    前記第1の時刻情報と前記区別情報とが付加された前記録画データの記憶を制御する録画データ記憶制御手段と、
    暗号化された前記メタデータを取得するメタデータ取得手段と、
    暗号化された前記メタデータを復号するために用いられる前記復号鍵を取得する復号鍵取得手段と、
    前記メタデータ取得手段により取得された暗号化された前記メタデータを、前記復号鍵取得手段により取得された前記復号鍵を用いて復号する復号処理手段と、
    前記復号処理手段により復号された、前記録画データの番組を区別するための前記区別情報、前記録画データに関するテキストデータ、および、前記テキストデータに対応する第2の時刻情報を含む前記メタデータを記憶するメタデータ記憶手段と、
    ユーザの操作入力を受ける操作入力手段と、
    前記操作入力手段により前記ユーザから入力された、検索を実行する番組を指定する情報および検索キーとなるテキスト情報と、前記メタデータ記憶手段により記憶された前記メタデータとのマッチング処理を実行して、検索キーとなる前記テキスト情報に対応する前記第2の時刻情報および前記テキストデータを検出するマッチング処理手段と、
    前記録画データ記憶制御手段により記憶が制御されている前記録画データから、前記マッチング処理手段により検出された前記第2の時刻情報に対応する記録位置を検索し、検索された前記テキストデータのうち、検索キーとなる前記テキスト情報と一致するテキストの位置を検出して、検出結果に基づいて前記録画データを検索して読み出す検索手段と
    を備え、
    前記第3の情報処理装置は、
    前記放送信号を取得する第2の放送信号取得手段と、
    前記第2の放送信号取得手段により取得された前記放送信号から、前記放送信号の番組を固有に区別可能な前記区別情報を取得する第2の区別情報取得手段と、
    前記第2の放送信号取得手段により取得された前記放送信号から、ユーザにより表示するか否かを選択することが可能な字幕データを抽出してデコードする字幕データデコード手段と、
    前記字幕データデコード手段によりデコードされた前記字幕データに対応するテキストデータにタイムコードを付加するタイムコード付加手段と、
    前記タイムコード付加手段により前記タイムコードが付加された前記テキストデータに、前記区別情報取得手段により取得された前記区別情報を付加して、前記メタデータを生成するメタデータ生成手段と、
    前記メタデータ生成手段により生成された前記メタデータを暗号化する暗号化手段と
    を備え、
    前記第4の情報処理装置は、
    前記第2の情報処理装置から、前記ユーザの認証に関する情報を取得する認証情報取得手段と、
    前記ユーザの登録情報の記憶を制御する登録情報記憶制御手段と、
    前記認証情報取得手段により取得された前記ユーザの認証に関する情報、および、前記登録情報記憶制御手段により記憶が制御されている前記ユーザの登録情報を基に、認証処理を実行する認証処理手段と、
    前記認証処理手段により前記ユーザが正しく認証された場合、前記第2の情報処理装置への、前記メタデータを復号する前記復号鍵の供給を制御する復号鍵供給制御手段と
    を備えることを特徴とする情報処理システム。
JP2004037040A 2004-02-13 2004-02-13 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム Expired - Fee Related JP3884017B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004037040A JP3884017B2 (ja) 2004-02-13 2004-02-13 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004037040A JP3884017B2 (ja) 2004-02-13 2004-02-13 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム

Publications (3)

Publication Number Publication Date
JP2005229414A true JP2005229414A (ja) 2005-08-25
JP2005229414A5 JP2005229414A5 (ja) 2006-06-01
JP3884017B2 JP3884017B2 (ja) 2007-02-21

Family

ID=35003780

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004037040A Expired - Fee Related JP3884017B2 (ja) 2004-02-13 2004-02-13 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム

Country Status (1)

Country Link
JP (1) JP3884017B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007101945A (ja) * 2005-10-05 2007-04-19 Fujifilm Corp 音声付き映像データ処理装置、音声付き映像データ処理方法及び音声付き映像データ処理用プログラム
JP2008078876A (ja) * 2006-09-20 2008-04-03 Hitachi Ltd 番組録画再生装置、番組再生位置制御方法及び番組情報提供装置
JP2017204695A (ja) * 2016-05-10 2017-11-16 日本放送協会 字幕データ生成装置、コンテンツ表示装置、およびプログラム
JP2020086003A (ja) * 2018-11-19 2020-06-04 トヨタ自動車株式会社 情報処理装置、情報処理方法およびプログラム
CN112380387A (zh) * 2020-10-23 2021-02-19 岭东核电有限公司 复盘试验视频确定方法、装置、电子设备和存储介质

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007101945A (ja) * 2005-10-05 2007-04-19 Fujifilm Corp 音声付き映像データ処理装置、音声付き映像データ処理方法及び音声付き映像データ処理用プログラム
JP2008078876A (ja) * 2006-09-20 2008-04-03 Hitachi Ltd 番組録画再生装置、番組再生位置制御方法及び番組情報提供装置
JP4668875B2 (ja) * 2006-09-20 2011-04-13 株式会社日立製作所 番組録画再生装置、番組再生位置制御方法及び番組情報提供装置
JP2017204695A (ja) * 2016-05-10 2017-11-16 日本放送協会 字幕データ生成装置、コンテンツ表示装置、およびプログラム
JP2020086003A (ja) * 2018-11-19 2020-06-04 トヨタ自動車株式会社 情報処理装置、情報処理方法およびプログラム
JP7119939B2 (ja) 2018-11-19 2022-08-17 トヨタ自動車株式会社 情報処理装置、情報処理方法およびプログラム
US11837218B2 (en) 2018-11-19 2023-12-05 Toyota Jidosha Kabushiki Kaisha Information processing device, information processing method, and program for generating synthesized audio content from text when audio content is not reproducible
CN112380387A (zh) * 2020-10-23 2021-02-19 岭东核电有限公司 复盘试验视频确定方法、装置、电子设备和存储介质
CN112380387B (zh) * 2020-10-23 2024-04-30 岭东核电有限公司 复盘试验视频确定方法、装置、电子设备和存储介质

Also Published As

Publication number Publication date
JP3884017B2 (ja) 2007-02-21

Similar Documents

Publication Publication Date Title
US8185477B2 (en) Systems and methods for providing a license for media content over a network
KR101706832B1 (ko) 부가 서비스 수신 방법 및 그를 이용한 영상 표시 장치
US7739413B2 (en) Content distribution system, distribution method, content processing device, and processing method
US20090018898A1 (en) Method or apparatus for purchasing one or more media based on a recommendation
US20050240530A1 (en) Content distribution system, playback apparatus, content server, usage rule server, accounting server, playback method, content transmission method, usage rule transmission method, accounting method, program, and storage medium
JP2007235586A (ja) 広告視聴確認システム、放送受信端末、広告視聴確認端末、広告視聴確認方法およびプログラム
EP2773108B1 (en) Reception device, reception method, program, and information processing system
JP4296157B2 (ja) 情報処理装置、携帯機器、情報処理方法、およびプログラム
JP2010219875A (ja) コンテンツ配信装置、コンテンツ配信方法、視聴者端末およびコンテンツ再生方法
KR100927352B1 (ko) 조건부 액세스를 제공하는 방법 및 장치
US20100169942A1 (en) Systems, methods, and apparatus for tagging segments of media content
JP3884016B2 (ja) 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム
JP2005303742A (ja) 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム
JP2002109102A (ja) データ送受信システム、受信システム、著作権管理サーバ、データ課金方法及びデータ利用方法
JP3884017B2 (ja) 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム
EP2621180A2 (en) Electronic device and audio output method
JP2005303743A (ja) 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム
EP2323391A2 (en) Content broadcast and reception
JP3884015B2 (ja) 情報処理システム
JP3833670B2 (ja) 情報処理装置および情報処理方法、プログラム、並びに、情報処理システム
US20100169347A1 (en) Systems and methods for communicating segments of media content
JP2000184338A (ja) ディジタル放送送信装置及びディジタル放送受信装置
JP3842950B2 (ja) デジタル放送信号の受信端末
JP2007174246A (ja) 映像情報処理方法、映像情報処理プログラム及び映像情報処理装置
JP2011151688A (ja) 録画装置及び録画方法

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20050623

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050623

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060407

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060407

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20060407

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20060512

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060828

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20061107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061115

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 3884017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101124

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101124

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111124

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111124

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121124

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121124

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131124

Year of fee payment: 7

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees