以下、第1〜第5の目的に対応した第1〜第5の実施の形態について説明する。なお、第1〜第5の実施の形態に係る各々の発明により、放送情報又は記録情報の視聴者がネットワークに接続されたサーバ等から放送情報又は記録情報に関連した情報又はコンテンツを容易に取得することができるようになり、本発明の目的が達成される。次に、各実施の形態の概要について説明する。
第1の実施の形態では、放送局から配信される放送を視聴する放送受信装置と、放送に関連した関連情報を得る装置とが一体となった視聴者装置が、関連情報とその関連情報に対応したコンテンツを提供する関連情報コンテンツ提供サーバにサービスを要求することにより、関連情報の取得等を行う。また、イベント情報を視聴者装置が取得し、そのイベント情報に基づき視聴者装置がサービスを要求する。
第2の実施の形態では、上記関連情報コンテンツ提供サーバが提供する関連情報に相当する情報(URL等)を含む放送情報を、放送局から視聴者装置に送るようにする。当該情報は被写体単位でフレーム毎に付加され、視聴者が興味を持った被写体をポインティング等することにより関連情報を取得する。また、視聴者のポインティングに基づき、興味情報を取得し、視聴者の興味に合ったコンテンツを自動的に取得する。これにより、第1の実施例と同様、放送情報等に関連した情報を容易に取得できるようになる。
第3〜第5の実施の形態に関しては、基本的な構成については第1の実施の形態と同様であり、放送情報等に関連した情報を容易に取得できるようにすることを目的とするが、関連情報を取得するための構成に違いがある。
すなわち、第3の実施の形態では、関連情報提供サーバが視聴者装置に、放送内容に関連したアクションテーブルを提供し、放送を視聴する視聴者がそのアクションテーブルに示されたイベントを発生させることにより、そのイベントに対応したアクションが実行され、関連情報の取得等を行う。
第4の実施の形態では、視聴者装置が部分放送情報を関連情報提供サーバに送信し、関連情報提供サーバがその部分放送情報に基づき放送に関連する関連情報を視聴者装置に送信する。
第5の実施の形態では、放送の中の音声にフレームID等が重畳され、視聴者装置で当該フレームID等を抽出し、当該フレームID等を用いて関連情報コンテンツ提供サーバに関連情報を要求する。
また、上記の各実施の形態において、視聴者プロファイル等の視聴者情報や端末情報に関連した関連情報を視聴者装置が取得することが可能である。更に、各実施の形態において、放送局からの放送情報を受信しながら関連情報を取得するのみならず、例えば図18に示すように、放送情報を蓄積した放送情報蓄積サーバから、例えばインターネット等のネットワークを介して放送情報を受信しながら、その放送情報に関連する関連情報を視聴者装置が取得することが可能である。
以下、各実施の形態について詳細に説明する。
[第1の実施の形態]
以下、第1の目的に対応する第1の実施の形態について詳細に説明する。
図1は、本発明の第1の実施の形態の基本的な構成例を示す図である。図中、1001は放送を視聴する視聴者の視聴者装置、1002は放送に関連する情報とその情報に対応するコンテンツを提供する提供者の関連情報コンテンツ提供サーバ、1003は一方向から一方的に放送コンテンツを送信する放送局、1004はイベント情報を提供するイベント情報提供サーバを表す。
視聴者装置1001の提供可能サービス要求手段1011は、視聴者が放送局1003からの放送を視聴しているとき、視聴者からの指示によって、関連情報コンテンツ提供サーバ1002に対し、サービス提供を要求する際に必要な視聴者情報や端末情報、又は視聴者装置1001のIDを送信して放送コンテンツに関連する提供可能なサービスの情報を要求する。
関連情報コンテンツ提供サーバ1002の提供可能サービス選別手段1021は、視聴者装置1001から受信した提供可能なサービスの情報の要求に対し、視聴者装置1001の情報をもとに提供可能なサービスを選別する。提供可能サービス情報送信手段1022は、選別した提供可能なサービスの情報を視聴者装置1001へ送信する。
視聴者装置1001の提供可能サービス情報可視化表示手段1012は、関連情報コンテンツ提供サーバ1002から受信した提供可能なサービスの情報をアイコン化して表示し、サービス選択・要求手段1013は、アイコンの一つがポインティングデバイスによって選択されると、そのアイコンが示すサービスを関連情報コンテンツ提供サーバ1002へ要求する。
関連情報コンテンツ提供サーバ1002のサービス要求受信手段1023は、そのサービス要求を受信すると、アクセス系状態検出手段1024を起動する。アクセス系状態検出手段1024は、関連情報コンテンツ提供サーバ1002から視聴者装置1001へ予め定めた量の情報パケットを流し、視聴者装置1001から返ってくるまでの時間を測定することにより、関連情報コンテンツ提供サーバ1002と視聴者装置1001間のアクセス系の状態を推定する。
サービスコンテンツ最適化手段1025は、視聴者装置1001の情報とアクセス系の状態をもとに視聴者装置1001へ送信するサービスに係るコンテンツの画面サイズ、解像度等を変換して最適化する。サービス提供手段1026は、最適化したコンテンツを視聴者装置1001へ送り、要求されたサービスを提供する。
視聴者装置1001のサービス利用手段1014は、関連情報コンテンツ提供サーバ1002が提供するサービスのコンテンツを受信し、そのコンテンツを蓄積、表示、出力する等して、要求したサービスの利用を図る。
図2は、図1に示す本発明の機能を実現するためのシステムの構成図である。
視聴者装置1001と関連情報コンテンツ提供サーバ1002とは、ネットワーク1005を介して接続される。視聴者装置1001は、入力部1110、表示部1120、制御部1130、処理部1140、センサー部1150、蓄積・管理部1160、通信部1170を備える。また、関連情報コンテンツ提供サーバ1002は、入力部1210、表示部1220、制御部1230、処理部1240、蓄積・管理部1250、通信部1260を備える。
図3は、視聴者装置1001の構成例を示す図である。視聴者装置1001の入力部1110は、操作入力手段1111、音声入力手段1112、画像・映像入力手段1113、アイコン操作入力手段1114、設定操作入力手段1115、コンテンツ操作手段1116からなる。表示部1120は、受信情報可視化手段1121、サービス情報表示手段1122、イベント情報表示手段1123、設定画面表示手段1124、コンテンツ表示手段1125からなる。
処理部1140は、音声情報認識手段1141、画像・映像認識手段1142、配信イベント情報条件マッチ判断手段1143、アイコン操作手段1144からなる。蓄積・管理部1160は、視聴者情報蓄積・管理手段1161、端末情報蓄積・管理手段1162からなる。センサー部1150は、ユーザ環境感知手段1151からなる。通信部1170は、情報送信手段1171、情報受信手段1172、イベント情報受信手段1173からなる。また、視聴者装置1001は、メモリー部1180を持ち、メモリー部1180には、情報一時格納手段1181が設けられている。
図4は、関連情報コンテンツ提供サーバ1002の構成例を示す。関連情報コンテンツ提供サーバ1002の入力部1210は、情報入力手段1211からなり、表示部1220は、情報表示手段1221からなる。処理部1240は、提供可能サービス選別手段1241、コンテンツ間リンク手段1242、コンテンツ変換手段1243、アクセス系状態検出手段1244からなる。蓄積・管理部1250は、視聴者情報蓄積・管理手段1251、端末情報蓄積・管理手段1252、視聴者環境情報蓄積・管理手段1253、コンテンツイベント情報蓄積・管理手段1254、放送情報蓄積・管理手段1255、コンテンツ蓄積・管理手段1256からなる。通信部1260は、情報受信手段1261、放送情報受信手段1262、情報送信手段1263からなる。また、関連情報コンテンツ提供サーバ1002は、メモリー部1270を持ち、メモリー部1270には、情報一時格納手段1271が設けられている。
図5は、視聴者装置1001と関連情報コンテンツ提供サーバ1002間の情報の流れを示す。以下、図5に従って図2〜図4に示す装置の動作について詳細に説明する。なお、番組情報等の放送情報は、事前に放送業者から関連情報コンテンツ提供サーバ1002へ送られ、イベント情報は、イベント情報提供者から事前に又は放送時に視聴者装置1001へ送られる。
(1)サービス提供要求入力
まず、視聴者装置1001において、視聴者が一方向に配信された放送コンテンツを視聴していて、放送されているコンテンツに関連する関連コンテンツに関するサービスを受けたいと思った時、その要求を入力部1110で入力する。この視聴者の要求を入力する手段として、ボタン等による操作入力手段1111、マイク等による音声入力手段1112、カメラ等により撮影したジェスチャー等の画像・映像入力手段1113がある。
操作入力手段1111で入力された情報(オン/オフ情報)は、制御部1130を介してメモリー部1180に格納される。音声入力手段1112により入力された音声情報、及び画像・映像入力手段1113により入力された画像・映像情報は、制御部1130を経由して、それぞれ処理部1140の音声情報認識手段1141、画像・映像認識手段1142に送られる。これらによって、視聴者が要求を入力したことを認識し、結果(オン/オフ情報)を制御部1130を介してメモリー部1180に格納する。
(2)サービス提供要求情報
制御部1130では、メモリー部1180に要求入力情報が格納された場合、蓄積・管理部1160の視聴者情報蓄積・管理手段1161で蓄積、管理されている視聴者情報(視聴者プロファイル)を蓄積・管理部1160へ要求し、取得した視聴者情報をメモリー部1180に格納する。同様に、蓄積・管理部1160の端末情報蓄積・管理手段1162で蓄積、管理されている端末情報(メーカ名、型番、スペック等)を蓄積・管理部1160へ要求し、取得した端末情報をメモリー部1180に格納する。
また、制御部1130は、センサー部1150のユーザ環境感知手段1151で感知されている視聴者環境情報をセンサー部1150へ要求し、取得した視聴者環境情報をメモリー部1180に格納する。
上記の視聴者情報とは、視聴者に関する情報であり、例えば、名前、性別、年齢、職業、住所、郵便番号、家族構成、住居に関する情報(マンション、一戸建て、等)、趣味、興味を有する情報ジャンル(政治、経済、ニュース、コンピュータ、書籍、スポーツ、旅行、等)、年収、各種サービスの会員であるか否かという情報及び会員番号あるいはクレジットカードID、各種資格(運転免許、等)保有の有無、体形に関する情報(体重、身長、衣類のサイズ等)、能力に関する情報(視力、聴力、等)、等のいずれか複数を含むものである。
端末情報とは、視聴者装置の表示装置の解像度、表示可能色数、WWW情報閲覧手段の性能(Java機能利用可否、映像音声コンテンツ再生機能の有無、映像音声コンテンツで再生できる符号化フォーマット情報、等)等の情報である。
また、視聴者環境情報は、視聴者が一方向に配信された放送コンテンツを視聴している時の環境状態、視聴者状態を表す情報であり、視聴している時の環境状態の情報とは、どこで視聴しているか(GPS〔Global Positioning System〕等で得られる場所情報)、いつ視聴しているか(装置内タイマーやGPS等で得られる時間情報)、何を視聴しているか(テレビ操作リモコン等の赤外線通信をモニターすることで得られる放送チャンネルや番組等の情報)等の情報である。
視聴者状態を表す情報は、視聴者の視聴姿勢(座っているのか、立っているのか等)や、視聴時の精神状態(ドキドキしているのか、冷静か、楽しい、悲しい等)の情報である。視聴姿勢は、端末の床からの高さ情報から判断できる。また、精神状態は、心拍数、発汗の様子、動き情報から判断できる。高さ情報、心拍数、発汗の様子、動き情報等は、センサーで感知可能な情報である。視聴者情報、端末情報、視聴者環境情報に関して必ずしもすべての情報が揃わなくてもよいとする。
視聴者情報に関しては、既に情報が関連情報コンテンツ提供サーバ1002へ送られていて、関連情報コンテンツ提供サーバ1002の蓄積・管理部1250の視聴者情報蓄積・管理手段1251で蓄積、管理されている場合、関連情報コンテンツ提供サーバ1002側で視聴者情報を特定できる情報としてもよい。この情報は、事前に関連情報コンテンツ提供サーバ1002に視聴者プロファイルを登録し、関連情報コンテンツ提供サーバ1002から払い出されたID(識別子)等である。
すなわち、視聴者装置が提供可能サービスを要求するときの視聴者装置の情報等は、予め関連情報コンテンツ提供サーバ1002に登録しておき、視聴者装置のIDのみを送る構成でもよいし、すべての情報を要求時に毎回送る構成でもよい。
制御部1130を介してメモリー部1180に格納された視聴者情報、端末情報、視聴者環境情報は、サービス提供要求情報として通信部1170の情報送信手段1171で関連情報コンテンツ提供サーバ1002へ送信される。制御部1130は、送信と同時に送信したことの情報を表示部1120へ送り、その情報を可視化する手段で表示することで、視聴者の入力操作(アクション)に対するリアクションを示す。
(3)提供可能サービスの選別
関連情報コンテンツ提供サーバ1002は、視聴者装置1001から送信された視聴者情報、端末情報、視聴者環境情報を、通信部1260の情報受信手段1261で受け取り、制御部1230を介してメモリー部1270に格納し、同時に視聴者情報を蓄積・管理部1250の視聴者情報蓄積・管理手段1251で蓄積、管理する。同様に端末情報を端末情報蓄積・管理手段1252で、視聴者環境情報を視聴者環境情報蓄積・管理手段1253でそれぞれ蓄積、管理する。
制御部1230は、蓄積・管理部1250に要求を出し、コンテンツイベント情報蓄積・管理手段1254で管理されているイベント情報をメモリー部1270に格納する。同様に放送情報蓄積・管理手段1255で管理されている放送情報をメモリー部1270に格納する。一方向に配信された放送コンテンツ(映像、音声、データの少なくともどれか一つ)の関連コンテンツは、コンテンツ蓄積・管理手段1256で蓄積、管理されている。
イベント情報は、個々の関連コンテンツを特定するための情報(コンテンツID等)、関連コンテンツに関するサービスの種類情報、放送コンテンツとのリンク情報、コンテンツセキュリティー情報等である。放送情報は、コンテンツの放送スケジュール情報、放送コンテンツに関するイベント情報である。この情報を取得する方法として、放送業者から提供されたものを直接受信する方法と、放送コンテンツに埋め込んである場合に放送コンテンツから抽出する方法とがある。
放送コンテンツ(映像、音声、データの少なくともどれか一つ)に放送情報を埋め込んである場合、放送情報受信手段1262により受け取り、制御部1230を経由して蓄積・管理部1250へ送り、放送情報蓄積・管理手段1255によってライブに管理される。放送情報が放送コンテンツ(映像、音声、データの少なくともどれか一つ)に埋め込まれていない場合、放送の内容と蓄積・管理部1250で蓄積、管理している関連コンテンツとのリンク付けを行う。そのため、放送情報受信手段1262により放送コンテンツ(映像、音声、データの少なくともどれか一つ)そのものを受け取り、制御部1230を介して、処理部1240へ送る。
処理部1240では、コンテンツ間リンク手段1242で自動又は半自動的に放送コンテンツと関連コンテンツのリンク付けを行い、放送情報に相当する情報を算出し、制御部1230を介して、蓄積・管理部1250へ送る。これにより、放送情報蓄積・管理手段1255によって管理される。
コンテンツ間リンク手段1242は、画像・映像認識技術、音声認識技術を用いて、物理量の距離を用いたリンクから意味量の距離を用いたリンクまで段階的に行う方法を用いる。メモリー部1270に格納した視聴者情報、端末情報、視聴者環境情報、コンテンツイベント情報、放送情報を処理部1240に転送する。転送された情報に基づき処理部1240の提供可能サービス選別手段1241で視聴者に適応した提供可能サービスの選択を行う。
図6に、イベント情報、放送情報とサービスの関連を表す概念図を示す。例えば、コンテンツAに対しては、視聴者情報、端末情報、視聴者環境情報に応じて、サービスA、D、F、Iの中からの選別が行われ、コンテンツBに対しては、サービスA、C、Fの中からの選別が行われる。提供可能なサービスは、同じコンテンツであっても、放送時間によって違ってくることがある。
受信した視聴者情報、端末情報、視聴者環境情報に応じて、どのようにサービスと関連コンテンツが選択されるかをその手順に沿って説明する。図7に、その手順を示す。視聴者情報、端末情報、視聴者環境情報を入力すると、まずステップS1では、視聴者環境情報に含まれる放送時間、放送局情報で放送コンテンツ(映像、音声、データの少なくともどれか一つ)に関連付けられている関連コンテンツを、放送情報に基づき検索する。関連コンテンツが検索されなかった場合、提供できる関連コンテンツもサービスもないという情報を戻して、選別処理は終了する。
関連コンテンツが検索された場合、ステップS2へ進み、視聴者情報、視聴者環境情報に基づき視聴者に提供できるコンテンツかどうかを判断する。ここでの判断では、例えば、視聴者が未成年であった場合や地域限定であった場合、検索された関連コンテンツに年齢制限の規定はあるのかどうかを見て提供できるかどうかを判断する。また、視聴者が台所等の場所にいて関連コンテンツの提供を希望する場合、検索された関連コンテンツに視聴者の場所に応じた制限やお勧めがあるのかどうかを判断する。提供可能なコンテンツがないと判断された場合、提供できる関連コンテンツもサービスもないという情報を戻して、選別処理は終了する。
提供可能なコンテンツと判断された関連コンテンツがあった場合、ステップS3へ進み、コンテンツイベント情報に基づき関連コンテンツにリンクされたサービスを検索する。サービスが検索されなかった場合、提供できる関連コンテンツもサービスもないという情報を戻して、選別処理は終了する。
サービスが検索された場合、ステップS4へ進み、端末情報に基づき提供可能なサービスかどうかを判断する。端末のスペックによっては、受けられないサービスもあるための判断である。提供可能なサービスと判断された場合、その関連コンテンツとサービスに関する情報を戻して、選別処理は終了する。
(4)提供可能サービス情報
制御部1230を介して、選択された関連コンテンツとサービスに関する情報をメモリー部1270に格納する。関連コンテンツとサービスに関する情報とは、関連コンテンツ、サービスの名前、関連コンテンツの存在場所、サービスに必要なツールの存在場所、使用期限、関連コンテンツとサービスを表すアイコン等の情報である。メモリー部1270に格納された情報は、提供可能サービス情報として、通信部1260の情報送信手段1263で視聴者装置1001へ送信される。
(5)提供可能サービスの表示
視聴者装置1001では、関連情報コンテンツ提供サーバ1002から送信された情報が、制御部1130を介してメモリー部1180に格納されると共に、表示部1120へ送られる。送られてきた情報は、サービス情報表示手段1122によって可視化される。この表示の例を図8に示す。図8において、1050は番組オブジェクト、1051は番組アイコン画像、1052はサービスアイコン画像、1053はサービスオブジェクト、1054はアプリケーションアイコン、1055はお知らせ設定等の条件設定画面、1056はゴミ箱のアイコンである。なお、アプリケーションアイコン1054、条件設定画面1055については後述する。
送られてきたアイコン情報には、番組オブジェクト1050のような放送コンテンツに関するものと、サービスオブジェクト1053のようなサービスに関するものからなる。これらは予め定めた大きさの画像アイコンとしてそれぞれ表示(番組アイコン画像1051、サービスアイコン画像1052)される。番組アイコンは、サービスアイコンを子供にもつ構造であり、サービスアイコンの持つ機能として、アイコン情報以外の情報を手がかりにサービスツールを起動する機能がある。サービスとして、例えばコンテンツの購入、コンテンツの視聴、コンテンツの加工等があり、サービスツールは、これらを実行するアプリケーションプログラムである。
サービスアイコンの選択によりサービスツールが起動し、視聴者は、所望のサービスの提供を受けることになる。サービスアイコンに画像として表現されるものは、関連コンテンツの中身と共にサービスの内容である。視聴者は、アイコンを一目見ただけで、どのようなコンテンツをどのようなサービスで受けられるかを理解できるように表現されている。また、アイコンは、それ自身一つの単位のオブジェクトとしてメモリー部1180で管理されているため、入力部1110のアイコン操作入力手段1114で入力された情報を制御部1130へ送り、処理部1140のアイコン操作手段1144により、ディスプレイの画面上を視聴者の所望する位置へ移動することも可能であり、加えて消去すること(ゴミ箱1056への移動)も可能である。
アイコン位置を変更することは、表示部1120へ送るアイコン表示位置パラメーターを変更することであり、アイコンを消去することは、メモリー部1180内の対象オブジェクトデータを消去することである。視聴者の必要に応じてサービスアイコンを非表示にすることも可能である。当然、アイコンオブジェクトが持つ情報をインデクスとして、キーを与えることで、アイコンを検索することも可能である。例えば、番組名で検索することもできるし、サービス名で検索することも可能である。
以上の説明では、視聴者が一方向に配信された放送コンテンツを視聴していて、放送されているコンテンツに関連する関連コンテンツに関するサービスを受けたいと思った時、その要求を視聴者がポジティブに装置に入力した場合の例を説明した。
その要求を視聴者がポジティブに装置に入力しなくても、視聴者が予め設定したタイミングでアプリケーションにより自動的に要求が出されるようにすることもできる。次に、その例について説明する。すなわち、一方向に配信された放送コンテンツを視聴している時に、放送されているコンテンツに関連する関連コンテンツに関するサービスを事前に装置に設定し、サービスを予約することやサービスが受けられるタイミングになったら通知してくれる機能を実現する手順について説明する。
まず、視聴者装置1001において、放送コンテンツのイベント情報を表示する機能、サービスを予約したり、サービスが受けられるタイミングになったら視聴者に通知してくれる機能を持つアプリケーションを動作させる。このアプリケーションは、視聴者が事前に予約等を行いたいときに起動してもよいし、放送のチャネルに応じて自動的に視聴者装置1001が起動するようにしてもよい。このアプリケーションは、関連情報コンテンツ提供サーバ1002から視聴者装置1001へ送信され、視聴者装置1001がそれを受信し起動する。
視聴者装置1001においてこのアプリケーションが動作すると、図8のアプリケーションアイコン1054が画面に表示され、視聴者にアプリケーションが動作していることを知らせる。アプリケーションアイコン1054は、受信した放送コンテンツのイベント情報を可視化してアイコン中に表示するための機能と、予約画面やお知らせ設定画面等の条件設定画面1055を呼び出すための機能を持つ。
図9に、条件設定画面1055の一つであるお知らせ設定画面の例を示す。アプリケーションアイコン1054中の「お知らせ設定」のボタンをクリックすることにより、図9の条件設定画面1055を表示させることができる。この画面は、放送視聴中にイベント情報と設定された条件とが一致したときに、その旨を視聴者に通知することを設定する画面である。
お知らせのタイミングになったときの視聴者への通知方法として、表示画面の点滅や音を選択することができる。また、映像を自動的に表示するように起動設定することもできる。図9の例は、野球中継に関するお知らせ設定の画面であり、例えば得点が入ったとき、3回になったとき、打順がある打者になったとき等に視聴者に通知することを、この画面であらかじめ設定することができる。
予約の設定画面でも、お知らせ設定画面と同様に、ある設定した予約時間になったときとか、例えばある特定のタレントが画面に現れたときというように、要求を出すタイミングを設定し、設定したタイミングで自動的にサービス提供要求が出されるようにすることができる。
アプリケーションは、イベント情報提供者から配信される放送コンテンツのイベント情報を表示部1120でアプリケーションアイコン1054に表示し、予約の設定画面、お知らせ設定画面等の条件設定画面で設定したタイミングで自動的に視聴者の要求を装置に入力する。なお、予約の場合には、設定したタイミングになったときに、視聴者に確認することなくサービス提供要求を出すが、お知らせ設定の場合には視聴者にアイコンの点滅や音で設定したタイミングを知らせ、事前の指定に応じて視聴者に確認をとった後にサービス提供要求を出す。
次にこの予約やお知らせ設定等の一連の手順を詳細に説明する。イベント情報提供者から放送コンテンツのイベント情報が配信されてきているとする。このイベント情報を通信部1170のイベント情報受信手段1173で受け取り、制御部1130を介して送られてくる順にメモリー部1180に逐次格納する。それと同時に、その情報を処理部1140と表示部1120へ送り、イベント情報表示手段1123でアイコン(アプリケーションアイコン1054)として放送コンテンツのイベント情報を表示する。このアイコンの機能としては、前述のように視聴者が所望するサービスの条件を設定できる機能がある。
設定画面の表示は、入力部1110の設定操作入力手段1115で表示要求を入力し、入力情報を制御部1130へ送り、これをもとに表示部1120の設定画面表示手段1124が行う。条件設定の入力では、入力部1110の設定操作入力手段1115で設定情報を入力し、制御部1130を介してメモリー部1180に格納する。
その後、メモリー部1180に格納された条件を処理部1140へ送り、配信イベント情報条件マッチ判断手段1143は、その条件と配信されたイベント情報とのマッチングを行う。配信イベント情報条件マッチ判断手段1143では、条件とイベント情報の意味的な距離を算出し、それを類似度とし、予め与えた閾値と比べて近いものを条件が一致したと判断する。条件が一致したと判断された場合、一致したことを制御部1130へ伝える。一致情報が制御部1130を介してメモリー部1180に格納され、それ以降の流れは、一方向に配信された放送コンテンツを視聴していて、放送されているコンテンツに関連する関連コンテンツに関するサービスを受けたいと思った時、その要求をポジティブに入力し、メモリー部1180に要求入力情報が格納された場合にそれ以降行う流れと同様である。
ここで、視聴者の放送コンテンツを受ける際のチャンネリングとサービス要求を出した際の各操作に関して表示部1120で表示される情報の遷移について説明しておく。
ある放送コンテンツを視聴していてサービス要求を出した場合、図8で示したアイコンが表示される。チャンネルを変更し、異なる放送コンテンツを視聴していてサービス要求を出した場合、先の放送コンテンツに関連するサービスアイコンは非表示となり、番組アイコンのみの表示となる。続いて関連情報コンテンツ提供サーバ1002から新たに送信された情報を受け取り、新たな番組アイコンとサービスアイコンが表示される。続いて先に視聴していた放送コンテンツにチャンネルを変更し、サービス要求を出した場合、非表示になっていたサービスアイコンが表示されると共に、新たに要求したサービスアイコンが追加表示される。
(6)サービスの選択、(7)サービスの要求
次に、表示部1120で表示されているサービスアイコンを選択し、サービスの提供を受ける手順に関して説明する。視聴者装置1001の入力部1110のアイコン操作入力手段1114によりサービスアイコンの選択入力を行う。この選択入力情報に基づき、制御部1130を介してメモリー部1180に格納されている選択されたアイコンに対応する提供可能サービス情報(関連コンテンツの存在場所、サービスに必要なツールの存在場所、使用期限等)を、通信部1170の情報送信手段1171により関連情報コンテンツ提供サーバ1002に送信する。
(8)サービスコンテンツの最適化
関連情報コンテンツ提供サーバ1002では、視聴者装置1001から送られてくるサービス、コンテンツに関する情報を通信部1260の情報受信手段1261により受信し、制御部1230を介してメモリー部1270に格納する。情報受信手段1261では、どこの視聴者装置1001からの送信情報を受信したかを判断し、先の情報と共に判断した視聴者装置情報を制御部1230へ送る。
サービス、コンテンツに関する情報と視聴者装置情報が制御部1230を介してメモリー部1270に格納されると、制御部1230は、処理部1240内のアクセス系状態検出手段1244によってアクセス系状態を検出する。ここで検出するアクセス系状態とは、ネットワークの状態であり、例えば通信速度である。通信速度は、ネットワークの混み具合(流れているデータの量)に応じてダイナミックに変化している。アクセス系状態検出手段1244では、視聴者装置情報に基づき視聴者装置1001へ予め定めた量の情報パケットを流し、視聴者装置1001から返ってくるまでの時間でアクセス系の状態を推定する。視聴者装置1001の通信部1170では、この情報パケットを受信した場合、それを情報受信手段1172から情報送信手段1171へ直接転送し、情報パケットを送信した関連情報コンテンツ提供サーバ1002へ送り返してやることを行う。推定したアクセス系の状態情報は、制御部1230を介してメモリー部1270に格納する。
制御部1230を介してメモリー部1270に格納されているサービス、コンテンツに関する情報に基づき、蓄積・管理部1250のコンテンツ蓄積・管理手段1256で蓄積、管理されている関連コンテンツとサービスツールを検索し、関連コンテンツとサービスツールをメモリー部1270に格納する。同時に蓄積・管理部1250で管理されている端末情報も視聴者装置情報に基づき検索し、制御部1230を介してメモリー部1270に格納する。メモリー部1270に格納されている関連コンテンツとアクセス系の状態情報、端末情報を処理部1240へ転送する。
コンテンツ変換手段1243では、関連コンテンツをアクセス系の状態情報、端末情報(端末スペック)に基づき最適なコンテンツに変換する。この変換は、次のような場合に行う。
1)関連コンテンツがハイスペックな端末、ハイリッチなアクセス系の状態用に作成されている場合で、端末スペックとアクセス系の状態がそれに合わないとき、最適のコンテンツに変換することを行う。
2)また、一つのコンテンツで複数のサービスに用いる場合にもサービスに応じた最適のコンテンツに変換することを行う。
上記1)の場合のコンテンツ変換手段1243では、データ量の削減を行う。データ圧縮技術を用いた物理的なデータ量の削減から、要約等の意味を考慮したデータ量の削減まで行う。テキスト情報は、形態素解析や辞書、コーパスを用いて意味レベルの要約を行う。画像やMPEG1、MPEG2等の映像は、圧縮率を変えたり、MPEG4でオブジェクト符号化された映像は、オブジェクト単位での選択的な符号化を行ったりする。MPEG7で記述された映像は、テキスト記述を処理することで意味レベルの要約を行う。ハイパーリンクが張られたコンテンツに等に関しては、リンクにぶら下る情報に視聴者プロファイルに基づく重みを付け、その重みに従って選択的にリンク情報を削減することを行う。
上記2)の場合のコンテンツ変換手段1243では、視聴者が所望する言語に翻訳することを行う。画像からテキストヘの変換、映像から画像への変換、音声からテキストへの変換、画像から音声への変換、映像から音声への変換等、表現メディア間の変換処理も行う。
(9)サービス提供
コンテンツ変換手段1243により最適に変換されたコンテンツは、メモリー部1270に格納され、既に格納されているサービスツールと共に通信部1260の情報送信手段1263により、視聴者装置1001へ送信される。視聴者装置1001では、関連情報コンテンツ提供サーバ1002から送信されるサービスツールと関連コンテンツをメモリー部1180に格納する。サービスツールは、入力部1110のコンテンツ操作入力手段1116と表示部1120のコンテンツ表示手段1125を用いて、関連コンテンツに関するサービスを視聴者装置1001上で提供する。関連コンテンツの購入サービス等は、購入に関する視聴者のトランザクションを通信部1170の情報送信手段1171により、トランザクション処理センター(図示省略)に送信することで行う。
(効果)
以上説明したように、本実施の形態によれば、多種多様な通信アクセス系、端末を前提に、一方向に配信された放送コンテンツに連動、連携して、個々の視聴者がそれぞれの嗜好から希望する関連コンテンツを提供する多種多様なサービスに応えること、またそのサービスを公平に提供することができるようになる。また、視聴者が所望するサービスを捕り滴らしなく受けられる環境と、視聴中、視聴後に関連コンテンツを入手するサービスを受ける際の煩わしさに関する課題を解決した環境を提供することができるようになる。
このため、視聴者にとっては、一方向に配信された放送コンテンツに連動、連携して、多種多様なサービスを自分の端末に最適なコンテンツで受けることができ、しかもサービスを捕り漏らしなく受けられること、関連コンテンツを入手するサービスを受ける際の煩わしさがないことのメリットある。コンテンツ提供者にとっては、一方向に配信された放送コンテンツに連動、連携して、個々の視聴者がそれぞれの嗜好から希望する関連コンテンツを提供する多種多様なサービスに応えることができるというメリットがある。
[第2の実施の形態]
次に、第2の実施の形態について実施例2−1〜実施例2−4を用いて説明する。第2の実施の形態では、映像情報の中で視聴者が関心を持つ被写体に対してポインティング操作を行った場合に、被写体に関連して付加されている情報に基づいて、前記ポインティング操作が行われた被写体に関連した関連情報を入手して視聴者が参照することを可能にし、更には視聴者が関心を持つ被写体に関する情報を蓄積しておき、この蓄積された情報に基づいて受信した放送情報を選別し、選別した放送情報を蓄積する。
〔実施例2−1〕
図10は本発明の第2の実施の形態による視聴者装置の実施例2−1を示すシステム構成図である。図10において、2010は映像情報2011とこれに付加された関連情報2012とを含む放送情報である。映像情報2011は少なくとも映像を含んでおり、映像の他に音声をも含んだ通常の意味での映像番組の場合も該当する。
ディジタル放送においては、映像の放送チャネル内において番組配列情報として映像に関する付加的な情報を放送できる。あるいは、テキストや静止画像等のデータのみを放送するデータチャネルにおいて他の放送チャネルで放送される映像の関連情報を放送できる。付加的な情報としては、例えば映像中の番組のタイトルやジャンル、放送日時等が考えられている。
本発明では、付加的な情報には少なくとも映像情報2011に登場する表示単位としての被写体に関する情報を含めるものとし、被写体に関する付加的な情報(以下では関連情報と呼ぶ)は少なくとも、被写体を説明する被写体属性情報と、その被写体座標値と、その被写体に対応した関連情報のアドレス識別情報として少なくとも一つのRFC2396等で規定されるURI(Uniform Resource Identifier)情報とを含んでいる。この場合、URIは、通信網2003に接続された情報提供装置のIPアドレスやURLを含んでいる。
また、被写体座標値は、表示画面における被写体の存在領域を表す座標値である。被写体は時刻とともに登場し、あるいは退場し、また登場している最中にも画面内を移動する。このために被写体座標値は、映像情報2011のフレーム毎に定義するか、又は時刻単位で定義することが必要である。
また、関連情報2012は、1個以上の被写体の各々について定義される。図11は本発明における関連情報の例を示す。関連情報2012は、フレーム番号2121、被写体座標値2122、被写体属性情報2123、及びURI情報2124を含んでいる。図11に示す関連情報2012では、フレーム番号2121がNの場合には、被写体属性情報2123がOB−A、OB−B等の被写体が、それぞれ被写体座標値2122である(XA、YA)、(XB、YB)等に表示されること、それらに対してはURI−A、URI−B等のURI情報2124が対応して定義されていることを示している。このような情報は、N以外のフレーム番号のフレームについても付加されており、フレームによって定義される被写体は異なり、また同一の被写体であっても異なるURIが定義され得る。また、一つの被写体について複数のURIが定義されてもよい。
上述の関連情報及び映像情報を含む放送情報の構成について以下に述べる。
第一の構成方法として、映像情報中の各映像フレーム情報の先頭に、ヘッダー情報として図11に示すような関連情報を挿入する場合がある。例えば、MPEG2映像ストリームの場合であれば、ピクチャ階層のヘッダすなわちピクチャヘッダのユーザデータ領域に関連情報を挿入することが考えられる。
また、第2の構成方法として、映像情報と、関連情報を別々に構成し、関連情報には図11に示すように対応する映像フレームを識別するためのフレーム番号を含むように構成する場合がある。
第2の構成方法の場合、映像情報は映像の放送チャネルで送信し、関連情報はデータチャネルで送信することができる。あるいは、BSデジタル放送やCSデジタル放送等のシステムにおいては、ARIB STD−B10「デジタル放送に使用する番組配列情報」で規定される番組配列情報の一部として、MPEG2System(ITU−T H.222.0,ISO/IEC 13818−1)で規定されるセクション形式のデータ構造を用いて関連情報を伝送する場合もある。
なお、第2の構成方法の場合、関連情報は、対応する映像フレームと同時かそれ以前に視聴者装置に入力されるように、放送情報を構成する。
図10において、2002は本実施の形態に係る視聴者装置あって、以下に述べる要素から構成されている。
放送受信部2201は、前記した映像情報2011及び関連情報2012を含む放送情報2010を受信して映像表示制御部2202に送信する。
映像表示制御部2202は、放送受信部2201より受信した映像情報2011を表示するための表示制御信号を映像表示部2203に送信する。また映像表示制御部2202は、映像表示部2203において視聴者がポインティングを行った画面内の座標値を受信して、これを関連情報2012の中の被写体座標値2122と照合し、ポインティングを行った画面内座標値と一致する被写体座標値2122を有する被写体に対応したURI情報2124と被写体属性情報2123とを関連情報表示制御部2205に送信する。
映像表示部2203は、映像表示制御部2202から受信した表示制御信号に基づいて表示画面に映像を表示する。図10に示す場合では被写体として自動車が登場している。また第1のポインティングデバイス2204によりポインティングされた座標値を検出してその値を映像表示制御部2202に送信する。
第1のポインティングデバイス2204は、例えば映像表示制御部2202に接続されており、映像表示部2203の画面内で表示したカーソルを移動させ、所望のヵーソル位置でポインティング操作を行うためのもので、いわゆるマウス等の汎用デバイスを使用することができる。
関連情報表示制御部2205は、映像表示制御部2202から受信した被写体属性情報2123を代表するものとしての文字、記号又は図形等(以下では被写体代表図形等と呼ぶ)を後述する被写体関連情報表示部2206に表示するための制御信号を被写体関連情報表示部2206に送信し、また被写体属性情報2123を被写体属性情報蓄積部2209に送信する。関連情報表示制御部2205はまた、被写体関連情報表示部2206において第2のポインティングデバイス2207によりポインティングされた被写体代表図形等を受信し、これにより代表されている被写体に対応するURI情報2124を後述する関連情報アクセス部2210に送信し、これに基づいて関連情報アクセス部2210が後述する関連情報蓄積部2211又は通信網2003にアクセスして、入手した関連情報を被写体関連情報表示部2206に表示する。
関連情報アクセス部2210は、関連情報表示制御部2205から受信したURI情報2124が後述する関連情報蓄積部2211に対応したものであれば関連情報蓄積部2211にアクセスし、またインターネット等の通信網2003に接続された情報源に対応したものであれば通信網2003を介して当該情報源にアクセスし、それぞれ関連情報を入手して関連情報表示制御部2205に返送する。
被写体関連情報表示部2206は、関連情報表示制御部2205から上記の被写体代表図形等、又は被写体の関連情報を表示するための制御信号を受信してそれらを表示する。また被写体関連情報表示部2206は、前述のように第2のポインティングデバイス2207を具備しているが、その動作は第1のポインティングデバイス2204と同様にして、例えば関連情報表示制御部2205に接続されており、映像表示部2203の画面内で表示したカーソルを移動させ、所望のカーソル位置でポインティング操作を行うためのもので、いわゆるタッチパネルやマウス等の汎用デバイスを使用することができる。
入力デバイス2208は、本システムを操作するためのキーボードその他の入力装置である。被写体属性情報蓄積部2209は、関連情報表示制御部2205から送信された被写体属性情報2123を受信し、蓄積する。
関連情報蓄積部2211は、被写体に関連した情報を蓄積し、この情報は関連情報アクセス部2210がアクセスして入手することが可能である。また、蓄積する情報は、図示しない装置を用いて必要に応じて追加、更新あるいは削除を行うことができる。
以上の構成の実施例2−1に係る本システムの動作を以下に説明する。映像情報2011と図11に示した関連情報2012とを含む放送情報2010は、放送局より放送されて放送受信部2201により受信され、復調された後、映像表示制御部2202に送られる。映像表示制御部2202においては、放送受信部2201から受信した映像情報2011と関連情報2012のうち、映像情報2011を表示するための制御信号が生成され、これは映像表示部2203に送られる。関連情報2012は映像表示制御部2202において一時的に保存される。
映像表示部2203において被写体がポインティングされた場合には、映像表示制御部2202はポインティングの座標値を映像表示部2203から受け取るとともに、受け取った座標値と図11に示す被写体座標値2122との照合を行い、ポインティングの座標値に一致する被写体座標値2122が定義された被写体を見出す。そして、このようにして見出された被写体に対応した被写体属性情報2123及びURI情報2124は、関連情報表示制御部2205に送られる。
関連情報表示制御部2205では、映像表示制御部2202から受信した被写体属性情報2123及びURI情報2124に基づいた処理が行われる。まず被写体属性情報2123は、被写体属性情報蓄積部2209に送信されて蓄積される。また関連情報表示制御部2205では、受信した被写体属性情報2123を代表する被写体代表図形等を表示するための制御信号が生成されて被写体関連情報表示部2206に送られる。
図12は、映像表示部2203において第1のポインティングデバイス2204によりポインティングされた被写体2041に対応して被写体関連情報表示部2206に、その被写体2041の被写体代表図形等2042が表示される例を表している。
なお、映像表示部2203と被写体関連情報表示部2206とは、異なるディスプレイ装置を用いるほうが望ましい。例えば、映像表示部2203をCRTディスプレイ装置、被写体関連情報表示部2206を液晶ディスプレイ装置を用いて構成することが考えられる。この場合、第1のポインティングデバイス2204としてマウス、第2のポインティングデバイス2207としてタッチパネル等の利用も考えられる。しかし、映像表示部2203と被写体関連情報表示部2206とを、1台のディスプレイ装置を用いて構成することも可能であり、1台のディスプレイ装置を共用する場合には、異なるウィンドウ又は画面分割した表示領域のそれぞれに映像表示部2203と被写体関連情報表示部2206とを設ける。この場合、第1のポインティングデバイス2204及び第2のポインティングデバイス2207についても、同じハードウェアで実現することができ、1個のマウス等を共用することができる。
図13は、被写体関連情報表示部2206に関するより詳細な例を示しており、この例では、被写体関連情報表示部2206は、被写体代表図形等2042を表示するための被写体表示領域2261と、被写体関連情報を表示するための関連情報表示領域2262と、操作パネル部2263とを有する。操作パネル部2263は、例えばタッチパネルを利用する場合に入力デバイス2208の代わりに用いることができる。
また、被写体表示領域2261には、被写体代表図形等2042が複数個表示されている。この例では、OB−A、OB−B、OB−C及びOB−D等の文字がそれぞれの被写体代表図形等2042である。これらは映像の進行とともに、被写体2041が次々とポインティングされた場合に、それらの被写体2041に対応した被写体属性情報2123及びURI情報2124が順次関連情報表示制御部2205に送り込まれてきた結果を示している。
次に、視聴者が被写体関連情報表示部2206に表示された被写体代表図形等2042を第2のポインティングデバイス2207でポインティングすると、ポインティングされた被写体代表図形等2042を識別する情報が被写体関連情報表示部2206から関連情報表示制御部2205に送り込まれ、これに対応して関連情報表示制御部2205では、被写体代表図形等2042を識別する情報が示す被写体2041に対応したURI情報2124が抽出される。抽出されたURI情報2124は、関連情報アクセス部2210に送信され、関連情報アクセス部2210は、送信されたURI情報2124が、関連情報蓄積部2211に対応していれば関連情報蓄積部2211にアクセスして関連情報を入手して、これを関連情報表示制御部2205に返送する。
また、送信されたURI情報2124が通信網2003に接続された情報源のものであれば、関連情報アクセス部2210は、通信網2003を通じて当該情報源から関連情報を入手し、これを関連情報表示制御部2205に返送する。
関連情報表示制御部2205では返送された情報を受信した後に、これらを被写体関連情報表示部2206の関連情報表示領域2262に表示する。
以上の動作において、視聴者が被写体代表図形等2042をポインティングするタイミングは、放送受信中と放送受信後とのどちらでも任意である。したがって参照する情報が多い場合には、放送受信後の都合の良いときに順次関連情報を参照することもできる。
〔実施例2−2〕
次に、実施例2−2として映像のフィルタリング蓄積機能を有する視聴者装置について説明する。図14は、実施例2−2を示すシステム構成図である。実施例2−2に係るシステムの構成は、図10に示す実施例2−1のシステムの構成に興味情報抽出部2212を加えるとともに、その機能を利用して放送情報2010を自動的に選別して蓄積する機能を備えたものであり、以下に詳しく説明する。
図14において、関連情報表示制御部2205は、実施例2−1で述べた機能に加えて、視聴者が被写体関連情報表示部2206において、被写体代表図形等2042をポインティングした被写体について、少なくともその被写体に関するURI情報2124と、被写体属性情報2123と、情報源から入手された関連情報と、この関連情報が被写体関連情報表示部2206に表示された時間に関する表示時間情報のうちのいずれか複数を興味情報抽出部2212に送信する機能を有する。
また、興味情報抽出部2212は、URI情報2124、被写体属性情報2123、前記関連情報、前記表示時間情報のうちいずれか複数もしくは全てを参照して、関連情報に対する視聴者の興味を示す情報としての興味情報を抽出し、これを蓄積する。更に、興味情報抽出部2212は、放送受信部2201から映像情報2011と関連情報2012とを含む放送情報2010を受信して、関連情報2012の中の少なくともその被写体属性情報2123又はURI情報2124を、蓄積した興味情報に照らし合わせて、視聴者の興味情報に適合していると判断された放送情報2010を優先的に選択する。選択された放送情報2010は必要に応じて放送情報蓄積部2213に蓄積することができる。
なお、本発明では、特に被写体関連情報表示部2206において視聴者が表示されている被写体代表図形等2042を移動又は削除できる機能を具備し、これらの操作があった場合に、興味情報抽出部2212に蓄積しておいた興味情報を減ずるようにすることができる。これによって、例えば削除した被写体代表図形等2042により代表される被写体属性情報2123、又はこれに対応したURI情報2124に対する視聴者の関心度が低くなったことが興味情報の抽出に反映される。
次に、実施例2−2における本システムの動作を説明する。放送局より放送された映像情報2011とその関連情報2012とを含む放送情報2010は、放送受信部2201により受信され、復調された後、映像表示制御部2202に送られる。関連情報2012は、実施例2−1と同様にして例えば図11に示すように構成されている。図11については実施例2−1について説明したので、ここでの説明は省略する。
映像表示制御部2202においては、放送受信部2201から受信した映像情報2011と関連情報2012のうち、映像情報2011を表示するための制御信号が生成され、これは映像表示部2203に送られる。関連情報2012は、映像表示制御部2202において一時的に保存される。
映像表示部2203において、被写体2041がポインティングされた場合に、映像表示制御部2202はポインティングの座標値を映像表示部2203から受け取るとともに、受け取った座標値と図11に示す被写体座標値2122との照合を行い、ポインティングの座標値に一致する被写体座標値2122が定義された被写体を見出す。そして、このようにして見出された被写体2041の被写体属性情報2123及びURI情報2124は、関連情報表示制御部2205に送られる。
関連情報表示制御部2205では、映像表示制御部2202から受信した被写体属性情報2123及びURI情報2124に基づいた処理が行われる。まず、被写体属性情報2123が被写体属性情報蓄積部2209に送られ、ここに蓄積される。また受信した被写体属性情報2123については、これを代表する被写体代表図形等2042を表示するための制御信号が生成されて被写体関連情報表示部2206に送られる。この場合の被写体関連情報表示部2206の表示は前述した図12又は図13を用いて説明したとおりである。
視聴者が被写体関連情報表示部2206に表示された被写体代表図形等2042を第2のポインティングデバイス2207でポインティングすると、ポインティングされた被写体代表図形等2042に代表される被写体属性情報2123に対応した関連情報が入手され、入手された関連情報は被写体関連情報表示部2206の関連情報表示領域2262に表示される。この点ついては実施例2−1と同様であるので、これ以上の説明は省略する。
以下に、実施例2−2における本システムの動作が実施例2−1のそれと異なっている点を中心に説明する。
実施例2−2においては、関連情報表示制御部2205は、実施例2−1で述べた機能に加えて、視聴者が被写体関連情報表示部2206において、被写体代表図形等2042をポインティングした被写体について、少なくともその被写体2041に関するURI情報2124と、被写体属性情報2123と、情報源から入手された関連情報と、この関連情報が被写体関連情報表示部2206に表示された時間に関する表示時間情報のうちのいずれか複数を興味情報抽出部2212に送信する。
表示された時間は、関連情報が被写体関連情報表示部2206に表示された際の表示の開始時刻及び終了時刻に基づくものであり、これらは被写体関連情報表示部2206を参照する視聴者による第2のポインティングデバイス2207の操作時刻情報にも関係しており、開始時刻としては被写体代表図形等2042のポインティングされた時刻や、その後入手された関連情報が被写体関連情報表示部2206に表示されたその開始時刻としてもよく、また終了時刻としては視聴者により表示を終了するための操作がなされた時刻、又は次の被写体代表図形等2042がポインティングされた時刻とすることができる。
興味情報抽出部2212は、関連情報表示制御部2205から受信したURI情報2124、被写体属性情報2123、関連情報、表示時間情報のうちいずれか複数もしくは全てを参照し、興味情報を抽出し、これを蓄積する。興味情報は、どのような情報に視聴者が興味を示しているかを表す情報であって、一般には表示時間情報やポインティングの回数を統計的に処理して生成することができる。例えば、被写体属性情報別又はURI情報別のポインティング回数であり、あるいは、被写体属性情報別、URI情報別、又は関連情報別の表示時間もしくはその積算値である。また、被写体属性情報2123と、URI情報2124と、関連情報との少なくとも二つの組み合わせ別の、ポインティング回数あるいは表示時間又はその積算値とすることもできる。
更には、被写体属性情報2123、関連情報に含まれるテキストをキーワードに分解し、各キーワードについて当該キーワードを含む被写体属性情報2123、関連情報の視聴回数が多い場合や表示時間が長い場合に、前記キーワードが興味を示すと仮定し、興味を示すキーワードの群を抽出し、これを興味情報とすることもできる。
また、被写体関連情報表示部2206に表示されている被写体代表図形等2042に対して視聴者が移動又は削除した場合についても、その情報が関連情報表示制御部2205から興味情報抽出部2212に送られるようにし、興味情報抽出処理に反映することができる。例えば、視聴者が被写体代表図形等2042を削除した場合、削除された被写体代表図形等2042により代表される被写体属性情報2123又はこれに対応したURI情報2124に対する視聴者の関心度が低くなったものとして、興味情報から減じる等の処理を行って興味情報抽出処理に反映する。
更に興味情報抽出部2212は、放送受信部2201から関連情報2012を含む放送情報2010を受信し、関連情報2012の中のURI情報2124を上記の興味情報と照合し、視聴者の興味に適合している放送情報2010を選択するフィルタリング処理を行う。このようにしてフィルタリングされた放送情報2010は、必要に応じて放送情報蓄積部2213に蓄積される。この場合の適合の有無は、ポインティングの回数、あるいは表示時間又はその積算値が大きい値を示した、被写体属性情報2123、又はURI情報2124、又は関連情報、又はそれらの組み合わせを関連情報が含んでいるか否かにより決められる。被写体属性情報2123やURI情報2124そのものを使用する代わりに、それらを予めジャンル別に分類しておくことによってジャンル別の回数又は参照時間に変換したものを使用してもよい。
次に、興味情報抽出部の具体的な一例について説明する。
以下の説明にあたり、本実施例における関連情報には、URIおよび、当該URIのコンテンツ内容を示すキーワード群を含むものとする。例えば、被写体として映像中に登場する自動車に関連付けられた関連情報には、その自動車の映像中の出現位置と、その自動車の仕様情報ホームページのURLアドレスと、キーワードとして、{自動車}が付与されている。このような関連情報の具体的な記載例を以下に示す。
〈frame no="N"〉
〈object〉
〈location〉(XA,YA)-(XB,YB)〈/location〉
〈uri〉url:www.automobile.com/car_A/spec.html〈uri〉
〈keyword〉自動車〈/keyword〉
〈/object〉
〈/frame〉
上記の例はフレーム番号"N"の映像フレーム内に被写体として自動車のみが存在する場合に対応する。〈frame no="N"〉...〈/frame〉間には、フレーム番号"N"の映像フレームに関する情報を記載する。〈object〉...〈/object〉間には、一つの被写体に関する情報を記載する。この場合、その自動車の映像中の出現位置と、その自動車の仕様情報ホームページのURLアドレスと、キーワードとして、{自動車}が記載されている。被写体が複数存在すれば、〈frame no="N"〉...〈/frame〉間には、複数の〈object〉...〈/object〉が存在することになる。なお、関連情報は、上述したようにXML形式である必要はなく、図11に示したようなテーブル型の構成でも良い。
この例における興味情報抽出部は、視聴者の興味情報としてキーワード群と各キーワードの重みを含む利用者プロファイルを保持する。利用者プロファイルの一例を以下に示す。
{自動車:1、パンダ:2、ステテコ:1、なまこ:1}
上述の例は、"キーワード:そのキーワードの重み"の組みを複数持つ集合として、利用者プロファイルを記述している。
ここで、視聴者が、視聴中の映像の被写体として登場した自動車をポインティングした場合には、興味情報抽出部は、キーワード"自動車"の重みを1増加する。もし、自動車をポインティングした時点でキーワード"自動車"が利用者プロファイル中に存在しない場合には、キーワード"自動車"を利用者プロファイルに追加し、重みを1とする。
従って、視聴中の映像の被写体として10回それぞれ自動車が登場した場合に、視聴者が全ての自動者に対してポインティングした場合には、利用者プロファイルは上述の状態から、
{自動車:11、パンダ:2、ステテコ:1、なまこ:1}
になる。
また、視聴者が、被写体関連情報表示部2206に表示されている被写体代表図形等2042を削除した場合には、該被写体に対応する関連情報に含まれるキーワードの重みを1減らし、利用者プロファイルを更新する。例えば、利用者プロファイルが、
{自動車:11、パンダ:2、ステテコ:1、なまこ:1}
であった時に、視聴者が、キーワード{自動者}を含む関連情報が対応付けられた被写体の被写体代表図形等2042を一つ被写体関連情報表示部2206より削除した場合、利用者プロファイルは、
{自動車:10、パンダ:2、ステテコ:1、なまこ:1}
に更新される。
また、視聴者が、被写体関連情報表示部2206に表示されている被写体代表図形等2042をポインティングして、関連情報を参照した場合、その関連情報の参照時間に応じて、該被写体代表図形等2042に対応する関連情報に含まれるキーワードの重みを増加し、利用者プロファイルを更新する。例えば、関連情報を1分参照するごとに対応する被写体の関連情報に含まれるキーワードの重みを1増加するものとする。利用者プロファイルが、
{自動車:10、パンダ:2、ステテコ:1、なまこ:1}
であった時に、視聴者が、キーワード{自動車}を含む関連情報が対応付けられた被写体の被写体代表図形等2042をポインティングし、当該関連情報を10分間参照した場合、利用者プロファイルは、
{自動車:20、パンダ:2、ステテコ:1、なまこ:1}
に更新される。
更に、興味情報抽出部は、放送情報をフィルタリングする際に、以下の規則に従って処理を行う。
受信された映像中に被写体に関連付けられた関連情報に含まれるキーワードが、利用者プロファイルに含まれる場合、そのキーワードの重みをその被写体への興味度とする。利用者プロファイルに含まれるキーワードが複数ある場合には、それぞれのキーワードの重みの和をその被写体への興味度とする。そして、興味度が一定値K以上である場合、該被写体に視聴者が興味を持つもとみなし、自動的に該被写体をポインティングしたのと同等の処理を実施する。例えば、K=10で、利用者プロファイルは
{自動車:20、パンダ:2、ステテコ:1、なまこ:1}
である場合に、キーワード{自動車}を含む関連情報が受信された場合には、対応する被写体への興味度は20でありK=10以上を満たすので、自動的に視聴者が対応する被写体をポインティングしたのと同等の処理を実行する。つまり、被写体関連情報表示部に、該被写体に対応する被写体代表図形を表示する等の処理を行う。
なお、上述したものは、興味情報抽出部の処理の一例であり、上記以外に種々のキーワードの重み付け等の規則、キーワードの利用の規則等を使用することが可能である。
〔実施例2−3〕
次に、実施例2−3について説明する。
図15は、本発明の実施例2−3を示すシステム構成図である。実施例2−3は、以上までに説明した視聴者装置2002に、放送局2004を加えた放送情報送受信システムであって、放送局2004は、図11に示したような関連情報2012を含む放送情報2010を放送する機能を有している。
なお、前記放送局は、BSデジタル放送、CSデジタル放送、地上波デジタル放送等、衛星放送システムや地上波放送システムに接続され、前記放送インフラを介した放送を行うための放送局である場合や、図16に示すように、インターネットや放送用ケーブル等の所定のネットワークに接続されるサーバを用い、前記所定のネットワークを介して、いわゆるインターネット放送やケーブルテレビ放送といったネットワーク放送を行う放送局である場合がある。
〔実施例2−4〕
次に、実施例2−4について説明する。
図17は、本発明の実施例2−4を示すシステム構成図である。実施例2−4は、以上までに説明した視聴者装置に、映像蓄積媒体再生装置2006を加えた放送情報送受信システムである。映像蓄積媒体とは、DVDやD−VHSビデオテープ等であり、図11に示した関連情報を含む放送情報2010が記録された媒体である。映像蓄積媒体再生装置2006とは、DVDプレーヤーや、VCR等であり、一般に、放送により受信された映像を主とする放送情報を前記映像蓄積媒体に記録蓄積する機能を有する。更に、記録した放送情報を再生する機能を有する。利用される映像蓄積媒体は、事前に放送インフラより取得される放送情報を記録したものである場合や、映画やドラマ等の映像情報を含む放送情報が事前に記録された状態で、該映像蓄積媒体の小売店やレンタルショップ等から利用者が入手するものである場合がある。
実施例2−4では、所定の映像蓄積媒体を再生する映像蓄積媒体再生装置2006より、図11に示した関連情報を含む放送情報2010が、視聴者装置2002に入力される。
なお、第2の実施例においても、視聴者情報及び端末情報に関連した関連情報を取得することが可能である。例えば、映像情報とともに、視聴者情報や端末情報に対応した複数のURIを関連情報として視聴者装置に送信し、視聴者装置では、当該視聴者装置に予め入力等しておいた視聴者情報や端末情報に適合したURIを選択するようにする。付加する関連情報としては、例えば、後述する第4の実施例における関連情報例1〜5のような形式を用いることができる。
(効果)
本実施の形態による視聴者装置及び放送情報送受信システムでは、映像に登場する表示単位としての被写体毎に、その関連情報の所在を示すURI情報が定義された関連情報を付加された放送情報を受信し、視聴者が映像表示画面に表示されている被写体をポインティングした場合に、その被写体を代表する文字、図形等を画面に表示し、次にこれら文字、図形等に対するポインティング操作に対応して、関連する情報が対応するURI情報から読み出されて画面に表示されるようにした。これによって、視聴者は映像情報を視聴しながら興味を持った被写体に関連した情報を放送情報以外の情報源から入手して参照することができる。
また、視聴者が複数の被写体を次々にポインティングした場合には、それぞれを代表する文字、図形等が順次画面に追加して表示されるようにした。これによって視聴者が参照したいと感じた関連情報が多い場合でも、放送情報視聴の後に時間の制約を受けることなく参照することができる。
更に、視聴者がポインティングした被写体のポインティング回数や、それに関連して参照した関連情報の表示時間情報を考慮した興味情報が抽出・保持され、利用者が視聴していない時間に放送されている放送情報から、興味情報に適合する放送情報を自動選択し、これを蓄積できるようにした。これによって視聴者は自分が過去に参照した関連情報のジャンルに適合する放送情報を時間の制約なく入手することができる。
特に、本発明では表示されている被写体代表図形等を視聴者が削除した場合には、当該URI情報に対する興味が失われたものとし、蓄積した興味情報を減ずるようにして、興味情報抽出処理に反映されるようにしたので、視聴者が十分に関連情報を参照した時点以後、視聴者の動的な興味の変化に従って、そのジャンルの情報の入手を停止することができる。
また、被写体の単位で関連情報を入手することができるので、様々な場面で登場する被写体に対して関連情報を定義することができ、その結果、従来の映像番組を単位とするよりも、きめ細かな関連情報の参照が可能となる。例えば、同一の被写体であっても、それが登場する場面によりその意味合いは一般には変わると考えられるが、関連情報をフレーム別に定義することによって、多様かつ的確な関連情報を参照することが可能となり、また、よりきめ細かな映像情報の自動選択が可能となる。
例えば、同一の被写体であっても、それが登場する場面によりその意味合いは一般には変わると考えられるが、関連情報をフレーム別に定義することによって、多様かつ的確な関連情報を参照することが可能となり、また、よりきめ細かな映像情報の自動選択が可能となる。また、ポインティングされた被写体に対する文字・図形は画面に追加して表示されるために、視聴者は時間的制約を受けることなく関連情報を参照することができる。
更に、視聴者が関心ある被写体をポインティングすることによって関心のある関連情報のみを的確に閲覧できる仕組みにしたことにより、前記視聴者の被写体のポインティング操作等から、視聴者がどのような情報に関心があるのかを示唆する情報を入手することが可能となる。
[第3の実施の形態]
次に、本発明の第3の実施の形態について説明する。本実施の形態では、テレビ、ラジオ等の放送コンテンツと同期して、パーソナルコンピュータ等の端末からのイベントを処理することにより関連情報を取得する。ここで、放送コンテンツに同期したイベントの処理とは、視聴者装置において、ボタンの押下操作等のイベントが発生した時に、これに対応して実行されるアクションの内容を放送コンテンツに対応して随時変化させる処理のことである。具体的な例としては、テレビ放送の所定チャネルにおいて、CM1、CM2及びCM3が連続的に放映される場合に、CM1が放映されている時点で、視聴者装置のボタンを使用者が押下すると、CM1に関する情報へのリンクが視聴者装置に接続された表示装置に提示されるという処理がある。同様に、CM2が放映されている時点で、視聴者装置のボタンを使用者が押下すると、CM2に関する情報へのリンクが提示され、CM3が放映されている時点で、視聴者装置のボタンを使用者が押下すると、CM3に関する情報へのリンクが提示される。
図18は、本発明の第3の実施の形態におけるシステムの構成図である。図18のシステムは、関連情報提供サーバ3001(以下「サーバ3001」という)と、該サーバ3001とネットワーク3006を介して通信する視聴者装置3002(クライアント)と、放送コンテンツを放送する放送局3003と、視聴者装置3002に接続された入出力装置3004とを有する。放送局3003から放送される放送コンテンツは、放送受信装置3005で受信できる。その放送コンテンツに同期して各種のアクションが、視聴者装置3002で実行される。また、視聴者装置3002で発生するイベントに応答して実行されるアクションの内容が、放送コンテンツに同期して変化する。
なお、放送受信装置3005が放送局3003からの放送コンテンツを受信する他、インターネット等のネットワークに接続された放送情報蓄積サーバ3003'から放送受信装置3005が放送コンテンツを受信する場合でも、本実施の形態における同期処理を実現することが可能である。
ここで、視聴者装置3002で発生するイベントとは、入出力装置4に対するユーザの各種の操作である。例えば、視聴者装置3002がキーボードを有する場合、該キーボード上の所定のボタンが押されたという信号である。また、視聴者装置3002がマウス等のポインティングデバイスを有する場合、該ポインティングデバイスによって、視聴者装置3002に接続される表示装置に表示された画面上の所定の位置がクリックされたという信号である。更に、イベントとは、あるアクションが発生してから、所定の時間が経過したということ、又は時刻が所定の時刻になったというタイムアウトの事象でもある。
どのような操作又は事象の発生をイベントとするかは、本発明のシステムを用いてどのようなアプリケーションを実現するかによって異なる。例えば、テレビでドラマ映像を視聴中に、ドラマ映像中の被写体又はBGM等に視聴者が興味を持った場合、視聴者装置3002のいわゆるブックマークのためのボタンを押すと、当該関連情報ヘアクセスするためのアイコンが、表示装置上の画面に追加されるというようなアプリケーションでは、イベントとは、視聴者(使用者)がブックマークボタンを押したということであり、ブックマークボタンが押された時点で、アイコンを追加するというアクションが実行される。また、例えば、テレビで教育番組を視聴中に、視聴者装置3002の表示装置画面上に番組の進行に合わせて、教育番組の内容に関連する情報ページが表示されるというようなアプリケーションでは、イベントとは、所定の時刻、即ち番組内容が切り替わる時刻になったということに対応し、当該イベントが発生した時点で、新しい情報ページに更新するというアクションを実行する。
視聴者装置3002で実行されるアクションとは、視聴者装置3002で実行され得るアプリケーションプログラムによる各種処理であり、本発明のシステムを用いて実現するサービスアプリケーションにより様々である。前述した例では、「関連情報にアクセスするためのアイコンを追加する」とか、「新しい情報ページに更新する」等という処理がこれに該当する。
また、本発明のシステムの視聴者装置3002が、MS−WindowsのOSを搭載するパーソナルコンピュータ上に実装されている場合、アクションとは、Windows上で実行し得るソフトウェアプログラムによる処理である。
また、サーバ3001は、放送コンテンツを管理する機関、例えば放送局から、アクションテーブルを構成する場合に参照する情報であるアクションテーブルリソースデータを取得する。
図19は、本発明によるサーバ3001と視聴者装置3002の構成図である。
サーバ3001は、ネットワーク3006を介して複数の視聴者装置3002と通信する通信手段3013と、サーバ3001にアクセスする視聴者装置3002を識別するクライアント識別手段3014と、視聴者装置3002毎に既に発生したイベントのイベント識別子のリストであるクライアント発生イベントリストを保持するクライアント情報管理手段3015と、アクションテーブルを構成する際に参照されるアクションテーブルリソースデータ3012と、アクションテーブルを同期対象となる事象に同期して逐次構成更新するとともに、構成するそれぞれのアクションテーブルの有効期間を決定しアクションテーブルに付与するアクションテーブル構成手段3011と、ネットワーク3006を介してアクションテーブルを提供するアクションテーブル提供手段3010とを有する。
視聴者装置3002は、サーバ3001と通信する通信手段3024と、サーバ3001からアクションテーブルを取得しこれを保持するアクションテーブル管理手段3022と、イベントの発生を監視し、発生したイベントのイベント識別子をアクションテーブル管理手段3022に通知するイベント管理手段3021と、アクションテーブル管理手段3022から通知されたアクション内容情報に記載されているアクションを即座に実行するアクション実行手段3023と、入力インタフェース3026と、出力インタフェース3025とを有する。
図20は、本実施の形態による方法のシーケンス図である。サーバのアクションテーブルリソースデータ3012は、放送局3003が放送する放送情報を収集している。最初に、サーバ3001が、放送コンテンツの放送時間と同期して指定される有効期間XX〜XX毎に、有効なイベントを示すイベント識別子、及びそれに対応して実行される処理を示すアクション内容情報とを指定するアクションテーブルを構成する(ステップS1)。次に、サーバ3001が、そのアクションテーブルを視聴者装置3002へ送信する(ステップS2)。次に、視聴者装置3002は、受信したアクションテーブルを保持し、発生したイベント、例えば使用者によって押下ボタンが押下されたことのイベント識別子YYを導出する(ステップS3)。次に、視聴者装置3002が、サーバ3001から受信したアクションテーブルを用いてイベント識別子YYに対応するアクション内容情報ZZを導出する(ステップS4)。最後に、視聴者装置3002が、アクション内容情報ZZを実行する(ステップS5)。このとき、視聴者装置3002が、イベント識別子YYをサーバ3001へ送信するものであってもよい(ステップS6)。これにより、サーバ3001は、クライアント情報管理手段3015において、発生イベントリストを作成し、当該視聴者装置3002に適したアクションテーブルを構成することが可能となる。
図21は、本発明によるアクションテーブルの一例を示し、図22は、本発明によるクライアント発生イベントリストの一例を示している。
以下に、本実施形態による具体的な動作について説明する。
視聴者装置3002が起動する際に、アクションテーブル管理手段3022が、サーバ3001から、アクションテーブルを取得する。アクションテーブル管理手段3022は、取得されたアクションテーブルに記載されている有効期間を確認し、有効期間内である間、当該取得されたアクションテーブルを参照対象とする。
アクションテーブル管理手段3022は、現在、参照対象となっているアクションテーブルの有効期間が終了する前に、サーバ3001から新しいアクションテーブルを取得する。参照対象となっているアクションテーブルの有効期間終了と同時に、その新しいアクションテーブルを参照対象とする。
以降、アクションテーブル管理手段3022は、現在、参照対象となっているアクションテーブルの有効期間を確認しつつ、前述した操作を繰り返し、逐次、アクションテーブルを更新する。
更に、クライアント操作又はアクション実行に伴って、イベントが発生した場合、イベント管理手段3021は、発生したイベントのイベント識別子をアクションテーブル管理手段3022へ送信する。アクションテーブル管理手段3022は、現在参照対象となっているアクションテーブルを参照して、そのイベント識別子に対応するアクション内容情報をアクション実行手段3023へ送信する。更に、アクション実行手段3023は、そのアクション内容情報に従ってアクションを実行する。
更に、視聴者装置3002のアクションテーブル管理手段3022は、イベント管理手段3021から受信したイベント識別子を、サーバ3001へ送信する。サーバ3001は、視聴者装置3002からイベント識別子を受信した場合、先ず、クライアント識別手段3014が視聴者装置3002を識別し、次に、クライアント情報管理手段3015が、そのクライアント(視聴者装置)に対応するクライアント発生イベントリストに当該イベント識別子を追加する。
更に、サーバ3001は、視聴者装置3002からアクションテーブルの要求がされた場合、クライアント識別手段3014が視聴者装置3002を識別し、アクションテーブル構成手段3011が、識別された視聴者装置3002に対応するクライアント発生イベントリストを参照してアクションテーブルを構成し、アクションテーブル提供手段3010が、当該視聴者装置3002へそのアクションテーブルを送信する。
更に、サーバ3001は、アクションテーブル構成手段3011が新しいアクションテーブルを構成した時点で、アクションテーブル提供手段3010によって、視聴者装置3002へ該新しいアクションテーブルを能動的に配信する。
視聴者装置3002は、アクションテーブル管理手段3022によって、受信された新しいアクションテーブルを保持し、現在参照しているアクションテーブルの有効期間が終了する時点で、現在参照しているアクションテーブルを新しいアクションテーブルヘ変更する。
(実施例3−1)
次に、本発明によるシステムをテレビ放送に適用した、具体例を実施例3−1として説明する。
実施例3−1は、テレビでドラマ映像を視聴中に、ドラマ映像音声中の被写体、背景又はBGM等に視聴者が興味を持った場合に、視聴者装置3002のいわゆるブックマークのためのボタンを押すと、当該関連情報ヘアクセスするためのアイコン(又はURL等)が、表示装置上の画面に追加されるというようなアプリケーションである。視聴者装置3002に、入力デバイスとして3つのブックマークボタンがあるものとする。それぞれのボタンのシステム内での識別子は、(0、0)、(1、0)及び(2、0)であるとする。これら3つのブックマークボタンは、例えば、第1のボタンは被写体に関して興味を有したことを示し、第2のボタンは背景について興味を有したことを示し、第3のボタンはBGMについて興味を有したことを示す等の機能分担を有すること等が考えられる。更に、場合によっては、それぞれのブックマークボタンが映像中の何に興味を有したことを示すかは動的に変化するものであってもよい。即ち、ある時点においては、ボタン(1、0)が被写体に関して興味を有したことを示し、ボタン(2、0)が背景について興味を有したことを示し、更にボタン(3、0)がBGMについて興味を有したことを示しているが、別の時点においては、映像中に2つの被写体(例えばタレント)等が存在するので、ボタン(1、0)が第1の被写体に関して興味を有したことを示し、ボタン(2、0)が第2の被写体について興味を有したことを示し、更にボタン(3、0)がBGMについて興味を有したことを示す等ということである。また、各視聴者装置3002において、ボタン操作の意味が異なる、即ち、ボタン操作に応じて発生するアクションが異なるものであってもよい。
図23は、本発明によるアクションテーブルの一例である。このアクションテーブルは、有効期間が時刻0から時刻999までである。入力デバイスは、3つのボタンから構成され、それぞれのボタンのシステム内での識別子は(0、0)、(1、0)及び(2、0)である。イベント識別子は、時刻情報及びボタン識別子から構成される。イベント識別子[(0、499)、(0、0)]は、時刻0から時刻499の間に、識別子(0、0)のボタンが押されたというイベントを意味する。当該イベント識別子に対応して、アイコンAを画面に追加表示するというアクション「add icon_A」が記述されている。
図23のアクションテーブルによれば、時刻0から時刻499の間に識別子(0、0)のボタンが押下されれば「add icon_A」を実行する。以下同様に、時刻0から時刻499の間に識別子(1、0)のボタンが押下されれば、「add icon_B」を実行し、時刻0から時刻499の間に識別子(2、0)のボタンが押下されれば「add icon_C」を実行し、時刻500から時刻999の間に識別子(0、0)のボタンが押下されれば「add icon_D」を実行し、時刻500から時刻999の間に識別子(1、0)のボタンが押下されれば「add icon−E」を実行し、時刻500から時刻999の間に識別子(2、0)のボタンが押下されれば「add icon_F」を実行する。
視聴者装置3002は、時刻0から時刻999までの間、図23のアクションテーブルを参照対象とする。そして、時刻0から時刻999までの間に視聴者装置3002のいずれかのボタンが押されてイベントが発生すると、即座に、アクションテーブルに基づいて決定されるアクションを実行する。
図24は、次に取得されたアクションテーブルの一例である。次の有効期間のアクションテーブルを取得するために、視聴者装置3002は、時刻0から時刻999までの間に、サーバ3001ヘアクセスする。有効期間1000〜1999は、図23のアクションテーブルを参照対象として処理を行う。有効期間0〜999に、どのイベントが発生しても発生しなくても、次にサーバ3001から取得されるアクションテーブルは全ての視聴者装置3002において同じである。
各クライアント(視聴者装置)において、有効期間0〜999に発生したイベントの種類及び、イベント発生の有無により、取得される有効期間1000〜1999のアクションテーブルの内容が異なることも特徴である。
図25及び図26は、内容が異なるアクションテーブルの一例である。本発明によるシステムの中に複数の視聴者装置3002が存在する場合、第1の視聴者装置においては、時刻0〜999の間に全くイベントが発生せず、視聴者装置Bにおいては、時刻0〜499の間に識別子(0、0)のボタンが押され「add icon_A」が実行されたとする。この場合、第1の視聴者装置は、新しいアクションテーブルとして図25のテーブルをサーバ3001から取得する。一方、時刻0〜499の間に識別子(0、0)のボタンが押されなかった場合、第1の視聴者装置は、新しいアクションテーブルとして図26のテーブルをサーバ3001から取得する。
このように、各視聴者装置3002におけるイベント発生の有無、又は発生したイベント種別によって、取得されるアクションテーブルの内容が異なる。この結果、ボタン操作に伴って実行されるアクションを、以前に行ったボタン操作に依存して、各視聴者装置において変化させることができる。
(実施例3−2)
次に、本発明によるシステムをテレビ放送に適用した、実施例3−2について説明する。
この実施例3−2は、テレビで教育番組等を視聴中に、視聴者装置3002の表示装置3004の画面上に番組に進行に合わせて、番組の内容に関連する所定の情報ページ、即ちインターネット上の所定のホームページが表示されるというようなアプリケーションである。このアプリケーションにおいて、イベントとは、所定の時刻、即ち番組内容が切り替わる時刻になったということに対応し、当該イベントが発生した時点で、新しい情報ページに更新するというアクションを実行する。
図27は、実施例3−2におけるアクションテーブルの一例である。図27によれば、URLがhttp://page1であるホームページを画面に追加表示するというアクションを「open http://page1」と記述している。視聴者装置が、MS−WindowsのOSを搭載するパーソナルコンピュータ上に実装されている場合、「open http://page1」というアクションの実行は、MS−Windows上のインターネットブラウザプログラム「iexplore.exe」等の機能を利用して、当該URLで指定されるホームページを開くことである。
この動作は、先ず、視聴者装置3002が、同期処理の対象となる番組の放送に先立ち起動され、図27に示すアクションテーブルをサーバ3001から取得する。次に、視聴者装置3002において、時刻が、00/09/04/19:00:00になった時点で、イベント識別子[00/09/04/19:00:00]のイベントが発生したとみなされ、対応するアクション「open http://page1」が実行され、http://page1で示されるホームページが表示される。次に、時刻が、00/09/04/19:04:00になった時点で、イベント識別子[00/09/04/19:04:00]のイベントが発生したとみなされ、対応するアクション"open http://page2"が実行される。次に、時刻が、00/09/04/19:09:15になった時点で、イベント識別子[00/09/04/19:09:15]のイベントが発生したとみなされ、対応するアクション「open http://page3」が実行される。以降同様に、イベント識別子で指定される時刻になった時点で、当該イベントが発生したとみなして、対応するアクションを実行して行く。
更に、図27に示すアクションテーブルの有効期限は00/09/04/19:15:00までなので、00/09/04/19:15:00になった時点で、現在参照している図27に示すアクションテーブルは、新しく取得されたアクションテーブルに更新され、その後、更新されたアクションテーブルのイベント識別子で指定される時刻おきにアクションを実行していく。
(実施例3−3)
次に、本発明によるシステムをテレビ映像放送に適用した、実施例3−3について説明する。
この実施例3−3では、図28に示すように、視聴者装置3002の出力装置3006は、放送映像を受像する放送受信装置と一体になっている。あるいは、両者が接続されている。視聴者装置3002には、入力デバイスとしてマウス等のポインティングデバイスが具備される。ポインティングデバイスとして、タッチパネルディスプレイを用いても良い。この場合、出力デバイスである放送受信装置に表示される放送映像の各映像フレーム中の被写体を、前記ポインティングデバイスを用いてポインティングすることが可能である。
放送映像を受信する放送受信装置と、視聴者装置の出力デバイスが一体になっている場合、前記放送受信装置および出力デバイス一体化装置の情報表示領域(ディスプレイ画面)は、図29に示すような構成をとることができる。
本実施例では、上述の環境において、視聴者が、視聴者装置に接続されるポインティングデバイスにより、放送映像の各映像フレーム中の被写体をポインティングした際に、ポインティングされた被写体に対応するアクションを実行するものである。実行されるアクションとしては、ポインティングされた被写体に関連するホームページを提示する、ポインティングされた被写体に関連するホームページをブックマークに追加する、等、様々な処理が考えられる。本実施例では、ポインティングされた被写体に対応するアイコンイメージを画面上に追加表示するアクションを実行する場合について説明する。
この場合に、関連情報提供サーバ3001より提供されるアクションテーブルの一例を図30に示す。図30に示すアクションテーブルは、有効時間が時刻0から時刻999までである。イベント識別子は、時刻情報(t1,t2)および当該時刻に放送映像表示領域中の被写体存在領域に対応する長方形領域の左上隅の座標(xa,ya)、および、右上隅の座標(xb,yb)から構成されており、[(t1,t2),(xa,ya)−(xb,yb)]というように記述されている。放送映像表示領域が図31に示すように、640x480(VGA)の解像度であるとした場合、イベント識別子[(0,299),(100,100)−(200,200)]は、時刻0から時刻299の間に左上隅座標を(0,0)として座標(100,100)、(200,200)を対角線とする長方形領域内がポインティングされたというイベントを意味する。ここで、通常、前記長方形領域内には、時刻0から時刻299の間、ポインティングの対象となる被写体Aが存在する。図30に示したアクションテーブルでは、当該イベント識別子[(0,299),(100,100)−(200,200)]に対応して、アイコンAを画面に追加表示するというアクション「add icon_A」が記載されている。
図30のアクションテーブルによれば、時刻0から時刻299の間に、座標(100,100)、(200,200)を対角線とする長方形領域内がポインティングされた場合、「add icon_A」が実行される。以下同様に、時刻0から時刻299の間に、座標(300,300)、(400,400)を対角線とする長方形領域内がポインティングされた場合、アイコンBを画面に追加表示するというアクション「add icon_B」が実行される。時刻300から時刻599の間に、座標(200,100)、(300,200)を対角線とする長方形領域内がポインティングされた場合、「add icon_A」が実行される。時刻300から時刻599の間に、座標(200,300)、(300,400)を対角線とする長方形領域内がポインティングされた場合、「add icon_B」が実行される。時刻600から時刻999の間に、座標(300,100)、(400,200)を対角線とする長方形領域内がポインティングされた場合、「add icon_A」が実行される。時刻600から時刻999の間に、座標(100,300)、(200,400)を対角線とする長方形領域内がポインティングされた場合、「add icon_B」が実行される。
通常、放送映像表示領域のポインティング対象となる長方形領域内にはポインティングの対象となる被写体が存在する。例えば、時刻0から時刻299の時点では、放送映像領域内には、図31に示すように被写体Aおよび被写体Bが存在する。したがって、上述の例では、視聴者が放送映像視聴中、時刻0から時刻299までに間に被写体Aをポインティングすると、図32に示すように被写体Aに対応するアイコンAが視聴者装置出力情報表示領域に追加表示される。
なお、以上まで各実施例の説明において、"add icon_X"で記述されるアクションは、更に拡張して、"add icon_X URL"と記述できる。具体的には、「add icon_A www.ntt.co.jp」という記述である。この例では、該アクションは、アイコンAを追加表示し、かつ、以後、任意時点で、アイコンAが視聴者により選択された場合には、URLアドレス"www.ntt.co.jp"の情報を提示するという処理に対応する。
前述したように、本実施の形態によれば、視聴者装置におけるイベントを様々な形態で定義することが可能である。例えば、各種ボタン操作発生時、マウス等のポインティングデバイスによる操作発生時、又は視聴者装置に接続されたマイクからの音声入力時がある。また、視聴者装置が音声認識のためのシステムを具備する場合には、マイクから所定の単語が入力された時がある。更に、絶対時刻が所定の時刻になった時、任意のイベント発生後、所定の時間が経過した時、又はこれらの複数が同時に発生した時、等がある。
また、本実施の形態によれば、前述したようなイベントを識別するためのイベント識別子を、事前に定義しておく。イベント識別子は、適用するサービス毎に定義が異なる場合もある。これにより、具体的な実施形態として前述したように、テレビ放送に連動した情報提供サービスを様々な形で提供できる。
なお、本実施の形態においても、視聴者情報及び端末情報に関連した関連情報を取得することが可能である。例えば、視聴者装置から関連情報提供サーバに予め視聴者情報及び端末情報を送信しておき、関連情報提供サーバが各視聴者装置毎のアクションテーブルを作成する際に、当該視聴者情報や端末情報を考慮するようにする。
(効果)
以上、本実施の形態によるシステム、方法及び制御プログラムを記録した記録媒体によれば、視聴者装置が、放送に多重されたデータ信号を取得することなく、放送される所定チャネルの放送コンテンツに同期したイベントに対する処理を、素早く実行することができる。従って、視聴者装置が、放送受信装置から放送に多重されたデータ信号を取得する機能を有する必要もない。また、視聴者装置がボタン操作等を行った際に、既にアクションテーブル管理手段30に保持されているアクションテーブルを参照して、即座に発生したイベントに対応するアクションが実行されるので、遅延時間が極めて短くなり、クライアント操作に対するレスポンスが遅いことによる操作性の低下を防ぐことができる。更に、本発明では、イベント識別子とアクションとの対応関係を記述したテーブル毎に有効期間が明示されているので、同期対象となる放送コンテンツの放送時刻や番組構成の動的な変化に対応できる。例えば、番組構成が常に変化するライブ番組等にも適用できる。アクションテーブルの有効期間は、同期対象となる放送コンテンツの提供者の意図により設定できる。有効期間を効果的に用いることにより、ライブ放送番組等と同期したイベント処理もある程度実現可能と考えられる。
また、本実施の形態によれば、サーバに視聴者装置毎のイベント識別子が管理されるので、同じイベントに対しても、視聴者装置毎に適切な異なるアクション内容が実行される。
[第4の実施の形態]
次に、本発明の第4の実施の形態について実施例4−1及び実施例4−2を用いて説明する。本実施の形態では、視聴者装置から関連情報提供サーバに部分放送情報を送信し、関連情報提供サーバは当該部分放送情報に基づき関連情報を検索し、視聴者装置に送信する。
(実施例4−1)
図33を参照すると、本発明の第4の実施の形態における関連情報提供機能付放送受信システムは、放送局4006より映像音声を含む放送情報を受信するとともに、入力部4012からの視聴者の関連情報取得指示により、視聴者が視聴中の放送情報又は該放送情報を変換して得られた特徴量情報である部分放送情報を送信し、関連情報を取得、視聴者に提供する関連情報取得部4011を有する視聴者装置4001と、インターネット等のネットワーク4005に接続され、放送情報と、放送情報の関連情報を蓄積し、視聴者装置4001からの部分放送情報に対応する関連情報を視聴者装置4001に送信する関連情報提供サーバ4002と、視聴者装置4001で受信された放送情報を蓄積する、VTR等の放送情報蓄積装置4003と、視聴者装置4001からのアクセスに対して関連情報ホームページを視聴者装置4001に送信するコンテンツ提供サーバ4004で構成されている。なお、視聴者装置4001は便宜上1台しか図示されていないが、実際には多数存在する。
視聴者装置4001は、BSデジタル放送、CSデジタル放送、地上波デジタル放送、ケーブルテレビ放送、IPネットワーク(インターネット)を介したネットワーク放送等の放送信号を受信し、音声映像等の放送情報を復号、再生し、視聴者に提示する機能を有する装置であり、テレビ放送であれば、放送受信アンテナ装置、チューナー装置あるいはSTB(Set Top Box)、テレビ等から構成される装置である。図33では、視聴者装置4001は、上述の機器が一体化された装置として図示しているが、視聴者装置4001は、放送受信アンテナ、放送信号から映像音声等の放送情報を復号する処理等を行う装置、映像音声等を表示再生する装置等が分離されており、必要な装置間が有線通信路もしくは無線通信路により接続されている構成でもよい。また、更に、視聴者装置4001は、ISDNやアナログ電話、その他の通信回線を介してインターネット等に接続し通信を行うためモデム等の通信装置を含んで構成される。更には、視聴者装置4001は、図33に示したように、VTR等の、受信される放送情報を蓄積するための放送情報蓄積装置4003を具備し、蓄積された放送情報を適時再生視聴するための機能を有する。なお、視聴者装置4001の内部構成は後で説明する。
関連情報とは、特定の放送情報に関連する情報であって、テキスト、画像、音声、音楽、映像等から構成されるマルチメディア情報である。放送情報として、例えば、映画が提供された場合には、関連情報とは、HTMLで記述されたその映画中の登場人物のプロフィール情報、BGMのタイトル、作曲者の情報等で、放送情報がCM映像である場合には、そのCMの宣伝する商品の詳細情報、CMのBGMの情報等である。あるいは、関連情報とは前記のマルチメディア情報コンテンツヘアクセスするためのアドレス情報、すなわち、当該コンテンツへのURL(Uniform Resource Locators)である場合もある。
関連情報が、任意の放送情報に関連するマルチメディア情報コンテンツへのURLである場合、視聴者装置4001は、関連情報提供サーバ4002にアクセスし、通知した放送情報識別情報に対応する関連情報であるURLを取得した後、インターネット4005を介して当該URLにアクセスし、コンテンツ提供サーバ4004よりホームページ等の情報コンテンツを取得し、これを視聴者に提示する。視聴者装置4001は、この処理を実施するための手段として、コンテンツ情報閲覧部4013を備えている。
関連情報提供サーバ4002は放送情報データベース4021と関連情報データベース4022と放送情報マッチング部4023と関連情報提供部4024を有している。なお、関連情報提供サーバ4002は、インターネット4005に接続されるWWWサーバとして実現される場合がある。
放送情報データベース4021は、各放送情報を、当該放送情報を識別するための情報である放送情報識別情報に対応させて管理している。すなわち、図33に示したように、蓄積される放送情報である放送番組映像音声群を、例えば、それぞれVideo 01、Video 02、Video 03、‥・という名前のファイルとして管理する。この場合、ファイル名が放送情報識別情報に相当する。更に、各映像音声ファイル中の映像フレーム番号を指定することで各映像音声ファイル中の一映像フレームまで特定することができる。この場合には、ファイル名及び映像フレーム番号が放送情報識別情報に相当する。更に、放送情報データベース4021内には、放送情報マッチング部4023が放送情報をマッチング検索する際の処理の高速化のために、検索処理に必要なメディア変換、あるいは特徴量抽出処理を施すことにより得られる情報(例えば、音声信号より抽出される特徴ベクトル情報等)が保持される場合がある。関連情報データベース4022は、放送情報データべース4021に蓄積された放送情報識別情報と当該放送情報に対応する関連情報とを対応させた、図34に示すようなテーブルを含む。図34に示した例において、関連情報は、関連する情報を含むホームページのURLとなっている。
放送情報マッチング部4023は、視聴者装置4001より受信した部分放送情報と対応する放送情報を放送情報データベース4021中より検索することにより該部分放送情報に対応する放送情報の放送情報識別情報を特定する。関連情報提供部4024は関連情報データベース4022を参照し、特定された放送情報識別情報に対応する関連情報を取得し、視聴者装置4001に送信する。
図35に示すように、視聴者装置4001は関連情報取得部4011と入力部4012とコンテンツ情報閲覧部4013と放送受信部4014と放送情報復調複号部4015と表示再生部4016とネットワーク通信部4017と部分放送情報バッファ4019で構成されている。
放送受信部4014はアンテナで、放送局4006からの放送情報を受信する。放送情報復調復号部4015は放送受信部4014で受信された放送情報を復調復号し、表示再生部4016と、関連情報取得部4011と、放送情報を蓄積する場合には更に放送情報蓄積装置4003に出力し、また放送情報蓄積装置4003から蓄積された放送情報を入力し、再生する。入力部4012は関連情報取得指示ボタン18及びその他不図示の各種ボタンを有している。関連情報取得部4011は、前述したように、視聴者が関連情報取得指示ボタン4018を操作すると、視聴者が視聴している放送情報より部分放送情報を生成し、ネットワーク通信部4017よりネットワーク4005を経て関連情報提供サーバ4002に送信し、関連情報提供サーバ4002から送信されネットワーク4005を経てネットワーク通信部4017で受信された関連情報を取得し、それに含まれるURLをコンテンツ情報閲覧部4013に出力する。コンテンツ情報閲覧部4013はURLによりネットワーク通信部4017、ネットワーク4005を経てコンテンツ提供サーバ4004にアクセスし、コンテンツ提供サーバ4004から送信されてきた関連情報ホームページをネットワーク通信部4017を介して受け取り、表示再生部4016に出力する。表示再生部4016はCRT、LCD等の表示手段と、表示回路からなり、放送情報である映像音声や関連情報ホームページ等を表示する。部分放送情報バッファ4019は視聴された映像音声を一時的に記憶する。
次に、本実施形態の関連情報提供機能付放送受信システムの動作を説明する。
視聴者が放送情報を視聴中に関連情報取得指示ボタン4018を操作すると、関連情報取得部4011は視聴中の放送情報、又は該放送情報を変換して得られた特徴量情報を部分放送情報として関連情報提供サーバ4002に送信する。なお、視聴者が任意の時点に再生視聴中の、放送情報蓄積装置4003に蓄積された放送情報に対応する関連情報を取得する場合は、前記任意の時点に再生視聴中の、放送情報蓄積装置4003に蓄積された放送情報、もしくは前記任意の時点に再生視聴中の放送情報蓄積装置4003に蓄積された放送情報を変換して得られる特徴量情報を部分放送情報として関連情報提供サーバ4002に送信する。ここで、関連情報は、実際に放送情報に関連した情報を提供するホームページ等へのURLであるものとしている。関連情報提供サーバ4002では、部分放送情報が視聴者装置4001から通知されると、放送情報マッチング部4023が放送情報データベース4021を検索することにより該部分放送情報に対応する放送情報の放送情報識別情報を特定し、関連情報提供部4024が、図34に示すようなテーブルを参照して該放送情報識別情報に対応付けられた関連情報(すなわちURL)群を取得し、これを視聴者装置4001へ通知する。視聴者装置4001の関連情報取得部4011は取得された関連情報を視聴者に提示する。
ここで、関連情報取得部4011の実現例として、視聴者装置4001に具備される関連情報取得指示ボタン4018等の入力手段が視聴者によって操作され、関連情報取得が指示された時点で関連情報提供サーバ4002にアクセスし、部分放送情報を関連情報提供サーバ4002に通知し、関連情報データベース4022から該部分放送情報に対応する放送情報識別情報に関連付けられた関連情報を取得し、視聴者に提示する以外に、(1)逐次連続的に関連情報提供サーバ4002にアクセスし、視聴者が視聴中又は再生視聴中の放送情報に関する全ての関連情報を逐次関連情報管理データベース4022より取得し、視聴者に提示する、(2)視聴者装置4001がいわゆるブックマーク用ボタンと、関連情報取得指示ボタン4018、及びメモリ(記憶装置)を具備し、視聴者がブックマーク用ボタンを操作しブックマークした時点の部分放送情報をメモリに蓄積しておき、視聴者が、関連情報取得指示ボタン4018を操作し関連情報取得が指示された時点で関連情報提供サーバ4002にアクセスし、メモリに蓄積された部分放送情報を関連情報提供サーバ4002に通知し、関連情報データベース4022から該部分情報に対応する放送情報識別情報群に関連付けられた関連情報群を取得し、視聴者に提示する等が考えられる。
また、放送情報マッチング部4023が、視聴者装置4001より受信した部分放送情報と対応する放送情報を放送情報データベース4021中より検索することにより該部分放送情報に対応する放送情報の放送情報識別情報を特定する際には、K・Kashino、G.Smith and H.Murase:"Time−Series active search for quick retrieval of audio and video"、Proc.of ICASSP−99、Vol.6、PP.2993−2996、Mar.1999、もしくは、柏野邦夫、村瀬洋、"音や映像を瞬時に探す時系列アクティブ探索法"、NTTR&D、Vol.49、No.7、2000、PP.407−413に記載の手法を使用するものとしている。前記の手法は、放送等の長時間の音声もしくは放送中から、特定の番組タイトルやCM等、目的とする音や映像の有無及び対応位置を高速に検出する手法で、音声を検索する場合、検索対象となる音声全体、及び検索する音声の特徴ベクトルのヒストグラムに基づいて検索を行うものである。これらの手法を用いる場合には、部分放送情報は、関連情報の取得の対象となる時点を含む一定時間に視聴された映像音声中の音声データあるいは、該音声信号から抽出される特徴ベクトルに相当する。視聴者装置4001に具備される関連情報取得部4011が特徴ベクトルを部分放送情報として関連情報提供サーバ4002に送信する場合には、関連情報取得部4011は、音声信号から特徴ベクトルを抽出する機能をも有する。
部分放送情報としては、上述した音声信号もしくは音声信号から抽出される特徴ベクトル以外に、映像フレームデータ、映像シーケンスデータ(一連の連続するフレームデータ)、色ヒストグラム等の映像信号より抽出される各種特徴量が考えられる。
次に、本実施形態において、視聴者が視聴中に放送に関連する情報を取得する際のシステムの具体的動作について説明する。
まず、視聴者装置4001を用いて視聴者が、放送中の放送映像音声、もしくは、放送情報蓄積装置4003に蓄積された放送映像音声を再生視聴中に、関連情報取得部4011は常に、部分放送情報バッファ4019にa時間前までの視聴された映像音声をバッファリングしている。ここで、視聴者が視聴中の映像音声の内容に興味をもち関連情報取得指示ボタン4018を操作したとする。この結果、関連情報取得部4011は、関連情報取得指示ボタン4018が操作された時点tよりa時間前から時刻tまでの期間、すなわち、時刻t−aから時刻tまでの時間に視聴された放送映像音声の音声信号を部分放送情報として、ネットワーク通信部4017を介して関連情報管理サーバ4002に送信する。
関連情報提供サーバ4002の関連情報提供部4024は、受信された部分放送情報を放送情報マッチング部4023に送信する。放送情報マッチング部4023は、受信された部分放送情報、すなわち音声信号を利用して、放送情報データベース4021から該部分放送情報に対応する放送情報を検索する。検索の結果、例えば、映像ファイルVideo 01のフレーム1番からフレーム3番までの映像シーケンスが受信された部分放送情報に適合したとする。ここで、受信された部分放送情報は、視聴者が関連情報取得指示ボタン4018を操作した時点tよりa時間前から時刻tまでの期間、すなわち、時刻t−aから時刻tまでの時間に視聴された放送映像音声の音声信号に相当するので、適合した映像シーケンス中の最後の時刻に相当する映像フレームが、視聴者が関連情報取得指示ボタン4018を操作した時点tに視聴中の映像フレームに相当する。放送情報マッチング部4023は、前述のような判断を行い、結果として、放送情報識別情報として"ファイル名:Video 01、フレーム番号:002"という情報を関連情報提供部4024に通知する。関連情報提供部4024は、図34に示す関連情報データベース4022を参照し、受信された放送情報識別情報"フィル名:Video 01、フレーム番号:002"に対応する関連情報として、http://www.aaa.co.jp./program information.htmlというURLを関連情報として視聴者装置4001へ返信する。
視聴者装置4001では、受信されたURLをコンテンツ情報閲覧部4013に送り、コンテンツ情報閲覧部4013は、該URLアドレスで指定されるコンテンツ提供サーバ4004にアクセスし、関連情報ホームページを取得し、これを表示再生部4016により視聴者へ提供する。
(実施例4−2)
以上までに述べた例においては、基本的に、視聴者が任意の放送情報を指定した場合に提供される関連情報は、視聴者の属性によらず、同一の放送情報に対応しては、全視聴者に同一の関連情報が提供されるものであった。
本実施の形態においても、上述した各実施の形態と同様に、視聴者情報や、視聴者装置の端末情報に基づいて、視聴者及び視聴者装置毎に異なる関連情報を提供することが可能である。本実施の形態では、視聴者及び視聴者装置毎に異なる関連情報を提供する構成について、実施例4−2として詳細に説明する。
第1の実施の形態と同様、視聴者情報とは、視聴者に関する情報であり、名前、性別、年齢、職業、住所、郵便番号、家族構成、住居に関する情報(マンション、一戸建て、等)、趣味、興味を有する情報ジャンル(政治、経済、ニュース、コンピュータ、書籍、スポーツ、旅行、等)、年収、各種サービスの会員であるか否かという情報及び会員番号あるいはクレジットカードID、各種資格(運転免許、等)保有の有無、体形に関する情報(体重、身長、衣類のサイズ等)、能力に関する情報(視力、聴力、等)、等のいずれか複数を含むものである。
端末情報とは、視聴者装置の表示装置の解像度、表示可能色数、WWW情報閲覧手段の性能(Java機能利用可否、映像音声コンテンツ再生機能の有無、映像音声コンテンツで再生できる符号化フォーマット情報、等)等の情報である。
以下に、視聴者情報や、視聴者装置の端末情報に基づいて、視聴者及び視聴者装置毎に異なる関連情報を提供する場合について、実施例4−1と異なる点について、図36、図37を参照して説明する。
本実施例においては、図37に示すように、視聴者情報及び端末情報を記憶保持するための記憶部4030が、視聴者装置に具備されている。また、入力部4012は、視聴者情報を入力するための機能を視聴者に提供する。視聴者は、事前に、入力部4012を介して、各種視聴者情報を入力し、入力された視聴者情報が、記憶部4030に保持される。
また、端末情報は、端末製造時に記憶部4030に保持されるか、表示再生部4016が接続された時点で、表示再生部4016より記憶部4030に通知され保持される。
また、本実施例において、関連情報データベース4022に保持される関連情報は、URL等の関連情報本体とその属性情報から構成される。属性情報とは、当該関連情報の提供対象となり得る視聴者の特性、すなわち、性別、年齢、体形特性、能力特性、職業、地区、郵便番号群、家族構成特性、住居特性、年収、及び、当該関連情報の属する情報ジャンル、当該関連情報を利用するのに必要なサービス利用権利及び資格に関する情報と、提供対象となる端末の特性、すなわち、表示装置の解像度特性、表示可能色数、コンテンツ情報閲覧部4013の性能、等である。
関連情報本体がURLであった場合の関連情報は、例えば、
関連情報例1:「URL1,(女性用),(対象年齢20以上),(1024x800以上),(256色以上)」
関連情報例2:「URL2,(衣類サイズM),(Java機能必要)」
関連情報例3:「URL3,(職業:主婦),(東京都)」
関連情報例4:「URL4,(女性用),(視力0.8以下)」
関連情報例5:「URL5,(ジャンル:スポーツ)」
というようなものになる。
この例において実際の関連情報は、関連情報例1では女性向けのタバコの広告情報であり、20歳未満、もしくは、男性には不向きなコンテンツである場合等に当たる。関連情報例2は衣類の広告情報、また、関連情報例3は東京都内のスーパーマーケットの商品情報、関連情報例4は、女性用眼鏡の広告情報、等である場合が考えられる。また、関連情報5はスポーツ用品の広告等である場合が考えられる。
視聴者装置の4001関連情報取得部4011は、図36に示すように、関連情報提供サーバ4002にこれまでに述べた実施例において、部分放送情報を送信する際に、視聴者情報及び端末情報、もしくは、前記いずれかの情報を、部分放送情報とともに送信する。
関連情報提供サーバ4002の関連情報提供部4024は、前述の実施例において述べた手順に従って部分放送情報から放送情報識別情報を特定し、更に対応する関連情報を特定する。その後、対応する関連情報に付与された、視聴者情報及び端末情報を参照し、これらに基づいて関連情報を選別し、視聴者装置に送信する。
具体的には、視聴者装置4001より、関連情報提供サーバ4002に受信された部分放送情報から特定された放送情報識別情報に対応付けられた関連情報が上記の関連情報例1〜4に示したものであり、視聴者情報が(女性)であり、端末情報が、(解像度800x600)、(Java利用不可)であった場合には、関連情報提供部4024は、解像度が1024x800以上必要ということが条件である関連情報例1と、Java機能必要が条件である関連情報例2を除外し、残りのURL3、URL4、URL5を視聴者装置4001に送信する。
また、前記視聴者情報が、(女性)、(京都府)、(視力1.5)(興味ジャンル:書籍)であり、前記端末情報は、(解像度1024x800)、(Java利用可)であった場合には、関連情報提供部4024は、対象地区が東京都である関連情報例3と、対象視聴者の視力が0.8以下である関連情報例4と、ジャンルが指定してあってかつそのジャンルが書籍以外である関連情報例5を除外し、残りのURL1、URL2を視聴者装置4001に送信する。
上述の例以外に、属性情報として、(Aサービス会員のみ利用可)という情報が関連情報に付与されており、視聴者情報としてAサービス会員番号が含まれる場合に、該関連情報を視聴者装置4001に送信する場合がある。また、属性情報として、(自動車免許必要)という情報が関連情報に付与されており、視聴者情報として(自動車免許有)が含まれる場合に、該関連情報を視聴者装置4001に送信する場合等がある。
また、属性情報として、(mpeg2形式)という情報が関連情報に付与されており、端末情報として(再生可能符号化方式:mpeg2)が含まれる場合に、該関連情報を視聴者装置に送信する場合等がある。
このように上記の実施例4−2においては、視聴者情報、端末情報を利用することにより、視聴者にとって必要性のない関連情報、及び、視聴者の利用する視聴者装置において利用できない関連情報は送信されず、視聴者にとって必要と考えられる情報、あるいは、利用可能な情報のみを視聴者に提供する。
(効果)
以上説明したように、本実施の形態によれば、放送映像音声に対して関連情報を提供するために必要な情報を付加する等の特別な処理を行う必要がなく、かつ、放送映像音声を一時蓄積して再生視聴する際にも、ネットワークを介して放送映像音声に関する関連情報の提供サービスが可能となる。
[第5の実施の形態]
次に、本発明の第5の実施の形態について説明する。本実施の形態では、放送音声に重畳されたフレームID等を利用することにより、放送画像フレームに正確に同期したサービスを実現する。
そのようなサービスとしては、例えば、テレビ放送を視聴中に、利用者が手元の視聴者装置上のボタンを押しておくと、ボタンが押された時点でテレビに映し出されていた映像の内容に関連する関連情報がネットワークを介して取得され、視聴者装置において利用できるといったサービスがある。
また、教育番組等の視聴中において、視聴者装置の表示装置には、当該教育香組において説明に用いられるテキストブック等が表示され、番組の進行に合わせてページが捲られる、下線がひかれる、解説の対象となっている箇所を示すポインターが表示される、等のアクションが発生するというようなサービスも可能である。
上述したようなサービスを実現するためには、視聴者装置が、任意の時点で、利用者が視聴している放送の内容を把握できる必要がある。すなわち、本実施の形態では、視聴者装置は、常に、利用者がテレビのどのチャンネルを視聴中であるか、現在、テレビにはどの映像が映っているか等の情報を、音声に重畳されたフレームID等を利用して把握する。従って、例えば、視聴者装置においてボタンが押された時点で、視聴中の映像に関連する関連情報を取得するサービスにおいて、テレビに映っている映像シーンが切り替わって、その内容が変わった時点で、瞬時に、取得対象となる関連情報を切り替えることができる。
なお、本実施の形態における"関連情報"の用語は、放送情報に関連するコンテンツを取得するための情報を指す場合に使用する他、放送情報に関連するコンテンツ自身を指す場合についても使用する。
図38は本発明の第5の実施の形態における放送同期型サービス提供システム全体の構成の例を示す図であって、数字符号5001は放送局、5002は送信手段、5003は信号付加手段、5004は映像、5005は音声、5006は放送、5007は放送受信装置、5008は映像・音声記録装置、5009は視聴者装置、5010はマイクロホン(MIC)、5011はデータ信号抽出手段、5012は出力手段、5013は入力手段、5014はネットワークヘの接続線を表している。
同図に示す放送同期型サービス提供システムは、音声や映像を放送する放送局側において、少なくともチャネルIDと、画像フレームID又は音声フレームIDの両者を含むデジタルデータ信号を放送波のアナログ音声波に重畳する信号付加手段5003を具備している。
音声波へのデータ信号の重畳は、例えば放送する映像のフレームレートが30フレーム/秒の場合、1/30秒毎に逐次データ信号を重畳する等の方法を採ることができる。このような、信号付加手段が音声にデータ信号を重畳する方法としては、例えば、データハイディング技術(日経エレクトロニクス、No.683(1997)、pp.99〜125、149〜162参照)を用いることができる。
音声信号にデータ信号を重畳する方法の例として、送信側で、2値化したデータ信号の"0"、"1"に対応させて音声信号の特定の周波数成分(帯域)を削除して送信し、受信側では、該音声信号から削除されている周波数成分を検出して2値データ列を再生する方法や、送信側で、2値化したデータ信号の"0"、"1"に対応させた特定の周波数成分を音声信号の帯域外で送信し、受信側では、該音声信号の帯域外に付加されている周波数成分を検出して2値データ列を再生する方法等がある。
図38において、放送受信側は、放送された音声及び映像を再生する放送受信装置と、前記放送受信装置5007と通信回線等の通信手段を有さない視聴者装置5009から構成されている。
図39は視聴者装置の構成の例を示す図である。視聴者装置5009は、放送受信装置のスピーカより再生される放送情報の音声を集音するためのマイクロホン10と、該マイクロホンより入力された音声から重畳されている信号を抽出し、チャネルIDと画像フレームIDを確認するデータ信号抽出手段5011と、ネットワーク上の関連情報コンテンツ提供サーバと通信するための通信手段5015とを有する。
また、各処理に必要なデータを記憶しておくための記憶手段5016と、利用時にネットワーク上のサーバから提供された関連情報等をユーザに表示するためのディスプレイ等の出力手段5012と、ユーザが端末の操作に必要な情報を入力するためのマウスやキーボードといった入力手段5013と、それらを制御するための制御手段5017とを有する。
本実施の形態における放送同期型サービス提供システムでは、図39に示すように放送局側において、放送情報の音声に前述のようにデータ信号を重畳し、放送情報の映像とともに放送する。一方、視聴者装置は、図39の中に示したデータ信号抽出手段(チャネルIDと画像フレームの識別手段)により、放送情報のアナログ音声波に重畳されたデータ信号を抽出することによって、現在、ユーザが視聴している放送情報の状態、つまり、どの放送チャネルのどのような場面を見ているかを正確に把握することができる。
従って、前記視聴者装置は、ネットワーク上等に存在する前記放送情報に関連する関連情報を提供するサーバと通信することで、ユーザに対して放送同期型サービスを提供することができる。ここで、前述したように、放送同期型サービスとは、例えば、視聴中の番組進行(実際には、音声や画像フレームの変化)に同期して変化する関連情報を逐次ユーザに提供する、あるいは、ユーザが興味を持ったシーンにおいてボタン等を押すことで前記シーンにおける関連情報をマークし、後で閲覧する、といったようなサービスをあげることができる。
更に、上述のシステムのうち放送受信装置に、放送情報が記録及び再生できる手段を接続し利用することによって、ユーザは今現在放送されている放送番組だけでなく、一度記録した放送番組に対して、いつでも自由に前述のようなサービスを利用することができる。以下に、本放送同期型サービス提供システムの動作について説明する。
図40に第5の実施の形態における実施例の構成図を示す。同図において数字符号5001は放送局、5007は放送受信装置、5008は映像・音声記録装置、5009は視聴者装置、5010はマイクロホン(MIC)、5011はデータ信号抽出手段、5018は出力デバイス、5019は入力デバイス、5014はネットワークへの接続線、5020は放送情報データベース、5021は放送情報関連情報付与装置、5022は放送情報データベース構築装置、5023a〜5023dは関連情報コンテンツ提供サーバ(a)〜(d)を表している。
本発明の放送同期型サービス提供システムでは、製作された放送情報は番組として、一般ユーザに向け放送局側の放送手段により放送される。この際、前記放送情報のうち音声には、放送チャネルが一意に識別可能なチャネルIDと画像フレームが一意に識別可能な画像フレームIDを含むデータ信号を信号付加手段により重畳する。
以上の処理を放送同期型サービスの対象とするすべての放送情報に対して行う。これによって、前記サービスの対象となるすべての放送情報は重畳されたデータ信号を抽出することによって、現在、視聴している放送チャネルと画像フレームを一意に識別することができる。
一方、放送受信側においては、テレビ等の放送受信装置5007を利用することで放送された放送情報を従来どおり視聴することができる。そして、ユーザは視聴者装置5009を起動させることによって放送同期型サービスを受けることができる。該視聴者装置5009は起動すると、放送受信装置5007のスピーカより出力される音声をマイクロホン10で集音する。
集音した音声からデータ信号抽出手段によりチャネルIDと画像フレームIDを確認する。このとき、確認されたチャネルIDに基づき視聴者装置はネットワーク上に点在する各放送チャネルの放送情報毎に関連する関連情報コンテンツ提供サーバから、現在、視聴している放送チャネルの放送情報に関連する関連情報コンテンツ提供サーバを特定した後、ネットワークを介し前記関連情報コンテンツ提供サーバにアクセスし画像フレームIDを送信する。
関連情報コンテンツ提供サーバは、放送情報のデータベース構築装置5022や関連情報付加装置5021等によって構築された放送情報データベースを管理している。該放送情報データベースには、各画像フレームIDに音声や映像や文字やサービス端末への実行命令といった各種の関連情報が関連付けられたテーブルが用意されており、画像フレームIDを指定することによつて容易に関連する関連情報のセットを指定できる。
従って、関連情報コンテンツ提供サーバは、クライアントに当たるユーザ側の視聴者装置より送信された画像フレームIDの情報を受信することによつて、今現在ユーザが視聴しているシーンを正確に把握できるので、シーンに応じた関連情報を前記視聴者装置に送信することができる。上述の操作を逐次繰り返すことによって、ユーザは現在視聴している放送情報に正確に同期した関連情報の提供を受けることができる。これによって、放送同期型サービスを実現することができる。
また、本発明の放送同期型サービス提供方法では、上述の放送同期型サービス提供システムの動作を基本とし、更に、画像フレームIDの形式を指定することでユーザが、現在、視聴している放送情報を視聴者装置が把握する際の信頼性を向上させる。
図41にはチャネルIDと画像フレームIDを含むデータ構造を示す。チャネルIDと画像フレームIDは上述したように放送チャネルと画像フレームが一意に識別可能なものとするが、中でも画像フレームIDは時系列的に連続な数字とする。視聴者装置では前述のように放送受信装置のスピーカから再生された音声をマイクにより集音しデータ信号抽出手段によりチャネルIDと画像フレームIDを逐次識別する。
図42は前記二つのIDを確認する際の実際の処理フローを示す。視聴者装置は、起動されると"最後のチャネルID"と"最後の画像フレームID"の二つの値を初期値にセットする。このときセットする初期値は、例えば、"最後のチャネルID"の値であれば、前回、視聴し終了させる直前にみていたチャネルID、もしくは、予め定めたチャネルID等が考えられ、"最後の画像フレームID"の値であれば、"0"等の値が考えられる。
前記視聴者装置は、音声から逐次データ信号を抽出しチャネルIDと画像フレームIDの識別(ステップS1)を行うが、正確に前記二つのIDが確認されたかどうかに基づき以下のような処理に従う。まず、チャネルIDが正確に確認された場合は、前記チャネルIDを現在再生されている放送チャネルのチャネルIDとして利用し(ステップS2)、音声からデータ信号が正しく抽出されず、チャネルIDが確認されなかった場合には、"最後のチャネルID"の値を現在再生されている放送チャネルのチャネルIDと見なし利用する(ステップS3)。そして、現在のチャネルフレームIDを記録する(ステップS4)。
一方、画像フレームIDの認識(ステップS5)については、正確に画像フレームIDが確認された場合は、チャネルIDと同様に前記画像フレームIDを現在再生されている画像の画像フレームIDとして利用する(ステップS6)。一方、確認されなかった場合には、前述したように画像フレームIDが時系列的に連続な数字であることから、"最後の画像フレームID"の値に1を加算した値を現在再生している画像の画像フレームIDと見なし利用する(ステップS7)。そして規在の画像フレームIDを記録する(ステップS8)。
チャネルID、画像フレームIDともに現在の値として利用した後は、それぞれ、"最後のチャネルID"の値、"最後の画像フレームID"の値にセットする(ステップS9)。そして、次の区間の音声からデータ信号を抽出する(ステップS10)。このようにして逐次行われる処理の流れにおいて常に最新に利用した値を保持し利用することができる。上記のように画像フレームIDを決定し、処理フローに従うことによって、同一番組視聴中において音声からデータ信号が正しく抽出されなかった場合においても画像フレームIDを補間することができるからサービスの提供を維持できる。
本放送同期型サービス提供方法をテレビ放送に適用した場合の具体的な実施例として、あるテレビ番組を例にとり説明する。このテレビ番組を放送する放送局にはあらかじめ音声にデータ信号を重畳する手段が具備されているものとし、前記放送局のチャンネルIDとして"a"が与えられているものとし、画像フレームDは"1"から始まるものとする。
また、ここでは視聴者装置起動後におけるデータ信号抽出手段の結果によるチャネルIDと画像フレームIDの確認結果を図43のように想定し、"最後のチャネルID"の値を格納する変数を"LAST−CH−ID"、"最後の画像フレームID"の値を格納する変数を"LAST−FRAME−ID"、"現在のチャネルID"の値を格納する変数を"CH−ID"、"現在の画像フレームID"を格納する変数を"FRAME−ID"とする。
まず、このテレビ番組を視聴している際、視聴者装置を起動させると、初期値として例えば、"LAST−CH−ID"には"z"、"LAST−FRAME−ID"には"0"がセットされたとする。次に、初めて前記サービス端末がデータ信号抽出手段を用いて識別を行った結果は図43から、チャネルIDは"a"、画像フレームIDは"1000"と正確に確認された(step1)ことにより"CH−ID"に"a"、"FRAME−ID"に"1000"がセットされ、更に、"LAST−CH−ID"に"a"、"LAST−FRAME−ID"に"1000"がセットされる。
しかし、更に次のデータ信号抽出手段による結果では図43から、チャネルIDと画像フレームIDともに"不明"となっている(step2)。従って、前述した図42の処理フローに従い、"CH−ID"は"LAST−CH−ID"を参照することで"a"を、"FRAME−ID"は"LAST−FRAME−ID"を参照し1を足すことで"1001"をセットし、それぞれの値を新しい"LAST−CH−ID"、"LAST−FRAME−IDの値とする。
このような手順に従い図43のデータ信号抽出処理結果に対して得られた各変数の値を図44に示す。一方で、視聴者装置は処理フローの結果得られた"CH−ID"の値に基づき放送内容に関連する関連情報コンテンツ提供サーバにネットワークを介してアクセスし、逐次"FRAME−ID"を送信する。
関連情報コンテンツ提供サーバは受信した"FRAME−ID"にあらかじめ関連付けられた、文字データ、音声データ、画像データ、あるいは関連情報の存在するURL等をサービス端末に送信し、サービス端末で、それらのデータの表示、再生、描画をしたり、あるいはURLをブラウザで開いたりする。
例えば、番組内容が英会話であれば、放送情報中の人物の発音する文章に合わせて、テキストとして文字データが表示され、更に重要な文章には下線が引かれるといった関連情報の変化を例に挙げることができる。
なお、以上の説明では、テレビ放送のように映像と音声が同時に放送される場合について記述しているが、本発明は、音声と映像が同時に放送される場合だけではなく、ラジオのように音声のみの放送に対しても有効である。この場合は画像フレームが存在しないので、画像フレームIDの代わりに音声フレームIDを用いる。音声フレームIDは一定の時間刻みで区切られた音声の各区間に一意に割り当てられた識別子である。
また、これまでの説明では、テレビ受像機等の放送受信装置のスピーカからの音声出力を、視聴者装置がマイクロホンで受けて電気信号に変換し、該電気信号から画像フレームIDや音声フレームIDをデータ信号として抽出する構成について述べているが、テレビ受像機等の放送受信装置から音声電気信号が直接取り出せる場合には、マイクロホンを介在させることなく、直接該音声電気信号から重畳されているデータ信号を抽出する構成とすることもできる。
なお、本実施の形態においても、視聴者情報や視聴者装置の端末情報に基づいて、視聴者及び視聴者装置毎に異なる関連情報を提供することが可能である。例えば、実施例4−2で説明した方法と同様にして、視聴者装置が関連情報コンテンツ提供サーバに関連情報を要求する際に、フレームID等と共に視聴者情報や端末情報を送信し、関連情報コンテンツ提供サーバでは、当該視聴者情報や端末情報に関連した関連情報を選択して視聴者装置に提供するようにすればよい。
(効果)
本実施の形態に係る発明によれば、テレビ受像機やラジオ等の放送受信装置と、デジタル信号通信を行うための通信回線等の通信手段を有さない視聴者装置においても、放送情報の音声に重畳されたデータ信号を抽出し、チャネルIDと画像フレームIDや音声フレームIDを確認することによって、現在、視聴している放送チャネルと画像フレームを認識することが可能となり、放送内容とネットワーク上等にある関連する情報コンテンツとの同期を正確にとることが必要なサービスを実現できる。
更に、放送情報の記録及び再生できる手段を接続することによって、リアルタイムに視聴しない場合、つまり、あらかじめ放送音声映像を記録しておき自分の好きなときに視聴するように構成した系においても、前記手段により映像及び音声を再生することによつて、放送チャネルと画像フレームや音声フレームIDを認識することが可能となり、リアルタイムに視聴する際と同様なサービスの提供を受けることができる。
また、視聴者装置において、放送受信装置から再生された音声をマイクより集音する際、雑音等の影響によって、音声から正しくデータ信号を抽出することができず、画像フレームIDが一時的に確認できなかった場合においても、欠落した画像フレームIDや音声フレームIDを補間することができるので、同一放送番組視聴中において前述の放送情報と関連情報との正確な同期が必要なサービスの提供を途中で中断することなく維持し続けることができる。
すなわち、以上説明したように、本実施の形態によれば、放送映像視聴装置とは別に設けられ、放送受信装置から放送に多重されたデータ信号等を直接取得できる機能がない視聴者装置において、今現在、視聴中の放送番組内容の変化に正確に同期する関連情報のサービスを提供することが可能となる。すなわち、ユーザが放送映像に合わせて操作しなくても、自動的に且つタイミングよく関連情報を更新することができ、放送同期型サービスの操作性を向上させることができる。
更に、本実施の形態の放送同期型サービス提供方法によれば、画像フレームIDを連続的な数字とすることにより、視聴者装置において、音声からの画像フレームIDの抽出に失敗しても、時間的な差分から画像フレームIDを補間し利用することができる。また、記録装置によって一度蓄積された記録映像であっても音声も同時に記録されていることを利用するとユーザの好みの時間に前述の放送同期型サービスの提供を受けることができる。
なお、上記各実施の形態における本発明の視聴者装置及び関連情報提供サーバ等は各々、CPU、メモリ、ハードディスク、CD―ROM等を有するコンピュータを用いて構成することができ、視聴者装置及び関連情報提供サーバ等の各々における機能は、各装置又はサーバに搭載されるプログラムによって実現することができる。当該プログラムは、CD−ROM等の記録媒体からコンピュータにインストールすることもできるし、ネットワークを介してコンピュータにダウンロードする形態をとることもできる。
本発明は、上記の実施例に限定されることなく、特許請求の範囲内で種々変更・応用が可能である。