JP3723412B2 - Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system - Google Patents

Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system Download PDF

Info

Publication number
JP3723412B2
JP3723412B2 JP2000141390A JP2000141390A JP3723412B2 JP 3723412 B2 JP3723412 B2 JP 3723412B2 JP 2000141390 A JP2000141390 A JP 2000141390A JP 2000141390 A JP2000141390 A JP 2000141390A JP 3723412 B2 JP3723412 B2 JP 3723412B2
Authority
JP
Japan
Prior art keywords
semantic information
video
index
client
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2000141390A
Other languages
Japanese (ja)
Other versions
JP2001326924A (en
Inventor
清 田中
明人 阿久津
花籠  靖
徹 湯口
健人 宮奥
貴久 田浦
佳伸 外村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2000141390A priority Critical patent/JP3723412B2/en
Publication of JP2001326924A publication Critical patent/JP2001326924A/en
Application granted granted Critical
Publication of JP3723412B2 publication Critical patent/JP3723412B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

【0001】
【発明の属する技術分野】
本発明は,インターネット放送を始めとするネットワーク放送での映像配信サーバとクライアント,あるいはデジタル放送での放送装置と受信装置における映像提供サービスシステムに関するものである。
【0002】
【従来の技術】
最近の映像提供サービスシステムでは,アナログベースからデジタルベースへ移行しつつあり,また,MPEG2方式による映像圧縮されたビットストリーム伝送方式の進展に伴い,複数の映像を同時に送信して,受信側でいずれかの映像を選択することにより,従来では不可能であった多彩なサービスを可能にしている。
【0003】
例えば,テレビ放送分野では,高品質な数百チャンネルの番組提供,EPG(電子プログラム)を用いた番組の予約,視聴,番組連動型放送や,インタラクティブ放送による視聴者参加型ライブ番組の実現などが可能になっている。
【0004】
インターネット放送の分野では,映像符号化により映像データを圧縮し,ネットワーク上での配信(放送)やオンデマンドサービスなども実現されている。
【0005】
また,蓄積映像,音声,HTML等の多種多彩な素材コンテンツを組み合わせ,一つのコンテンツとして構成,表現するシステムも提案され,予め与えられたシナリオに沿って各コンテンツを同期再生して表示したり音声合成させたりすることを実現し,従来のコンテンツよりも多彩な表現が可能になっている。
【0006】
【発明が解決しようとする課題】
しかし,従来技術で行われている映像提供サービスシステムでは,実現が難しい問題がある。例えばライブ映像の送受信に関して,見たい番組の予約は比較的簡単に実現可能であるが,見たいシーンの予約はできない。例えばスポーツライブ中継を例にとると,サッカーのゴールシーンや野球のホームランシーン等のハイライトシーンを選択的に予約することができない。これらのシーンを見逃さずに視聴するためには,ライブ中継を最初から最後までモニター画面から視線を逸らさずに見ているか,一度蓄積メディア(VTR等)に記録して視聴するかの方法をとらなければならない。
【0007】
また,インターネットにおいて映像配信サーバからクライアントが映像情報(音声情報を含む)を利用できる放送型サービスはすでに実用化され,盛んに利用されているが,提供された映像に関連したテキスト情報や音声,画像情報の検索までをサポートするようなサービスの提供はまだ不十分な段階である。
【0008】
映像の参照情報を与える方法としては,映像と同時に情報ストリームを送信することにより,映像に付加価値を与える情報を提供する方法があるが,提供される情報はサーバ主導で切り替えることしかできず,個々のユーザに適切な情報を提供する方法ではない。
【0009】
本発明は,上述の問題点に鑑みてなされたもので,ライブ性の醍醐味を失うことなしに効率よくライブ中継の内容を把握し,見たいシーンの選択が可能な映像情報サービスシステムや,映像を個々のユーザに対応したハイパーメディアとして扱う新しい映像情報サービスシステムを構築するための技術を提供することを目的とする。
【0010】
【課題を解決するための手段】
上記目的を達成するため,本発明に関連する技術では,インターネット放送での映像配信サーバからクライアントに提供される映像情報(音声情報を含む)から構成されるビットストリームに,予めもしくはリアルタイム処理により,時系列に従ってインデクスIDを埋め込んでおく。クライアントは,ビットストリームのユーザ領域に埋め込まれた前記インデクスIDと意味情報テーブルを対応させて,インデクスIDの意味を解読し,その意味情報をもとに送信されてきたビットストリームに所定の情報リンク処理をする。ここでのインデクスIDとは,クライアントが意味情報を結び付ける上で必要とする情報であり,単なる記号列であってよい。
【0011】
また,他の本発明に関連する技術では,デジタル放送での放送装置から受信装置に放送される映像情報(音声情報を含む)から構成されるビットストリームに,予めもしくはリアルタイム処理により,時系列に従ってインデクスIDを埋め込んでおく。受信装置側で,ビットストリームのユーザ領域に埋め込まれた前記インデクスIDと意味情報テーブルを対応させて,インデクスIDの意味を解読し,その意味情報をもとに送信されてきたビットストリームに所定の情報リンク処理をする。
【0012】
以上のストリームへの情報リンク方法では,前記埋め込まれたインデクスIDを用いて映像を説明する詳細情報を意味情報と結び付けることにより,映像をハイパーメディアとして扱い,各クライアント(受信装置)対応に独立に編集・検索・再利用処理を行うことができる。
【0013】
また,以上のストリームへの情報リンク方法では,前記埋め込まれたインデクスIDを映像の中身と対応する意味情報と結合させて,各クライアントもしくは各受信装置に所望の映像を提供することもできる。
【0014】
さらに,上記ストリームへの情報リンク方法では,インデクスIDを電子透かし技術を用いてビットストリーム内に暗号化して埋め込むことができる。
【0015】
また,本発明のストリーム送受信システムは,インターネット放送を始めとするネットワーク放送で,映像や音声からなるビットストリームにインデクスIDを埋め込む映像インデクサと,ビットストリームを送信する映像配信サーバと,意味情報を提供する意味情報サーバと,ビットストリームを受信するクライアントと,映像配信サーバとクライアント,および意味情報サーバとクライアントを接続するネットワークからなるシステムにおいて,前記映像インデクサは,ビットストリームを入力する映像入力器と,インデクスIDをビットストリームに埋め込むインデクサとを備え,前記映像配信サーバは,映像圧縮する符号化器と,符号化されたビットストリームをネットワークに送出する情報送信器とを備え,前記意味情報サーバは,インデクスIDに結び付く意味情報を蓄える意味情報データベースと,意味情報をクライアントへネットワーク経由で送出する送信器とを備え,前記クライアントは,ネットワークに送出された前記ビットストリームを受信する受信器と,符号化されたビットストリームを復号化する復号化器と,ビットストリームを表示する表示器と,意味情報サーバから意味情報をダウンロードし自装置内の意味情報データベースに格納する情報人力器と,復号化されたビットストリームから埋め込まれたインデクスIDを抽出して前記意味情報データベースを参考にインデクスIDの意味を解読する意味結合器と,解読結果をもとに前記表示器を制御する操作器とを備えることを特徴とする。
【0016】
他の本発明のストリーム送受信システムは,有線,無線のデジタル放送で,映像や音声からなるビットストリームにインデクスIDを埋め込む映像インデクサと,ビットストリームを送信する放送装置と,ビットストリームを受信する受信装置と,意味情報を提供する意味情報サーバと,放送装置と受信装置を有線または無線で接続する通信回線と,意味情報サーバと受信装置が接続されたネットワークからなるシステムにおいて,前記映像インデクサは,ビットストリームを入力する映像入力器と,インデクスIDをビットストリームに埋め込むインデクサとを備え,前記放送装置は,映像を符号化する符号化器と,符号化されたビットストリームを通信回線に送出する送信器とを備え,前記意味情報サーバは,インデクスIDに結び付く意味情報を蓄える意味情報データベースと,意味情報をクライアントへネットワーク経由で送出する送信器とを備え,前記受信装置は,通信回線に送出された前記ビットストリームを受信する受信器と,ビットストリームを復号化する復号化器と,ビットストリームを表示する表示器と,意味情報サーバの意味情報データベースから意味情報をダウンロードし自装置内の意味情報データベースに格納する情報入力器と,復号化されたビットストリームから埋め込まれたインデクスIDを抽出して前記意味情報データベースを参考にインデクスIDの意味を解読する意味結合器と,解読結果をもとに前記表示器を制御する操作器とを備えることを特徴とする。
【0017】
以上のストリーム送受信システムでは,インデクスIDを電子透かし技術を用いて暗号化してビットストリームへ埋め込むようにしてもよい。
【0018】
上記ストリーム送受信システムにおける意味情報サーバは,ビットストリームに埋め込まれたインデクスIDに結合させる意味情報もしくは当該インデクスIDを利用するアプリケーションもしくは暗号鍵を提供する。
【0019】
本システムにおける課金方法として,上記意味情報およびアプリケーションプログラムのダウンロードに対し課金する方法を用いることができる。
【0020】
また,ストリーム送受信システムは,上記意味情報およびアプリケーションプログラムのダウンロードに対し課金する課金サーバを備えることができる。この課金サーバは,意味情報サーバから意味情報,アプリケーションプログラムまたは暗号鍵を,クライアントまたは受信装置にダウンロードさせる際に,意味情報サーバから課金情報を受け取る情報受信器と,課金情報を記録する課金情報データベースとを備える。
【0021】
また,ストリーム送受信システムは,上記アプリケーションプログラムを実行する毎に課金する課金サーバを備え,課金方法として,上記アプリケーションプログラムを実行する毎に課金する方法を用いることもできる。
【0022】
本発明によって,ユーザは,デジタル化やMPEG2等の映像圧縮技術により提供される大量の映像情報および音声情報を効率よく視聴(情報収集)できるようになり,また,それらのサービスの提供者側は,その利用料金を回収することができるようになる。
【0023】
【発明の実施の形態】
以下,本発明の実施の形態について,図面を参照して詳細に説明する。
【0024】
図1は,インターネット放送における,本発明のインデクスIDを埋め込まれたビットストリームを送受信する第1の実施の形態のシステム構成図である。
【0025】
本システムは,映像インデクサ101と映像配信サーバ102と意味情報サーバ104とユーザクライアント103と課金サーバ107,およびそれらを結ぶネットワーク105,106,108,109から構成されている。ネットワーク105,106,108,109は,例えばインターネットや電話網などであり,これらが全て同じものであっても構わない。なお,この図において,1個のユーザクライアント103がネットワーク105,106,108,109に接続されているように示したが,実際には複数のユーザクライアントがネットワークに接続されている。
【0026】
映像インデクサ101は,映像入力器111とインデクサ112とから構成されている。映像配信サーバ102は,符号化器113と送信器114とで構成されている。意味情報サーバ104は,意味情報データベース(DB)122と情報送信器123とで構成されている。ユーザクライアント103は,受信器115と復号化器116と情報入力器120と意味情報データベース(DB)121と意味結合器117と操作器119および表示器118とで構成されている。課金サーバ107は,情報受信器124と課金情報データベース(DB)125とで構成されている。
【0027】
まず最初に,映像インデクサ101におけるデータ処理について説明する。映像インデクサ101の映像入力器111に,例えばビデオカメラで撮像した映像や映像情報データベースで生成された映像ストリームが入力され,入力された映像ストリームはインデクサ112においてインデクスIDが埋め込まれる。
【0028】
図2は,インデクサ112において映像ストリームにインデクスIDが埋め込まれるイメージ図である。すなわち,元の映像ストリーム51はインデクサ112においてインデクスID付き映像ストリーム52に変換される。インデクスIDは,例えばMPEG2システム(ISO/IECJTC1/13818−1)のUser領域に埋め込むことができる。意味情報サーバ104の意味情報DB122に格納されている,例えばカット点やカメラアングル,テロップ,状況変化等の意味情報に対応するインデクスIDを埋め込む。ここでのインデクスIDとは,何らかの意味を持つインデクス情報につなぐことができるタグであり,例えば,映像の第Nフレームに対応するインデクスID=IN を対応テーブルの形で埋め込むというように単なる記号情報としてよい。
【0029】
また,インデクスIDをMPEG2ビデオ(ISO/IECJTC1/13818−2)中のシーケンスヘッダのユーザデータに埋め込むというように,映像ストリームの時系列に沿うようにインデクスIDを埋め込んでもよい。また,インデクスIDの埋め込みの際に電子透かし技術を用いて映像そのものに暗号化して埋め込むことにより,埋め込んだデータの改竄防止や悪用を禁止することも可能である。
【0030】
インデクスIDが埋め込まれた映像ストリームは,符号化器113で符号化され,符号化された映像ストリームが送信器114を介してネットワーク105に送出される。
【0031】
ネットワーク105に接続されたユーザクライアント103では,受信器115でインデクス付き映像ストリームを受信し,復号化器116で映像ストリームを復号して,映像ストリームの中からインデクスIDを抽出し(電子透かし技術を使って暗号化してある場合は所定の復元処理をした後に抽出),抽出したインデクスIDを意味結合器117に入力する。また,映像ストリームは表示器118に入力する。
【0032】
一方,ユーザクライアント103は,ネットワーク106に接続された意味情報サーバ104にアクセスして,意味情報サーバ104内の意味情報DB122のデータを情報送信器123を介して,ユーザクライアント103の情報入力器120に取り込み,ユーザクライアント103内の意味情報DB121にダウンロードする。なお,この意味情報をダウンロードする際に,意味情報サーバ104から課金サーバ107の情報受信器124へアクセス情報を送信し,課金サーバの課金情報DB125がアクセス履歴を管理することにより,ユーザクライアント103に課金することが可能である。決済は,例えばインターネットの電子決済システム等を利用した料金の支払いによって行う。
【0033】
意味結合器117では,入力されたインデクスIDに対応する意味情報を意味情報DB121のデータ情報を参照して解読し,解読した意味情報を表示器118に映像と共に表示する。
【0034】
また,操作器119に入力した意味情報を用いて,ユーザとのインタラクションを行ったり,その結果を表示させることも可能である。
【0035】
図3は,意味情報サーバ104が持つ意味情報DB122に格納される意味情報テーブルの構成例を示す。なお,ユーザクライアント103における意味情報DB121のテーブル構成も同様である。意味情報テーブルは,例えば図3に示すように,インデクスIDと,そのインデクスIDが有効となる対象フレームの範囲と,意味情報と,そのインデクスIDの利用アプリケーションプログラム等の情報を保持する。インデクスIDは単なる記号列であるが,このような意味情報テーブルによって,インデクスIDがアプリケーションプログラム毎に特定の意味情報に一意に対応づけられ,利用アプリケーションプログラムによってその意味が変わる。この意味情報テーブルの一つ一つのエントリは,インデクスIDを意味情報に変換するための変換ルールに相当すると考えてよい。
【0036】
図4は,課金サーバ107が持つ課金情報DB125に格納される課金情報テーブルの構成例を示す。課金情報テーブルには,例えば図4に示すように,課金に関する操作時刻(利用時間)と,利用種別と,利用アプリケーションプログラムと,課金するユーザIDとが格納される。利用種別の「ダウンロード」は,意味情報サーバ104から送信されてきた課金情報であることを意味する。また利用種別の「操作」は,ユーザクライアント103から送られてきた課金情報であることを意味する。この課金情報テーブルを定期的に参照することにより,電子決済システム等を利用して自動的に決済することができる。
【0037】
上述したようなシステム構成となっているので,クライアントはただ映像を見るだけでなく,意味情報と映像中のインデクスIDを対応させてインタラクティブコンテンツとして利用できるようになる。その結果,以下のような映像情報サービスが可能となる。
【0038】
図5は,インデクスIDを用いたサービスイメージ図である。例えば,特開平8−305720号に示される「マルチメディアデータ管理方法及び装置」が実現するようなアプリケーションのように,映像を説明する詳細情報を意味情報として結び付けることにより,放送中にテキストや音楽,画像,映像の関連情報をリンクで結んだハイパーメディアとして扱うことが可能となる。
【0039】
例えば,詳細情報をWWW(World Wide Web)のページに記述した場合,意味情報として,インデクスIDに対応するURL(Uniform Resource Locator)をクライアントがダウンロードする。ダウンロードの際にURLを各人ごとに変更することにより,各人に対して異なった情報を映像に同期して提供できるようになる。その結果,各クライアントで独立に映像の説明を得ることができる。
【0040】
図5に示すように,大人用のURLと子供用のURLをクライアントの要求に従い意味情報として埋め込まれたIDに対応させた場合,インターネット上でそれぞれ大人用関連情報ブラウジングや子供用関連情報ブラウジングを行うサービスを提供できる。例えば,歴史上の建造物(城や寺院)に関する映像をクライアントが受信しているときに,大人用として建造物の詳細な説明やその時代の歴史的背景に関する情報を音声やテキストで得られることが可能になったり,子供用としてアニメーションや音声によってわかりやすい解説をすることも可能になる。
【0041】
また,映像に付与したインデクスIDを映像の中身と対応する意味情報と結合させて,見たいシーンだけを表示させることもできる。例えば特願平11−214582号に示される「ライブ映像送受信システム,ライブ映像送信装置および受信装置」で実現されるアプリケーション(LiveWatch)を,意味情報サーバ104からダウンロードすることも可能である。このとき,野球の試合における進行情報,すなわち表裏回数情報,SBO(ストライクボールアウト)情報などをインデクスIDとして時系列に沿って映像に埋め込んでおけば(例えば「ID=1→1回の表」としてIDを与える),LiveWatchアプリケーションを用いることで,クライアントでは試合進行を文字やグラフィックスで表示することが可能となる。
【0042】
また,このインデクスIDとそれに対応する意味情報を利用してフレーム毎にクライアントユーザに見せるかどうかをアプリケーションで判断させて,ユーザが見たいシーンを表示させることができる。このときに見たいシーンを表示する代わりに画面の点滅やアラームでユーザに知らせることも可能で,ヒットやホームラン等の見たいシーン,ハイライトシーンを見逃すことがなくなる。
【0043】
ユーザが上記のアプリケーションを利用した時,利用したという情報,すなわち利用状況をユーザクライアント103から課金サーバ107へアップロードすることにより,課金することも可能である。利用状況は即時にアップロードしてもよいし,ユーザクライアント103に蓄積しておき,番組視聴終了後,もしくは契約により定める周期毎に課金サーバ107で回収してもよい。この方法を利用すれば,アプリケーションの利用時間や利用頻度に基づき課金することが可能になる。
【0044】
マルチアングルの切り替えに使う場合も同様で,ユーザクライアント103が意味情報サーバ104から切り替えアプリケーションをダウンロードしておき,インデクスIDに対応する意味情報に従ってライブ中継を自動スイッチングしたり,あるいはクライアントユーザがスイッチングする際の指標を映像に合わせて文字や画像で表示できるようになり,ユーザは,自分の嗜好に応じた臨場感あふれる映像を楽しむことができるようになる。
【0045】
図6は,ユーザクライアント103の処理フローチャートである。ユーザクライアント103が意味情報サーバ104から意味情報をダウンロードする契機として,ユーザクライアント103において利用するアプリケーションプログラムが決まった時点で静的にダウンロードする場合と,映像配信サーバ102から受信した映像ストリーム中のインデクスIDを解読するために動的にダウンロードする場合とがある。
【0046】
静的な意味情報のダウンロードの場合,ユーザからの指示によりアプリケーションプログラムを選択すると(ステップS1),意味情報サーバ104に選択したアプリケーションプログラムのアプリケーション名とユーザIDとを送信し,アプリケーションプログラムに対応する意味情報をダウンロードする(ステップS2)。ダウンロードした意味情報は,意味情報DB121中に保持する。
【0047】
動的な意味情報のダウンロードの場合,ユーザクライアント103は,映像配信サーバ102から受信したインデクスID付き映像ストリームから,インデクスIDを抽出し(ステップS3),意味情報DB121の意味情報テーブル中に,抽出したインデクスIDが登録されているかどうか,すなわちインデクスIDの意味情報への変換ルールがあるかどうかを判定する(ステップS4)。該当するインデクスIDの変換ルールがある場合,ステップS6へ進む。意味情報テーブル中に該当するインデクスIDの変換ルールがない場合,抽出したインデクスID,アプリケーション名,ユーザIDをパラメータとして意味情報サーバ104に意味情報のダウンロードを依頼し,インデクスIDに対応する意味情報をダウンロードする(ステップS5)。ダウンロードした意味情報は,意味情報DB121中に保持する。
【0048】
ステップS6では,意味情報DB121を参照してインデクスIDを意味情報へ変換し,意味情報に関してユーザの操作に応じた処理を実行する(ステップS7)。ユーザの操作があると,その操作に伴う利用時間,利用アプリケーション名,ユーザIDを課金のための情報として,課金サーバ107へ送信する(ステップS8)。以上のステップS3〜S8を,映像ビットストリームの受信を終了するか,ユーザがアプリケーションの利用を終了するまで,繰り返す。
【0049】
図7は,意味情報サーバ104の処理フローチャートである。意味情報サーバ104は,ユーザクライアント103からの意味情報のダウンロード要求の際に,アプリケーション名とユーザID,またはそれにインデクスIDを加えた情報を受け取り,それらをパラメータとして意味情報DB122を参照し,該当する意味情報を検索する(ステップS10)。検索した意味情報を含む意味情報テーブルを要求元のユーザクライアント103へ送信する(ステップS11)。その後,課金サーバ107へ利用時間,利用アプリケーション名,ユーザIDを内容とする課金のための利用情報を送信する(ステップS12)。意味情報サーバ104は,他にユーザクライアント103からの要求により,埋め込まれたインデクスIDを用いるアプリケーションプログラムのダウンロードや,埋め込まれたインデクスIDが暗号化されている場合に,その暗号を解く暗号鍵のダウンロードを処理することもできる。
【0050】
図8は,課金サーバ107の処理フローチャートである。課金サーバ107は,意味情報サーバ104またはユーザクライアント103から利用時間,利用アプリケーション名,ユーザIDを内容とする課金情報を受け取る。受け取った課金情報は,意味情報サーバ104からのものであるか,ユーザクライアント103からのものであるかを判定し(ステップS20),意味情報サーバ104からのものである場合には,図4に示す課金情報テーブルの利用種別に設定する値を“ダウンロード”とする(ステップS21)。ユーザクライアント103からのものである場合には,利用種別に設定する値を“操作”とする(ステップS22)。その後,課金情報DB125の課金情報テーブルに情報を格納し蓄積する(ステップS23)。
【0051】
図9は,本発明を適用したストリーム送受信システムの第2の実施の形態に係るシステム構成図である。これは,デジタル放送での放送装置から受信装置に放送されるビットストリームにインデクスIDを埋め込んだ場合のシステム構成を示している。
【0052】
本システムは,映像インデクサ201と放送装置202と受信装置203と意味情報サーバ204と課金サーバ207,および通信回線205,ネットワーク206,208,209から構成されている。通信回線205は,放送装置202からの放送波を受信装置203に送出する回線であり,有線でも無線でもどちらでもよい。また,ネットワーク206,208,209は例えばインターネットや電話網などであり,これらが全て同じものであっても構わない。なお,この図において,1個の受信装置203が通信回線205に接続されているように示したが,実際には複数の受信装置が通信回線205に接続されている。
【0053】
映像インデクサ201は,映像入力器211とインデクサ212とで構成されている。放送装置202は,符号化器213と送信器214とで構成されている。意味情報サーバ204は,意味情報データベース(DB)222と情報送信器223とで構成されている。また,受信装置203は,受信器215と復号化器216と情報入力器220と意味情報データベース(DB)221と意味結合器217と操作器219および表示器218とで構成されている。課金サーバ207は,情報受信器224と課金情報データベース(DB)225とで構成されている。
【0054】
映像インデクサ201の映像入力器211に,例えばビデオカメラで撮像した映像/音声や映像情報データベースで生成された映像ストリームが入力され,入力された映像ストリームはインデクサ212において意味情報サーバ204の意味情報DB222に蓄えられている意味情報に対応するインデクスIDが埋め込まれる。このインデクスIDの埋め込みは,第1の実施の形態の図2のイメージと同様なので,詳細な説明は省略する。
【0055】
インデクスIDが埋め込まれた映像ストリームは,放送装置202の符号化器213で符号化され,映像ストリームが送信器214を介して通信回線205に送出される。
【0056】
通信回線205に接続された受信装置203では,受信器215でインデクス付き映像ストリームを受信し,復号化器216で映像ストリームを復号し,映像ストリームの中からインデクスIDを抽出し(電子すかし技術を使って暗号化してある場合は所定の復元処理をした後に抽出),抽出したインデクスIDを意味結合器217に入力する。また,インデクスIDを除去した映像ストリームは表示器218に入力する。
【0057】
一方,意味情報サーバ204の意味情報DB222のデータを情報送信器223を介して,受信装置203の情報入力器220に取り込み,受信装置203内の意味情報DB221にダウンロードする。なお,この意味情報をダウンロードする際に,意味情報サーバ204から課金サーバ207の情報受信器224へアクセス情報を送信し,課金サーバの課金情報DB225がアクセス履歴を管理することにより,受信装置203に課金することが可能である。決済は,例えばインターネットの電子決済システムや放送受信料契約等を利用した料金の支払いにより行う。
【0058】
意味結合器217では,入力されたインデクスIDに対応する意味情報を意味情報DB221のデータ情報を参照して解読し,解読した意味情報を表示器218に映像と共に表示する。また,操作器219に入力した意味情報を用いて,ユーザとのインタラクションを行ったり,その結果を表示させることも可能である。
【0059】
上述したようなシステム構成となっているので,クライアントはただ映像を見るだけでなく,意味情報と映像中のインデクスIDとを対応させてインタラクティブコンテンツとして利用できるようになる。その結果,ユーザは,図5と同様の各種サービスを享受することができるようになる。
【0060】
受信装置203,意味情報サーバ204,課金サーバ207の処理内容については,第1の実施の形態におけるユーザクライアント103,意味情報サーバ104,課金サーバ107と同様であるので,処理フローチャートを用いた説明は省略する。
【0061】
【発明の効果】
本発明によれば,サーバまたは放送装置の入力となる映像インデクサでインデクスIDを映像ストリームに埋め込んで,クライアントまたは受信装置側の全員に送る際に,そのインデクスのタイミングを共通に送るため,サーバまたは放送装置側から送る情報を削減できる。さらに,クライアントまたは受信装置側では埋め込まれたインデクスIDをもとにインデクスの映像における時間位置を把握できるのでインデクス情報と映像の同期が取れ,高度な映像と情報のリンク処理を実現できる。また,クライアントまたは受信装置側の各人が求める意味情報をそれぞれインデクスに結合することにより,それぞれが,独立に異なるインデクスの利用をできるようになる。さらに,インデクスIDを電子透かし技術により暗号化して埋め込むことにより,クライアントや放送受信者の嗜好や要望の守秘性を確保できる。一方,意味情報を提供する意味情報サーバからの意味情報や利用アプリケーションや暗号鍵のクライアントまたは受信装置へのダウンロード時に課金することが可能となり,また,アプリケーションプログラムのクライアントまたは受信装置での利用時に課金することが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施の形態のシステム構成図である。
【図2】本発明のインデクスIDを映像ストリームに埋め込むイメージ図である。
【図3】意味情報DBのテーブル構成例を示す図である。
【図4】課金情報DBのテーブル構成例を示す図である。
【図5】本発明のインデクスIDを用いたサービスイメージ図である。
【図6】ユーザクライアントの処理フローチャートである。
【図7】意味情報サーバの処理フローチャートである。
【図8】課金サーバの処理フローチャートである。
【図9】本発明の第2の実施の形態のシステム構成図である。
【符号の説明】
101 映像インデクサ
102 映像配信サーバ
103 ユーザクライアント
104 意味情報サーバ
105,106,108,109 ネットワーク
107 課金サーバ
111 映像入力器
112 インデクサ
113 符号化器
114 送信器
115 受信器
116 復号化器
117 意味結合器
118 表示器
119 操作器
120 情報入力器
121,122 意味情報DB
123 情報送信器
124 情報受信器
125 課金情報DB
51 映像ストリーム
52 インデクスID付き映像ストリーム
201 映像インデクサ
202 放送装置
203 受信装置
204 意味情報サーバ
205 通信回線
206,208,209 ネットワーク
207 課金サーバ
211 映像入力器
212 インデクサ
213 符号化器
214 送信器
215 受信器
216 復号化器
217 意味結合器
218 表示器
219 操作器
220 情報入力器
221,222 意味情報DB
223 情報送信器
224 情報受信器
225 課金情報DB
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a video providing service system in a video distribution server and client in network broadcasting such as Internet broadcasting, or in a broadcasting device and receiving device in digital broadcasting.
[0002]
[Prior art]
Recent video providing service systems are moving from analog base to digital base, and with the development of MPEG-2 video compressed bitstream transmission system, multiple video can be transmitted simultaneously and received at the receiving side. By selecting one of these images, a variety of services that were not possible before are now possible.
[0003]
For example, in the field of television broadcasting, high-quality programs with hundreds of channels are provided, program reservation and viewing using EPG (electronic program), program-linked broadcasting, and realization of live programs with viewer participation through interactive broadcasting. It is possible.
[0004]
In the field of Internet broadcasting, video data is compressed by video encoding, and network distribution (broadcasting) and on-demand services are also realized.
[0005]
In addition, a system that combines various material contents such as stored video, audio, HTML, etc., and composes and expresses it as a single content has also been proposed. Each content can be reproduced and displayed in accordance with a predetermined scenario. It is possible to synthesize and to express more diverse than conventional content.
[0006]
[Problems to be solved by the invention]
However, there is a problem that is difficult to realize in the video providing service system used in the prior art. For example, regarding transmission and reception of live video, reservation of a program to be viewed can be realized relatively easily, but reservation of a scene to be viewed cannot be performed. For example, taking a sports live broadcast as an example, highlight scenes such as soccer goal scenes and baseball home run scenes cannot be selectively reserved. In order to watch these scenes without missing them, it is necessary to take a method of watching live broadcasts from the beginning to the end without changing the line of sight from the monitor screen, or recording them on storage media (VTR, etc.) once. There must be.
[0007]
In addition, broadcasting services that allow clients to use video information (including audio information) from video distribution servers on the Internet have already been put to practical use and are actively used. However, text information and audio related to the provided video, The provision of services that support the search of image information is still insufficient.
[0008]
As a method for providing video reference information, there is a method of providing information that adds value to the video by sending an information stream at the same time as the video, but the provided information can only be switched by a server, It is not a method of providing appropriate information to individual users.
[0009]
  The present invention has been made in view of the above-described problems. A video information service system capable of efficiently grasping the contents of live broadcast without losing the joy of live performance and selecting a desired scene, and video A new video information service system that handles video as hypermedia for individual usersTechnologyThe purpose is to provide.
[0010]
[Means for Solving the Problems]
  In order to achieve the above object, the present inventionWith related technologyIn the Internet broadcast, index IDs are embedded in advance in a bit stream composed of video information (including audio information) provided to a client from a video distribution server in advance or in real time, according to a time series. The client associates the index ID embedded in the user area of the bitstream with the semantic information table, decodes the meaning of the index ID, and sends a predetermined information link to the bitstream transmitted based on the semantic information. ProcessTheThe index ID here is information necessary for the client to link the semantic information, and may be a simple symbol string.
[0011]
  In addition, the present inventionWith related technologyIn the digital broadcast, an index ID is embedded in advance in a bit stream composed of video information (including audio information) broadcast from a broadcasting device to a receiving device in advance or in real time. The receiving device side associates the index ID embedded in the user area of the bit stream with the semantic information table, decodes the meaning of the index ID, and adds a predetermined bit stream to the bit stream transmitted based on the semantic information. Information link processingThe
[0012]
In the information linking method to the above stream, the video is treated as hypermedia by linking detailed information that describes the video with the embedded index ID and semantic information, and independently for each client (receiving device). Edit, search, and reuse processing can be performed.
[0013]
In the information link method to the above stream, the embedded index ID can be combined with the semantic information corresponding to the content of the video to provide a desired video to each client or each receiving device.
[0014]
Further, in the information link method to the stream, the index ID can be encrypted and embedded in the bit stream using a digital watermark technique.
[0015]
The stream transmission / reception system of the present invention provides a video indexer that embeds an index ID in a bit stream consisting of video and audio, a video distribution server that transmits the bit stream, and semantic information in network broadcasting such as Internet broadcasting. In a system comprising a semantic information server, a client that receives a bitstream, a video distribution server and a client, and a network that connects the semantic information server and the client, the video indexer includes a video input device that inputs a bitstream, An indexer that embeds an index ID in the bitstream, the video distribution server includes an encoder that compresses the video, and an information transmitter that transmits the encoded bitstream to the network, and the semantic information server includes: A semantic information database that stores semantic information associated with an index ID; and a transmitter that transmits the semantic information to the client via a network. The client includes a receiver that receives the bitstream transmitted to the network; A decoder that decodes the received bitstream, a display that displays the bitstream, an information manpower that downloads the semantic information from the semantic information server and stores it in the semantic information database in the device, and the decoded A semantic coupler for extracting an index ID embedded from the bit stream and decoding the meaning of the index ID with reference to the semantic information database; and an operation unit for controlling the display unit based on the decoding result. Features.
[0016]
Another stream transmission / reception system according to the present invention includes a video indexer that embeds an index ID in a bitstream composed of video and audio in wired and wireless digital broadcasting, a broadcasting device that transmits the bitstream, and a receiving device that receives the bitstream. In the system comprising the semantic information server for providing the semantic information, a communication line for connecting the broadcasting device and the receiving device in a wired or wireless manner, and a network in which the semantic information server and the receiving device are connected, A video input device that inputs a stream; and an indexer that embeds an index ID in the bit stream, wherein the broadcasting device encodes a video, and a transmitter that sends the encoded bit stream to a communication line. And the semantic information server is associated with the index ID. A semantic information database for storing taste information; and a transmitter for transmitting semantic information to a client via a network. The receiving device receives the bit stream transmitted to a communication line; and decodes the bit stream. A decoder for displaying the information, a display for displaying the bit stream, an information input device for downloading the semantic information from the semantic information database of the semantic information server and storing it in the semantic information database in the own device, and the decoded bit stream A semantic coupler for extracting an embedded index ID from the semantic information database and deciphering the meaning of the index ID with reference to the semantic information database; and an operation unit for controlling the display unit based on the decoding result. To do.
[0017]
In the above stream transmission / reception system, the index ID may be encrypted using a digital watermark technique and embedded in the bitstream.
[0018]
The semantic information server in the stream transmission / reception system provides semantic information to be combined with the index ID embedded in the bitstream, or an application or encryption key that uses the index ID.
[0019]
As a charging method in the present system, a method of charging for the above semantic information and application program download can be used.
[0020]
In addition, the stream transmission / reception system can include a billing server that charges for downloading the semantic information and the application program. The accounting server includes an information receiver that receives accounting information from the semantic information server and a accounting information database that records accounting information when downloading semantic information, application programs, or encryption keys from the semantic information server to a client or a receiving device. With.
[0021]
In addition, the stream transmission / reception system includes a billing server that charges each time the application program is executed, and as a charging method, a method that charges each time the application program is executed can be used.
[0022]
According to the present invention, a user can efficiently view (collect information) a large amount of video information and audio information provided by digital compression or video compression technology such as MPEG2, and the provider side of these services can , The usage fee can be collected.
[0023]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
[0024]
FIG. 1 is a system configuration diagram of a first embodiment for transmitting and receiving a bit stream embedded with an index ID of the present invention in Internet broadcasting.
[0025]
This system includes a video indexer 101, a video distribution server 102, a semantic information server 104, a user client 103, a billing server 107, and networks 105, 106, 108, 109 connecting them. The networks 105, 106, 108, and 109 are, for example, the Internet or a telephone network, and these may all be the same. In this figure, one user client 103 is shown connected to the networks 105, 106, 108, and 109, but actually a plurality of user clients are connected to the network.
[0026]
The video indexer 101 includes a video input device 111 and an indexer 112. The video distribution server 102 includes an encoder 113 and a transmitter 114. The semantic information server 104 includes a semantic information database (DB) 122 and an information transmitter 123. The user client 103 includes a receiver 115, a decoder 116, an information input device 120, a semantic information database (DB) 121, a semantic coupler 117, an operating device 119, and a display 118. The billing server 107 includes an information receiver 124 and a billing information database (DB) 125.
[0027]
First, data processing in the video indexer 101 will be described. For example, a video captured by a video camera or a video stream generated by a video information database is input to the video input unit 111 of the video indexer 101, and an index ID is embedded in the input video stream in the indexer 112.
[0028]
FIG. 2 is an image diagram in which the index ID is embedded in the video stream in the indexer 112. That is, the original video stream 51 is converted by the indexer 112 into a video stream 52 with an index ID. The index ID can be embedded, for example, in the User area of the MPEG2 system (ISO / IECJTC1 / 13818-1). For example, index IDs corresponding to semantic information stored in the semantic information DB 122 of the semantic information server 104, such as cut points, camera angles, telops, and status changes, are embedded. The index ID here is a tag that can be connected to index information having some meaning, for example, an index ID corresponding to the Nth frame of the video = INMay be simply symbol information such as embedded in the form of a correspondence table.
[0029]
Also, the index ID may be embedded along the time series of the video stream, such as the index ID being embedded in the user data of the sequence header in MPEG2 video (ISO / IECJTC1 / 13818-2). Further, when the index ID is embedded, the embedded data is encrypted and embedded in the video itself, thereby preventing the tampering and misuse of the embedded data.
[0030]
The video stream in which the index ID is embedded is encoded by the encoder 113, and the encoded video stream is sent to the network 105 via the transmitter 114.
[0031]
In the user client 103 connected to the network 105, the receiver 115 receives the video stream with the index, the decoder 116 decodes the video stream, and extracts the index ID from the video stream (with digital watermark technology). If it has been encrypted by use, it is extracted after a predetermined restoration process), and the extracted index ID is input to the semantic coupler 117. The video stream is input to the display 118.
[0032]
On the other hand, the user client 103 accesses the semantic information server 104 connected to the network 106, and transmits the data in the semantic information DB 122 in the semantic information server 104 via the information transmitter 123 to the information input device 120 of the user client 103. And downloaded to the semantic information DB 121 in the user client 103. When this semantic information is downloaded, the access information is transmitted from the semantic information server 104 to the information receiver 124 of the charging server 107, and the charging information DB 125 of the charging server manages the access history, thereby allowing the user client 103 to It is possible to charge. Payment is made by paying a fee using an electronic payment system on the Internet, for example.
[0033]
The semantic coupler 117 decodes the semantic information corresponding to the input index ID with reference to the data information in the semantic information DB 121 and displays the decoded semantic information on the display 118 together with the video.
[0034]
It is also possible to interact with the user and display the result using the semantic information input to the operation device 119.
[0035]
FIG. 3 shows a configuration example of a semantic information table stored in the semantic information DB 122 held by the semantic information server 104. The table configuration of the semantic information DB 121 in the user client 103 is the same. For example, as shown in FIG. 3, the semantic information table holds information such as an index ID, a range of a target frame in which the index ID is valid, semantic information, and an application program that uses the index ID. The index ID is a simple symbol string, but such a semantic information table uniquely associates the index ID with specific semantic information for each application program, and its meaning changes depending on the application program used. Each entry in the semantic information table may be considered to correspond to a conversion rule for converting an index ID into semantic information.
[0036]
FIG. 4 shows a configuration example of a billing information table stored in the billing information DB 125 held by the billing server 107. For example, as shown in FIG. 4, the charging information table stores an operation time (usage time) related to charging, a usage type, a usage application program, and a user ID for accounting. The usage type “download” means that the accounting information is transmitted from the semantic information server 104. The usage type “operation” means the billing information sent from the user client 103. By periodically referring to this billing information table, payment can be automatically made using an electronic payment system or the like.
[0037]
Since the system configuration is as described above, the client can not only view the video but also use it as interactive content in association with the semantic information and the index ID in the video. As a result, the following video information service becomes possible.
[0038]
FIG. 5 is a service image diagram using the index ID. For example, as in an application that is realized by “Multimedia Data Management Method and Device” disclosed in Japanese Patent Laid-Open No. 8-305720, text and music can be transmitted during broadcasting by linking detailed information describing video as semantic information. , Image and video related information can be handled as hypermedia linked by links.
[0039]
For example, when detailed information is described on a WWW (World Wide Web) page, the client downloads a URL (Uniform Resource Locator) corresponding to the index ID as semantic information. By changing the URL for each person when downloading, different information can be provided to each person in synchronization with the video. As a result, each client can obtain an explanation of the video independently.
[0040]
As shown in FIG. 5, when the URL for adults and the URL for children are made to correspond to IDs embedded as semantic information in accordance with the client's request, the related information browsing for adults and the related information browsing for children are respectively performed on the Internet. Can provide services to do. For example, when a client receives a video about a historical building (castle or temple), a detailed description of the building and information about the historical background of the period can be obtained by voice or text for adult use. It becomes possible to provide easy-to-understand explanations by animation and sound for children.
[0041]
Further, the index ID assigned to the video can be combined with the semantic information corresponding to the content of the video to display only the desired scene. For example, an application (LiveWatch) realized by “live video transmission / reception system, live video transmission device and reception device” disclosed in Japanese Patent Application No. 11-214582 can be downloaded from the semantic information server 104. At this time, if progress information in a baseball game, that is, information on the number of front and back sides, SBO (Strike Ball Out) information, etc. are embedded in the video in time series as an index ID (for example, “ID = 1 → one time table”). By using the LiveWatch application, the client can display the progress of the game with characters and graphics.
[0042]
Further, by using this index ID and semantic information corresponding to the index ID, an application can determine whether or not to show to the client user for each frame, and a scene the user wants to see can be displayed. At this time, instead of displaying the desired scene, it is possible to notify the user by flashing the screen or an alarm, so that the desired scene such as a hit or home run or a highlight scene is not missed.
[0043]
When the user uses the above-described application, it is possible to charge by uploading information that the user has used, that is, the usage status from the user client 103 to the charging server 107. The usage status may be uploaded immediately or stored in the user client 103 and collected by the billing server 107 after the end of program viewing or every period determined by the contract. If this method is used, it becomes possible to charge based on the usage time and usage frequency of the application.
[0044]
The same applies to multi-angle switching, in which the user client 103 downloads the switching application from the semantic information server 104 and automatically switches the live relay according to the semantic information corresponding to the index ID, or the client user switches. The index can be displayed with characters and images according to the video, and the user can enjoy a video full of realism according to his / her preference.
[0045]
FIG. 6 is a process flowchart of the user client 103. When the user client 103 downloads the semantic information from the semantic information server 104, when the application program used in the user client 103 is statically downloaded, the index in the video stream received from the video distribution server 102 is used. In some cases, the ID is dynamically downloaded to decrypt the ID.
[0046]
In the case of downloading static semantic information, when an application program is selected in accordance with an instruction from the user (step S1), the application name and user ID of the selected application program are transmitted to the semantic information server 104 to correspond to the application program. The semantic information is downloaded (step S2). The downloaded semantic information is held in the semantic information DB 121.
[0047]
In the case of dynamic semantic information download, the user client 103 extracts an index ID from the video stream with an index ID received from the video distribution server 102 (step S3), and extracts it into the semantic information table of the semantic information DB 121. It is determined whether or not the index ID has been registered, that is, whether or not there is a rule for converting the index ID into semantic information (step S4). If there is a conversion rule for the corresponding index ID, the process proceeds to step S6. When there is no corresponding index ID conversion rule in the semantic information table, the semantic information server 104 is requested to download the semantic information using the extracted index ID, application name, and user ID as parameters, and the semantic information corresponding to the index ID is displayed. Download (step S5). The downloaded semantic information is held in the semantic information DB 121.
[0048]
In step S6, the index ID is converted into semantic information with reference to the semantic information DB 121, and processing corresponding to the user's operation is performed on the semantic information (step S7). When there is a user operation, the usage time, application name, and user ID associated with the operation are transmitted to the accounting server 107 as accounting information (step S8). The above steps S3 to S8 are repeated until the reception of the video bitstream is completed or the user ends the use of the application.
[0049]
FIG. 7 is a processing flowchart of the semantic information server 104. The semantic information server 104 receives the application name and user ID, or information obtained by adding an index ID to the semantic information DB 122 when a semantic information download request is received from the user client 103, and refers to the semantic information DB 122 using them as parameters. Semantic information is searched (step S10). A semantic information table including the searched semantic information is transmitted to the requesting user client 103 (step S11). Thereafter, usage information for accounting including usage time, usage application name, and user ID is transmitted to the accounting server 107 (step S12). The semantic information server 104 downloads an application program that uses an embedded index ID in response to a request from the user client 103, and if the embedded index ID is encrypted, the semantic information server 104 decrypts the encryption key. It can also handle downloads.
[0050]
FIG. 8 is a processing flowchart of the accounting server 107. The accounting server 107 receives accounting information including usage time, usage application name, and user ID from the semantic information server 104 or the user client 103. It is determined whether the received billing information is from the semantic information server 104 or the user client 103 (step S20), and if it is from the semantic information server 104, FIG. The value set in the usage type of the charging information table shown is “download” (step S21). If it is from the user client 103, the value set in the usage type is “operation” (step S22). Thereafter, the information is stored and stored in the charging information table of the charging information DB 125 (step S23).
[0051]
FIG. 9 is a system configuration diagram according to the second embodiment of the stream transmission / reception system to which the present invention is applied. This shows a system configuration when an index ID is embedded in a bit stream broadcast from a broadcasting device to a receiving device in digital broadcasting.
[0052]
This system includes a video indexer 201, a broadcasting device 202, a receiving device 203, a semantic information server 204, a charging server 207, a communication line 205, and networks 206, 208, and 209. The communication line 205 is a line that transmits a broadcast wave from the broadcast apparatus 202 to the reception apparatus 203, and may be either wired or wireless. The networks 206, 208, and 209 are, for example, the Internet or a telephone network, and these may all be the same. In this figure, one receiving device 203 is shown connected to the communication line 205, but actually a plurality of receiving devices are connected to the communication line 205.
[0053]
The video indexer 201 includes a video input device 211 and an indexer 212. The broadcast device 202 includes an encoder 213 and a transmitter 214. The semantic information server 204 includes a semantic information database (DB) 222 and an information transmitter 223. The receiving device 203 includes a receiver 215, a decoder 216, an information input device 220, a semantic information database (DB) 221, a semantic coupler 217, an operating device 219, and a display device 218. The billing server 207 includes an information receiver 224 and a billing information database (DB) 225.
[0054]
For example, video / audio captured by a video camera or a video stream generated by a video information database is input to the video input unit 211 of the video indexer 201, and the input video stream is input to the semantic information DB 222 of the semantic information server 204 in the indexer 212. The index ID corresponding to the semantic information stored in is embedded. The embedding of the index ID is the same as the image of FIG. 2 of the first embodiment, and thus detailed description is omitted.
[0055]
The video stream in which the index ID is embedded is encoded by the encoder 213 of the broadcasting device 202, and the video stream is sent to the communication line 205 via the transmitter 214.
[0056]
In the receiving device 203 connected to the communication line 205, the receiver 215 receives the indexed video stream, the decoder 216 decodes the video stream, and extracts the index ID from the video stream (electronic watermark technology). If the data is encrypted using the above, it is extracted after a predetermined restoration process), and the extracted index ID is input to the semantic coupler 217. The video stream from which the index ID is removed is input to the display 218.
[0057]
On the other hand, the data in the semantic information DB 222 of the semantic information server 204 is taken into the information input device 220 of the receiving device 203 via the information transmitter 223 and downloaded to the semantic information DB 221 in the receiving device 203. When this semantic information is downloaded, the access information is transmitted from the semantic information server 204 to the information receiver 224 of the accounting server 207, and the accounting information DB 225 of the accounting server manages the access history so that the receiving device 203 It is possible to charge. Settlement is performed, for example, by paying a fee using an electronic settlement system on the Internet or a broadcast reception fee contract.
[0058]
The semantic coupler 217 decodes the semantic information corresponding to the input index ID with reference to the data information in the semantic information DB 221 and displays the decoded semantic information on the display 218 together with the video. It is also possible to interact with the user and display the result using the semantic information input to the operation device 219.
[0059]
Since the system configuration is as described above, the client can not only view the video but also use it as interactive content by associating the semantic information with the index ID in the video. As a result, the user can enjoy various services similar to those in FIG.
[0060]
Since the processing contents of the receiving device 203, the semantic information server 204, and the accounting server 207 are the same as those of the user client 103, the semantic information server 104, and the accounting server 107 in the first embodiment, the explanation using the processing flowchart is as follows. Omitted.
[0061]
【The invention's effect】
According to the present invention, when an index ID is embedded in a video stream by a video indexer serving as an input of the server or the broadcasting device and sent to all of the clients or the receiving device side, the timing of the index is sent in common. Information sent from the broadcasting device can be reduced. Furthermore, since the time position in the index video can be grasped on the client or the receiving device side based on the embedded index ID, the index information and the video can be synchronized, and advanced video and information link processing can be realized. In addition, by combining the semantic information required by each person on the client or the receiving device side with each index, each can use a different index independently. Furthermore, by encrypting and embedding the index ID using a digital watermark technique, it is possible to ensure the confidentiality of preferences and requests of clients and broadcast receivers. On the other hand, it is possible to charge when downloading semantic information from the semantic information server that provides the semantic information, the application or encryption key to the client or receiving device, and when using the application program on the client or receiving device. It becomes possible to do.
[Brief description of the drawings]
FIG. 1 is a system configuration diagram of a first embodiment of this invention.
FIG. 2 is an image diagram in which an index ID of the present invention is embedded in a video stream.
FIG. 3 is a diagram illustrating a table configuration example of a semantic information DB.
FIG. 4 is a diagram showing a table configuration example of a charging information DB.
FIG. 5 is a service image diagram using the index ID of the present invention.
FIG. 6 is a process flowchart of a user client.
FIG. 7 is a processing flowchart of a semantic information server.
FIG. 8 is a processing flowchart of a billing server.
FIG. 9 is a system configuration diagram of a second embodiment of the present invention;
[Explanation of symbols]
101 Video indexer
102 Video distribution server
103 User client
104 Semantic information server
105, 106, 108, 109 network
107 Billing server
111 Video input device
112 Indexer
113 Encoder
114 Transmitter
115 Receiver
116 Decoder
117 semantic coupler
118 Display
119 Controller
120 Information input device
121,122 Semantic information DB
123 Information transmitter
124 Information receiver
125 Billing information DB
51 video stream
52 Video stream with index ID
201 Video indexer
202 Broadcasting equipment
203 Receiver
204 Semantic information server
205 Communication line
206, 208, 209 network
207 Billing server
211 Video input device
212 Indexer
213 encoder
214 Transmitter
215 receiver
216 decoder
217 Semantic coupler
218 Display
219 Controller
220 Information input device
221 and 222 semantic information DB
223 Information transmitter
224 Information receiver
225 Accounting information DB

Claims (8)

インターネット放送を始めとするネットワーク放送で,映像情報のビットストリームに,予め定められた意味情報に対応づけられたインデクスIDを埋め込む映像インデクサと,
前記ビットストリームを送信する映像配信サーバと,
意味情報を提供する意味情報サーバと,
前記ビットストリームを受信するクライアントと,
前記映像配信サーバと前記クライアント,および前記意味情報サーバと前記クライアントとを接続するネットワークとからなるシステムであって,
前記映像インデクサは,ビットストリームを入力する映像入力手段と,入力したビットストリームに前記インデクスIDを埋め込むインデクサとを備え,
前記映像配信サーバは,映像圧縮する符号化手段と,符号化されたビットストリームをネットワークに送出する情報送信手段とを備え,
前記意味情報サーバは,前記インデクスIDに結び付く意味情報を蓄える意味情報データベースと,意味情報をクライアントへネットワーク経由で送出する送信手段とを備え,
前記クライアントは,ネットワークに送出された前記ビットストリームを受信する受信手段と,符号化されたビットストリームを復号化する復号化手段と,ビットストリームを表示する表示手段と,前記意味情報サーバから意味情報をダウンロードする情報入力手段と,復号化されたビットストリームから埋め込まれたインデクスIDを抽出して前記ダウンロードした意味情報に基づきインデクスIDの意味を解読する意味結合手段と,解読結果をもとに前記表示手段を制御する操作手段とを備える
ことを特徴とするストリーム送受信システム。
A video indexer that embeds an index ID associated with predetermined semantic information in a bit stream of video information in network broadcasting such as Internet broadcasting;
A video distribution server for transmitting the bitstream;
A semantic information server that provides semantic information;
A client receiving the bitstream;
A system comprising the video distribution server and the client, and a network connecting the semantic information server and the client,
The video indexer includes video input means for inputting a bit stream, and an indexer for embedding the index ID in the input bit stream,
The video distribution server includes encoding means for compressing video, and information transmission means for sending the encoded bit stream to the network,
The semantic information server includes a semantic information database that stores semantic information linked to the index ID, and a transmission unit that transmits the semantic information to a client via a network.
The client includes receiving means for receiving the bit stream sent to the network, decoding means for decoding the encoded bit stream, display means for displaying the bit stream, and semantic information from the semantic information server. An information input means for downloading the ID, a semantic combining means for extracting the embedded index ID from the decoded bitstream and decoding the meaning of the index ID based on the downloaded semantic information, and A stream transmission / reception system comprising: an operation unit that controls the display unit.
有線または無線のデジタル放送で,映像情報のビットストリームに,予め定められた意味情報に対応づけられたインデクスIDを埋め込む映像インデクサと,
前記ビットストリームを送信する放送装置と,
前記ビットストリームを受信する受信装置と,
意味情報を提供する意味情報サーバと,
前記放送装置と前記受信装置とを有線または無線で接続する通信回線と,
前記意味情報サーバと前記受信装置とを接続するネットワークとからなるシステムであって,
前記映像インデクサは,ビットストリームを入力する映像入力手段と,入力したビットストリームに前記インデクスIDを埋め込むインデクサとを備え,
前記放送装置は,映像を符号化する符号化手段と,符号化されたビットストリームを通信回線に送出する送信手段とを備え,
前記意味情報サーバは,前記インデクスIDに結び付く意味情報を蓄える意味情報データベースと,意味情報をクライアントへネットワーク経由で送出する送信手段とを備え,
前記受信装置は,通信回線に送出された前記ビットストリームを受信する受信手段と,ビットストリームを復号化する復号化手段と,ビットストリームを表示する表示手段と,前記意味情報サーバの意味情報データベースから意味情報をダウンロードする情報入力手段と,復号化されたビットストリームから埋め込まれたインデクスIDを抽出して前記ダウンロードした意味情報に基づきインデクスIDの意味を解読する意味結合手段と,解読結果をもとに前記表示手段を制御する操作手段とを備える
ことを特徴とするストリーム送受信システム。
A video indexer that embeds an index ID associated with predetermined semantic information in a bit stream of video information in wired or wireless digital broadcasting;
A broadcasting device for transmitting the bitstream;
A receiving device for receiving the bitstream;
A semantic information server that provides semantic information;
A communication line for connecting the broadcasting device and the receiving device by wire or wirelessly;
A system comprising a network connecting the semantic information server and the receiving device,
The video indexer includes video input means for inputting a bit stream, and an indexer for embedding the index ID in the input bit stream,
The broadcasting device includes an encoding unit that encodes video, and a transmission unit that transmits the encoded bit stream to a communication line.
The semantic information server includes a semantic information database that stores semantic information linked to the index ID, and a transmission unit that transmits the semantic information to a client via a network.
The receiving device includes: a receiving unit that receives the bit stream sent to the communication line; a decoding unit that decodes the bit stream; a display unit that displays the bit stream; and a semantic information database of the semantic information server. Information input means for downloading semantic information, semantic coupling means for extracting an embedded index ID from the decoded bitstream and decoding the meaning of the index ID based on the downloaded semantic information, and based on the decoding result The stream transmission / reception system further comprising: an operation unit that controls the display unit.
請求項または請求項に記載するストリーム送受信システムにおいて,
前記映像インデクサは,インデクスIDを電子透かし技術を用いて暗号化してビットストリームに埋め込む
ことを特徴とするストリーム送受信システム。
In the stream transmission / reception system according to claim 1 or 2 ,
The video indexer encrypts an index ID using a digital watermark technique and embeds it in a bit stream.
請求項または請求項に記載するストリーム送受信システムにおける意味情報サーバであって,
前記埋め込まれたインデクスIDに結合させる意味情報を,ネットワーク経由で前記クライアントまたは前記受信装置にダウンロードさせる手段を持つ
ことを特徴とする意味情報サーバ。
A semantic information server in the stream transmission / reception system according to claim 1 or 2 ,
Meaning information server comprising means for downloading semantic information to be combined with the embedded index ID to the client or the receiving device via a network.
請求項または請求項に記載するストリーム送受信システムにおける意味情報サーバであって,
前記埋め込まれたインデクスIDを用いるアプリケーションプログラムを,ネットワーク経由で前記クライアントまたは前記受信装置にダウンロードさせる手段を持つ
ことを特徴とする意味情報サーバ。
A semantic information server in the stream transmission / reception system according to claim 1 or 2 ,
A semantic information server comprising means for causing the client or the receiving device to download an application program using the embedded index ID via a network.
請求項に記載するストリーム送受信システムにおける意味情報サーバであって,
前記暗号化され埋め込まれたインデクスIDの暗号を解く鍵を,ネットワーク経由で前記クライアントまたは前記受信装置にダウンロードさせる手段を持つ
ことを特徴とする意味情報サーバ。
A semantic information server in the stream transmission / reception system according to claim 3 ,
A semantic information server comprising means for causing the client or the receiving device to download a key for decrypting the encrypted and embedded index ID via a network.
請求項,請求項または請求項に記載する意味情報サーバから意味情報,アプリケーションプログラムまたは暗号鍵をダウンロードさせる際に,ダウンロードを要求した前記クライアントまたは前記受信装置に対して課金する
ことを特徴とするストリーム送受信システムにおける課金方法。
Claim 4, semantic information from the semantic information server according to claim 5 or claim 6, when to download an application program or an encryption key, to charge for the client or the receiving equipment has requested the download Charging method in stream transmission / reception system characterized by
請求項に記載する意味情報サーバからダウンロードされたアプリケーションプログラムを,前記クライアントまたは前記受信装置が利用する際に,そのクライアントまたは受信装置に課金する
ことを特徴とするストリーム送受信システムにおける課金方法。
6. A charging method in a stream transmission / reception system, characterized in that, when the client or the receiving device uses the application program downloaded from the semantic information server according to claim 5 , the client or the receiving device is charged.
JP2000141390A 2000-05-15 2000-05-15 Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system Expired - Fee Related JP3723412B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2000141390A JP3723412B2 (en) 2000-05-15 2000-05-15 Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000141390A JP3723412B2 (en) 2000-05-15 2000-05-15 Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system

Publications (2)

Publication Number Publication Date
JP2001326924A JP2001326924A (en) 2001-11-22
JP3723412B2 true JP3723412B2 (en) 2005-12-07

Family

ID=18648514

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000141390A Expired - Fee Related JP3723412B2 (en) 2000-05-15 2000-05-15 Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system

Country Status (1)

Country Link
JP (1) JP3723412B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6868267B1 (en) * 2000-11-17 2005-03-15 Qualcomm Inc. Apparatus, method, and article of manufacture used to invoice for services consumed in a communications network
JP2003217057A (en) * 2002-01-17 2003-07-31 Matsushita Electric Ind Co Ltd Indoor monitoring system
US7486793B2 (en) 2002-02-15 2009-02-03 Nagracard S.A. Invoicing management method of a service transmitted per time unit
JP2003308328A (en) 2002-04-16 2003-10-31 Nippon Telegr & Teleph Corp <Ntt> Regenerator and method for regenerating content link, program therefor, and recording medium
US9021197B2 (en) * 2005-06-24 2015-04-28 Hewlett-Packard Development Company, L.P. Drive indicating mechanism for removable media
JP5696096B2 (en) * 2012-05-31 2015-04-08 株式会社Nttドコモ Communication terminal device, billing device, and information distribution system

Also Published As

Publication number Publication date
JP2001326924A (en) 2001-11-22

Similar Documents

Publication Publication Date Title
CN100438610C (en) Digital interactive system for providing full interactivity with programming events
CN102577421B (en) For using the digital copyright management protection of the content of social TV service identification
AU761408B2 (en) Verification apparatus, verification method, verification system, and storage medium
JP4587151B2 (en) Internet DTV system, commercial server and control method thereof
CN102160375B (en) Method for delivery of digital linear TV programming using scalable video coding
CN100387055C (en) Receiver
JPH09510327A (en) Network manager for cable TV system headends
JPH1117633A (en) Advertisement information broadcast method, advertisement information broadcast system and receiver
JP2003199078A (en) Transmission system for transmitting video stream relating to event to visitor who happens to be at event site
WO2001093585A1 (en) Universal digital broadcast system and methods
JP2004538727A (en) MPEG-4 based multimedia system, service provider for the system, and content based telecommunications device
JP2009065551A (en) Related information transmitting method, related information transmitting server, terminal device, and related information transmitting system
WO2008024338A2 (en) Locally originated iptv programming
US20020099800A1 (en) Data mark and recall system and method for a data stream
JP4323792B2 (en) Electronic program guide generating apparatus and electronic program guide generating method
JP2005198313A (en) Digital real-time interactive program system
CN101120333A (en) System and method for a remote user interface
JP3723412B2 (en) Stream transmission / reception system, semantic information server, and accounting method in stream transmission / reception system
EP1422943B1 (en) Transmitter apparatus, reciever apparatus and recieving method
US10237627B2 (en) System for providing audio recordings
CN101668172B (en) Method, system and device for playing service content
KR101078701B1 (en) Method and apparatus for selective section playback of iptv program
KR20130103931A (en) Advance metadata provision augmented broadcasting apparatus and method
JP6855193B2 (en) Broadcast reception system
JP4720850B2 (en) Receiver

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20050705

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20050817

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20050817

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050915

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: R3D02

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080922

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090922

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100922

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110922

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120922

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130922

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees