JP2009100411A - 映像配信システム、映像中継装置、及び映像中継方法 - Google Patents

映像配信システム、映像中継装置、及び映像中継方法 Download PDF

Info

Publication number
JP2009100411A
JP2009100411A JP2007272348A JP2007272348A JP2009100411A JP 2009100411 A JP2009100411 A JP 2009100411A JP 2007272348 A JP2007272348 A JP 2007272348A JP 2007272348 A JP2007272348 A JP 2007272348A JP 2009100411 A JP2009100411 A JP 2009100411A
Authority
JP
Japan
Prior art keywords
video
stream
video stream
information
metadata
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2007272348A
Other languages
English (en)
Inventor
Mariko Nakayama
真理子 中山
Toshiaki Suzuki
敏明 鈴木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2007272348A priority Critical patent/JP2009100411A/ja
Priority to US12/253,272 priority patent/US20090106807A1/en
Priority to CN200810149951XA priority patent/CN101420316B/zh
Publication of JP2009100411A publication Critical patent/JP2009100411A/ja
Ceased legal-status Critical Current

Links

Images

Abstract

【課題】連続的に映像を再生可能な映像ストリームを配信する。
【解決手段】映像ストリームを送信する映像配信装置と、前記映像配信装置から送信された映像ストリームをバッファに蓄積し、選択された前記映像ストリームを映像受信端末に転送する映像中継装置と、を備える映像配信システムにおいて、前記映像配信装置は、前記映像ストリームの再生可能な単位を示す区切情報を付加して前記映像ストリームを送信し、前記映像中継装置は、前記転送される映像ストリームを前記区切情報の箇所のみで切り換える。
【選択図】図1

Description

本発明は、映像ストリームを配信する映像配信システムに関し、特に、複数の映像ストリームを途切れることなく切り換える方法に関する。
ネットワーク技術の普及に伴って、インターネットプロトコルを用いて映像ストリームを送信する技術が開発されている。このような映像ストリームの送信技術には、IPマルチキャストを用いて、リアルタイムに映像ストリームを配信する方式、ダウンロードし蓄積された映像データを再生する方式、等がある。また、映像符号化方式としてMPEG2、配信方式としてUDP/RTPを用いたIPマルチキャストを用いてリアルタイムにストリームを配信する方式が検討されている。
さらに、通信回線の広帯域化に伴って、複数の視点からの映像を配信し、ユーザの希望に応じて映像を選択可能な映像配信システムが提案されている(例えば、特許文献1参照)。特許文献1に開示された映像配信装置は、映像の内容を示す付加情報を生成し、生成された付加情報を映像に多重して送信する。映像受信装置は、付加情報に基づいて希望する映像を選択する。
特開2003−179908号公報
複数の視点映像を切り換えて映像受信端末に送信する場合、MPEG2のようにフレーム間の予測を用いる映像符号化方式では、映像の再生に前後のフレームの情報を利用するため、適切な点で映像ストリームの切り換えないと、切り換えたストリームを受信した端末が正しく映像を再生することができない。MPEG2では、複数のフレームを一つのまとまりとして管理しており、このまとまりはGOP(Group of Pictures)と呼ばれる。GOPは、一つ以上のIフレーム、複数のPフレーム、及び複数のBフレームを含み、映像の再生単位となる。
Iフレームは、フレーム間の予測を使わずに生成されるフレームで、単独で再生することが可能である。Pフレームは、他のIフレームやPフレームからの順方向の予測(前方予測)によって再生されるフレームである。Bフレームは他のIフレームやPフレームから双方向の予測によって再生されるフレームである。
そのため、映像受信端末がストリームを正しく再生できるように映像を切り換えるめには、映像ストリームの再生単位を考慮して映像ストリームを切り換える必要がある。
また、複数の映像配信サーバからIPネットワークを用いて映像を配信する場合、各映像ストリームは同期して配信されていないため、転送を終了するストリーム(終了ストリーム)の終了点の直後に新しく転送を開始するストリーム(開始ストリーム)の開始点が到着するとは限らない。また、IPネットワークでは、IPパケットの到着順序を保障していないため、ストリームの切換点の通知が切り換えるべきストリームパケットと前後して映像中継サーバに到着することがある。通知が到着した時点でストリームを切り換えると、開始ストリームを開始点から送信し、終了ストリームの送信を終了点で終了することができない。
本発明は、このような課題を解決するために、ストリーム配信された複数の映像の中から、ユーザが希望する映像に切り換えて映像受信端末に配信する際に、映像受信端末が映像再生に支障なく、連続的に映像を再生可能な映像ストリームを、映像中継サーバから配信することを目的とする。
本発明の代表的な一例を示せば以下の通りである。すなわち、映像ストリームを送信する映像配信装置と、前記映像配信装置から送信された映像ストリームをバッファに蓄積し、選択された前記映像ストリームを映像受信端末に転送する映像中継装置と、を備える映像配信システムにおいて、前記映像配信装置は、前記映像ストリームの再生可能な単位を示す区切情報を付加して前記映像ストリームを送信し、前記映像中継装置は、前記転送される映像ストリームを前記区切情報の箇所のみで切り換えることを特徴とする。
本発明の一実施形態によると、映像ストリームの再生単位を考慮して、途切れなく再生可能に、映像を切り換えることができる。
本発明の実施の形態では、映像配信サーバから配信される映像ストリームパケットが、映像の再生開始点や終了点となるデータを含む場合は、ストリームパケットのヘッダ部に目印を付し、ストリームパケットを配信する。ストリームパケットで配信される映像のキーワード、及び、このキーワードが示すストリームパケットの情報をメタデータとして映像中継サーバに通知する。映像中継サーバは、ストリームパケットのヘッダに付与された映像再生の区切情報、及び、メタデータサーバから通知されたキーワードに基づいて、映像受信装置が連続的に映像を再生できる映像の区切りからストリームを切り換えて配信する。
すなわち、映像中継サーバは、新しく受信するストリーム(開始ストリーム)を、映像の再生単位となるGOPの先頭(Iフレーム)から転送する。また、映像中継サーバは、送信を終了するストリーム(終了ストリーム)の転送を、後方予測を行わないIフレーム又はPフレームの直前で終了する。Iフレームの直前は、次のGOPの始まる直前なので、前のGOPの終端となる。
このようにして、映像中継サーバは、映像受信端末がストリームを正しく再生できるように映像を切り換える。
<実施形態1>
図1は、本発明の第1の実施の形態の映像配信システムの構成を示すシステム構成図である。
第1の実施の形態の映像配信システムは、映像中継サーバ1、映像配信サーバA〜C(2、3、4)、メタデータ配信サーバ5、ネットワークA7、及び、ネットワークB8を備え、ネットワークB8には、映像受信端末6が接続されている。
ネットワークA7は、映像中継サーバ1と、映像配信サーバA〜C(2〜4)と、メタデータ配信サーバ5とを接続する。ネットワークB8は、映像中継サーバ1と、映像受信端末6とを接続する。
<映像中継サーバ>
まず、映像中継サーバ1について説明する。
図2は、本発明の第1の実施の形態の映像中継サーバ1の構成を示すブロック図である。
映像中継サーバ1は、CPU(Central Processing Unit)11、メモリ12、インタフェース部14、15を備える。
CPU11は、OS(Operating System)及び各種アプリケーションプログラムを実行する。メモリ12は、CPU11によって実行される各種アプリケーションプログラムを格納する。CPU11とメモリ12とは、バス13によって接続される。
インタフェース部14、15は、CPU11及びメモリ12からのデータを、ネットワークを経由して外部の装置に送信し、外部の装置からのデータを受信する。インタフェース部14、15は、それぞれ、ネットワークA7に接続される回線16、ネットワークB8に接続される回線17に接続される。
図3は、本発明の第1の実施の形態の映像中継サーバ1のメモリ12内の構成を示す説明図である。
映像中継サーバ1のメモリ12は、パーソナライズストリーム制御プログラム121、パーソナライズストリーム配信プログラム122、メタデータ解析プログラム123、マルチキャスト制御プログラム124、バッファ125、端末管理テーブル126、及び、ストリーム管理テーブル127を格納する。
パーソナライズストリーム制御プログラム121は、映像受信端末6から送信された通知を受信し、受信した通知に基づいて端末管理テーブル126を更新する。
パーソナライズストリーム配信プログラム122は、映像配信サーバA〜C(2〜4)から送信される複数の映像ストリームから映像受信端末6に送信すべきパーソナライズストリームを生成し、生成されたパーソナライズストリームを映像受信端末6に送信する。
メタデータ解析プログラム123は、メタデータサーバ5から送信されたメタデータ通知を受信し、受信したメタデータ通知に基づいて、映像受信端末6に送信すべきパーソナライズストリームを選択する。
マルチキャスト制御プログラム124は、映像受信端末6からのマルチキャスト制御要求(IGMPレポート等)を受信し、受信したマルチキャスト制御要求をネットワークA7内に存在するマルチキャストルータに転送する。また、マルチキャスト制御プログラム124は、マルチキャストルータから送信されたマルチキャスト制御要求(IGMPクエリー等)を受信し、受信したマルチキャスト制御要求を映像受信端末6に転送する。
バッファ125は、映像配信サーバA〜C(2〜4)から送信された映像ストリームを一時的に保存する。
端末管理テーブル126は、映像受信端末6の情報を保持する。端末が複数存在する場合は、端末ごとに端末管理テーブルが保持される。
図4は、本発明の第1の実施の形態の端末管理テーブル126の構成例を示す説明図である。
端末管理テーブル126は、IPアドレス501、ポート番号502、キーワード503、パーソナライズストリーム504、切換フラグ505、変更先ストリーム506、及び、変更シーケンス番号507を含む。
IPアドレス501は、映像受信端末6のIPアドレスである。ポート番号502は、パーソナライズストリームを待ち受けるポート番号である。キーワード503は、パーソナライズストリームを選択する際に用いられるキーワードである。なお、キーワードの代わりに、選択されるパーソナライズストリームの識別子を登録してもよい。
IPアドレス504は、映像配信サーバから配信されたストリームのうち、現在パーソナライズストリームとして選択されている映像ストリームの識別子(選択されている映像ストリームが配信されているマルチキャストグループの宛先アドレス)である。
切換フラグ505は、選択するストリームの切り換えを予約するフラグである。変更先ストリーム506は、切り換えを予約した変更先ストリームのIPアドレスである。変更シーケンス番号507は、変更点のシーケンス番号である。
ストリーム管理テーブル127は、映像配信サーバA〜C(2〜4)から送信される映像ストリームの情報を管理する。
図5は、本発明の第1の実施の形態のストリーム管理テーブル127の構成例を示す説明図である。
ストリーム管理テーブル127は、IPアドレス508、キーワード509、変更シーケンス番号510、及び、最終転送シーケンス番号511を含む。
IPアドレス508は、映像配信サーバから送信された映像ストリームの宛先のIPアドレス508である。キーワード509は、映像のキーワードであって、映像に付加情報として付与されるキーワードである。変更シーケンス番号510は、キーワードで示される映像が始まるシーケンス番号である。最終転送シーケンス番号511は、最後に処理したストリームのシーケンス番号である。
<映像配信サーバ>
次に、映像配信サーバA〜C(2〜4)について説明する。
映像配信サーバA2は、図2に示す映像中継サーバ1と同様のハードウェア構成を有する。すなわち、映像配信サーバA2は、CPU11、メモリ12、バス13、及び、インタフェース部14を備える。インタフェース部14は、ネットワークA7に接続される回線16に接続される。なお、映像配信サーバA2はインタフェース部15を備えない。
図6は、本発明の第1の実施の形態の映像配信サーバA〜C(2〜4)のメモリ12内の構成を示す説明図である。
映像配信サーバのメモリ12は、映像取得プログラム401、及び、ストリームパケット生成プログラム402を格納する。
映像取得プログラム401は、映像配信サーバに接続されたカメラ等の撮影機器(図示省略)及び映像データが格納されたメディア(図示省略)等から、映像データを取得する。
ストリームパケット生成プログラム402は、映像取得プログラム401が取得した映像の構成を解析し、ネットワークA7に送信するストリームパケットを生成する。
以上、映像配信サーバA2の構成について説明したが、映像配信サーバB、C(3、4)も、映像配信サーバA2と同じ構成を備える。
図7は、本発明の第1の実施の形態のストリームパケット生成プログラム402によって実行されるストリームパケット生成処理のフローチャートである。
ストリームパケット生成処理は、映像取得処理プログラム401からMPEG2のTSパケットを取得すると(ステップ601)、取得したTSパケットにGOPスタートコードが含まれるか否かを解析する(ステップ602)。
その結果、取得したTSパケットにGOPスタートコードが含まれる場合には(ステップ603で”YES”)、既に生成されているRTPパケットを回線16に出力する(ステップ604)。そして、新たにRTPヘッダを生成し、所定の領域に”1”を設定する(ステップ605)。所定の領域には、RTPヘッダ中にパディング領域として準備されているPビット701を用いるとよい。
図8は、本発明の第1の実施の形態のRTPヘッダの構成を示す説明図である。RTPヘッダのPビット701は未使用のパディング領域である。第1の実施の形態では、GOPの先頭を含むRTPパケットであることを映像中継サーバ1に通知するために、このパディング領域を使用する。
一方、ステップ603で、取得したTSパケットでGOPスタートコードが検出されなかった場合は、ステップ606へ進む。
ステップ606では、RTPヘッダが生成済か否かを判定して、RTPヘッダが生成済でない場合はRTPヘッダを生成する(ステップ607)。一方、RTPヘッダが生成済である場合はステップ608に進む。
その後、ステップ608では、TSパケットをRTPパケットのペイロードにパッキングする。既にRTPヘッダが生成済の場合は、生成済のRTPパケットの最後尾にTSパケットをパッキングする(ステップ608)。
その後、RTPパケットのペイロードにパッキングされたTSパケット数が、回線16のMTUを超えずに送信できる最大数となったか否かを判定する(ステップ609)。その結果、パッキングされたTSパケット数が最大数となった場合は、生成したRTPパケットにIPヘッダ及びUDPヘッダを付与し、RTPパケットを回線に出力する(ステップ610)。その後、TSパケット取得処理(ステップ601)へ戻る。
一方、パッキングされたTSパケット数が最大数を超えない場合は、さらにTSパケットをRTPパケットにパッキングするために、ステップ601のTSパケット取得処理へ戻る。
なお、回線16がイーサネット(登録商標、以下同じ)のMTUは1500バイトであるため、1つのRTPペイロードにパッキングできるTSパケットの最大数は7個となる。ステップ609での判定は、RTPパケットが途中でフラグメントされないようにするための処理であり、RTPパケットがフラグメントされない値であれば、回線のMTUを超えない最大数のTSパケットをパッキングしなくてもよい。リアルタイムに映像を取得するとき、エンコードの遅延等によって、TSパケットが定期的に取得できない場合もある。この場合には、最大数のTSパケットがパッキングできるまで送信を遅らせる必要はない。
図9は、本発明の第1の実施の形態のステップ601から610の処理によって生成され回線に出力されたIPパケットの構成例を示す説明図である。
図示するように、複数のTSパケットがRTPパケットのペイロードにパッキングされている。GOPスタートコードを含むTSパケットは、RTPペイロードの先頭にパッキングされる。GOPスタートコードを含むTSパケットがRTPパケットに含まれている場合は、RTPヘッダのPビット(701)に”1”が設定される。RTPパケットにGOPスタートコードを含まないTSパケットのみが含まれる場合は、RTPヘッダのPビット(701)に”0”が設定される。
<メタデータサーバ>
次に、メタデータサーバ5について説明する。
メタデータサーバ5は、図2に示す映像中継サーバ1と同様のハードウェア構成を備える。すなわち、メタデータサーバ5は、CPU11、メモリ12、バス13、及び、インタフェース部14を備える。インタフェース部14は、ネットワークA7に接続される回線16に接続される。なお、映像配信サーバA2はインタフェース部15を備えない。
図10は、本発明の第1の実施の形態のメタデータサーバ5のメモリ12内の構成を示す説明図である。
メタデータサーバ5のメモリ12は、ストリーム取得プログラム403、及び、メタデータ生成プログラム404を格納する。
ストリーム取得プログラム403は、映像配信サーバA〜C(2〜4)が送信したストリームパケットを取得する。ストリームパケットは、ネットワークA7を通して取得してもよい。また、映像配信サーバA〜C(2〜4)と直接接続された専用線を用いてもよい。また、映像配信サーバA〜C(2〜4)とメタデータサーバ5を同一のハードウェアに実装し、メモリ12を通してストリームパケット取得してもよい。
メタデータ生成プログラム404は、ストリーム取得プログラム403が取得した映像ストリームに対応するメタデータを生成する。メタデータは、映像内容を示すキーワード、RTPのシーケンス番号、及び、配信サーバのIDを関連づけたデータである。メタデータに含まれるキーワードは、カメラに付されたセンサーからの情報や、映像ストリームに含まれる画像を解析した結果等によって定められる。
図11は、本発明の第1の実施の形態のメタデータ通知の構成例を示す。
メタデータには、少なくとも、映像内容を示すキーワード、キーワードと関連付けられた映像のRTPヘッダのシーケンス番号、及び、映像配信サーバを特定するためのIDが含まれる。キーワードと映像とはGOP単位として関連付けられる。通知されるメタデータに対応する映像を含むRTPパケットは、必ずGOPの先頭を含んでいる。本実施の形態では、映像配信サーバA〜C(2〜4)のIDとして、映像配信サーバが映像ストリームを配信するマルチキャストグループの宛先アドレスを使用する。
<映像受信端末>
次に、映像受信端末6について説明する。
映像受信端末6は、図2に示す映像中継サーバ1と同様のハードウェア構成を有する。すなわち、映像受信端末6は、CPU11、メモリ12、バス13、及び、インタフェース部15を備える。インタフェース部15は、ネットワークB8に接続される回線17に接続される。なお、映像受信端末6はインタフェース部14を備えない。
図12は、本発明の第1の実施の形態の映像受信端末6のメモリ12内の構成を示す説明図である。
映像受信端末6のメモリ12は、ストリーム取得プログラム405、及び、ストリーム表示プログラム406を格納する。
ストリーム取得プログラム405は、インタフェース15及び回線17を通して、映像ストリームパケットを取得する。ストリーム表示プログラム406は、ストリーム取得プログラム405が取得した映像ストリームを表示画面に表示する(又は表示画面に出力可能な形式の信号で出力する)。
<第1の実施の形態の処理>
なお、本発明の各実施形態の処理は、各装置のCPU11がメモリ12に格納されたプログラムを実行することによって行われる。なお、各処理の一部又は全部を、プログラムの実行によらず、ハードウェアロジックによって行ってもよい。
図13は、本発明の第1の実施の形態の映像ストリームの切り換え処理のシーケンス図である。
映像受信端末6は、映像配信サーバA〜C(2〜4)から配信される映像ストリームを取得するために、ネットワークB8にIGMPのreportを送信する。映像中継サーバ1は、映像受信端末6によって送信されたIGMPのreportを受信する。受信したIGMPのreportは、マルチキャスト制御処理124によって、ネットワークA7のマルチキャストルータ(図示省略)に転送される。以上の処理によって、映像受信端末6は、各映像配信サーバA〜C(2〜4)によって映像が配信されるマルチキャストグループに参加する。
映像受信端末6は、パーソナライズストリームの受信が可能であることを通知する受信開始通知を、映像中継サーバ1に送信する。受信開始通知には、パーソナライズストリームの受信を待ち受けるポート番号が含まれる。
映像中継サーバ1は、映像受信端末6からの受信開始通知を受信すると、パーソナライズストリーム制御処理を実行する。
図14は、本発明の第1の実施の形態のパーソナライズストリーム制御プログラム121によって実行されるパーソナライズストリーム制御処理のフローチャートである。
まず、映像中継サーバ1は、制御メッセージを受信すると(ステップ901)、受信した制御メッセージから送信元IPアドレス(映像受信端末6のIPアドレス)を抽出し、抽出された送信元IPアドレスを用いて端末管理テーブル126を検索する(ステップ902)。
該当する映像受信端末6の端末管理テーブル126が存在しない場合は(ステップ903で”YES”)、処理を終了する。一方、該当する映像受信端末6の端末管理テーブル126が存在する場合は(ステップ903で”NO”)、制御メッセージの種別を特定する(ステップ904)。
制御メッセージが受信開始通知である場合は(ステップ904で”YES”)、通知された待ち受けポート番号を、該当する映像受信端末6の端末管理テーブル126のポート番号502に登録し、パーソナライズストリームの配信を開始する(ステップ905)。
該当する映像受信端末6の端末管理テーブル126にキーワード503が登録されていない場合は、ストリーム管理テーブル127から任意のストリームを選択し、選択されたストリームのマルチキャストアドレスをパーソナライズストリーム504に登録する。本実施の形態では、239.255.255.1(映像配信サーバAによって配信されるマルチキャストグループの宛先アドレス)を登録する。
なお、端末管理テーブル126のパーソナライズストリーム504は、初回のみ任意のストリームのIPアドレスが登録される。その後は、後述するパーソナライズストリーム配信処理のストリーム切換実行時(図15のステップ1013)に登録される。
図13に戻り、映像受信端末6は端末のユーザが所望する映像のキーワードを含むキー通知を映像中継サーバ1に送信する。映像中継サーバ1は、キー通知を受信すると、パーソナライズストリーム制御処理(図14)を実行する。キー通知を受信した映像中継サーバ1は、ステップ901から903を実行し、ステップ904で”NO”、ステップ908で”YES”となるため、ステップ909に進む。
その後、映像受信端末6から送信されたキー通知からキーワードを抽出し、抽出されたキーワードを端末管理テーブル126のキーワード503に登録する(ステップ909)。
さらに、通知されたキーワードを用いて、ストリーム管理テーブル127を検索する(ステップ910)。映像受信端末6から通知されたキーワードと、ストリーム管理テーブル127に登録されているキーワード509とが一致する場合は、端末管理テーブル126の切換フラグ505を”ON”に設定し、ストリーム管理テーブル127のIPアドレス508を端末管理テーブル126の変更先ストリーム506に登録し、ストリーム管理テーブル127の変更シーケンス番号510を端末管理テーブル126の変更シーケンス番号507を登録する。その後、処理を終了する。
一方、映像受信端末6から通知されたキーワードと、ストリーム管理テーブル127に登録されているキーワード509とが一致しない場合は、端末管理テーブル126を更新することなく、処理を終了する。
ここで、再び図13に戻る。映像中継サーバ1は映像配信サーバA2が送信したストリームパケットを受信すると、パーソナライズストリーム配信処理を実行する。
図15は、本発明の第1の実施の形態のパーソナライズストリーム配信プログラム122によって実行されるパーソナライズストリーム配信処理のフローチャートである。
まず、映像中継サーバ1は、ストリームパケットを受信すると(ステップ1001)、受信したストリームパケットから宛先アドレスを抽出し、抽出された宛先アドレスを用いてストリーム管理テーブル127を検索する(ステップ1002)。
受信したストリームパケットの宛先アドレスがストリーム管理テーブル127に登録されていない場合は(ステップ1003で”YES”)、処理を終了する。一方、受信したストリームパケットの宛先アドレスがストリーム管理テーブル127に登録されている場合は(ステップ1003で”NO”)、受信したストリームパケットのRTPヘッダのPビットの有無を判定する(ステップ1004)。
Pビットに”1”が設定されている場合は、受信しているストリームのデータで、既にバッファされているデータを破棄し(ステップ1005)、受信したストリームパケットをバッファの先頭(バッファID=”1”)に格納する(ステップ1006)。一方、Pビットが”1”に設定されていない場合は、最後にストリームパケットが蓄積されたバッファの次のバッファに、受信したストリームパケットを格納する(ステップ1006)。
ここで、図16に、本発明の第1の実施の形態のRTPパケットが格納されたバッファ125の構成を示す。バッファ125は、1GOP分よりも多い容量であり、RTPパケット毎に異なるバッファIDが付与されて格納される。ストリーム管理テーブルに登録されているストリーム(IPアドレス501)ごとに異なるバッファを保持し、ストリームごとに管理する。
次に、ストリームパケットの宛先IPアドレスを用いて、全ての端末管理テーブル126のパーソナライズストリーム504を検索する(ステップ1007)。ストリームパケットの宛先IPアドレスと、端末管理テーブル126のパーソナライズストリーム504とが一致しない場合は(ステップ1007で”NO”)、処理を終了する。一方、ストリームパケットの宛先IPアドレスと、端末管理テーブル126のパーソナライズストリーム504とが一致する場合は(ステップ1007で”YES”)、ストリームパケットのPビットが設定されているか否かを判定する(ステップ1008)。
ストリームパケットのPビットに”1”が設定されていない場合は(ステップ1008で”NO”)、ステップ1012に進み、受信したストリームパケットのIPヘッダの宛先アドレス及びUDPヘッダの宛先ポート番号を端末管理テーブル126から取得した情報に書き換える。なお、RTPのシーケンス番号、TSパケットのPID、コンティニュティカウンタ、PCR及びPAT等、PESヘッダのPTS、DTS等を書き換えてもよい。そして、ヘッダが書き換えられたストリームパケットをパーソナライズストリームとして映像受信端末6へ送信する(ステップ1012)。
一方、Pビットに”1”が設定されている場合は(ステップ1008で”YES”)、端末管理テーブル126の切換フラグ505が設定されているか否かを判定する(ステップ1009)。
切換フラグ505に”ON”が設定されていない場合は(ステップ1009で”NO”)、受信したストリームパケットのIPヘッダを書き換えて、ヘッダが書き換えられたストリームパケットを送信し(ステップ1012)、処理を終了する。
一方、切換フラグ505が”ON”に設定されている場合は(ステップ1009で”YES”)、端末管理テーブル126の変更先ストリーム506に登録されたIPアドレスのエントリをストリーム管理テーブル127から取得する(ステップ1010)。そして、変更先ストリームのIPアドレスに対応する、ストリーム管理テーブル127中の最終転送シーケンス番号511と、端末管理テーブル126の変更シーケンス番号510とを比較する(ステップ1011)。
その結果、最終転送シーケンス番号511が変更シーケンス番号510より小さい場合は(ステップ1011で”YES”)、変更点のストリームパケットが、映像中継サーバ1にまだ到着していないので、ストリームの切り換えは行わない。そして、受信したストリームパケットのIPヘッダを書き換えて、ヘッダが書き換えられたストリームパケットを送信し(ステップ1012)、処理を終了する。
一方、最終転送シーケンス番号511が変更シーケンス番号510より以上である場合は(ステップ1011で”NO”)、ストリームの切替タイミングに到達していると判定し、ストリームを切り換える。具体的には、変更先ストリームのバッファ125に蓄積されたストリームパケットについて、ステップ1012と同様に、IPヘッダ等を書き換えて、ヘッダが書き換えられたストリームパケットを送信する。また、端末管理テーブル126の変更先ストリーム506に登録されているIPアドレスをパーソナライズストリーム504に登録し、その後、切換フラグ505をOFFに更新し、変更先ストリーム506及び変更シーケンス507に登録されている情報をクリアする(ステップ1013)。その後、処理を終了する。
ここで、再び図13に戻る。映像配信サーバA2から送信されたストリームパケット101及び103は、パーソナライズストリームとして選択され、Pビットが設定されていないため、パーソナライズストリーム配信処理(図15)のステップ1001から1004、ステップ1006から1008、及び、ステップ1012の処理が行われる。これによって、映像中継サーバ1は、ストリームパケット101及び103をバッファ125に蓄積しつつ、パーソナライズストリームとして映像受信端末6へ転送する。
一方、映像配信サーバB3から送信されたストリームパケット102は、ビットは設定されず、パーソナライズストリームとして端末管理テーブルに登録されていないため、パーソナライズストリーム配信処理(図15)のステップ1001から1004、ステップ1006から1007の処理が行われる。これによって、映像中継サーバ1は、ストリームパケット102をバッファ125に蓄積し、処理を終了する。
映像中継サーバ1は、メタデータ104を受信すると、メタデータ解析プログラム123を実行することによって、メタデータ解析処理を行う。
図17は、本発明の第1の実施の形態のメタデータ解析プログラム123によって実行されるメタデータ解析処理のフローチャートである。
まず、映像中継サーバ1は、メタデータを受信すると(ステップ1101)、受信したメタデータからIPアドレスを抽出し、抽出されたIPアドレスを用いてストリーム管理テーブル127を検索する(ステップ1102)。
受信したメタデータに含まれるIPアドレスがストリーム管理テーブル127に登録されていない場合は(ステップ1103で”YES”)、処理を終了する。一方、受信したメタデータに含まれるIPアドレスがストリーム管理テーブル127に登録されている場合は(ステップ1103で”NO”)、受信したメタデータに含まれるキーワード及びシーケンス番号をストリーム管理テーブル127のキーワード509及び変更シーケンス番号510にそれぞれ登録する(ステップ1104)。
次に、全ての端末管理テーブル126のキーワード503と、メタデータにて通知されたキーワードとを比較する(ステップ1105)。メタデータにて通知されたキーワードが端末管理テーブル126のいずれのキーワード503とも一致しない場合は、切り換えるべき映像ストリームがないので、処理を終了する。
一方、メタデータにて通知されたキーワードが端末管理テーブル126のいずかのキーワード503と一致する場合は、該当する端末管理テーブル126を更新する(ステップ1105)。具体的には、該当する端末管理テーブル126の切換フラグ505を”ON”に設定し、メタデータにて通知されたIPアドレス及びシーケンス番号を端末管理テーブル126の変更先ストリーム506及び変更シーケンス番号507に登録する。
以上説明した処理によって、受信したメタデータ104に基づいて、端末管理テーブル126及びストリーム管理テーブル127が更新される。
ここで、再び図13に戻る。図13に示す場合、映像受信端末6から送信されたキーワードとメタデータ104に含まれるキーワードとが一致しているので、端末管理テーブルの切換フラグ505はONに設定されている。しかし、その後に映像配信サーバA2から送信されたストリームパケット105及び107はPビットが設定されていないため、映像中継サーバ1は、ストリームパケット101と同様に、ストリームパケット105及び107を処理する。
映像配信サーバB3によって送信されたストリームパケット106のシーケンス番号は、メタデータ通知104で通知されたシーケンス番号と同じであり、Pビットが設定されているため、ストリームの切換点である。しかし、ストリームパケット106の到達時にはストリームAが切換点に到達していないため、ストリームが切り換えられない。そこで、パーソナライズストリーム配信処理(図15)のステップ1001から1007及びステップ1012の処理が行われ、ストリームパケット106がバッファ125に格納される。ストリームパケット106に続いて到達するストリームパケット108も、同様にバッファ125に格納される。
映像配信サーバA2によって送信されたストリームパケット109は、Pビットが設定されている。端末管理テーブル126の切換フラグが”ON”であるので、ストリームが切り換えられる。すなわち、パーソナライズストリーム配信処理(図15)のステップ1001から1011及び1013の処理が行われ、ストリームパケット109は転送されず、バッファに蓄積される。さらに、映像配信サーバB3によって送信されたストリームパケット106及び108はバッファから読み出され、IPヘッダの宛先アドレス及びUDPヘッダの宛先ポート番号を端末管理テーブル126から取得した情報に書き換える。なお、RTPのシーケンス番号、TSパケットのPID、コンティニュティカウンタ、PCR及びPAT等、PESヘッダのPTS、DTS等を書き換えてもよい。そして、ヘッダが書き換えられたストリームパケットは、パーソナライズストリームとして映像受信端末6に送信される。
ストリーム切換後に映像中継サーバ1に到着した、映像配信サーバB3によって送信されたストリームパケット110は、ステップ1001から1004、1006から1008及び1012の処理が行われることによって、バッファに蓄積されつつ、パーソナライズストリームとして、映像受信端末6に送信される。
図18は、本発明の第1の実施の形態の映像配信サーバから配信されるストリームが切り換えられたパーソナライズストリームの説明図である。具体的には、図18は、映像中継サーバ1が、図13に示すシーケンスによって、映像配信サーバA2から配信されるストリームAが、映像配信サーバB3から配信されるストリームBに切り換えることによって、映像中継サーバ1が送信したパーソナライズストリームを示す。なお、図18においては、右から左に時間が流れている。
メタデータ104によって通知されたキーワードに対応して映像ストリームを切り換える場合、切り換えによって転送が中止されるストリームA(終了ストリーム)は、GOPの終端となるストリームパケット107まで転送された後、ストリームが切り換えられる。
切り換えによって転送が開始されるストリーム(開始ストリーム)は、バッファに格納されていたGOPの始まりとなるストリームパケット106から転送が開始される。バッファに格納されたストリームパケットの転送終了後は、ストリームパケット110のように、ストリームパケットが到着次第転送される。これによって、映像受信端末6は、終了ストリームをGOPの終端まで受信し、開始ストリームはGOPの始まりから受信することが可能となる。
なお、第1の実施の形態の映像中継方法によると、メタデータの通知が、切換点より後に到着した場合(111)でも、同様の処理によって、ストリームBはGOPの先頭から送信することができる。また、バッファ125の更新単位である1GOP分よりも遅れてメタデータが到着した場合は、最寄りのGOPの先頭からストリームを切り換えることができる。さらに、1GOP分よりも多い容量のバッファ125を備えることによって、メタデータが1GOP分より遅く到着した場合でも、GOPの先頭から新しいストリームを送信することが可能となる。
なお、第1の実施の形態では、映像符号化方式にMPEG2を用いたが、本実施の形態は、1つのフレームを複数のパケットに分割して送信する映像配信システムであれば、他の映像符号化方式を用いるもの全てに適用することができる。
以上説明したように、本発明の一実施形態によると、映像の付加情報であるメタデータに対応して、映像ストリームの再生単位を考慮して、途切れなく再生可能に、映像を切り換えることができる。また、開始ストリームの映像データをバッファ125に格納しているので、メタデータが切換点のストリームデータより遅れて通知された場合でも、映像受信端末が再生に支障なく、連続的に映像を再生可能な点から映像ストリームを切り換えることができる。さらに、ストリームデータのヘッダ部を参照して映像を切り換えるので、切換点を特定する処理を削減することができる。
<実施形態2>
次に、本発明の第2の実施の形態について説明する。
第2の実施の形態では、映像配信サーバA〜C(2〜4)が、GOPの先頭だけでなく、GOPの終端や、I及びPフレーム直前、開始を通知する目印を付与することによって、前述した第1の実施の形態より迅速にストリームを切り換えることができる。
第2の実施の形態の映像配信システム及び各装置の構成は、前述した第1の実施の形態と同じである。
図19は、本発明の第2の実施の形態のストリームパケット生成プログラム402によって実行されるストリームパケット生成処理のフローチャートである。なお、前述した第1の実施の形態のストリームパケット生成処理(図7)と同じ処理は同じ符号を付し、それらの説明は省略する。
ステップ603で、取得したTSパケットにGOPスタートコード及びピクチャースタートコードが含まれるか否かを解析する。
TSパケットにGOPスタートコードが含まれる場合には(ステップ603で”YES”)、既に生成されているRTPパケットにGOPの終端を示す拡張ヘッダを付与し、生成されたRTPパケットを回線16に出力する(ステップ1302)。そして、新たにRTPヘッダを生成し、GOPの先頭を示す拡張ヘッダを設定する(ステップ1303)。
ステップ603で、TSパケットにGOPスタートコードが含まれていない場合には(ステップ603で”NO”)、さらに、取得したTSパケットにピクチャースタートコードが含まれるか否かを判定する。ピクチャースタートコードが含まれる場合は、ピクチャタイプを検査しPピクチャか否かを判定する。TSパケットにピクチャースタートコードが含まれる場合には(ステップ1301で”YES”)、既に生成されているRTPパケットにPピクチャの直前であることを示す拡張ヘッダを付与し、生成されたRTPパケットを回線16に出力する(ステップ1304)。そして、新たにRTPヘッダを生成し、Pピクチャの開始を示す拡張ヘッダを設定する(ステップ1305)。
図20は、本発明の第2の実施の形態のRTPの拡張ヘッダの構成を示す説明図である。
RTPの拡張ヘッダは、拡張ヘッダの種別、データ長、及び、RTPペイロードにパッキングされたデータの種別を含む。データの種別は、GOPの先頭、GOPの終端、Pピクチャー(フレーム)の直前、及び、Pピクチャ(フレーム)の開始のいずれかを含む。
図21は、本発明の第2の実施の形態のパーソナライズストリーム配信プログラム122によって実行されるパーソナライズストリーム配信処理のフローチャートである。なお、前述した第1の実施の形態のパーソナライズストリーム配信処理(図15)と同じ処理は同じ符号を付し、それらの説明は省略する。
第2の実施の形態のパーソナライズ配信処理では、RTPの拡張ヘッダを利用して映像ストリームの切り換えタイミングを判定する。
すなわち、第2の実施の形態のパーソナライズ配信処理では、ステップ1001〜1003の処理が行われる。その後、受信したストリームパケットの宛先アドレスがストリーム管理テーブル127に登録されている場合は(ステップ1003で”NO”)、受信したストリームパケットのRTPの拡張ヘッダのデータ種別が、”GOPの先頭”を示すか否かを判定する(ステップ1901)。RTPの拡張ヘッダのデータ種別が”GOPの先頭”を示す場合は、受信しているストリームのデータで、既にバッファされているデータを破棄し(ステップ1005)、受信したストリームパケットをバッファ125の先頭の領域(バッファID=”1”)に格納する(ステップ1006)。一方、RTPの拡張ヘッダのデータ種別に”GOPの先頭”が設定されていない場合は、最後にストリームパケットが蓄積されたバッファの次の領域(バッファID=”2”)に、受信したストリームパケットを格納する(ステップ1006)。
さらに、ステップ1007の処理が行われた後、ストリームパケットの宛先IPアドレスと、端末管理テーブル126のパーソナライズストリーム504とが一致する場合は(ステップ1007で”YES”)、RTPパケットに拡張ヘッダが付されているか否かを判定する(ステップ1902)。その結果、RTPパケットに拡張ヘッダが付されている場合は、ステップ1009の処理が行われる。一方、RTPパケットに拡張ヘッダが付されていない場合は、ステップ1012に進む。
さらに、ステップ1011において、最終転送シーケンス番号511が変更シーケンス番号510より以上であると判定された場合は(ステップ1011で”NO”)、RTPの拡張ヘッダのデータ種別が”GOPの終端”又は”Pフレームの直前”を示すか否かを判定する(ステップ1903)。RTPの拡張ヘッダのデータ種別が”GOPの終端”又は”Pフレームの直前”を示す場合に、ステップ1001で受信したストリームパケットのIPヘッダの宛先アドレス及びUDPヘッダの宛先ポート番号を端末管理テーブル126から取得した情報に書き換える。なお、RTPのシーケンス番号、TSパケットのPID、コンティニュティカウンタ、PCR及びPAT等、PESのPTS、DTS等を書き換えてもよい。そして、ヘッダが書き換えられたストリームパケットをパーソナライズストリームとして映像受信端末6へ送信する(ステップ1904)。その後、ステップ1013に進む。
その他の処理は、前述した第1の実施の形態のパーソナライズストリーム配信処理(図15)と同じである。
図22は、本発明の第2の実施の形態の映像ストリームの切り換え処理のシーケンス図である。
映像受信端末6は、映像配信サーバA〜C(2〜4)から配信されるオリジナルの映像ストリームを取得するために、ネットワークB8にIGMPのreportを送信する。映像中継サーバ1は、映像受信端末6によって送信されたIGMPのreportを受信する。受信したIGMPのreportは、マルチキャスト制御処理124によって、ネットワークA7のマルチキャストルータ(図示省略)に転送される。以上の処理によって、映像受信端末6は、各映像配信サーバA〜C(2〜4)によって映像が配信されるマルチキャストグループに参加する。
映像受信端末6は、パーソナライズストリームの受信が可能であることを通知する受信開始通知を、映像中継サーバ1に送信する。受信開始通知には、パーソナライズストリームの受信を待ち受けるポート番号が含まれる。
映像中継サーバ1は、映像受信端末6からの受信開始通知を受信すると、パーソナライズストリーム制御処理(図14)を実行する。パーソナライズストリームは、初回のみ任意のストリームを選択して登録するが、本実施例では、パーソナライズストリームとして、映像配信サーバA2が送信しているストリーム(宛先アドレス239.255.255.1)が登録されることとする。その後、映像受信端末6は端末のユーザが所望する映像のキーワードを含むキー通知を映像中継サーバ1に送信する。映像中継サーバ1は、キー通知を受信すると、パーソナライズストリーム制御処理(図14)を実行する。
その後、映像中継サーバ1は映像配信サーバA2が送信したストリームパケットを受信すると、パーソナライズストリーム配信処理(図21)を実行する。
映像配信サーバA2から送信されたストリームパケット1709及び1710は、パーソナライズストリームとして選択され、RTP拡張ヘッダは持っていないため、パーソナライズストリーム配信処理(図21)のステップ1001から1901、ステップ1006から1902、及び、ステップ1012の処理が行われる。これによって、映像中継サーバ1は、ストリームパケット1709及び1710をバッファ125に蓄積しつつ、パーソナライズストリームとして映像受信端末6へ転送する。
一方、映像配信サーバB3から送信されたストリームパケット1701は、パーソナライズストリームとして選択されていない。また、映像配信サーバB3によって送信されたストリームパケット102の拡張ヘッダは”GOPの先頭”であることを示していないため、パーソナライズストリーム配信処理(図21)のステップ1001から1901、ステップ1006から1007の処理が行われる。これによって、映像中継サーバ1は、ストリームパケット1701をバッファ125に蓄積する。
映像中継サーバ1は、メタデータ1702を受信すると、メタデータ解析プログラム123を実行することによって、メタデータ解析処理(図17)を行う。
映像受信端末6から送信されたキーワードとメタデータ1702に含まれるキーワードとが一致しているので、端末管理テーブルの切換フラグ505はONに設定される。しかし、その後に映像配信サーバA2から送信されたストリームパケット1711は、RTP拡張ヘッダを持っていないため、映像中継サーバ1は、ストリームパケット1709と同様に、ストリームパケット1711を処理する。
映像配信サーバB3によって送信されたストリームパケット1704のシーケンス番号は、メタデータ通知1702で通知されたシーケンス番号と同じであり、”GOPの先頭”であることを示す拡張ヘッダを含んでいるため、ストリームの切換点である。しかし、ストリームパケット1704の到達時にはストリームAが切換点に到達していないため、ストリームが切り換えられない。そこで、パーソナライズストリーム配信処理(図21)のステップ1001から1007の処理が行われ、ストリームパケット1074がバッファ125に格納される。
映像配信サーバA2によって送信されたストリームパケット1703は、”Pピクチャーの直前”であることを示す拡張ヘッダを含んでいる。端末管理テーブル126の切換フラグ505が”ON”であり、ストリームの切換点のパケットも到達しているので、本ストリームパケットを転送後、ストリームが切り換えられる。すなわち、パーソナライズストリーム配信処理(図21)のステップ1001から1901、1005から1011及び1903から1013の処理が行われ、ストリームパケット1703は、パーソナライズストリームとして端末6に転送され、さらにバッファ125にも蓄積される。さらに、映像配信サーバB3によって送信されたストリームパケット1704はバッファ125から読み出され、パーソナライズストリームとして映像受信端末6に送信される。
ストリーム切換後に映像中継サーバ1に到着した、映像配信サーバB3によって送信されたストリームパケット1706及び1708は、ステップ1001から1901、1006から1902及び1012の処理が行われることによって、パーソナライズストリームとして、映像受信端末6に送信される。
一方、ストリーム切換後に映像中継サーバ1に到着した、映像配信サーバA2によって送信されたストリームパケット1705及び1707は、ステップ1001から1901、ステップ1006から1007の処理が行われることによあって、バッファ125に蓄積される。
図23は、本発明の第2の実施の形態の映像配信サーバから配信されるストリームが切り換えられたパーソナライズストリームの説明図である。具体的には、図23は、映像中継サーバ1が、図22に示すシーケンスによって、映像配信サーバA2から配信されるストリームAが、映像配信サーバB3から配信されるストリームBに切り換えることによって、映像中継サーバ1が送信したパーソナライズストリームを示す。なお、図23においては、右から左に時間が流れている。
メタデータ104によって通知されたキーワードに対応して映像ストリームを切り換える場合、切り換えによって転送が中止されるストリームA(終了ストリーム)は、GOPの終端を待たずに、Pピクチャの直前となるストリームパケット1703まで転送された後、ストリームが切り換えられる。
切り換えによって転送が開始されるストリーム(開始ストリーム)は、バッファ125に格納されていたGOPの始まりとなるストリームパケット1704から転送が開始される。バッファ125に格納されたストリームパケットの転送終了後は、ストリームパケット1706のように、ストリームパケットが到着次第転送される。これによって、映像受信端末6は、終了ストリームをPピクチャの直前まで受信し、開始ストリームはGOPの始まりから受信することが可能となる。
以上説明したように、本発明の第2の実施の形態では、GOPの区切り以外に、Pフレームの開始直前においても、終了されるべきストリームの転送が中止される。よって、映像中継処置1は、第1の実施例よりストリームの終了点を早く検知することができ、より迅速に映像ストリームを切り換えることができる。
<実施形態3>
次に、本発明の第3の実施の形態について説明する。
第3の実施の形態では、映像中継サーバ1に備わる機能を映像受信端末6に配置し、映像中継サーバが設けられていない映像配信システムにおいても、映像ストリームを切り換えることができる構成について説明する。
図24は、本発明の第3の実施の形態の映像配信システムの構成を示すシステム構成図である。
第1の実施の形態の映像配信システムは、映像配信サーバA〜C(2、3、4)、メタデータサーバ5、及び、ネットワークA7を備え、ネットワークA7には、映像受信端末6が接続されている。
本発明の第3の実施の形態の映像受信端末6は、映像選択部61及び映像表示部62を備える。映像表示部62は、ストリーム取得プログラム405及びストリーム表示プログラム406(図12)を備える。映像選択部61は、パーソナライズストリーム制御プログラム121、パーソナライズストリーム配信プログラム122、メタデータ解析プログラム123、マルチキャスト制御プログラム124、バッファ125、端末管理テーブル126、及び、ストリーム管理テーブル127(図3)を備える。各プログラムによって実行される処理は、前述した第1の実施の形態と同じである。
図25は、本発明の第3の実施の形態の映像ストリームの切り換え処理のシーケンス図である。
第3の実施の形態では、映像受信端末6は、上流のマルチキャストルータ(図示省略)に、直接マルチキャスト制御要求(IGMPのレポートなど)を送信する。
受信開始要求、キー通知及び受信終了通知は、映像受信端末6の内部処理として、メモリ12を介して、パーソナライズストリーム制御プログラム121に通知される。制御メッセージ受信時のパーソナライズストリーム制御処理は、前述した第1の実施の形態と同じである。端末管理テーブル126は、自映像受信端末6の情報のみを管理する。
ストリーム取得プログラム405は、映像配信サーバA〜C(2、3、4)から送信される全てのストリームパケットを受信する、受信したストリームパケットは、映像受信端末6の内部処理として、パーソナライズストリーム配信プログラム122に渡される。
パーソナライズストリーム配信プログラム122は、ストリームパケットを受信すると、前述した第1の実施の形態と同様に、ステップ1012及び1013(図15)でストリームパケットを選択する。選択されたストリームパケットは、回線へ出力されず、映像受信端末6の内部処理として(例えば、メモリを介して)、ストリーム取得プログラム405に渡される。ストリーム取得プログラム405は、パーソナライズストリーム配信プログラム122から渡されたストリームパケットから映像データを取得し、取得したストリームパケットをストリーム表示プログラム406へ渡す。ストリーム表示プログラム406は、ストリームパケットを表示画面に表示する。
以上説明したように、本発明の第3の実施の形態では、映像中継サーバ1に備わる機能を映像受信端末6に配置したので、映像中継サーバが設けられていない映像配信システムにおいても、映像ストリームを切り換えることができる。
<実施形態4>
次に、本発明の第4の実施の形態について説明する。
第4の実施の形態では、映像中継サーバ1が、メタデータの通知ごとにストリームを切り換えて、ダイジェストストリームを配信する例について説明する。
第4の実施の形態の映像配信システム及び各装置の構成は、前述した第1の実施の形態と同じである。
図26は、本発明の第4の実施の形態の映像ストリームの切り換え処理のシーケンス図である。
第4の実施の形態において、映像受信端末6から制御メッセージを受信した場合の映像中継サーバ1による処理、及び、ストリームパケットを受信した場合の映像中継サーバ1による処理は、前述した第1の実施の形態と同じである。
映像中継サーバ1は、メタデータ通知を受信すると、メタデータ解析プログラム123を実行することによって、メタデータ解析処理123を行う。第4の実施の形態例では、メタデータ解析処理(図17)のステップ1105においてキーワードを比較せず、メタデータ通知を受信する毎に、端末管理テーブル126の切換フラグ505を”ON”に設定し、変更先ストリーム506及び変更シーケンス番号507を登録する。
その結果、映像中継サーバ1は、メタデータが通知されるごとにパーソナライズストリームを切り換えることができる。
その他の処理は、前述した第1の実施の形態と同じである。
以上説明したように、本発明の第4の実施の形態では、映像中継サーバ1は、メタデータが通知されるごとにパーソナライズストリームを切り換えることによって、各映像配信サーバA〜C(2〜4)から配信される映像ストリームのダイジェストストリームを映像受信端末に配信することができる。
本発明の第1の実施の形態の映像配信システムの構成を示すシステム構成図である。 本発明の第1の実施の形態の映像中継サーバの構成を示すブロック図である。 本発明の第1の実施の形態の映像中継サーバのメモリ内の構成を示す説明図である。 本発明の第1の実施の形態の端末管理テーブルの構成例を示す説明図である。 本発明の第1の実施の形態のストリーム管理テーブルの構成例を示す説明図である。 本発明の第1の実施の形態の映像配信サーバA〜Cのメモリ内の構成を示す説明図である。 本発明の第1の実施の形態のストリームパケット生成処理のフローチャートである。 本発明の第1の実施の形態のRTPヘッダの構成を示す説明図である。 本発明の第1の実施の形態によって生成され回線に出力されたIPパケットの構成例を示す説明図である。 本発明の第1の実施の形態のメタデータサーバのメモリ内の構成を示す説明図である。 本発明の第1の実施の形態のメタデータ通知の構成例を示す。 本発明の第1の実施の形態の映像受信端末のメモリ内の構成を示す説明図である。 本発明の第1の実施の形態の映像ストリームの切り換え処理のシーケンス図である。 本発明の第1の実施の形態のパーソナライズストリーム制御処理のフローチャートである。 本発明の第1の実施の形態のパーソナライズストリーム処理のフローチャートである。 本発明の第1の実施の形態のRTPパケットが格納されたバッファの構成を示す説明図である。 本発明の第1の実施の形態のメタデータ解析処理のフローチャートである 本発明の第1の実施の形態のパーソナライズストリームの説明図である。 本発明の第2の実施の形態のストリームパケット生成処理のフローチャートである。 本発明の第2の実施の形態のRTPの拡張ヘッダの構成を示す説明図である。 本発明の第2の実施の形態のパーソナライズストリーム配信処理のフローチャートである。 本発明の第2の実施の形態の映像ストリームの切り換え処理のシーケンス図である。 本発明の第2の実施の形態のパーソナライズストリームの説明図である。 本発明の第3の実施の形態の映像配信システムの構成を示すシステム構成図である。 本発明の第3の実施の形態の映像ストリームの切り換え処理のシーケンス図である。 本発明の第4の実施の形態の映像ストリームの切り換え処理のシーケンス図である。
符号の説明
1 映像中継サーバ
2 映像配信サーバA
3 映像配信サーバB
4 映像配信サーバC
5 メタデータ配信サーバ
6 映像受信端末
11 CPU
12 メモリ
13 バス
14、15 インタフェース
16、17 回線
121 パーソナライズストリーム制御プログラム
122 パーソナライズストリーム配信プログラム
123 メタデータ解析プログラム
124 マルチキャスト制御プログラム
125 バッファ
126 端末管理テーブル
127 ストリーム管理テーブル
401 映像取得プログラム
402 ストリームパケット生成プログラム
403 ストリーム取得プログラム
404 メタデータ生成プログラム
405 ストリーム取得プログラム
406 ストリーム表示プログラム

Claims (17)

  1. 映像ストリームを送信する映像配信装置と、
    前記映像配信装置から送信された映像ストリームをバッファに蓄積し、選択された前記映像ストリームを映像受信端末に転送する映像中継装置と、を備える映像配信システムにおいて、
    前記映像配信装置は、前記映像ストリームの再生可能な単位を示す区切情報を付加して前記映像ストリームを送信し、
    前記映像中継装置は、前記転送される映像ストリームを前記区切情報の箇所のみで切り換えることを特徴とする映像配信システム。
  2. 前記配信システムは、さらに、前記映像配信装置から送信された映像ストリームに関する情報を送信するメタデータ配信装置を備え、
    前記メタデータ配信装置は、前記映像ストリームに含まれる被写体の情報、及び、この被写体の情報に対応する映像ストリームの場所の情報を含むメタデータを送信し、
    前記映像中継装置は、
    前記メタデータ配信装置から送信されたメタデータ、及び、前記映像ストリームに含まれる被写体の情報を含み、前記映像受信装置から送信された映像送信要求を受信し、
    前記受信したメタデータを参照して、前記受信した映像送信要求に合致する映像ストリームが配信されているか否かを判定し、
    前記受信した映像送信要求に合致する映像ストリームが配信されている場合には、現在転送中の第1の映像ストリームを前記区切情報によって特定される映像まで転送し、前記切換先の第2の映像ストリームを前記区切情報によって特定される映像から転送することを特徴とする請求項1に記載の映像配信システム。
  3. 前記映像中継装置は、
    前記第2の映像ストリームのデータを前記バッファに格納し、
    前記第2の映像ストリームの区切情報を受信した場合に、前記バッファに格納された第2の映像ストリームのデータを消去することを特徴とする請求項2に記載の映像配信システム。
  4. 前記映像ストリームは、少なくとも、フレーム間の予測を使わずに単独で再生可能な第1のフレーム、及び、他のフレームからの順方向の予測のみによって再生可能な第2のフレームを含み、
    前記映像中継装置は、前記第1のフレームの直前又は前記第2のフレームの直前まで前記第1の映像ストリームを転送し、前記第1のフレームから前記第2の映像ストリームを転送することを特徴とする請求項2に記載の映像配信システム。
  5. 前記被写体の情報に対応する映像ストリームの場所の情報は、前記被写体が写り始める映像のRTPシーケンス番号を含むことを特徴とする請求項2に記載の映像配信システム。
  6. 前記映像配信装置は、RTPパケットによって前記映像ストリームを送信し、
    前記区切情報は、前記RTPパケットのヘッダ部に含まれることを特徴とする請求項1に記載の映像配信システム。
  7. 前記映像配信装置は、フレーム間の予測を使わずに単独で生成可能なフレームが、配信すべき映像ストリーム中に検出された場所に、前記区切情報を付加することを特徴とする請求項1に記載の映像配信システム。
  8. 映像配信装置から送信された映像ストリームをバッファに蓄積し、選択された前記映像ストリームを映像受信端末に転送する映像中継装置であって、
    前記映像配信装置は、前記映像ストリームの再生可能な単位を示す区切情報を付加して前記映像ストリームを送信し、
    前記映像中継装置は、
    前記映像ストリームに含まれる被写体の情報、及び、この被写体の情報に対応する映像ストリームの場所の情報を含むメタデータを送信するメタデータ配信装置に接続され、
    前記メタデータ配信装置から送信されたメタデータ、及び、前記映像ストリームに含まれる被写体の情報を含み、前記映像受信装置から送信された映像送信要求を受信し、
    前記受信したメタデータを参照して、前記受信した映像送信要求に合致する映像ストリームが配信されているか否かを判定し、
    前記受信した映像送信要求に合致する映像ストリームが配信されている場合には、現在転送中の第1の映像ストリームを前記区切情報によって特定される映像まで転送し、前記切換先の第2の映像ストリームを前記区切情報によって特定される映像から転送することを特徴とする映像中継装置。
  9. 前記第2の映像ストリームのデータを前記バッファに格納し、
    前記第2の映像ストリームの区切情報を受信した場合に、前記バッファに格納された第2の映像ストリームのデータを消去することを特徴とする請求項8に記載の映像中継装置。
  10. 前記映像ストリームは、少なくとも、フレーム間の予測を使わずに単独で再生可能な第1のフレーム、及び、他のフレームからの順方向の予測のみによって再生可能な第2のフレームを含み、
    前記映像中継装置は、前記第1のフレームの直前又は前記第2のフレームの直前まで前記第1の映像ストリームを転送し、前記第1のフレームから前記第2の映像ストリームを転送することを特徴とする請求項8に記載の映像中継装置。
  11. 前記被写体の情報に対応する映像ストリームの場所の情報は、前記被写体が写り始める映像のRTPシーケンス番号を含むことを特徴とする請求項8に記載の映像中継装置。
  12. 前記映像配信装置からRTPパケットによって送信された前記映像ストリームを受信し、
    前記RTPパケットのヘッダ部から前記区切情報を抽出することを特徴とする請求項8に記載の映像中継装置。
  13. 映像ストリームを送信する映像配信装置と、
    前記映像配信装置から送信された映像ストリームをバッファに蓄積し、選択された前記映像ストリームを映像受信端末に転送する映像中継装置と、
    前記映像配信装置から送信された映像ストリームに関する情報を送信するメタデータ配信装置と、を備える映像配信システムにおける映像中継方法であって、
    前記映像配信装置は、前記映像ストリームの再生可能な単位を示す区切情報を付加して前記映像ストリームを送信し、
    前記メタデータ配信装置は、前記映像ストリームに含まれる被写体の情報、及び、この被写体の情報に対応する映像ストリームの場所の情報を含むメタデータを送信し、
    前記映像中継装置は、
    前記メタデータ配信装置から送信されたメタデータ、及び、前記映像ストリームに含まれる被写体の情報を含み、前記映像受信装置から送信された映像送信要求を受信し、
    前記受信したメタデータを参照して、前記受信した映像送信要求に合致する映像ストリームが配信されているか否かを判定し、
    前記受信した映像送信要求に合致する映像ストリームが配信されている場合には、現在転送中の第1の映像ストリームを前記区切情報によって特定される映像まで転送し、前記切換先の第2の映像ストリームを前記区切情報によって特定される映像から転送することを特徴とする映像中継方法。
  14. 前記映像中継装置は、
    前記第2の映像ストリームのデータを前記バッファに格納し、
    前記第2の映像ストリームの区切情報を受信した場合に、前記バッファに格納された第2の映像ストリームのデータを消去することを特徴とする請求項13に記載の映像中継方法。
  15. 前記映像ストリームは、少なくとも、フレーム間の予測を使わずに単独で再生可能な第1のフレーム、及び、他のフレームからの順方向の予測のみによって再生可能な第2のフレームを含み、
    前記映像中継装置は、前記第1のフレームの直前又は前記第2のフレームの直前まで前記第1の映像ストリームを転送し、前記第1のフレームから前記第2の映像ストリームを転送することを特徴とする請求項13に記載の映像中継方法。
  16. 前記被写体の情報に対応する映像ストリームの場所の情報は、前記被写体が写り始める映像のRTPシーケンス番号を含むことを特徴とする請求項13に記載の映像中継方法。
  17. 前記映像配信装置は、RTPパケットによって前記映像ストリームを送信し、
    前記映像中継装置は、前記RTPパケットのヘッダ部から前記区切情報を抽出することを特徴とする請求項13に記載の映像中継方法。
JP2007272348A 2007-10-19 2007-10-19 映像配信システム、映像中継装置、及び映像中継方法 Ceased JP2009100411A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2007272348A JP2009100411A (ja) 2007-10-19 2007-10-19 映像配信システム、映像中継装置、及び映像中継方法
US12/253,272 US20090106807A1 (en) 2007-10-19 2008-10-17 Video Distribution System for Switching Video Streams
CN200810149951XA CN101420316B (zh) 2007-10-19 2008-10-17 影像分发系统、影像中继装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007272348A JP2009100411A (ja) 2007-10-19 2007-10-19 映像配信システム、映像中継装置、及び映像中継方法

Publications (1)

Publication Number Publication Date
JP2009100411A true JP2009100411A (ja) 2009-05-07

Family

ID=40630940

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007272348A Ceased JP2009100411A (ja) 2007-10-19 2007-10-19 映像配信システム、映像中継装置、及び映像中継方法

Country Status (2)

Country Link
JP (1) JP2009100411A (ja)
CN (1) CN101420316B (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010278729A (ja) * 2009-05-28 2010-12-09 Mitsubishi Electric Corp 映像送信装置、映像受信装置及び映像配信システム
JP2011176601A (ja) * 2010-02-24 2011-09-08 Oki Networks Co Ltd コンテンツ配信システム、ネットワーク装置、コンテンツ配信サーバ及びユーザ端末
WO2014076843A1 (ja) * 2012-11-19 2014-05-22 三菱電機株式会社 デジタル放送受信装置およびデジタル放送受信方法
JP2021535658A (ja) * 2018-08-22 2021-12-16 華為技術有限公司Huawei Technologies Co., Ltd. ビデオ・ストリーム切り換えを実装するための方法、装置およびシステム

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5811602B2 (ja) * 2010-12-16 2015-11-11 ソニー株式会社 画像生成装置、プログラム、画像表示システム、および画像表示装置
DE102011078021A1 (de) * 2011-06-22 2012-12-27 Institut für Rundfunktechnik GmbH Vorrichtung und Verfahren zum Schalten von Echtzeitmedienströmen
CN102821364A (zh) * 2012-07-23 2012-12-12 圆刚科技股份有限公司 无线移动装置、无线网络串流广播系统与广播方法
CN114207562A (zh) * 2020-02-29 2022-03-18 近江数码制造株式会社 运动图像分发方法、运动图像再现方法、运动图像分发装置以及分发数据结构
CN114071215A (zh) * 2020-07-31 2022-02-18 阿里巴巴集团控股有限公司 视频播放方法、设备、系统及存储介质
CN115695856B (zh) * 2022-11-01 2023-05-09 北京小鸟科技股份有限公司 视频组播码流快速切换设备、方法、电子设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000013788A (ja) * 1998-06-26 2000-01-14 Kdd Corp ビデオ圧縮ストリーム切替装置
JP2007221826A (ja) * 1997-03-17 2007-08-30 Matsushita Electric Ind Co Ltd 受信端末および受信方法

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100540645B1 (ko) * 1999-03-03 2006-01-10 삼성전자주식회사 Dvd 정보 전송 장치 및 그 방법
DE602004028616D1 (de) * 2004-09-16 2010-09-23 Alcatel Usa Sourcing Lp Abknallendmittel mit verbesserter Latenz
CN101030938B (zh) * 2007-02-05 2010-04-14 北京大学 QoS自适应的P2P流媒体数据组织与传输系统及方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007221826A (ja) * 1997-03-17 2007-08-30 Matsushita Electric Ind Co Ltd 受信端末および受信方法
JP2000013788A (ja) * 1998-06-26 2000-01-14 Kdd Corp ビデオ圧縮ストリーム切替装置

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010278729A (ja) * 2009-05-28 2010-12-09 Mitsubishi Electric Corp 映像送信装置、映像受信装置及び映像配信システム
JP2011176601A (ja) * 2010-02-24 2011-09-08 Oki Networks Co Ltd コンテンツ配信システム、ネットワーク装置、コンテンツ配信サーバ及びユーザ端末
WO2014076843A1 (ja) * 2012-11-19 2014-05-22 三菱電機株式会社 デジタル放送受信装置およびデジタル放送受信方法
JP5717931B2 (ja) * 2012-11-19 2015-05-13 三菱電機株式会社 デジタル放送受信装置およびデジタル放送受信方法
JP2021535658A (ja) * 2018-08-22 2021-12-16 華為技術有限公司Huawei Technologies Co., Ltd. ビデオ・ストリーム切り換えを実装するための方法、装置およびシステム
JP7224439B2 (ja) 2018-08-22 2023-02-17 華為技術有限公司 ビデオ・ストリーム切り換えを実装するための方法、装置およびシステム

Also Published As

Publication number Publication date
CN101420316A (zh) 2009-04-29
CN101420316B (zh) 2012-09-05

Similar Documents

Publication Publication Date Title
JP2009100411A (ja) 映像配信システム、映像中継装置、及び映像中継方法
JP5086285B2 (ja) 映像配信システム,映像配信装置,及び同期補正処理装置
US20090106807A1 (en) Video Distribution System for Switching Video Streams
JP6807852B2 (ja) Lctに基づくdashフォーマットを有するファイルフォーマットベースのストリーミング
US8255555B2 (en) Reception apparatus and method for reducing time delay in channel switching
US20010027468A1 (en) Transmission system, reception system, and transmission and reception system capable of displaying a scene with high quality
US20100083305A1 (en) Interface Device Having Multiple Software Clients to Facilitate Display of Targeted Information
US20110162024A1 (en) System and method for fast start-up of live multicast streams transmitted over a packet network
CN107852534B (zh) 在广播流和单播流之间转换
JP2005184429A (ja) 映像データ処理方法および映像データ処理装置
JP2003324711A (ja) 情報閲覧方法、送信装置及び受信装置
JP2001251360A (ja) パケットネットワークにおけるリアルタイムメディアコンテンツを伝送し同期化するシステム及び方法
WO2008003561A1 (en) Rendering repeatable data objects streamed over a network
US20110090970A1 (en) Terminal and relay node for video conference system
EP1806870B1 (en) Method for providing data and data transmission system
US20180295391A1 (en) Multiplexing apparatus, receiving apparatus, multiplexing method, and delay adjustment method
WO2015194906A1 (ko) 이종망 기반 방송 서비스를 제공하는 방법 및 장치
JP2009171294A (ja) 映像配信システム、映像中継装置、及び映像中継方法
WO2011079477A1 (en) Method and device for providing comments on multimedia contents
US7984205B2 (en) Method and devices for the transfer of a data flow from a data source to a data sink
US20200059347A1 (en) Communication control device, communication control method, network switch, route control method, and communication system
JP5562436B2 (ja) 映像信号出力方法及び映像情報再生装置
US20070274313A1 (en) Method for Routing Data Frames from a Data Content Source to a Destination Device with Buffering of Specific Data and Device Thereof
CN110557611B (zh) 信息同步方法、装置及存储介质
JP2005184254A (ja) 特殊映像データ処理方法及び特殊映像データ処理装置及び特殊映像データ処理システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100707

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120731

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121113

A045 Written measure of dismissal of application

Free format text: JAPANESE INTERMEDIATE CODE: A045

Effective date: 20130326