JP5183570B2 - 映像送信装置、映像受信装置及び映像配信システム - Google Patents
映像送信装置、映像受信装置及び映像配信システム Download PDFInfo
- Publication number
- JP5183570B2 JP5183570B2 JP2009128822A JP2009128822A JP5183570B2 JP 5183570 B2 JP5183570 B2 JP 5183570B2 JP 2009128822 A JP2009128822 A JP 2009128822A JP 2009128822 A JP2009128822 A JP 2009128822A JP 5183570 B2 JP5183570 B2 JP 5183570B2
- Authority
- JP
- Japan
- Prior art keywords
- encoded data
- video
- resolution
- layer
- low
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
ここで、解像度スケーラブル符号化は、1つの映像符号化データから異なる解像度の映像を復号可能な符号化方式であり、符号化データのうち、低解像度用の符号化データのみを復号すれば、低解像度の映像が再生され、低解像度用の符号化データと高解像度用の符号化データを一緒に復号すれば、高解像度の映像が再生される。
配信している映像は、JPEG2000で解像度スケーラブル符号化されており、センサが警報を発生すると、そのセンサに関連付けられているカメラの映像の解像度を低解像度から高解像度に切り替えて配信している。
例えば、以下の特許文献1には、映像送信装置が低解像度のストリームと高解像度のストリームを合わせて映像受信装置に送信し、ユーザから解像度拡大要求を受ける前は、映像受信装置が低解像のストリームのみを復号して低解像度の映像を再生し、ユーザから解像度拡大要求を受けると、低解像度のストリームと高解像度のストリームを一緒に復号して高解像度の映像を再生する映像配信システムが開示されている。
図1はこの発明の実施の形態1による映像配信システムを示す構成図である。
図1において、映像送信装置1は映像がスケーラブル符号化されている映像データをストリーム伝送する装置である。
映像受信装置3はIPネットワーク2を介して映像送信装置1と接続されており、映像送信装置1から映像データをストリーム受信すると、その映像データを復号して映像をモニタ4に再生する処理を実施する。
この実施の形態1では、映像のスケーラブル符号化として、映像が解像度スケーラブル符号化されている例を説明するが、解像度以外にも、例えば、カラーフォーマットや量子化ビット数など、スケーラブルに変更可能なパラメータが存在し、これらのパラメータがスケーラブルに符号化されているものであってもよい。
図2において、映像データ蓄積部11は映像が解像度スケーラブル符号化されている映像データ(例えば、ビデオ映像を構成するJPEG2000の符号化された映像コンテンツ)であって、低解像度の映像(低レイヤの映像)の復号が可能な低解像度用符号化データ(低レイヤ用符号化データ)の他に、その低解像度用符号化データと一緒に復号すれば、高解像度の映像(高レイヤの映像)の復号が可能な高解像度用符号化データ(高レイヤ用符号化データ)を含む映像データを蓄積するハードディスクなどの記録媒体である。
映像データ蓄積部11により蓄積される映像データの各フレームには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
なお、映像データ蓄積部11は映像データ蓄積手段を構成している。
送信制御部13は低解像度用符号化データの読込をストリーム読込部14に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示する処理を実施する。
また、送信制御部13は解像度変更命令受信部12により受信された解像度の変更命令が低解像度から高解像度への変更を指示する命令であれば、倍速値X倍での高解像度用符号化データの読込をストリーム読込部14に指示するとともに、高解像度パケットの生成を倍速値X倍で行う指示を高解像度パケット生成部17に出力し、その後、これからストリーム伝送する高解像度用符号化データのタイムスタンプ(復号タイミング)が、これからストリーム伝送する低解像度用符号化データのタイムスタンプ(復号タイミング)に追いつくと、通常速度での高解像度用符号化データの読込をストリーム読込部14に指示するとともに、高解像度パケットの生成を通常速度で行う指示を高解像度パケット生成部17に出力する処理を実施する。
また、ストリーム読込部14は送信制御部13から高解像度用符号化データの読込指示を受けると、映像データ蓄積部11から読み込む低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データをフレームごとに倍速値X倍で読み込んで、その高解像度用符号化データをタイムスタンプと次のフレームのタイムスタンプを一緒に高解像度パケット生成部17に出力し、その後、映像データ蓄積部11から読み込む低解像度用符号化データと復号するタイミングが同一の高解像度用符号化データを通常の速度で読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部17に出力する処理を実施する。
低解像度パケット送信部16はIP/UDPを使用して、低解像度パケット生成部15から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部13、ストリーム読込部14、低解像度パケット生成部15及び低解像度パケット送信部16から低レイヤ用符号化データ送信手段が構成されている。
また、高解像度パケット生成部17は送信制御部13から高解像度パケットの生成を通常速度で行う指示を受けると、ストリーム読込部14から出力された1フレーム分の高解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して高解像度パケット送信部18に出力する処理を実施する。
高解像度パケット送信部18はIP/UDPを使用して、高解像度パケット生成部17から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部13、ストリーム読込部14、高解像度パケット生成部17及び高解像度パケット送信部18から高レイヤ用符号化データ送信手段が構成されている。
図3において、低解像度パケット受信部31は予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する処理を実施する。
低解像度パケット処理部32は低解像度パケット受信部31から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に出力する処理を実施する。
なお、低解像度パケット受信部31及び低解像度パケット処理部32から低レイヤ用符号化データ受信手段が構成されている。
解像度変更命令送信部34は解像度変更命令入力部33により入力が受け付けられた変更命令が低解像度から高解像度への変更を指示する命令である場合、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(再生可能位置情報)を再生制御部37に問い合わせて、そのタイムスタンプと解像度の変更命令を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する処理を実施する。
なお、解像度変更命令入力部33及び解像度変更命令送信部34から変更命令送信手段が構成されている。
高解像度パケット処理部36は高解像度パケット受信部35から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の高解像度データバッファ36aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ38に出力する処理を実施する。
低解像度から高解像度に変更した際に受信する高解像度用符号化データの先頭フレームのデータは、バッファリングせずに直ちに映像デコーダに入力する。以降のフレームの高解像度用符号化データは、先頭フレームをデコーダへ出力したタイミングを起点として、タイムスタンプの時間に合わせて映像デコーダに入力する。
なお、高解像度パケット受信部35及び高解像度パケット処理部36から高レイヤ用符号化データ受信手段が構成されている。
映像デコーダ38は再生制御部37から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データを取り出して、その低解像度用符号化データをデコードし、再生制御部37から高解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データと高解像度パケット処理部36の高解像度データバッファ36aに蓄積されているRTPパケットに含まれている高解像度用符号化データのうち、タイムスタンプが同じ低解像度用符号化データと高解像度用符号化データを取り出して、一緒にデコードする処理を実施する。
映像出力部39は映像デコーダ38によりデコードされた映像データをモニタ4に出力することで、映像を再生する処理を実施する。
なお、再生制御部37、映像デコーダ38及び映像出力部39から映像再生手段が構成されている。
最初に、映像の解像度スケーラブル符号化について説明する。
1つの映像が解像度スケーラブル符号化された場合、複数の符号化データグループからなる映像データ(映像符号化ビットストリーム)が生成される。
ここで、図4は映像符号化ビットストリームの一例を示す説明図である。
図4において、符号化ストリームAは図2の映像データ蓄積部11により蓄積される低解像度用符号化データに相当し、符号化ストリームBと符号化ストリームCは図2の映像データ蓄積部11により蓄積される高解像度符号化データに相当する。
また、符号化ストリームBは、低解像度と高解像度の中間の解像度の符号化データに相当する。
符号化ストリームAと符号化ストリームBを復号して表示すると、図4(c)に示すように、横2M画素×縦2N画素の画像が表示される。
また、符号化ストリームAと符号化ストリームBと符号化ストリームCを復号して表示すると、図4(d)に示すように、横4M画素×縦4N画素の画像が表示される。
ただし、MとNは任意の正整数であり、画像の画素数として有意な値を有するものである。
解像度スケーラブルな符号化方式としては、JPEG2000やMPEGのSVC(Scalable Video Coding)などの既存の符号化方式を使用することができる。
この実施の形態1では、JPEG2000を用いる例を説明する。
なお、JPEG2000は、静止画の符号化方式であるが、時間的に連続している映像データをJPEG2000でスケーラブル符号化し、それらを復号して再生することによりビデオ映像データを再生することができる。
まず、映像送信装置1の送信制御部13は、低解像度用符号化データの読込をストリーム読込部14に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示する。
ストリーム読込部14は、映像データ蓄積部11から低解像度用符号化データを読み込むと、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
また、低解像度パケット生成部15は、ストリーム読込部14から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部16に出力する。
ただし、低解像度パケット生成部15は、各RTPパケットを低解像度パケット送信部16に出力する際、低解像度パケット送信部16から送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを低解像度パケット送信部16に出力する。
これにより、そのRTPパケットを含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに一定時間格納後、先頭フレームをデコード開始する。その後は先頭フレームをデコードした時間を起点にバッファ内の各フレームのタイムスタンプにあわせて低解像度データバッファ32aから取り出して映像デコーダ38に出力する。
ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に出力する。
そして、低解像度パケット処理部32は、一定時間後に、RTPパケットに格納されているタイムスタンプが示すタイミングで安定的にRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に与える。
低解像度パケット処理部32は、規定時間分の低解像度用符号化データが低解像度データバッファ32aに蓄積されると、低解像度用符号化データの再生開始要求を再生制御部37に出力する。
映像デコーダ38は、再生制御部37から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aから、シーケンス番号順に、同一のタイムスタンプを有する低解像度用符号化データを取り出し、その低解像度用符号化データをデコードする。
タイムスタンプは、映像デコーダ38がデコードする時間を示しているため、同一フレームの低解像度用符号化データが一度に取り出されてデコードされる。
映像出力部39は、映像デコーダ38が低解像度用符号化データをデコードすると、デコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
図5は映像送信装置1の処理内容を示すフローチャートであり、図6は映像受信装置3の処理内容を示すフローチャートである。繁雑さを避けるために、フローチャートは、本発明で特徴的な高解像度用符号化データの送受信に着目して作成している。
ここでは、映像の解像度を低解像度から高解像度への変更を指示する変更命令(以下、「解像度変更命令(拡大)」と称する)が入力されるものとする。
解像度変更命令送信部34は、解像度変更命令入力部33から解像度変更命令(拡大)を受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部37に問い合わせる。
解像度変更命令送信部34は、再生制御部37から送信開始タイムスタンプの通知を受けると、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する(図6のステップST21)。
なお、解像度変更命令は、例えば、1バイトのデータであり、0x00が「拡大」、「0x01」が縮小の命令を示すものとする。また、それに続く4バイトのデータが送信開始タイムスタンプを示すものとする。
送信制御部13は、解像度変更命令受信部12から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、その送信開始タイムスタンプをストリーム読込部14に出力するとともに、倍速値X倍(この実施の形態1では、倍速値が通常の2倍速であるものとする)での高解像度用符号化データの読込をストリーム読込部14に指示する。
また、送信制御部13は、高解像度パケットの生成(高解像度パケットの送信)を2倍速で行う指示を高解像度パケット生成部17に出力する(ステップST3)。
ここで、RTPパケットのRTPヘッダに格納するタイムスタンプには、映像データ蓄積部11に蓄積されている映像データのタイムスタンプを格納する。
また、ストリーム読込部14は、高解像度用符号化データの読込と平行して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
また、高解像度パケット生成部17は、ストリーム読込部14から出力された高解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを2倍速で高解像度パケット送信部18に出力する。
ただし、高解像度パケット生成部17は、各RTPパケットを高解像度パケット送信部18に出力する際、高解像度パケット送信部18から2倍速で送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを高解像度パケット送信部18に出力する。
即ち、高解像度用符号化データの送信を開始するピクチャが先頭ピクチャである場合、フレーム内符号化方式で符号化されているイントラフレームの高解像度用符号化データを送信する必要がある。
また、低解像度パケット送信部16も、高解像度パケット送信部18と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(高解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
高解像度パケット生成部17は、送信制御部13から高解像度パケットの生成指示を受けた直後は、過去のタイムスタンプの高解像度用符号化データのRTPパケットを生成しているため、低解像度パケット生成部15により同時刻にRTPパケットが生成されている低解像度用符号化データと比較すると、時間的に前のタイムスタンプが付与されている高解像度用符号化データのRTPパケットを生成していることになる。
しかし、高解像度パケット生成部17が2倍速でRTPパケットを生成し、高解像度パケット送信部18が2倍速でRTPパケットを送信しているため、高解像度パケット送信部18から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプとの差分が徐々に縮小する。
送信制御部13は、双方のタイムスタンプが一致すると、高解像度用符号化データの伝送タイミングが、低解像度用符号化データの伝送タイミングに追いついたものと判断し(ステップST6)、高解像度用符号化データの読込を通常の速度(1倍速)に下げる旨をストリーム読込部14に出力する。
また、送信制御部13は、高解像度パケットの生成(高解像度パケットの送信)を通常の速度(1倍速)に下げる旨を高解像度パケット生成部17に出力する(ステップST7)。
したがって、同じタイムスタンプが付与されている高解像度用符号化データ及び低解像度用符号化データのRTPパケットが、同じタイミングで映像受信装置3にストリーム伝送されることになる(ステップST8,ST9)。
高解像度パケット処理部36は、再生制御部37から高解像度用符号化データの再生開始通知を受けると、IPパケットの受信開始要求を高解像度パケット受信部35に出力する。
高解像度パケット受信部35は、高解像度パケット処理部36からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを高解像度パケット処理部36に出力する(図6のステップST22)。
低解像度パケット受信部31も、高解像度パケット受信部35と平行に動作し、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットに格納されている低解像度用符号化データを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに格納する。
映像デコーダ38は、既に低解像度用符号化データのデコードを開始しており、再生制御部37から高解像度用符号化データのデコード開始要求を受けたのち、次のフレームのデコードタイミングになると(ステップST23)、低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取得する(ステップST24)。
次に、映像デコーダ38は、高解像度パケット処理部36の高解像度データバッファ36aに1フレーム分以上の高解像度用符号化データが蓄積されていれば(ステップST25)、高解像度データバッファ36aに蓄積されている先頭フレームのタイムスタンプを抽出する(ステップST26)。
映像出力部39は、映像デコーダ38によるデコード後の映像データを映像信号としてモニタ4に出力することで、高解像度のビデオ映像をモニタ4上に再生する。
映像出力部39は、映像デコーダ38によるデコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
図7において、#と数字は映像のフレームIDを表している。タイムスタンプは各フレームに割り付けられており、低解像度用符号化データ、中解像度用符号化データ、高解像度符号化データの同一フレームIDに設定されているタイムスタンプは同一のタイムスタンプである。
図7の例では、映像受信装置3から解像度変更命令(拡大)が送信される以前の区間Aでは、映像送信装置1が、低解像度用符号化データを#1フレームから#15フレームまで送信している。
区間Bでは、映像受信装置3が解像度変更命令(拡大)を含む解像度変更命令パケットを映像送信装置1に送信している。
このとき、その解像度変更命令パケットに含まれている送信開始タイムスタンプが“#1フレーム”を指し示しているものとする。
このため、区間Bでは、映像送信装置1が、低解像度用符号化データを#16フレームから#20フレームまで送信して、高解像度用符号化データを#1フレームから送信を開始して、#10フレームまで送信している。
ここでは、一定フレームレートで、高解像度用符号化データ及び低解像度用符号化データを送信しているものとする。
このように、高解像度用符号化データが2倍速(再生速度より速い伝送速度)で送信されるため、低解像度用符号化データと高解像度用符号化データのフレーム番号の差分が徐々に縮小される。
続いて区間Dでは、映像送信装置1が低解像度用符号化データをフレーム#26からフレーム#30まで送信している間に高解像度用符号化データをフレーム#21からフレーム#30まで送信している。
これらのデータの送信が終了した時点で、低解像度用符号化データと高解像度用符号化データのフレーム番号が一致しているため、高解像度用符号化データの伝送速度が再生速度と同一に変更される。
そのため、区間Eでは、映像送信装置1により続けて送信される低解像度用符号化データのフレーム#31〜35の番号と高解像度用符号化データのフレーム#31〜35の番号が同じになり、以降、低解像度用符号化データと高解像度用符号化データが同期して送信される。
図8において、50は低解像度用符号化データの#15フレームを受信した際の低解像度データバッファ32aを示し、51は同時刻の高解像度データバッファ36aを示している。
52は低解像度用符号化データの#17フレームを受信する際の低解像度データバッファ32aを示し、53は同時刻の高解像度データバッファ36aを示している。
54は低解像度用符号化データの#21フレームを受信する際の低解像度データバッファ32aを示し、55は同時刻の高解像度データバッファ36aを示している。
56は低解像度用符号化データの#26フレームを受信する際の低解像度データバッファ32aを示し、57は同時刻の高解像度データバッファ36aを示している。
58は低解像度用符号化データの#31フレームを受信する際の低解像度データバッファ32aを示し、59は同時刻の高解像度データバッファ36aを示している。
この状態では、低解像度用符号化データのみを受信しており、高解像度用符号化データを受信していないため、高解像度データバッファ51には高解像度用符号化データが格納されていない。
低解像度データバッファ50では、低解像度用符号化データの#1フレームから#15フレームまでがバッファリングされている。
低解像度データバッファ50では、IPネットワーク2のジッタによるRTPパケットの入れ替わりを修正し、ネットワークジッタによって映像デコーダ38内でデータのアンダーフローやオーバーフローが発生しないように制御している。
この時点では、低解像度データバッファ50が、低解像度用符号化データの#15フレームの受信を終了し、低解像度用符号化データの#1フレームが次に映像デコーダ38に与えられるタイミングである。
この段階では、解像度変更命令(拡大)が映像受信装置3から映像送信装置1に送信され、映像送信装置1から高解像度用符号化データのストリーム伝送が開始されている。
解像度変更命令(拡大)は、低解像度データバッファ50の状態で送信されているため、送信開始タイムスタンプとしては、#1フレームのタイムスタンプが送信される。
その後、低解像度用符号化データに加え、新たに高解像度用符号化データが映像送信装置1からストリーム伝送される。
低解像度データバッファ52の段階では、低解像度用符号化データの#17フレームを受信中であり、低解像度用符号化データの#1フレームを映像デコーダ38に与えたところである。
高解像度データバッファ53に格納されている継続するRTPパケットは、#1フレームが映像デコーダ38に出力されたタイミングを起点に、後続する高解像度用符号化データのタイムスタンプのタイミングで映像デコーダ38に取り込まれる。
ここからは、低解像度用符号化データと高解像度用符号化データが揃って映像デコーダ38にデコードされ、高解像度の映像データが映像出力部39に出力されてモニタ4に表示される。
区間Bから区間Cに移行する間に、低解像度データバッファ54及び高解像度データバッファ55から低解像度用符号化データ及び高解像度用符号化データの#2,#3,#4,#5フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#2,#3,#4,#5フレームがモニタ4に表示される。
この段階では、高解像度用符号化データが、再生速度の2倍の速度でストリーム伝送されてくるため、徐々に高解像度データバッファ55内のデータ量が増加している。高解像度データバッファ55には、高解像度用符号化データの#6フレーム〜#10フレームを構成するRTPパケットが蓄積されている。
区間Cから区間Dに移行する間に、低解像度データバッファ56及び高解像度データバッファ57から低解像度用符号化データ及び高解像度用符号化データの#6,#7,#8,#9,#10フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#6,#7,#8,#9,#10フレームがモニタ4に表示される。
この段階でも、高解像度用符号化データが、再生速度の2倍の速度で送信されており、高解像度データバッファ57には、高解像度用符号化データの#11フレーム〜#20フレームを構成するRTPパケットが蓄積されている。
区間Dから区間Eに移行する間に、低解像度データバッファ58と高解像度データバッファ59から低解像度用符号化データ及び高解像度用符号化データの#11,#12,#13,#14,#15フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#11,#12,#13,#14,#15フレームがモニタ4に表示される。
この段階まで、高解像度用符号化データが、再生速度の2倍の速度で送信されており、高解像度データバッファ59には、高解像度用符号化データの#16フレーム〜#30フレームを構成するRTPパケットが蓄積されている。
この段階で、低解像度データバッファ58にも、低解像度用符号化データの#16〜#30フレームを構成するRTPパケットが蓄積されており、低解像度用符号化データ及び高解像度用符号化データのいずれも次に受信するのは、#31フレームを構成するRTPパケットになる。
このように、この実施の形態1では、映像受信装置3が解像度変更命令(拡大)を映像送信装置1に送信すると、その直後に表示する#1フレームの映像から高解像度映像の再生が可能であり、バッファリングを行いながら、低遅延で映像の解像度を拡大することが可能となる。
まず、映像受信装置3の解像度変更命令入力部33は、解像度の変更命令の入力を受け付ける処理を実施する。
ここでは、映像の解像度を高解像度から低解像度への変更を指示する変更命令(以下、「解像度変更命令(縮小)」と称する)が入力されるものとする。
解像度変更命令送信部34は、解像度変更命令入力部33から解像度変更命令(縮小)を受けると、高解像度パケット再生終了要求を再生制御部37に出力するとともに、その解像度変更命令(縮小)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
高解像度パケット処理部36は、再生制御部37から高解像度パケット再生終了要求を受けると、パケット受信終了要求を高解像度パケット受信部35に出力し、内部の高解像度データバッファ36aに蓄積されている高解像度用符号化データをクリアする。
高解像度パケット受信部35は、高解像度パケット処理部36からパケット受信終了要求を受けると、IPパケットの受信処理を終了する。
映像出力部39は、映像デコーダ38が低解像度用符号化データをデコードすると、デコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
送信制御部13は、解像度変更命令受信部12から解像度変更命令(縮小)を受けると、高解像度データ送信終了要求をストリーム読込部14及び高解像度パケット生成部17に出力する。
高解像度パケット生成部17は、送信制御部13から高解像度データ送信終了要求を受けると、高解像度パケット送信終了要求を高解像度パケット送信部18に出力し、高解像度用符号化データを格納するRTPパケットの生成処理を終了する。
高解像度パケット送信部18は、高解像度パケット生成部17から高解像度パケット送信終了要求を受けると、IPパケットの送信処理を終了する。
即ち、解像度変更命令(拡大)が入力された時点で、既に低解像度データバッファ32aに蓄積されているが、まだ映像デコーダ38にデコードされていない低解像度用符号化データのタイムスタンプが示すタイミングの映像についても、高解像度で再生することができるようになり、高解像度の映像が再生されるまで要する時間を短縮することができる効果を奏する。
図9はこの発明の実施の形態2による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
映像データ蓄積部21は映像が解像度スケーラブル符号化されている映像データであって、低解像度の映像の復号が可能な低解像度用符号化データの他に、その低解像度用符号化データと一緒に復号すれば、中解像度の映像(中レイヤの映像)の復号が可能な中解像度用符号化データ(中レイヤ用符号化データ)と、その低解像度用符号化データ及び中解像度用符号化データと一緒に復号すれば、高解像度の映像の復号が可能な高解像度用符号化データとを含む映像データを蓄積するハードディスクなどの記録媒体である。
映像データ蓄積部21により蓄積される映像データの各フレームには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
なお、映像データ蓄積部21は映像データ蓄積手段を構成している。
また、送信制御部22は解像度変更命令受信部12により解像度変更命令(拡大)が受信された場合、倍速値X倍での中解像度用符号化データの読込をストリーム読込部23に指示するとともに、中解像度パケットの生成を倍速値X倍で行う指示を中解像度パケット生成部24に出力し、その後、これからストリーム伝送する中解像度用符号化データのタイムスタンプが、これから低解像度パケット受信部16によりストリーム伝送される低解像度用符号化データのタイムスタンプに追いつくと、通常速度での中解像度用符号化データの読込をストリーム読込部23に指示するとともに、中解像度パケットの生成を通常速度で行う指示を中解像度パケット生成部24に出力する処理を実施する。
また、送信制御部22は中解像度用符号化データのタイムスタンプが低解像度用符号化データのタイムスタンプに追いつくと、高解像度用符号化データの読込をストリーム読込部23に指示するとともに、高解像度パケットの生成を高解像度パケット生成部26に指示する処理を実施する。
また、ストリーム読込部23は送信制御部22から中解像度用符号化データの読込指示を受けると、映像データ蓄積部21から読み込む低解像度用符号化データよりも復号するタイミングが時間的に前の中解像度用符号化データを倍速値X倍で読み込んで、その中解像度用符号化データをタイムスタンプと一緒に中解像度パケット生成部24に出力し、その後、映像データ蓄積部21から読み込む低解像度用符号化データと復号するタイミングが同一の中解像度用符号化データを通常の速度で読み込み、その中解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に中解像度パケット生成部24に出力する処理を実施する。
また、ストリーム読込部23は送信制御部22から高解像度用符号化データの読込指示を受けると、映像データ蓄積部21から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部26に出力する処理を実施する。
また、中解像度パケット生成部24は送信制御部22から中解像度パケットの生成を通常速度で行う指示を受けると、ストリーム読込部23から出力された1フレーム分の中解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを中解像度パケット送信部25に出力する処理を実施する。
中解像度パケット送信部25はIP/UDPを使用して、中解像度パケット生成部24から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部22、ストリーム読込部23、中解像度パケット生成部24及び中解像度パケット送信部25から中レイヤ用符号化データ送信手段が構成されている。
高解像度パケット送信部27はIP/UDPを使用して、高解像度パケット生成部26から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部22、ストリーム読込部23、高解像度パケット生成部26及び高解像度パケット送信部27から高レイヤ用符号化データ送信手段が構成されている。
また、送信制御部22及びストリーム読込部23は低レイヤ用符号化データ送信手段も構成している。
中解像度パケット受信部41は解像度変更命令送信部34から解像度変更命令(拡大)が送信されたのち、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを中解像度パケット処理部42に出力する処理を実施する。
中解像度パケット処理部42は中解像度パケット受信部41から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の中解像度データバッファ42aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている中解像度用符号化データを映像デコーダ46に出力する処理を実施する。
ただし、中解像度用符号化データのタイムスタンプが、低解像度用符号化データのタイムスタンプに追いつくまでの間は、その中解像度用符号化データを含むRTPパケットのバッファリングは実施せずに、直ちに、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ46に出力するようにする。
なお、中解像度パケット受信部41及び中解像度パケット処理部42から中レイヤ用符号化データ受信手段が構成されている。
高解像度パケット処理部44は高解像度パケット受信部43から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の高解像度データバッファ44aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ46に出力する処理を実施する。
なお、高解像度パケット受信部43及び高解像度パケット処理部44から高レイヤ用符号化データ受信手段が構成されている。
また、映像デコーダ46は再生制御部45から高解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データと中解像度パケット処理部42の中解像度データバッファ42aに蓄積されているRTPパケットに含まれている中解像度用符号化データと高解像度パケット処理部44の高解像度データバッファ44aに蓄積されているRTPパケットに含まれている高解像度用符号化データのうち、タイムスタンプが同じ低解像度用符号化データと中解像度用符号化データと高解像度用符号化データを取り出して、一緒にデコードする処理を実施する。
なお、再生制御部45、映像デコーダ46及び映像出力部39から映像再生手段が構成されている。
この実施の形態2では、映像データ蓄積部21により蓄積されている映像データが、低解像度、中解像度、高解像度の3つのレイヤに分割されている符号化データ(映像ストリームデータ)である例を説明する。
映像送信装置1が低解像度用符号化データをストリーム伝送し、映像受信装置3が低解像度用符号化データを復号して、低解像度の映像を再生する際の処理内容は、上記実施の形態1と同様であるため説明を省略する。
映像送信装置1が高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データをストリーム伝送し、映像受信装置3が高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データを復号して、高解像度の映像を再生する際の処理内容を説明する。
解像度変更命令送信部34は、解像度変更命令入力部33が解像度変更命令(拡大)の入力を受け付けると、上記実施の形態1と同様に、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ46に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部45に問い合わせる。
解像度変更命令送信部34は、再生制御部45から送信開始タイムスタンプの通知を受けると、上記実施の形態1と同様に、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
送信制御部22は、解像度変更命令受信部12から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、その送信開始タイムスタンプをストリーム読込部23に出力するとともに、倍速値X倍(この実施の形態2では、倍速値が通常の2倍速であるものとする)での中解像度用符号化データの読込をストリーム読込部23に指示する。
また、送信制御部22は、中解像度パケットの生成(中解像度パケットの送信)を2倍速で行う指示を中解像度パケット生成部24に出力する。
ここで、RTPパケットのRTPヘッダに格納するタイムスタンプと映像データ蓄積部21に蓄積されている映像データのタイムスタンプは同一のものであるとする。
また、ストリーム読込部23は、中解像度用符号化データの読込と平行して、映像データ蓄積部21から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
また、中解像度パケット生成部24は、ストリーム読込部23から出力された中解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを2倍速で中解像度パケット送信部25に出力する。
ただし、中解像度パケット生成部24は、各RTPパケットを中解像度パケット送信部25に出力する際、中解像度パケット送信部25から2倍速で送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを中解像度パケット送信部25に出力する。
即ち、中解像度用符号化データの送信を開始するピクチャが先頭ピクチャである場合、フレーム内符号化方式で符号化されているイントラフレームの中解像度用符号化データを送信する必要がある。
また、低解像度パケット送信部16も、中解像度パケット送信部25と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(中解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
中解像度パケット生成部24は、送信制御部22から中解像度パケットの生成指示を受けた直後は、過去のタイムスタンプ(送信制御部22から出力された送信開始タイムスタンプ)の中解像度用符号化データのRTPパケットを生成しているため、低解像度パケット生成部15により同時刻にRTPパケットが生成されている低解像度用符号化データと比較すると、時間的に前のタイムスタンプが付与されている中解像度用符号化データのRTPパケットを生成していることになる。
しかし、中解像度パケット生成部24が2倍速でRTPパケットを生成し、中解像度パケット送信部25が2倍速でRTPパケットを送信しているため、中解像度パケット送信部25から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプとの差分が徐々に縮小する。
送信制御部22は、双方のタイムスタンプが一致すると、中解像度用符号化データの伝送タイミングが、低解像度用符号化データの伝送タイミングに追いついたものと判断し、中解像度用符号化データの読込を通常の速度(1倍速)に下げる旨をストリーム読込部23に出力するとともに、高解像度用符号化データの読込指示をストリーム読込部23に出力する。
また、送信制御部22は、中解像度パケットの生成(中解像度パケットの送信)を通常の速度(1倍速)に下げる旨を中解像度パケット生成部24に出力するとともに、高解像度パケットの生成(高解像度パケットの送信)指示を高解像度パケット生成部26に出力する。
また、ストリーム読込部23から低解像度用符号化データ及び中解像度用符号化データのタイムスタンプと同じタイムスタンプの高解像度用符号化データが読み込まれ、高解像度パケット送信部27から送信される。
したがって、同じタイムスタンプが付与されている高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データのRTPパケットが、同じタイミングで映像受信装置3にストリーム伝送されることになる。
中解像度パケット処理部42は、再生制御部45から中解像度用符号化データの再生開始通知を受けると、IPパケットの受信開始要求を中解像度パケット受信部41に出力する。
中解像度パケット受信部41は、中解像度パケット処理部42からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを中解像度パケット処理部42に出力する。
高解像度パケット受信部43は、高解像度パケット処理部44からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを高解像度パケット処理部44に出力する。
低解像度パケット受信部31も、中解像度パケット受信部41及び高解像度パケット受信部43と平行に動作し、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
高解像度パケット処理部44は、高解像度パケット受信部43からIPパケットを受けると、そのIPパケットからRTPパケットを抽出して、そのRTPパケットを内部の高解像度データバッファ44aに格納し、一定時間のバッファリングが終了すると、再生が可能である旨を再生制御部45に通知する。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに格納する。
また、高解像度パケット処理部44から再生可能通知を受けると、高解像度用符号化データのデコード開始要求を映像デコーダ46に出力する。
映像デコーダ46は、既に低解像度用符号化データのデコードを開始しており、再生制御部45から中解像度用符号化データのデコード開始要求を受けたのち、次のフレームのデコードタイミングになると、低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取得する。
次に、映像デコーダ46は、中解像度パケット処理部42の中解像度データバッファ42aに1フレーム分以上の中解像度用符号化データが蓄積されていれば、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプを抽出する。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、中解像度のビデオ映像をモニタ4上に再生する。
映像デコーダ46は、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプが、次にデコードする低解像度用符号化データのタイムスタンプより新しい場合、あるいは、中解像度データバッファ42aに1フレーム分の中解像度用符号化データが蓄積されていない場合、次のフレームの低解像度用符号化データのみをデコードする。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
なお、映像デコーダ46は、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプが、次のフレームの低解像度用符号化データのタイムスタンプより古い場合、中解像度データバッファ42aに蓄積されている先頭フレームを廃棄する。送信側で送出する低解像度符号化データと中解像度符号化データのタイムスタンプが同一になった段階で、中解像度データの送信速度が1倍速になり、高解像度用符号化データの送出が開始される。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、高解像度のビデオ映像をモニタ4上に再生する。
図11において、#と数字は映像のフレームIDを表している。タイムスタンプは各フレームに割り付けられており、低解像度用符号化データ、中解像度用符号化データ、高解像度符号化データの同一フレームIDに設定されているタイムスタンプは同一のタイムスタンプである。
図11の例では、映像受信装置3から解像度変更命令(拡大)が送信される以前の区間Fでは、映像送信装置1が、低解像度用符号化データを#1フレームから#15フレームまで送信している。
区間Gでは、映像受信装置3が解像度変更命令(拡大)を含む解像度変更命令パケットを映像送信装置1に送信している。
このとき、その解像度変更命令パケットに含まれている送信開始タイムスタンプが“#1フレーム”を指し示しているものとする。
このため、区間Gでは、映像送信装置1が、低解像度用符号化データを#16フレームから#20フレームまで送信して、中解像度用符号化データを#1フレームから#10フレームまで送信している。
ここでは、一定フレームレートで、中解像度用符号化データ及び低解像度用符号化データを送信しているものとする。
このように、中解像度用符号化データが2倍速(再生速度より速い伝送速度)で送信されるため、低解像度用符号化データと中解像度用符号化データのフレーム番号の差分が徐々に縮小される。
続いて区間Iでは、映像送信装置1が低解像度用符号化データをフレーム#26からフレーム#30まで送信している間に、中解像度用符号化データをフレーム#21からフレーム#30まで送信している。
これらのデータの送信が終了した時点で、低解像度用符号化データと中解像度用符号化データのフレーム番号が一致しているため、中解像度用符号化データの伝送速度が再生速度と同一に変更される。
そのため、区間Jでは、映像送信装置1により続けて送信される低解像度用符号化データのフレーム#31〜35の番号と、中解像度用符号化データのフレーム#31〜35の番号とが同じになり、高解像度用符号化データのフレーム#31〜35の送信も開始されるため、以降、低解像度用符号化データと中解像度用符号化データと高解像度用符号化データとが同期して送信される。
図12において、60は低解像度用符号化データの#15フレームを受信した際の低解像度データバッファ32aを示し、61は同時刻の中解像度データバッファ42aを示し、62は同時刻の高解像度データバッファ44aを示している。
63は低解像度用符号化データの#17フレームを受信する際の低解像度データバッファ32aを示し、64は同時刻の中解像度データバッファ42aを示し、65は同時刻の高解像度データバッファ44aを示している。
66は低解像度用符号化データの#31フレームを受信する際の低解像度データバッファ32aを示し、67は同時刻の中解像度データバッファ42aを示し、68は同時刻の高解像度データバッファ44aを示している。
69は低解像度用符号化データの#47フレームを受信する際の低解像度データバッファ32aを示し、67は同時刻の中解像度データバッファ42aを示し、68は同時刻の高解像度データバッファ44aを示している。
この状態では、低解像度用符号化データのみを受信しており、中解像度用符号化データと高解像度用符号化データを受信していないため、中解像度データバッファ61及び高解像度データバッファ62には、中解像度用符号化データ及び高解像度用符号化データが格納されていない。
低解像度データバッファ60では、低解像度用符号化データの#1フレームから#15フレームまでがバッファリングされている。
低解像度用符号化データの受信時に、低解像度データバッファ60では、一定時間分の低解像度用符号化データをバッファリングし、一定時間分の低解像度用符号化データが蓄積されたら、先頭のパケットからRTPパケットのタイムスタンプのタイミングに合わせて映像デコーダ46に出力される。
この段階では、解像度変更命令(拡大)が映像受信装置3から映像送信装置1に送信され、映像送信装置1から中解像度用符号化データのストリーム伝送が開始されている。
解像度変更命令(拡大)は、低解像度データバッファ60の状態で送信されているため、送信開始タイムスタンプとしては、#1フレームのタイムスタンプが送信される。
その後、低解像度用符号化データに加え、新たに中解像度用符号化データが映像送信装置1からストリーム伝送される。
低解像度データバッファ63の段階では、低解像度用符号化データの#17フレームを構成するRTPパケットを受信中であり、低解像度用符号化データの#1フレームを映像デコーダ46に与えたところである。
中解像度データバッファ64に格納されている継続するRTPパケットは、#1フレームが映像デコーダ46に出力されたタイミングを起点に、後続する中解像度用符号化データのタイムスタンプのタイミングで映像デコーダ46に取り込まれる。
ここからは、低解像度用符号化データと中解像度用符号化データが揃って映像デコーダ46にデコードされ、中解像度の映像データが映像出力部39に出力されてモニタ4に表示される。
#30フレームを構成するRTPパケットを受信する段階で、中解像度用符号化データの送信タイミングが低解像度用符号化データの送信タイミングに追いついているため、映像送信装置1が、#31フレームから中解像度用符号化データの送信速度を再生速度と同じ速度に落とし、高解像度用符号化データの送信を開始している。
高解像度データバッファ68では、通常のバッファリング処理を行い、一定時間のRTPパケットが到着するまでバッファリングを行う。
この段階では、まだ高解像度用符号化データを加えたデコードが行われていないので、デコードされた映像は中解像度のままである。
この状態では、高解像度データバッファ71にも規定量の高解像度用符号化データがバッファリングされているため、映像デコーダ46から取り込みが開始されている。
この段階で、映像デコーダ46が低解像度、中解像度及び高解像度の全てのデータをデコードするため、高解像度の映像を表示することが可能となる。
低解像度用符号化データと中解像度用符号化データと高解像度用符号化データのビットレートが同一でない場合でも、映像受信装置3から解像度変更命令(拡大)が映像送信装置1に送信された直後に、中解像度用符号化データのストリーム伝送速度を変更することにより、同様の効果を得ることが可能となる。
また、映像の解像度を低解像度から高解像度に切り替える際、いきなり高解像度用符号化データのストリーム伝送を開始せずに、先に中解像度用符号化データのストリーム伝送を開始するようにしているので、高解像度用符号化データを定常的に送信している場合の映像の伝送レートと比較して、解像度変更時の映像の伝送レートが増加する状態を抑えることができる効果を奏する。
図13はこの発明の実施の形態3による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
可変フレームレート対応ストリーム読込部28は図2のストリーム読込部14と同様に、送信制御部13から出力される読込指示にしたがって映像データ蓄積部11から低解像度用符号化データや高解像度用符号化データを読み込む処理を実施するが、送信制御部13から倍速値X倍(この実施の形態3では、倍速値が通常の2倍速であるものとする)での高解像度用符号化データの読込指示を受けている段階では、通常時のフレームレート(低解像度用符号化データだけをストリーム伝送しているときのフレームレート)よりフレームレートを削減し、低いフレームレートの低解像度用符号化データを低解像度パケット生成部15に出力し、低いフレームレートの高解像度用符号化データを高解像度パケット生成部17に出力する処理を実施する。
また、可変フレームレート対応ストリーム読込部28は送信制御部13から通常速度での高解像度用符号化データの読込指示を受ける段階になると、低解像度用符号化データ及び高解像度用符号化データのフレームレートを通常時のフレームレートに戻して、低解像度用符号化データ及び高解像度用符号化データを出力する処理を実施する。
なお、可変フレームレート対応ストリーム読込部28は低レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段を構成している。
可変フレームレート対応映像デコーダ47は図3の映像デコーダ38と同様に、再生制御部37の指示の下、符号化データをデコードするが、高解像度用符号化データのデコード開始要求を受けている段階では、フレームレートを落としている関係上、低解像度用符号化データだけがデコード可能であっても、デコードを行わないようにしている。
なお、可変フレームレート対応映像デコーダ47は映像再生手段を構成している。
ただし、可変フレームレート対応ストリーム読込部28及び可変フレームレート対応映像デコーダ47以外は、上記実施の形態1と同様であるため、可変フレームレート対応ストリーム読込部28及び可変フレームレート対応映像デコーダ47の処理内容を主に説明する。
可変フレームレート対応ストリーム読込部28は、送信制御部13から高解像度用符号化データを2倍速で読み込む指示を受けると、図2のストリーム読込部14と同様に、送信制御部13から出力された送信開始タイムスタンプを高解像度用符号化データの読込開始位置に決定し、その映像データ蓄積部11から、その送信開始タイムスタンプが付与されている高解像度用符号化データから順番に後続の高解像度用符号化データを2倍速で読み込み、それらの高解像度用符号化データを順番に高解像パケット生成部17に出力する。また、高解像度用符号化データを高解像パケット生成部17に出力する際、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
また、可変フレームレート対応ストリーム読込部28は、高解像度用符号化データの読込と平行して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
具体的には、以下のようにして、フレームレートを削減する。
例えば、図4の符号化ストリームAと符号化ストリームBと符号化ストリームCのビットレートが等しいとし、低解像度用符号化データを符号化ストリームAとし、高解像度用符号化データを符号化ストリームBと符号化ストリームCとすると、低解像度用符号化データ(符号化ストリームA)のビットレートと、高解像度用符号化データ(符号化ストリームB+符号化ストリームC)のビットレートは、1:2の比率となる。
高解像度用符号化データだけを2倍の伝送レートで送信するため、通常のビットレートで送信する場合と、高解像度用符号化データのみを2倍のビットレートで送信する場合との伝送量の比率は3:5となる。
例えば、30フレーム/秒の場合には、18フレーム/秒となり、等間隔でフレームを送信するには、15フレーム/秒で送信すればよいことになる。
このように、ビットレートの比率から計算されるフレームレートで、可変フレーム対応ストリーム読込部28が低解像度用符号化データを低解像度パケット生成部15に出力し、高解像度用符号化データを高解像度パケット生成部17に出力する。
そこで、可変フレームレート対応映像デコーダ47は、低解像度データと同フレームを構成する高解像データが高解像データバッファに存在しない場合には、低解像度用符号化データだけがデコード可能であっても、その低解像度用符号化データをデコードしないで破棄する。
図15はこの発明の実施の形態4による映像送信装置1を示す構成図であり、図において、図9及び図13と同一符号は同一又は相当部分を示すので説明を省略する。
解像度変更命令受信部81は映像受信装置3から解像度変更命令パケットを受信し、その解像度変更命令パケットから送信開始タイムスタンプ、解像度変更命令(拡大)及び後述する優先度情報を抽出して、その送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を送信制御部82に出力する処理を実施する。なお、解像度変更命令受信部81は変更命令受信手段を構成している。
一方、解像度変更命令受信部81から出力された優先度情報が映像の画質を優先する旨を示す場合、図13の映像送信装置1と同じ動作を再現する。この場合、中解像度パケット生成部24及び中解像度パケット送信部25は動作せず、中解像度用符号化データは単独では送信せず、中解像度用符号化データは高解像度用符号化データとまとめて、高解像度用符号化データとして送信する。
なお、送信制御部82は低レイヤ用符号化データ送信手段、中レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段を構成している。
解像度変更命令入力部83は解像度の変更命令の入力を受け付けるとともに、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報の入力を受け付ける処理を実施する。
なお、解像度変更命令入力部83及び解像度変更命令送信部84から変更命令送信手段が構成されている。
再生制御部85は解像度変更命令送信部84から出力された優先度情報にしたがって図10の再生制御部45又は図14の再生制御部37と同様の処理を実施する。
なお、再生制御部85は映像再生手段を構成している。
この実施の形態4では、映像の解像度を低解像度から高解像度に変更する際、ユーザが映像の画質を優先するのか、映像の動きを優先するのかを選択できるようにしている。
具体的には、以下の通りである。
このとき、ユーザが解像度変更命令(拡大)を入力すると、解像度変更命令入力部83が、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報の入力を受け付けるようにする。
解像度変更命令送信部84は、解像度変更命令入力部83により解像度変更命令(拡大)と優先度情報の入力が受け付けられた場合、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に可変フレームレート対応映像デコーダ47に与えられるRTPパケットのタイムスタンプを再生制御部85に問い合わせて、そのタイムスタンプ、解像度変更命令(拡大)及び優先度情報を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
送信制御部82は、解像度変更命令受信部81から送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を受けると、その優先度情報を参照して、映像の画質を優先するのか、映像の動きを優先するのかを判別する。
これにより、中解像度用符号化データが2倍速でストリーム伝送が開始されたのち、中解像度用符号化データのタイムスタンプが低解像度用符号化データのタイムスタンプに追いつくと、高解像度用符号化データのストリーム伝送が開始されるようになる。
これにより、高解像度用符号化データを定常的に送信している場合の映像の伝送レートと比較して、解像度変更時の映像の伝送レートが増加する状態を抑えることができる。
一方、解像度変更命令送信部82から出力された優先度情報が映像の画質を優先する旨を示す場合、図14の映像受信装置3と同じ動作を再現するため、図14の再生制御部37と同様の処理を実施する。この場合、中解像度パケット受信部41及び中解像度パケット処理部42は動作しない
図17はこの発明の実施の形態5による映像配信システムを示す構成図であり、図において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
カメラ5は映像を撮影し、その映像の映像信号(例えば、NTSCの信号)を映像送信装置1に出力する処理を実施する。
図18はこの発明の実施の形態5による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
映像入力部91はカメラ5から出力された映像信号をデジタルデータに変換する処理を実施する。
映像符号化部92は映像入力部91により変換されたデジタルデータを解像度スケーラブル符号化して、低解像度用符号化データと高解像度用符号化データからなる映像データを映像データ管理部93に出力する処理を実施する。
なお、映像入力部91及び映像符号化部92から映像符号化手段が構成されている。
また、映像データ管理部93は送信制御部13から高解像度用符号化データの読込指示を受けると、映像データ蓄積部94から高解像度用符号化データを読み込んで、その高解像度用符号化データを高解像度パケット生成部17に出力する処理を実施する。なお、映像データ管理部93は映像データ管理手段を構成している。
映像データ蓄積部94は高解像度用符号化データを一定期間だけ蓄積するハードディスクなどの記録媒体である。なお、映像データ蓄積部94は映像データ蓄積手段を構成している。
この実施の形態5では、映像送信装置1がカメラ5により撮影された映像をライブ配信するものである。
カメラ5は、映像を撮影し、その映像の映像信号(例えば、NTSCの信号)を映像送信装置1に出力する。
映像符号化部92は、映像入力部91からデジタルデータを受けると、そのデジタルデータを解像度スケーラブル符号化して、低解像度用符号化データと高解像度用符号化データからなる映像データを映像データ管理部93に出力する。
例えば、低解像度用符号化データは図4(a)の符号化ストリームAに相当し、高解像度用符号化データは図4(a)の符号化ストリームB,Cに相当する。
なお、低解像度用符号化データと高解像度用符号化データには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
また、映像データ管理部93は、その映像データに含まれている高解像度用符号化データを一定期間だけ映像データ蓄積部94に蓄積させる。
映像データ蓄積部94は、図19に示すように、リングバッファ94aとインデックステーブル94bから構成されている。
リングバッファ94aには、タイムスタンプ(1)〜(n)の高解像度用符号化データが順番に格納されている。
インデックステーブル94bには、タイムスタンプ(1)〜(n)のポインタ(1)〜(n)、タイムスタンプ(1)〜(n)の高解像度用符号化データのデータ長(1)〜(n)が格納されている。
なお、新規の高解像度用符号化データを書き込む際に、ライトポインタが上書きをした高解像度用符号化データについては削除されたことになるため、インデクステーブル94bから当該高解像度用符号化データに係るタイムスタンプ等を削除する。
映像データ管理部93は、高解像度用符号化データを取得すると、その高解像度用符号化データを高解像パケット生成部17に出力するとともに、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
また、高解像度用符号化データを高解像パケット生成部17に出力する際、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
また、高解像度パケット生成部17は、映像データ管理部93から出力された高解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを次のフレームを送信するまでに各RTPパケット均等に送信されるように計算したタイミングの2倍速で高解像度パケット送信部18に出力する。
低解像度パケット生成部15は、映像データ管理部93から低解像度用符号化データとタイムスタンプを受けると、上記実施の形態1と同様に、その低解像度用符号化データをRTPパケットに分割して格納する。
また、低解像度パケット生成部15は、映像データ管理部93から出力されたタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部16に出力する。
また、低解像度パケット送信部16も、高解像度パケット送信部18と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(高解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
映像データ管理部93は、高解像度用符号化データを映像データ蓄積部94から読み出して、2倍速で送信しているので、ある段階で、送信すべき新しい高解像度用符号化データが映像データ蓄積部94に存在しなくなる。この段階では、低解像度用符号化データの送信に追いついたことになるので、映像データ管理部93から送信制御部13に通知を行い、高解像度パケットの生成を通常の速度(1倍速)に下げる旨を高解像度パケット生成部17に出力する
なお、映像データ管理部93は、その高解像度用符号化データを高解像度パケット生成部17に出力する処理と平行して、その高解像度用符号化データを映像データ蓄積部94に蓄積する処理を行う。
以降の処理は、上記実施の形態1と同様であるため説明を省略する。
図20はこの発明の実施の形態6による映像配信システムを示す構成図であり、図において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
図20では、複数の映像受信装置3がIPネットワーク2に接続されており、映像送信装置1が映像受信装置3の再生速度と同一の速度で、常時、高解像度用符号化データと低解像度用符号化データをマルチキャストで複数の映像受信装置3にストリーム伝送している例を示している。
解像度変更命令受信部101は図2の解像度変更命令受信部12と同様に、映像受信装置3から解像度変更命令パケットを受信し、その解像度変更命令パケットから送信開始タイムスタンプ及び解像度変更命令(拡大)を抽出して、その送信開始タイムスタンプ及び解像度変更命令(拡大)を送信制御部102に出力する処理を実施する。
また、解像度変更命令受信部101は送信制御部102から出力された過去の高解像度用符号化データ(送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データから最新の高解像度用符号化データ(送信終了済みの高解像度用符号化データの中で最も新しい高解像度用符号化データ))を映像受信装置3にファイル送信する処理を実施する。
なお、解像度変更命令受信部101は変更命令受信手段及び高レイヤ用符号化データ送信手段を構成している。
また、送信制御部102は解像度変更命令受信部101から送信開始タイムスタンプ及び解像度変更命令(拡大)を受けると、過去の高解像度用符号化データの取り出しをストリーム読込部103に指示し、過去の高解像度用符号化データを解像度変更命令受信部101に出力する処理を実施する。
また、ストリーム読込部103は送信制御部102から高解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部105に出力する処理を実施する。
また、ストリーム読込部103は送信制御部102から高解像度用符号化データの取出指示を受けると、映像データ蓄積部11から過去の高解像度用符号化データを取り出し、過去の高解像度用符号化データを送信制御部102に出力する処理を実施する。
なお、送信制御部102、ストリーム読込部103、低解像度パケット生成部15及び低解像度パケット送信部104から低レイヤ用符号化データ送信手段が構成されている。
高解像度パケット送信部106はIP/UDPを使用して、高解像度パケット生成部105から出力された各RTPパケットを予め設定されているマルチキャストアドレスのポートに送信する処理を実施する。
なお、送信制御部102、ストリーム読込部103、高解像度パケット生成部105及び高解像度パケット送信部106から高レイヤ用符号化データ送信手段が構成されている。
低解像度パケット受信部111は予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する処理を実施する。
なお、低解像度パケット受信部111は低レイヤ用符号化データ受信手段を構成している。
高解像度パケット受信部112は予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを高解像度パケット処理部36に出力する処理を実施する。
なお、高解像度パケット受信部112は高レイヤ用符号化データ受信手段を構成している。
また、解像度変更命令送信部113は映像送信装置1からファイル送信された過去の高解像度用符号化データをファイル受信する処理を実施する。
なお、解像度変更命令送信部113は変更命令送信手段及び高レイヤ用符号化データ受信手段を構成している。
なお、再生制御部114、映像デコーダ115及び映像出力部39から映像再生手段が構成されている。
映像送信装置1が低解像度用符号化データをストリーム伝送し、映像受信装置3が低解像度用符号化データを復号して、低解像度の映像を再生する際の処理内容は、上記実施の形態1と比較して、映像送信装置1がマルチキャストで低解像度用符号化データを複数の映像受信装置3にストリーム伝送する点以外は同様であるため、この処理内容については説明を省略する。
まず、映像受信装置3の解像度変更命令入力部33は、上記実施の形態1と同様に、解像度変更命令(拡大)の入力を受け付ける処理を実施する。
解像度変更命令送信部113は、図3の解像度変更命令送信部34と同様に、解像度変更命令入力部33から解像度変更命令(拡大)を受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部114に問い合わせる。
また、再生制御部114は、高解像度用符号化データの再生開始要求を高解像度パケット処理部36に出力し、高解像度パケット受信部112が高解像度用符号化データを受信し、高解像度パケット処理部36の高解像度データバッファ36aにて一定時間のバッファリングを開始する。
解像度変更命令送信部113は、再生制御部114から送信開始タイムスタンプの通知を受けると、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
送信制御部102は、解像度変更命令受信部101から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、過去の高解像度用符号化データの取り出しをストリーム読込部103に指示する。
なお、送信制御部102は、ストリーム読込部103に対する過去の高解像度用符号化データの取出指示とは別に、常に低解像度用符号化データ及び高解像度用符号化データの読込指示をストリーム読込部103に指示している。
また、ストリーム読込部103は、送信制御部102から高解像度用符号化データの読込指示を受けると、映像データ蓄積部11から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部105に出力する処理を実施する。
また、低解像度パケット生成部15は、ストリーム読込部103から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部104に出力する。
映像受信装置3の低解像度パケット受信部111は、予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
また、高解像度パケット生成部105は、ストリーム読込部103から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを高解像度パケット送信部106に出力する。
高解像度パケット送信部106は、高解像度パケット生成部105からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されているマルチキャストアドレスのポートに送信する。
映像受信装置3の高解像度パケット受信部112は、予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを高解像度パケット処理部36に出力する。
即ち、ストリーム読込部103は、映像データ蓄積部11により蓄積されている高解像度用符号化データの中から、送信制御部102から出力された送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データを探索し、そのタイムスタンプが付与されている高解像度用符号化データから最新の高解像度用符号化データ(送信終了済みの高解像度用符号化データの中で最も新しい高解像度用符号化データ)までを送信制御部102に出力する。
図23では、タイムスタンプとデータ長と高解像度用符号化データがセットにされて送信される例を示している。
例えば、送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データが高解像度用符号化データ#iであり、最新の高解像度用符号化データが高解像度用符号化データ#i+nである場合、ストリーム読込部103が高解像度用符号化データ#iから高解像度用符号化データ#i+nまでのn+1個の高解像度用符号化データを取り出して送信制御部102に出力する。
解像度変更命令受信部101は、送信制御部102から過去の高解像度用符号化データを受けると、解像度変更命令(拡大)の応答として、過去の高解像度用符号化データを映像受信装置3にファイル送信する。
再生制御部114は、解像度変更命令送信部113から過去の高解像度用符号化データを受けると、過去の高解像度用符号化データと高解像度用符号化データのデコード開始要求を映像デコーダ115に出力する。
映像デコーダ115は、タイムスタンプが一致する高解像度用符号化データが高解像度データバッファ36aに蓄積されていなければ、再生制御部114から出力された過去の高解像度用符号化データの中から、タイムスタンプが一致する高解像度用符号化データを取り出し、その高解像度用符号化データを上記低解像度用符号化データと一緒にデコードする。
この段階で、映像デコーダ115では、デコード対象の高解像度用符号化データが、解像度変更命令(拡大)の応答で入手した過去の高解像度用符号化データから、高解像度パケット受信部112によりストリーム受信された高解像度用符号化データに切り替えられる。
このようにして、マルチキャストで低解像度用符号化データと高解像度用符号化データを配信している映像配信システムにおいても、映像受信装置3の解像度変更命令(拡大)の応答として、映像送信装置1が既に送信した過去の高解像度用符号化データの一部を映像受信装置3にファイル送信することにより、低遅延で映像の解像度を拡大することが可能となる。
Claims (21)
- 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを上記映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段とを備えた映像送信装置。
- 映像のスケーラブル符号化が解像度スケーラブル符号化であり、映像データ蓄積手段により蓄積されている映像データに含まれている低レイヤ用符号化データが低解像度用符号化データ、高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項1記載の映像送信装置。
- 高レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置に送信する際、上記映像受信装置における映像の再生速度より速い伝送速度で上記高解像度用符号化データのストリーム伝送を開始し、これからストリーム伝送する高解像度用符号化データの復号タイミングが、これから上記低レイヤ用符号化データ送信手段によりストリーム伝送される低解像度用符号化データの復号タイミングに追いつくと、上記高解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更することを特徴とする請求項2記載の映像送信装置。
- 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている中レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データを上記映像受信装置にストリーム伝送する中レイヤ用符号化データ送信手段と、上記中レイヤ用符号化データ送信手段によりストリーム伝送される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データの復号タイミングに追いついたタイミングで、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのストリーム伝送を開始する高レイヤ用符号化データ送信手段とを備えた映像送信装置。
- 映像のスケーラブル符号化が解像度スケーラブル符号化であり、映像データ蓄積手段により蓄積されている映像データに含まれている低レイヤ用符号化データが低解像度用符号化データ、中レイヤ用符号化データが中解像度用符号化データ、高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項4記載の映像送信装置。
- 中レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の中解像度用符号化データを映像受信装置に送信する際、上記映像受信装置における映像の再生速度より速い伝送速度で上記中解像度用符号化データのストリーム伝送を開始し、これからストリーム伝送する中解像度用符号化データの復号タイミングが、これから上記低レイヤ用符号化データ送信手段によりストリーム伝送される低解像度用符号化データの復号タイミングに追いつくと、上記中解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更することを特徴とする請求項5記載の映像送信装置。
- 低レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段は、映像受信装置における映像の再生速度より速い伝送速度で高解像度用符号化データのストリーム伝送を行う段階では、通常時のフレームレートより低いフレームレートでストリーム伝送を行い、上記高解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更すると、フレームレートを通常時のフレームレートに戻してストリーム伝送を行うことを特徴とする請求項3記載の映像送信装置。
- フレーム間符号化方式で映像の解像度スケーラブル符号化が行われている場合、高解像度用符号化データの送信を開始する先頭ピクチャについては、フレーム内符号化方式で符号化されているイントラフレームを送信することを特徴とする請求項2または請求項5記載の映像送信装置。
- カメラにより撮影された映像を解像度スケーラブル符号化する映像符号化手段と、上記映像符号化手段により解像度スケーラブル符号化された映像データに含まれている低解像度用符号化データを低レイヤ用符号化データ送信手段に出力し、上記低解像度用符号化データ以外の映像データを一定期間だけ映像データ蓄積手段に蓄積させる映像データ管理手段とを設けたことを特徴とする請求項2または請求項5記載の映像送信装置。
- 高レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置に送信する際、上記高解像度用符号化データを上記映像受信装置にファイル送信することを特徴とする請求項2記載の映像送信装置。
- 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを送信可能な映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データをストリーム受信する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の高レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えた映像受信装置。
- 映像のスケーラブル符号化が解像度スケーラブル符号化であり、低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データが低解像度用符号化データ、高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項11記載の映像受信装置。
- 映像再生手段は、低解像度映像から高解像度映像に切り替えて再生する際、低レイヤ用符号化データ受信手段によりストリーム受信された低解像度用符号化データのバッファリング処理を実施する一方、高レイヤ用符号化データ受信手段により受信開始された高解像度用符号化データについてはバッファリング処理を実施せずに、直ちに、同一復号タイミングを有する上記高解像度用符号化データとバッファリング処理後の低解像度用符号化データを一緒に復号開始することを特徴とする請求項12記載の映像受信装置。
- 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを送信可能な映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データをストリーム受信する中レイヤ用符号化データ受信手段と、上記映像送信装置から、上記中レイヤ用符号化データ受信手段によりストリーム受信される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ受信手段によりストリーム受信される低レイヤ用符号化データの復号タイミングに追いついてから高レイヤ用符号化データのストリーム受信を開始する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記中レイヤ用符号化データ受信手段により受信された中レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の中レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して中レイヤの映像を再生し、上記高レイヤ用符号化データ受信手段により高レイヤ用符号化データのストリーム受信が開始された後は、復号するタイミングが同一の高レイヤ用符号化データ、中レイヤ用符号化データ及び低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えた映像受信装置。
- 映像のスケーラブル符号化が解像度スケーラブル符号化であり、低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データが低解像度用符号化データ、中レイヤ用符号化データ受信手段によりストリーム受信された中レイヤ用符号化データが中解像度用符号化データ、高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項14記載の映像受信装置。
- 映像再生手段は、低解像度映像から高解像度映像への切り替え時に中解像度の映像を再生する際、低レイヤ用符号化データ受信手段によりストリーム受信された低解像度用符号化データのバッファリング処理を実施する一方、中レイヤ用符号化データ受信手段により受信開始された中解像度用符号化データについてはバッファリング処理を実施せずに、直ちに、同一復号タイミングを有する上記中解像度用符号化データとバッファリング処理後の低解像度用符号化データを一緒に復号開始することを特徴とする請求項15記載の映像受信装置。
- 変更命令送信手段は、変更命令を映像送信装置に送信する際、低レイヤ用符号化データ受信手段により既にストリーム受信され、バッファリングされている低解像度用符号化データと一緒に復号することが可能な高解像度符号化データの位置を示す再生可能位置情報を上記映像送信装置に送信することを特徴とする請求項12記載の映像受信装置。
- 変更命令送信手段は、変更命令を映像送信装置に送信する際、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報を上記映像送信装置に送信することを特徴とする請求項12または請求項15記載の映像受信装置。
- 高レイヤ用符号化データ受信手段は、低レイヤ用符号化データ受信手段により現在ストリーム受信されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを受信する際、映像送信装置から上記高解像度用符号化データをファイル受信することを特徴とする請求項12記載の映像受信装置。
- 映像がスケーラブル符号化されている映像データをストリーム伝送する映像送信装置と、上記映像送信装置から映像データをストリーム受信し、上記映像データを復号して映像を再生する映像受信装置とから構成されている映像配信システムにおいて、
上記映像送信装置は、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを上記映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを上記映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段とを備えており、
上記映像受信装置は、上記映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データをストリーム受信する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の高レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えていることを特徴とする映像配信システム。 - 映像がスケーラブル符号化されている映像データをストリーム伝送する映像送信装置と、上記映像送信装置から映像データをストリーム受信し、上記映像データを復号して映像を再生する映像受信装置とから構成されている映像配信システムにおいて、
上記映像送信装置は、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを上記映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている中レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データをを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データを上記映像受信装置にストリーム伝送する中レイヤ用符号化データ送信手段と、上記中レイヤ用符号化データ送信手段によりストリーム伝送される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データの復号タイミングに追いついたタイミングで、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのストリーム伝送を開始する高レイヤ用符号化データ送信手段とを備えており、
上記映像受信装置は、上記映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データをストリーム受信する中レイヤ用符号化データ受信手段と、上記映像送信装置から、上記中レイヤ用符号化データ受信手段によりストリーム受信される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ受信手段によりストリーム受信される低レイヤ用符号化データの復号タイミングに追いついてから高レイヤ用符号化データのストリーム受信を開始する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記中レイヤ用符号化データ受信手段により受信された中レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の中レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して中レイヤの映像を再生し、上記高レイヤ用符号化データ受信手段により高レイヤ用符号化データのストリーム受信が開始された後は、復号するタイミングが同一の高レイヤ用符号化データ、中レイヤ用符号化データ及び低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えていることを特徴とする映像配信システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009128822A JP5183570B2 (ja) | 2009-05-28 | 2009-05-28 | 映像送信装置、映像受信装置及び映像配信システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009128822A JP5183570B2 (ja) | 2009-05-28 | 2009-05-28 | 映像送信装置、映像受信装置及び映像配信システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2010278729A JP2010278729A (ja) | 2010-12-09 |
JP5183570B2 true JP5183570B2 (ja) | 2013-04-17 |
Family
ID=43425276
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009128822A Expired - Fee Related JP5183570B2 (ja) | 2009-05-28 | 2009-05-28 | 映像送信装置、映像受信装置及び映像配信システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5183570B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3035689B1 (en) * | 2013-09-03 | 2021-05-19 | Sony Corporation | Transmission apparatus, relay apparatus and reception apparatus |
US10108345B2 (en) * | 2016-11-02 | 2018-10-23 | Samsung Electronics Co., Ltd. | Victim stream selection algorithms in the multi-stream scheme |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001128144A (ja) * | 1999-10-26 | 2001-05-11 | Fujitsu Ltd | オンデマンドによる画像送信装置及びその方法 |
JP4365239B2 (ja) * | 2004-02-25 | 2009-11-18 | パイオニア株式会社 | ネットワーク会議システム |
KR20060065482A (ko) * | 2004-12-10 | 2006-06-14 | 마이크로소프트 코포레이션 | 스트리밍 미디어 데이터의 코딩 비트 레이트의 제어 시스템및 프로세스 |
JP4915208B2 (ja) * | 2006-10-26 | 2012-04-11 | 三菱電機株式会社 | ストリームデータ再生システム |
JP5333218B2 (ja) * | 2007-08-01 | 2013-11-06 | 日本電気株式会社 | 動画像データ配信システム、その方法及びそのプログラム |
JP2009100411A (ja) * | 2007-10-19 | 2009-05-07 | Hitachi Ltd | 映像配信システム、映像中継装置、及び映像中継方法 |
JP5151763B2 (ja) * | 2008-07-22 | 2013-02-27 | 日本電気株式会社 | 映像配信システム、映像配信装置、映像受信装置、映像配信方法、映像受信方法及びプログラム |
-
2009
- 2009-05-28 JP JP2009128822A patent/JP5183570B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2010278729A (ja) | 2010-12-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8055783B2 (en) | Systems and methods for media stream processing | |
JP5770345B2 (ja) | ビデオデータをストリーミングするためのビデオ切替え | |
KR100945548B1 (ko) | 비디오 오류 회복 | |
CN101917613B (zh) | 一种流媒体采集编码服务系统 | |
CN111372145B (zh) | 一种多视点视频的视点切换方法和系统 | |
WO2005062614A1 (ja) | 映像データ処理方法および映像データ処理装置 | |
CN112770122B (zh) | 一种在云导播台视频同步的方法及系统 | |
US11128897B2 (en) | Method for initiating a transmission of a streaming content delivered to a client device and access point for implementing this method | |
CN107566918A (zh) | 一种视频分发场景下的低延时取流秒开方法 | |
KR20150106351A (ko) | 모션 비디오의 재생을 위한 방법 및 시스템 | |
AU2007236534B2 (en) | Method, system and software product for streaming content | |
JP2007274443A (ja) | 画像伝送方法、送信装置、受信装置及び画像伝送システム | |
JP4148673B2 (ja) | 映像配信システム | |
US20060161676A1 (en) | Apparatus for IP streaming capable of smoothing multimedia stream | |
JP5183570B2 (ja) | 映像送信装置、映像受信装置及び映像配信システム | |
US7558323B2 (en) | Video data transmission method for changing transmission data amounts in accordance with a transmission speed and a transmission system therefor | |
EP2781088A1 (en) | Reducing amount op data in video encoding | |
JP2004289295A (ja) | データ処理システム、データ処理装置及びデータ処理方法 | |
JP5389528B2 (ja) | ネットワークデコーダ装置 | |
JP7172055B2 (ja) | 処理装置、処理プログラム及び処理方法 | |
JP4255685B2 (ja) | 画像伝送方法および画像伝送装置 | |
JP2005333520A (ja) | 画像伝送装置、画像伝送方法、伝送システム、及び映像監視システム | |
JP5264146B2 (ja) | 同期配信システム、同期再生システム及び同期配信再生システム | |
JP4892541B2 (ja) | 画像伝送方法および画像伝送システム | |
JP2004349743A (ja) | 映像ストリーム切替システム、方法、映像ストリーム切替システムを含む映像監視、映像配信システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120120 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20121207 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121218 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130115 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160125 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |