JP5183570B2 - 映像送信装置、映像受信装置及び映像配信システム - Google Patents

映像送信装置、映像受信装置及び映像配信システム Download PDF

Info

Publication number
JP5183570B2
JP5183570B2 JP2009128822A JP2009128822A JP5183570B2 JP 5183570 B2 JP5183570 B2 JP 5183570B2 JP 2009128822 A JP2009128822 A JP 2009128822A JP 2009128822 A JP2009128822 A JP 2009128822A JP 5183570 B2 JP5183570 B2 JP 5183570B2
Authority
JP
Japan
Prior art keywords
encoded data
video
resolution
layer
low
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009128822A
Other languages
English (en)
Other versions
JP2010278729A (ja
Inventor
純一 横里
慎司 前田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2009128822A priority Critical patent/JP5183570B2/ja
Publication of JP2010278729A publication Critical patent/JP2010278729A/ja
Application granted granted Critical
Publication of JP5183570B2 publication Critical patent/JP5183570B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

この発明は、映像がスケーラブル符号化されている映像データをストリーム伝送する映像送信装置と、映像送信装置から映像データをストリーム受信して映像を再生する映像受信装置と、映像送信装置及び映像受信装置から構成されている映像配信システムとに関するものである。
従来の映像配信システムでは、映像を解像度スケーラブル符号化して、複数の符号化データをストリーム伝送することで、適宜、映像の解像度を切り替えることができるようにしている。
ここで、解像度スケーラブル符号化は、1つの映像符号化データから異なる解像度の映像を復号可能な符号化方式であり、符号化データのうち、低解像度用の符号化データのみを復号すれば、低解像度の映像が再生され、低解像度用の符号化データと高解像度用の符号化データを一緒に復号すれば、高解像度の映像が再生される。
例えば、以下の非特許文献1には、蓄積配信サーバが複数の監視カメラの映像を配信し、監視センタの監視端末が複数の監視カメラの映像を受信して、その映像を再生する映像配信システムが開示されている。
配信している映像は、JPEG2000で解像度スケーラブル符号化されており、センサが警報を発生すると、そのセンサに関連付けられているカメラの映像の解像度を低解像度から高解像度に切り替えて配信している。
また、従来の映像配信システムでは、映像ストリームの切り替えタイミングを高速化するために、複数の用途の映像データを同時に送信する方式を採用しているものがある。
例えば、以下の特許文献1には、映像送信装置が低解像度のストリームと高解像度のストリームを合わせて映像受信装置に送信し、ユーザから解像度拡大要求を受ける前は、映像受信装置が低解像のストリームのみを復号して低解像度の映像を再生し、ユーザから解像度拡大要求を受けると、低解像度のストリームと高解像度のストリームを一緒に復号して高解像度の映像を再生する映像配信システムが開示されている。
なお、映像配信システムがIPネットワークを通じて、映像データをストリーム送信する場合、ネットワークのジッタを吸収するために、通常、映像受信装置側では、受信したストリームを一定時間分バッファリングすることで、パケットの入れ替わりの修正を行う。また、タイムスタンプを使用してバッファからの映像データの送出タイミング制御を行いながらデコーダへ転送する。
特開平9−186967号号公報(段落番号[0020]から[0022])
横里他著、「映像監視システムへのJPEG2000スケーラブル映像配信技術適用に関する検討」、2005年電子情報通信学会総合大会講演論文集、情報・システム、NO2、P75
従来の映像配信システムは以上のように構成されているので、非特許文献1の場合、映像受信装置が映像の解像度を低解像度から高解像度に変更する変更要求を映像送信装置に送信すれば、映像送信装置が配信する映像の解像度を低解像度から高解像度に切り替えることが可能である。しかし、映像受信装置から変更要求を受けた時点以降の映像のみが高解像に切り替えられるため、その時点より時間的に前の映像を高解像で再生することができない課題があった。また、映像受信装置では、映像を一定時間分バッファリングするため、実際に高解像度の映像が再生されるまでに長時間を要する課題があった。
特許文献1の場合、映像送信装置が低解像度のストリームと高解像度のストリームを合わせて映像受信装置に送信しているので、映像受信装置では、映像の解像度を低解像度から高解像度に変更する変更要求を受けると、直ちに高解像度の映像を再生することができる。しかし、映像受信装置が低解像度の映像を再生しているときも、映像送信装置が高解像度のストリームを送信しているため、ストリームの伝送が冗長的となり、ネットワーク帯域の使用が非効率になるなどの課題があった。
この発明は上記のような課題を解決するためになされたもので、ネットワーク帯域の非効率な使用を招くことなく、高解像度の映像が再生されるまでに要する時間を短縮することができる映像送信装置、映像受信装置及び映像配信システムを得ることを目的とする。
この発明に係る映像送信装置は、変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを映像受信装置に送信し、その後、低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段を設けるようにしたものである。
この発明によれば、変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを映像受信装置に送信し、その後、低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段を設けるように構成したので、ネットワーク帯域の非効率な使用を招くことなく、高レイヤの映像が再生されるまで要する時間を短縮することができる効果がある。
この発明の実施の形態1による映像配信システムを示す構成図である。 この発明の実施の形態1による映像送信装置1を示す構成図である。 この発明の実施の形態1による映像受信装置3を示す構成図である。 映像符号化ビットストリームの一例を示す説明図である。 映像送信装置1の処理内容を示すフローチャートである。 映像受信装置3の処理内容を示すフローチャートである。 映像送信装置1と映像受信装置3間のストリーム伝送の一例を示す説明図である。 映像受信装置3における低解像度パケット処理部32の低解像度データバッファ32aと、高解像度パケット処理部36の高解像度データバッファ36aの動作を示す説明図である。 この発明の実施の形態2による映像送信装置1を示す構成図である。 この発明の実施の形態2による映像受信装置3を示す構成図である。 映像送信装置1と映像受信装置3間のストリーム伝送の一例を示す説明図である。 映像受信装置3における低解像度パケット処理部32の低解像度データバッファ32aと、中解像度パケット処理部42の中解像度データバッファ42aと、高解像度パケット処理部44の高解像度データバッファ44aの動作を示す説明図である。 この発明の実施の形態3による映像送信装置1を示す構成図である。 この発明の実施の形態3による映像受信装置3を示す構成図である。 この発明の実施の形態4による映像送信装置1を示す構成図である。 この発明の実施の形態4による映像受信装置3を示す構成図である。 この発明の実施の形態5による映像配信システムを示す構成図である。 この発明の実施の形態5による映像送信装置1を示す構成図である。 映像データ蓄積部94における高解像度用符号化データの蓄積構造を示す説明図である。 この発明の実施の形態6による映像配信システムを示す構成図である。 この発明の実施の形態6による映像送信装置1を示す構成図である。 この発明の実施の形態6による映像受信装置3を示す構成図である。 映像送信装置1からファイル送信される高解像度用符号化データの形式を示す説明図である。
実施の形態1.
図1はこの発明の実施の形態1による映像配信システムを示す構成図である。
図1において、映像送信装置1は映像がスケーラブル符号化されている映像データをストリーム伝送する装置である。
映像受信装置3はIPネットワーク2を介して映像送信装置1と接続されており、映像送信装置1から映像データをストリーム受信すると、その映像データを復号して映像をモニタ4に再生する処理を実施する。
ここで、映像送信装置1から送信される映像データは、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データである。
この実施の形態1では、映像のスケーラブル符号化として、映像が解像度スケーラブル符号化されている例を説明するが、解像度以外にも、例えば、カラーフォーマットや量子化ビット数など、スケーラブルに変更可能なパラメータが存在し、これらのパラメータがスケーラブルに符号化されているものであってもよい。
図2はこの発明の実施の形態1による映像送信装置1を示す構成図である。
図2において、映像データ蓄積部11は映像が解像度スケーラブル符号化されている映像データ(例えば、ビデオ映像を構成するJPEG2000の符号化された映像コンテンツ)であって、低解像度の映像(低レイヤの映像)の復号が可能な低解像度用符号化データ(低レイヤ用符号化データ)の他に、その低解像度用符号化データと一緒に復号すれば、高解像度の映像(高レイヤの映像)の復号が可能な高解像度用符号化データ(高レイヤ用符号化データ)を含む映像データを蓄積するハードディスクなどの記録媒体である。
映像データ蓄積部11により蓄積される映像データの各フレームには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
なお、映像データ蓄積部11は映像データ蓄積手段を構成している。
解像度変更命令受信部12は映像受信装置3から解像度(レイヤ)の変更命令を受信する処理を実施する。なお、解像度変更命令受信部12は変更命令受信手段を構成している。
送信制御部13は低解像度用符号化データの読込をストリーム読込部14に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示する処理を実施する。
また、送信制御部13は解像度変更命令受信部12により受信された解像度の変更命令が低解像度から高解像度への変更を指示する命令であれば、倍速値X倍での高解像度用符号化データの読込をストリーム読込部14に指示するとともに、高解像度パケットの生成を倍速値X倍で行う指示を高解像度パケット生成部17に出力し、その後、これからストリーム伝送する高解像度用符号化データのタイムスタンプ(復号タイミング)が、これからストリーム伝送する低解像度用符号化データのタイムスタンプ(復号タイミング)に追いつくと、通常速度での高解像度用符号化データの読込をストリーム読込部14に指示するとともに、高解像度パケットの生成を通常速度で行う指示を高解像度パケット生成部17に出力する処理を実施する。
ストリーム読込部14は送信制御部13から低解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部11から、タイムスタンプを用いて送信時間(送信時間は復号時間のタイムスタンプを使用可能)のタイミングで送信フレームの低解像度用符号化データを読み込み、その低解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に低解像度パケット生成部15に出力する処理を実施する。
また、ストリーム読込部14は送信制御部13から高解像度用符号化データの読込指示を受けると、映像データ蓄積部11から読み込む低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データをフレームごとに倍速値X倍で読み込んで、その高解像度用符号化データをタイムスタンプと次のフレームのタイムスタンプを一緒に高解像度パケット生成部17に出力し、その後、映像データ蓄積部11から読み込む低解像度用符号化データと復号するタイミングが同一の高解像度用符号化データを通常の速度で読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部17に出力する処理を実施する。
低解像度パケット生成部15はストリーム読込部14から出力された1フレーム分の低解像度用符号化データをRTP(Real−Time Transport Protocol)パケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部16に出力する処理を実施する。なお、低解像度パケット生成部15では、低解像度パケット送信部16から各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを低解像度パケット送信部16に出力する。
低解像度パケット送信部16はIP/UDPを使用して、低解像度パケット生成部15から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部13、ストリーム読込部14、低解像度パケット生成部15及び低解像度パケット送信部16から低レイヤ用符号化データ送信手段が構成されている。
高解像度パケット生成部17は送信制御部13から高解像度パケットの生成を倍速値X倍で行う指示を受けると、ストリーム読込部14から出力された高解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、通常の出力速度と比較して倍速値X倍で高解像度パケット送信部18に出力する処理を実施する。
また、高解像度パケット生成部17は送信制御部13から高解像度パケットの生成を通常速度で行う指示を受けると、ストリーム読込部14から出力された1フレーム分の高解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して高解像度パケット送信部18に出力する処理を実施する。
高解像度パケット送信部18はIP/UDPを使用して、高解像度パケット生成部17から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部13、ストリーム読込部14、高解像度パケット生成部17及び高解像度パケット送信部18から高レイヤ用符号化データ送信手段が構成されている。
図3はこの発明の実施の形態1による映像受信装置3を示す構成図である。
図3において、低解像度パケット受信部31は予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する処理を実施する。
低解像度パケット処理部32は低解像度パケット受信部31から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に出力する処理を実施する。
なお、低解像度パケット受信部31及び低解像度パケット処理部32から低レイヤ用符号化データ受信手段が構成されている。
解像度変更命令入力部33は解像度の変更命令の入力を受け付ける処理を実施する。
解像度変更命令送信部34は解像度変更命令入力部33により入力が受け付けられた変更命令が低解像度から高解像度への変更を指示する命令である場合、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(再生可能位置情報)を再生制御部37に問い合わせて、そのタイムスタンプと解像度の変更命令を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する処理を実施する。
なお、解像度変更命令入力部33及び解像度変更命令送信部34から変更命令送信手段が構成されている。
高解像度パケット受信部35は解像度変更命令送信部34から映像の解像度を低解像度から高解像度への変更を指示する変更命令が送信されたのち、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを高解像度パケット処理部36に出力する処理を実施する。
高解像度パケット処理部36は高解像度パケット受信部35から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の高解像度データバッファ36aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ38に出力する処理を実施する。
低解像度から高解像度に変更した際に受信する高解像度用符号化データの先頭フレームのデータは、バッファリングせずに直ちに映像デコーダに入力する。以降のフレームの高解像度用符号化データは、先頭フレームをデコーダへ出力したタイミングを起点として、タイムスタンプの時間に合わせて映像デコーダに入力する。
なお、高解像度パケット受信部35及び高解像度パケット処理部36から高レイヤ用符号化データ受信手段が構成されている。
再生制御部37は解像度変更命令送信部34から映像の解像度を低解像度から高解像度への変更を指示する変更命令が送信される前は、低解像度用符号化データのデコード開始要求を映像デコーダ38に出力し、その変更命令が送信された後は、高解像度用符号化データのデコード開始要求を映像デコーダ38に出力する処理などを実施する。
映像デコーダ38は再生制御部37から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データを取り出して、その低解像度用符号化データをデコードし、再生制御部37から高解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データと高解像度パケット処理部36の高解像度データバッファ36aに蓄積されているRTPパケットに含まれている高解像度用符号化データのうち、タイムスタンプが同じ低解像度用符号化データと高解像度用符号化データを取り出して、一緒にデコードする処理を実施する。
映像出力部39は映像デコーダ38によりデコードされた映像データをモニタ4に出力することで、映像を再生する処理を実施する。
なお、再生制御部37、映像デコーダ38及び映像出力部39から映像再生手段が構成されている。
次に動作について説明する。
最初に、映像の解像度スケーラブル符号化について説明する。
1つの映像が解像度スケーラブル符号化された場合、複数の符号化データグループからなる映像データ(映像符号化ビットストリーム)が生成される。
ここで、図4は映像符号化ビットストリームの一例を示す説明図である。
図4において、符号化ストリームAは図2の映像データ蓄積部11により蓄積される低解像度用符号化データに相当し、符号化ストリームBと符号化ストリームCは図2の映像データ蓄積部11により蓄積される高解像度符号化データに相当する。
また、符号化ストリームBは、低解像度と高解像度の中間の解像度の符号化データに相当する。
符号化ストリームAだけを復号して再生すると、図4(b)に示すように、横M画素×縦N画素の画像が復号される。
符号化ストリームAと符号化ストリームBを復号して表示すると、図4(c)に示すように、横2M画素×縦2N画素の画像が表示される。
また、符号化ストリームAと符号化ストリームBと符号化ストリームCを復号して表示すると、図4(d)に示すように、横4M画素×縦4N画素の画像が表示される。
ただし、MとNは任意の正整数であり、画像の画素数として有意な値を有するものである。
このように、映像符号化ビットストリームの一部分のみを抽出して復号すると、解像度の異なる画像が得られる符号化ビットストリームを解像度スケーラブルな画像とする。
解像度スケーラブルな符号化方式としては、JPEG2000やMPEGのSVC(Scalable Video Coding)などの既存の符号化方式を使用することができる。
この実施の形態1では、JPEG2000を用いる例を説明する。
なお、JPEG2000は、静止画の符号化方式であるが、時間的に連続している映像データをJPEG2000でスケーラブル符号化し、それらを復号して再生することによりビデオ映像データを再生することができる。
次に、映像送信装置1が低解像度用符号化データをストリーム伝送し、映像受信装置3が低解像度用符号化データを復号して、低解像度の映像を再生する際の処理内容を説明する。
まず、映像送信装置1の送信制御部13は、低解像度用符号化データの読込をストリーム読込部14に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示する。
ストリーム読込部14は、送信制御部13から低解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部11から、タイムスタンプにより送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行う。低解像度用符号化データの読込速度は、通常速度(映像受信装置3の映像デコーダ38における映像の再生速度と同じ速度)である。
ストリーム読込部14は、映像データ蓄積部11から低解像度用符号化データを読み込むと、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
低解像度パケット生成部15は、送信制御部13から低解像度パケットの生成指示を受けると、ストリーム読込部14から出力された1フレーム分の低解像度用符号化データをRTPパケットに分割して格納する。
また、低解像度パケット生成部15は、ストリーム読込部14から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部16に出力する。
ただし、低解像度パケット生成部15は、各RTPパケットを低解像度パケット送信部16に出力する際、低解像度パケット送信部16から送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを低解像度パケット送信部16に出力する。
低解像度パケット送信部16は、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、そのRTPパケットを含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
映像受信装置3の低解像度パケット受信部31は、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに一定時間格納後、先頭フレームをデコード開始する。その後は先頭フレームをデコードした時間を起点にバッファ内の各フレームのタイムスタンプにあわせて低解像度データバッファ32aから取り出して映像デコーダ38に出力する。
ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に出力する。
即ち、低解像度パケット処理部32は、RTPパケットのシーケンス番号を参照して、RTPパケットの入れ替わりが発生している場合には、低解像度データバッファ32a内でRTPパケットの並び替えを行う。
そして、低解像度パケット処理部32は、一定時間後に、RTPパケットに格納されているタイムスタンプが示すタイミングで安定的にRTPパケットに格納されている低解像度用符号化データを映像デコーダ38に与える。
低解像度パケット処理部32は、規定時間分の低解像度用符号化データが低解像度データバッファ32aに蓄積されると、低解像度用符号化データの再生開始要求を再生制御部37に出力する。
再生制御部37は、低解像度パケット処理部32から低解像度用符号化データの再生開始要求を受けると、低解像度用符号化データのデコード開始要求を映像デコーダ38に出力する。
映像デコーダ38は、再生制御部37から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aから、シーケンス番号順に、同一のタイムスタンプを有する低解像度用符号化データを取り出し、その低解像度用符号化データをデコードする。
タイムスタンプは、映像デコーダ38がデコードする時間を示しているため、同一フレームの低解像度用符号化データが一度に取り出されてデコードされる。
その後、デコードの開始時間を起点として時間管理が行われ、次のフレームのタイムスタンプが示すタイミングになると、映像デコーダ38が低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取り出して、その低解像度用符号化データをデコードする処理が継続される。
映像出力部39は、映像デコーダ38が低解像度用符号化データをデコードすると、デコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
次に、映像送信装置1が高解像度用符号化データ及び低解像度用符号化データをストリーム伝送し、映像受信装置3が高解像度用符号化データ及び低解像度用符号化データを復号して、高解像度の映像を再生する際の処理内容を説明する。
図5は映像送信装置1の処理内容を示すフローチャートであり、図6は映像受信装置3の処理内容を示すフローチャートである。繁雑さを避けるために、フローチャートは、本発明で特徴的な高解像度用符号化データの送受信に着目して作成している。
まず、映像受信装置3の解像度変更命令入力部33は、解像度の変更命令の入力を受け付ける処理を実施する。
ここでは、映像の解像度を低解像度から高解像度への変更を指示する変更命令(以下、「解像度変更命令(拡大)」と称する)が入力されるものとする。
解像度変更命令送信部34は、解像度変更命令入力部33から解像度変更命令(拡大)を受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部37に問い合わせる。
再生制御部37は、解像度変更命令送信部34から上記の問い合わせを受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットを参照して、次に映像デコーダ38に与えられるRTPパケットを確認し、そのRTPパケットのタイムスタンプを再生可能位置情報(送信開始タイムスタンプ)として解像度変更命令送信部34に通知する。
解像度変更命令送信部34は、再生制御部37から送信開始タイムスタンプの通知を受けると、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する(図6のステップST21)。
なお、解像度変更命令は、例えば、1バイトのデータであり、0x00が「拡大」、「0x01」が縮小の命令を示すものとする。また、それに続く4バイトのデータが送信開始タイムスタンプを示すものとする。
映像送信装置1の解像度変更命令受信部12は、映像受信装置3から送信された解像度変更命令パケットを受信すると(図5のステップST1)、その解像度変更命令パケットから送信開始タイムスタンプと解像度変更命令(拡大)を抽出して、その送信開始タイムスタンプと解像度変更命令(拡大)を送信制御部13に出力する(ステップST2)。
送信制御部13は、解像度変更命令受信部12から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、その送信開始タイムスタンプをストリーム読込部14に出力するとともに、倍速値X倍(この実施の形態1では、倍速値が通常の2倍速であるものとする)での高解像度用符号化データの読込をストリーム読込部14に指示する。
また、送信制御部13は、高解像度パケットの生成(高解像度パケットの送信)を2倍速で行う指示を高解像度パケット生成部17に出力する(ステップST3)。
ここで、RTPパケットのRTPヘッダに格納するタイムスタンプには、映像データ蓄積部11に蓄積されている映像データのタイムスタンプを格納する。
ストリーム読込部14は、送信制御部13から高解像度用符号化データを2倍速で読み込む指示を受けると、送信制御部13から出力された送信開始タイムスタンプを高解像度用符号化データの読込開始位置に決定し、その映像データ蓄積部11から、その送信開始タイムスタンプが付与されている高解像度用符号化データから順番に後続の高解像度用符号化データを2倍速で読み込み、それらの高解像度用符号化データを順番に高解像パケット生成部17に出力する(ステップST4)。また、高解像度用符号化データを高解像パケット生成部17に出力する際、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
また、ストリーム読込部14は、高解像度用符号化データの読込と平行して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
高解像度パケット生成部17は、送信制御部13から高解像度パケットの生成を2倍速で行う指示を受けると、ストリーム読込部14から出力された高解像度用符号化データをRTPパケットに分割して格納する。
また、高解像度パケット生成部17は、ストリーム読込部14から出力された高解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを2倍速で高解像度パケット送信部18に出力する。
ただし、高解像度パケット生成部17は、各RTPパケットを高解像度パケット送信部18に出力する際、高解像度パケット送信部18から2倍速で送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを高解像度パケット送信部18に出力する。
この実施の形態1では、JPEG2000による伝送を例にしているため、高解像度用符号化データの読込開始位置が、送信制御部13から出力された送信開始タイムスタンプが付与されている高解像度用符号化データとして問題を生じないが、例えば、MPEGのように、フレーム間の情報を用いて符号化を行う符号化方式を用いて、ストリームを伝送する場合には、その送信開始タイムスタンプよりも時間的に後ろに位置するイントラフレームのデータから送信を開始する工夫を行う必要がある。
即ち、高解像度用符号化データの送信を開始するピクチャが先頭ピクチャである場合、フレーム内符号化方式で符号化されているイントラフレームの高解像度用符号化データを送信する必要がある。
高解像度パケット送信部18は、高解像度パケット生成部17からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する(ステップST5)。
また、低解像度パケット送信部16も、高解像度パケット送信部18と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(高解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
以後、高解像度パケット送信部18が高解像度用符号化データのRTPパケットの送信を2倍速で継続し、低解像度パケット送信部16が低解像度用符号化データのRTPパケットの送信を通常速度(1倍速)で継続する。
高解像度パケット生成部17は、送信制御部13から高解像度パケットの生成指示を受けた直後は、過去のタイムスタンプの高解像度用符号化データのRTPパケットを生成しているため、低解像度パケット生成部15により同時刻にRTPパケットが生成されている低解像度用符号化データと比較すると、時間的に前のタイムスタンプが付与されている高解像度用符号化データのRTPパケットを生成していることになる。
しかし、高解像度パケット生成部17が2倍速でRTPパケットを生成し、高解像度パケット送信部18が2倍速でRTPパケットを送信しているため、高解像度パケット送信部18から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプとの差分が徐々に縮小する。
送信制御部13は、高解像度パケット生成部17により生成されたRTPパケットのタイムスタンプと、低解像度パケット生成部15により生成されたRTPパケットのタイムスタンプとを入手して、双方のタイムスタンプを比較する。
送信制御部13は、双方のタイムスタンプが一致すると、高解像度用符号化データの伝送タイミングが、低解像度用符号化データの伝送タイミングに追いついたものと判断し(ステップST6)、高解像度用符号化データの読込を通常の速度(1倍速)に下げる旨をストリーム読込部14に出力する。
また、送信制御部13は、高解像度パケットの生成(高解像度パケットの送信)を通常の速度(1倍速)に下げる旨を高解像度パケット生成部17に出力する(ステップST7)。
この段階から、ストリーム読込部14が読み込む高解像度用符号化データのタイムスタンプと、低解像度用符号化データのタイムスタンプが同じになり、高解像度パケット送信部18から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプが同じとなる。
したがって、同じタイムスタンプが付与されている高解像度用符号化データ及び低解像度用符号化データのRTPパケットが、同じタイミングで映像受信装置3にストリーム伝送されることになる(ステップST8,ST9)。
映像受信装置3の再生制御部37は、解像度変更命令送信部34から解像度変更命令(拡大)を含む解像度変更命令パケットが送信されると、高解像度用符号化データの再生開始通知を高解像度パケット処理部36に出力する。
高解像度パケット処理部36は、再生制御部37から高解像度用符号化データの再生開始通知を受けると、IPパケットの受信開始要求を高解像度パケット受信部35に出力する。
高解像度パケット受信部35は、高解像度パケット処理部36からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを高解像度パケット処理部36に出力する(図6のステップST22)。
低解像度パケット受信部31も、高解像度パケット受信部35と平行に動作し、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
高解像度パケット処理部36は、高解像度パケット受信部35からIPパケットを受けると、そのIPパケットからRTPパケットを抽出して、そのRTPパケットを内部の高解像度データバッファ36aに格納し、先頭フレーム分のRTPパケットを高解像度データバッファ36aに蓄積すると、再生が可能である旨を再生制御部37に通知する。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットに格納されている低解像度用符号化データを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに格納する。
再生制御部37は、高解像度パケット処理部36から再生可能通知を受けると、高解像度用符号化データのデコード開始要求を映像デコーダ38に出力する。
映像デコーダ38は、既に低解像度用符号化データのデコードを開始しており、再生制御部37から高解像度用符号化データのデコード開始要求を受けたのち、次のフレームのデコードタイミングになると(ステップST23)、低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取得する(ステップST24)。
次に、映像デコーダ38は、高解像度パケット処理部36の高解像度データバッファ36aに1フレーム分以上の高解像度用符号化データが蓄積されていれば(ステップST25)、高解像度データバッファ36aに蓄積されている先頭フレームのタイムスタンプを抽出する(ステップST26)。
映像デコーダ38は、高解像度データバッファ36aに蓄積されている先頭フレームのタイムスタンプと、次のフレームの低解像度用符号化データのタイムスタンプを比較して、同じタイムスタンプであれば、高解像度データバッファ36aに蓄積されている先頭フレームの高解像度用符号化データが、次にデコードする低解像度用符号化データと同一デコードタイミングのデータであると判断し(ステップST27)、その高解像度データバッファ36aから先頭フレームの高解像度用符号化データを取得する(ステップST28)。
映像デコーダ38は、先頭フレームの高解像度用符号化データを取得すると、その高解像度用符号化データと次のフレームの低解像度用符号化データを一緒にデコードする(ステップST29)。
映像出力部39は、映像デコーダ38によるデコード後の映像データを映像信号としてモニタ4に出力することで、高解像度のビデオ映像をモニタ4上に再生する。
映像デコーダ38は、高解像度データバッファ36aに蓄積されている先頭フレームのタイムスタンプが、次のフレームの低解像度用符号化データのタイムスタンプより新しい場合(ステップST30)、あるいは、高解像度データバッファ36aに1フレーム分の高解像度用符号化データが蓄積されていない場合(ステップST25)、次のフレームの低解像度用符号化データのみをデコードする(ステップST31)。
映像出力部39は、映像デコーダ38によるデコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
なお、映像デコーダ38は、高解像度データバッファ36aに蓄積されている先頭フレームのタイムスタンプが、次のフレームの低解像度用符号化データのタイムスタンプより古い場合(ステップST30)、高解像度データバッファ36aに蓄積されている先頭フレームを廃棄する(ステップST32)。
ここで、図7は映像送信装置1と映像受信装置3間のストリーム伝送の一例を示す説明図である。
図7において、#と数字は映像のフレームIDを表している。タイムスタンプは各フレームに割り付けられており、低解像度用符号化データ、中解像度用符号化データ、高解像度符号化データの同一フレームIDに設定されているタイムスタンプは同一のタイムスタンプである。
図7の例では、映像受信装置3から解像度変更命令(拡大)が送信される以前の区間Aでは、映像送信装置1が、低解像度用符号化データを#1フレームから#15フレームまで送信している。
区間Bでは、映像受信装置3が解像度変更命令(拡大)を含む解像度変更命令パケットを映像送信装置1に送信している。
このとき、その解像度変更命令パケットに含まれている送信開始タイムスタンプが“#1フレーム”を指し示しているものとする。
このため、区間Bでは、映像送信装置1が、低解像度用符号化データを#16フレームから#20フレームまで送信して、高解像度用符号化データを#1フレームから送信を開始して、#10フレームまで送信している。
ここでは、一定フレームレートで、高解像度用符号化データ及び低解像度用符号化データを送信しているものとする。
次の区間Cでは、映像送信装置1が低解像度用符号化データをフレーム#21からフレーム#25まで送信している間に高解像度用符号化データをフレーム#11からフレーム#20まで送信している。
このように、高解像度用符号化データが2倍速(再生速度より速い伝送速度)で送信されるため、低解像度用符号化データと高解像度用符号化データのフレーム番号の差分が徐々に縮小される。
続いて区間Dでは、映像送信装置1が低解像度用符号化データをフレーム#26からフレーム#30まで送信している間に高解像度用符号化データをフレーム#21からフレーム#30まで送信している。
これらのデータの送信が終了した時点で、低解像度用符号化データと高解像度用符号化データのフレーム番号が一致しているため、高解像度用符号化データの伝送速度が再生速度と同一に変更される。
そのため、区間Eでは、映像送信装置1により続けて送信される低解像度用符号化データのフレーム#31〜35の番号と高解像度用符号化データのフレーム#31〜35の番号が同じになり、以降、低解像度用符号化データと高解像度用符号化データが同期して送信される。
図8は映像受信装置3における低解像度パケット処理部32の低解像度データバッファ32aと、高解像度パケット処理部36の高解像度データバッファ36aの動作を示す説明図である。
図8において、50は低解像度用符号化データの#15フレームを受信した際の低解像度データバッファ32aを示し、51は同時刻の高解像度データバッファ36aを示している。
52は低解像度用符号化データの#17フレームを受信する際の低解像度データバッファ32aを示し、53は同時刻の高解像度データバッファ36aを示している。
54は低解像度用符号化データの#21フレームを受信する際の低解像度データバッファ32aを示し、55は同時刻の高解像度データバッファ36aを示している。
56は低解像度用符号化データの#26フレームを受信する際の低解像度データバッファ32aを示し、57は同時刻の高解像度データバッファ36aを示している。
58は低解像度用符号化データの#31フレームを受信する際の低解像度データバッファ32aを示し、59は同時刻の高解像度データバッファ36aを示している。
低解像度データバッファ50及び高解像度データバッファ51の状態は、図7の区間Aにおける状態を示している。
この状態では、低解像度用符号化データのみを受信しており、高解像度用符号化データを受信していないため、高解像度データバッファ51には高解像度用符号化データが格納されていない。
低解像度データバッファ50では、低解像度用符号化データの#1フレームから#15フレームまでがバッファリングされている。
低解像度用符号化データの受信時に、低解像度データバッファ50では、一定時間分の低解像度用符号化データをバッファリングし、一定時間分の低解像度用符号化データが蓄積されたら、先頭のパケットからRTPパケットのタイムスタンプのタイミングに合わせて映像デコーダ38に出力される。
低解像度データバッファ50では、IPネットワーク2のジッタによるRTPパケットの入れ替わりを修正し、ネットワークジッタによって映像デコーダ38内でデータのアンダーフローやオーバーフローが発生しないように制御している。
この時点では、低解像度データバッファ50が、低解像度用符号化データの#15フレームの受信を終了し、低解像度用符号化データの#1フレームが次に映像デコーダ38に与えられるタイミングである。
低解像度データバッファ52及び高解像度データバッファ53の状態は、図7の区間Bにおける状態を示している。
この段階では、解像度変更命令(拡大)が映像受信装置3から映像送信装置1に送信され、映像送信装置1から高解像度用符号化データのストリーム伝送が開始されている。
解像度変更命令(拡大)は、低解像度データバッファ50の状態で送信されているため、送信開始タイムスタンプとしては、#1フレームのタイムスタンプが送信される。
その後、低解像度用符号化データに加え、新たに高解像度用符号化データが映像送信装置1からストリーム伝送される。
低解像度データバッファ52の段階では、低解像度用符号化データの#17フレームを受信中であり、低解像度用符号化データの#1フレームを映像デコーダ38に与えたところである。
高解像度用符号化データは映像送信装置1から再生速度の2倍の速度で送信されているため、低解像度用符号化データの#16フレームと#17フレームを構成するRTPパケットを映像受信装置3が受信している間に、高解像度用符号化データの#1,#2,#3,#4フレームを構成するRTPパケットを受信し、高解像度用符号化データの#1フレームが揃い次第、映像デコーダ38に取り込まれる。低解像度用符号化データと高解像度用符号化データの#1フレームは、映像デコーダ38が同時に取り込んだものとする。
高解像度データバッファ53に格納されている継続するRTPパケットは、#1フレームが映像デコーダ38に出力されたタイミングを起点に、後続する高解像度用符号化データのタイムスタンプのタイミングで映像デコーダ38に取り込まれる。
ここからは、低解像度用符号化データと高解像度用符号化データが揃って映像デコーダ38にデコードされ、高解像度の映像データが映像出力部39に出力されてモニタ4に表示される。
低解像度データバッファ54及び高解像度データバッファ55の状態は、図7の区間Cにおける状態を示している。
区間Bから区間Cに移行する間に、低解像度データバッファ54及び高解像度データバッファ55から低解像度用符号化データ及び高解像度用符号化データの#2,#3,#4,#5フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#2,#3,#4,#5フレームがモニタ4に表示される。
この段階では、高解像度用符号化データが、再生速度の2倍の速度でストリーム伝送されてくるため、徐々に高解像度データバッファ55内のデータ量が増加している。高解像度データバッファ55には、高解像度用符号化データの#6フレーム〜#10フレームを構成するRTPパケットが蓄積されている。
低解像度データバッファ56及び高解像度データバッファ57の状態は、図7の区間Dにおける状態を示している。
区間Cから区間Dに移行する間に、低解像度データバッファ56及び高解像度データバッファ57から低解像度用符号化データ及び高解像度用符号化データの#6,#7,#8,#9,#10フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#6,#7,#8,#9,#10フレームがモニタ4に表示される。
この段階でも、高解像度用符号化データが、再生速度の2倍の速度で送信されており、高解像度データバッファ57には、高解像度用符号化データの#11フレーム〜#20フレームを構成するRTPパケットが蓄積されている。
低解像度データバッファ58及び高解像度データバッファ59の状態は、図7の区間Eにおける状態を示している。
区間Dから区間Eに移行する間に、低解像度データバッファ58と高解像度データバッファ59から低解像度用符号化データ及び高解像度用符号化データの#11,#12,#13,#14,#15フレームがそれぞれのタイムスタンプのタイミングで映像デコーダ38に出力され、高解像度映像である#11,#12,#13,#14,#15フレームがモニタ4に表示される。
この段階まで、高解像度用符号化データが、再生速度の2倍の速度で送信されており、高解像度データバッファ59には、高解像度用符号化データの#16フレーム〜#30フレームを構成するRTPパケットが蓄積されている。
この段階で、低解像度データバッファ58にも、低解像度用符号化データの#16〜#30フレームを構成するRTPパケットが蓄積されており、低解像度用符号化データ及び高解像度用符号化データのいずれも次に受信するのは、#31フレームを構成するRTPパケットになる。
この段階で、映像送信装置1は、同一タイミングの低解像度用符号化データと高解像度用符号化データを送信することになり、高解像度用符号化データの送信速度は通常速度に変更される。
このように、この実施の形態1では、映像受信装置3が解像度変更命令(拡大)を映像送信装置1に送信すると、その直後に表示する#1フレームの映像から高解像度映像の再生が可能であり、バッファリングを行いながら、低遅延で映像の解像度を拡大することが可能となる。
次に、映像の解像度を高解像度から低解像度に切り替える場合の処理内容を簡単に説明する。
まず、映像受信装置3の解像度変更命令入力部33は、解像度の変更命令の入力を受け付ける処理を実施する。
ここでは、映像の解像度を高解像度から低解像度への変更を指示する変更命令(以下、「解像度変更命令(縮小)」と称する)が入力されるものとする。
解像度変更命令送信部34は、解像度変更命令入力部33から解像度変更命令(縮小)を受けると、高解像度パケット再生終了要求を再生制御部37に出力するとともに、その解像度変更命令(縮小)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
再生制御部37は、解像度変更命令送信部34から高解像度パケット再生終了要求を受けると、その高解像度パケット再生終了要求を高解像度パケット処理部36及び映像デコーダ38に転送する。
高解像度パケット処理部36は、再生制御部37から高解像度パケット再生終了要求を受けると、パケット受信終了要求を高解像度パケット受信部35に出力し、内部の高解像度データバッファ36aに蓄積されている高解像度用符号化データをクリアする。
高解像度パケット受信部35は、高解像度パケット処理部36からパケット受信終了要求を受けると、IPパケットの受信処理を終了する。
映像デコーダ38は、再生制御部37から高解像度パケット再生終了要求を受けると、高解像度データバッファ36aから高解像度用符号化データを取り込んで、その高解像度用符号化データをデコードする処理を終了し、低解像度データバッファ32aから低解像度用符号化データを取り込んで、その低解像度用符号化データをデコードする処理を継続する。
映像出力部39は、映像デコーダ38が低解像度用符号化データをデコードすると、デコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
映像送信装置1の解像度変更命令受信部12は、映像受信装置3から送信された解像度変更命令パケットを受信すると、その解像度変更命令パケットから解像度変更命令(縮小)を抽出して、その解像度変更命令(縮小)を送信制御部13に出力する。
送信制御部13は、解像度変更命令受信部12から解像度変更命令(縮小)を受けると、高解像度データ送信終了要求をストリーム読込部14及び高解像度パケット生成部17に出力する。
ストリーム読込部14は、送信制御部13から高解像度データ送信終了要求を受けると、映像データ蓄積部11から高解像度用符号化データを読み込む処理を終了し、低解像度用符号化データを読み込む処理を継続する。
高解像度パケット生成部17は、送信制御部13から高解像度データ送信終了要求を受けると、高解像度パケット送信終了要求を高解像度パケット送信部18に出力し、高解像度用符号化データを格納するRTPパケットの生成処理を終了する。
高解像度パケット送信部18は、高解像度パケット生成部17から高解像度パケット送信終了要求を受けると、IPパケットの送信処理を終了する。
以上で明らかなように、この実施の形態1によれば、解像度変更命令受信部12により解像度変更命令(拡大)が受信されると、映像データ蓄積部11により蓄積されている高解像度用符号化データのうち、低解像度パケット送信部16により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置3に送信し、その後、低解像度パケット送信部16によりストリーム伝送される低解像度用符号化データと復号するタイミングが同一の高解像度用符号化データを映像受信装置3にストリーム伝送するように構成したので、ネットワーク帯域の非効率な使用を招くことなく、高解像度の映像が再生されるまで要する時間を短縮することができる効果を奏する。
即ち、解像度変更命令(拡大)が入力された時点で、既に低解像度データバッファ32aに蓄積されているが、まだ映像デコーダ38にデコードされていない低解像度用符号化データのタイムスタンプが示すタイミングの映像についても、高解像度で再生することができるようになり、高解像度の映像が再生されるまで要する時間を短縮することができる効果を奏する。
また、この実施の形態1によれば、低解像度パケット送信部16により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置3に送信する際、映像受信装置3における映像の再生速度の2倍の伝送速度で高解像度用符号化データのストリーム伝送を開始し、これからストリーム伝送する高解像度用符号化データのタイムスタンプが、これからストリーム伝送する低解像度用符号化データのタイムスタンプに追いつくと、その高解像度用符号化データの伝送速度を映像受信装置3における映像の再生速度と同一の速度に変更するように構成したので、解像度変更命令(拡大)が入力された時点より時間的に前の高解像度用符号化データを短時間で伝送することができるようになり、高解像度の映像が再生されるまで要する時間を短縮することができる効果を奏する。
また、この実施の形態1によれば、高解像度用符号化データの送信を開始するピクチャが先頭ピクチャである場合、フレーム内符号化方式で符号化されているイントラフレームの高解像度用符号化データを送信するように構成したので、フレーム間符号化方式で映像の解像度スケーラブル符号化が行われている場合でも、実施の形態1の方式を適用することができる効果を奏する。
さらに、この実施の形態1によれば、高解像度の映像を再生する際、低解像度パケット受信部31によりストリーム受信された低解像度用符号化データのバッファリング処理を実施する一方、高解像度パケット受信部35により受信された高解像度用符号化データについてはバッファリング処理を実施せずに、直ちに高解像度用符号化データとバッファリング処理後の低解像度用符号化データを一緒に復号するように構成したので、解像度変更命令(拡大)が入力された時点の直後から高解像度の映像を再生することができる効果を奏する。
実施の形態2.
図9はこの発明の実施の形態2による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
映像データ蓄積部21は映像が解像度スケーラブル符号化されている映像データであって、低解像度の映像の復号が可能な低解像度用符号化データの他に、その低解像度用符号化データと一緒に復号すれば、中解像度の映像(中レイヤの映像)の復号が可能な中解像度用符号化データ(中レイヤ用符号化データ)と、その低解像度用符号化データ及び中解像度用符号化データと一緒に復号すれば、高解像度の映像の復号が可能な高解像度用符号化データとを含む映像データを蓄積するハードディスクなどの記録媒体である。
映像データ蓄積部21により蓄積される映像データの各フレームには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
なお、映像データ蓄積部21は映像データ蓄積手段を構成している。
送信制御部22は図2の送信制御部13と同様に、低解像度用符号化データの読込をストリーム読込部23に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示する処理を実施する。
また、送信制御部22は解像度変更命令受信部12により解像度変更命令(拡大)が受信された場合、倍速値X倍での中解像度用符号化データの読込をストリーム読込部23に指示するとともに、中解像度パケットの生成を倍速値X倍で行う指示を中解像度パケット生成部24に出力し、その後、これからストリーム伝送する中解像度用符号化データのタイムスタンプが、これから低解像度パケット受信部16によりストリーム伝送される低解像度用符号化データのタイムスタンプに追いつくと、通常速度での中解像度用符号化データの読込をストリーム読込部23に指示するとともに、中解像度パケットの生成を通常速度で行う指示を中解像度パケット生成部24に出力する処理を実施する。
また、送信制御部22は中解像度用符号化データのタイムスタンプが低解像度用符号化データのタイムスタンプに追いつくと、高解像度用符号化データの読込をストリーム読込部23に指示するとともに、高解像度パケットの生成を高解像度パケット生成部26に指示する処理を実施する。
ストリーム読込部23は図2のストリーム読込部14と同様に、送信制御部22から低解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部21から、送信時間のタイミングで送信フレームの低解像度用符号化データを読み込み、その低解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に低解像度パケット生成部15に出力する処理を実施する。
また、ストリーム読込部23は送信制御部22から中解像度用符号化データの読込指示を受けると、映像データ蓄積部21から読み込む低解像度用符号化データよりも復号するタイミングが時間的に前の中解像度用符号化データを倍速値X倍で読み込んで、その中解像度用符号化データをタイムスタンプと一緒に中解像度パケット生成部24に出力し、その後、映像データ蓄積部21から読み込む低解像度用符号化データと復号するタイミングが同一の中解像度用符号化データを通常の速度で読み込み、その中解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に中解像度パケット生成部24に出力する処理を実施する。
また、ストリーム読込部23は送信制御部22から高解像度用符号化データの読込指示を受けると、映像データ蓄積部21から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部26に出力する処理を実施する。
中解像度パケット生成部24は送信制御部22から中解像度パケットの生成を倍速値X倍で行う指示を受けると、ストリーム読込部23から出力された中解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを倍速値X倍で中解像度パケット送信部25に出力する処理を実施する。
また、中解像度パケット生成部24は送信制御部22から中解像度パケットの生成を通常速度で行う指示を受けると、ストリーム読込部23から出力された1フレーム分の中解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを中解像度パケット送信部25に出力する処理を実施する。
中解像度パケット送信部25はIP/UDPを使用して、中解像度パケット生成部24から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部22、ストリーム読込部23、中解像度パケット生成部24及び中解像度パケット送信部25から中レイヤ用符号化データ送信手段が構成されている。
高解像度パケット生成部26は送信制御部22から高解像度パケットの生成指示を受けると、ストリーム読込部22から出力された1フレーム分の高解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを高解像度パケット送信部27に出力する処理を実施する。
高解像度パケット送信部27はIP/UDPを使用して、高解像度パケット生成部26から出力された各RTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する処理を実施する。
なお、送信制御部22、ストリーム読込部23、高解像度パケット生成部26及び高解像度パケット送信部27から高レイヤ用符号化データ送信手段が構成されている。
また、送信制御部22及びストリーム読込部23は低レイヤ用符号化データ送信手段も構成している。
図10はこの発明の実施の形態2による映像受信装置3を示す構成図であり、図において、図3と同一符号は同一又は相当部分を示すので説明を省略する。
中解像度パケット受信部41は解像度変更命令送信部34から解像度変更命令(拡大)が送信されたのち、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを中解像度パケット処理部42に出力する処理を実施する。
中解像度パケット処理部42は中解像度パケット受信部41から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の中解像度データバッファ42aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている中解像度用符号化データを映像デコーダ46に出力する処理を実施する。
ただし、中解像度用符号化データのタイムスタンプが、低解像度用符号化データのタイムスタンプに追いつくまでの間は、その中解像度用符号化データを含むRTPパケットのバッファリングは実施せずに、直ちに、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ46に出力するようにする。
なお、中解像度パケット受信部41及び中解像度パケット処理部42から中レイヤ用符号化データ受信手段が構成されている。
高解像度パケット受信部43は解像度変更命令送信部34から解像度変更命令(拡大)が送信されたのち、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを高解像度パケット処理部44に出力する処理を実施する。
高解像度パケット処理部44は高解像度パケット受信部43から出力されたIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の高解像度データバッファ44aに一定時間格納するバッファリングを行うことで、ネットワーク伝送によるジッタを除去してから、そのRTPパケットに格納されている高解像度用符号化データを映像デコーダ46に出力する処理を実施する。
なお、高解像度パケット受信部43及び高解像度パケット処理部44から高レイヤ用符号化データ受信手段が構成されている。
再生制御部45は解像度変更命令送信部34から解像度変更命令(拡大)が送信される前は、低解像度用符号化データのデコード開始要求を映像デコーダ46に出力し、その解像度変更命令(拡大)が送信された後は、中解像度用符号化データのデコード開始要求を映像デコーダ46に出力し、さらに、中解像度データバッファ42aに1フレーム分の中解像度用符号化データが蓄積されると、中解像度用符号化データのデコード開始要求を映像デコーダ46に出力する処理などを実施する。
映像デコーダ46は再生制御部45から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データを取り出して、その低解像度用符号化データをデコードし、再生制御部45から中解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データと中解像度パケット処理部42の中解像度データバッファ42aに蓄積されているRTPパケットに含まれている中解像度用符号化データのうち、タイムスタンプが同じ低解像度用符号化データと中解像度用符号化データを取り出して、一緒にデコードする処理を実施する。
また、映像デコーダ46は再生制御部45から高解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データと中解像度パケット処理部42の中解像度データバッファ42aに蓄積されているRTPパケットに含まれている中解像度用符号化データと高解像度パケット処理部44の高解像度データバッファ44aに蓄積されているRTPパケットに含まれている高解像度用符号化データのうち、タイムスタンプが同じ低解像度用符号化データと中解像度用符号化データと高解像度用符号化データを取り出して、一緒にデコードする処理を実施する。
なお、再生制御部45、映像デコーダ46及び映像出力部39から映像再生手段が構成されている。
次に動作について説明する。
この実施の形態2では、映像データ蓄積部21により蓄積されている映像データが、低解像度、中解像度、高解像度の3つのレイヤに分割されている符号化データ(映像ストリームデータ)である例を説明する。
映像送信装置1が低解像度用符号化データをストリーム伝送し、映像受信装置3が低解像度用符号化データを復号して、低解像度の映像を再生する際の処理内容は、上記実施の形態1と同様であるため説明を省略する。
映像送信装置1が高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データをストリーム伝送し、映像受信装置3が高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データを復号して、高解像度の映像を再生する際の処理内容を説明する。
まず、映像受信装置3の解像度変更命令入力部33は、解像度の変更命令の入力を受け付ける処理を実施する。
解像度変更命令送信部34は、解像度変更命令入力部33が解像度変更命令(拡大)の入力を受け付けると、上記実施の形態1と同様に、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ46に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部45に問い合わせる。
再生制御部45は、解像度変更命令送信部34から上記の問い合わせを受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットを参照して、次に映像デコーダ46に与えられるRTPパケットを確認し、そのRTPパケットのタイムスタンプを再生可能位置情報(送信開始タイムスタンプ)として解像度変更命令送信部34に通知する。
解像度変更命令送信部34は、再生制御部45から送信開始タイムスタンプの通知を受けると、上記実施の形態1と同様に、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
映像送信装置1の解像度変更命令受信部12は、映像受信装置3から送信された解像度変更命令パケットを受信すると、上記実施の形態1と同様に、その解像度変更命令パケットから送信開始タイムスタンプと解像度変更命令(拡大)を抽出して、その送信開始タイムスタンプと解像度変更命令(拡大)を送信制御部22に出力する。
送信制御部22は、解像度変更命令受信部12から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、その送信開始タイムスタンプをストリーム読込部23に出力するとともに、倍速値X倍(この実施の形態2では、倍速値が通常の2倍速であるものとする)での中解像度用符号化データの読込をストリーム読込部23に指示する。
また、送信制御部22は、中解像度パケットの生成(中解像度パケットの送信)を2倍速で行う指示を中解像度パケット生成部24に出力する。
ここで、RTPパケットのRTPヘッダに格納するタイムスタンプと映像データ蓄積部21に蓄積されている映像データのタイムスタンプは同一のものであるとする。
ストリーム読込部23は、送信制御部22から中解像度用符号化データを2倍速で読み込む指示を受けると、送信制御部22から出力された送信開始タイムスタンプを中解像度用符号化データの読込開始位置に決定し、映像データ蓄積部21に送信可能な中解像度用符号化データが蓄積されていれば、その映像データ蓄積部21から、その送信開始タイムスタンプが付与されている中解像度用符号化データから順番に後続の中解像度用符号化データを2倍速で読み込み、それらの中解像度用符号化データを順番に中解像度パケット生成部24に出力する。また、中解像度用符号化データを中解像度パケット生成部24に出力する際、その中解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを中解像パケット生成部24に出力する。
また、ストリーム読込部23は、中解像度用符号化データの読込と平行して、映像データ蓄積部21から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
中解像度パケット生成部24は、送信制御部22から中解像度パケットの生成を2倍速で行う指示を受けると、ストリーム読込部23から出力された中解像度用符号化データをRTPパケットに分割して格納する。
また、中解像度パケット生成部24は、ストリーム読込部23から出力された中解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを2倍速で中解像度パケット送信部25に出力する。
ただし、中解像度パケット生成部24は、各RTPパケットを中解像度パケット送信部25に出力する際、中解像度パケット送信部25から2倍速で送信される各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを中解像度パケット送信部25に出力する。
この実施の形態2では、JPEG2000による伝送を例にしているため、中解像度用符号化データの読込開始位置が、送信制御部22から出力された送信開始タイムスタンプが付与されている中解像度用符号化データとして問題を生じないが、例えば、MPEGのように、フレーム間の情報を用いて符号化を行う符号化方式を用いて、ストリームを伝送する場合には、その送信開始タイムスタンプよりも時間的に後ろに位置するイントラフレームのデータから送信を開始する工夫を行う必要がある。
即ち、中解像度用符号化データの送信を開始するピクチャが先頭ピクチャである場合、フレーム内符号化方式で符号化されているイントラフレームの中解像度用符号化データを送信する必要がある。
中解像度パケット送信部25は、中解像度パケット生成部24からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
また、低解像度パケット送信部16も、中解像度パケット送信部25と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(中解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
以後、中解像度パケット送信部25が中解像度用符号化データのRTPパケットの送信を2倍速で継続し、低解像度パケット送信部16が低解像度用符号化データのRTPパケットの送信を通常速度(1倍速)で継続する。
中解像度パケット生成部24は、送信制御部22から中解像度パケットの生成指示を受けた直後は、過去のタイムスタンプ(送信制御部22から出力された送信開始タイムスタンプ)の中解像度用符号化データのRTPパケットを生成しているため、低解像度パケット生成部15により同時刻にRTPパケットが生成されている低解像度用符号化データと比較すると、時間的に前のタイムスタンプが付与されている中解像度用符号化データのRTPパケットを生成していることになる。
しかし、中解像度パケット生成部24が2倍速でRTPパケットを生成し、中解像度パケット送信部25が2倍速でRTPパケットを送信しているため、中解像度パケット送信部25から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプとの差分が徐々に縮小する。
送信制御部22は、中解像度パケット生成部24により生成されたRTPパケットのタイムスタンプと、低解像度パケット生成部15により生成されたRTPパケットのタイムスタンプとを入手して、双方のタイムスタンプを比較する。
送信制御部22は、双方のタイムスタンプが一致すると、中解像度用符号化データの伝送タイミングが、低解像度用符号化データの伝送タイミングに追いついたものと判断し、中解像度用符号化データの読込を通常の速度(1倍速)に下げる旨をストリーム読込部23に出力するとともに、高解像度用符号化データの読込指示をストリーム読込部23に出力する。
また、送信制御部22は、中解像度パケットの生成(中解像度パケットの送信)を通常の速度(1倍速)に下げる旨を中解像度パケット生成部24に出力するとともに、高解像度パケットの生成(高解像度パケットの送信)指示を高解像度パケット生成部26に出力する。
この段階から、ストリーム読込部23が読み込む中解像度用符号化データのタイムスタンプと、低解像度用符号化データのタイムスタンプが同じになり、中解像度パケット送信部25から送信されるRTPパケットのタイムスタンプと、低解像度パケット送信部16から送信されるRTPパケットのタイムスタンプが同じなる。
また、ストリーム読込部23から低解像度用符号化データ及び中解像度用符号化データのタイムスタンプと同じタイムスタンプの高解像度用符号化データが読み込まれ、高解像度パケット送信部27から送信される。
したがって、同じタイムスタンプが付与されている高解像度用符号化データ、中解像度用符号化データ及び低解像度用符号化データのRTPパケットが、同じタイミングで映像受信装置3にストリーム伝送されることになる。
映像受信装置3の再生制御部45は、解像度変更命令送信部34から解像度変更命令(拡大)を含む解像度変更命令パケットが送信されると、中解像度用符号化データの再生開始通知を中解像度パケット処理部42に出力し、高解像度用符号化データの再生開始通知を高解像度パケット処理部44に出力する。
中解像度パケット処理部42は、再生制御部45から中解像度用符号化データの再生開始通知を受けると、IPパケットの受信開始要求を中解像度パケット受信部41に出力する。
中解像度パケット受信部41は、中解像度パケット処理部42からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを中解像度パケット処理部42に出力する。
高解像度パケット処理部44は、再生制御部45から高解像度用符号化データの再生開始通知を受けると、IPパケットの受信開始要求を高解像度パケット受信部43に出力する。
高解像度パケット受信部43は、高解像度パケット処理部44からIPパケットの受信開始要求を受けると、予め設定されているポート番号のIPパケットの受信を開始して、そのIPパケットを高解像度パケット処理部44に出力する。
低解像度パケット受信部31も、中解像度パケット受信部41及び高解像度パケット受信部43と平行に動作し、予め設定されているポート番号のIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
中解像度パケット処理部42は、中解像度パケット受信部41からIPパケットを受けると、そのIPパケットからRTPパケットを抽出して、そのRTPパケットを内部の中解像度データバッファ42aに格納し、先頭フレーム分のRTPパケットを中解像度データバッファ42aに蓄積すると、再生が可能である旨を再生制御部45に通知する。
高解像度パケット処理部44は、高解像度パケット受信部43からIPパケットを受けると、そのIPパケットからRTPパケットを抽出して、そのRTPパケットを内部の高解像度データバッファ44aに格納し、一定時間のバッファリングが終了すると、再生が可能である旨を再生制御部45に通知する。
低解像度パケット処理部32は、低解像度パケット受信部31からIPパケットを受けると、そのIPパケットからRTPパケットを抽出し、そのRTPパケットを内部の低解像度データバッファ32aに格納する。
再生制御部45は、中解像度パケット処理部42から再生可能通知を受けると、中解像度用符号化データのデコード開始要求を映像デコーダ46に出力する。
また、高解像度パケット処理部44から再生可能通知を受けると、高解像度用符号化データのデコード開始要求を映像デコーダ46に出力する。
映像デコーダ46は、既に低解像度用符号化データのデコードを開始しており、再生制御部45から中解像度用符号化データのデコード開始要求を受けたのち、次のフレームのデコードタイミングになると、低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取得する。
次に、映像デコーダ46は、中解像度パケット処理部42の中解像度データバッファ42aに1フレーム分以上の中解像度用符号化データが蓄積されていれば、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプを抽出する。
映像デコーダ46は、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプと、次のフレームの低解像度用符号化データのタイムスタンプを比較して、同じタイムスタンプであれば、中解像度データバッファ42aに蓄積されている先頭フレームの中解像度用符号化データが、次にデコードする低解像度用符号化データと同一デコードタイミングのデータであると判断し、中解像度データバッファ42aから先頭フレームの中解像度用符号化データを取得する。
映像デコーダ46は、先頭フレームの中解像度用符号化データを取得すると、その中解像度用符号化データと次にデコードする低解像度用符号化データを一緒にデコードする。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、中解像度のビデオ映像をモニタ4上に再生する。
映像デコーダ46は、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプが、次にデコードする低解像度用符号化データのタイムスタンプより新しい場合、あるいは、中解像度データバッファ42aに1フレーム分の中解像度用符号化データが蓄積されていない場合、次のフレームの低解像度用符号化データのみをデコードする。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、低解像度のビデオ映像をモニタ4上に再生する。
なお、映像デコーダ46は、中解像度データバッファ42aに蓄積されている先頭フレームのタイムスタンプが、次のフレームの低解像度用符号化データのタイムスタンプより古い場合、中解像度データバッファ42aに蓄積されている先頭フレームを廃棄する。送信側で送出する低解像度符号化データと中解像度符号化データのタイムスタンプが同一になった段階で、中解像度データの送信速度が1倍速になり、高解像度用符号化データの送出が開始される。
映像デコーダ46は、再生制御部45から高解像度用符号化データのデコード開始要求を受けると、次のフレームのデコードタイミングで、低解像度パケット処理部32の低解像度データバッファ32aから次のフレームの低解像度用符号化データを取得するとともに、中解像度パケット処理部42の中解像度データバッファ42aから次のフレームの中解像度用符号化データを取得し、高解像度パケット処理部44の高解像度データバッファ44aから次のフレームの高解像度用符号化データを取得する。
映像デコーダ46は、取得した低解像度用符号化データのタイムスタンプと、中解像度用符号化データのタイムスタンプと、高解像度用符号化データのタイムスタンプとを比較して、それらのタイムスタンプが一致していれば、その低解像度用符号化データと中解像度用符号化データと高解像度用符号化データを一緒にデコードする。
映像出力部39は、映像デコーダ46によるデコード後の映像データを映像信号としてモニタ4に出力することで、高解像度のビデオ映像をモニタ4上に再生する。
ここで、図11は映像送信装置1と映像受信装置3間のストリーム伝送の一例を示す説明図である。
図11において、#と数字は映像のフレームIDを表している。タイムスタンプは各フレームに割り付けられており、低解像度用符号化データ、中解像度用符号化データ、高解像度符号化データの同一フレームIDに設定されているタイムスタンプは同一のタイムスタンプである。
図11の例では、映像受信装置3から解像度変更命令(拡大)が送信される以前の区間Fでは、映像送信装置1が、低解像度用符号化データを#1フレームから#15フレームまで送信している。
区間Gでは、映像受信装置3が解像度変更命令(拡大)を含む解像度変更命令パケットを映像送信装置1に送信している。
このとき、その解像度変更命令パケットに含まれている送信開始タイムスタンプが“#1フレーム”を指し示しているものとする。
このため、区間Gでは、映像送信装置1が、低解像度用符号化データを#16フレームから#20フレームまで送信して、中解像度用符号化データを#1フレームから#10フレームまで送信している。
ここでは、一定フレームレートで、中解像度用符号化データ及び低解像度用符号化データを送信しているものとする。
次の区間Hでは、映像送信装置1が低解像度用符号化データをフレーム#21からフレーム#25まで送信している間に、中解像度用符号化データをフレーム#11からフレーム#20まで送信している。
このように、中解像度用符号化データが2倍速(再生速度より速い伝送速度)で送信されるため、低解像度用符号化データと中解像度用符号化データのフレーム番号の差分が徐々に縮小される。
続いて区間Iでは、映像送信装置1が低解像度用符号化データをフレーム#26からフレーム#30まで送信している間に、中解像度用符号化データをフレーム#21からフレーム#30まで送信している。
これらのデータの送信が終了した時点で、低解像度用符号化データと中解像度用符号化データのフレーム番号が一致しているため、中解像度用符号化データの伝送速度が再生速度と同一に変更される。
そのため、区間Jでは、映像送信装置1により続けて送信される低解像度用符号化データのフレーム#31〜35の番号と、中解像度用符号化データのフレーム#31〜35の番号とが同じになり、高解像度用符号化データのフレーム#31〜35の送信も開始されるため、以降、低解像度用符号化データと中解像度用符号化データと高解像度用符号化データとが同期して送信される。
図12は映像受信装置3における低解像度パケット処理部32の低解像度データバッファ32aと、中解像度パケット処理部42の中解像度データバッファ42aと、高解像度パケット処理部44の高解像度データバッファ44aの動作を示す説明図である。
図12において、60は低解像度用符号化データの#15フレームを受信した際の低解像度データバッファ32aを示し、61は同時刻の中解像度データバッファ42aを示し、62は同時刻の高解像度データバッファ44aを示している。
63は低解像度用符号化データの#17フレームを受信する際の低解像度データバッファ32aを示し、64は同時刻の中解像度データバッファ42aを示し、65は同時刻の高解像度データバッファ44aを示している。
66は低解像度用符号化データの#31フレームを受信する際の低解像度データバッファ32aを示し、67は同時刻の中解像度データバッファ42aを示し、68は同時刻の高解像度データバッファ44aを示している。
69は低解像度用符号化データの#47フレームを受信する際の低解像度データバッファ32aを示し、67は同時刻の中解像度データバッファ42aを示し、68は同時刻の高解像度データバッファ44aを示している。
低解像度データバッファ60、中解像度データバッファ61及び高解像度データバッファ62の状態は、図11の区間Fにおける状態を示している。
この状態では、低解像度用符号化データのみを受信しており、中解像度用符号化データと高解像度用符号化データを受信していないため、中解像度データバッファ61及び高解像度データバッファ62には、中解像度用符号化データ及び高解像度用符号化データが格納されていない。
低解像度データバッファ60では、低解像度用符号化データの#1フレームから#15フレームまでがバッファリングされている。
低解像度用符号化データの受信時に、低解像度データバッファ60では、一定時間分の低解像度用符号化データをバッファリングし、一定時間分の低解像度用符号化データが蓄積されたら、先頭のパケットからRTPパケットのタイムスタンプのタイミングに合わせて映像デコーダ46に出力される。
低解像度データバッファ63、中解像度データバッファ64及び高解像度データバッファ65の状態は、図11の区間Gにおける状態を示している。
この段階では、解像度変更命令(拡大)が映像受信装置3から映像送信装置1に送信され、映像送信装置1から中解像度用符号化データのストリーム伝送が開始されている。
解像度変更命令(拡大)は、低解像度データバッファ60の状態で送信されているため、送信開始タイムスタンプとしては、#1フレームのタイムスタンプが送信される。
その後、低解像度用符号化データに加え、新たに中解像度用符号化データが映像送信装置1からストリーム伝送される。
低解像度データバッファ63の段階では、低解像度用符号化データの#17フレームを構成するRTPパケットを受信中であり、低解像度用符号化データの#1フレームを映像デコーダ46に与えたところである。
中解像度用符号化データは映像送信装置1から再生速度の2倍の速度で送信されているため、低解像度用符号化データの#16フレームと#17フレームを構成するRTPパケットを映像受信装置3が受信している間に、中解像度用符号化データの#1,#2,#3,#4フレームを構成するRTPパケットを受信し、中解像度用符号化データの#1フレームが揃い次第、映像デコーダ46に取り込まれる。低解像度用符号化データと中解像度用符号化データの#1フレームは、映像デコーダ38が同時に取り込んだものとする。
中解像度データバッファ64に格納されている継続するRTPパケットは、#1フレームが映像デコーダ46に出力されたタイミングを起点に、後続する中解像度用符号化データのタイムスタンプのタイミングで映像デコーダ46に取り込まれる。
ここからは、低解像度用符号化データと中解像度用符号化データが揃って映像デコーダ46にデコードされ、中解像度の映像データが映像出力部39に出力されてモニタ4に表示される。
低解像度データバッファ66、中解像度データバッファ67及び高解像度データバッファ68の状態は、図11の区間Iにおける状態を示している。
#30フレームを構成するRTPパケットを受信する段階で、中解像度用符号化データの送信タイミングが低解像度用符号化データの送信タイミングに追いついているため、映像送信装置1が、#31フレームから中解像度用符号化データの送信速度を再生速度と同じ速度に落とし、高解像度用符号化データの送信を開始している。
高解像度データバッファ68では、通常のバッファリング処理を行い、一定時間のRTPパケットが到着するまでバッファリングを行う。
この段階では、まだ高解像度用符号化データを加えたデコードが行われていないので、デコードされた映像は中解像度のままである。
低解像度データバッファ69、中解像度データバッファ70及び高解像度データバッファ71の状態は、図11の区間Jにおける状態を示している。
この状態では、高解像度データバッファ71にも規定量の高解像度用符号化データがバッファリングされているため、映像デコーダ46から取り込みが開始されている。
この段階で、映像デコーダ46が低解像度、中解像度及び高解像度の全てのデータをデコードするため、高解像度の映像を表示することが可能となる。
映像受信装置3から解像度変更命令(拡大)が映像送信装置1に送信された直後に、中解像度の拡大映像に切り替えることが可能であり、かつ、低解像度用符号化データと中解像度用符号化データと高解像度用符号化データのビットレートが同一であるとすると、映像送信装置1から映像受信装置3に送信されるストリームのビットレートは、解像度変更命令(拡大)が映像送信装置1に到着した時点から低解像度用符号化データと中解像度用符号化データと高解像度用符号化データを全て送信する一般的な方法と同一となる。
低解像度用符号化データと中解像度用符号化データと高解像度用符号化データのビットレートが同一でない場合でも、映像受信装置3から解像度変更命令(拡大)が映像送信装置1に送信された直後に、中解像度用符号化データのストリーム伝送速度を変更することにより、同様の効果を得ることが可能となる。
以上で明らかなように、この実施の形態2によれば、解像度変更命令受信部12により解像度変更命令(拡大)が受信されると、映像データ蓄積部21により蓄積されている中解像度用符号化データのうち、低解像度パケット送信部16により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の中解像度用符号化データを映像受信装置3に送信し、その後、低解像度パケット送信部16によりストリーム伝送される低解像度用符号化データと復号するタイミングが同一の中解像度用符号化データ及び高解像度用符号化データを映像受信装置3にストリーム伝送するように構成したので、上記実施の形態1と同様に、ネットワーク帯域の非効率な使用を招くことなく、高解像度の映像が再生されるまで要する時間を短縮することができる効果を奏する。
また、映像の解像度を低解像度から高解像度に切り替える際、いきなり高解像度用符号化データのストリーム伝送を開始せずに、先に中解像度用符号化データのストリーム伝送を開始するようにしているので、高解像度用符号化データを定常的に送信している場合の映像の伝送レートと比較して、解像度変更時の映像の伝送レートが増加する状態を抑えることができる効果を奏する。
実施の形態3.
図13はこの発明の実施の形態3による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
可変フレームレート対応ストリーム読込部28は図2のストリーム読込部14と同様に、送信制御部13から出力される読込指示にしたがって映像データ蓄積部11から低解像度用符号化データや高解像度用符号化データを読み込む処理を実施するが、送信制御部13から倍速値X倍(この実施の形態3では、倍速値が通常の2倍速であるものとする)での高解像度用符号化データの読込指示を受けている段階では、通常時のフレームレート(低解像度用符号化データだけをストリーム伝送しているときのフレームレート)よりフレームレートを削減し、低いフレームレートの低解像度用符号化データを低解像度パケット生成部15に出力し、低いフレームレートの高解像度用符号化データを高解像度パケット生成部17に出力する処理を実施する。
また、可変フレームレート対応ストリーム読込部28は送信制御部13から通常速度での高解像度用符号化データの読込指示を受ける段階になると、低解像度用符号化データ及び高解像度用符号化データのフレームレートを通常時のフレームレートに戻して、低解像度用符号化データ及び高解像度用符号化データを出力する処理を実施する。
なお、可変フレームレート対応ストリーム読込部28は低レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段を構成している。
図14はこの発明の実施の形態3による映像受信装置3を示す構成図であり、図において、図3と同一符号は同一又は相当部分を示すので説明を省略する。
可変フレームレート対応映像デコーダ47は図3の映像デコーダ38と同様に、再生制御部37の指示の下、符号化データをデコードするが、高解像度用符号化データのデコード開始要求を受けている段階では、フレームレートを落としている関係上、低解像度用符号化データだけがデコード可能であっても、デコードを行わないようにしている。
なお、可変フレームレート対応映像デコーダ47は映像再生手段を構成している。
次に動作について説明する。
ただし、可変フレームレート対応ストリーム読込部28及び可変フレームレート対応映像デコーダ47以外は、上記実施の形態1と同様であるため、可変フレームレート対応ストリーム読込部28及び可変フレームレート対応映像デコーダ47の処理内容を主に説明する。
送信制御部13は、解像度変更命令受信部12から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、その送信開始タイムスタンプを可変フレームレート対応ストリーム読込部28に出力するとともに、2倍速での高解像度用符号化データの読込を可変フレームレート対応ストリーム読込部28に指示する。
可変フレームレート対応ストリーム読込部28は、送信制御部13から高解像度用符号化データを2倍速で読み込む指示を受けると、図2のストリーム読込部14と同様に、送信制御部13から出力された送信開始タイムスタンプを高解像度用符号化データの読込開始位置に決定し、その映像データ蓄積部11から、その送信開始タイムスタンプが付与されている高解像度用符号化データから順番に後続の高解像度用符号化データを2倍速で読み込み、それらの高解像度用符号化データを順番に高解像パケット生成部17に出力する。また、高解像度用符号化データを高解像パケット生成部17に出力する際、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
また、可変フレームレート対応ストリーム読込部28は、高解像度用符号化データの読込と平行して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データの読込を行い、送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に、その低解像度用符号化データを低解像度パケット生成部15に出力する。
ただし、可変フレームレート対応ストリーム読込部28は、図2のストリーム読込部14と異なり、送信制御部13から2倍速での高解像度用符号化データの読込指示を受けている段階では、2倍速で高解像度用符号化データが伝送されることによるデータ量の増加分を相殺するために、通常時よりフレームレートを削減し、低いフレームレートの低解像度用符号化データを低解像度パケット生成部15に出力し、低いフレームレートの高解像度用符号化データを高解像度パケット生成部17に出力する。
具体的には、以下のようにして、フレームレートを削減する。
可変フレームレート対応ストリーム読込部28は、伝送ストリームにおける低解像度用符号化データのビットレートと、高解像度用符号化データのビットレートの比率を知っており、通常の伝送速度で、低解像度用符号化データと高解像度用符号化データを伝送する場合のビットレートと、高解像度用符号化データを2倍の速度で伝送する場合の低解像度用符号化データと高解像度用符号化データのビットレートとの比率を計算する。
例えば、図4の符号化ストリームAと符号化ストリームBと符号化ストリームCのビットレートが等しいとし、低解像度用符号化データを符号化ストリームAとし、高解像度用符号化データを符号化ストリームBと符号化ストリームCとすると、低解像度用符号化データ(符号化ストリームA)のビットレートと、高解像度用符号化データ(符号化ストリームB+符号化ストリームC)のビットレートは、1:2の比率となる。
高解像度用符号化データだけを2倍の伝送レートで送信するため、通常のビットレートで送信する場合と、高解像度用符号化データのみを2倍のビットレートで送信する場合との伝送量の比率は3:5となる。
したがって、各フレームが同一のビットレートで符号化されているとすると、フレームレートを五分の三に変更することで、通常のビットレートと同一のビットレートで送信が可能になる。
例えば、30フレーム/秒の場合には、18フレーム/秒となり、等間隔でフレームを送信するには、15フレーム/秒で送信すればよいことになる。
このように、ビットレートの比率から計算されるフレームレートで、可変フレーム対応ストリーム読込部28が低解像度用符号化データを低解像度パケット生成部15に出力し、高解像度用符号化データを高解像度パケット生成部17に出力する。
可変フレームレート対応ストリーム読込部28は、その後、高解像度用符号化データのタイムスタンプが、低解像度用符号化データのタイムスタンプに追いついて、送信制御部13から通常速度(1倍速)での高解像度用符号化データの読込指示を受ける段階になると、映像データ蓄積部11から高解像度用符号化データの読込を通常速度に戻すとともに、低解像度用符号化データ及び高解像度用符号化データのフレームレートを通常時のフレームレートに戻して、その低解像度用符号化データ及び高解像度用符号化データを出力するようにする。
可変フレームレート対応映像デコーダ47は、図3の映像デコーダ38と同様に、再生制御部37から高解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aから低解像度用符号化データを取得するとともに、高解像度パケット処理部36の高解像度データバッファ36aから高解像度用符号化データを取得し、その低解像度用符号化データと高解像度用符号化データを一緒にデコードする。
このとき、図3の映像デコーダ38は、高解像度データバッファ36aに1フレーム分の高解像度用符号化データが蓄積されていなければ、低解像度用符号化データだけをデコードするが(図6のステップST25,ST31を参照)、高解像度用符号化データのデコード開始要求を受けた当初は、フレームレートを落としている関係上、低解像符号化データは送信されているが、高解像度用符号化データは送信されていないフレームが存在する。
そこで、可変フレームレート対応映像デコーダ47は、低解像度データと同フレームを構成する高解像データが高解像データバッファに存在しない場合には、低解像度用符号化データだけがデコード可能であっても、その低解像度用符号化データをデコードしないで破棄する。
以上で明らかなように、この実施の形態3によれば、映像受信装置3における映像の再生速度より速い伝送速度で高解像度用符号化データのストリーム伝送を行う段階では、通常時のフレームレートより低いフレームレートでストリーム伝送を行い、高解像度用符号化データの伝送速度を映像受信装置3における映像の再生速度と同一の速度に変更すると、フレームレートを通常時のフレームレートに戻してストリーム伝送を行うように構成したので、高解像度用符号化データを定常的に送信している場合の映像の伝送レートと比較して、解像度変更時の映像の伝送レートが増加する状態を抑えることができる効果を奏する。
実施の形態4.
図15はこの発明の実施の形態4による映像送信装置1を示す構成図であり、図において、図9及び図13と同一符号は同一又は相当部分を示すので説明を省略する。
解像度変更命令受信部81は映像受信装置3から解像度変更命令パケットを受信し、その解像度変更命令パケットから送信開始タイムスタンプ、解像度変更命令(拡大)及び後述する優先度情報を抽出して、その送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を送信制御部82に出力する処理を実施する。なお、解像度変更命令受信部81は変更命令受信手段を構成している。
送信制御部82は解像度変更命令受信部81から出力された優先度情報が映像の動きを優先する旨を示す場合、図9の映像送信装置1と同じ動作を再現するために、可変フレームレート対応ストリーム読込部28を図9のストリーム読込部23と同じ動作をさせるようにする。
一方、解像度変更命令受信部81から出力された優先度情報が映像の画質を優先する旨を示す場合、図13の映像送信装置1と同じ動作を再現する。この場合、中解像度パケット生成部24及び中解像度パケット送信部25は動作せず、中解像度用符号化データは単独では送信せず、中解像度用符号化データは高解像度用符号化データとまとめて、高解像度用符号化データとして送信する。
なお、送信制御部82は低レイヤ用符号化データ送信手段、中レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段を構成している。
図16はこの発明の実施の形態4による映像受信装置3を示す構成図であり、図において、図10及び図14と同一符号は同一又は相当部分を示すので説明を省略する。
解像度変更命令入力部83は解像度の変更命令の入力を受け付けるとともに、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報の入力を受け付ける処理を実施する。
解像度変更命令送信部84は解像度変更命令入力部83により解像度変更命令(拡大)と優先度情報の入力が受け付けられた場合、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に可変フレームレート対応映像デコーダ47に与えられるRTPパケットのタイムスタンプを再生制御部85に問い合わせて、そのタイムスタンプ、解像度変更命令(拡大)及び優先度情報を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する処理を実施する。
なお、解像度変更命令入力部83及び解像度変更命令送信部84から変更命令送信手段が構成されている。
再生制御部85は解像度変更命令送信部84から出力された優先度情報にしたがって図10の再生制御部45又は図14の再生制御部37と同様の処理を実施する。
なお、再生制御部85は映像再生手段を構成している。
次に動作について説明する。
この実施の形態4では、映像の解像度を低解像度から高解像度に変更する際、ユーザが映像の画質を優先するのか、映像の動きを優先するのかを選択できるようにしている。
具体的には、以下の通りである。
映像受信装置3の解像度変更命令入力部83は、図2の解像度変更命令入力部12と同様に、解像度の変更命令の入力を受け付ける処理を実施する。
このとき、ユーザが解像度変更命令(拡大)を入力すると、解像度変更命令入力部83が、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報の入力を受け付けるようにする。
解像度変更命令送信部84は、解像度変更命令入力部83により解像度変更命令(拡大)と優先度情報の入力が受け付けられた場合、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に可変フレームレート対応映像デコーダ47に与えられるRTPパケットのタイムスタンプを再生制御部85に問い合わせて、そのタイムスタンプ、解像度変更命令(拡大)及び優先度情報を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
映像送信装置1の解像度変更命令受信部81は、映像受信装置3から解像度変更命令パケットを受信すると、その解像度変更命令パケットから送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を抽出し、その送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を送信制御部82に出力する。
送信制御部82は、解像度変更命令受信部81から送信開始タイムスタンプ、解像度変更命令(拡大)及び優先度情報を受けると、その優先度情報を参照して、映像の画質を優先するのか、映像の動きを優先するのかを判別する。
送信制御部82は、映像の動きを優先する場合、図9の映像送信装置1と同じ動作を再現するため、図9の送信制御部22と同様の処理を実施するとともに、可変フレームレート対応ストリーム読込部28を図9のストリーム読込部23と同じ動作をさせるようにする。
これにより、中解像度用符号化データが2倍速でストリーム伝送が開始されたのち、中解像度用符号化データのタイムスタンプが低解像度用符号化データのタイムスタンプに追いつくと、高解像度用符号化データのストリーム伝送が開始されるようになる。
送信制御部82は、映像の画質を優先する場合、図13の映像送信装置1と同じ動作を再現するため、図13の送信制御部13と同様の処理を実施する。この場合、中解像度パケット生成部24及び中解像度パケット送信部25は動作せず、中解像度用符号化データは高解像度用符号化データと共に、高解像度パケット生成部26でRTPパケット化され、高解像度パケット送信部27で送信される。
これにより、高解像度用符号化データを定常的に送信している場合の映像の伝送レートと比較して、解像度変更時の映像の伝送レートが増加する状態を抑えることができる。
映像受信装置3の再生制御部85は、解像度変更命令送信部82から出力された優先度情報が映像の動きを優先する旨を示す場合、図10の映像受信装置3と同じ動作を再現するため、図10の再生制御部45と同様の処理を実施する。
一方、解像度変更命令送信部82から出力された優先度情報が映像の画質を優先する旨を示す場合、図14の映像受信装置3と同じ動作を再現するため、図14の再生制御部37と同様の処理を実施する。この場合、中解像度パケット受信部41及び中解像度パケット処理部42は動作しない
以上で明らかなように、この実施の形態4によれば、解像度変更命令(拡大)を映像送信装置1に送信する際、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報を映像送信装置1に送信するように構成したので、映像の画質を優先する場合、画質を重視する方法で映像ストリームを伝送し、映像の動きを優先する場合、動きを重視する方法で映像ストリームを伝送することができる効果を奏する。
実施の形態5.
図17はこの発明の実施の形態5による映像配信システムを示す構成図であり、図において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
カメラ5は映像を撮影し、その映像の映像信号(例えば、NTSCの信号)を映像送信装置1に出力する処理を実施する。
図18はこの発明の実施の形態5による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
映像入力部91はカメラ5から出力された映像信号をデジタルデータに変換する処理を実施する。
映像符号化部92は映像入力部91により変換されたデジタルデータを解像度スケーラブル符号化して、低解像度用符号化データと高解像度用符号化データからなる映像データを映像データ管理部93に出力する処理を実施する。
なお、映像入力部91及び映像符号化部92から映像符号化手段が構成されている。
映像データ管理部93は映像符号化部92から出力された映像データに含まれている低解像度用符号化データを低解像度パケット生成部15に出力し、その映像データに含まれている高解像度用符号化データを一定期間だけ映像データ蓄積部94に蓄積させる処理を実施する。
また、映像データ管理部93は送信制御部13から高解像度用符号化データの読込指示を受けると、映像データ蓄積部94から高解像度用符号化データを読み込んで、その高解像度用符号化データを高解像度パケット生成部17に出力する処理を実施する。なお、映像データ管理部93は映像データ管理手段を構成している。
映像データ蓄積部94は高解像度用符号化データを一定期間だけ蓄積するハードディスクなどの記録媒体である。なお、映像データ蓄積部94は映像データ蓄積手段を構成している。
次に動作について説明する。
この実施の形態5では、映像送信装置1がカメラ5により撮影された映像をライブ配信するものである。
カメラ5は、映像を撮影し、その映像の映像信号(例えば、NTSCの信号)を映像送信装置1に出力する。
映像送信装置1の映像入力部91は、カメラ5から映像信号を受けると、その映像信号をデジタルデータに変換する。
映像符号化部92は、映像入力部91からデジタルデータを受けると、そのデジタルデータを解像度スケーラブル符号化して、低解像度用符号化データと高解像度用符号化データからなる映像データを映像データ管理部93に出力する。
例えば、低解像度用符号化データは図4(a)の符号化ストリームAに相当し、高解像度用符号化データは図4(a)の符号化ストリームB,Cに相当する。
なお、低解像度用符号化データと高解像度用符号化データには、映像のデコード及び再生を行う際のタイミングを示すタイムスタンプが付与されているものとする。
映像データ管理部93は、映像符号化部92から映像データを受けると、その映像データに含まれている低解像度用符号化データを低解像度パケット生成部15に出力するとともに、その低解像度用符号化データのタイムスタンプを低解像度パケット生成部15に出力する。
また、映像データ管理部93は、その映像データに含まれている高解像度用符号化データを一定期間だけ映像データ蓄積部94に蓄積させる。
ここで、図19は映像データ蓄積部94における高解像度用符号化データの蓄積構造を示す説明図である。
映像データ蓄積部94は、図19に示すように、リングバッファ94aとインデックステーブル94bから構成されている。
リングバッファ94aには、タイムスタンプ(1)〜(n)の高解像度用符号化データが順番に格納されている。
インデックステーブル94bには、タイムスタンプ(1)〜(n)のポインタ(1)〜(n)、タイムスタンプ(1)〜(n)の高解像度用符号化データのデータ長(1)〜(n)が格納されている。
したがって、映像データ管理部93が映像符号化部92から出力された映像データに含まれている高解像度用符号化データを映像データ蓄積部94に書き込む場合、その高解像度用符号化データのタイムスタンプの値(例えば、“n+1”)をインデックステーブル94bに書き込むとともに、リングバッファ94aにおける現在のライトポインタをタイムスタンプ(n+1)のポインタ(n+1)として、インデックステーブル94bに書き込み、その高解像度用符号化データのデータ長(n+1)をインデックステーブル94bに書き込む処理を行う。
そして、映像データ管理部93は、リングバッファ94aにおける現在のライトポインタの位置から高解像度用符号化データを書き込み、その高解像度用符号化データの書き込みが終了すると、書込終了位置の次の位置にライトポインタを移動する。ライトポインタがリングバッファ94aの最終位置まで移動すると、ライトポインタはリングバッファ94aの先頭に戻る。
なお、新規の高解像度用符号化データを書き込む際に、ライトポインタが上書きをした高解像度用符号化データについては削除されたことになるため、インデクステーブル94bから当該高解像度用符号化データに係るタイムスタンプ等を削除する。
映像データ管理部93は、送信制御部13から高解像度用符号化データを2倍速で読み込む指示と送信開始タイムスタンプを受けると、インデクステーブル94bを参照して、その送信開始タイムスタンプと一致するタイムスタンプのポインタ及びデータ長を確認して、リングバッファ94aにおける当該ポインタの位置から当該データ長分の高解像度用符号化データを取得する。
映像データ管理部93は、高解像度用符号化データを取得すると、その高解像度用符号化データを高解像パケット生成部17に出力するとともに、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
以後、映像データ管理部93は、送信開始タイムスタンプと一致するタイムスタンプの高解像度用符号化データの次のポインタの高解像度用符号化データから順番に後続の高解像度用符号化データを2倍速で読み込み、それらの高解像度用符号化データを順番に高解像パケット生成部17に出力する。
また、高解像度用符号化データを高解像パケット生成部17に出力する際、その高解像度用符号化データのタイムスタンプ及び次のフレームのタイムスタンプを高解像パケット生成部17に出力する。
高解像度パケット生成部17は、送信制御部13から高解像度パケットの生成を2倍速で行う指示を受けると、上記実施の形態1と同様に、映像データ管理部93から出力された高解像度用符号化データをRTPパケットに分割して格納する。
また、高解像度パケット生成部17は、映像データ管理部93から出力された高解像度用符号化データのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを次のフレームを送信するまでに各RTPパケット均等に送信されるように計算したタイミングの2倍速で高解像度パケット送信部18に出力する。
低解像度パケット生成部15は、映像データ管理部93から低解像度用符号化データとタイムスタンプを受けると、上記実施の形態1と同様に、その低解像度用符号化データをRTPパケットに分割して格納する。
また、低解像度パケット生成部15は、映像データ管理部93から出力されたタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部16に出力する。
高解像度パケット送信部18は、高解像度パケット生成部17からRTPパケットを受けると、上記実施の形態1と同様に、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
また、低解像度パケット送信部16も、高解像度パケット送信部18と平行に動作し、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されている映像受信装置3のIPアドレスの受信ポートに送信する。
これにより、RTPパケット(高解像度用符号化データのRTPパケット又は低解像度用符号化データのRTPパケット)を含むIPパケットがIPネットワーク2を通じて映像受信装置3に伝送される。
以後、高解像度パケット送信部18が高解像度用符号化データのRTPパケットの送信を2倍速で継続し、低解像度パケット送信部16が低解像度用符号化データのRTPパケットの送信を通常速度(1倍速)で継続する。
映像データ管理部93は、高解像度用符号化データを映像データ蓄積部94から読み出して、2倍速で送信しているので、ある段階で、送信すべき新しい高解像度用符号化データが映像データ蓄積部94に存在しなくなる。この段階では、低解像度用符号化データの送信に追いついたことになるので、映像データ管理部93から送信制御部13に通知を行い、高解像度パケットの生成を通常の速度(1倍速)に下げる旨を高解像度パケット生成部17に出力する
映像データ管理部93は、映像データ蓄積部94に蓄積されている高解像度用符号化データを送信することをやめ、映像符号化部92からリアルタイムで受け取る高解像度用符号化データに切り替えて高解像度パケット生成部17に出力する。
なお、映像データ管理部93は、その高解像度用符号化データを高解像度パケット生成部17に出力する処理と平行して、その高解像度用符号化データを映像データ蓄積部94に蓄積する処理を行う。
以降の処理は、上記実施の形態1と同様であるため説明を省略する。
以上で明らかなように、この実施の形態5によれば、映像データ管理部93が、映像符号化部92から出力された映像データに含まれている低解像度用符号化データを低解像度パケット生成部15に出力し、その映像データに含まれている高解像度用符号化データを一定期間だけ映像データ蓄積部94に蓄積させるように構成したので、カメラ5により撮影された映像をライブ配信する場合でも、上記実施の形態1と同様の効果を奏することができる。
実施の形態6.
図20はこの発明の実施の形態6による映像配信システムを示す構成図であり、図において、図1と同一符号は同一又は相当部分を示すので説明を省略する。
図20では、複数の映像受信装置3がIPネットワーク2に接続されており、映像送信装置1が映像受信装置3の再生速度と同一の速度で、常時、高解像度用符号化データと低解像度用符号化データをマルチキャストで複数の映像受信装置3にストリーム伝送している例を示している。
図21はこの発明の実施の形態6による映像送信装置1を示す構成図であり、図において、図2と同一符号は同一又は相当部分を示すので説明を省略する。
解像度変更命令受信部101は図2の解像度変更命令受信部12と同様に、映像受信装置3から解像度変更命令パケットを受信し、その解像度変更命令パケットから送信開始タイムスタンプ及び解像度変更命令(拡大)を抽出して、その送信開始タイムスタンプ及び解像度変更命令(拡大)を送信制御部102に出力する処理を実施する。
また、解像度変更命令受信部101は送信制御部102から出力された過去の高解像度用符号化データ(送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データから最新の高解像度用符号化データ(送信終了済みの高解像度用符号化データの中で最も新しい高解像度用符号化データ))を映像受信装置3にファイル送信する処理を実施する。
なお、解像度変更命令受信部101は変更命令受信手段及び高レイヤ用符号化データ送信手段を構成している。
送信制御部102は低解像度用符号化データ及び高解像度用符号化データの読込をストリーム読込部103に指示するとともに、低解像度パケットの生成を低解像度パケット生成部15に指示し、また、高解像度パケットの生成を高解像度パケット生成部105に指示する処理を実施する。
また、送信制御部102は解像度変更命令受信部101から送信開始タイムスタンプ及び解像度変更命令(拡大)を受けると、過去の高解像度用符号化データの取り出しをストリーム読込部103に指示し、過去の高解像度用符号化データを解像度変更命令受信部101に出力する処理を実施する。
ストリーム読込部103は送信制御部102から低解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データを読み込み、その低解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に低解像度パケット生成部15に出力する処理を実施する。
また、ストリーム読込部103は送信制御部102から高解像度用符号化データの読込指示を受けると、映像送信装置1内のクロックを参照して、映像データ蓄積部11から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部105に出力する処理を実施する。
また、ストリーム読込部103は送信制御部102から高解像度用符号化データの取出指示を受けると、映像データ蓄積部11から過去の高解像度用符号化データを取り出し、過去の高解像度用符号化データを送信制御部102に出力する処理を実施する。
低解像度パケット送信部104はIP/UDPを使用して、低解像度パケット生成部15から出力された各RTPパケットを予め設定されているマルチキャストアドレスのポートに送信する処理を実施する。
なお、送信制御部102、ストリーム読込部103、低解像度パケット生成部15及び低解像度パケット送信部104から低レイヤ用符号化データ送信手段が構成されている。
高解像度パケット生成部105はストリーム読込部103から出力された1フレーム分の高解像度用符号化データをRTPパケットに分割して格納するとともに、そのフレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを高解像度パケット送信部106に出力する処理を実施する。なお、高解像度パケット生成部105では、高解像度パケット送信部106から各RTPパケットが、次のフレームのタイムスタンプのタイミングまでに等間隔で送信されるように計算して、各RTPパケットを高解像度パケット送信部106に出力する。
高解像度パケット送信部106はIP/UDPを使用して、高解像度パケット生成部105から出力された各RTPパケットを予め設定されているマルチキャストアドレスのポートに送信する処理を実施する。
なお、送信制御部102、ストリーム読込部103、高解像度パケット生成部105及び高解像度パケット送信部106から高レイヤ用符号化データ送信手段が構成されている。
図22はこの発明の実施の形態6による映像受信装置3を示す構成図であり、図において、図3と同一符号は同一又は相当部分を示すので説明を省略する。
低解像度パケット受信部111は予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する処理を実施する。
なお、低解像度パケット受信部111は低レイヤ用符号化データ受信手段を構成している。
高解像度パケット受信部112は予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを高解像度パケット処理部36に出力する処理を実施する。
なお、高解像度パケット受信部112は高レイヤ用符号化データ受信手段を構成している。
解像度変更命令送信部113は図3の解像度変更命令送信部34と同様に、送信開始タイムスタンプと解像度変更命令(拡大)を含む解像度変更命令パケットを映像送信装置1に送信する処理を実施する。
また、解像度変更命令送信部113は映像送信装置1からファイル送信された過去の高解像度用符号化データをファイル受信する処理を実施する。
なお、解像度変更命令送信部113は変更命令送信手段及び高レイヤ用符号化データ受信手段を構成している。
再生制御部114は解像度変更命令送信部113から解像度変更命令(拡大)が送信される前は、低解像度用符号化データのデコード開始要求を映像デコーダ115に出力し、その解像度変更命令(拡大)が送信された後は、解像度変更命令送信部113によりファイル受信された過去の高解像度用符号化データと高解像度用符号化データのデコード開始要求を映像デコーダ115に出力する処理などを実施する。
映像デコーダ115は再生制御部114から低解像度用符号化データのデコード開始要求を受けると、低解像度パケット処理部32の低解像度データバッファ32aに蓄積されているRTPパケットに含まれている低解像度用符号化データを取り出して、その低解像度用符号化データをデコードし、再生制御部114から高解像度用符号化データのデコード開始要求を受けると、低解像度データバッファ32aから取り出した低解像度用符号化データとタイムスタンプが一致する高解像度用符号化データが高解像度データバッファ36aに蓄積されていなければ、再生制御部114から出力された過去の高解像度用符号化データを上記低解像度用符号化データと一緒にデコードする処理を実施する。
なお、再生制御部114、映像デコーダ115及び映像出力部39から映像再生手段が構成されている。
次に動作について説明する。
映像送信装置1が低解像度用符号化データをストリーム伝送し、映像受信装置3が低解像度用符号化データを復号して、低解像度の映像を再生する際の処理内容は、上記実施の形態1と比較して、映像送信装置1がマルチキャストで低解像度用符号化データを複数の映像受信装置3にストリーム伝送する点以外は同様であるため、この処理内容については説明を省略する。
映像送信装置1がマルチキャストで高解像度用符号化データ及び低解像度用符号化データをストリーム伝送し、映像受信装置3が高解像度用符号化データ及び低解像度用符号化データを復号して、高解像度の映像を再生する際の処理内容を説明する。
まず、映像受信装置3の解像度変更命令入力部33は、上記実施の形態1と同様に、解像度変更命令(拡大)の入力を受け付ける処理を実施する。
解像度変更命令送信部113は、図3の解像度変更命令送信部34と同様に、解像度変更命令入力部33から解像度変更命令(拡大)を受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットのうち、次に映像デコーダ38に与えられるRTPパケットのタイムスタンプ(次に処理するフレームのタイムスタンプ)を再生制御部114に問い合わせる。
再生制御部114は、図3の再生制御部37と同様に、解像度変更命令送信部113から上記の問い合わせを受けると、低解像度パケット処理部32の低解像度データバッファ32aに格納されているRTPパケットを参照して、次に映像デコーダ38に与えられるRTPパケットを確認し、そのRTPパケットのタイムスタンプ(送信開始タイムスタンプ)を解像度変更命令送信部113に通知する。
また、再生制御部114は、高解像度用符号化データの再生開始要求を高解像度パケット処理部36に出力し、高解像度パケット受信部112が高解像度用符号化データを受信し、高解像度パケット処理部36の高解像度データバッファ36aにて一定時間のバッファリングを開始する。
解像度変更命令送信部113は、再生制御部114から送信開始タイムスタンプの通知を受けると、その送信開始タイムスタンプと解像度変更命令(拡大)を解像度変更命令パケットに格納し、その解像度変更命令パケットを映像送信装置1に送信する。
映像送信装置1の解像度変更命令受信部101は、図2の解像度変更命令受信部と同様に、映像受信装置3から送信された解像度変更命令パケットを受信すると、その解像度変更命令パケットから送信開始タイムスタンプと解像度変更命令(拡大)を抽出して、その送信開始タイムスタンプと解像度変更命令(拡大)を送信制御部102に出力する。
送信制御部102は、解像度変更命令受信部101から送信開始タイムスタンプと解像度変更命令(拡大)を受けると、過去の高解像度用符号化データの取り出しをストリーム読込部103に指示する。
なお、送信制御部102は、ストリーム読込部103に対する過去の高解像度用符号化データの取出指示とは別に、常に低解像度用符号化データ及び高解像度用符号化データの読込指示をストリーム読込部103に指示している。
ストリーム読込部103は、送信制御部102から低解像度用符号化データの読込指示を受けると、図2のストリーム読込部14と同様に、映像データ蓄積部11から、送信時間のタイミングで送信フレームの低解像度用符号化データを読み込み、その低解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に低解像度パケット生成部15に出力する処理を実施する。
また、ストリーム読込部103は、送信制御部102から高解像度用符号化データの読込指示を受けると、映像データ蓄積部11から、送信時間のタイミングで送信フレームの高解像度用符号化データを読み込み、その高解像度用符号化データを送信フレームのタイムスタンプ及び次のフレームのタイムスタンプと一緒に高解像度パケット生成部105に出力する処理を実施する。
低解像度パケット生成部15は、送信制御部102から低解像度パケットの生成指示を受けると、ストリーム読込部103から出力された1フレーム分の低解像度用符号化データをRTPパケットに分割して格納する。
また、低解像度パケット生成部15は、ストリーム読込部103から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを低解像度パケット送信部104に出力する。
低解像度パケット送信部104は、低解像度パケット生成部15からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されているマルチキャストアドレスのポートに送信する。
映像受信装置3の低解像度パケット受信部111は、予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを低解像度パケット処理部32に出力する。
映像送信装置1の高解像度パケット生成部105は、送信制御部102から高解像度パケットの生成指示を受けると、ストリーム読込部103から出力された1フレーム分の高解像度用符号化データをRTPパケットに分割して格納する。
また、高解像度パケット生成部105は、ストリーム読込部103から出力された送信フレームのタイムスタンプを各RTPパケットのタイムスタンプに格納し、各RTPパケットを高解像度パケット送信部106に出力する。
高解像度パケット送信部106は、高解像度パケット生成部105からRTPパケットを受けると、IP/UDPを使用して、そのRTPパケットを予め設定されているマルチキャストアドレスのポートに送信する。
映像受信装置3の高解像度パケット受信部112は、予め設定されているマルチキャストアドレスのポートからIPパケットを受信して、そのIPパケットを高解像度パケット処理部36に出力する。
ストリーム読込部103は、送信制御部102から高解像度用符号化データの取出指示を受けると、映像データ蓄積部11から過去の高解像度用符号化データを取り出し、過去の高解像度用符号化データを送信制御部102に出力する。
即ち、ストリーム読込部103は、映像データ蓄積部11により蓄積されている高解像度用符号化データの中から、送信制御部102から出力された送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データを探索し、そのタイムスタンプが付与されている高解像度用符号化データから最新の高解像度用符号化データ(送信終了済みの高解像度用符号化データの中で最も新しい高解像度用符号化データ)までを送信制御部102に出力する。
ここで、図23は映像送信装置1からファイル送信される高解像度用符号化データの形式を示す説明図である。
図23では、タイムスタンプとデータ長と高解像度用符号化データがセットにされて送信される例を示している。
例えば、送信開始タイムスタンプと一致するタイムスタンプが付与されている高解像度用符号化データが高解像度用符号化データ#iであり、最新の高解像度用符号化データが高解像度用符号化データ#i+nである場合、ストリーム読込部103が高解像度用符号化データ#iから高解像度用符号化データ#i+nまでのn+1個の高解像度用符号化データを取り出して送信制御部102に出力する。
送信制御部102は、ストリーム読込部103から過去の高解像度用符号化データを受けると、過去の高解像度用符号化データを解像度変更命令受信部101に出力する。
解像度変更命令受信部101は、送信制御部102から過去の高解像度用符号化データを受けると、解像度変更命令(拡大)の応答として、過去の高解像度用符号化データを映像受信装置3にファイル送信する。
映像受信装置3の解像度変更命令送信部113は、映像送信装置1からファイル送信された過去の高解像度用符号化データをファイル受信し、過去の高解像度用符号化データを再生制御部114に出力する。
再生制御部114は、解像度変更命令送信部113から過去の高解像度用符号化データを受けると、過去の高解像度用符号化データと高解像度用符号化データのデコード開始要求を映像デコーダ115に出力する。
映像デコーダ115は、再生制御部114から高解像度用符号化データのデコード開始要求を受けると、低解像度データバッファ32aから次に処理するフレームの低解像度用符号化データを取り出し、その低解像度用符号化データのタイムスタンプと同一のタイムスタンプが付与されている高解像度用符号化データが高解像度データバッファ36aに蓄積されているかを確認する。
映像デコーダ115は、タイムスタンプが一致する高解像度用符号化データが高解像度データバッファ36aに蓄積されていなければ、再生制御部114から出力された過去の高解像度用符号化データの中から、タイムスタンプが一致する高解像度用符号化データを取り出し、その高解像度用符号化データを上記低解像度用符号化データと一緒にデコードする。
なお、高解像度パケット処理部36の高解像度データバッファ36aでは、一定時間のバッファリングが終了すると、高解像度データバッファ36a内の先頭フレームの映像がデコード開始時間になり、デコード開始時間の高解像度用符号化データが映像デコーダ115に取り出される。
この段階で、映像デコーダ115では、デコード対象の高解像度用符号化データが、解像度変更命令(拡大)の応答で入手した過去の高解像度用符号化データから、高解像度パケット受信部112によりストリーム受信された高解像度用符号化データに切り替えられる。
このようにして、マルチキャストで低解像度用符号化データと高解像度用符号化データを配信している映像配信システムにおいても、映像受信装置3の解像度変更命令(拡大)の応答として、映像送信装置1が既に送信した過去の高解像度用符号化データの一部を映像受信装置3にファイル送信することにより、低遅延で映像の解像度を拡大することが可能となる。
1 映像送信装置、2 IPネットワーク、3 映像受信装置、4 モニタ、5 カメラ、11 映像データ蓄積部(映像データ蓄積手段)、12 解像度変更命令受信部(変更命令受信手段)、13 送信制御部(低レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、14 ストリーム読込部(低レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、15 低解像度パケット生成部(低レイヤ用符号化データ送信手段)、16 低解像度パケット送信部(低レイヤ用符号化データ送信手段)、17 高解像度パケット生成部(高レイヤ用符号化データ送信手段)、18 高解像度パケット送信部(高レイヤ用符号化データ送信手段)、21 映像データ蓄積部(映像データ蓄積手段)、22 送信制御部(低レイヤ用符号化データ送信手段、中レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、23 ストリーム読込部(低レイヤ用符号化データ送信手段、中レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、24 中解像度パケット生成部(中レイヤ用符号化データ送信手段)、25 中解像度パケット送信部(中レイヤ用符号化データ送信手段)、26 高解像度パケット生成部(高レイヤ用符号化データ送信手段)、27 高解像度パケット送信部(高レイヤ用符号化データ送信手段)、28 可変フレームレート対応ストリーム読込部(低レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、31 低解像度パケット受信部(低レイヤ用符号化データ受信手段)、32 低解像度パケット処理部(低レイヤ用符号化データ受信手段)、32a 低解像度データバッファ、33 解像度変更命令入力部(変更命令送信手段)、34 解像度変更命令送信部(変更命令送信手段)、35 高解像度パケット受信部(高レイヤ用符号化データ受信手段)、36 高解像度パケット処理部(高レイヤ用符号化データ受信手段)、36a 高解像度データバッファ、37 再生制御部(映像再生手段)、38 映像デコーダ(映像再生手段)、39 映像出力部(映像再生手段)、41 中解像度パケット受信部(中レイヤ用符号化データ受信手段)、42 中解像度パケット処理部(中レイヤ用符号化データ受信手段)、43 高解像度パケット受信部(高レイヤ用符号化データ受信手段)、44 高解像度パケット処理部(高レイヤ用符号化データ受信手段)、45 再生制御部(映像再生手段)、46 映像デコーダ(映像再生手段)、47 可変フレームレート対応映像デコーダ(映像再生手段)、81 解像度変更命令受信部(変更命令受信手段)、82 送信制御部(低レイヤ用符号化データ送信手段、中レイヤ用符号化データ送信手段、高レイヤ用符号化データ送信手段)、83 解像度変更命令入力部(変更命令送信手段)、84 解像度変更命令送信部(変更命令送信手段)、85 再生制御部(映像再生手段)、91 映像入力部(映像符号化手段)、92 映像符号化部(映像符号化手段)、93 映像データ管理部(映像データ管理手段)、94 映像データ蓄積部(映像データ蓄積手段)、94a リングバッファ、94b インデックステーブル、101 解像度変更命令受信部(変更命令受信手段、高レイヤ用符号化データ送信手段)、102 送信制御部(高レイヤ用符号化データ送信手段、低レイヤ用符号化データ送信手段)、103 ストリーム読込部(高レイヤ用符号化データ送信手段、低レイヤ用符号化データ送信手段)、104 低解像度パケット生成部(低レイヤ用符号化データ送信手段)、105 高解像度パケット生成部(高レイヤ用符号化データ送信手段)、106 高解像度パケット送信部(高レイヤ用符号化データ送信手段)、111 低解像度パケット受信部(低レイヤ用符号化データ受信手段)、112 高解像度パケット受信部(高レイヤ用符号化データ受信手段)、113 解像度変更命令送信部(変更命令送信手段、高レイヤ用符号化データ受信手段)、114 再生制御部(映像再生手段)、115 映像デコーダ(映像再生手段)。

Claims (21)

  1. 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを上記映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段とを備えた映像送信装置。
  2. 映像のスケーラブル符号化が解像度スケーラブル符号化であり、映像データ蓄積手段により蓄積されている映像データに含まれている低レイヤ用符号化データが低解像度用符号化データ、高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項1記載の映像送信装置。
  3. 高レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置に送信する際、上記映像受信装置における映像の再生速度より速い伝送速度で上記高解像度用符号化データのストリーム伝送を開始し、これからストリーム伝送する高解像度用符号化データの復号タイミングが、これから上記低レイヤ用符号化データ送信手段によりストリーム伝送される低解像度用符号化データの復号タイミングに追いつくと、上記高解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更することを特徴とする請求項2記載の映像送信装置。
  4. 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている中レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データを上記映像受信装置にストリーム伝送する中レイヤ用符号化データ送信手段と、上記中レイヤ用符号化データ送信手段によりストリーム伝送される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データの復号タイミングに追いついたタイミングで、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのストリーム伝送を開始する高レイヤ用符号化データ送信手段とを備えた映像送信装置。
  5. 映像のスケーラブル符号化が解像度スケーラブル符号化であり、映像データ蓄積手段により蓄積されている映像データに含まれている低レイヤ用符号化データが低解像度用符号化データ、中レイヤ用符号化データが中解像度用符号化データ、高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項4記載の映像送信装置。
  6. 中レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の中解像度用符号化データを映像受信装置に送信する際、上記映像受信装置における映像の再生速度より速い伝送速度で上記中解像度用符号化データのストリーム伝送を開始し、これからストリーム伝送する中解像度用符号化データの復号タイミングが、これから上記低レイヤ用符号化データ送信手段によりストリーム伝送される低解像度用符号化データの復号タイミングに追いつくと、上記中解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更することを特徴とする請求項5記載の映像送信装置。
  7. 低レイヤ用符号化データ送信手段及び高レイヤ用符号化データ送信手段は、映像受信装置における映像の再生速度より速い伝送速度で高解像度用符号化データのストリーム伝送を行う段階では、通常時のフレームレートより低いフレームレートでストリーム伝送を行い、上記高解像度用符号化データの伝送速度を上記映像受信装置における映像の再生速度と同一の速度に変更すると、フレームレートを通常時のフレームレートに戻してストリーム伝送を行うことを特徴とする請求項3記載の映像送信装置。
  8. フレーム間符号化方式で映像の解像度スケーラブル符号化が行われている場合、高解像度用符号化データの送信を開始する先頭ピクチャについては、フレーム内符号化方式で符号化されているイントラフレームを送信することを特徴とする請求項2または請求項5記載の映像送信装置。
  9. カメラにより撮影された映像を解像度スケーラブル符号化する映像符号化手段と、上記映像符号化手段により解像度スケーラブル符号化された映像データに含まれている低解像度用符号化データを低レイヤ用符号化データ送信手段に出力し、上記低解像度用符号化データ以外の映像データを一定期間だけ映像データ蓄積手段に蓄積させる映像データ管理手段とを設けたことを特徴とする請求項2または請求項5記載の映像送信装置。
  10. 高レイヤ用符号化データ送信手段は、低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを映像受信装置に送信する際、上記高解像度用符号化データを上記映像受信装置にファイル送信することを特徴とする請求項2記載の映像送信装置。
  11. 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを送信可能な映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データをストリーム受信する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の高レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えた映像受信装置。
  12. 映像のスケーラブル符号化が解像度スケーラブル符号化であり、低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データが低解像度用符号化データ、高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項11記載の映像受信装置。
  13. 映像再生手段は、低解像度映像から高解像度映像に切り替えて再生する際、低レイヤ用符号化データ受信手段によりストリーム受信された低解像度用符号化データのバッファリング処理を実施する一方、高レイヤ用符号化データ受信手段により受信開始された高解像度用符号化データについてはバッファリング処理を実施せずに、直ちに、同一復号タイミングを有する上記高解像度用符号化データとバッファリング処理後の低解像度用符号化データを一緒に復号開始することを特徴とする請求項12記載の映像受信装置。
  14. 映像がスケーラブル符号化されている映像データであって、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを送信可能な映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データをストリーム受信する中レイヤ用符号化データ受信手段と、上記映像送信装置から、上記中レイヤ用符号化データ受信手段によりストリーム受信される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ受信手段によりストリーム受信される低レイヤ用符号化データの復号タイミングに追いついてから高レイヤ用符号化データのストリーム受信を開始する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記中レイヤ用符号化データ受信手段により受信された中レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の中レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して中レイヤの映像を再生し、上記高レイヤ用符号化データ受信手段により高レイヤ用符号化データのストリーム受信が開始された後は、復号するタイミングが同一の高レイヤ用符号化データ、中レイヤ用符号化データ及び低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えた映像受信装置。
  15. 映像のスケーラブル符号化が解像度スケーラブル符号化であり、低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データが低解像度用符号化データ、中レイヤ用符号化データ受信手段によりストリーム受信された中レイヤ用符号化データが中解像度用符号化データ、高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データが高解像度用符号化データであることを特徴とする請求項14記載の映像受信装置。
  16. 映像再生手段は、低解像度映像から高解像度映像への切り替え時に中解像度の映像を再生する際、低レイヤ用符号化データ受信手段によりストリーム受信された低解像度用符号化データのバッファリング処理を実施する一方、中レイヤ用符号化データ受信手段により受信開始された中解像度用符号化データについてはバッファリング処理を実施せずに、直ちに、同一復号タイミングを有する上記中解像度用符号化データとバッファリング処理後の低解像度用符号化データを一緒に復号開始することを特徴とする請求項15記載の映像受信装置。
  17. 変更命令送信手段は、変更命令を映像送信装置に送信する際、低レイヤ用符号化データ受信手段により既にストリーム受信され、バッファリングされている低解像度用符号化データと一緒に復号することが可能な高解像度符号化データの位置を示す再生可能位置情報を上記映像送信装置に送信することを特徴とする請求項12記載の映像受信装置。
  18. 変更命令送信手段は、変更命令を映像送信装置に送信する際、映像の画質を優先するのか、映像の動きを優先するのかを示す優先度情報を上記映像送信装置に送信することを特徴とする請求項12または請求項15記載の映像受信装置。
  19. 高レイヤ用符号化データ受信手段は、低レイヤ用符号化データ受信手段により現在ストリーム受信されている低解像度用符号化データよりも復号するタイミングが時間的に前の高解像度用符号化データを受信する際、映像送信装置から上記高解像度用符号化データをファイル受信することを特徴とする請求項12記載の映像受信装置。
  20. 映像がスケーラブル符号化されている映像データをストリーム伝送する映像送信装置と、上記映像送信装置から映像データをストリーム受信し、上記映像データを復号して映像を再生する映像受信装置とから構成されている映像配信システムにおいて、
    上記映像送信装置は、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを上記映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データを上記映像受信装置にストリーム伝送する高レイヤ用符号化データ送信手段とを備えており、
    上記映像受信装置は、上記映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の高レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の高レイヤ用符号化データをストリーム受信する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記高レイヤ用符号化データ受信手段により受信された高レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の高レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えていることを特徴とする映像配信システム。
  21. 映像がスケーラブル符号化されている映像データをストリーム伝送する映像送信装置と、上記映像送信装置から映像データをストリーム受信し、上記映像データを復号して映像を再生する映像受信装置とから構成されている映像配信システムにおいて、
    上記映像送信装置は、低レイヤの映像の復号が可能な低レイヤ用符号化データの他に、上記低レイヤ用符号化データと一緒に復号すれば、中レイヤの映像の復号が可能な中レイヤ用符号化データと、上記低レイヤ用符号化データ及び上記中レイヤ用符号化データと一緒に復号すれば、高レイヤの映像の復号が可能な高レイヤ用符号化データとを含む映像データを蓄積する映像データ蓄積手段と、上記映像データ蓄積手段により蓄積されている低レイヤ用符号化データを上記映像受信装置にストリーム伝送する低レイヤ用符号化データ送信手段と、上記映像受信装置からレイヤの変更命令を受信する変更命令受信手段と、上記変更命令受信手段により受信された変更命令が低レイヤから高レイヤへの変更を指示する命令であれば、上記映像データ蓄積手段により蓄積されている中レイヤ用符号化データのうち、上記低レイヤ用符号化データ送信手段により現在ストリーム伝送されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データをを上記映像受信装置に送信し、その後、上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データを上記映像受信装置にストリーム伝送する中レイヤ用符号化データ送信手段と、上記中レイヤ用符号化データ送信手段によりストリーム伝送される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ送信手段によりストリーム伝送される低レイヤ用符号化データの復号タイミングに追いついたタイミングで、上記映像データ蓄積手段により蓄積されている高レイヤ用符号化データのストリーム伝送を開始する高レイヤ用符号化データ送信手段とを備えており、
    上記映像受信装置は、上記映像送信装置から低レイヤ用符号化データをストリーム受信する低レイヤ用符号化データ受信手段と、低レイヤから高レイヤへの変更を指示する変更命令を上記映像送信装置に送信する変更命令送信手段と、上記変更命令送信手段から変更命令が送信されると、上記映像送信装置から、上記低レイヤ用符号化データ受信手段により現在ストリーム受信されている低レイヤ用符号化データよりも復号するタイミングが時間的に前の中レイヤ用符号化データを受信し、その後、上記低レイヤ用符号化データ受信手段により受信される低レイヤ用符号化データと復号するタイミングが同一の中レイヤ用符号化データをストリーム受信する中レイヤ用符号化データ受信手段と、上記映像送信装置から、上記中レイヤ用符号化データ受信手段によりストリーム受信される中レイヤ用符号化データの復号タイミングが上記低レイヤ用符号化データ受信手段によりストリーム受信される低レイヤ用符号化データの復号タイミングに追いついてから高レイヤ用符号化データのストリーム受信を開始する高レイヤ用符号化データ受信手段と、上記変更命令送信手段から変更命令が送信される前は、上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データを復号して低レイヤの映像を再生し、上記変更命令送信手段から変更命令が送信された後は、上記中レイヤ用符号化データ受信手段により受信された中レイヤ用符号化データと上記低レイヤ用符号化データ受信手段によりストリーム受信された低レイヤ用符号化データのうち、復号するタイミングが同一の中レイヤ用符号化データと低レイヤ用符号化データを一緒に復号して中レイヤの映像を再生し、上記高レイヤ用符号化データ受信手段により高レイヤ用符号化データのストリーム受信が開始された後は、復号するタイミングが同一の高レイヤ用符号化データ、中レイヤ用符号化データ及び低レイヤ用符号化データを一緒に復号して高レイヤの映像を再生する映像再生手段とを備えていることを特徴とする映像配信システム。
JP2009128822A 2009-05-28 2009-05-28 映像送信装置、映像受信装置及び映像配信システム Expired - Fee Related JP5183570B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009128822A JP5183570B2 (ja) 2009-05-28 2009-05-28 映像送信装置、映像受信装置及び映像配信システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009128822A JP5183570B2 (ja) 2009-05-28 2009-05-28 映像送信装置、映像受信装置及び映像配信システム

Publications (2)

Publication Number Publication Date
JP2010278729A JP2010278729A (ja) 2010-12-09
JP5183570B2 true JP5183570B2 (ja) 2013-04-17

Family

ID=43425276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009128822A Expired - Fee Related JP5183570B2 (ja) 2009-05-28 2009-05-28 映像送信装置、映像受信装置及び映像配信システム

Country Status (1)

Country Link
JP (1) JP5183570B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3035689B1 (en) * 2013-09-03 2021-05-19 Sony Corporation Transmission apparatus, relay apparatus and reception apparatus
US10108345B2 (en) * 2016-11-02 2018-10-23 Samsung Electronics Co., Ltd. Victim stream selection algorithms in the multi-stream scheme

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001128144A (ja) * 1999-10-26 2001-05-11 Fujitsu Ltd オンデマンドによる画像送信装置及びその方法
JP4365239B2 (ja) * 2004-02-25 2009-11-18 パイオニア株式会社 ネットワーク会議システム
KR20060065482A (ko) * 2004-12-10 2006-06-14 마이크로소프트 코포레이션 스트리밍 미디어 데이터의 코딩 비트 레이트의 제어 시스템및 프로세스
JP4915208B2 (ja) * 2006-10-26 2012-04-11 三菱電機株式会社 ストリームデータ再生システム
JP5333218B2 (ja) * 2007-08-01 2013-11-06 日本電気株式会社 動画像データ配信システム、その方法及びそのプログラム
JP2009100411A (ja) * 2007-10-19 2009-05-07 Hitachi Ltd 映像配信システム、映像中継装置、及び映像中継方法
JP5151763B2 (ja) * 2008-07-22 2013-02-27 日本電気株式会社 映像配信システム、映像配信装置、映像受信装置、映像配信方法、映像受信方法及びプログラム

Also Published As

Publication number Publication date
JP2010278729A (ja) 2010-12-09

Similar Documents

Publication Publication Date Title
US8055783B2 (en) Systems and methods for media stream processing
JP5770345B2 (ja) ビデオデータをストリーミングするためのビデオ切替え
KR100945548B1 (ko) 비디오 오류 회복
CN101917613B (zh) 一种流媒体采集编码服务系统
CN111372145B (zh) 一种多视点视频的视点切换方法和系统
WO2005062614A1 (ja) 映像データ処理方法および映像データ処理装置
CN112770122B (zh) 一种在云导播台视频同步的方法及系统
US11128897B2 (en) Method for initiating a transmission of a streaming content delivered to a client device and access point for implementing this method
CN107566918A (zh) 一种视频分发场景下的低延时取流秒开方法
KR20150106351A (ko) 모션 비디오의 재생을 위한 방법 및 시스템
AU2007236534B2 (en) Method, system and software product for streaming content
JP2007274443A (ja) 画像伝送方法、送信装置、受信装置及び画像伝送システム
JP4148673B2 (ja) 映像配信システム
US20060161676A1 (en) Apparatus for IP streaming capable of smoothing multimedia stream
JP5183570B2 (ja) 映像送信装置、映像受信装置及び映像配信システム
US7558323B2 (en) Video data transmission method for changing transmission data amounts in accordance with a transmission speed and a transmission system therefor
EP2781088A1 (en) Reducing amount op data in video encoding
JP2004289295A (ja) データ処理システム、データ処理装置及びデータ処理方法
JP5389528B2 (ja) ネットワークデコーダ装置
JP7172055B2 (ja) 処理装置、処理プログラム及び処理方法
JP4255685B2 (ja) 画像伝送方法および画像伝送装置
JP2005333520A (ja) 画像伝送装置、画像伝送方法、伝送システム、及び映像監視システム
JP5264146B2 (ja) 同期配信システム、同期再生システム及び同期配信再生システム
JP4892541B2 (ja) 画像伝送方法および画像伝送システム
JP2004349743A (ja) 映像ストリーム切替システム、方法、映像ストリーム切替システムを含む映像監視、映像配信システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120120

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20121218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130115

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160125

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees