JP2009049507A - 送信装置、送信方法、及びコンピュータプログラム - Google Patents

送信装置、送信方法、及びコンピュータプログラム Download PDF

Info

Publication number
JP2009049507A
JP2009049507A JP2007211389A JP2007211389A JP2009049507A JP 2009049507 A JP2009049507 A JP 2009049507A JP 2007211389 A JP2007211389 A JP 2007211389A JP 2007211389 A JP2007211389 A JP 2007211389A JP 2009049507 A JP2009049507 A JP 2009049507A
Authority
JP
Japan
Prior art keywords
transmission
layer
packet
encoded data
encoding
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007211389A
Other languages
English (en)
Other versions
JP5339697B2 (ja
Inventor
Akiyoshi Hamanaka
章佳 浜中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2007211389A priority Critical patent/JP5339697B2/ja
Priority to US12/191,174 priority patent/US7991003B2/en
Publication of JP2009049507A publication Critical patent/JP2009049507A/ja
Application granted granted Critical
Publication of JP5339697B2 publication Critical patent/JP5339697B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L1/0001Systems modifying transmission characteristics according to link quality, e.g. power backoff
    • H04L1/0006Systems modifying transmission characteristics according to link quality, e.g. power backoff by adapting the transmission format
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/31Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the temporal domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/36Scalability techniques involving formatting the layers as a function of picture distortion after decoding, e.g. signal-to-noise [SNR] scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00Arrangements for detecting or preventing errors in the information received
    • H04L2001/0098Unequal error protection

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Detection And Prevention Of Errors In Transmission (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

【課題】 階層の重要度に応じて、送信エラーの発生確率を容易に制御できるようにする。
【解決手段】 重要度の最も高い階層であるlayer1の符号化データ(レイヤ1符号化データ)に基づくパケットについて、パケットロス率が最低となる(又はパケットロスがない)なる送信パターンSnを算出する。そして、その送信パターンSnに従って、レイヤ1符号化データに基づくパケットをバースト送信する。そして、レイヤ1符号化データの送信に要した所要時間Trと1フレーム時間との差分時間Txで、残りの階層であるlayer2、layer3の符号化データ(レイヤ2符号化データ、レイヤ3符号化データ)に基づくパケットをバースト送信する。このように階層毎に送信パターンを算出してバースト送信することにより、階層の重要度に応じて、送信エラーの発生確率を容易に制御できる。
【選択図】 図7

Description

本発明は、送信装置、送信方法、及びコンピュータプログラムに関し、特に、パケットを送信するために用いて好適なものである。
従来から、多階層で構成されるデータの各階層のデータを送信する技術がある。このような技術として、フレーム単位で各階層の符号化開始時刻にオフセットを設けることにより、時間軸上での符号量を分散させる技術がある。このように、時間軸上での符号量を分散させることにより、単位時間あたりの送信レートを変えることなく、局所的な送信レートを下げることができ、トラフィックに起因するパケットロスの発生を回避することができる(特許文献1を参照)。
また、重要度が高い順に各階層のデータを階層毎に送信し、重要度が低い階層のデータを送信することが不可能である場合には、当該送信することが不可能である階層のデータを廃棄する(送信しない)という技術がある。このように、重要度の高い階層のデータを先に送り、所定の時間内に受信させることが不可能なデータを送らないことにより、画像の表示が、遅延したり、時間的に揺らいだりすることを回避することができる(特許文献2を参照)。
特開2004−140651号公報 特開2000−350197号公報
しかしながら、従来の技術では、階層毎に送信開始時間をオフセットさせるか、又は互いにオーバーラップしない時間領域で各階層のデータを送信することにより時間軸上での符号量の集中を分散させるようにしている。すなわち、従来の技術では、各階層のデータの送信方法には全く手を加えない。したがって、階層の重要度に応じて、送信エラーの発生確率を制御することが困難であるという問題点があった。
本発明は、このような問題点に鑑みてなされたものであり、階層の重要度に応じて、送信エラーの発生確率を容易に制御できるようにすることを目的とする。
本発明の送信装置は、複数の階層を有するデータを階層毎に符号化する符号化手段と、前記符号化手段により符号化された符号化データに基づくパケットを生成するパケット化手段と、前記パケット化手段により生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定手段と、前記決定手段により決定された送信パターンに従って、前記パケット化手段により生成されたパケットを送信する送信手段と、を有することを特徴とする。
本発明の送信方法は、複数の階層を有するデータを階層毎に符号化する符号化ステップと、前記符号化ステップにより符号化された符号化データに基づくパケットを生成するパケット化ステップと、前記パケット化ステップにより生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定ステップと、前記決定ステップにより決定された送信パターンに従って、前記パケット化ステップにより生成されたパケットを送信する送信ステップと、を有することを特徴とする。
本発明のコンピュータプログラムは、複数の階層を有するデータを階層毎に符号化する符号化ステップと、前記符号化ステップにより符号化された符号化データに基づくパケットを生成するパケット化ステップと、前記パケット化ステップにより生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定ステップと、前記決定ステップにより決定された送信パターンに従って、前記パケット化ステップにより生成されたパケットを送信することを通信手段に指示する送信ステップと、をコンピュータに実行させることを特徴とする。
本発明によれば、階層毎に送信パターンを決定するので、階層の重要度に応じて、送信エラーの発生確率を容易に制御することが可能になる。よって、例えば、重要度の高い階層のパケットの送信エラーの発生確率を低減させることが可能になる。
<第1の実施形態>
以下に、図面を参照しながら、本発明の第1の実施形態について説明する。
図1は、送信装置の構成の一例を示す図である。
図1に示す送信装置200において、入力端子207を経由して多階層符号化器201にディジタル動画像信号が入力される。尚、多階層符号化器201が、A/D(アナログ/ディジタル)変換機能を備えている場合には、入力端子207を経由して多階層符号化器201にアナログ動画像信号が入力され、多階層符号化器201でディジタル動画像信号が生成される。
図2は、多階層符号化器の構成の一例を示す図である。
図2において、多階層符号化器201は、Layer1専用符号化器303と、Layer2専用符号化器304と、Layer3専用符号化器305とを備えている。図1に示す制御装置206によって、これらLayer1専用符号化器303、Layer2専用符号化器304、及びLayer3専用符号化器305の稼働と非稼働とを個別に制御することが可能である。本実施形態の多階層符号化器201では、Layer1(最下層)のみの符号化と、Layer1とLayer2との符号化と、Layer1とLayer2とLayer3との全ての符号化との3種類の中から動作を選択することができる構成になっている。
以下では、制御手段206が、多階層符号化器201に対して、空間スケーラブル符号化、階層数(レイヤ数)として3(Layer1、Layer2、Layer3)が指示されているとして説明する。このように本実施形態では、データの階層数が3の場合を例に挙げて説明するが、階層数は1以上であれば幾つであってもよい。
多階層符号化器201へ入力されたディジタル動画像信号は、これらLayer1専用符号化器303、Layer2専用符号化器304、及びLayer3専用符号化器305へ並列的に(好ましくは同時に)入力される。尚、本実施形態では、多階層符号化器201に入力されたディジタル動画像信号のフレームサイズが、1920×1080[pixels]、すなわちFull HDサイズであるとする。
図3は、送信装置200(多階層符号化器201)で生成される画像の一例を概念的に示す図である。
Layer1専用符号化器303は、入力されたディジタル動画像信号に対して、任意の方法にて縦横夫々1/4倍に縮小したレイヤ1画像を生成する。そして、Layer1専用符号化器303は、所定の符号化フォーマットに従って、Layer1におけるフレーム内符号化(Intra)又はフレーム間予測符号化(Inter)を実施し、レイヤ1符号化画像を生成する。
前記フレーム内符号化(Intra)又は前記フレーム間予測符号化されたレイヤ1符号化画像は、図1に示すバッファ202(図4に示すLayer1専用記憶器403)へ記憶される。図4は、バッファ202の構成の一例を示す図である。
Layer1専用符号化器303は、このようにしてレイヤ1符号化画像をバッファ202に記憶させると共に(好ましくは同時に)、前記レイヤ1符号化画像を復号化処理してレイヤ1復号化画像を生成する。そして、Layer1専用符号化器303は、このレイヤ1復号化画像に対して、縦横夫々2倍に拡大処理を施した画像を生成し、生成した画像をLayer2専用符号化器304へ第1の予測画像として出力する。
Layer2専用符号化器304は、入力されたディジタル動画像信号に対して、任意の方法にて縦横夫々1/2倍に縮小したレイヤ2画像を生成する。Layer2専用符号化器304は、このレイヤ2画像と、Layer1専用符号化器303から入力された前記第1の予測画像との間で、レイヤ(Layer1、Layer2)間予測を実施する。これにより、レイヤ2予測誤差が出力される。
Layer2専用符号化器304は、前記レイヤ1符号化画像を生成したのと同様に、前記レイヤ2予測誤差に対して、Layer2におけるフレーム内符号化(Intra)又はフレーム間予測符号化(Inter)を実施し、レイヤ2符号化画像を生成する。
Layer2専用符号化器304は、前記レイヤ2符号化画像を、図1に示すバッファ202(図4に示すLayer2専用記憶器404)へ記憶させると共に(好ましくは同時に)復号化処理する。これにより、レイヤ2復号化画像が生成される。Layer2専用符号化器304は、このレイヤ2復号化画像に対して、縦横夫々2倍の拡大処理を施した画像を生成し、生成した画像をLayer3専用符号化器305へ第2の予測画像として入力する。
Layer3専用符号化器305は、入力されたディジタル動画像信号をレイヤ3入力画像とし、Layer2専用符号化器304から入力された前記第2の予測画像との間で、レイヤ(Layer2、Layer3)間予測を実施する。これにより、レイヤ3予測誤差が出力される。
Layer3専用符号化器305は、前記レイヤ2符号化画像を生成したのと同様に、前記レイヤ3予測誤差に対して、Layer3におけるフレーム内符号化(Intra)又はフレーム間予測符号化(Inter)を実施する。これにより、レイヤ3符号化画像が生成される。Layer3専用符号化器305は、このレイヤ3符号化画像を、図1に示すバッファ202(図4に示すLayer3専用記憶器405)に記憶させる。
以上のように、本実施形態では、多階層符号化器201(Layer1専用符号化器303、Layer2専用符号化器304、Layer3専用符号化器305)を用いることにより、符号化手段が実現される。
尚、ここでは、符号化フォーマットが、空間スケーラブル符号化である場合について説明したが、符号化フォーマットは、その他のものであってもよい。符号化フォーマットは、例えば、MPEG-2で定義されている時間スケーラブル符号化又はSNRスケーラブル符号化であってもよい。また、図4に示すように、本実施形態では、バッファ202は、各レイヤの専用メモリが独立に存在するような内部構造を有するようにしたが必ずしもこのようにする必要はない。例えば、物理的に1つのメモリをアドレスで分割して使用することにより、各レイヤの専用メモリを構成するようにてもよい。
以上のようにしてバッファ202に記憶された各レイヤの符号化画像(前記レイヤ1符号化画像、前記レイヤ2符号化画像、及び前記レイヤ3符号化画像)には、制御装置206により予め重要度が付与されている。尚、この重要度は、任意の関数に従って自動付与される他に、任意の入力手段を用いて、外部から指定することも可能である。
尚、以下では、Layer1、Layer2、Layer3の順で重要度が低くなる場合(Layer1が最も重要度が高い場合)を例に挙げて説明する。
また、以下では、任意のフレームにおける各レイヤの発生符号量をパケット化した結果、次のようなパケット数になった場合を例に挙げて説明する。
Layer1:20パケット、Layer2:6パケット、Layer3:2パケット
前記任意のフレームにおけるLayer1に属する前記レイヤ1符号化データは、Layer1専用記憶器403から読み出され、パケット化器203へ出力される。図5は、符号化データをパケット化する様子の一例を概念的に示す図である。
パケット化器203は、入力された前記レイヤ1符号化データを、図5に示すようにフレームの先頭から一定ビット数(図5ではN[bytes])単位で切り出して、夫々に所定のパケットヘッダ501〜504を付与する。
フレームの最終データを含むパケット505を生成する際に、前記レイヤ1符号化データの残りの符号量が前記N[bytes]未満である(s[bytes]である)場合、パケット化器203は、次のように処理する。すなわち、パケット化器203は、残りの(N−s)[bytes]を、任意のスタッフィング・バイト(Stuffing Byte)506で充填し、全てのパケットが同一のサイズ(前記N[bytes])になるように処理する。ここで、スタッフィング・バイトとは、復号化器に入力した時に無効データとして扱われるデータをいう。
以上のように本実施形態では、パケット化器203を用いることにより、パケット化手段が実現される。
パケット化器203にてパケット化された前記レイヤ1符号化データ(パケット化器203にて生成されたパケット)は、送信器204へ出力される。送信器204に入力された前記レイヤ1符号化データ(パケット)は、図6に示すフローチャートに従って制御され、送信される。このように本実施形態では、送信器204を用いることにより通信手段が実現される。図6は、パケットを送信する際の送信装置200における処理の一例を説明するフローチャートである。
まず、情報取得器205は、情報入力端子209を経由して、パケットの送信先となる受信側の装置(受信装置)の受信状態情報を取得するまで待機する(ステップS501)。前記受信状態情報には、例えば、受信側の装置における平均受信レート情報、パケットロス率情報、及び受信バッファ占有率情報が含まれている。
前記受信状態情報が取得されると、制御装置206は、前記任意のフレームにおける各階層のうち、重要度が最も高い階層(ここではLayer1)を判定する。そして、制御装置206は、例えば次のようにして、重要度が最も高いLayer1に属する前記レイヤ1符号化データに基づくパケットの送信パターンSnを決定する(ステップS502)。すなわち、制御装置206は、前述した平均受信レート情報、パケットロス率情報、及び受信バッファ占有率情報を統計的に評価することにより、受信側の装置において、パケットロス率が(パケットロスの発生確率)最小となる送信パターンSnを算出する。ここで、送信パターンSnは、例えば、バースト送信1回あたりに送信されるパケット数と、各パケットの送信間隔とに基づいて定められる。尚、このステップS502では、パケットロスが発生しないように、送信パターンSnを算出することもできる。ここで、前記バースト送信とは、まとまったパケットを一度に集中して送信する送信方法であり、バースト数とはバースト送信における、1送信単位のパケット数のことである。
図7は、パケットの送信パターンの一例を示す図である。図7(a)は、全てのレイヤのパケットを1回でバースト送信する場合の送信パターン(従来の送信パターン)を示す図である。図7(b)及び図7(c)は、本実施形態の送信装置200で決定される送信パターンSnの一例を示す図である。図7(b)に示す例では、Layer1(レイヤ1符号化データ)に対する送信パターンSnは5(Sn=5)であり、Layer2、Layer3(レイヤ2符号化データ、レイヤ3符号化データ)に対する送信パターンSnは8(Sn=8)である。尚、このLayer2、Layer3に対する送信パターンSnは、Layer2に対する送信パターンと、Layer3に対する送信パターンとを個別に求めることにより得られる(ステップS509〜S512を参照)。また、図7(c)に示す例では、送信パターンSnは4(Sn=4)ということになる。また、図7(d)は、レイヤ1符号化データに基づくパケット701、レイヤ2符号化データに基づくパケット702、レイヤ3符号化データに基づくパケット703を示した図である。これらのパケット701〜703が、図7(b)や図7(c)に示す送信パターンSnに従ってバースト送信される。
前述した統計的な評価は、例えば、次の第1〜第3の処理により実現することができる。
第1の処理として、平均受信レートと、パケットロス率と、それに対応するバースト数とから定まる点を3次元座標上にプロットし、プロットしたデータをデータベースとして任意の保存期間保存しておくようにする。制御装置206は、前記データベースからパケットロス率が最小となる受信レートRとバースト数L1を読み出す。
第2の処理として、受信バッファ占有率と、パケットロス率と、それに対応するバースト数とから定まる点を3次元座標上にプロットし、プロットしたデータをデータベースとして任意の保存期間保存しておくようにする。制御装置206は、前記データベースからパケットロス率が最小となる受信バッファ占有率Qとバースト数L2を読み出す。
第3の処理として、制御装置206は、例えば、第1の処理で最小となると見積もられたパケットロス率と、第2の処理で最小となると見積もられたパケットロス率とのうち、小さいほうのパケットロス率に対応するバースト数を送信パターンSnとして決定する。
尚、平均受信レートと、受信バッファ占有率と、それに対応するバースト数とから定まる点を3次元座標上にプロットし、プロットしたデータをデータベースとして任意の保存期間保存しておくようにしてもよい。このようにした場合、制御装置206は、前記データベースから、オーバーフローやアンダーフローの発生しない範囲で最大のバースト数L3を読み出す。そして、例えば、第1及び第2の処理で読み出したバースト数L1、L2のうち、小さいほうのバースト数が、バースト数L3よりも大きい場合には、バースト数L3を送信パターンSnとして決定することができる。一方、そうでない場合には、バースト数L1、L2のうち、小さいほうのバースト数を送信パターンSnとして決定することができる。
尚、前述した統計的な評価は、以上のようなものに限定されず、種々の方法で行うことができる。
次に、制御装置206は、ステップS502で算出された送信パターンSnにて、重要度が最も高い前記Layer1の1フレーム分の符号化データを送信した場合の所要時間Trを算出する(ステップS503)。そして、制御装置206は、この所要時間Trが、1フレーム時間(1FrameTime)以内であるか否かを判定する(ステップS504)。
この判定の結果、所要時間Trが1フレーム時間以内である場合、制御装置206は、ステップS503で算出された送信パターンSnを送信器204に指示する。送信器204は、送信パターンSnに従ってレイヤ1符号化データ(Layer1の符号化データ)のバースト送信を実施する(ステップS505)。
一方、所要時間Trが1フレーム時間を超えている場合、制御装置206は、所要時間Trが、1フレーム時間以内に収まる送信パターンSxを別途算出する(ステップS506)。
ここで、送信パターンSxは、例えば次のようにして求めることができる。
1フレーム相当時間をTf、送信装置200のシステム・クロックの周期をT、任意の符号化フレームの発生符号量をRi、1パケットあたりに伝送可能な符号量をRpとする。そうすると、1フレーム時間内でバースト送信を実施可能な回数Nbは、以下の(1)式、(2)式で表される。
Nb=(Tf/T) ・・・(1)
Nb=(Tf/T)+1 ・・・(2)
ここで、(1)式は、1フレーム相当時間Tfをシステム・クロックの周期Tで割ったときの余りが0である場合の値である。一方、(2)式は、1フレーム相当時間Tfをシステム・クロックの周期Tで割ったときの余りが0より大きい場合の値である。
また、任意の符号化フレームの全符号量を伝送するために必要なパケット数Npは、以下の(3)式、(4)式で表される。
Np=(Ri/Rp) ・・・(3)
Np=(Ri/Rp)+1 ・・・(4)
ここで、(3)式は、任意の符号化フレームの発生符号量Riを、1パケットあたりに伝送可能な符号量Rpで割ったときの余りが0である場合の値である。一方、(4)式は、任意の符号化フレームの発生符号量Riを、1パケットあたりに伝送可能な符号量Rpで割ったときの余りが0より大きい場合の値である。
1フレーム時間内でバースト送信を実施可能な回数Nbと、任意の符号化フレームの全符号量を伝送するために必要なパケット数Npとを用いると、バースト数Ltは、以下の(5)式、(6)式で表される。
Lt=(Np/Nb) ・・・(5)
Lt=(Np/Nb)+1 ・・・(6)
ここで、(5)式は、任意の符号化フレームの全符号量を伝送するために必要なパケット数Npを、1フレーム時間内でバースト送信を実施可能な回数Nbで割ったときの余りが0である場合の値である。一方、(6)式は、任意の符号化フレームの全符号量を伝送するために必要なパケット数Npを、1フレーム時間内でバースト送信を実施可能な回数Nbで割ったときの余りが0より大きい場合の値である。
制御装置206は、例えば、以上の(1)式〜(6)式の計算を行うことにより、バースト数Ltを算出し、このバースト数Ltを送信パターンSxとして決定することができる。尚、送信パターンSxの決定方法は、このようなものに限定されない。
制御装置206は、ステップS506で算出された送信パターンSxを送信器204に指示する。送信器204は、送信パターンSxに従ってレイヤ1符号化データのバースト送信を実施する(ステップS507)。
以上のようにして本実施形態では、Layer1の符号化データに基づくパケットを最優先で送信する。Layer1の符号化データに基づくパケットの送信が完了すると、制御装置206は、未送信の階層のうち、最も重要度が高い階層(次に重要度が高い階層)であるLayer2を処理対象の階層として指定する(ステップS508)。
以上のように本実施形態では、ステップS502で、重要度が最も高い階層を判定する処理を行い、ステップS508で、階層を指定する処理を行うことにより、判定手段が実現される。
次に、制御装置206は、レイヤ1符号化データの送信に要した所要時間Trと1フレーム時間との差分時間(残り時間)Tx(=(1FrameTime)−Tr)を算出する(ステップS509)。そして、制御装置206は、差分時間Txが正の数であるか否か(差分時間Txが閾値(=0)より大きいか、それとも閾値以下であるか)を判定する(ステップS510)。このように本実施形態では、ステップS510の処理を行うことにより、第2の判定手段が実現される。
この判定の結果、差分時間Txが正の数である場合、制御装置206は、レイヤ2符号化データに基づく全てのパケット(Layer2の全符号化データ)の送信パターンSsを算出する。このとき、パケットロスが発生しない、又はパケットロス率が最低となるように、送信パターンSsを算出するのが好ましい。そして、制御装置206は、算出した送信パターンSsに、レイヤ2符号化データに基づく全てのパケットを差分時間Tx以内に送信可能な送信パターンSsがあるか否かを判定する(ステップS511)。尚、ステップS511において、レイヤ2符号化データに基づく全てのパケットを差分時間Tx以内に送信可能な送信パターンSsを算出することが可能であるか否かを判定し、可能である場合に、送信パターンSsを算出するようにしてもよい。
以上のように本実施形態では、ステップS502、S506、S511の処理を行うことにより決定手段が実現される。
この判定の結果、レイヤ2符号化データに基づく全てのパケットを差分時間Tx以内に送信可能な送信パターンSsがある場合、制御装置206は、算出した送信パターンSsを送信器204に指示する。送信器204は、送信パターンSsに従ってレイヤ2符号化データのバースト送信を実施する(ステップS512)。
以上のように本実施形態では、ステップS505、S507、S512の処理を行うことにより送信手段が実現される。
そして、ステップS508に戻り、次のレイヤ、即ちLayer3を処理対象の階層として指定する。Layer3以降のデータについては、ステップ509〜512の処理を繰り返すことになる。この場合、ステップS510においては、それまでに送信された符号化データ(レイヤ1符号化データ及びレイヤ2符号化データ)の送信に要した所要時間Trの総和と1フレーム時間との差分時間Txが、0より大きいか否かを判定することになる。
ステップS510において、差分時間Txが正の数でないと判定された場合と、ステップS511において、全レイヤ2符号化データを差分時間Tx以内に送信可能な送信パターンSsがないと判定された場合には、次の処理を行い、図6の処理を終了する。すなわち、制御装置206は、Layer2及びそれ以降の全レイヤの符号化データ(レイヤ2符号化データ、全レイヤ3符号化データ)を廃棄して、図6の処理を終了する。本実施形態では、この処理により破棄手段が実現される。また、制御装置206は、Layer2及びそれ以降の全レイヤの符号化データを送信しないことを送信器204に指示してもよい。
尚、ステップS508において、次の階層がない場合(重要度の低い階層についてステップS509以降の処理を行った場合)には、ステップS509以降の処理を行わずに、図6の処理を終了することになる。また、図6において、制御装置206で行う処理を、送信器204で実現してもよい。
図7(b)に示す例では、レイヤ1符号化データが20[Packets]あり、この20[Packets]のパケットを、送信パターンSnを5としてバースト送信している。また、レイヤ2符号化データが6[Packets]あり、レイヤ3符号化データが2[Packets]あり、これらのパケットを、送信パターンSsを8としてバースト送信している。
同様に、図7(c)に示す例では、レイヤ1符号化データが20[Packets]あり、この20[Packets]のパケットを、送信パターンSnを4としてバースト送信している。そして、レイヤ2符号化データ、レイヤ3符号化データは、送信時間不足により廃棄される(送信されない)。
以上のように本実施形態では、重要度が最も高いlayer1の符号化データ(レイヤ1符号化データ)に基づくパケットについて、1フレーム時間以内に送信完了となり、パケットロス率が最低となる(又はパケットロスがない)送信パターンSnを算出する。そして、その送信パターンSnに従って、レイヤ1符号化データに基づくパケットをバースト送信する。そして、レイヤ1符号化データの送信に要した所要時間Trと1フレーム時間との差分時間以内で、残りの階層であるlayer2、layer3の符号化データ(レイヤ2符号化データ、レイヤ3符号化データ)に基づくパケットをバースト送信する。このように階層毎に送信パターンを算出してバースト送信することにより、階層の重要度に応じて、送信エラーの発生確率を容易に制御できるようになる。よって、通信経路の状況が悪くパケットロスが発生しやすい状況であっても、重要度の高い低層のデータのエラーの発生確率を低減させることが可能となり、より乱れの少ない映像・音響データを受信装置に提供することが可能となる。また、通信経路が安定している場合には、重要度の低い高層のデータも正しく送信されるため、適応的な処理が可能となる。
また、本実施形態では、パケットロス率が最低となる(又はパケットロスがない)送信パターンSnを算出した後、その送信パターンSnに従ってレイヤ1符号化データに基づくパケットを1フレーム時間内に送信できるか否かを判定する。そして、送信できない場合には、1フレーム時間内に送信できる送信パターンSxを別途算出し、算出した送信パターンSxに従って、レイヤ1符号化データに基づくパケットをバースト送信する。したがって、重要度の高いデータをより適切に受信装置に送信することができる。
尚、本実施形態では、layer2、layer3の符号化データ(レイヤ2符号化データ、レイヤ3符号化データ)に基づくパケットを纏めてバースト送信する場合を例に挙げて示したが、必ずしもこのようにする必要はない。例えば、layer2の符号化データ(レイヤ2符号化データ)に基づくパケットについても、ステップS503〜S505の処理に基づいてバースト送信するようにしてもよい。すなわち、1つ又は複数の階層毎に、送信パターンを決定し、決定した送信パターンに従ってバースト送信していれば、どのようにバースト送信してもよい。
また、受信状態情報は、前述したものに限定されない。例えば、パケットロスの連続数や、パケットロス率以外のエラー発生確率等を受信状態情報として取得してもよい。
また、本実施形態では、受信状態情報に基づいて、パケットロス率が最低となる(又はパケットロスがない)送信パターンSnを算出するようにしたが、必ずしもこのようにする必要はない。例えば、送信装置200と受信装置との間の送信経路となる通信回線の使用可能な容量(通信回線の空き容量)を示す回線容量情報に基づいて、パケットロス率が最低となる(又はパケットロスがない)送信パターンSnを算出するようにしてもよい。この場合、情報取得器205は、例えば、通信回線を監視している外部装置から回線容量情報を取得したり、回線容量情報を自発的に検出したりすることができる。また、受信状態情報と回線容量情報との双方に基づいて、パケットロス率が最低となる(又はパケットロスがない)送信パターンSnを算出するようにしてもよい。
また、ステップS501で取得した受信状態情報(例えばパケットロス率)が閾値を超えていると判定した場合、重要度が最も高い階層(Layer1)の冗長送信が受信装置から指定された場合、レイヤ1符号化データに対して冗長送信するようにしてもよい。また、受信状態情報としてパケットロスの連続数を取得している場合には、パケットロスの連続数が閾値を超えていると判定した場合に、レイヤ1符号化データに対して冗長送信するようにしてもよい。
また、本実施形態では、レイヤ1符号化データの送信に要した所要時間Trと1フレーム時間との差分時間Txが、0より大きいか否かを判定するようにした(図6のステップS510を参照)。しかしながら、差分時間Txに対して設定する閾値は0に限定されるものではない。例えば、処理対象の階層の符号化データ(例えばレイヤ2符号化データ)の符号量に対して比例関係にある変数(処理対象の階層の符号化データの符号量に対応する時間(変数))を閾値としてもよい。例えば、処理対象の階層の符号化データの符号量に基づいて、その符号化データを送信するのに要する所要時間を算出し、その所要時間を閾値としてもよい。ステップS510では、差分時間Txが閾値(=0)より大きいか否かを判定するようにしたが、このようにした場合には、差分時間Txが閾値以上であるか否かを判定するようにすることができる。そして、このようにした場合には、ステップS511の処理を省略することもできる。
また、本実施形態では、送信済みの階層の送信に要した所要時間Trの総和と1フレーム時間との差分時間Txが、閾値より大きい(閾値以上の)場合に、未送信の階層のパケットの送信パターンSsを算出するようにした(ステップS510、S511を参照)。しかしながら、必ずしもこのようにする必要はない。例えば、このステップS510の条件に加え、送信済みの階層の送信に要した所要時間Trの総和が、1フレーム時間より小さい(又は1フレーム時間以下)であることも、未送信の階層のパケットの送信パターンSsを算出するための条件に加えてもよい。第3の判定手段は、例えば、このような処理を行うことにより実現することができる。そして、このようにした場合には、これら2つの条件を満たした場合に、ステップS511の処理を実行する。一方、これら2つの条件の少なくとも何れか一方を満たさない場合には、未送信の階層の符号化データを破棄する(送信しないように)ことができる。例えば、送信済みの階層の送信に要した所要時間Trの総和が、1フレーム時間以上(又は1フレーム時間より大きい場合)にも、未送信の階層の符号化データを破棄する(送信しないように)ことができる。
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。尚、本実施形態の説明において、第1の実施形態と同一の部分については、図1〜図7に付した符号と同一の符号を付すこと等により、詳細な説明を省略する。
図8は、送信装置の構成の一例を示す図である。本実施形態では、3840×2160[pixels](図9に示すLayer2の画像)のディジタル動画像信号が、入力端子901を経由して縮小器902に入力された場合を例に挙げて説明する。
縮小器902は、入力された前記ディジタル動画像信号を、縦横夫々1/2倍に縮小処理して、1920×1080[pixels](図9に示すLayer1の画像)のディジタル動画像信号を生成する。縮小器902は、生成したディジタル動画像信号を端子902aからH.264符号化器(Layer1)903へ出力する。
一方、縮小器902は、サイズ変更処理を実施しないディジタル動画像信号(3840×2160[pixels]のディジタル動画像信号)を、端子902bから出力し、バッファ910に記憶させる。
H.264符号化器(Layer1)903は、前記1920×1080[pixels]のディジタル動画像信号に対して、H.264符号化フォーマットに準拠した符号化処理(フレーム内予測符号化、又はフレーム間予測符号化)を実施する。H.264符号化器(Layer1)903は、符号化処理した結果として、NAL(Network Abstraction Layer)をバッファ904に出力する。
NALのペイロードには、前記符号化処理されたディジタル動画像信号(スライス)と、パラメータセット等の前記符号化処理された動画像信号以外のデータとの少なくとも何れかが格納される。尚、NALのペイロードは、RBSP(Raw Byte Sequence Payload)と呼ばれる。
H.264符号化器(Layer1)903から出力されたNALは、バッファ904に格納された後、任意のタイミングで読み出され、パケット化器905の入力端子905aへ入力される。
パケット化器905は、例えば、図5に示したように、任意のパケットフォーマットに従って、次のような処理を行う。すなわち、パケット化器905は、入力されたデータをN[bytes]毎に分割して夫々を個別にパケットペイロードに格納したり、入力されたデータを複数個まとめたN[bytes]分のデータを1つのパケットのペイロードに格納したりする。そして、パケット化器905は、1パケット(1ペイロード)毎に所定のパケットヘッダ501〜505を付けてパケットを生成して出力する。
パケット化器905から出力された各パケットは、送信器906に入力される。送信器906は、入力されたパケットを、所定の通信プロトコルに従って処理(変形)した後、通信路(通信回線)909を介して受信装置にバースト送信する。
次に、パケット化器905への入力が、入力端子905a、905bの両方、即ちLayer1とLayer2の符号化データが存在する場合の送信装置900の動作の一例について説明する。
H.264符号化器(Layer1)903で符号化され、バッファ904に記憶された符号化データは、制御装置912の制御により読み出され、H264.1復号化器(Layer1)907へ入力される。
H264.1復号化器(Layer1)907は、制御装置912からの制御に基づいて、入力された符号化データ(H.264符号化器(Layer1)903で符号化された符号化データ)を復号化して拡大器911に出力する。尚、以下の説明では、この復号化を行った符号化データを、必要に応じて局部復号化ディジタル動画像信号と称する。
前記局部復号化ディジタル動画像信号は、拡大器911に入力される、拡大器911は、入力された前記局部復号化ディジタル動画像信号の縦横の夫々を2倍に拡大処理する。すなわち、拡大器911は、縮小器902で行われた縮小処理と逆の処理を行う。これにより、入力端子901に入力されたディジタル動画像信号と同じサイズのディジタル動画像信号が、符号化器(Layer2)908に入力される。
これと同時に、符号化器(Layer2)908は、H264.1復号化器907に入力された前記局部復号化ディジタル動画像信号に対応する(前記局部復号化ディジタル動画像信号と同一のフレームの)ディジタル動画像信号をバッファ910から読み出す。
符号化器(Layer2)908は、入力された2つのディジタル動画像信号の差分値(レイヤ間予測誤差)をフレーム毎に算出する。符号化器(Layer2)908は、このフレーム毎のレイヤ間予測誤差を、符号化器(Layer2)908の固有に符号化フォーマットに従って符号化(フレーム内符号化、又はフレーム間予測符号化)する。ここで、符号化器(Layer2)908の固有に符号化フォーマットとは、H.264とは互換性が無い独立した符号化フォーマットをいう。
符号化器(Layer2)908から出力された符号化データは、入力端子905bからパケット化器905に入力される。パケット化器905は、入力端子905aから入力された符号化データと同様に、任意のパケットフォーマットに従って、入力端子905bから入力された符号化データに基づくパケットを生成する。すなわち、パケット化器905は、入力されたデータをN[bytes]毎に分割して夫々を個別にパケットペイロードに格納したり、入力されたデータを複数個まとめたN[bytes]分のデータを1つのパケットのペイロードに格納したりする。そして、パケット化器905は、1パケット(1ペイロード)毎に所定のパケットヘッダ501〜505を付けてパケットを生成して出力する。
パケット化器905から出力された各パケットは、送信器906に入力される。送信器906は、入力されたパケットを、所定の通信プロトコルに従って処理(変形)した後、通信路(通信回線)909を介して受信装置にバースト送信する。
図10は、送信器906から送信されるパケットの一例を示す図である。
例えば、通信プロトコルがRTP(UDP)である場合、送信器906は、図10に示すように、パケット化器905から出力されるパケットをRTPパケットのペイロード(RTP Payload)1001に格納する。そして、送信器906は、RTPパケットのペイロード(RTP Payload)1001と、RTPパケットのヘッダ(RTP Header)1002とを備えるRTPパケット(RTP Packet)を形成する。
RTPは、エンドポイントの識別情報を持っていない為、トランスポート・プロトコルとしては不完全である。そこで、本実施形態では、送信器906は、図10に示すように、UDP(User Datagram Protocol)を下位層として使用する。すなわち、送信器906は、RTPパケットを格納したUDPパケット(UDP Packet)のデータ部に、UDPパケットのヘッダ(UDP Header)1003が付加されたUDPパケット(UDP Packet)を形成して送信する。更に、図10に示すように、UDPパケットを格納したIPパケット(IP Packet)のデータ部に、IPパケットのヘッダ(IP Header)1004が付加されたIPパケット(IP Packet)を形成して送信することも可能である。
送信器906は、通信路(通信回線)909の空き容量を検出する機能を有する。また送信器906は、検出した通信路909の空き容量と、入力されたパケットの符号量と、入力されたパケットの符号量に対して指定された送信時間の最大値とに基づいて、パケットロス率等のエラー発生確率が最小となる送信パターンを算出する機能を有している。そして、送信器906は、算出した送信パターンにてパケットをバースト送信する機能を有している。尚、これらの機能の全部又は一部を制御装置912が有していてもよい。
また、同一のフレームを構成する符号化データであって、互いに重要度が異なる複数の符号化データ(前記レイヤ1符号化データと前記レイヤ2符号化データ)が入力された場合、送信器906は、次のような処理を行う。すなわち、送信器906は、最も重要度の高い符号化データ(前記レイヤ1符号化データ)に対して、前述した第1の実施形態と同様の処理を行う。送信器906は、処理対象のフレームのレイヤ1符号化データに基づく全てのパケット(全符号量)を、現状の通信環境にて送信するにあたり、パケットロス率が最小となり、且つ送信に要する所要時間Trが1フレーム時間内で最小となる送信パターンを算出する。そして、送信器906は、算出した送信パターンで、前記レイヤ1符号化データに基づくパケットのバースト送信を実施する。
次に、送信器906は、前記レイヤ1符号化データの送信に要した所要時間Trと1フレーム時間との差分時間Txを算出し、算出した差分時間Txが0よりも大きいか否かを判定する。この判定の結果、差分時間Txが0よりも大きい場合、送信器906は、前記レイヤ2符号化データに基づく全てのパケットを送信するための送信パターンを算出する。そして、送信器906は、差分時間Tx内で、前記レイヤ2符号化データに基づく全てのパケットを送信することが可能な送信パターンがあるか否かを判定する。この判定の結果、前記レイヤ2符号化データに基づく全てのパケットを送信することが可能な送信パターンがある場合には、その送信パターンに従って、前記レイヤ2符号化データに基づく全てのパケットをバースト送信する(図7(b)を参照)。
一方、差分時間Txが0よりも大きくない場合、又は差分時間Tx内で、前記レイヤ2符号化データに基づく全てのパケットを送信することが可能な送信パターンがない場合には、前記レイヤ2符号化データに基づくパケットを送信しない(破棄する)。
尚、重要度の異なるパケットが3種類以上入力された場合も、前述したのと全く同様の処理を行うことができる。また、第1の実施形態と同様に、送信パターンを算出する機能等を制御装置912に持たせるようにしてもよい。
前述したような重要度が最も高い前記レイヤ1符号化データに対する送信パターンの算出は、毎フレーム実施することができる。ただし、必ずしもこのようにする必要はなく、発生符号量が最も多いイントラ符号化フレーム毎に送信パターンを算出するのが好ましい。また、発生符号量が既知の符号化データ(例えば、全て符号化済みの動画像コンテンツ)を送信する場合には、符号量が任意に定めた閾値を越えるフレームに対して、送信パターンを算出するのが好ましい。
パケット化器905への入力がH.264符号化器(Layer1)903からのみであることを制御装置912が検出した場合、送信器906は、制御装置912の制御により、次のような処理を行う。すなわち、送信器906は、1フレーム分の符号量(パケット)を1フレーム時間に分散する送信パターンを算出する。そして、送信器906は、算出した送信パターンを用いて送信を実施する(例えば、図7(c)を参照)。また、このような処理は、制御装置912の制御により、H.264符号化器(Layer1)を稼働に、符号化器(Layer2)908を非稼働に設定された場合(H.264符号化データのみが入力される場合)にも行うことができる。
尚、前述した各実施形態において、送信パターンは1つに限定されるものではない。例えば、送信装置200、900の事情に応じて、1パケット毎の送信間隔を1フレーム時間内で等間隔に調整するパターンを送信パターンとしてもよい。
(本発明の他の実施形態)
前述した本発明の実施形態における送信装置を構成する各手段、並びに送信方法の各ステップは、コンピュータのRAMやROMなどに記憶されたプログラムが動作することによって実現できる。このプログラム及び前記プログラムを記録したコンピュータ読み取り可能な記録媒体は本発明に含まれる。
また、本発明は、例えば、システム、装置、方法、プログラム若しくは記憶媒体等としての実施形態も可能であり、具体的には、複数の機器から構成されるシステムに適用してもよいし、また、一つの機器からなる装置に適用してもよい。
尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図6に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接、あるいは遠隔から供給する。そして、そのシステムあるいは装置のコンピュータが前記供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。
したがって、本発明の機能処理をコンピュータで実現するために、前記コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。
その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であってもよい。
プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RWなどがある。また、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などもある。
その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続する。そして、前記ホームページから本発明のコンピュータプログラムそのもの、若しくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。
また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。
また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせる。そして、ダウンロードした鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。
また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される。その他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現され得る。
さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によっても前述した実施形態の機能が実現される。
尚、前述した各実施形態は、何れも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。
本発明の第1の実施形態を示し、送信装置の構成の一例を示す図である。 本発明の第1の実施形態を示し、多階層符号化器の構成の一例を示す図である。 本発明の第1の実施形態を示し、送信装置(多階層符号化器)で生成される画像の一例を概念的に示す図である。 本発明の第1の実施形態を示し、バッファの構成の一例を示す図である。 本発明の第1の実施形態を示し、符号化データをパケット化する様子の一例を概念的に示す図である。 本発明の第1の実施形態を示し、パケットを送信する際の送信装置における処理の一例を説明するフローチャートである。 本発明の第1の実施形態を示し、パケットの送信パターンの一例を示す図である。 本発明の第2の実施形態を示し、送信装置の構成の一例を示す図である。 本発明の第2の実施形態を示し、送信装置で生成される画像の一例を概念的に示す図である。 本発明の第2の実施形態を示し、送信器から送信されるパケットの一例を示す図である。
符号の説明
200 送信装置
201 多階層符号化器
202 バッファ
203 パケット化器
204 送信器
205 情報取得器
206 制御装置
900 送信装置
902 縮小器
903 H.264符号化器
904 バッファ
905 パケット化器
906 送信器
907 H.264復号化器
908 符号化器
910 バッファ
911 拡大器
912 制御装置

Claims (10)

  1. 複数の階層を有するデータを階層毎に符号化する符号化手段と、
    前記符号化手段により符号化された符号化データに基づくパケットを生成するパケット化手段と、
    前記パケット化手段により生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定手段と、
    前記決定手段により決定された送信パターンに従って、前記パケット化手段により生成されたパケットを送信する送信手段と、を有することを特徴とする送信装置。
  2. 前記決定手段は、前記パケットの送信経路となる通信回線の容量を示す回線容量情報と、前記パケットの送信先となる受信装置における受信状態を示す受信状態情報との少なくとも何れか一方に基づいて、パケットロスが発生しない、又はパケットロスの発生確率が最低となる送信パターンを、前記複数の階層毎に算出することを特徴とする請求項1に記載の送信装置。
  3. 前記決定手段は、前記複数の階層の少なくとも1つの階層の符号化データに基づくパケットが、定められた時間以内に送信完了されるように、当該複数の階層の少なくとも1つの階層の符号化データに基づくパケットの送信パターンを決定することを特徴とする請求項1又は2に記載の送信装置。
  4. 前記複数の階層に対する重要度を判定する判定手段を有し、
    前記送信手段は、前記判定手段により最も重要度が高いと判定された階層の符号化データに基づくパケットを最優先で送信することを特徴とする請求項1〜3の何れか1項に記載の送信装置。
  5. 前記送信手段により既に送信された階層の符号化データに基づくパケットの送信に要した所要時間の総和と、定められた時間との差分時間が、閾値以上であるか否か、又は閾値より大きいか否かを判定する第2の判定手段と、
    前記第2の判定手段により、前記差分時間が前記閾値より小さいと判定された場合、又は前記差分時間が前記閾値以下であると判定された場合に、未送信の階層の符号化データを破棄する破棄手段とを有し、
    前記決定手段は、前記第2の判定手段により、前記差分時間が前記閾値以上であると判定された場合、又は前記差分時間が前記閾値より大きいと判定された場合に、未送信の階層の符号化データのうち、最も重要度が高い階層の符号化データに基づくパケットが、前記差分時間以内に送信完了されるように、当該最も重要度が高い階層の符号化データに基づくパケットの送信パターンを決定することを特徴とする請求項4に記載の送信装置。
  6. 前記送信手段により既に送信された階層の符号化データに基づくパケットの送信に要した所要時間の総和が、定められた時間以下であるか否か、又は定められた時間より小さいか否かを判定する第3の判定手段を有し、
    前記第3の判定手段により、前記所要時間の総和が定められた時間より大きいと判定された場合、又は前記所要時間の総和が定められた時間以上であると判定された場合に、未送信の階層の符号化データを破棄する破棄手段とを有し、
    前記決定手段は、前記第3の判定手段により、前記所要時間の総和が定められた時間以下であると判定された場合、又は前記所要時間の総和が定められた時間より小さいと判定された場合に、未送信の階層の符号化データのうち、最も重要度が高い階層の符号化データに基づくパケットが、前記差分時間以内に送信完了されるように、当該最も重要度が高い階層の符号化データに基づくパケットの送信パターンを決定することを特徴とする請求項5に記載の送信装置。
  7. 前記符号化手段は、複数の階層を有する1フレームのデータを符号化し、
    前記定められた時間は、1フレーム時間であり、
    前記閾値は、未送信の階層の符号化データの符号量に対して比例関係にある変数であることを特徴とする請求項5又は6に記載の送信装置。
  8. 前記送信手段は、前記複数の階層のうち、最も重要度が高い階層の符号化データに基づくパケットの冗長送信が、当該パケットの送信先である受信装置から指定された場合、又は前記受信装置から取得されたパケットロスの連続数又はパケットロス率が閾値を超えていると判定された場合に、前記最も重要度が高い階層の符号化データに基づくパケットに対して、冗長送信を実施することを特徴とする請求項1〜7の何れか1項に記載の送信装置。
  9. 複数の階層を有するデータを階層毎に符号化する符号化ステップと、
    前記符号化ステップにより符号化された符号化データに基づくパケットを生成するパケット化ステップと、
    前記パケット化ステップにより生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定ステップと、
    前記決定ステップにより決定された送信パターンに従って、前記パケット化ステップにより生成されたパケットを送信する送信ステップと、を有することを特徴とする送信方法。
  10. 複数の階層を有するデータを階層毎に符号化する符号化ステップと、
    前記符号化ステップにより符号化された符号化データに基づくパケットを生成するパケット化ステップと、
    前記パケット化ステップにより生成されたパケットの送信パターンを、前記複数の階層毎に決定する決定ステップと、
    前記決定ステップにより決定された送信パターンに従って、前記パケット化ステップにより生成されたパケットを送信することを通信手段に指示する送信ステップと、をコンピュータに実行させることを特徴とするコンピュータプログラム。
JP2007211389A 2007-08-14 2007-08-14 送信装置、送信方法、及びコンピュータプログラム Expired - Fee Related JP5339697B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007211389A JP5339697B2 (ja) 2007-08-14 2007-08-14 送信装置、送信方法、及びコンピュータプログラム
US12/191,174 US7991003B2 (en) 2007-08-14 2008-08-13 Transmission apparatus and transmission method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007211389A JP5339697B2 (ja) 2007-08-14 2007-08-14 送信装置、送信方法、及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JP2009049507A true JP2009049507A (ja) 2009-03-05
JP5339697B2 JP5339697B2 (ja) 2013-11-13

Family

ID=40362924

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007211389A Expired - Fee Related JP5339697B2 (ja) 2007-08-14 2007-08-14 送信装置、送信方法、及びコンピュータプログラム

Country Status (2)

Country Link
US (1) US7991003B2 (ja)
JP (1) JP5339697B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2226859A2 (en) 2009-03-03 2010-09-08 Kabushiki Kaisha Toshiba Semiconductor light emitting device

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8102878B2 (en) * 2005-09-29 2012-01-24 Qualcomm Incorporated Video packet shaping for video telephony
US8514711B2 (en) * 2005-10-21 2013-08-20 Qualcomm Incorporated Reverse link lower layer assisted video error control
US8406309B2 (en) * 2005-10-21 2013-03-26 Qualcomm Incorporated Video rate adaptation to reverse link conditions
US8842555B2 (en) * 2005-10-21 2014-09-23 Qualcomm Incorporated Methods and systems for adaptive encoding of real-time information in packet-switched wireless communication systems
US8548048B2 (en) * 2005-10-27 2013-10-01 Qualcomm Incorporated Video source rate control for video telephony
US8537197B2 (en) * 2007-01-10 2013-09-17 Qualcomm Incorporated Content- and link-dependent coding adaptation for multimedia telephony
JP5339697B2 (ja) * 2007-08-14 2013-11-13 キヤノン株式会社 送信装置、送信方法、及びコンピュータプログラム
US8797850B2 (en) * 2008-01-10 2014-08-05 Qualcomm Incorporated System and method to adapt to network congestion
EP2204965B1 (en) * 2008-12-31 2016-07-27 Google Technology Holdings LLC Device and method for receiving scalable content from multiple sources having different content quality
US9532263B2 (en) * 2011-09-30 2016-12-27 Telefonaktiebolaget Lm Ericsson (Publ) Method and apparatus for controlling data transmission in a communication system
US10560357B2 (en) 2017-11-28 2020-02-11 Marvell World Trade Ltd. Distributed checksum calculation for communication packets
US10673994B2 (en) 2018-03-29 2020-06-02 Marvell International Ltd. Network packet generator employing multiple header templates and configurable hardware registers
US10469633B2 (en) * 2018-03-29 2019-11-05 Marvell World Trade Ltd. Low-latency pipeline for media-to-ethernet frame packaging

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6373786A (ja) * 1986-09-16 1988-04-04 Nippon Telegr & Teleph Corp <Ntt> 階層化バ−スト通信方式
JPH10262245A (ja) * 1997-03-19 1998-09-29 Nec Corp 動画像伝送システム及びそれに用いる動画像送受信装置
JP2002112265A (ja) * 2000-07-24 2002-04-12 Matsushita Electric Ind Co Ltd 動画像符号化データの送信装置および送信方法
JP2004072720A (ja) * 2002-06-14 2004-03-04 Matsushita Electric Ind Co Ltd メディア伝送方法並びにその送信装置及び受信装置
JP2005260302A (ja) * 2004-03-09 2005-09-22 Nec Corp 動画情報伝送方法および装置
JP2006340113A (ja) * 2005-06-02 2006-12-14 Sony Corp 送信装置、受信装置、送信処理方法、受信処理方法、それらのプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5515377A (en) * 1993-09-02 1996-05-07 At&T Corp. Adaptive video encoder for two-layer encoding of video signals on ATM (asynchronous transfer mode) networks
JP3825099B2 (ja) * 1996-09-26 2006-09-20 富士通株式会社 映像データ転送方式およびビデオサーバ装置
JP2000078573A (ja) * 1998-09-03 2000-03-14 Hitachi Ltd 階層符号化データ配信装置
JP2000175189A (ja) * 1998-12-07 2000-06-23 Univ Tokyo 動画符号化方法およびそれに用いる動画符号化装置
JP2000350197A (ja) 1999-06-02 2000-12-15 Hitachi Ltd 映像伝送方法とそれを用いた監視システム
US6778553B1 (en) * 2000-11-10 2004-08-17 Microsoft Corp. System and method for media streaming
US6907070B2 (en) * 2000-12-15 2005-06-14 Microsoft Corporation Drifting reduction and macroblock-based control in progressive fine granularity scalable video coding
US7164680B2 (en) * 2001-06-04 2007-01-16 Koninklijke Philips Electronics N.V. Scheme for supporting real-time packetization and retransmission in rate-based streaming applications
US6785334B2 (en) * 2001-08-15 2004-08-31 Koninklijke Philips Electronics N.V. Method for transmission control in hybrid temporal-SNR fine granular video coding
JP2003152544A (ja) * 2001-11-12 2003-05-23 Sony Corp データ通信システム、データ送信装置、データ受信装置、および方法、並びにコンピュータ・プログラム
JP4135395B2 (ja) * 2002-04-26 2008-08-20 日本電気株式会社 符号化パケット伝送受信方法およびその装置ならびにプログラム
JP4040426B2 (ja) 2002-10-18 2008-01-30 富士通株式会社 データ送信装置
US7400588B2 (en) * 2003-08-01 2008-07-15 Thomson Licensing Dynamic rate adaptation using neural networks for transmitting video data
WO2005041516A2 (en) * 2003-10-15 2005-05-06 Ntt Docomo, Inc. Apparatus and method for controlling an operation of a plurality of communication layers in a layered communication scenario
RU2377735C2 (ru) * 2005-04-13 2009-12-27 Нокиа Корпорейшн Способ, устройство и система для эффективного кодирования и декодирования видеоданных
US7617436B2 (en) * 2005-08-02 2009-11-10 Nokia Corporation Method, device, and system for forward channel error recovery in video sequence transmission over packet-based network
US8230100B2 (en) * 2007-07-26 2012-07-24 Realnetworks, Inc. Variable fidelity media provision system and method
JP5339697B2 (ja) * 2007-08-14 2013-11-13 キヤノン株式会社 送信装置、送信方法、及びコンピュータプログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS6373786A (ja) * 1986-09-16 1988-04-04 Nippon Telegr & Teleph Corp <Ntt> 階層化バ−スト通信方式
JPH10262245A (ja) * 1997-03-19 1998-09-29 Nec Corp 動画像伝送システム及びそれに用いる動画像送受信装置
JP2002112265A (ja) * 2000-07-24 2002-04-12 Matsushita Electric Ind Co Ltd 動画像符号化データの送信装置および送信方法
JP2004072720A (ja) * 2002-06-14 2004-03-04 Matsushita Electric Ind Co Ltd メディア伝送方法並びにその送信装置及び受信装置
JP2005260302A (ja) * 2004-03-09 2005-09-22 Nec Corp 動画情報伝送方法および装置
JP2006340113A (ja) * 2005-06-02 2006-12-14 Sony Corp 送信装置、受信装置、送信処理方法、受信処理方法、それらのプログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200000910024; 古村 隆明 他: 'マルチメディアデータの階層伝送とパケット送信順序制御' 情報処理学会研究報告 Vol.99 No.4, 199901, p.157-162, 社団法人情報処理学会 *
JPN6012021224; 古村 隆明 他: 'マルチメディアデータの階層伝送とパケット送信順序制御' 情報処理学会研究報告 Vol.99 No.4, 199901, p.157-162, 社団法人情報処理学会 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2226859A2 (en) 2009-03-03 2010-09-08 Kabushiki Kaisha Toshiba Semiconductor light emitting device

Also Published As

Publication number Publication date
US20090046743A1 (en) 2009-02-19
US7991003B2 (en) 2011-08-02
JP5339697B2 (ja) 2013-11-13

Similar Documents

Publication Publication Date Title
JP5339697B2 (ja) 送信装置、送信方法、及びコンピュータプログラム
US8358688B2 (en) Method for transmitting moving image data and communication apparatus
KR100932692B1 (ko) 가변 레이트 변조를 사용하는 비디오의 전송
JP4936542B2 (ja) 通信制御装置、通信制御方法、及びコンピュータプログラム
JP4980567B2 (ja) 動的なネットワーク損失状態に対する簡単な適応を備えたマルチメディアサーバ
JP5084362B2 (ja) データ送信装置、及びデータ送受信システム
JP4748729B2 (ja) データおよび対応するプロダクトを送信する準備のための装置と方法
JP4903435B2 (ja) メディア信号の送信方法と受信方法ならびに送受信方法及び装置
US20030156645A1 (en) Unequal error protection of video based on motion vector characteristics
JP3668110B2 (ja) 画像伝送システムおよび画像伝送方法
JP4834013B2 (ja) 送信装置、送信プログラム、受信装置及び受信プログラム
JP2007028241A (ja) 映像符号化・送信装置,映像符号化・送信方法,映像符号化・送信プログラムおよびその記録媒体
CN102870416A (zh) 运动图像编码装置以及运动图像解码装置
JP4604851B2 (ja) 送信装置、受信装置、送信処理方法、受信処理方法、それらのプログラム
JP4883801B2 (ja) 通信制御装置、通信制御方法、及びコンピュータプログラム
JP2005033556A (ja) データ送信装置、データ送信方法、データ受信装置、データ受信方法
JP2006339775A (ja) スケーラブル動画像伝送システム
JP6197708B2 (ja) 動画像伝送システム、動画像符号化装置、動画像復号装置及び動画像符号化用コンピュータプログラムならびに動画像復号用コンピュータプログラム
KR101703133B1 (ko) 실시간 소스-채널 복합부호화 방법 및 그 장치
JP5509262B2 (ja) 映像処理装置、映像圧縮符号化装置、映像復号再生装置及び映像再生方法
KR101663769B1 (ko) 실시간 부호화 되는 스케일러블 비디오를 다중 송신그룹으로 보내기 위한 소스 버퍼링을 수행하는 시스템 및 방법
JP2010074677A (ja) 映像処理装置、映像圧縮符号化装置、映像復号再生装置及び映像再生方法
JP2005151176A (ja) 画像伝送方法および装置
KR100782343B1 (ko) 영상 스트리밍 방법
JPH1141608A (ja) 画像伝送装置および画像符号化方法および画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100806

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120501

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121218

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130709

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130806

R151 Written notification of patent or utility model registration

Ref document number: 5339697

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees