以下に本発明の実施の形態を説明するが、本発明の構成要件と、明細書または図面に記載の実施の形態との対応関係を例示すると、次のようになる。この記載は、本発明をサポートする実施の形態が、明細書または図面に記載されていることを確認するためのものである。従って、明細書または図面中には記載されているが、本発明の構成要件に対応する実施の形態として、ここには記載されていない実施の形態があったとしても、そのことは、その実施の形態が、その構成要件に対応するものではないことを意味するものではない。逆に、実施の形態が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その実施の形態が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。
本発明の第1の側面のウェーブレット変換装置は、画像信号に対して複数のレベルのウェーブレット変換を実行するウェーブレット変換装置(例えば、図1のウェーブレット変換装置1)において、前記画像信号に対して、水平方向の低域分析フィルタリングおよび高域分析フィルタリングを行う水平フィルタリング手段(例えば、図1の水平分析フィルタ部11または水平分析フィルタ部20)と、前記水平フィルタリング手段による前記水平方向の分析フィルタリングの結果生成される周波数成分を、前記レベル毎にそれぞれ保持する前記レベル毎に独立したバッファ(例えば、図1のレベル1バッファ12乃至レベル4バッファ15)とを備える。
前記画像信号の要素である輝度信号と色差信号との並び替えを行う並び替え手段(例えば、図1のインターリーブ部10)をさらに備え、前記水平フィルタリング手段(例えば、図1の水平分析フィルタ部11)は、前記並び替え手段により並び替えられた画像信号に対して、前記水平方向の低域分析フィルタリングおよび高域分析フィルタリングを行うことができる。
前記バッファに保持された前記水平方向の分析フィルタリングの結果生成される周波数成分に対して、垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行う垂直フィルタリング手段(例えば、図1のY用垂直分析フィルタ部17またはC用垂直分析フィルタ部18)をさらに備えることができる。
前記垂直フィルタリング手段は、前記画像信号の要素である輝度信号の周波数成分に対して、前記垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行う輝度信号用垂直フィルタリング手段(例えば、図1のY用垂直分析フィルタ部17)と、前記画像信号の要素である色差信号の周波数成分に対して、前記垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行う色差信号用垂直フィルタリング手段(例えば、図1のC用垂直分析フィルタ部18)とを備えることができる。
前記輝度信号用垂直フィルタリング手段による前記垂直方向の分析フィルタリングの結果生成される輝度信号の周波数成分、並びに前記色差信号用垂直フィルタリング手段による前記垂直方向の分析フィルタリングの結果生成される色差信号の周波数成分の各低域成分の並び替えを行う並び替え手段(例えば、図1のインターリーブ部19)をさらに備え、前記水平フィルタリング手段(例えば、図1の水平分析フィルタ部20)は、前記並び替え手段により並び替えられた低域成分に対して、前記水平方向の低域分析フィルタリングおよび高域分析フィルタリングを行うことができる。
前記水平フィルタリング手段および前記垂直フィルタリング手段は、前記ウェーブレット変換のリフティング構成(例えば、図11のリフティング構成)により実現されることができる。
前記画像信号は、複数のピクチャからなるビデオ信号であり、前記ビデオ信号の垂直同期信号を検出することにより各ピクチャの終端を検知する検知手段(図17の垂直同期信号を検出する垂直同期信号検出部)をさらに備え、前記水平フィルタリング手段および前記垂直フィルタリング手段は、ピクチャ毎に分析フィルタリングを行うことができる。
本発明の第1の側面のウェーブレット変換方法またはプログラムは、画像信号に対して複数のレベルのウェーブレット変換を実行するウェーブレット変換装置のウェーブレット変換方法またはプログラムにおいて、前記画像信号に対して、水平方向の低域分析フィルタリングおよび高域分析フィルタリングを行い(例えば、図2のステップS13)、前記レベル毎に独立したバッファに、前記水平方向の分析フィルタリングの結果生成される周波数成分を、前記レベル毎にそれぞれ保持させる(例えば、図2のステップS14)ステップを含む。
本発明の第2の側面のウェーブレット逆変換装置は、画像信号に対して複数のレベルのウェーブレット変換が実行されて生成された周波数成分をウェーブレット逆変換し、画像を復元するウェーブレット逆変換装置(例えば、図18のウェーブレット逆変換装置51)において、前記周波数成分に対して、水平方向の低域合成フィルタリングおよび高域合成フィルタリングを行う水平フィルタリング手段(例えば、図18の水平合成フィルタ部66)と、前記水平フィルタリング手段による前記水平方向の合成フィルタリングの結果生成される周波数成分を前記レベル毎にそれぞれ保持する、最低域(例えば、レベル4)以外のレベル毎に独立したバッファ(例えば、図18のレベル3バッファ61乃至レベル1バッファ63)とを備える。
前記周波数成分に対して、垂直方向の低域合成フィルタリングおよび高域合成フィルタリングを行う垂直フィルタリング手段(例えば、図18の垂直合成フィルタ部65)をさらに備え、前記水平フィルタリング手段は、前記垂直フィルタリング手段による前記垂直方向の合成フィルタリングの結果生成される周波数成分に対して、前記水平方向の低域合成フィルタリングおよび高域合成フィルタリングを行うことができる。
前記垂直フィルタリング手段および前記水平フィルタリング手段は、前記ウェーブレット逆変換のリフティング構成(例えば、図23のリフティング構成)により実現されることができる。
前記垂直フィルタリング手段および前記水平フィルタリング手段により生成された各ピクチャ間に垂直同期信号を挿入し、ビデオ信号を生成する垂直同期信号挿入手段(図17の垂直同期信号を挿入する垂直同期信号挿入部)をさらに備えることができる。
本発明の第2の側面のウェーブレット逆変換方法またはプログラムは、画像信号に対して複数のレベルのウェーブレット変換が実行されて生成された周波数成分をウェーブレット逆変換し、画像を復元するウェーブレット逆変換装置のウェーブレット逆変換方法またはプログラムにおいて、前記周波数成分に対して、水平方向の低域合成フィルタリングおよび高域合成フィルタリングを行い(例えば、図19のステップS63)、最低域以外の前記レベル毎に独立したバッファに、前記水平方向の合成フィルタリングの結果生成される周波数成分を前記レベル毎にそれぞれ保持させる(例えば、図19のステップS65)ステップを含む。
以下、図を参照して本発明の実施の形態について説明する。
図1は、本発明を適用したウェーブレット変換装置の一実施形態に係る構成例を示す図である。このウェーブレット変換装置1は、入力された画像信号に対して、水平方向のフィルタリングと垂直方向のフィルタリングを行いながら、低域成分を、所定の分割レベル(図1の例の場合、分割レベル4)まで階層的に分割する帯域分析装置である。
図1のウェーブレット変換装置1は、インターリーブ部10、水平分析フィルタ部11、レベル1バッファ12、レベル2バッファ13、レベル3バッファ14、レベル4バッファ15、セレクタ16、Y(輝度)用垂直分析フィルタ部17、C(色差)用垂直分析フィルタ部18、インターリーブ部19、水平分析フィルタ部20、および制御部21により構成されている。
インターリーブ部10には、画像信号の要素である輝度信号(輝度成分の信号)D10と色差信号(色差成分の信号)D11が入力される。なお、以下、輝度(成分)を適宜Yとも称し、色差(成分)を適宜Cとも称する。インターリーブ部10は、輝度信号D10と色差信号D11とをインターリーブする。なお、図12を参照して後述するビデオ信号のように、既にYとCとがインターリーブされている画像信号が入力される場合には、もちろん、インターリーブ部10の処理は必要とされない。インターリーブされた画像信号D12は、水平分析フィルタ部11に入力される。
水平分析フィルタ部11は、YとCとがインターリーブされた画像信号D12に対して、分割レベル1の水平方向の低域分析フィルタリングおよび高域分析フィルタリングを行い、水平分析フィルタリング結果である、低域成分の係数と高域成分の係数からなる周波数成分の係数(以下、適宜、低域成分、高域成分、周波数成分とも称する)を生成する。
このとき、水平分析フィルタ部11においては、図示せぬ内蔵メモリ(またはレジスタ)から、ベースバンド上の飛び飛びの位置にあるYまたはCのデータが交互に読み出されながら、YまたはCに対しての水平方向の低域分析フィルタリングおよび高域分析フィルタリングが交互に行われる。
レベル1バッファ12は、分割レベル1の水平分析フィルタリングの結果を記憶、保持する。すなわち、レベル1バッファ12には、水平分析フィルタ部11による分割レベル1の水平分析フィルタリングの結果のYの周波数成分(低域成分と高域成分)およびCの周波数成分(低域成分と高域成分)が別々に記憶、保持される。そして、レベル1バッファ12に垂直方向の分析フィルタリングを実行できるだけの所定の垂直ライン分のデータ(周波数成分)が溜まり次第、垂直ライン分の周波数成分D14は、セレクタ16を介して読み出される。
レベル2バッファ13は、分割レベル2の水平分析フィルタリングの結果を記憶、保持する。すなわち、レベル2バッファ13には、水平分析フィルタ部20による分割レベル2の水平分析フィルタリングの結果のYの周波数成分(低域成分と高域成分)およびCの周波数成分(低域成分と高域成分)が別々に記憶、保持される。そして、レベル2バッファ13に垂直方向の分析フィルタリングを実行できるだけの所定の垂直ライン分の周波数成分が溜まり次第、垂直ライン分の周波数成分D15は、セレクタ16を介して読み出される。
レベル3バッファ14は、分割レベル3の水平分析フィルタリングの結果を記憶、保持する。すなわち、レベル3バッファ14には、水平分析フィルタ部20による分割レベル3の水平分析フィルタリングの結果のYの周波数成分(低域成分と高域成分)およびCの周波数成分(低域成分と高域成分)が別々に記憶、保持される。そして、レベル3バッファ14に垂直方向の分析フィルタリングを実行できるだけの所定の垂直ライン分の周波数成分が溜まり次第、垂直ライン分の周波数成分D16は、セレクタ16を介して読み出される。
レベル4バッファ15は、分割レベル4の水平分析フィルタリングの結果を記憶、保持する。すなわち、レベル4バッファ15には、水平分析フィルタ部20による分割レベル4の水平分析フィルタリングの結果のYの周波数成分(低域成分と高域成分)およびCの周波数成分(低域成分と高域成分)が別々に記憶、保持される。そして、レベル4バッファ15に垂直方向の垂直方向の分析フィルタリングを実行できるだけの所定の垂直ライン分の周波数成分が溜まり次第、垂直ライン分の周波数成分D17は、セレクタ16を介して読み出される。
セレクタ16は、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18の制御のもと、レベル1バッファ12乃至レベル4バッファ15のうち、対応する分割レベルのバッファからの出力を選択し、選択した出力を、周波数成分D18として、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18に出力する。
Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18は、セレクタ16からの所定の垂直ライン分の周波数成分D18に対して、YおよびCの垂直分析フィルタリングをそれぞれ行う。
すなわち、Y用垂直分析フィルタ部17は、対応する分割レベルのバッファから、Yの所定の垂直ライン分の周波数成分D18を読み出し、Yの垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行い、Yの垂直分析フィルタリング結果の周波数成分のうち、Yの水平方向も垂直方向も低域である低域成分D19のみをインターリーブ部19に出力し、Yのそれ以外の高域成分D23をウェーブレット変換装置1の図示せぬ外部(以下、単に外部と称する)に出力する。
C用垂直分析フィルタ部18は、対応する分割レベルのバッファから、Cの所定の垂直ライン分の周波数成分D18を読み出し、Cの垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行い、Cの垂直分析フィルタリング結果の周波数成分のうち、Cの水平方向も垂直方向も低域である低域成分D20のみをインターリーブ部19に出力し、Cのそれ以外の高域成分D24を外部に出力する。
インターリーブ部19は、Y用垂直分析フィルタ部17からのYの低域成分D19と、C用垂直分析フィルタ部18からのCの低域成分D20をインターリーブする。インターリーブされた低域成分D21は、水平分析フィルタ部20に入力される。
水平分析フィルタ部20は、処理する対象の周波数成分の分割レベルが異なるだけであり、基本的に、水平分析フィルタ部11と同様に構成される。すなわち、水平分析フィルタ部20においては、図示せぬ内蔵メモリから、ベースバンド上の飛び飛びの位置にあるYまたはCの低域成分D21が交互に読み出されながら、YまたはCの低域成分D21に対しての水平方向の低域分析フィルタリングおよび高域分析フィルタリングが交互に行われる。
そして、水平分析フィルタ部20は、水平分析フィルタリング結果である周波数成分(低域成分と高域成分)D22を、対応するレベルのバッファ(レベル2バッファ13乃至レベル4バッファ15のうちのいずれか)に記憶、保持させる。
制御部21は、例えばCPU(Central Processing Unit)、ROM(Read Only Memory)、およびRAM(Random Access Memory)を含むマイクロコンピュータなどにより構成され、各種のプログラムなどを実行することにより、ウェーブレット変換装置1の各部の処理を制御する。
次に、図2のフローチャートを参照して、図1のウェーブレット変換装置1の動作について説明する。すなわち、図2の例においては、ウェーブレット変換装置1により実行されるウェーブレット変換処理が示されている。
外部(例えば、後述する図28のビデオカメラ部303など)から、インターリーブ部10に画像信号が入力される。インターリーブ部10は、ステップS11において、インターリーブするか否かを判定する。例えば、画像信号の要素である輝度信号D10および色差信号D11が入力された場合、ステップS11において、インターリーブすると判定され、処理は、ステップS12に進み、インターリーブ部10は、内蔵するメモリにおいて、輝度信号D10および色差信号D11をインターリーブする。インターリーブされた画像信号D12は、水平分析フィルタ部11に入力される。
また、図12を参照して後述するビデオ信号のように、YとCとがインターリーブされている画像信号(すなわち、画像信号D12に相当)が入力された場合、ステップS11において、インターリーブしないと判定され、YとCとがインターリーブされている画像信号D12がインターリーブ部10を介してそのまま水平分析フィルタ部11に入力される。そして、処理は、ステップS12をスキップし、ステップS13に進む。
ステップS13において、水平分析フィルタ部11は、YとCとがインターリーブされた画像信号D12に対して、分割レベル1の水平分析フィルタリングを行う。
すなわち、水平分析フィルタ部11は、図示せぬ内蔵メモリ(またはレジスタ)を備えており、内蔵メモリには、図3に示されるように、YとCとが交互にインターリーブされた画像信号が展開されていく。図3の例においては、メモリに、四角で示されるYとCとが交互に展開された画像信号のベースバンドが示されている。
水平分析フィルタ部11は、内蔵メモリに展開されたベースバンド上の飛び飛びの位置にある所定の数(図3の場合、3サンプル数)のYのデータまたは所定の数のCのデータを、位置をずらしながら順番に読み出し、Yの水平方向の低域分析フィルタリングおよび高域分析フィルタリングと、Cの水平方向の低域分析フィルタリングおよび高域分析フィルタリングを交互に行う。
水平方向のデータは、メモリの番地に容易に展開しやすい。したがって、水平分析フィルタ部11において、メモリからYのデータとCのデータを交互に読み出しながら、YとCの水平分析フィルタリングを順番に実行することは、容易に可能である。
水平分析フィルタ部11は、ステップS14において、分割レベル1の水平分析フィルタリング結果の周波数成分を、対応するレベルのバッファ(いまの場合、レベル1バッファ12)に記憶させる。
このとき、水平分析フィルタ部11は、図4に示されるように、Yの水平分析フィルタリング結果であるYの高域成分(H)と低域成分(L)をインターリーブさせて、レベル1バッファ12にCとは別に記憶させ、次に、Cの水平分析フィルタリング結果であるCの高域成分と低域成分をインターリーブさせて、レベル1バッファ12にYとは別に記憶させる。
なお、従来においては、水平分析フィルタリングの結果は、図5に示されるように、YについてもCについても、低域と高域の両成分に分割されて、バッファに記憶されていた。しかしながら、従来のように、低域成分と高域成分をバッファの別のアドレスにマッピングするには、それを分配するためのコントローラが別途必要になる。
これに対して、本発明の例が示される図4の例においては、レベル1バッファ12に、Yの高域成分(H)と低域成分(L)が交互に記憶されており、Yとは別のアドレスに、Cの高域成分(H)と低域成分(L)が交互に記憶されている。すなわち、水平分析フィルタ部11により、YおよびC毎に水平分析フィルタリング結果である高域成分と低域成分がインターリーブされて、レベル1バッファ12に記憶されるので、このレベル1バッファ12に記憶されている周波数成分を読み出す際に、レベル1バッファ12の先頭から順番に読み出すだけでよく、制御を単純(シンプル)にすることができる。
図2に戻り、例えば、図4に示されるレベル1バッファ12に水平分析フィルタリング結果の周波数成分が、垂直分析フィルタリングを実行できるだけの所定の垂直ライン分(図4の場合、3ライン分)溜まると、ステップS15において、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18は、セレクタ16がレベル1バッファ12の出力を選択するように制御することで、必要な垂直ライン分の周波数成分をレベル1バッファ12から読み出させる。読み出された周波数成分は、YおよびCの周波数成分D18として、セレクタ16を介して、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18にそれぞれ入力される。
ステップS16において、Y用垂直分析フィルタ部17は、所定の垂直ライン分(図4の場合、3ライン分)のYの周波数成分に対して、対応する分割レベル(いまの場合、分割レベル1)のYの垂直分析フィルタリングを行う。ステップS17において、C用垂直分析フィルタ部18は、所定の垂直ライン分(図4の場合、3ライン分)のCの周波数成分に対して、対応する分割レベル(いまの場合、分割レベル1)のCの垂直分析フィルタリングを行う。なお、これらのステップS16およびS17は並行に実行される処理であり、これらの処理については、図8を参照して詳しく後述する。
分割レベル1のYとCの垂直分析フィルタリングの結果(すなわち、分割レベル1のYとCの分析フィルタリングの結果)、図6に示されるように、YとCについて、それぞれ、低域成分(1LL)および高域成分(1HH,1LH,1HH)からなる4つの周波数成分が生成される。なお、図6の例における「L」および「H」の順序は、前側が水平分析フィルタリングを行った結果の帯域(低域または高域)を示し、後側が垂直分析フィルタリングを行った結果の帯域を示す。また、「L」および「H」の前の数字は分割レベルを表す。
以上が分割レベル1の分析フィルタリングであり、その結果、Y用垂直分析フィルタ部17においては、Yの低域成分(1LL)D19と高域成分(1HL,1LH,1HH)D23が生成され、C用垂直分析フィルタ部18においては、Cの低域成分(1LL)D20と高域成分(1HL,1LH,1HH)D24が生成される。なお、これらのうち、各低域成分(1LL) だけは設定されている分割レベル(最終レベル)まで再度分析されるが、高域成分は、通常それ以上に分析されない。すなわち、低域成分は、最終レベルまでさらに分割されるので、最終レベルは、最低域を出力する最低域レベルとも言える。
ステップS18において、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18は、分析フィルタリングが、設定されている分割レベルの最終レベル(図1の場合、分割レベル4)まで終了したか否かを判定する。分割レベル1の場合、まだ、最終レベルまで終了していないので、処理は、ステップS19に進む。
ステップS19において、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18は、Yの高域成分(1HL,1LH,1HH)D23とCの高域成分(1HL,1LH,1HH)D24を、外部(例えば、後述する図24の量子化部112)に出力する。
一方、Yの低域成分(1LL)D19とCの低域成分(1LL)D20は、インターリーブ部19に出力される。したがって、ステップS20において、インターリーブ部19は、Yの低域成分(1LL)D19とCの低域成分(1LL)D20をインターリーブし、インターリーブした低域成分D21を水平分析フィルタ部20に入力する。
すなわち、図7に示されるように、Yの各周波数成分のうちの低域成分(1LL)D19とCの各周波数成分のうちの低域成分(1LL)D20は、交互にインターリーブ合成される。なお、図7の例においては、図中下部に示されるYとCがインターリーブされた後の低域成分(1LL)の大きさが、点線に示されるインターリーブ前のYまたはCのみの低域成分(1LL)と同じサイズで示されているが、実際には、YまたはCのみの低域成分の2倍の大きさとなる。
ステップS21において、水平分析フィルタ部20は、YとCとがインターリーブされた低域成分D21に対して、対応する分割レベル(いまの場合、分割レベル2)の水平分析フィルタリング(水平方向の低域分析フィルタリングおよび高域分析フィルタリング)を行い、水平分析フィルタリング結果である低域成分と高域成分を生成する。なお、ステップS21の処理は、処理対象の周波数成分の分割レベルが異なるだけであり、上述したステップS13の処理と基本的に同様の処理である。
ステップS21の後、処理は、ステップS14に戻り、それ以降の処理が繰り返される。すなわち、ステップS14において、水平分析フィルタ部20は、水平分析フィルタリング結果の周波数成分(低域成分と高域成分)D22を、図4を参照して上述したように、対応するレベルのバッファ(いまの場合、レベル2バッファ13)に記憶、保持させる。
そして、レベル2バッファ13に水平分析フィルタリング結果の周波数成分が、垂直分析フィルタリングを実行できるだけの所定の垂直ライン分溜まると、ステップS15において、所定の垂直ライン分の周波数成分がレベル2バッファ13から読み出され、セレクタ16を介して、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18に入力される。そして、ステップS16において、所定の垂直ライン分のYの周波数成分に対して、分割レベル2のYの垂直分析フィルタリングが行われ、ステップS17において、所定の垂直ライン分のCの周波数成分に対して、分割レベル2のCの垂直分析フィルタリングが行われる。
これらのレベル2のYとCの垂直分析フィルタリングの結果、YとCについて、それぞれ、低域成分(2LL)および高域成分(2HH,2LH,2HH)からなる4つの周波数成分が生成され、ステップS18において、最終レベルまで終了していないと判定され、ステップS19において、高域成分(2HH,2LH,2HH)が外部に出力される。そして、ステップS20において、低域成分(2LL)のYおよびCがインターリーブされ、ステップS21において、YとCとがインターリーブされた低域成分(2LL)に対して、分割レベル2の水平分析フィルタリングが行われて、水平分析フィルタリング結果である低域成分と高域成分が生成され、再度、処理は、ステップS14に戻り、生成された低域成分と高域成分が、レベル3バッファ14に記憶、保持され、それ以降の処理が予め設定された分割レベルの最終レベルまで繰り返される。
以上の一連の処理が、予め設定された分割レベルの最終レベル(分割レベル4)のYとCの垂直分析フィルタリングまで、同様に行われる。その後、ステップS18において、最終レベルまで終了したと判定され、処理は、ステップS22に進む。
ステップS22において、Y用垂直分析フィルタ部17およびC用垂直分析フィルタ部18は、最終レベルの輝度の周波数成分 (4LL,4HL,4LH,4HH)D23と、最終レベルの色差の周波数成分(4LL,4HL,4LH,4HH)D24を、外部に出力する。これにより、分割レベル4の画像信号のウェーブレット変換は終了される。
以上のように、図1のウェーブレット変換装置1においては、レベル1から所定のレベル数までの分割レベル毎のバッファを備え、水平分析フィルタリングを行いながら、水平分析フィルタリングの結果を、分割レベル毎のバッファに記憶させている。したがって、この水平分析フィルタリングの結果を、分割レベル毎のバッファから読み出しながら、垂直方向のフィルタリングを行うことができる。すなわち、水平方向と垂直方向のフィルタリングを同時並行的に動作させることができる。
これにより、動画像や解像度が大きい画像に対しても、高速にウェーブレット変換を実行することができる。
また、レベル1から所定のレベル数までの分割レベル毎のバッファを内蔵メモリで対応するようにしたので、上述した特許文献1のように外部メモリが不要になる。
これにより、外部メモリとのデータのやり取りが必要なくなり、外部メモリに対してアクセスを行う場合よりさらに高速にウェーブレット変換を行うことができるようになる。この結果、外部メモリとウェーブレット変換装置との間でデータの高速化のための手段として、クロック(周波数)を上げる必要もないので、省電力化することができる。
また、水平方向の分析フィルタリングを、YとCがインターリーブされた周波数成分に対して行うようにしたので、水平分析フィルタ部を1つで構成することができ、ハードウェアの規模縮小に大きく寄与することができる。この水平方向にインターリーブされたデータは、レジスタやメモリに容易に展開することができ、しかも、読み書きを高速に行うことができるので、ウェーブレット変換の高速化にも寄与することができる。
さらに、図4および図5を参照して上述したように、水平分析フィルタリング結果である高域成分と低域成分を、YおよびC毎にそれぞれインターリーブして、対応するレベルのバッファにYおよびC毎に記憶するようにしたので、データの読み出しの際には、そのレベルのバッファの先頭から順番に読み出すだけでよく、制御を単純(シンプル)にすることができる。
また、垂直方向の分析フィルタリングについては、YとCで別々に行うようにしたので、図8に示される垂直方向の分析フィルタリングをYとCで別々に行わない場合に必要となってしまう大容量のメモリは必要なくなるため、コストの急増を防ぐことができる。また、処理時間がかかることも抑制することができる。
すなわち、図8を参照して、本発明との差を比較するために、垂直方向の分析フィルタリングをYとCで別々に行わない場合、すなわち、水平分析フィルタ部11および19のように、YとCをインターリーブさせてから、YとCの垂直フィルタリングがずらしながら交互に行われる場合を具体的に説明する。
図8の例においては、インターリーブされたYとCが展開されるラインバッファの例が示されている。例えば、画像がnラインで構成される場合、ラインバッファには、まず、1ライン目の輝度成分Y1が展開され、次に、1ライン目の色差成分C1が展開され、2ライン目の輝度成分Y2が展開され、次に、2ライン目の色差成分C2が展開され、3ライン目の輝度成分Y3が展開され、次に、3ライン目の色差成分C3が展開され、…、nライン目の輝度成分Ynが展開され、次に、nライン目の色差成分Cnが展開されて、インターリーブされたYとCがラインバッファに展開されていく。
すなわち、図1のY用垂直分析フィルタ部17とC用垂直分析フィルタ部18のように、YとCを別々に処理する場合には、YとCを別々に読み出してくればよいが、YとCを一緒に処理するためには、YとCをインターリーブして展開する必要があるため、C(またはY)用のラインバッファが余計に必要となってしまう。
また、例えば、垂直分析フィルタリングは、それを実行できるだけのライン(例えば、3ライン)が溜まり次第行われるので、図8の例においては、実質的には、上から5ライン目の輝度成分Y3が溜まったところで、Yの垂直分析フィルタリングが行われ、上から6メイン目の色差信成分C3が溜まったところで、Cの垂直分析フィルタリングが行われるというように、交互にYとCの垂直分析フィルタリングが行われる。
これに対して、図1のY用垂直分析フィルタ部17とC用垂直分析フィルタ部18の場合、YとCの垂直分析フィルタリングが並行で行われるので、単位時間あたりの処理速度が、図8の例の場合より速い。
以上のように、YとCをインターリーブさせてから、YとCの垂直分析フィルタリングを行う場合、垂直分析フィルタ部が1つで済むというメリットはあるが、本発明の場合と比較して、C用(またはY用)のラインバッファが余計に必要になる。このラインバッファを、内蔵メモリに構成する場合には、水平解像度が大きい画像(例えば、HDTV(High Definition TeleVision)では1920画素)では、非常に大容量のメモリが必要になり、コストが急増してしまう。また、図8の例の場合、垂直分析フィルタ部1つでCおよびYの処理を交互に行わなければならないため、Y用とC用の2つの垂直分析フィルタ部で並列して処理を行う本発明の場合と比較して処理時間がかかってしまう。
以上のことから、YとCをインターリーブさせてから、YとCの垂直分析フィルタリングを行う場合、メリットよりもデメリットが大きくなってしまう。これに対して、本発明のように、Y用およびC用の2つの垂直分析フィルタ部で処理を並列して行う場合には、それぞれ他方のラインバッファは必要ないので、コストの急増を抑制することができ、さらに、2つの垂直分析フィルタ部での処理を並列で行うことができるので、処理時間を早くすることができる。
なお、上述したように、Y用垂直分析フィルタ部17によるYの垂直分析フィルタリングと、C用垂直分析フィルタ部18によるCの垂直分析フィルタリングは、並行で処理されるが、一般的に、輝度成分の方が色差成分よりもデータ量が大きいので、フィルタリングの実行時間も長くなる傾向があり、これらの処理を同時に開始させても同時には終了しない。
そこで、YおよびCの垂直分析フィルタリングの結果のうち、高域成分D23およびD24は、再度、水平分析フィルタリングを行うことがないので、図9に示されるように、一方が他方を待つことなく次々に行われる。
すなわち、図9の例においては、1ライン目の色差成分C1の処理と同時に開始された1ライン目の輝度成分Y1の処理の後に、2ライン目の輝度成分Y2の処理、3ライン目の輝度成分Y3の処理、…、nライン目の輝度成分Ynの処理が次々行われて、Yの垂直分析フィルタリングが終了されている。
また、2ライン目の色差成分C2の処理は、1ライン目の色差成分C1の処理と同時に開始された1ライン目の輝度成分Y1の処理の終了を待つことなく、1ライン目の色差成分C1の処理の後に行われ、2ライン目の色差成分C2の処理の後に、3ライン目の色差成分C3の処理、…、nライン目の色差成分Cnの処理が次々行われて、Cの垂直分析フィルタリングが、Yの垂直分析フィルタリングの終了よりも前に終了されている。
一方、YおよびCの垂直分析フィルタリングの結果のうち、低域成分D19およびD20は、その後に、インターリーブ部19においてインターリーブを行う必要があるので、図10に示されるように、両方のデータの出力タイミングを合わせる必要がある。
すなわち、図10の例においては、図9の例の場合と同様に、1ライン目の色差成分C1の処理が同時に開始された1ライン目の輝度成分Y1の処理の後に、2ライン目の輝度成分Y2の処理、3ライン目の輝度成分Y3の処理、…、nライン目の輝度成分Ynの処理が次々行われて、Yの垂直分析フィルタリングが終了されている。
これに対して、2ライン目の色差成分C2の処理は、1ライン目の色差成分C1の処理の後すぐではなく、1ライン目の色差成分C1の処理が同時に開始された1ライン目の輝度成分Y1の処理の終了を待ってから行われる。3ライン目の色差成分C3の処理は、2ライン目の色差成分C2の処理の後すぐではなく、2ライン目の輝度成分Y2の処理の終了を待ってから行われる。そして、nライン目の色差成分Cnの処理は、n−1ライン目の色差成分Cn-1の処理の後すぐではなく、n−1ライン目の輝度成分Y n-1の処理の終了を待ってから行われる。
以上のように、垂直方向の分析フィルタリングをYとCで別々(並行)に行うためには、YとCの結果の低域成分の出力タイミングを合わせることが必要である。これにより、図7を参照して上述したYとCの低域成分のインターリーブをスムーズに行うことができる。
次に、上述した分析フィルタリングにおける演算方法について説明する。分析フィルタリングにおける演算方法で最も一般的な演算方法は、畳み込み演算と呼ばれる方法である。この畳み込み演算は、デジタルフィルタの最も基本的な実現手段であり、フィルタのタップ係数に、実際の入力データを畳み込み乗算するものである。しかしながら、この畳み込み演算では、タップ長が長いとその分、計算負荷が増えてしまう場合もある。
これに対応する方法として、論文「W.Swelden,“The lifting scheme :A custom-design construction of Biorthogonal wavelets.”, Appl. Comput. Harmon. Anal., vol3, no.2, pp.186-200, 1996」で紹介されたウェーブレット変換のリフティング技術が知られている。
図11は、JPEG(Joint Photographic Experts Group)2000規格でも採用されている5×3分析フィルタのリフティング構成を示している。この5×3分析フィルタに対してリフティング技術を適用したときの分析フィルタリングについて説明する。
図11の例において、最上段部、中段部、および最下段部は、それぞれ、入力画像の画素列、高域成分出力、および低域成分出力を示している。最上段部は、入力画像の画素列に限らず、前の分析フィルタリングで得られた係数(周波数成分)であってもよい。ここでは、最上段部が入力画像の画素列であるものとし、四角印(■)が偶数番目の画素またはライン、丸印(●)が奇数番目の画素またはラインとする。
まず、第1段階として、次の式(1)のように、入力画素列から、高域成分の係数が生成される。
次に、第2段階として、この生成された高域成分の係数と、入力画素列の奇数番目の画素とを用いて、次の式(2)のように低域成分の係数が生成される。
このように、分析フィルタリングにおいては、まず高域成分の係数が生成された後に、低域成分の係数が生成される。この際に用いられる2種類のフィルタバンクは、式(1)および式(2)に示されるように、加算とシフト演算のみで実現できる。また、Z変換表現すれば、次の式(3)に示されるように、僅か2タップのフィルタになる。すなわち、本来5タップ必要なフィルタが2タップで済むことになり、計算量を大幅に低減することができる。そこで、ウェーブレット変換装置1においても、水平分析フィルタリングおよび垂直分析フィルタリングに、このリフティング技術を適用することが好ましい。
ところで、上記説明においては、一般の画像信号を用いて、図1のウェーブレット変換装置1の構成や動作を説明したが、次に、動画像であるビデオ信号がウェーブレット変換装置1に入力される場合について説明する。
ビデオ信号は、通常規格で定められており、例えば、現在我々が視聴しているテレビジョン放送の規格は、NTSC(National Television Standards Committee)方式である。また、HDTV方式は、米国の規格化団体SMPTE(The Society of Motion Picture and Television Engineers)によって、SMPTE274Mという規格番号で標準化されている。ここでは、HDTV方式(1920×1080の解像度)を用いて説明する。
図12は、HDTV方式のビデオ信号のデータの構成要素を示している。ビデオ信号のうち、輝度成分Yの実サンプルデータ数は、1ライン当り1,920サンプルであり、Yの実サンプルデータの前に、EAV(End of Active Video)、SAV(Start of Active Video)のサンプルデータが配置される。これらは、計280サンプルからなる。この構成は、色差成分Cb,Crについても同様であるが、4:2:2のフォーマットであり、Cb,Crの実サンプルデータ数は、各々Yの半分であるため、CbとCrを合わせてYと同数になる。
このYとCb,Crを多重化すると、EAVおよびSAVで計560サンプル、Y,Cb,Crで計3840サンプルのデータが生成される。このように、HDTV方式のSMPTE274M規格(通称HD-SDI I(High Definition-Serial Data Interface)規格)の信号は、既にYとCとがインターリーブされている。したがって、この多重化されたサンプルデータは、図1の例における画像信号D12に相当することになる。すなわち、図1のインターリーブ部10には、画像信号D12が入力され、図2のステップS11を参照して上述したように、この画像信号D12は、そのまま水平分析フィルタ部11に入力されることになる。以降、これを前提として説明を続ける。
ウェーブレット変換装置1に、画像信号として、ビデオ信号が入力される場合には、1秒間に60フィールドのピクチャが1/60秒の速度で入力されるので、この短い時間内に、図2を参照して上述したウェーブレット変換処理を完了させなければならない。すなわち、高速にウェーブレット変換を行う必要がある。
その1つの方法として、図13に示されるように、水平分析フィルタ部11においては、ビデオ信号(画像信号D12)を入力しながら、水平方向の列数(サンプル数)が所定数に達した時点で直ちに水平方向の低域分析フィルタおよび高域分析フィルタリングが行われるようにする。なお、図13の例においては、輝度信号Yの場合が示されているが、色差信号Cの場合も同様に処理される。また、説明は省略するが、水平分析フィルタ部20についても同様である。
例えば、水平分析フィルタ部11は、内蔵メモリに、YとCがインターリーブされた画像信号D12が2Mコラム(列)分だけ入力されて展開されるまで待機している。このMの値は、水平分析フィルタリングのタップ数に対応しており、タップ数が大きければその分だけMの値は大きくなる。なお、画像信号D12は、YとCがインターリーブされているので、Mの2倍のコラム分の記憶が待たれる。
水平分析フィルタ部11は、内蔵メモリにYがMコラム分溜まった時点で直ちに水平分析フィルタリングを行う。すなわち、水平分析フィルタ部11は、内蔵メモリよりYのMコラム分(例えば、図3の場合、M=3)を順次読み出し、Yの水平方向の低域分析フィルタリングと高域分析フィルタリングとを行う。そして、その水平分析フィルタリングの結果であるYの低域成分と高域成分がインターリーブされて、レベル1バッファ12に記憶される。レベル1バッファ12に記憶されているYの低域成分および高域成分は、ライン数がNラインになり次第、読み出され、Y用垂直分析フィルタ部17に入力される。
そして、Y用垂直分析フィルタ部17は、Yの低域および高域成分のライン数がNライン(図4の場合、N=3)分溜まった時点で、直ちに、垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行う。このNの値は、垂直分析フィルタリングのタップ数に対応しており、タップ数が大きければその分だけNの値は多くなる。この垂直分析フィルタリングにより、図13および図14に示すように、Yの垂直分析フィルタリング結果の低域成分(1LL)D19と、高域成分(1HL,1LH,1HH)D23とが生成される。
なお、説明は省略するが、水平分析フィルタ部11においては、Yの水平分析フィルタリングの後、Yの水平分析フィルタリングと同様に、Cの水平分析フィルタリングが位置をずらして行われ、C用垂直分析フィルタ部18においては、Y用垂直分析フィルタ部17の処理と並行して、水平分析フィルタリングの結果に対して、Yの垂直分析フィルタリングと同様に、Cの垂直分析フィルタリングが行われ、Cの垂直分析フィルタリング結果の低域成分(1LL)D20と、高域成分(1HL,1LH,1HH)D24が生成されている。
そして、垂直分析フィルタリングの後、インターリーブ部19において、Yの低域成分D19とC低域成分D20がインターリーブされ、水平分析フィルタ部20においては、インターリーブ部19のメモリに、YとCとがインターリーブされた低域成分D21が水平方向の分析フィルタリングが可能になるだけのコラム数が溜まった時点で、直ちに、分割レベル2の水平分析フィルタリングが行われる。なお、このように、低域成分が繰り返し分析されるのは、画像信号のエネルギの大部分が低域成分に集中しているためである。
水平分析フィルタ部20は、分割レベル2の水平分析フィルタリングとして、内蔵メモリよりYのMコラム分を順次読み出し、Yの水平方向の低域分析フィルタリングと高域分析フィルタリングとを行い、その水平分析フィルタリングの結果であるYの低域成分と高域成分をインターリーブして、レベル2バッファ13に記憶する。説明は省略するが、Cについても同様である。
そして、垂直分析フィルタ部18は、図14に示すように、レベル2バッファ13の低域成分および高域成分のライン数がN/2ラインになり次第、Yの垂直方向の低域分析フィルタリングおよび高域分析フィルタリングを行う。この垂直フィルタリングにより、図15に示すように、低域成分(2LL)と高域成分(2HL,2LH,2HH)が生成される。すなわち、図15の例においては、分割レベル1の1LLの周波数成分が、2LL, 2HL,2LH,2HHの4つの周波数成分に分割されている。
以上のように、所定の分割レベルまで繰り返し実行されるウェーブレット変換が、後続するビデオ信号を入力しながら、1ピクチャのビデオ信号の終端まで繰り返し実行されることで、1画像が所定の分割レベルまで帯域分割される。
なお、さらに分割レベル数を増やす場合には、低域成分に対して繰り返し分析フィルタリングを行えばよい。図16は、実際の画像が、N=4とした分析フィルタリングによって分割レベル3まで分割された例を示す図である。
すなわち、この画像に対して、分割レベル1の垂直分析フィルタリングにおいては、4ライン分の周波数成分が溜まった時点ですぐに、垂直分析フィルタリングが行われ、分割レベル2の垂直分析フィルタリングにおいては、2ライン分の周波数成分が溜まった時点ですぐに、垂直分析フィルタリングが行われ、分割レベル3の垂直分析フィルタリングにおいては、1ライン分の周波数成分が溜まった時点ですぐに、垂直分析フィルタリングが行われることにより、分割レベル3まで分割されたことがわかる。
以上のように、所定の列数分または所定のライン数分の周波数成分が溜まった時点ですぐに分析フィルタリングを行うようにしたので、1ピクチャのビデオ信号の分析フィルタリングを効率的に行うことができる。すなわち、高速にウェーブレット変換を行うことができる。
また、このように、最低域成分1ライン分の係数データが得られるだけの分析フィルタリングを、画面全体のラインに対して複数回に分けて段階的に行うことで、さらに、図28などで後述するが、例えば、ウェーブレット変換後の周波数成分を符号化し伝送して、復号を行うようなシステムにおいて、低遅延で復号画像を得ることができる。
なお、以上のビデオ信号に対しての分析フィルタリングは、ビデオ信号を構成するピクチャ(フィールドまたはフレーム)単位で行われるため、ピクチャの終端を検知し、分析フィルタリングの動作を停止してリセットする必要がある。この場合、その図示は省略するが、ピクチャの終端を検知するために、例えば、インターリーブ部10などに、ビデオ信号の垂直同期信号を検出する垂直同期信号検出部を内蔵させるようにウェーブレット変換装置1が構成される。
図17は、SMPTE274M規格の信号のうち、インタレース信号の信号分布図である。図17の例において、上段は、第1フィールド、下段は、第2フィールドを示す。第1フィールドの先頭には、22ライン分の垂直同期信号が存在しており、第2フィールドの先頭には、23ライン分の垂直同期信号が存在している。
したがって、ウェーブレット変換装置1においては、インターリーブ部10などに、ビデオ信号の垂直同期信号を検出する垂直同期信号検出部を内蔵させ、内蔵された垂直同期信号検出部に、これらの垂直同期信号を検出させる。
これにより、容易にピクチャの終端を検出することができ、検出次第、分析フィルタリングの動作を停止させることができる。すなわち、ビデオ信号に対しての分析フィルタリングを、ビデオ信号を構成するピクチャ(フィールドまたはフレーム)単位で行うことができる。
図18は、図1のウェーブレット変換装置に対応したウェーブレット逆変換装置の一実施形態に係る構成例を示す図である。このウェーブレット逆変換装置51は、図1のウェーブレット変換装置1により画像信号が所定の分割レベル(図18の例の場合、分割レベル4)までウェーブレット変換して分割された周波数成分を入力して、合成フィルタリングを行う帯域合成装置である。なお、もちろん、ウェーブレット変換の分割レベル数が異なれば、その分割レベル数分だけのウェーブレット逆変換が行われる。
図18のウェーブレット逆変換装置51は、レベル3バッファ61、レベル2バッファ62、レベル3バッファ63、セレクタ64、垂直合成フィルタ部65、水平合成フィルタ部66、セレクタ67、および制御部68により構成されている。すなわち、ウェーブレット逆変換装置51には、最低域レベル(分割レベル4)以外の分割レベル毎に独立したバッファ(レベル3バッファ61乃至レベル3バッファ63)が構成されている。
図示せぬ外部(例えば、後述する図28のディジタル復調部313など)より、分割レベル4の周波数成分(4LH,4HH)D61と分割レベル4の周波数成分(4LL,4HL)D62が、セレクタ64に入力される。分割レベル3の周波数成分(3LH,3HH)D63と分割レベル3の周波数成分(3HL)D64が、レベル3バッファ61に入力される。分割レベル2の周波数成分(2LH,2HH)D65と分割レベル2の周波数成分(2HL)D66が、レベル2バッファ62に入力される。分割レベル1の周波数成分(1LH,1HH)D67と分割レベル1の周波数成分(1HL)D68が、レベル1バッファ63に入力される。
レベル3バッファ61は、分割レベル4の垂直合成フィルタリングの結果に対して水平合成フィルタリングが行われた結果の分割レベル3の低域成分(3LL)D80と、外部からの分割レベル3の周波数成分(3LH,3HH)D63と分割レベル3の周波数成分(3HL)D64を記憶、保持する。分割レベル3の低域成分(3LL)D80と分割レベル3の周波数成分(3HL)D64とは、レベル3バッファ61においてまとめられて、分割レベル3の周波数成分(3LL,3HL)D70としてレベル3バッファ61から出力され、分割レベル3の周波数成分(3LH,3HH)D63は、そのまま、分割レベル3の周波数成分(3LH,3HH)D69としてレベル3バッファ61から出力される。
レベル2バッファ62は、分割レベル3の垂直合成フィルタリングの結果に対して水平合成フィルタリングが行われた結果の分割レベル2の低域成分(2LL)D80と、外部からの分割レベル2の周波数成分(2LH,2HH)D65と分割レベル2の周波数成分(2HL)D66を記憶、保持する。分割レベル2の低域成分(2LL)D80と分割レベル2の周波数成分(2HL)D66とは、レベル2バッファ62においてまとめられて、分割レベル2の周波数成分(2LL,2HL)D72としてレベル2バッファ62から出力され、分割レベル2の周波数成分(2LH,2HH)D65は、そのまま、分割レベル2の周波数成分(2LH,2HH)D71としてレベル2バッファ62から出力される。
レベル1バッファ63は、分割レベル2の垂直合成フィルタリングの結果に対して水平合成フィルタリングが行われた結果の分割レベル1の低域成分(1LL)D80と、外部からの分割レベル1の周波数成分(1LH,1HH)D67と分割レベル1の周波数成分(1HL)D68を記憶、保持する。分割レベル2の低域成分(1LL)D80と分割レベル1の周波数成分(1HL)D68とは、レベル1バッファ63においてまとめられて、分割レベル1の周波数成分(1LL,1HL)D74としてレベル1バッファ63から出力され、分割レベル1の周波数成分(1LH,1HH)D67は、そのまま、分割レベル1の周波数成分(1LH,1HH)D73としてレベル1バッファ63から出力される。
セレクタ64は、垂直合成フィルタ部65の制御のもと、外部、およびレベル3バッファ61乃至レベル1バッファ63のうち、外部または対応する分割レベルのバッファからの出力を選択し、選択した出力を、周波数成分(LH,HH)D75と周波数成分(LL,HL)D76として垂直分析フィルタ部65に出力する。
垂直合成フィルタ部65は、水平方向の帯域がLで共通する周波数成分LLと周波数成分LHの両方の同一位置にある係数を参照して、垂直方向に所定数(垂直合成フィルタリングを実行可能だけの数)を集めて垂直合成フィルタリングを行う。同様に、垂直合成フィルタ部65は、水平方向の帯域がHで共通である周波数成分HLと周波数成分HHの両方の同一位置にある係数を参照して、垂直方向に所定数(垂直合成フィルタリングを実行可能だけの数)を集めて垂直合成フィルタリングを行う。垂直合成フィルタリングの結果生成された水平方向の低域(L)成分D77と水平方向の高域(H)成分D78は、水平合成フィルタ部66に出力される。
水平合成フィルタ部66は、水平方向の低域(L)成分D77と、水平方向の高域(H)成分D78の同一位置にある係数を参照して、水平方向に所定数(水平合成フィルタリングを実行可能だけの数)を集めて水平合成フィルタリングを行う。この結果、画像の上位ラインから順番に低域成分のラインが生成されて、低域成分(または画像)D79が、セレクタ67に出力される。
セレクタ67は、制御部68の制御のもと、次の分割レベルに進む場合には、低域成分D80を、次の分割レベルに対応するレベルバッファに記憶させるため、次の分割レベルに対応するレベルバッファ側へ出力し、ウェーブレット逆変換が、ウェーブレット変換における最初の分割レベル(すなわち、分割レベル1)まで完了した場合には、ベースバンド画像D81を外部に出力する。
制御部68は、例えばCPU、ROM、およびRAMを含むマイクロコンピュータなどにより構成され、各種のプログラムなどを実行することにより、ウェーブレット逆変換装置51の各部の処理を制御する。
なお、図1のウェーブレット変換装置1においては、YとCをインターリーブして水平分析フィルタリングを行っていたが、図18のウェーブレット逆変換装置51においては、YとCとを完全に分離して処理を行っている。すなわち、実際には、ウェーブレット逆変換装置51は、図18の構成をYとCとで別々に備える。
このように、ウェーブレット変換装置1と異なり、YとCとをインターリーブしない理由としては、ウェーブレット逆変換装置51においては、最初に垂直分析フィルタリングを施して、その後、水平分析フィルタリングを行うためである。すなわち、図8を参照して上述したように、垂直分析フィルタリングは、ラインバッファが余分に必要となり、また、処理時間が多くかかるからである。
次に、図19のフローチャートを参照して、図18のウェーブレット逆変換装置51の動作について説明する。すなわち、図19の例においては、ウェーブレット逆変換装置51により実行されるウェーブレット逆変換処理が示されており、このウェーブレット逆変換処理においては、1番解像度の小さい低域成分から高域成分の順番で逆変換が行われていく。分割レベルでいえば、レベル4、レベル3、レベル2、およびレベル1の順番で実行される。なお、図19の例においては、YまたはCのどちらにも特定せず説明を行うが、実際には、図19の処理は、YとCとは別々に並行で行われている。
ステップS61において、セレクタ64は、外部からの分割レベル4の周波数成分(4LH,4HH)D61と分割レベル4の周波数成分(4LL,4HL)D62を入力する。そして、セレクタ64は、垂直分析フィルタ部65の制御のもと、この外部からの出力を選択し、選択した出力(分割レベル4の周波数成分(4LH,4HH)D61と周波数成分(4LL,4HL)D62)を、周波数成分(4LH,4HH)D75および周波数成分(4LL,4HL)D76として、垂直分析フィルタ部65に出力する。
ステップS62において、垂直合成フィルタ部65は、周波数成分(4LH,4HH)D75および周波数成分(4LL,4HL)D76に対して、分割レベル4の垂直合成フィルタリングを行う。
すなわち、図20に示されるように、垂直合成フィルタ部65は、水平方向の帯域がLで垂直方向の帯域がLである周波数成分4LLと、水平方向の帯域がLで垂直方向の帯域がHである周波数成分4LH(共に水平方向の帯域がLである)の両方の同一位置にある係数(図中の丸)を参照して、垂直方向に、垂直合成フィルタリングを実行可能なだけの所定数(図20の場合、6つ)を集めて垂直合成フィルタリングを行う。
また、垂直合成フィルタ部65は、水平方向の帯域がHで垂直方向の帯域がLである周波数成分4HLと、水平方向の帯域がHで垂直方向の帯域がHである周波数成分4HH(共に水平方向の帯域がHである)の両方の同一位置にある係数(図中の丸)を参照して、垂直方向に、垂直合成フィルタリングを実行可能なだけの所定数(図20の場合、6つ)を集めて垂直合成フィルタリングを行う。
図20の例においては、周波数成分4LLの係数3つと、周波数成分4LHにおいて周波数成分4LLの3つの係数と同一位置にある係数3つが用いられて垂直合成フィルタリングが行われる例が示されており、周波数成分4HLの係数3つと、周波数成分4HHの、周波数成分4HLと同一位置にある係数3つが用いられて垂直合成フィルタリングが行われる例が示されている。
この結果、水平方向の低域(L)成分D77と、水平方向の高域(H)成分D78が生成され、生成され、水平合成フィルタ部66に出力される。
ステップS63において、水平合成フィルタ部66は、水平方向の低域(L)成分D77と、水平方向の高域(H)成分D78に対して、分割レベル4の水平合成フィルタリングを行う。
すなわち、図21に示されるように、水平合成フィルタ部66は、水平方向の低域(L)成分D77と、水平方向の高域(H)成分D78の同一位置にある係数(図中の丸)を参照して、水平方向に、水平合成フィルタリングを実行可能だけの数(図21の例の場合、6つ)を集めて水平合成フィルタリングを行う。
図21の例においては、低域成分の係数3つと、高域成分において、低域成分の3つの係数と同一位置にある係数3つが用いられて水平合成フィルタリングが行われる例が示されている。
この結果、図22に示されるように、画像の上位ラインから順番に低域成分のラインが生成されていくことで、分割レベル3の低域成分(3LL)D79が生成され、セレクタ67に出力される。すなわち、図22の例においては、1ライン目の低域成分が画像の上位ラインから順番に低域成分のラインが生成された結果の各レベルの低域成分またはベースバンド画像が示されている。
制御部68は、ステップS64において、ウェーブレット変換における最初のレベル(換言するに、ウェーブレット逆変換における最終レベル)である分割レベル1まで終了したか否かを判定し、まだ分割レベル1まで終了していないと判定した場合、処理は、ステップS65に進む。
ステップS65において、制御部68は、セレクタ67がレベル3バッファ61への出力を選択するように制御し、水平合成フィルタリング結果の分割レベル3の低域成分(3LL)D80を対応するレベルバッファ(いまの場合、レベル3バッファ61)に記憶させる。
ステップS66において、制御部68は、外部からの分割レベル3の周波数成分(3LH,3HH)D63と分割レベル3の周波数成分(3HL)D64を、レベル3バッファ61に転送させ、記憶させる。
ステップS67において、垂直分析フィルタ部65は、セレクタ64にレベル3バッファ61からの出力を選択するように制御することで、周波数成分を、レベル3バッファ61から読み出させ、読み出された周波数成分が、周波数成分(3LH,3HH)D75および周波数成分(3LL,3HL)D76として、垂直分析フィルタ部65に出力される。
すなわち、レベル3バッファ61においては、分割レベル3の低域成分(3LL)D80と分割レベル3の周波数成分(3HL)D64とがまとめられて、分割レベル3の周波数成分(3LL,3HL)D70としてレベル3バッファ61から出力され、分割レベル3の周波数成分(3LH,3HH)D63は、そのまま、分割レベル3の周波数成分(3LH,3HH)D69としてレベル3バッファ61から出力される。したがって、セレクタ64より、分割レベル3の周波数成分(3LL,3HL)D70および分割レベル3の周波数成分(3LH,3HH)D69が、それぞれ、周波数成分(3LH,3HH)D75および周波数成分(3LL,3HL)D76として、垂直分析フィルタ部65に出力される。
その後、処理は、ステップS62に戻り、それ以降の処理が繰り返される。すなわち、ステップS62において、分割レベル3の垂直合成フィルタリングが行われ、ステップS63において、分割レベル3の水平合成フィルタリングが行われて、分割レベル2の低域成分(2LL)が生成される。
この場合、ステップS64において、まだ分割レベル1まで終了していないと判定されるので、水平合成フィルタリング結果の分割レベル2の低域成分(2LL)D80は、対応するレベルバッファ(いまの場合、レベル2バッファ62)に記憶される。同様に、外部からの分割レベル2の周波数成分(2LH,2HH)D65と分割レベル2の周波数成分(2HL)D66が、レベル3バッファ61に転送される。
このとき、レベル3バッファ61の場合と同様に、レベル2バッファ62においては、分割レベル2の低域成分(2LL)D80と分割レベル2の周波数成分(2HL)D64とがまとめられて、分割レベル2の周波数成分(3LL,3HL)D70としてレベル2バッファ62から出力され、分割レベル2の周波数成分(2LH,2HH)D63は、そのまま、分割レベル2の周波数成分(2LH,2HH)D69としてレベル2バッファ62から出力される。
以上の一連の処理が、分割レベル1の周波数成分がレベル1バッファ63に記憶され、読み出されるまで同様に行われる。その後、ステップS62において、分割レベル1の垂直合成フィルタリングが行われ、ステップS63において、分割レベル1の水平合成フィルタリングが行われる。この結果、分割レベル1まで合成フィルタリングが終了したベースバンド画像が生成され、ステップS64において、分割レベル1まで終了したと判定されるので、処理は、ステップS68に進み、ステップS68において、セレクタ67を介して、水平合成フィルタ部66からのベースバンド画像D81が外部(例えば、後述する図26の逆量子化部162)へ出力される。
以上のように、図18のウェーブレット逆変換装置51においても、最低域レベル以外の分割レベル毎のバッファを内蔵メモリで対応するようにしたので、水平合成フィルタリングを行いながら、水平合成フィルタリングの結果を、分割レベル毎のバッファに記憶させている。したがって、この水平合成フィルタリングの結果を、分割レベル毎のバッファから読み出しながら、垂直方向のフィルタリングを行うことができる。すなわち、水平方向と垂直方向のフィルタリングを同時並行的に動作させることができる。
これにより、動画像や解像度が大きい画像に対しても、高速にウェーブレット変換を実行することができる。
また、最低域レベル以外の分割レベル毎のバッファを内蔵メモリで対応するようにしたので、上述した特許文献1のように外部メモリが不要になる。
これにより、外部メモリとのデータのやり取りが必要なくなり、高速にウェーブレット逆変換を行うことができるようになる。この結果、外部メモリとウェーブレット逆変換装置との間でデータの高速化のための手段として、クロック(周波数)を上げる必要もないので、省電力化することができる。
さらに、ウェーブレット逆変換装置においては、垂直合成フィルタリングを、水平合成フィルタリングの前に行うことから、YとCとを完全に分離して処理を行うようにしたので、図8を参照して上述したように、垂直合成フィルタリングにおいて、余分なラインバッファが必要となることを防ぐとともに、処理時間がかかることを抑制することができる。
なお、ウェーブレット変換装置の場合でも、図11を参照して上述したが、分析フィルタリングは、リフティング技術を使うことで効率的にフィルタリングを実行することができる。したがって、ウェーブレット逆変換の合成フィルタリングにおいても、同様にリフティング技術を用いることが好ましい。
図23は、JPEG2000規格でも採用されている5×3分析フィルタのリフティング構成を示している。この5×3分析フィルタに対してリフティング技術を適用したときの合成フィルタリングについて説明する。
図23の例において、最上段部は、ウェーブレット変換により生成された係数であり、丸印(●)が高域成分の係数を示し、四角印(■)が低域成分の係数を示す。
まず、第1段階として、次の式(4)のように、入力された低域成分および高域成分の係数から、偶数番目(最初を0番目とする)の係数を生成する。
次に、第2段階として、次の式(5)のように、第1段階で生成された偶数番目の係数と、入力された高域成分の係数とから、奇数番目の係数を生成する。
このように、合成フィルタリングにおいては、まず偶数番目の係数を生成した後に奇数版目の係数を生成する。この合成フィルタリングに用いる2種類のフィルタバンクは、図11で上述したのと同様に、2タップであり、本来必要な5タップよりも短いため、計算量を大幅に低減することができる。
また、上記説明においては、図12乃至図16を参照して、動画像であるビデオ信号をウェーブレット変換する例を説明したが、ビデオ信号を構成するピクチャ単位でウェーブレット変換して生成(分割)された周波数成分の係数をウェーブレット逆変換する場合にも、同様に、高速にウェーブレット逆変換を行う必要がある。
したがって、ウェーブレット逆変換装置51における垂直合成フィルタ部65も、ウェーブレット変換装置1におけるY用垂直分析フィルタ部17、およびC用垂直分析フィルタ部18と同様に、周波数成分の係数が、垂直方向に所定数(垂直合成フィルタリングを実行可能だけの数)分溜まった時点で、直ちに、垂直方向の合成フィルタリングを行う。
ウェーブレット逆変換装置51における水平合成フィルタ部66も、ウェーブレット変換装置1における水平分析フィルタ部11と同様に、周波数成分の係数が、水平方向に所定数(水平合成フィルタリングを実行可能だけの数)に達した時点で直ちに水平方向の合成フィルタリングを行う。
以上のように、周波数成分の係数が、垂直方向および水平方向に所定数溜まった時点ですぐに合成フィルタリングを行うようにしたので、1ピクチャのビデオ信号の合成フィルタリングを効率的に行うことができる。すなわち、高速にウェーブレット逆変換を行うことができる。
さらに、上記説明においては、図17を参照して、図1のウェーブレット変換装置1において、動画像であるビデオ信号をウェーブレット変換する場合には、ビデオ信号の垂直同期信号を検出する手段が備えることで、ピクチャの終端を検知するように説明した。
図17で説明したようにしてピクチャの終端を検知して、ビデオ信号を構成するピクチャ単位でウェーブレット変換して生成された周波数成分を、ウェーブレット逆変換する場合には、その図示は省略するが、ウェーブレット逆変換装置51のセレクタ67の後段には、ウェーブレット逆変換によって生成されたピクチャ信号(すなわち、上述したベースバンド画像D81)の後ろに、ビデオの垂直同期信号を挿入する垂直同期信号挿入部が構成される。
すなわち、ウェーブレット逆変換装置51のセレクタ67の後段に垂直同期信号挿入部を構成させ、垂直同期信号挿入部に、例えば、セレクタ67からのベースバンド画像D81の後ろに、ビデオの垂直同期信号を挿入させ、生成したビデオ信号を外部に出力させる。
以上のようにして、後続のピクチャにも同様に、ビデオの垂直同期信号を継続して挿入することで、生成されたビデオ信号を順次出力することができる。これにより、動画像を再現することができる。
以上のように、本発明のウェーブレット変換装置においては、レベル1から所定のレベル数までの分割レベル毎のバッファを備え、水平分析フィルタリングを行いながら、水平分析フィルタリングの結果を、分割レベル毎のバッファに記憶させるようにしたので、この水平分析フィルタリングの結果を、分割レベル毎のバッファから読み出しながら、垂直方向のフィルタリングを行うことができる。すなわち、水平方向と垂直方向のフィルタリングを同時並行的に動作させることができる。これにより、動画像や解像度が大きい画像に対しても、高速にウェーブレット変換を実行することができる。
さらに、レベル1から所定のレベル数までの分割レベル毎のバッファは、内蔵メモリで対応されているので、外部メモリが不要になるとともに、外部メモリとのデータのやり取りが必要なくなり、高速にウェーブレット変換を行うことができるようになる。この結果、外部メモリとウェーブレット変換装置との間でデータの高速化のための手段として、クロック(周波数)を上げる必要もないので、省電力化することができる。
また、水平方向の分析フィルタリングを、YとCがインターリーブされた周波数成分に対して行うようにしたので、水平分析フィルタ部を1つで構成することができ、ハードウェアの規模縮小に大きく寄与することができる。
さらに、水平分析フィルタリング結果である高域成分と低域成分を、YおよびC毎にそれぞれインターリーブして、対応するレベルのバッファにYおよびC毎に記憶するようにしたので、データの読み出しの際には、そのレベルのバッファの先頭から順番に読み出すだけでよく、制御を単純(シンプル)にすることができる。
また、垂直方向の分析フィルタリングをYとCで別々に行うようにしたので、例えば、垂直方向の分析フィルタリングをYとCで別々に行わない場合よりも、大容量のメモリの必要性がなくなり、コストの急増を防ぐことができる。また、処理時間がかかることも抑制することができる。
一方、本発明のウェーブレット逆変換装置においても、最低域レベル以外の分割レベル毎のバッファを備え、水平合成フィルタリングを行いながら、水平合成フィルタリングの結果を、分割レベル毎のバッファに記憶させるようにしたので、この水平合成フィルタリングの結果を、分割レベル毎のバッファから読み出しながら、垂直方向のフィルタリングを行うことができる。すなわち、水平方向と垂直方向のフィルタリングを同時並行的に動作させることができる。これにより、動画像や解像度が大きい画像に対しても、高速にウェーブレット変換を実行することができる。
さらに、最低域レベル以外の分割レベル毎のバッファは、内蔵メモリで対応されているので、外部メモリが不要になるとともに、外部メモリとのデータのやり取りが必要なくなり、高速にウェーブレット逆変換を行うことができるようになる。この結果、外部メモリとウェーブレット逆変換装置との間でデータの高速化のための手段として、クロック(周波数)を上げる必要もないので、省電力化することができる。
また、ウェーブレット変換とは異なり、YとCをインターリーブすることなく、YとCとを完全に分離して処理を行うようにしたので、垂直合成フィルタリングにおいて、Cのメモリが余分に必要となることを防ぐとともに、処理時間がかかることを抑制することができる。
さらに、本発明のウェーブレット変換装置およびウェーブレット逆変換装置においては、所定の数の周波数成分が溜まった時点ですぐに分析フィルタリングおよび合成フィルタリングを行うようにしたので、分析フィルタリングおよび合成フィルタリングを効率的に行うことができる。すなわち、高速にウェーブレット変換および逆変換を行うことができ、1秒間に60フィールドのピクチャが1/60秒の速度で入力されるビデオ信号のウェーブレット変換および逆変換にも対応することができる。
これにより、さらに、後述するウェーブレット変換を用いた符号化処理およびウェーブレット逆変換を用いた復号処理を含む伝送システムにおいて、ライン毎の並行処理が可能になり、低遅延での復号画像を得ることができるようになる。
また、本発明のウェーブレット変換装置において、垂直同期信号を検出する手段を備え、本発明のウェーブレット逆変換装置において、垂直同期信号を挿入する手段を備えるようにしたので、ビデオ信号に対しての分析フィルタリングを、ビデオ信号を構成するピクチャ(フィールドまたはフレーム)単位で行うことができる。
以上説明した本発明は、画像またはビデオ信号をウェーブレット変換する装置または方法に関するものであり、また、帯域分析された情報を合成フィルタバンクリングして画像またはビデオ信号に復元するウェーブレット逆変換する装置または方法に関するものであり、そのような装置または方法であれば、様々なものに適用することができる。
すなわち、上記説明においては、ウェーブレット変換を行って、画像信号やビデオ信号を複数の周波数成分に分割するウェーブレット変換装置1、および、ウェーブレット変換装置1に対応し、ウェーブレット変換装置1により生成された周波数成分をウェーブレット逆変換するウェーブレット逆変換装置51について説明したが、ウェーブレット変換は、通常、画像圧縮の前処理として多用されている。そこで、次に、ウェーブレット変換により生成される周波数成分(以下、係数データとも称する)を圧縮符号化する画像符号化装置と、画像符号化装置により圧縮符号化された係数データを復号する画像復号装置について説明する。
図24は、本発明を適用した画像符号化装置の一実施形態に係る構成例を示す図である。すなわち、画像符号化装置においては、本発明のウェーブレット変換を圧縮の前処理として行う。
図24の例において、画像符号化装置101は、ウェーブレット変換部111、量子化部112、エントロピ符号化部113、およびレート制御部114により構成されている。
ウェーブレット変換部111は、図1のウェーブレット変換装置1と基本的に同様の構成とされる。すなわち、ウェーブレット変換部111は、分割レベル毎に独立したバッファ(レベル1バッファ12乃至レベル4バッファ15)を備えており、入力したビデオ信号D110(YとCがインターリーブされている画像信号D12に相当)が所定のコラム数まで溜まった時点で、直ちにビデオ信号D110に対して水平分析フィルタリングを行い、水平分析フィルタリングの結果の係数データ(周波数成分)を各レベルに対応したバッファに記憶する。そして、水平分析フィルタリングの結果の係数データが、各レベルに対応したバッファに所定のライン数まで溜まった時点で、直ちに係数データに対してYとC別々に垂直分析フィルタリングを行うことを所定の分割レベルまで繰り返し、分析後の係数データD111を量子化部112に供給する。
例えば、分割レベル2の分析フィルタリングでは、図16に示したように、分割レベル1の分析フィルタリングで生成される1LLの4ラインをウェーブレット変換することで、2LL,2HL,2LH,2HHの2ラインが得られる。分割レベル3の分析フィルタリングでは、2LLの2ラインをウェーブレット変換することで、3LL,3HL,3LH,3HHの1ラインが得られる。分割レベル3の最終の分析フィルタリングであった場合には、3LLが最低域となる。
なお、図17を参照して上述したように、ビデオ信号の入力時には、ビデオ信号の垂直同期信号(すなわち、ピクチャの終端)を検出することにより、ピクチャの終端で分析フィルタリングの動作が停止され、ピクチャ毎にウェーブレット変換が行われている。
量子化部112は、ウェーブレット変換部111により生成される係数データD111を、例えば量子化ステップサイズで除算することにより量子化し、量子化係数データD112を生成する。
この際、量子化部112は、生成された周波数成分の最低域(図16の場合、3LL)の1ライン分と、この1ラインを生成するために必要になった他の周波数成分の複数ラインとから構成される単位をラインブロックとし、このラインブロック毎に量子化ステップサイズを設定することができる。このラインブロックは、ある画像領域のすべての周波数成分(図16の場合、3LL乃至1HHまでの10個の周波数成分)の係数を包含しているため、ラインブロック毎に量子化を行えば、ウェーブレット変換の特徴である多重解像度分析の利点を活かすことができる。また、全画面でラインブロック数だけを決めればよいため、画像符号化装置101の負荷も小さくて済む。
さらに、画像信号のエネルギは一般的に低域成分に集中しており、また、人間の視覚上、低域成分の劣化が目立ちやすいという特性があるため、量子化に際しては、低域成分のサブバンドでの量子化ステップサイズが結果的に小さな値になるように、重み付けを行うことが有効である。この重み付けにより、低域成分には相対的に多くの情報量が割り当てられるようになり、全体の主観的な画質が向上する。
エントロピ符号化部113は、量子化部112で生成された量子化係数データD112を情報源符号化し、圧縮された符号化コードストリームD113を生成する。情報源符号化としては、例えばJPEG方式やMPEG(Moving Picture Experts Group)方式で用いられているハフマン符号化や、JPEG2000方式で用いられているさらに高精度な算術符号化を用いることができる。
ここで、エントロピ符号化をどの範囲の係数に対して行うかは、圧縮効率に直接関係する非常に重要な要素になる。例えば、JPEG方式やMPEG方式では、8×8のブロックに対してDCT(Discrete Cosine Transform)変換を施し、生成された64個のDCT変換係数に対してハフマン符号化を行うことで、情報を圧縮している。すなわち、64個のDCT変換係数がエントロピ符号化の範囲になる。
ウェーブレット変換部111では、8×8ブロックに対するDCT変換とは異なり、ライン単位でウェーブレット変換を施しているため、エントロピ符号化部113では、各周波数帯域独立に、且つ各周波数帯域内をPライン毎に情報源符号化する。
Pは1ラインが最低であるが、ライン数が少ない場合には参照情報が少なくて済み、メモリ容量を減らすことができる。逆に、ライン数が多い場合には情報量がその分増えるため、符号化効率が向上させることができる。しかしながら、Pが各周波数帯域内のラインブロックのライン数を超えた値になると、次のラインブロックのラインまで必要になる。このため、このラインブロックの量子化係数データがウェーブレット変換及び量子化によって生成されるまで待たなければならず、この時間が遅延時間となってしまう。
したがって、低遅延のためには、Pはラインブロックのライン数以下である必要がある。例えば、図16の例では、3LL,3HL,3LH,3HHの周波数帯域については、ラインブロックのライン数=1ラインであるためP=1となる。また、2HL,2LH,2HHのサブバンドについては、ラインブロックのライン数=2ラインであるためP=1または2となる。
レート制御部114は、最終的に目標のビットレート又は圧縮率に合わせるための制御を行い、レート制御後の符号化コードストリームD114を外部に出力する。例えば、このレート制御部114は、ビットレートを上げる場合には量子化ステップサイズを小さくし、ビットレートを下げる場合には量子化ステップサイズを大きくするように、量子化部112に対して制御信号D115を送信する。
次に、図25のフローチャートを参照して、図24の画像符号化装置101の画像符号化処理について説明する。
図示せぬ外部(例えば、後述する図28のビデオカメラ部303など)から、ウェーブレット変換部111には、ビデオ信号D110が入力される。ステップS111において、ウェーブレット変換部111は、入力したビデオ信号D110に対して、ウェーブレット変換処理を実行する。なお、このウェーブレット変換処理は、ビデオ信号D110から垂直同期信号が検出されることでピクチャ毎に、かつライン単位で行われる処理であるが、図2を参照して上述したウェーブレット変換処理と基本的に略同様な処理を行うので、その説明は省略する。
ステップS111のウェーブレット変換処理により、入力したビデオ信号D110(YとCがインターリーブされている画像信号D12に相当)が所定のコラム数まで溜まった時点で、直ちにビデオ信号D110に対して水平分析フィルタリングを行い、水平分析フィルタリングの結果の係数データ(周波数成分)を各レベルに対応したバッファに記憶し、水平分析フィルタリングの結果の係数データが各レベルに対応したバッファに所定のライン数まで溜まった時点で、直ちに係数データに対してYとC別々に垂直分析フィルタリングを行うことが、所定の分割レベルまで繰り返されることで、分析後の係数データD111が量子化部112に供給される。
すなわち、ウェーブレット変換部111は、図13乃至図16を参照して上述したように、最低域分1ライン分の係数データが得られるだけのフィルタ処理を段階的に、画面全体のラインに対して複数回に分けて行っている。
ステップS112において、量子化部112は、前回の後述するステップS114のレート制御部114からの制御のもと、ウェーブレット変換部111により生成される係数データD111を、例えば量子化ステップサイズで除算することにより量子化し、量子化係数データD112を生成する。
この際、量子化部112は、生成された周波数成分の最低域(図16の場合、3LL)の1ライン分と、この1ラインを生成するために必要になった他の周波数成分の複数ラインとから構成される単位をラインブロックとし、このラインブロック毎に量子化ステップサイズを設定し、量子化を行っている。すなわち、量子化部112も所定のライン数が溜まった時点で、直ちにラインブロック毎に量子化を行っている。
ステップS113において、エントロピ符号化部113は、量子化部112で生成された量子化係数データD112をエントロピ符号化(情報源符号化)し、圧縮された符号化コードストリームD113を生成する。
ここで、ウェーブレット変換部111においては、ライン単位でウェーブレット変換を施しているため、エントロピ符号化部113でも、各周波数帯域独立に、かつ各周波数帯域内をPライン毎に情報源符号化している。すなわち、エントロピ符号化部113も、Pライン(ラインブロックのライン数以下)が溜まった時点で直ちに情報源符号化を行っている。
ステップS114において、レート制御部114は、レート制御(すなわち、最終的に目標のビットレートまたは圧縮率に合わせるための制御)を行い、レート制御後の符号化コードストリームD114を外部に出力する。
以上のように、画像符号化装置においては、ライン単位でウェーブレット変換が行われ、ラインブロック毎に量子化が行われ、ラインブロックのライン数以下のPライン毎に、情報源符号化が行われて、外部に、Pライン毎に符号化された符号化コードストリームD114が外部に出力されている。すなわち、ウェーブレット変換処理、量子化処理、および情報源符号化処理を、各所定のライン単位で並列に動作させることができる。
これにより、例えば、画像符号化装置により符号化された符号化データを伝送した際には、Pライン毎に符号化されたデータが次々に伝送されるので、符号化データを受信し復号する画像復号装置(図26の画像復号装置151)においては、低遅延で復号画像を得ることができる。
図26は、図24の画像符号化装置に対応する画像復号装置の一実施形態に係る構成例を示す図である。
図26の例において、画像復号装置151は、エントロピ復号部161、逆量子化部162、ウェーブレット逆変換部163により構成されている。
エントロピ復号部161は、入力した符号化コードストリームD160を情報源復号し、量子化係数データD161を生成する。情報源復号としては、画像符号化装置101の情報源符号化に対応して、ハフマン復号や、高効率な算術復号などを用いることができる。なお、図24で上述したように、画像符号化装置101においてPラインごとに情報源符号化されている場合には、エントロピ復号部161においても同様に、各サブバンドが独立に、かつ各サブバンド内がPライン毎に情報源復号される。
逆量子化部162は、量子化係数データD161に量子化ステップサイズを乗算することにより逆量子化し、係数データD162を生成する。この量子化ステップサイズは、通常、符号化コードストリームのヘッダなどに記述されている。なお、図24で上述したように、画像符号化装置101において、ラインブロック毎に量子化ステップサイズが設定されている場合には、逆量子化部162においても同様に、ラインブロック毎に逆量子化ステップサイズが設定されて、逆量子化される。
ウェーブレット逆変換部163は、図18のウェーブレット逆変換装置51と基本的に同様の構成とされる。すなわち、ウェーブレット逆変換部163は、最低域のレベル以外の分割レベル毎に独立したバッファ(レベル3バッファ61乃至レベル1バッファ63)を備えており、係数データD162に対して、垂直合成フィルタリングと水平合成フィルタリングを行い、水平分析フィルタリングの結果の係数データを各レベルに対応したバッファに記憶し、各レベルに対応したバッファに記憶された係数データが所定数溜まった時点で直ちに垂直合成フィルタリングと水平合成フィルタリングを行うことをレベル1まで繰り返して、ベースバンド画像を生成する。このとき、さらに、ウェーブレット逆変換部163においては、ベースバンド画像に、垂直同期信号が挿入されて、ビデオ信号D163が生成され、外部に出力される。
次に、図27のフローチャートを参照して、図26の画像復号装置151の画像復号処理について説明する。
エントロピ復号部161には、外部(例えば、後述する図28のディジタル復調部313)から、図25を参照して上述した画像符号化処理により符号化された符号化コードストリームD160が入力される。エントロピ復号部161は、ステップS161において、入力した符号化コードストリームD160を、エントロピ復号(情報源復号)し、量子化係数データD161を生成する。
このとき、画像符号化装置101においてPライン毎に情報源符号化されているので、エントロピ復号部161においても同様に、各サブバンドが独立に、かつ各サブバンド内がPライン毎に情報源復号される。
逆量子化部162は、ステップS162において、量子化係数データD161に量子化ステップサイズを乗算することにより逆量子化し、係数データD162を生成する。
このとき、画像符号化装置101において、ラインブロック毎に量子化ステップサイズが設定されているので、逆量子化部162においても同様に、ラインブロック毎に逆量子化ステップサイズが設定されて、逆量子化される。
ウェーブレット逆変換部163は、ステップS163において、係数データD162に対して、ウェーブレット逆変換処理を実行する。なお、このウェーブレット逆変換処理は、ライン単位で行われ、画像が生成された後に垂直同期信号が挿入される処理であるが、図19を参照して上述したウェーブレット逆変換処理と基本的に略同様な処理を行うので、その説明は省略する。
ステップS163のウェーブレット変換処理により、係数データD162に対して、垂直合成フィルタリングと水平合成フィルタリングを行い、水平分析フィルタリングの結果の係数データを各レベルに対応したバッファに記憶し、各レベルに対応したバッファに記憶された係数データが所定数溜まった時点で直ちに垂直合成フィルタリングと水平合成フィルタリングを行うことが、レベル1まで繰り返されることで、ベースバンド画像が生成される。このとき、さらに、生成されたベースバンド画像に、垂直同期信号が挿入されて、ビデオ信号D163が生成され、外部(例えば、後述する図28のビデオカメラ部303)に出力される。
すなわち、画像符号化装置101において、ライン単位でウェーブレット変換処理が行われているので、ウェーブレット逆変換部163においても同様に、ライン単位で、ウェーブレット逆変換処理が行われる。
以上のように、画像復号装置151においては、入力された符号化コードストリームがPライン毎に情報源復号され、ラインブロック毎に逆量子化が行われ、ライン単位でウェーブレット逆変換が行われて、ベースバンド画像が生成され、ベースバンド画像に、垂直同期信号が挿入されて、ビデオ信号D163が生成され、外部に出力される。すなわち、復号処理、逆量子化処理、およびウェーブレット逆変換処理は、各所定のライン単位で並列に動作させることができる。
これにより、符号化データを伝送した際には、次々に伝送されてきた符号化され、データが、次々に、Pライン毎に復号され、ライン単位で生成されるので、低遅延で復号画像を得ることができる。
以上のように、図24および図26を参照して上述した画像符号化装置101および画像復号装置151における各処理は、ライン単位で並列的に動作させることで、画像の圧縮符号化および復号処理をより低遅延で行うことが可能である。
次に、図24および図26を参照して上述した画像符号化装置101および画像復号装置151を様々なシステムに適用した例について説明する。
図28は、本発明のウェーブレット変換を含む画像符号化およびウェーブレット逆変換を含む画像復号方法を適用可能なディジタルトライアックスシステムの一例の構成を示している。
トライアックスシステムは、テレビジョン放送局や制作スタジオなどにおいて、スタジオ収録や中継などの際に、ビデオカメラと、カメラコントロールユニットやスイッチャとを接続する1本の同軸ケーブルで、映像信号、音声信号、送り返し(リターン)の映像信号、同期信号など複数の信号を重畳させて送信すると共に、電源の供給も行うようにしたシステムである。
従来のトライアックスシステムは、アナログ信号を用いて上述の各信号の伝送を行うようにした例が大部分であった。一方、近年では、システム全体のディジタル化に伴い、放送局内などで用いるトライアックスシステムのディジタル化が進んでいる。
既存のディジタルトライアックスシステムでは、トライアックスケーブルを介して伝送されるディジタルビデオ信号は、非圧縮のビデオ信号であった。これは、特に放送局などにおいては信号の遅延時間に対する要求スペックが厳しく、基本的に、撮像から例えばモニタ出力までの遅延時間が1フィールド(16.67msec)以内であることが要求されるためである。高圧縮率および高画質を実現したMPEG2やMPEG4といった圧縮符号化方式は、ビデオ信号の圧縮符号化や圧縮ビデオ信号の復号に際して数フレーム分の時間を要し、遅延時間が大きいため、トライアックスシステムに採用されることはなかった。
本発明のウェーブレット変換を含む画像符号化およびウェーブレット逆変換を含む画像復号方法は、図2および図19を参照して上述したように水平フィルタリングと垂直フィルタリングの並行動作が可能であるとともに、図25および図27を参照して上述したように、ライン単位で行われることから並行動作が可能であり、画像データの入力から出力画像が得られるまでの遅延時間が短くできるため、ディジタルトライアックスシステムに対して用いて好適なものである。
図28のディジタルトライアックスシステムは、送信ユニット300とカメラ制御部302とがトライアックスケーブル(同軸ケーブル)301を介して接続される。送信ユニット300からカメラ制御部302に対する、実際に放映されたり、素材として用いられるディジタルビデオ信号およびディジタルオーディオ信号(以下、本線信号と呼ぶ)の送出、カメラ制御部302から送信ユニット300に対する、インカム用のオーディオ信号およびリターン用のディジタルビデオ信号の送出が、トライアックスケーブル301を介して行われる。
送信ユニット300は、例えば図示されないビデオカメラ装置に内蔵される。これに限らず、送信ユニット300がビデオカメラ装置に対する外部装置として、ビデオカメラ装置と所定に接続されて用いられるものとしてもよい。また、カメラ制御部302は、例えば一般的にCCU(Camera Control Unit)と呼ばれる装置である。
なお、ディジタルオーディオ信号については、この発明の主旨と関わりが少ないので、繁雑さを避けるための説明を省略する。
ビデオカメラ部303は、例えば図示されないビデオカメラ装置内に構成され、レンズ、フォーカス機構、ズーム機構、アイリス調整機構などを有する光学系350を介して入射された被写体からの光を、CCD(Charge Coupled Device)などからなる図示されない撮像素子で受光する。撮像素子は、受光された光を光電変換で電気信号に変換し、さらに所定の信号処理を施してベースバンドのディジタルビデオ信号を出力する。このディジタルビデオ信号は、例えばHD-SDI(High Definition-Serial Data Interface)のフォーマットにマッピングして出力される。
また、ビデオカメラ部303は、モニタ用に用いられる表示部351と、外部と音声によるやりとりを行うためのインカム352が接続される。
送信ユニット300は、ビデオ信号符号化部310およびビデオ信号復号部311、ディジタル変調部312およびディジタル復調部313、アンプ314および315、並びに、ビデオ分離/合成部316を有する
送信ユニット300において、ビデオカメラ部303から、例えばHD-SDIのフォーマットにマッピングされたベースバンドのディジタルビデオ信号が供給される。このディジタルビデオ信号は、ビデオ信号符号化部310で圧縮符号化され、符号化ストリームとされてディジタル変調部312に供給される。ディジタル変調部312は、供給された符号化ストリームを、トライアックスケーブル301を介した伝送に適した形式の信号に変調して出力する。ディジタル変調部312から出力された信号は、アンプ314を介してビデオ分離/合成部316に供給される。ビデオ分離/合成部316は、供給された信号をトライアックスケーブル301に送出する。この信号は、トライアックスケーブル301を介してカメラ制御部302に受信される。
カメラ制御部302から出力された信号が、トライアックスケーブル301を介して送信ユニット300に受信される。受信された信号は、ビデオ分離/合成部316に供給され、ディジタルビデオ信号の部分とその他の信号の部分とが分離される。受信信号のうちディジタルビデオ信号の部分は、アンプ315を介してディジタル復調部313に供給され、カメラ制御部302側でトライアックスケーブル301を介した伝送に適した形式の信号に変調された信号を復調し、符号化ストリームを復元する。
符号化ストリームは、ビデオ信号復号部311に供給され、圧縮符号が復号され、ベースバンドのディジタルビデオ信号とされる。この復号されたディジタルビデオ信号は、HD-SDIのフォーマットにマッピングされて出力され、リターン用のディジタルビデオ信号としてビデオカメラ部303に供給される。このリターン用のディジタルビデオ信号は、ビデオカメラ部303に接続される表示部351に供給され、撮影者のためのモニタなどに利用される。
カメラ制御部302は、ビデオ分離/合成部320、アンプ321および322、フロントエンド部323、ディジタル復調部324およびディジタル変調部325、並びに、ビデオ信号復号部326およびビデオ信号符号化部327を有する。
送信ユニット300から出力された信号が、トライアックスケーブル301を介してカメラ制御部302に受信される。受信された信号は、ビデオ分離/合成部320に供給される。ビデオ分離/合成部320は、供給された信号を、アンプ321およびフロントエンド部323を介してディジタル復調部324に供給する。なお、フロントエンド部323は、入力信号のゲインを調整するゲイン制御部や、入力信号に対して所定のフィルタ処理を施すフィルタ部などを有する。
ディジタル復調部324は、送信ユニット300側でトライアックスケーブル301を介した伝送に適した形式の信号に変調された信号を復調し、符号化ストリームを復元する。この符号化ストリームは、ビデオ信号復号部326に供給され、圧縮符号を復号され、ベースバンドのディジタルビデオ信号にとされる。この復号されたディジタルビデオ信号は、HD-SDIのフォーマットにマッピングされて出力され、本線信号として外部に出力される。
外部からカメラ制御部302に対して、リターン用のディジタルビデオ信号と、ディジタルオーディオ信号とが供給される。ディジタルオーディオ信号は、例えば、撮影者のインカム352に供給され、外部から撮影者に対する音声による指示を伝達するのに用いられる。
リターン用のディジタルビデオ信号は、ビデオ信号符号化部327に供給されて圧縮符号化され、ディジタル変調部325に供給される。ディジタル変調部325は、供給された符号化ストリームを、トライアックスケーブル301を介した伝送に適した形式の信号に変調して出力する。ディジタル変調部325から出力された信号は、フロントエンド部323およびアンプ322を介してビデオ分離/合成部320に供給される。ビデオ分離/合成部320は、この信号を他の信号と多重化し、トライアックスケーブル301に送出する。この信号は、トライアックスケーブル301を介して送信ユニット300に受信される。
図28の例においては、ビデオ信号符号化部310および327、ならびに、ビデオ信号復号部311および326に対して、図24の画像符号化装置101および図26の画像復号装置151がそれぞれ適用される。すなわち、ビデオ信号符号化部310および327は、図24の画像符号化装置101と基本的に同様の構成とされ、ビデオ信号復号部311および326は、図26の画像復号装置151と基本的に同様の構成とされる。
すなわち、送信ユニット300側において、ビデオ信号符号化部310は、供給されたディジタルビデオ信号に対して、図25を参照して上述したウェーブレット変換およびエントロピ符号化を施し、符号化ストリームを出力する。図13乃至図16を参照して上述したように、ビデオ信号符号化部310は、ウェーブレット変換に用いるフィルタのタップ数およびウェーブレット変換の分解レベル数に応じたライン数が入力されると、ウェーブレット変換を開始する。さらに、図25および図27を参照して上述したように、画像符号化装置および画像復号装置において、各要素に必要な係数データが蓄積されると、順次、各要素による処理が行われる。1フレームまたは1フィールドの下端のラインまで処理が終了したら、次の1フレームまたは1フィールドの処理が開始される。
以上のように、図24および図26の画像符号化装置101および画像復号装置151においては、それらの各要素の処理が並列的に行われるため、画像符号化装置101および画像復号装置151は、ビデオカメラ部303で撮影された映像がカメラ制御部302から出力される際の遅延や、外部から供給されカメラ制御部302からビデオカメラ部303に送信されるリターン用のディジタルビデオ信号の遅延を低く抑えることができ、図28のディジタルトライアックスシステムに用いて好適である。
カメラ制御部302側から送信ユニット300側に、リターン用のディジタルビデオ信号を送信する場合も同様である。すなわち、カメラ制御部302側において、ビデオ信号符号化部327は、外部から供給されたリターン用のディジタルビデオ信号に対して、図25を参照して上述したウェーブレット変換およびエントロピ符号化を施し、符号化ストリームを出力する。
ここで、リターン用のディジタルビデオ信号は、本線信号のディジタルビデオ信号よりも画質が低くても構わないとされている場合が多い。そこで、ビデオ信号符号化部327において、符号化時のビットレートを下げるようにするとよい。
例えば、ビデオ信号符号化部327において、レート制御部114により、エントロピ符号化部113でのエントロピ符号化処理をより低ビットレートになるまで行うように制御する。また例えば、カメラ制御部302側では、ビデオ信号符号化部327においてウェーブレット変換部111でより高い分解レベルまで変換処理を行い、送信ユニット300側では、ビデオ信号復号部311のウェーブレット逆変換部163におけるウェーブレット逆変換を、より低い分解レベルまでに止める方法も考えられる。カメラ制御部302側のビデオ信号符号化部327における処理は、この例に限らず、ウェーブレット変換における分解レベルをより低く抑えて変換処理による負担を軽減することも考えられる。
図29は、本発明のウェーブレット変換を含む画像符号化およびウェーブレット逆変換を含む画像復号方法を適用可能な無線伝送システムの一例の構成を示している。すなわち、図29の例においては、本発明のウェーブレット変換を含む画像符号化装置で符号化された符号化データの画像復号装置側への伝送を、無線通信を用いて行うようにしている。
なお、この図29の例では、ビデオ信号は、ビデオカメラまたは送信ユニット400(以下、送信ユニット400と略称する)側から受信装置401側に、一方向的に送信される。オーディオ信号およびその他の信号は、送信ユニット400と受信装置401との間で双方向の通信が可能である。
送信ユニット400は、例えばビデオカメラ部402を有する図示されないビデオカメラ装置に内蔵される。これに限らず、送信ユニット400がビデオカメラ部402を有するビデオカメラ装置に対する外部装置として、ビデオカメラ装置と所定に接続されて用いられるものとしてもよい。
ビデオカメラ部402は、例えば所定の光学系と、例えばCCDからなる撮像素子と、撮像素子から出力された信号をディジタルビデオ信号として出力する信号処理部とを有する。ビデオカメラ部402から、例えばHD-SDIのフォーマットにマッピングされてディジタルビデオ信号が出力される。これはこの例に限らず、ビデオカメラ部402から出力されるディジタルビデオ信号は、他のフォーマットでもよい。
送信ユニット400は、ビデオ信号符号化部410、ディジタル変調部411、および無線モジュール部412を有する。このビデオ信号符号化部410は、図24の画像符号化装置101と基本的に同様の構成とされる。
送信ユニット400において、ビデオカメラ部402から、ベースバンドのディジタルビデオ信号が例えばHD-SDIのフォーマットにマッピングされて出力される。このディジタルビデオ信号は、ビデオ信号符号化部410において、図25を参照して上述したウェーブレット変換およびエントロピ符号化により圧縮符号化され、符号化ストリームとされてディジタル変調部411に供給される。ディジタル変調部411は、供給された符号化ストリームを、無線通信を行うために適した形式の信号にディジタル変調して出力する。
また、ディジタル変調部411には、ディジタルオーディオ信号やその他の信号、例えば所定のコマンドやデータも供給される。例えば、ビデオカメラ部402は、マイクロフォンを有し、集音された音声を音声信号に変換し、さらに当該音声信号をA/D変換してディジタルオーディオ信号として出力する。また、ビデオカメラ部402は、所定のコマンドやデータを出力できるようになっている。コマンドやデータは、ビデオカメラ部402の内部で発生するようにしても良いし、ビデオカメラ部402に操作部を設け、当該操作部に対するユーザの操作に応じてコマンドやデータを生成するようにしてもよい。ビデオカメラ部402に対してコマンドやデータを入力する入力装置を接続するようにしてもよい。
ディジタル変調部411は、これらディジタルオーディオ信号やその他の信号をディジタル変調し、出力する。ディジタル変調部411から出力されたディジタル変調信号は、無線モジュール部412に供給されアンテナ413から電波として無線送信される。
なお、無線モジュール部412は、受信装置401側からの自動再送要求(ARQ:Auto Repeat Request)を受信すると、ディジタル変調部411に対してこのARQを通知し、データの再送を要求する。
アンテナ413から送信された電波は、受信装置401側のアンテナ420で受信され、無線モジュール部421に供給される。受信装置401は、無線モジュール部421、フロントエンド部422、ディジタル復調部423、およびビデオ信号復号部424を有する。このビデオ信号復号部424は、図26の画像復号装置151と基本的に同様の構成とされる。
無線モジュール部421は、受信された電波に基づくディジタル変調信号をフロントエンド部422に供給する。フロントエンド部422は、供給されたディジタル変調信号に対して例えばゲイン制御といった所定の信号処理を施して、ディジタル復調部423に供給する。ディジタル復調部423は、供給されたディジタル変調信号を復調し、符号化ストリームを復元する。
ディジタル復調部423で復元された符号化ストリームは、ビデオ信号復号部424に供給され、図27を参照して上述した復号方法で以て圧縮符号を復号され、ベースバンドのディジタルビデオ信号とされる。この復号されたディジタルビデオ信号は、例えばHD-SDIのフォーマットにマッピングされて出力される。
ディジタル復調部423には、送信ユニット400側でディジタル変調され送信された、ディジタルオーディオ信号やその他の信号も供給される。ディジタル復調部423は、これらディジタルオーディオ信号やその他の信号がディジタル変調された信号を復調し、ディジタルオーディオ信号やその他の信号を復元して出力する。
また、フロントエンド部422は、無線モジュール部421から供給された受信信号に対して所定の方法でエラー検出を行い、例えば誤ったフレームが受信されたといったエラーが検出されると、ARQを出力する。ARQは、無線モジュール部421に供給され、アンテナ420から送信される。
このような構成において、送信ユニット400を例えばビデオカメラ部402を有する比較的小型のビデオカメラ装置に内蔵させ、受信装置401にはモニタ装置を接続し、ビデオ信号復号部424から出力されたディジタルビデオ信号をモニタ装置に供給する。受信装置401に対して、送信ユニット400の内蔵されたビデオカメラ装置が無線モジュール部412から送信される電波の到達範囲内にあれば、ビデオカメラ装置で撮影された映像を、低遅延、例えば1フィールドまたは1フレーム時間以内の遅延でモニタ装置により見ることができる。
なお、図29の例においては、送信ユニット400と受信装置401との間の通信を、無線通信を用いて行い、ビデオ信号を無線通信を介して伝送するようにしているが、これはこの例に限定されない。例えば、送信ユニット400と受信装置401は、インターネットなどのネットワークを介して接続するようにしてもよい。この場合、送信ユニット400側の無線モジュール部412および受信装置401側の無線モジュール部421は、それぞれIP(Internet Protocol)を用いた通信が可能な通信インタフェースとされる。
以上の図29の無線伝送システムは、様々な応用が考えられる。例えば、この無線伝送システムは、テレビジョン会議システムに応用することができる。例えば、USB(Universal Serial Bus)接続が可能な簡易的なビデオカメラ装置をパーソナルコンピュータといったコンピュータ装置に接続すると共に、コンピュータ装置側にビデオ信号符号化部410およびビデオ信号復号部424を搭載する。コンピュータ装置に搭載されるビデオ信号符号化部410およびビデオ信号復号部424は、ハードウェアで構成してもよいし、コンピュータ装置上で動作するソフトウェアとして実現することも可能である。
例えば、会議に参加するメンバそれぞれに、コンピュータ装置と、このコンピュータ装置に接続されるビデオカメラ装置が用意され、コンピュータ装置が例えばテレビジョン会議システムのサービスを提供するサーバ装置に、有線および/または無線によるネットワークを介して接続される。ビデオカメラ装置から出力されたビデオ信号は、USBケーブルを介してコンピュータ装置に供給され、コンピュータ装置内のビデオ信号符号化部410で、図25を参照して上述した符号化処理を施される。コンピュータ装置は、ビデオ信号が符号化された符号化ストリームを、ネットワークを介してサーバ装置などに送信する。
サーバ装置は、受信した符号化ストリームを、参加メンバそれぞれのコンピュータ装置にネットワークを介して送信する。この符号化ストリームは、参加メンバそれぞれのコンピュータ装置に受信され、コンピュータ装置内のビデオ信号復号部424において、図27を参照して上述した復号処理がなされる。ビデオ信号復号部424から出力された画像データが、コンピュータ装置の表示部に映像として表示される。
すなわち、各参加メンバのコンピュータ装置の表示部には、他の参加メンバのビデオカメラ装置で撮影されたそれぞれの映像が表示されることになる。したがって、本発明を適用する無線伝送システムによれば、ビデオカメラ装置での撮影によるビデオ信号の符号化から、他の参加メンバのコンピュータ装置で復号されるまでの遅延時間が短く、参加メンバのコンピュータ装置の表示部に表示される他の参加メンバそれぞれの映像の違和感を少なくできる。
さらに、ビデオ信号符号化部410をビデオカメラ装置側に搭載することも考えられる。例えば、ビデオカメラ装置に送信ユニット400を内蔵させる。このように構成することで、ビデオカメラ装置にコンピュータ装置などの他の装置を接続する必要が無くなる。
このような、送信ユニット400が内蔵されたビデオカメラ装置と受信装置401とからなるシステムは、上述したテレビジョン会議システムの他にも、様々な応用が考えられる。例えば、図30に概略的に示されるように、このシステムを家庭用ゲーム機器に適用することができる。図30において、ビデオカメラ装置500には、図29の送信ユニット400が内蔵される。
家庭用ゲーム機器の本体501は、例えばCPU、RAMおよびROMや、CD-ROM(Compact Disc-Read Only Memory)やDVD-ROM(Digital Versatile Disc-ROM)に 対応したディスクドライブ装置、CPUにより生成された表示制御信号をビデオ信号に変換して出力するグラフィック制御部、オーディオ信号を再生するオーディオ再生部などが例えばバスで接続され、コンピュータ装置と略同様の構成とされる。
家庭用ゲーム機器の本体501は、ROMに予め記憶されたプログラムや、ディスクドライブ装置に装填されたCD-ROMやDVD-ROMに記録されたプログラムに従い、CPUにより全体が制御される。RAMは、CPUのワークメモリとして用いられる。この家庭用ゲーム機器の本体501に対して、受信装置401を内蔵する。受信装置401から出力されるディジタルビデオ信号やその他の信号は、例えばバスを介してCPUに供給される。
このようなシステムにおいて、例えば、家庭用ゲーム機器の本体において、外部から供給されたディジタルビデオ信号による画像を、ゲーム内の画像として用いることができるようにされたゲームソフトウェアが起動されているものとする。例えば、このゲームソフトウェアは、外部から供給されたディジタルビデオ信号による画像をゲーム内の画像として用いることができると共に、当該画像内での人物(プレーヤ)などの動きを識別し、識別された動きに応じた動作を行うことが可能とされている。
ビデオカメラ装置500は、撮影されたディジタルビデオ信号を、内蔵される送信ユニット400において、ビデオ信号符号化部410で、図25を参照して上述した符号化方法で符号化し、符号化ストリームをディジタル変調部411で変調して無線モジュール部412に供給し、アンテナ413から送信する。送信された電波は、家庭用ゲーム機器の本体501に内蔵される受信装置401においてアンテナ420で受信され、受信信号が無線モジュール部421およびフロントエンド部422を介してディジタル復調部423に供給される。
受信信号は、ディジタル復調部423で復調された符号化ストリームとされ、ビデオ信号復号部424に供給される。ビデオ信号復号部424では、供給された符号化ストリームを、図27を参照して上述した復号方法で復号し、ベースバンドのディジタルビデオ信号を出力する。
ビデオ信号復号部424から出力されたベースバンドのディジタルビデオ信号は、家庭用ゲーム機器の本体501において、バスに送出され、例えばRAMに一時的に記憶される。CPUは、所定のプログラムに従い、RAMに記憶されたディジタルビデオ信号を読み出すことで、このディジタルビデオ信号による画像内の人物の動きを検出したり、当該画像をゲーム内で用いることができるようにされる。
ビデオカメラ装置500で撮影され、得られたディジタルビデオ信号が符号化されてから、家庭用ゲーム機器の本体501で符号化ストリームが復号され画像が得られるまでの遅延時間が短いので、家庭用ゲーム機器の本体501上で動作するゲームソフトウェアにおける、プレーヤの動きに対する応答性が良くなり、ゲームの操作性を向上させることができる。
なお、このような、家庭用ゲーム機器と共に用いられるビデオカメラ装置500は、価格や大きさなどの面からみても簡易な構成とされることが多く、コンピュータ装置などのように、処理能力の高いCPUや、記憶容量の大きなメモリを搭載できないことが想定される。したがって、本発明のウェーブレット変換を含む符号化処理を用いることで、大きな容量の外部メモリが必要とされないので、メモリ容量が少なくて済む。また、例えば、ビデオカメラ装置500に内蔵される送信ユニット400のビデオ信号符号化部410において、ウェーブレット変換を低い分解レベルで抑えて行うことが考えられる。こうすることで、メモリ容量がさらに少なくて済む。
また、上記説明では、ビデオカメラ装置500と家庭用ゲーム機器の本体501とは、無線通信で接続されるように説明したが、これはこの例に限られない。すなわち、ビデオカメラ装置500と家庭用ゲーム機器の本体501とは、USBやIEEE1394といったインタフェースにより、有線で接続されていてもよい。
以上、上述した本発明は、画像またはビデオ信号をウェーブレット変換する装置または方法、並びに、帯域分析された情報を合成フィルタバンクリングして画像またはビデオ信号に復元するウェーブレット逆変換する装置または方法であれば、様々なものに適用することができる。
すなわち、上述した図24の画像符号化装置101に示されるように、ウェーブレット変換の後段に符号化手段を付加することで、本発明は、図28乃至図30を参照して上述したような画像信号やビデオ信号の画像を圧縮して伝送、受信し、伸張して画像を出力する装置やシステムに用いて好適である。この発明は、特に、画像の圧縮符号化から復号および出力までの遅延が短いことが要求されるような装置またはシステムに用いて好適である。
本発明は、例えば、ビデオカメラで撮影された映像を見ながらマジックハンドを操作して治療行為を行うような、医用遠隔医療診断の用途に用いて好適である。また、この発明は、放送局内などのシステムにおける、ディジタルビデオ信号の圧縮符号化および伝送、ならびに、圧縮符号化されたディジタルビデオ信号の復号に用いて好適である。
さらに、実況中継されるライブ映像の配信を行うシステム、教育現場において生徒と教師との間でインタラクティブな通信を可能としたシステムなどに、本発明を適用することができる。
また、カメラ機能付き携帯電話端末といった、撮像機能を有するモバイル端末で撮影された画像データの送信するシステム、テレビジョン会議システム、監視カメラおよび監視カメラで撮影された映像を記録するレコーダによるシステム、無線での画像伝送システム、並びに対話型ゲームアプリケーションなどに、本発明を適用することができる。
上述した一連の処理は、図30でも上述したように、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図31は、上述した一連の処理をプログラムにより実行するパーソナルコンピュータ701の構成の例を示すブロック図である。CPU711は、ROM712、または記憶部718に記憶されているプログラムに従って各種の処理を実行する。RAM713には、CPU711が実行するプログラムやデータなどが適宜記憶される。これらのCPU711、ROM712、およびRAM713は、バス714により相互に接続されている。
CPU711にはまた、バス714を介して入出力インタフェース715が接続されている。入出力インタフェース715には、キーボード、マウス、マイクロフォンなどよりなる入力部716、ディスプレイ、スピーカなどよりなる出力部717が接続されている。CPU711は、入力部716から入力される指令に対応して各種の処理を実行する。そして、CPU711は、処理の結果を出力部717に出力する。
入出力インタフェース715に接続されている記憶部718は、例えばハードディスクからなり、CPU711が実行するプログラムや各種のデータを記憶する。通信部719は、インターネットやローカルエリアネットワークなどのネットワークを介して外部の装置と通信する。
また、通信部719を介してプログラムを取得し、記憶部718に記憶してもよい。
入出力インタフェース715に接続されているドライブ720は、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア721が装着されたとき、それらを駆動し、そこに記録されているプログラムやデータなどを取得する。取得されたプログラムやデータは、必要に応じて記憶部718に転送され、記憶される。
コンピュータにインストールされ、コンピュータによって実行可能な状態とされるプログラムを格納するプログラム記録媒体は、図31に示すように、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM,DVDを含む)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア721、または、プログラムが一時的もしくは永続的に格納されるROM712や、記憶部718を構成するハードディスクなどにより構成される。プログラム記録媒体へのプログラムの格納は、必要に応じてルータ、モデムなどのインタフェースである通信部719を介して、ローカルエリアネットワーク、インターネット、ディジタル衛星放送といった、有線または無線の通信媒体を利用して行われる。
なお、本明細書において、プログラム記録媒体に格納されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の装置により構成される装置全体を表すものである。
1 ウェーブレット変換装置, 10 インターリーブ部, 11 水平分析フィルタ部, 12 レベル1バッファ, 13 レベル2バッファ, 14 レベル3バッファ, 15 レベル4バッファ, 16 セレクタ, 17 Y用垂直分析フィルタ部, 18 C用垂直分析フィルタ部, 19 インターリーブ部, 20 水平分析フィルタ部, 21 制御部, 51 ウェーブレット逆変換装置, 61 レベル3バッファ, 62 レベル3バッファ, 63 レベル1バッファ, 64 セレクタ, 65 垂直合成フィルタ部, 66 水平合成フィルタ部, 67 セレクタ, 101 画像符号化装置, 151 画像復号装置