JP2007129731A - 離散余弦変換の近似と量子化ならびに逆量子化と逆離散余弦変換の近似を実行する方法 - Google Patents

Abstract

【課題】通常のＤＣＴ及びＩＤＣＴに必要な演算を減らし、復元ディジタルデータの高品質を保証する。
【解決手段】本発明は、ディジタルデータを圧縮するためにこのデータに連続的に適用されるＤＣＴの近似と量子化とに関し、変換を改善するために、必要とされる演算が少なくなるように所定変換行列を単純化する。更に、無理数を構成するこの単純化された変換行列の要素は有理数により近似される。これらの手段は、単純化された変換行列の要素の有理数による近似を補償するべく所定量子化を拡張することによって補償される。単純化された変換行列と拡張された量子化とを実行の基礎として使用すると、得られる良好な質を有する高速変換を達成でき、対応して、圧縮されたディジタルデータの復元に使用されるＩＤＣＴの近似を単純化できる。
【選択図】図２

Description

本発明は、ディジタルデータの処理に関する。本発明は、具体的には、離散余弦変換（ＤＣＴ）の近似と量子化とを実行する方法に関し、この変換と量子化とはディジタルデータを圧縮するために連続的にディジタルデータに、特にディジタル画像データに適用される。本発明は、逆量子化と逆離散余弦変換（ＩＤＣＴ）の近似とを実行する方法にも関しており、ディジタルデータを復元するために前記逆量子化は圧縮されているディジタルデータに対して前記逆変換と連続して適用される。最後に、本発明は、この様な圧縮及びこの様な復元をそれぞれ実行するのに適する符号器及び復号器に関する。

例えばディジタルデータを効率よく伝送できるようにディジタルデータを圧縮するためにＤＣＴ及び量子化のシーケンスを使用することが当該技術分野の現状から知られている。特に、デジタル画像データの圧縮は、一般に、ＤＣＴを使用し、次にこのＤＣＴにより得られたＤＣＴ係数を量子化することにより達成される。

１次元ディジタルデータのＤＣＴでは、所定数のソース値（source value）のそれぞれのシーケンスが変換係数に変換される。ビデオ符号化では、ソース値は例えば画素値又は予測誤差値であって良い。結果として得られた変換係数は、それぞれ、ソース・データ中に存在するある周波数範囲を表わす。値ｆ（）の係数Ｆ（）へのＤＣＴは次のように規定される。

この式で、Ｎは、ソース値の１つのシーケンスの中にあるソース値の所定個数である。

圧縮については、画像データは普通は２次元ディジタルデータのブロックの形で提供される。この様なデータについてはＤＣＴは次のように規定される。

ＤＣＴは、分離できる演算である。このことは、連続する２つの１次元ＤＣＴ演算で２次元ＤＣＴを計算できることを意味する。１次元ＤＣＴの複雑さはＮに関係しており、２次元ＤＣＴの複雑さはＮ²に関係しているので、１次元ＤＣＴ演算を使用するのが好ましい。Ｎ＊Ｎのサイズを有する画像データでは、全てのＤＣＴ演算の全体としての複雑さはＮ³又は高速ＤＣＴについてはＮ²ｌｏｇ（Ｎ）に関係する。大きな変換は、多数の非自明な乗算も含み、計算上非常に複雑になる。その上、更に、必要とされるビット単位での精度はワード幅を増大させる可能性がある。複雑になるという理由で、ＤＣＴは、一般に、値ｆ（）を有する行列の形で表わせる例えば４×４又は８×８の値の小ブロックについてのみ一度に実行される。図１は、この様な４×４行列１のＤＣＴを示している。

まず、行列１のそれぞれの行が別々に変換されて１回変換された行列２を形成する。図示されている行列１では、それぞれの行の別個の変換は、それぞれの行の全ての値を含む両方向矢印により示されている。次に、１回変換された行列２のそれぞれの列が別々に変換されて、変換係数F()を含む最終的に変換された行列３を形成する。図示されている行列２では、それぞれの列の別個の変換が、それぞれの列の全ての値を含む両方向矢印により示されている。

上記式により規定されるＤＣＴは、行列形式でも書ける。この目的のために、Ｆ（ｉ）は、まず、よりいっそう適切な形、

に書かれる。行列ＡはＤＣＴ基本関数の行列である。次に２次元ＤＣＴを、
Ｙ＝ＡＸＡ^T
で計算でき、ここで行列Ｘはソース値行列を示し、行列ＹはＤＣＴに帰着する変換係数を示す。行列のインデックスＴは、その行列の転置を意味する。

ＤＣＴ後に、ＤＣＴ係数の量子化によって実際の圧縮が達成される。量子化は、量子化パラメータｑｐに依存する量子化値で変換係数を割ることによって達成され、
Ｙ’（ｉ，ｊ）＝Ｙ（ｉ，ｊ）／Ｑ（ｑｐ）（ｉ，ｊ）
ここでＱ（ｑｐ）は量子化行列であり、Ｙ’（ｉ，ｊ）は量子化された係数を構成する。量子化の最も単純な形は、量子化行列に１つの定数だけが存在する一様量子化であり、例えば、
Ｑ（ｑｐ）（ｉ，ｊ）＝ｑｐ
である。量子化された係数は圧縮されたディジタルデータを構成し、このデータは、例えば、符号化ステップと、場合によっては更なる処理ステップの後に、前記データの伝送に便利な形を有することになる。

圧縮されたデータが記憶及び／又は伝送後に再び提示されるときには、そのデータは、まず、再び復元されなければならない。

復元は、圧縮期間中に行われた演算を逆に行うことによって実行される。量子化された係数Ｙ’（ｉ，ｊ）は、第１ステップにおいて、この量子化された係数に量子化行列の値を乗じることにより逆量子化され、
Ｙ（ｉ，ｊ）＝Ｙ’（ｉ，ｊ）Ｑ（ｑｐ）（ｉ，ｊ）
である。次に、逆量子化されてはいるが依然として変換されたままの係数Ｙ（ｉ，ｊ）は、第２ステップにおいて、逆離散余弦変換（ＩＤＣＴ）により逆変換され、
Ｘ＝Ａ^TＹＡ
であり、ここで行列ＹはＤＣＴの場合と同じく変換された係数を示し、行列Ｘは回復されたソース値行列を示す。

全ての計算に無限精度が用いられるならば、Ｘは正確に元の画素値を含む。しかし、実際には、係数は少なくとも量子化及び逆変換後に整数値に変換される。その結果として、元の画素を正確に復元することはできない。圧縮を行えば行うほど、元の画素からの偏差が大きくなる。

上記のＤＣＴ及びＩＤＣＴを直接に実行するならば、それぞれの変換が数個の乗算、加算及び／又は減算を必要とする。しかし、一方ではこれらの演算はかなりのプロセッサ時間を必要とし、他方では乗算は一部のアーキテクチャでは回路面積に関して極めて高価な演算である。例えば高品質動画を伝送できるようにするためには、復元で回復されるデータの質を低下させること無く、必要とされる乗算ステップが少ない変換プロセスを捨ててしまうことが望ましい。

ＤＣＴは多くの画像符号化規格において中心の演算でもあるので、ＤＣＴは広く使われていて、前述した問題についての種々の解決策が文献に記載されている。これらの解決策は、一般に「バタフライ演算」を特徴とし、且つ／又はＤＣＴプロセスの終わりに演算子行列からの幾つかの計算を量子化ステップに組み合わせる。

米国特許第５，５２３，８４７号は、例えばカラー画像圧縮のためのディジタル画像プロセッサを記載している。ＤＣＴにおいて非自明な乗算の数を減らすために、非自明な乗算の数が減るように変換行列を分解することがこの文献で提案されており、非自明な乗算は２の累乗以外の要素による乗算又は割り算である。非自明な乗算は、ビット・シフトにより実行でき、従って「非自明な」という名前になっている。より具体的には、対角要素を後の量子化ステップに吸収させることができ、また最小限の非自明な乗算で基準化要素にデータベクトルを乗じることができるように、変換行列は対角要素と基準化要素とに分解される。更に、残りの非自明な乗算を有理数による乗算で近似することが提案されており、その理由は、その場合には加算、減算及びシフト演算だけで計算を達成できるからである。しかし、このことはＩＤＣＴでは問題につながる。その理由は、この近似では、この変換について正確な逆変換が最早存在しないかも知れないからである。従って、ＤＣＴ−ＩＤＣＴプロセスを繰り返すと画像の質が顕著に劣化する結果になる可能性がある。このことは、例えば、ＤＣＴ圧縮が利用される通信リンクを介して画像が数回伝送されるときに生じるであろう。

他のアプローチがガイル・ボンテガード（Gisle Bjontegaard）による文献「Ｈ．２６Ｌ試験モデル長期番号７（ＴＭＬ−７）草案０」、ＩＴＵビデオ符号化専門家グループ、第１３回会合、オースチン、テキサス、米国、２００１年４月２〜４日（"H.26L Test Model Long Term Number 7 (TML-7) draft0,", ITU Video Coding Experts Group, 13th Meeting, Austin, Texas, USA 2-4 April, 2001）に記載されている。この文献は、ＩＴＵ−Ｔ勧告Ｈ．２６Ｌについての圧縮方法のための現在の試験モデルを構成するＤＣＴの解決策を記載している。

この文献によると、ＤＣＴの代わりに、基本的に４×４ＤＣＴと同じ符号化特性を有する整数変換を使用することができる。この整数変換では、所定の重みで画素を合計する４つの線形の式により４つのソース・データ画素から４つの変換係数がそれぞれ得られる。この変換の後に又は前に量子化／逆量子化プロセスがあり、このプロセスは標準の量子化／逆量子化を実行する。更に、正規化が必要とされるが、その理由は、ランダムなデータを伝送するより正規化された分布を有するデータを伝送する方が効率が良いからである。この変換は正規化を含まないので、逆変換後の最終シフトで完了される正規化を更に追加して量子化／逆量子化を実行する。この量子化／逆量子化は３２個の異なる品質パラメータ（ＱＰ）値を使用し、これらは１つのＱＰから次のＱＰへステップサイズが約１２％増大するように配置される。このアプローチの欠点は、３２ビットの算術演算と、かなり多数の演算とを必要とすることである。

もう一つの、ジー・リアン（Jie Liang）、トラク・トラン（Trac Tran）、及びパンカジ・トピワラ（Pankaj Topiwala）による文献「ＤＣＴ変換及び量子化を処理する、Ｈ．２６Ｌのための１６ビット・アーキテクチャ」、文献ＶＣＥＧ−Ｍ１６、ビデオ符号化専門家グループ（ＶＣＥＧ）第１３回会合、オースチン、米国、２００１年４月２〜４日（"A 16-bit architecture for H.26L, treating DCT transforms and quantization", Document VCEG-M16, Video Coding Experts Group (VCEG) 13th meeting, Austin, USA, 2-4 April, 2001)は、引用したＴＭＬ−７文献から進んだものである。このＶＣＥＧ−Ｍ１６文献は、主として４×４変換を扱っていて、Ｈ．２６Ｌ規格のための、ｂｉｎＤＣＴと称される４ポイントＤＣＴの高速近似を提案している。このｂｉｎＤＣＴは、加算と右シフト演算だけで実行することができる。この提案されている解決策は、無損失符号化のために完全に可逆的になるように実行できる。

提案されているｂｉｎＤＣＴは、公知のＣｈｅｎ−Ｗａｎｇ平面回転に基づくＤＣＴ行列の分解に基づいている。ｂｉｎＤＣＴの１６ビット実行のために、リフティング（ｌｉｆｔｉｎｇ）方式を用いてＤＣＴの高速近似を得る。使用される各リフティングステップは双直交変換であり、その逆も単純なリフティング構造を有する。このことは、リフティングステップを逆にするために、順方向変換で加えられたものが差し引かれることを意味する。従って、順方向変換及び逆方向変換の両方に同じ手順が適用される限り、たとえ浮動小数点乗算結果がリフティングステップで整数に丸められたとしても、依然として元の信号を完全に復元することができる。

高速実行を達成するために、浮動小数点リフティング係数はｋ／２ｍのフォーマットで有理数により更に近似され、このｋ及びｍは整数であり、これはシフト演算及び加算のみによって実行できる。リフティングに基づく高速ＤＣＴの複雑さを更に低下させるために、平面回転を表わすのに基準化リフティング構造が使用される。基準化要素は、量子化段階に吸収できる。

ＶＣＥＧ−Ｍ１６文献で提案されている解決策は、ソース値が９ビット値であることと，ＴＭＬ−７文献の解決策よりも演算が少ないこととを前提にすれば、１６ビット演算を要するに過ぎない。より具体的には、これは、４データ値の１−Ｄ ＤＣＴについては１０個の加算と５個のシフトとを必要とする。

画像データ圧縮に関連する文献として例えば下記のものがあるが、その内容については手短に触れるだけにする。

２００１年２月１３日に登録された米国特許第６，１８９，０２１号は、２つの１次元ＤＣＴ演算のうちの１つのための６段階ＤＣＴ高速アルゴリズムの固有乗算段階でもう１つの１次元ＤＣＴ演算のためのＤＣＴ高速アルゴリズムの対応する段階を省略できるように、一組の基準化重み係数を用いることを提案している。

１９９２年７月７日に登録された米国特許第５，１２９，０１５号は、ＤＣＴに似ている方法を使用するが、乗算無しで静止画像を圧縮するためにさらに簡単な計算を使用する。

１９９６年１１月５日に登録された米国特許第５，５７２，２３６号は、カラー画像圧縮のためのディジタル画像プロセッサに関連しており、このプロセッサは、非自明な乗算が単一のプロセス・ステップで結合されることとなるようにＤＣＴプロセスを再編成することによってＤＣＴプロセスにおける非自明な乗算の数を最小限にする。

２００１年５月３日に公開されたＰＣＴ出願ＷＯ０１／３１９０６は、ローカル・ゼロツリー・コーディングと称される変換に基づく画像圧縮フレームワークに関連する。
米国特許第５５２３８４７号明細書 米国特許第６１８９０２１号明細書 米国特許第５１２９０１５号明細書 米国特許第５５７２２３６号明細書 国際公開第０１／３１９０６パンフレット ガイル・ボンテガード（Gisle Bjontegaard）著「Ｈ．２６Ｌ試験モデル長期番号７（ＴＭＬ−７）草案０」、ＩＴＵビデオ符号化専門家グループ、第１３回会合、オースチン、テキサス、米国、２００１年４月２〜４日（"H.26L Test Model Long Term Number 7 (TML-7) draft0,", ITU Video Coding Experts Group, 13th Meeting, Austin, Texas, USA 2-4 April, 2001） ジー・リアン（Jie Liang）、トラク・トラン（Trac Tran）、及びパンカジ・トピワラ（Pankaj Topiwala）著「ＤＣＴ変換及び量子化を処理する、Ｈ．２６Ｌのための１６ビット・アーキテクチャ」、文献ＶＣＥＧ−Ｍ１６、ビデオ符号化専門家グループ（ＶＣＥＧ）第１３回会合、オースチン、米国、２００１年４月２〜４日（"A 16-bit architecture for H.26L, treating DCT transforms and quantization", Document VCEG-M16, Video Coding Experts Group (VCEG) 13th meeting, Austin, USA, 2-4 April, 2001)

本発明の目的は、非自明な乗算を必要とせずに通常のＤＣＴ及びＩＤＣＴのために必要とされる演算を減少させることである。通常のＤＣＴ又はＩＤＣＴよりも演算を必要としない、公知方法に代わる方法を提供することも本発明の目的である。更に、復元後のディジタルデータの高品質を保証することも本発明の目的である。

ディジタルデータの圧縮のために、第１ステップでディジタルデータに適用されたときに必要とされる演算が少なくなるように所定の変換行列を単純化するステップを有する方法によって本発明の目的が達せられる。第２ステップで、単純化された変換行列の無理数を構成する要素が有理数で近似される。第３ステップで、この単純化された変換行列の要素の有理数による近似を補償するように所定の量子化が拡張される。この拡張された所定量子化は、例えば、所定変換行列を単純化するときに除去された演算を含んでいても良く、これらの含まれた演算は、単純化された変換行列の要素の有理数による近似を補償するように調整されている。近似された要素を有する単純化された変換行列と拡張された量子化とは、圧縮すべきディジタルデータに適用すべき変換及び量子化のシーケンスを実行するための基礎として使用できる。

圧縮されたディジタルデータを復元するために、圧縮のために提案されている方法の所定変換行列に従って所定の逆変換行列を処理する方法を用いれば上記目的が達せられる。更に、提案されている圧縮のための方法の所定量子化の拡張に従って所定の逆量子化が拡張される。その結果として得られる拡張逆量子化と、近似された要素を有する単純化された逆変換行列とは、復元を達成するために圧縮されたディジタルデータに適用される逆量子化及び逆変換のシーケンスを実行するための基礎として使うことができる。

ＤＣＴの近似に対応する変換器及び対応する量子化手段を備える符号器と、対応する逆量子化手段及びＩＤＣＴの近似に対応する変換器を備える復号器とで本発明の上記目的が最終的に達せられる。

本発明は、一方では演算が変換行列から抽出されて量子化に吸収され、且つ他方では有理数を構成しない残りのエントリ（entry）が上記の様な有理数により近似されるならば、ＤＣＴに必要とされる演算の数を著しく減少させることができるというアイデアに由来する。しかし、復元を正しく実行できることを保証するために、更に量子化へ移される演算において上記近似を補正することが提案される。

本発明は、例えばＴＭＬ−７及びＶＣＥＧ−Ｍ１６と比べて必要な演算の数を減らし、このことによりプロセッサ時間を節約できるようにするので、変換の高速計算を可能にすることが本発明の利点である。それにもかかわらず、本発明は、ＶＣＥＧ−Ｍ１６文献の解決策に非常に近い品質を達成する。本発明は、更に、実行される近似を補正することによって変換の演算の反転特性を考慮できるようにするので、特に低ビットレートで処理されるデータの品質の低下を回避することができる。従って、例えばＵＳ５，５２３，８４７などと比べて、より良好な反転精度が達成されるということが本発明の別の利点である。

本発明の好ましい実施例は従属請求項から明らかとなる。

ディジタルデータに適用されたときに必要とされる演算が少なくなるように所定変換行列を単純化するという提案されているステップは、好ましくは所定変換行列を２つの要素に分解するステップを含み、その１つの要素は対角行列を構成し、他方の要素は単純化された変換行列を構成する。この対角行列は、単純化された変換行列から除去された演算を含む。

有益なことに、単純化された変換行列の残りのエントリを近似する有理数は２ⁿを分母とする分数により与えられ、ここでｎは整数である。２ⁿの乗算或いは２ⁿの除算はビット・シフト演算により実行できるので、この様な有理数は２進演算のために特に適している。提案されている近似では、ＤＣＴで全ての乗算を回避することができる。

例えば４×４ＤＣＴ行列などの、所定の変換行列、及び単純化された行列に残っているエントリを近似するための選択された有理数の場合、１次元又は２次元のディジタルデータ値を変換するために実行されなければならない各１次元変換について、加算、減算及びシフトのみを含む式の単一のセットを決定することができる。

量子化ステップにおける近似に対する調整は、適用される変換が逆変換を有することを保証することが好ましい。このことはＡ^TＡ＝Ｉであることを保証することによって達成され、ここで行列Ａは、この場合には、残りのエントリが近似され、且つ抽出された演算での近似が補正された後に、全ての抽出された演算が単純化された変換行列に再び含まれる行列である。このことは、ＩＤＣＴの近似を良い品質で実行できることを保証する。

例えば４×４ＤＣＴ行列などの所定の変換行列について、また単純化された行列に残っているエントリを近似するための選択された有理数について、抽出された演算における具体的値に必要とされる調整も、一般的方法で計算することができる。

しかし、８×８変換のような、より大きな変換では、単純化された行列の近似を調整することが更に必要であるかも知れない。その理由は、最適の実施形態でＤＣＴ変換係数を近似すれば不完全な順方向・逆方向の変換対がもたらされ、画素値が隣接していない即ち２画素だけ離れた画素に「こぼれる」という結果をもたらすからである。この結果として、画像がぼやける。近似を正しく選択すれば、単位行列の順方向変換及び逆方向変換から生じる行列の非対角要素が無効にされる。非常に大きな行列では、近似を充分に調整することは不可能であろう。その様な場合には、最小２乗の意味で最上の結果を生じさせるように近似を調整することができる。更に、解をディリクレのセット（Dirichlet set）に、即ち一定の有理数に限定するために最適化が必要である。

提案されている量子化ステップについて、好ましくは、変換行列を単純化するために、量子化係数の所定シーケンスに、変換行列から抽出された行列を乗算することによって量子化行列が決定される。この抽出された行列は、所定変換行列から抽出された演算を含み、単純化された変換行列の残りの項目の近似を有理数で補償するために調整される。

提案されている方法は、２次元変換と同様に１次元にも使用することができる。２次元ディジタルデータに適用される２次元変換のために、所定変換行列と、単純化された変換行列の転置とについて単純化及び近似が実行される。これら２つの行列は、変換を実行するための基礎として使用される。拡張量子化は、この場合には前記行列の両方から除去された演算を含み、それらの演算は前記行列の両方における近似を補償するように調整される。

提示された好ましい実施例は、変換及び量子化を実行する本発明の方法だけではなくて、本発明による逆変換及び逆量子化を実行する方法、符号器及び復号器用にも対応するやり方で使用できる。

実際には、変換のための演算子行列がＤＣＴ変換行列のようにユニタリーであれば、変換のために計算される変換行列は、通常、別々の計算を実行することなく逆変換用として転置された形で使用することができる。この場合、同様に、拡張量子化に包含される演算を所定逆量子化の拡張のためにも使うことができる。

本発明は、例えばＧＳＭ (汎欧州移動通信システム）やＵＭＴＳ（ユニバーサル移動通信システム）のような移動通信システムなど、どのような目的でどのような種類のディジタルデータを圧縮するためにも使用することができる。

本発明は、例えばＭＰＥＧコーデックの一部として実施することができる。

以下の詳しい記述を添付図面と関連させて検討すれば本発明の他の目的及び特徴が明らかとなろう。しかし、図面は単に例示を目的として作られたものであって、本発明の範囲を定めるものではないことが理解されなければならず、その代りに本発明の範囲を定めるためには添付されている請求項を参照するべきである。

次に、図面を参照して本発明をいっそう詳しく説明する。

図１については既に上で説明した。

図２のブロック図は、本発明を実現することのできる典型的なシステムのコンポーネントを含んでいる。図２の左側に、符号器４が描かれている。符号器４は、ビデオデータを提供し送信することのできる、例えば移動通信システムのユーザ装置などの第１装置の一部分である。符号器４は、その入力と出力との間に接続されたＤＣＴ変換器４１と、量子化手段４２と、追加の手段４３とを備える。図２の右側には復号器５が描かれている。復号器５は、ビデオデータを受信し表示することのできる、例えば同様に移動通信システムのユーザ装置などの第２装置の一部分である。復号器５は、その入力と出力との間に接続された手段５３と、逆量子化手段５２とＩＤＣＴ変換器５１とを備える。

例えば通信網を介してビデオデータが第１装置から第２装置へ送られる場合、ビデオデータは第１装置の符号器４にディジタルデータとして提供される。符号器４において、ディジタルデータはまずＤＣＴ変換器４１により変換され、次に量子化手段４２によって量子化される。量子化後、データは更に追加手段４３によって処理される。この処理は、送信のために量子化されたデータの符号化を含んでおり、場合によってはその前に別の圧縮が行われるが、それは本発明とは無関係なので本書では論じない。

その後、処理されたデータは、符号器４を備える第１装置から復号器５を備える第２装置に伝送される。第２装置はデータを受け取り、それを復号器５に転送する。復号器５において、第１ステップでは或る処理が手段５３で実行されるが、この処理は符号器４のブロック４３での処理に逆に対応する。その処理は、本書では論じないけれども、復号化を含んでいても良く、場合によってはその次に復元の第１ステップが行われる。その後、処理されたデータは、逆量子化手段５２によって逆量子化され、更に該データに対してＩＤＣＴ変換器５１によりＩＤＣＴが行われる。ＩＤＣＴ５１により提供される回復されたビデオ信号は、第２装置によりユーザに対して表示されるべく復号器５から出力される。

以下、図２の符号器４のＤＣＴ変換器４１及び量子化手段４２の本発明による具体化の実施例について示す。この具体化は本発明の背景において記載したようにＤＣＴ及び量子化から生れるものであるが、入力されたディジタル画像データの圧縮が４×４値からなるディジタルデータのブロックに対して実行されるということが前提になる。図２の復号器５の逆量子化手段５２及びＩＤＣＴ変換器５１による対応する復元の本発明による具体化の実施例も示す。

以下に提示する式では、種々の行列に対して種々の式で同じ名称を使うことがあるので注意すること。少なくとも他の種類の行列用に対応する名称が前に使用されている場合、各式についてそれぞれの行列の種類を表示する。

ＤＣＴについての上記式Ｙ＝ＡＸＡ^Tに従って、４×４順方向ＤＣＴ変換を下記のように計算することができる。

ここでＹは所望の変換された行列であり、Ｘは４×４ソース値ｘ_ij（ｉ，ｊ＝１〜４）からなる行列であり、Ａは４×４ＤＣＴ変換行列である。行列Ａの値ａ、ｂ及びｃは、Ａ（ｉ，ｘ）についての上記規定から容易に得られる。

順方向ＤＣＴについての式において、行列Ａを分解することができ、その結果として対角行列Ｂと単純化された変換行列Ｃとが得られる。Ａの転置形Ａ^Tについて、対応する分解を実行することができる。更にｄをｄ＝ｃ／ｂとして表わせば、順方向ＤＣＴを次のように書くことができる。

Ｂは対角行列なので、上記式を次のように書くことができる：

ここで

はそれぞれ２つの行列が完全行列乗算ではなくてエントリ順（entry-wise）に乗算されることを示すために使われている。

Ｄと、その転置形式のＤ^Tとを結合させてＥにした後、最終ＤＣＴは次のようになる。

次のステップで、係数ｄは、２ⁿを分母とする有理分数により表わすことのできる固定小数点フォーマットに変換される。小数点以下８桁を考慮したときのｄの値は０．４１４２１３５６である。ｄについての２つの可能な固定小数点近似値は３／８＝０．３７５と７／１６＝０．４３７５とであり、その両方を同数の加算及びシフト演算で実現することができる。１３／３２、２７／６４、及び５３／１２８などの、より精度の高い近似値は、より多くの加算とシフトを必要とするけれども、実際上は、達成される圧縮を大して改善しない。従って、３／８よりｄに近い７／１６がｄについての固定小数点フォーマットとして選択される。

係数ｄを固定小数点表示に変換した後、変換が逆変換を有するようにｂを調整しなければならない。逆変換が存在するための条件は、
Ａ^TＡ＝Ｉ
である。ｄの近似後に要素Ｂ及びＣから組み立て直された行列Ａについて上記式を解くとき、調整されたｂについての条件は、

であることが分かる。従って、係数ｂの元の値の代わりにこの新しい値を代入することによって行列Ｅが調整される。

行列Ｅが抽出された符号器４のＤＣＴ変換器４１で、単純化されたＤＣＴを実行することができる。即ち、実行は式Ｙ_C＝ＣＸＣ^Tに基づき、式中行列Ｃは近似された係数ｄを含み、修正されたＤＣＴ係数Ｙ_Cが得られる。後述するように、行列Ｅは、後の量子化ステップと結合される。

単純化されたＤＣＴの実際の実行は具体的な変換器アーキテクチャに依存するであろうが、演算の数が非常に少ないこと或いは乗算を全く持たないことが非常に重要であろう。

単純化されたＤＣＴ変換器の実現に使用することのできる式の異なる３つのセットを提案する。これらの式は、上で得られた単純化されたＤＣＴ変換行列Ｃに基づく４ポイント１次元単純化ＤＣＴを実行するのに適している。行列Ｃで、係数ｄはｄ＝７／１６となるように選択される。式の各セットにおいて、Ｘ［ｉ］、ｉ＝０〜３は変換すべき４つの値のシーケンスを構成し、Ｙ［ｉ］、ｉ＝０〜３は変換された４つの値のシーケンスを構成し、ｅ及びｆは補助変数である。

提案される式の第１のセットは次の通りである。
ｅ＝Ｘ［０］＋Ｘ［３］
ｆ＝Ｘ［１］＋Ｘ［２］
Ｙ［０］＝ｅ＋ｆ
Ｙ［２］＝ｅ−ｆ
ｅ＝Ｘ［０］−Ｘ［３］
ｆ＝Ｘ［１］−Ｘ［２］
Ｙ［１］＝ｅ＋７＊ｆ／１６
Ｙ［３］＝７＊ｅ／１６−ｆ

この式のセットにおける２つの割り算は実際にはビット・シフトである。従って、この式のセットは、合計で１２個の演算に対して、８個の加算、２個の乗算、及び２個のシフト、を必要とする。

提案される式の第２のセットは次の通りである。
ｅ＝Ｘ［０］＋Ｘ［３］
ｆ＝Ｘ［１］＋Ｘ［２］
Ｙ［０］＝ｅ＋ｆ
Ｙ［２］＝ｅ−ｆ
ｅ＝Ｘ［０］−Ｘ［３］
ｆ＝Ｘ［１］−Ｘ［２］
Ｙ［１］＝ｅ＋（ｆ−ｆ／８）／２
Ｙ［３］＝（ｅ−ｅ／８）／２−ｆ

この式の第２のセットは、加算とシフトだけを使用し、第１のセットと同一の結果を生じる。この場合にも、割り算は実際にはビット・シフトである。このバージョンは、合計１４個の演算に対して、１０個の加算及び４個のシフト、を必要とする。演算の数は第１バージョンの場合より多いけれども、乗算が高価な演算であるとすれば、結果としての複雑さは依然として低い。更に、乗算の結果は、より大きなダイナミックレンジを必要とする。

提案される式の第３のセットは次の通りである。
ｅ＝Ｘ［０］＋Ｘ［３］
ｆ＝Ｘ［１］＋Ｘ［２］
Ｙ［０］＝ｅ＋ｆ
Ｙ［２］＝ｅ−ｆ
ｅ＝Ｘ［０］−Ｘ［３］
ｆ＝Ｘ［１］−Ｘ［２］
Ｙ［１］＝１６＊ｅ＋７＊ｆ
Ｙ［３］＝７＊ｅ−１６＊ｆ

式のこの第３のセットは加算及び乗算又は加算及びシフトを使用することができる。これは、合計で１２個又は１４個の演算に対して、８個の加算及び４個の乗算又は１０個の加算及び４個のシフト、をそれぞれ必要とする。この式のセットは、式の第１及び第２のセットと同一の結果を生じない。Ｙ［１］及びＹ［３］についての結果は、式の他の２つのセットの場合よりも１６倍大きく、従ってその結果に対するダイナミックレンジの必要条件ははるかに大きい。しかし、本発明のいくつかの実施例では、特定の実施例でのシフトが複雑であるために、或いは結果の精度が僅かに低いために、結果をシフトダウンさせない方が有益であろう。式のこの第３セットではいくつかの結果が１６倍大きいので、行列Ｅ内の値「ａｂ」及び「ｂ²」はそれぞれ１６又は１６²で割られる。

提示された式のセットのいずれも、変換すべき値のセットに適用することによって、２次元データを変換するために使用することができる。

単純化された変換の次に、適応量子化ステップが行われる。量子化の実行は、使用されるＤＣＴに依存する。前記のＴＭＬ−７文献では、均一量子化が使用される。高速ＤＣＴでは、ＤＣＴ乗算のうちの幾つかが量子化乗算と結合されるので、不均一量子化行列を使用しなければならない。文献ＶＣＥＧ−Ｍ１６の上記ｂｉｎＤＣＴは、更に、量子化のために割り算を使用し、１６ビット演算だけを必要とする。しかし、割り算は一般に、どちらかといえば遅い演算である。従って、提示される実施例では、乗算だけを使用する均一量子化が量子化手段４２で実行される。

既に上で言及したように、下記のように割り算を用いて量子化を実行することができる。
Ｙ’（ｉ，ｊ）＝Ｙ（ｉ，ｊ）／Ｑ（ｑｐ）（ｉ，ｊ）
割り算は高価な演算であるので、代わりに乗算を用いることができる。この目的のために、量子化行列Ｒが
Ｒ（ｑｐ）（ｉ，ｊ）＝１．０／Ｑ（ｑｐ）（ｉ，ｊ）
として計算され、その後に乗算、
Ｙ’（ｉ，ｊ）＝Ｙ（ｉ，ｊ）Ｒ（ｑｐ）（ｉ，ｊ）
で量子化を実行することができる。

文献ＴＭＬ−７で提案されている量子化では、量子化係数はほぼ下記の通りである。他の係数を使用することもできる。
ａ（ｑｐ）＝
2.5000,2.8061,3.1498,3.5354,3.9684,4.4543,4.9998,5.6120,6.2992,7.0706,7.9364,8.9082,9.9990,11.2234,12.5978,14.1404,15.8720,17.8155,19.9971,22.4458,25.1944,28.2795,31.7424,35.6293,39.9922,44.8894,50.3863,56.5562,63.4817,71.2552,79.9806,89.7745
ＤＣＴから抽出された行列Ｅを量子化に吸収できるように、量子化パラメータｑｐについての量子化行列Ｒは
Ｒ（ｑｐ）（ｉ，ｊ）＝Ｅ（ｉ，ｊ）／ａ（ｑｐ）
として計算される。

次に、
Ｙ’（ｉ，ｊ）＝Ｙ_C（ｉ，ｊ）・Ｒ（ｑｐ）（ｉ，ｊ）±ｆ
により変換係数Ｙ_C（ｉ，ｊ）から最終量子化係数Ｙ’（ｉ，ｊ）を決定して単純化されたＤＣＴを得ることができ、ここでＴＭＬ−７文献によりｆは、ブロック内については１／３であり、ブロック間については１／６であって、Ｙ_C（ｉ，ｊ）と同じ符号を有する。ブロック内は現在の画像内の値だけに基づいて符号化されるマクロブロックであり、ブロック間は更に他の画像内の値にも基づいて符号化されるマクロブロックである。それぞれのマクロブロックは、例えば提示されている例の４×４値のブロック群などの複数のサブブロックから成り、それらは別々にＤＣＴ変換され量子化される。

しかし、まず、量子化は固定小数点の値だけを使うように変更される。この目的のために、量子化の前にＲ及びｆの値に２ⁿを乗じ、その結果を丸めて整数値にすることにより、Ｒ及びｆの値は固定小数点値に変換される。ｎは、それらの固定小数点値のために使用される分数ビットの数である。ｎ＝１７を選ぶことにより、Ｒの係数は１６ビット内に納まり、従って量子化には１６ビット乗算だけが必要とされることになる。より具体的には、３２ビットの結果を生じさせる１６ビット乗算が必要とされる。

次に固定小数点量子化が符号器４の量子化手段４２で式、
Ｙ’（ｉ，ｊ）＝（Ｙ_C（ｉ，ｊ）・Ｒ（ｑｐ）（ｉ，ｊ）±ｆ）／２ⁿ
に基づいて実行され、ここでＲ及びｆは固定小数点値だけから成る。Ｙ’（ｉ，ｊ）の値は、所望の圧縮されたディジタル画像データとして量子化手段４２から出力される。

この圧縮されたディジタル画像データを図２の復号器５で復元するために、逆量子化手段５２とＩＤＣＴ変換器５３とは、符号器４の量子化手段４２とＤＣＴ変換器４１とに対応して実現される。基本ＩＤＣＴは基本ＤＣＴから、
Ｘ＝Ａ^TＹＡ
として計算され、ここで行列Ｘは所望の、回復されたソース値を含み、行列Ａは元のＤＣＴ変換行列であり、行列Ｙは、本発明の背景において記載したように復元により得られる逆量子化された値を含む。

この式から進んで、抽出された行列Ｅを使用して順方向変換に対応するように逆変換を定式化することができる。

ここでマトリクスＣ及びＣ^Tは、符号器４のブロック４１で縮小ＤＣＴに使われた行列Ｃ及びＣ^Tに対応する。

この式の行列Ｅは、ＩＤＣＴの前の逆量子化ステップに吸収できる。

このことは、量子化での行列Ｅの吸収と同様に実現できる。逆量子化係数は、量子化係数の逆の値である。

行列Ｅを含む量子化パラメータｑｐについての逆量子化行列Ｑは、
Ｑ（ｑｐ）（ｉ，ｊ）＝Ｅ（ｉ，ｊ）・ａ（ｑｐ）
として計算できる。

従って、式、
Ｘ’（ｉ，ｊ）＝Ｙ’（ｉ，ｊ）・Ｑ（ｑｐ）（ｉ，ｊ）
に従って、圧縮された係数Ｙ’（ｉ，ｊ）を逆量子化して逆量子化された係数Ｘ’（ｉ，ｊ）とすることができる。この式において、Ｘ’（ｉ，ｊ）は、逆変換についての上記式

中の項

に対応する。

固定小数点の数値が使用されるとき、Ｑの値に２ⁿを乗じ、その結果を丸めて整数値とすることによってＱの値は逆量子化前に固定小数点値に変換される。逆量子化のためにｎ＝５を選択すれば、１６ビット演算だけを用いて逆量子化の全ての計算を行うことができる。次に復号器５の逆量子化手段５２で式、
Ｘ’（ｉ，ｊ）＝Ｙ（ｉ，ｊ）・Ｑ（ｑｐ）（ｉ，ｊ）
に基づいて固定小数点逆量子化を実行することができ、ここでＱは固定小数点の数値だけを含む。逆量子化後、Ｘ’（ｉ，ｊ）の値は２ⁿで正規化されるべきであるが、より良い精度を達成するために正規化は最終ＩＤＣＴ後に行われるように後回しにされる。

単純化された逆変換は、式、
Ｘ＝Ｃ^TＸ’Ｃ
に従って復号器５のＩＤＣＴ変換器５１で実行することができ、その後にＸの固定小数点値は式、
Ｘ（ｉ，ｊ）＝（Ｘ（ｉ，ｊ）＋２^n-1）／２ⁿ
に基づいて整数値に変換され、ここで２ⁿによる割り算は簡単な算術ビット・シフトで実現される。

ＩＤＣＴ変換器５１の実際の具体化は、ＤＣＴ変換器４１について提示されたものに対応する加算、減算及びシフトだけを含む１つのセットの式を含むことができる。

本発明の他の実施例により、８×８のＤＣＴ及びＩＤＣＴを下記のように実行することができる。ＤＣＴについての式Ｙ＝ＡＸＡ^Tに従って８×８順方向ＤＣＴ変換を次のように計算することができ、

ここでＹは所望の変換された行列であり、Ｘは上記の４×４の実施例の場合のように８×８ソース値ｘ_i,j（ｉ，ｊ＝１〜８）を含む行列であり、Ａは、この式の右辺に開いて書かれている８×８ＤＣＴ変換行列であり、Ａ^TはＡの転置である。行列Ａの値ａ、ｂ、ｃ、ｄ、ｅ、ｆ及びｇは、Ａ（ｉ，ｘ）についての上記規定から容易に得ることができ、

である。

順方向ＤＣＴについての式において、行列Ａを分解して対角行列Ｂと単純化された変換行列Ｃとを得ることができる。Ａの転置形Ａ^Tについて、対応する分解を実行することができる。ｘ_y＝ｘ／ｙという表示を使用すれば、順方向ＤＣＴを

と書くことができる。Ｂは対角行列であるから、上記式は、４×４の場合と同じく

と書くことができ、ここで

は２つの行列が完全行列乗算ではなくてエントリ順に掛け合わされることを示すために使われている。

Ｄとその転置形Ｄ^TとをＥに組み込んだ後、最終ＤＣＴは下記の通りである。

次のステップで、係数ｃ_b、ｄ_b、ｅ_b、及びｇ_fは、２ⁿを分母とする有理分数により表わすことのできる固定小数点フォーマットに変換される。精度の高い近似はｃ_b＝７／８、ｄ_b＝９／１６、ｅ_b＝３／１６、及びｇ_f＝７／１６である。

係数ｃ_b、ｄ_b、ｅ_b、及びｇ_fを固定小数点表示に変換した後、変換が逆変換を有するようにｂ及びｆを調整しなければならない。逆変換が存在するための条件は再び、
Ａ^TＡ＝Ｉ
により与えられる。ｃ_b、ｄ_b、ｅ_b、及びｇ_fの近似後に要素Ｂ及びＣから組み立て直された行列Ａについて上記式を解くとき、調整されるｂ及びｆについての条件は、

であることが分かる。従って行列Ｅは、係数ｂ及びｆの元の値の代わりにこれらの新しい値を代入することによって調整される。

しかしながら、条件Ａ^TＡ＝Ｉを満たすために、ｃ_b、ｄ_b及びｅ_bの値は別様に選択されなければならないが、その理由は、そうでなければ積Ａ^TＡがゼロでない非対角要素を特徴とするようになるからである。８×８の場合についての必要条件は
ｄ_b−ｃ_b＋ｅ_b（ｄ_b＋ｃ_b）＝０
であり、ｃ_b＝１５／１６、ｄ_b＝９／１６及びｅ_b＝１／４を選べば、この条件を満たすことができる。

単純化されたＤＣＴも行列Ｅが抽出された符号器４のＤＣＴ変換器４１で実行することができる。即ち、この実行は式Ｙ_C＝ＣＸＣ^Tに基づき、ここで行列Ｃは近似された係数ｃ_b、ｄ_b、ｅ_b及びｇ_fを含んでいて、修正されたＤＣＴ係数Ｙ_Cをもたらす。行列Ｅは、４×４ＤＣＴについて前述したものと同様に、その後の量子化ステップと結合される。

本発明の第３実施例では、これらの近似値は、変換時の分数の選択を最適化することによって条件Ａ^TＡ＝Ｉに合うように調整される。これらの分数は、行列Ａ^TＡの非対角要素が実施の点でなるべくゼロに近くなるように選択される。この最適化の解決策は、ディリクレのセットに、即ち有理数に限定される。

本発明の第４実施例では、高速ＤＣＴアルゴリズムの近似値は、変換時の分数の選択を最適化することによって条件Ａ^TＡ＝Ｉに合うように調整される。

全体において、本発明の記載された実施例から、ディジタルデータを圧縮するための効率的で選択可能な具体化が提示されていることが明らかとなる。公知の具体化より精度の高い或いは高速であるように、またはその両方であるようにこの具体化を実現できる。

好ましい実施例に適用される本発明の基本的な新規特徴が記載され指摘されているけれども、記載された装置及び方法の形態及び細部に対して当業者が本発明の精神から逸脱せずに種々の省略及び置換及び変更を為し得ることが理解されるであろう。例えば、実質的に同じ機能を実質的に同じように実行して同じ結果を達成するような要素及び／又は方法ステップのあらゆる組み合わせが本発明の範囲内に属することが明確に意図されている。更に、本発明の開示された形態又は実施例と関連して図示され且つ／又は記載された構造体及び／又は要素及び／又は方法ステップを、設計変更の一般的事項として、開示され又は記載され又は提案されている他の形態又は実施例に取り入れることができることが理解されなければならない。従って、本明細書に添付されている特許請求の範囲に示されているような限定のみを受けるものとする。

図１は、４×４値の行列に適用されるＤＣＴを示す図である。 図２は、本発明の実施例に従ってディジタルデータを圧縮し復元するために使用される符号器及び復号器の概要を示すブロック図を示す図である。

符号の説明

４ 符号器
５ 復号器
４１ ＤＣＴ変換器
４２ 量子化手段
５１ ＩＤＣＴ変換器
５２ 逆量子化手段

Claims (32)

1. 離散余弦変換（ＤＣＴ）の近似及び量子化を実行する方法であって、この変換及び量子化はディジタルデータを圧縮するために前記ディジタルデータに連続的に適用され、前記方法は、
   ディジタルデータに適用されたときに必要とされる演算が少なくなるように所定変換行列を単純化するステップと、
   無理数を構成する前記単純化された変換行列の要素を有理数によって近似するステップと、
   前記単純化された変換行列の要素の有理数による前記近似を補償するべく所定量子化を拡張するステップと、
   を有する方法。
2. ディジタルデータに適用されたときに必要とされる演算が少なくなるように前記所定変換行列を単純化する前記ステップは、該所定変換行列を前記所定量子化を拡張するために使用すべき対角行列と単純化された変換行列とに分解するステップを有する請求項１に記載の方法。
3. 前記有理数は、２ⁿに等しい分母を有する分数により表わすことができ、ｎは整数である請求項１又は２に記載の方法。
4. 前記の変換実行において割り算はビット・シフトにより実行される請求項３に記載の方法。
5. 結果として得られる変換が逆変換を有すること、即ち、前記近似を含む前記所定変換行列が乗じられている前記近似を含む前記所定変換行列の転置が単位行列に等しくなることを保証するように前記近似を調整する請求項１〜４のいずれか一項に記載の方法。
6. 前記所定変換行列は、
   

   

   の形の４×４行列であり、ここで
   

   

   であり、「ｃ」は式ｄ＝ｃ／ｂに従って前記行列に代入され、前記所定変換行列は、該所定変換行列を対角値｛ａ，ｂ，ａ，ｂ｝を含む対角行列と、「１」及び「ｄ」の絶対値を有する要素のみを含む単純化された変換行列とに分解することによって単純化され、この対角行列は前記所定量子化を拡張するために使用されることになる請求項１〜５のいずれか一項に記載の方法。
7. 前記単純化された変換行列において前記の値「ｄ」は有理数７／１６により近似される請求項６に記載の方法。
8. 前記単純化された変換行列において前記値「ｄ」は有理数により近似され、前記対角行列において前記の値「ｂ」は
   

   

   に調整され、「ｄ」は前記式において前記有理数である請求項６に記載の方法。
9. 前記単純化された変換行列において前記値「ｄ」は有理数７／１６により近似され、前記変換は、それぞれ次の式、
   ｅ＝Ｘ［０］＋Ｘ［３］
   ｆ＝Ｘ［１］＋Ｘ［２］
   Ｙ［０］＝ｅ＋ｆ
   Ｙ［２］＝ｅ−ｆ
   ｅ＝Ｘ［０］−Ｘ［３］
   ｆ＝Ｘ［１］−Ｘ［２］
   Ｙ［１］＝ｅ＋（ｆ−ｆ／８）／２
   Ｙ［３］＝（ｅ−ｅ／８）／２−ｆ
   で４つの値Ｘ［０］、Ｘ［１］、Ｘ［２］、Ｘ［３］の１次元シーケンスの変換のために実行され、ここでＹ［０］、Ｙ［１］、Ｙ［２］、Ｙ［３］は４つの変換された値の１次元シーケンスであり、ｅ及びｆは補助変数である請求項６に記載の方法。
10. 前記所定変換行列は、
    

    

    の形の８×８行列であり、ここで
    

    

    であり、ここで「ｃ」は式ｃ_b＝ｃ／ｂに従って前記行列に代入され、「ｄ」は式ｄ_b＝ｄ／ｂに従って前記行列に代入され、「ｅ」は式ｅ_b＝ｅ／ｂに従って前記行列に代入され、「ｇ」は式ｇ_f＝ｇ／ｆに従って前記行列に代入され、前記所定変換行列は、該所定変換行列を対角値｛ａ，ｂ，ｆ，ｂ，ａ，ｂ，ｆ，ｂ｝を含む対角行列と、「１」、「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」の絶対値を有する要素のみを含む単純化された変換行列とに分解することによって単純化され、この対角行列は前記所定量子化を拡張するために使用されることになる請求項１〜５のいずれか一項に記載の方法。
11. 前記単純化された変換行列において前記の値「ｃ_b」は有理数１５／１６により近似され、前記の値「ｄ_b」は有理数９／１６により近似され、前記の値「ｅ_b」は有理数１／４により近似され、前記の値「ｇ_f」は有理数７／１６により近似される請求項１０に記載の方法。
12. 前記単純化された変換行列において前記値「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」は有理数により近似され、前記対角行列において前記値「ｂ」及び「ｆ」は
    

    

    に調整され、値「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」は前記の式において前記有理数である請求項１０に記載の方法。
13. ２次元ディジタルデータに適用すべき２次元変換のために、前記近似された要素を有する前記単純化された所定変換行列と該近似された要素を有する該単純化された変換行列の転置とが前記変換を実行するための基礎として使用され、前記拡張された量子化は前記行列の両方から除去された演算を含み、それらの演算は該行列の両方において前記近似を補償するために調整される請求項１〜１２のいずれか一項に記載の方法。
14. 量子化のために、量子化行列は、量子化係数の所定シーケンスと、前記所定変換行列を単純化するために該所定変換行列から抽出された行列とを乗算することによって決定され、この抽出された行列は該所定変換行列から除去された前記演算を含み、この抽出された行列は、有理数による前記単純化された変換行列の要素の前記近似を補償するために調整される請求項１〜１３のいずれか一項に記載の方法。
15. 逆量子化と逆離散余弦変換（ＩＤＣＴ）の近似とを実行する方法であって、ディジタルデータを復元するために前記逆量子化は、圧縮されているディジタルデータに対して前記逆変換と連続して適用され、前記方法は、
    ディジタルデータに適用されたときに必要とされる演算が少なくなるように所定逆変換行列を単純化するステップと、
    無理数を構成する前記単純化された逆変換行列の要素を有理数により近似するステップと、
    前記単純化された逆変換行列の要素の有理数による前記近似を補償するべく所定逆量子化を拡張するステップと、
    を有する方法。
16. 逆量子化のために、逆量子化係数の所定シーケンスと、前記所定逆変換行列を単純化するために該所定逆変換行列から抽出された行列とを乗算することによって逆量子化行列が決定され、この抽出された行列は前記所定逆変換行列から除去された前記演算を含み、この抽出された行列は前記単純化された逆変換行列の要素の有理数による前記近似を補償するべく調整される請求項１５に記載の方法。
17. ディジタルデータに適用されたときに必要とされる演算が少なくなるように所定逆変換行列を単純化する前記ステップは、該所定逆変換行列を、前記所定逆量子化を拡張するために使用すべき対角行列と単純化された逆変換行列とに分解するステップを有する請求項１５又は１６に記載の方法。
18. 前記有理数は、２ⁿに等しい分母を有する分数により表示することができ、ｎは整数である請求項１５〜１７のいずれか一項に記載の方法。
19. 前記の逆変換実行において割り算はビット・シフトにより実行される請求項１８に記載の方法。
20. 結果として得られる逆変換が変換に対応すること、即ち、前記近似を含み、前記所定逆変換行列の転置が乗じられている、前記近似を含む該所定逆変換行列が単位行列に等しくなることを保証するように前記近似を調整する請求項１５〜１９のいずれか一項に記載の方法。
21. 前記所定逆変換行列は、
    

    

    の形の４×４行列であり、ここで
    

    

    であり、「ｃ」は式ｄ＝ｃ／ｂに従って前記行列に代入され、前記所定逆変換行列は、該所定逆変換行列を対角値｛ａ，ｂ，ａ，ｂ｝を含む対角行列と、「１」及び「ｄ」の絶対値を有する要素のみを含む単純化された逆変換行列とに分解することによって単純化され、この対角行列は前記所定逆量子化を拡張するために使用されることになる請求項１５〜２０のいずれか一項に記載の方法。
22. 前記単純化された逆変換行列において前記値「ｄ」は有理数７／１６により近似される請求項２１に記載の方法。
23. 前記単純化された逆変換行列において前記値「ｄ」は有理数により近似され、前記対角行列において前記値「ｂ」は
    

    

    に調整され、「ｄ」は前記の式において前記有理数である請求項２１に記載の方法。
24. 前記単純化された逆変換行列において前記値「ｄ」は有理数７／１６により近似され、前記逆は、それぞれ次の式、
    ｅ＝Ｘ［０］＋Ｘ［３］
    ｆ＝Ｘ［１］＋Ｘ［２］
    Ｙ［０］＝ｅ＋ｆ
    Ｙ［２］＝ｅ−ｆ
    ｅ＝Ｘ［０］−Ｘ［３］
    ｆ＝Ｘ［１］−Ｘ［２］
    Ｙ［１］＝ｅ＋（ｆ−ｆ／８）／２
    Ｙ［３］＝（ｅ−ｅ／８）／２−ｆ
    で４つの値Ｘ［０］、Ｘ［１］、Ｘ［２］、Ｘ［３］の１次元シーケンスの変換のために実行され、ここでＹ［０］、Ｙ［１］、Ｙ［２］、Ｙ［３］は４つの変換された値の１次元シーケンスであり、ｅ及びｆは補助変数である請求項２１に記載の方法。
25. 前記所定変換行列は下記の形、
    

    

    の８×８行列であり、ここで
    

    

    であり、ここで「ｃ」は式ｃ_b＝ｃ／ｂに従って前記行列に代入され、「ｄ」は式ｄ_b＝ｄ／ｂに従って該行列に代入され、「ｅ」は式ｅ_b＝ｅ／ｂに従って該行列に代入され、「ｇ」は式ｇ_f＝ｇ／ｆに従って該行列に代入され、前記所定変換行列は、該所定変換行列を対角値｛ａ，ｂ，ｆ，ｂ，ａ，ｂ，ｆ，ｂ｝を含む対角行列と、「１」、「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」の絶対値を有する要素のみを含む単純化された変換行列とに分解することによって単純化され、この対角行列は前記所定量子化を拡張するために使用されることになる請求項１５〜２０のいずれか一項に記載の方法。
26. 前記単純化された変換行列において前記値「ｃ_b」は有理数１５／１６により近似され、前記値「ｄ_b」は有理数９／１６により近似され、前記値「ｅ_b」は有理数１／４により近似され、前記値「ｇ_f」は有理数７／１６により近似される請求項２５に記載の方法。
27. 前記単純化された変換行列において前記値「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」は有理数により近似され、前記対角行列において前記値「ｂ」及び「ｆ」は
    

    

    に調整され、値「ｃ_b」、「ｄ_b」、「ｅ_b」及び「ｇ_f」は前記の式において前記有理数である請求項２５に記載の方法。
28. ２次元逆量子化されたディジタルデータに適用すべき２次元逆変換のために、前記近似された要素を有する前記単純化された所定逆変換行列と該近似された要素を有する該単純化された逆変換行列の転置とが前記の逆変換を実行するための基礎として使用され、前記拡張された逆量子化は前記行列の両方から除去された演算を含み、それらの演算は前記行列の両方において前記近似を補償するために調整される請求項１５〜２７のいずれか一項に記載の方法。
29. ディジタルデータを圧縮するための符号器（４）であって、
    単純化された変換行列を前記ディジタルデータに適用することによってディジタルデータを変換するために離散余弦変換（ＤＣＴ）を近似する変換器（４１）であって、この単純化された変換行列は、ディジタルデータに適用されたときに必要とされる演算が少なくなるように所定変換行列を単純化することによって得られ、この単純化された変換行列において無理数を構成する要素は有理数により近似される前記変換器（４１）と、
    前記変換されたディジタルデータを拡張された量子化で量子化するために前記変換器（４１）の出力に結合された量子化手段（４２）であって、この拡張された量子化は、前記単純化された変換行列の要素の前記近似を補償する前記量子化手段（４２）と、
    を備える符号器。
30. ディジタルデータを圧縮するための符号器（４）であって、請求項１〜１４のいずれか一項に記載の方法のステップを実行するための手段を備える符号器。
31. 離散余弦変換（ＤＣＴ）又は離散余弦変換（ＤＣＴ）の近似及びその後の量子化により圧縮されたディジタルデータを復元するための復号器（５）であって、
    圧縮されているディジタルデータを拡張された逆量子化で逆量子化するための逆量子化手段（５２）と、
    単純化された逆変換行列を適用することによって逆量子化されたディジタルデータを変換するために前記逆量子化手段（５２）の出力に結合された逆離散余弦変換（ＩＤＣＴ）を近似する変換器（５１）であって、この単純化された逆変換行列は、ディジタルデータに適用されるときに必要とされる演算が少なくなるように所定の逆変換行列を単純化することによって得られ、この単純化された変換行列において無理数を構成する要素は有理数により近似され前記変換器（５１）と、
    を備え、
    前記逆量子化手段（５２）により適用される前記拡張された逆量子化は前記単純化された逆変換行列の要素の前記近似を補償する復号器。
32. 離散余弦変換（ＤＣＴ）又は離散余弦変換（ＤＣＴ）の近似及びそれに続く量子化により圧縮されたディジタルデータを復元するための復号器（５）であって、この復号器（５）は、請求項１５〜２８のいずれか一項に記載の方法のステップを実行するための手段を備える復号器。

Images