JP6075875B2

JP6075875B2 - 変換量子化方法、変換量子化装置及び変換量子化プログラム

Info

Publication number: JP6075875B2
Application number: JP2013159974A
Authority: JP
Inventors: 佳蘇; 新田　高庸; 高庸新田; 大西　隆之; 隆之大西; 充郎池田; 清水　淳; 淳清水
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2013-07-31
Filing date: 2013-07-31
Publication date: 2017-02-08
Anticipated expiration: 2033-07-31
Also published as: JP2015032924A

Description

本発明は、残差特徴量を利用したＨＥＶＣ（High Efficiency Video Coding）の変換量子化方法、変換量子化装置及び変換量子化プログラムに関する。

次世代の動画圧縮規格として注目されているＨＥＶＣは、ブロックサイズの適正化などの技術によって圧縮効率が優れており、従来の動画圧縮規格であるＨ．２６４／ＡＶＣとの比較でも約４０％のビットレートを削減すると発表されている。しかし、圧縮効率が優れる反面、圧縮には数倍の計算量を要するとされている（例えば、非特許文献１参照）。この計算量の多さは、ＨＥＶＣの特徴である“木構造予測”と“複数の予測モード”に主に起因する。

この計算量の多さに関する問題を解決するために、オールゼロブロック（ＡＺＢ）アルゴリズムが従来の符号化技術で用いられてきた。ＡＺＢアルゴリズムとは、変換量子化を計算することなく、オールゼロブロック、すなわち量子化後の係数がすべてゼロとなるブロックを事前に決定することができる方法である。オールゼロブロックと判定されたブロックに対しては、変換量子化を行う必要がなくなるため、結果として計算量が削減される。

これまでの提案の多くは、従来の動画圧縮規格であるＨ．２６３の８×８変換やＨ．２６４の４×４整数変換におけるＡＺＢ検出に関して行われている。非特許文献２ではオールゼロの変換係数ブロックの判定を詳細に分析していないため、十分条件を導いておらず誤検出が発生する。また、非特許文献３では従来のアルゴリズムを改善するため理論的条件を導出している。また、非特許文献４では、オールゼロの係数ブロックを早期に発見するための必要十分条件の分析に基づいて、低誤検出の判断方式を提案している。また、非特許文献５、非特許文献６では、Ｈ．２６４／ＡＶＣにおける４×４の整数変換に適用するモデルを提案している。最近では、非特許文献７において、Ｈ．２６４／ＡＶＣにおけるオールゼロの４×４ブロックの早期決定に、より効果的な十分条件が導出されている。

Yoon Mi Hong, Kyo-Hyuk Lee Il-Koo Kim, Madhu Krishnan Wei Dai, and Pankaj Topiwala, ''Fast integer transforms for the HM, and complexity analysis,'' Joint Collaborative Team on Video Coding, JCTVC-D365, Daegu, 2011. Zhou Xuan, Yu Zhenghua, and Yu Songyu, ''Method for detecting all-zero dct coefficients ahead of discrete cosine transformation and quantisation,'' Electronics Letters, vol. 34, no. 19, pp. 1839 --1840, sep 1998. LA Sousa, ''General method for eliminating redundant computations in video coding,'' Electronics Letters, vol. 36, no. 4, pp. 306--307, 2000. S. Jun and S. Yu,''Efficient method for early detection of all-zero DCT coefficients,'' Electronics letters, vol. 37, no. 3, pp. 160--161, 2001. Y. Wan, Y. Zhou, and H. Yang,''Early detection method of all-zero integer transform coefficients,'' Consumer Electronics, IEEE Transactions on, vol. 50, no. 3, pp. 923--928, 2004. Y.H. Moon, G.Y. Kim, and J.H. Kim,''An improved early detection algorithm for all-zero blocks in H. 264 video encoding,'' Circuits and Systems for Video Technology, IEEE Transactions on, vol. 15, no. 8, pp. 1053--1057, 2005. H. Wang, S. Kwong, and C.W. Kok, Efficient prediction algorithm of integer DCT coefficients for H.264/AVC optimization,'' Circuits and Systems for Video Technology, IEEE Transactions on, vol. 16, no.4, pp. 547--552, 2006.

前述のように、従来のビデオ符号化標準に基づいたＡＺＢアルゴリズムは多く提案されているが、これらをＨＥＶＣに直接適用するだけでは十分な効果が得られないという問題がある。その理由は主に以下の２点である。

１点目は、ＨＥＶＣで採用されている四分木構造では、ブロックのサイズ及び深さの両方についてＡＺＢアルゴリズムを適用しなければならない点である。深さとは、四分木構造で分割されるブロックの分割回数を表す概念であり、さまざまなサイズと、その分割の深さの両方に対応したアルゴリズムを適用する必要がある。

２点目は、ＡＺＢアルゴリズムを適用することにより、結果として大きなサイズの変換ユニット（ＴＵ：Transform Unit）を選択して終了してしまう傾向がある点である。さまざまなサイズのＴＵにあわせた調整を行う必要がある。

本発明は、このような事情に鑑みてなされたもので、さまざまなブロックサイズに対してＡＺＢを検出できるようにするとともに、異なるサイズの変換ユニットに対して重みづけによる調整を可能にした変換量子化方法、変換量子化装置及び変換量子化プログラムを提供することを目的とする。

本発明は、画像符号化におけるインター予測残差とその差分絶対値和から量子化変換係数を算出する変換量子化方法であって、変換量子化サイズ、ＱＰ値、ビット深度と変換係数閾値の関係を示す変換係数閾値表から画像符号化対象であるＮ×Ｎサイズのブロック（Ｎ＝２^ｎ，ｎは３以上の整数）の変換量子化サイズＮ、入力されたＱＰ値及びビット深度に対応する変換係数閾値を求める変換係数閾値特定ステップと、前記変換量子化サイズに対して定まる調整係数を前記変換係数閾値に掛けた結果を差分絶対値和上限値とする差分絶対値和上限値算出ステップと、前記差分絶対値和と前記差分絶対値和上限値とを比較するＡＺＢ判定ステップと、前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より小さいと判定された場合には、量子化変換係数をゼロとする量子化変換係数決定ステップと、前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より大きいか等しいと判定された場合には、前記Ｎ×Ｎサイズのブロックを４つの（Ｎ／２）×（Ｎ／２）サイズのブロックに分割して再度前記ＡＺＢ判定ステップを実行する分割ステップとを有することを特徴とする。

本発明は、前記変換係数閾値表は、前記インター予測残差と変換係数がガウス分布に従うとしたうえで、画像符号化対象のブロックの量子化変換係数の絶対値がすべて１より小さいとした場合に導出される値を変換係数閾値として定めたことを特徴とする。

本発明は、画像符号化におけるインター予測残差とその差分絶対値和から量子化変換係数を算出する変換量子化装置であって、変換量子化サイズ、ＱＰ値、ビット深度と変換係数閾値の関係を示す変換係数閾値表から画像符号化対象であるＮ×Ｎサイズのブロック（Ｎ＝２^ｎ，ｎは３以上の整数）の変換量子化サイズＮ、入力されたＱＰ値及びビット深度に対応する変換係数閾値を求める変換係数閾値特定手段と、前記変換量子化サイズに対して定まる調整係数を前記変換係数閾値に掛けた結果を差分絶対値和上限値とする差分絶対値和上限値算出手段と、前記差分絶対値和と前記差分絶対値和上限値とを比較するＡＺＢ判定手段と、前記ＡＺＢ判定手段により差分絶対値和の方が前記差分絶対値和上限値より小さいと判定された場合には、量子化変換係数をゼロとする量子化変換係数決定手段と、前記ＡＺＢ判定手段により差分絶対値和の方が前記差分絶対値和上限値より大きいか等しいと判定された場合には、前記Ｎ×Ｎサイズのブロックを４つの（Ｎ／２）×（Ｎ／２）サイズのブロックに分割して再度前記ＡＺＢ判定手段による判定を実行する分割手段とを備えることを特徴とする。

本発明は、コンピュータに、前記変換量子化方法を実行させるための変換量子化プログラムである。

本発明によれば、さまざまなブロックサイズに対してＡＺＢを検出できるようにするとともに、異なるサイズの変換ユニットに対して重みづけによる調整を可能にすることにより、最適な変換量子化を行うことが可能になるという効果が得られる。

本発明の一実施形態によるＨＥＶＣのエンコード処理部の構成を示すブロック図である。従来技術によるＡＺＢ判定処理を示す図である。本実施形態によるＡＺＢ判定処理を示す図である。変換量子化計算のプロセスを示す図である。ＡＺＢ閾値の導出過程を表す図である。同じＴＵを異なる変換サイズで計算した後のエネルギーを示す図である。ＡＺＢ検出率を示す図である。

以下、図面を参照して、本発明の一実施形態による変換量子化装置を説明する。本発明による提案は２つの技術から構成され、一つはさまざまなブロックサイズに対するＡＺＢの検出（可変ブロックサイズＡＺＢ検出）であり、もう一つは、重みづけ調整（重みによるアジャストメント）である。さまざまなブロックサイズのＡＺＢを検出するために、残差および変換された係数を、ガウス分布と仮定してモデル化する。分散はマルコフ過程を仮定して計算する。ＡＺＢとなるためには、すべての係数は共分散のＤＣ成分よりも小さい必要があるため、この条件を使用してＡＺＢの判定を行う。さらに重みづけの調整を行うことによって、より大きなサイズの変換に対する重みを小さくする。これを行うことにより、より小型の変換を考慮することができる。

図１は同実施形態によるＨＥＶＣのエンコード処理部の構成を示すブロック図である。エンコード処理部は、インター予測部１、ＡＺＢ判定部２、整数変換量子化部３及びエントロピー符号化部４で構成される。インター予測を処理した後、残差ｒ_ｉｊとそのＳＡＤ（差分絶対値和）は、変換・量子化の計算が必要とされているか否かを判定するために、ＡＺＢ判定部２に送られる。ＳＡＤの値は、ＡＺＢ判定部２で再計算する必要をなくすために、インター予測部１から送られる。ＡＺＢ判定部２においてＡＺＢ判定方法に従い、ブロックがＡＺＢとして判定されると、変換・量子化行列ｑ_ｉｊを直接０に設定し、エントロピー符号化部４に送信することができる。ＱＰ（量子化パラメータ）の値は、インター予測部１、ＡＺＢ判定部２、整数変換量子化部３及びエントロピー符号化部４に入力される。

次に、ＡＺＢ判定処理について説明する。始めに、図２を参照して、従来手法によるＡＺＢ判定処理を説明する。図２は、従来技術によるＡＺＢ判定処理を示す図である。図２に示すように、従来手法では、ある特定のブロックサイズ（図では４×４ブロック）について、閾値計算を行い（ステップＳ１）、ＳＡＤの値が閾値以下か否かを判定（ステップＳ２）することによって、オールゼロブロックか否かを判定している。

次に、図３を参照して、本実施形態による手法を説明する。図３は、本実施形態によるＡＺＢ判定処理を示す図である。この手法は、大きなサイズから小さなサイズに向けて連続的に閾値の判定を行うことで、複数のブロックサイズが候補となるＨＥＶＣ符号化においても効率的なＡＺＢ判定を行うことができる。

変換量子化サイズ（Ｎ）とＱＰ値（ＱＰ）を入力として、ビット深度（Ｂｉｔｄｅｐｔｈ）を出力することができる閾値表をそれぞれ参照（ステップＳ１１、Ｓ１２、Ｓ１３）して、入力の変換量子化サイズ（Ｎ）とＱＰ値（ＱＰ）に対する閾値（ビット深度）を求める。閾値表の例を表１、表２に示す。表１、表２に示す閾値は事前に計算されているものとする。

インター予測処理では、ＳＡＤは、１つのコーディングユニット（ＣＵ）を対象とし、その動き推定によって計算される。現在入力されている残差のブロックサイズにおけるＳＡＤの値と、対応する閾値とを比較し（ステップＳ１４）、ＳＡＤがしきい値よりも小さい場合には、現在の残差ブロック（例えば、２Ｎ×２Ｎ）は、すべてゼロのブロック（２Ｎ×２Ｎ）として認識される。条件が満たされない場合、残差ブロックはさらに小さいサイズに分割されて繰り返し判定を行う（ステップＳ１４、Ｓ１５）。

図３に示す例では、処理順序が大きなサイズから小さなサイズに向けて行うようになっているので、より大きなサイズのブロックが、より事前にチェックされる。これによって、本実施形態による手法では、より大きなサイズでＡＺＢと判定されてしまう影響がある。それはＡＺＢがより小さいＴＵサイズで発生したときが最適解であっても、それが無視されてしまうことを意味する。この欠陥を克服するために、重み付けしきい値（Ｗ_２ＮＴＨ（ＱＰ）_{２Ｎ×２Ｎ}、Ｗ_ＮＴＨ（ＱＰ）_Ｎ×Ｎ、Ｗ_Ｎ／２ＴＨ（ＱＰ）_{Ｎ／２×Ｎ／２}）を適用する。Ｗ_２Ｎ、Ｗ_ＮおよびＷ_Ｎ／２はそれぞれ（２Ｎ×２Ｎ、Ｎ×Ｎ、（Ｎ／２）×（Ｎ／２））に対応する残差のブロックサイズの重みを表す。ＴＨ（ＱＰ）_{２Ｎ×２Ｎ}、ＴＨ（ＱＰ）_Ｎ×ＮとＴＨ（ＱＰ）_{Ｎ／２×Ｎ／２}は、それぞれ対応する残差のブロックサイズのしきい値（２Ｎ×２Ｎ、Ｎ×Ｎ、（Ｎ／２）×（Ｎ／２））を表している。

以上より、図１に示す本実施形態による手法と従来手法との差は以下のように要約することができる。
（１）判定処理を高速に行うために、各ＴＵサイズに対応する閾値テーブルを事前に計算して使用する。
（２）重みづけ調整は、より大きなサイズでＡＺＢが判定される影響をなくすために追加される。

次に、ＡＺＢしきい値の詳細な導出について説明する。始めに、異なるブロックサイズのＡＺＢしきい値の導出について説明する。図４は、変換量子化計算のプロセスを示す図である。図４に示すように、しきい値の導出は変換量子化の計算プロセスを逆にしたものに従う。すなわち、残差から変換を行った後に、量子化を行って係数を得る。

図５は、ＡＺＢ閾値の導出過程を表す図である。量子化された変換係数（量子化変換係数ｑ_ｉｊ）すべての絶対値が１より小さい場合、そのブロックはＡＺＢになる。この場合、量子化前の変換係数（変換係数ｄ_ｉｊ）は、量子化パラメータ（ＱＰ）の分布する範囲に制限される。さらに、入力される残差信号の値と、変換係数との関係を、ガウス分布としてモデル化する。入力される残差信号のガウス分布と、変換係数のガウス分布との差異を計算することによって、差分絶対値和（ＳＡＤ）とＡＺＢ閾値との関係を構築する。

ＨＭ６．３（ＨＥＶＣ試験モデルのバージョン６．３）でのスケーリングおよび量子化の定義に基づいて、特定のＮ×Ｎブロックに対する量子化された変換係数ｑ_ｉｊは、（（ｉ，ｊ＝０．．．Ｎ−１）、量子化前の変換係数ｄ_ｉｊ（ｉ，ｊ＝０．．．Ｎ−１）を使って、以下のように計算される。
ここで
であり、ＢｉｔＤｅｐｔｈは、各ピクセルのビット深度である。｜ｑ_ｉｊ｜＜１の場合、このブロックは、オールゼロブロックである。

つまり

ゆえに、
が満たされて、下記の式が成立する。

以下、ＴＨ_ＴＲ［ＱＰ］_ｉｊを変換係数閾値と呼ぶことにする。インター予測残差である残差サンプルｒ_ｉｊ（ｉ，ｊ＝０．．．Ｎ−１）と量子化前変換係数ｄ_ｉｊは、ガウス分布としてモデル化しているので、ｄ_ｉｊの分布は（−ｎσ，ｎσ）で表される。ｎはゼロ以上の実数である。ｎ＝３の場合、ｄ_ｉｊがこの範囲になる確率は約９９％である。そして、変換係数の分布σ_Ｔ（ｕ，ｖ）と、インター予測残差の分布σ_ｒをガウス分布とした場合の当該２つの分布の分散間で成立する関係（近似式）を導出すると、次の関係が成り立つ。
ここで、
ここで、ＴはＨＭで定義されている標準化された変換行列である。

なお、［Ａ］_ｕ，_ｕは行列Ａの（ｕ，ｕ）番目のコンポーネントである。そして残差は以下のようにガウス分布としてモデル化される。
Ｎ＝８の場合、

（１１）式で最大の値は、ＤＣ成分で発生しているので、
となる。

８×８ブロックの場合におけるＳＡＤと変換係数閾値の関係をインター予測残差の分布の分散がＳＡＤを用いた式で近似できることから不等式として導出すると、
Ｎ＝８の場合、
となる。ここで、ｎはＡＺＢの検出率を制御するパラメータである。

他のサイズのＡＺＢしきい値の導出も、同じ手順に従って以下のように計算できる。

次に、ブロックの異なる深さに対するしきい値の調整について説明する。前述したしきい値（（１５）式ないし（１８）式の右辺のこと、以下、残差閾値）の中で、ｎはＡＺＢの検出率を制御する、重要な要因である。ｎを小さく設定することで、より多くのブロックで変換量子化がスキップされるが、その反面、より多くの誤検出が発生する可能性がある。ここでは、異なるサイズの変換量子化のために、より適切なｎを設定するためのテクニックを説明する。図５から、１つのＴＵの処理は大きいサイズから小さいサイズの順に計算されることがわかる。ＨＭに記述された元のプロセスは、全体の候補となる変換量子化を計算し、ＲＤ最適化の基準に基づいて最適なソリューションを選択する。この処理は、図６に示すように周波数ドメインでも説明することができる。図６に示す３つのグラフは、同じＴＵを異なる変換サイズで計算した後のエネルギーを示している。これらの比較から、より小さいサイズの変換において、ＡＺＢブロックの発生割合が大きいことがわかる。大きいサイズで終了してしまう影響を修正するために、前述した残差閾値を、次のように調整する。
ここで、Ｃ_Ｎは異なるサイズに対応する定数である。ｗ_Ｎは表３に示す調整係数であり、実験の結果得た一つの例である。

次に、本実施形態によって生じる効果について説明する。始めに、符号化効率について説明する。符号化効率を比較するには一般的に、発生したビット量（ｂｉｔＲａｔｅ）と原画像との歪み（Ｄｉｓｔｏｒｔｉｏｎ）とを２次元グラフ化したＲＤ曲線を使用するが、本実施形態においてはＲＤ曲線の差がわずかでわかりにくくなることを避ける目的で、ビデオ圧縮性能比較のため、参考文献「G. Bjontegard, ''Calculation of average PSNR differences between RD-curves,'' ITU-T VCEG-M33, 2001.」に記載のＢＤＢＲを採用する。

これは、本実施形態にもとづくアルゴリズムと、従来のＨＭ（以降、デフォルトＨＭと称する）の性能との間のビットレートの平均差であり、表４に示すように、ビデオの品質を測定するものである。ＢＤＢＲにおける＋はビットレートの利得を表す。ＨＥＶＣの新しいコーディングツールレート歪み最適化に基づいた量子化処理（ＲＤＯＱ）と非正方形の４分木変換（ＮＳＱＴ）の両方を組み合わせて、ランダムアクセスの設定で評価する。結果は、ＲＤＯとＮＳＱＴをオフにした第１の方法Ｉ、ＲＤＯＱをオンにした第２の方法ＩＩ、ＮＳＱＴをオンにした第３の方法ＩＩＩに分類される。

また、変換量子化の時間の削減を表５に示す。ここでは、（１９）式に基づいて変換量子化の時間の節約が計算される。ＴＩＭＥ_ＨＭはＨＭ６．３によって消費される変換量子化時間である。ＴＩＭＥ_{ｐｒｏｐｏｓａｌ}は前述したアルゴリズムの変換量子化時間である。それはＲＤＯＱとＮＳＱＴで５１％から４２％の時間短縮を達成した。前述したアルゴリズムは、Ｈ．２６４の従来の方法に比べ、変換量子化だけでなく、総エンコード時間の節約でより重要な役割を果たしている。トラバース計算と大きいサイズ変換量子化の四分木構造を追加することによって、それがＡＺＢ法を用いて、前述したアルゴリズムは全体のエンコーダを加速する効果がある。
ここで、ＴＳは、前述した手法とＨＥＶＣ間のパーセンテージとして保存変換量子化の時間である。

次に、ＡＺＢの検出率について説明する。ＡＺＢ検出精度を比較するため、２つのテストクラス列の検出率を図７に示す。ここで、横軸はＱＰ値を表し、縦軸はＡＺＢの検出率（ＤＲ）を表す。ＡＺＢＤＲの次のように計算される。

以上説明したように、さまざまなブロックサイズのオールゼロブロックの検出は、残差のガウシアン・モデリングと変換された係数によって導出することができる。また、大きいブロックサイズ決定の影響を克服するために、重み調整は残差の対応する大きさの変換周波数解析することによって行うことができる。

前述した実施形態における変換量子化装置をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであっても良く、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、ＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されるものであってもよい。

以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行ってもよい。

さまざまなブロックサイズに対してＡＺＢを検出できるようにするとともに、異なるサイズの変換ユニットに対して重みづけによる調整を可能にすることが不可欠な用途も適用できる。

１・・・インター予測部、２・・・ＡＺＢ判定部、３・・・整数変換量子化部、４・・・エントロピー符号化部

Claims

画像符号化におけるインター予測残差とその差分絶対値和から量子化変換係数を算出する変換量子化方法であって、
変換量子化サイズ、ＱＰ値、ビット深度と変換係数閾値の関係を示す変換係数閾値表から画像符号化対象であるＮ×Ｎサイズのブロック（Ｎ＝２^ｎ，ｎは３以上の整数）の変換量子化サイズＮ、入力されたＱＰ値及びビット深度に対応する変換係数閾値を求める変換係数閾値特定ステップと、
前記変換量子化サイズに対して定まる調整係数を前記変換係数閾値に掛けた結果を差分絶対値和上限値とする差分絶対値和上限値算出ステップと、
前記差分絶対値和と前記差分絶対値和上限値とを比較してＡＺＢ判定を行うＡＺＢ判定ステップと、
前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より小さいと判定された場合には、量子化変換係数をゼロとする量子化変換係数決定ステップと、
前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より大きいか等しいと判定された場合には、前記Ｎ×Ｎサイズのブロックを４つの（Ｎ／２）×（Ｎ／２）サイズのブロックに分割して再度前記ＡＺＢ判定ステップを実行する分割ステップと
を有し、
前記ＡＺＢ判定ステップでは、複数のブロックサイズが候補となる場合、大きなブロックサイズから小さなブロックサイズへ移行しながら連続的に前記差分絶対値和と前記差分絶対値和上限値とを比較することにより前記ＡＺＢ判定を行う
ことを特徴とする変換量子化方法。
画像符号化におけるインター予測残差とその差分絶対値和から量子化変換係数を算出する変換量子化方法であって、
変換量子化サイズ、ＱＰ値、ビット深度と変換係数閾値の関係を示す変換係数閾値表から画像符号化対象であるＮ×Ｎサイズのブロック（Ｎ＝２ ^ｎ，ｎは３以上の整数）の変換量子化サイズＮ、入力されたＱＰ値及びビット深度に対応する変換係数閾値を求める変換係数閾値特定ステップと、
前記変換量子化サイズに対して定まる調整係数を前記変換係数閾値に掛けた結果を差分絶対値和上限値とする差分絶対値和上限値算出ステップと、
前記差分絶対値和と前記差分絶対値和上限値とを比較してＡＺＢ判定を行うＡＺＢ判定ステップと、
前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より小さいと判定された場合には、量子化変換係数をゼロとする量子化変換係数決定ステップと、
前記ＡＺＢ判定ステップにより差分絶対値和の方が前記差分絶対値和上限値より大きいか等しいと判定された場合には、前記Ｎ×Ｎサイズのブロックを４つの（Ｎ／２）×（Ｎ／２）サイズのブロックに分割して再度前記ＡＺＢ判定ステップを実行する分割ステップと
を有し、
前記変換係数閾値表は、前記インター予測残差と変換係数がガウス分布に従うとしたうえで、画像符号化対象のブロックの量子化変換係数の絶対値がすべて１より小さいとした場合に導出される値を変換係数閾値として定めたことを特徴とする変換量子化方法。
画像符号化におけるインター予測残差とその差分絶対値和から量子化変換係数を算出する変換量子化装置であって、
変換量子化サイズ、ＱＰ値、ビット深度と変換係数閾値の関係を示す変換係数閾値表から画像符号化対象であるＮ×Ｎサイズのブロック（Ｎ＝２^ｎ，ｎは３以上の整数）の変換量子化サイズＮ、入力されたＱＰ値及びビット深度に対応する変換係数閾値を求める変換係数閾値特定手段と、
前記変換量子化サイズに対して定まる調整係数を前記変換係数閾値に掛けた結果を差分絶対値和上限値とする差分絶対値和上限値算出手段と、
前記差分絶対値和と前記差分絶対値和上限値とを比較してＡＺＢ判定を行うＡＺＢ判定手段と、
前記ＡＺＢ判定手段により差分絶対値和の方が前記差分絶対値和上限値より小さいと判定された場合には、量子化変換係数をゼロとする量子化変換係数決定手段と、
前記ＡＺＢ判定手段により差分絶対値和の方が前記差分絶対値和上限値より大きいか等しいと判定された場合には、前記Ｎ×Ｎサイズのブロックを４つの（Ｎ／２）×（Ｎ／２）サイズのブロックに分割して再度前記ＡＺＢ判定手段による判定を実行する分割手段とを備え、
前記ＡＺＢ判定手段は、複数のブロックサイズが候補となる場合、大きなブロックサイズから小さなブロックサイズへ移行しながら連続的に前記差分絶対値和と前記差分絶対値和上限値とを比較することにより前記ＡＺＢ判定を行うことを特徴とする変換量子化装置。
コンピュータに、請求項１または２に記載の変換量子化方法を実行させるための変換量子化プログラム。