JP2008182562A - 量子化マトリクスを用いた適応的デブロッキングフィルタリングの方法と装置 - Google Patents

Abstract

【課題】ブロッキングアーチファクトは、圧縮ビデオシーケンスにおいて発生する一般的なアーチファクトである。ビデオ符号化アルゴリズムの中には、このアーチファクトにフィルタをかけるためにループ内デブロッキングフィルタを用いるものがある。しかし、強いデブロッキングフィルタをかけた結果、再構成ピクチャ内の所望の細部まで消失してしまう。
【解決手段】本発明は、複数の異なる量子化マトリクスを用いることにより、同一ピクチャ内で用いるデブロッキングフィルタの強度を適応的に選択する方法及び装置を提供する。
【選択図】図１

Description

本発明は、あらゆるマルチメディアデータ符号化において使用可能であり、特に、デブロッキングフィルタリング、複数の変換サイズ、及びダウンロード可能な量子化マトリクスに対応可能なビデオ符号化において用いることができる。

ISO/IEC 14496-2 Part 10 International Standardといったビデオ符号化アルゴリズムのなかには、再構成ピクチャ中のブロッキング・アーチファクトを削減するためのデブロッキングフィルタリングを用いるものがある。ISO/IEC 14496-2 Part 10 International Standardにおいて、デブロッキングフィルタは、スライスヘッダ中に示される複数のパラメータと、マクロブロックの量子化パラメータによって制御することができる。

数式１及び２は、ISO/IEC 14496-2 Part 10 International Standardにおいてデブロッキングフィルタリングを制御するために用いられる数式を示しており、ここで、IndexA及びIndexBは、ブロックエッジにフィルタをかけるかどうかの決定と、フィルタの強度に直接影響を与えるパラメータである。FilterOffsetA及びFilterOffsetBは、スライス中のマクロブロックに対してIndexAとIndexBの値をそれぞれ変えるための、スライスヘッダ中に示されるパラメータである。これらパラメータは、同一スライスのすべてのエッジのデブロッキングフィルタ処理に影響を与える。

数式１及び２におけるqP_avは、２つの量子化パラメータの平均量子化パラメータである。FilterOffsetA及びFilterOffsetBと同様、qP_avはIndexA及びIndexBに影響を及ぼす。しかし、このパラメータ値はスライス中のマクロブロックごとに異なっていてもよい。

qP_p + qP_qは、ブロックエッジの両側のサンプルを含むマクロブロックの量子化パラメータである。

デブロッキングフィルタリング処理の制御の他に、マクロブロックの量子化パラメータは主に量子化及び逆量子化処理に用いられる。量子化パラメータは、ピクチャのマクロブロックの圧縮率を直接制御する。量子化パラメータの値が大きいほど圧縮率は高くなり、符号化マクロブロックのサイズは小さくなる。

ブロッキングの影響は、圧縮ビデオ、特にISO/IEC 14496-2 Part 10 International Standardといった高圧縮率でのビデオ符号化アルゴリズムにおいてアーチファクトが顕著に現れるという点である。このアーチファクトは、使用した直交変換サイズに応じてブロックサイズが変わる場合に、２つのブロック間のブロック境界またはエッジにおいて顕著である。

圧縮ビデオの画質を向上させるには、このアーチファクトを削減する必要がある。このアーチファクトを削減する方法として、デブロッキングフィルタ処理を用いてブロックのエッジに空間的にフィルタをかけるという先行技術がある。この先行技術の問題は、ISO/IEC 14496-2 Part 10 International Standardといったビデオ符号化アルゴリズムにおいて、デブロッキングフィルタ処理がスライス全体にわたってすべてのブロックエッジに影響を与えてしまい、時には、ピクチャ内に残しておきたい空間的な細部まで、デブロッキングフィルタ処理によってフィルタがかけられてしまうという点である。その結果、ブロッキングアーチファクトは削減されるものの、圧縮ビデオの全体的な画質が落ちてしまう。

このような課題を解決するため、デブロッキングフィルタの強度を適応的に調節する新たな方法を紹介する。本発明の新規な点は、本発明が、量子化パラメータや量子化マトリクスを用いてデブロッキングフィルタの強度を適応的に調整していることである。不要なブロッキングアーチファクトはデブロッキングフィルタで強いフィルタをかけ、所望の空間的な細部は同じ圧縮率で弱いフィルタをかけるというものである。

本発明の効果は、ピクチャ内の所望の細部を残しつつ、ブロッキングアーチファクトを除去することである。この効果は、視覚的な画質の向上という形で現れる。

図１は、本発明を用いたピクチャ符号化処理を示す。モジュール１００において、ダウンロード可能な量子化マトリクス値の使用を示すフラグが符号化されて圧縮ビデオストリームに入れられる。このフラグは符号化されて、符号化対象ピクチャを含むビデオシーケンスのヘッダ、又は対象ピクチャのヘッダに入れることができる。モジュール１０２において、２以上の直交変換の使用を示すフラグが符号化されて圧縮ビデオストリームに入れられ、対象ピクチャの符号化に用いられる。このフラグは符号化されて、対象ピクチャのヘッダに入れられる。次にモジュール１０４において、複数のフラグを符号化して圧縮ビデオストリームに入れることにより、デブロッキングフィルタが有効になる。これらのフラグは対象ピクチャに含まれる複数のスライスのヘッダに置くことができる。

モジュール１０６において、量子化パラメータオフセット値を決定される。量子化パラメータオフセット値は、あるマクロブロックに対するデブロッキングフィルタの強度を弱めるために用いられる。次にモジュール１０８において、量子化パラメータオフセット値に基づき、第１セットの量子化マトリクス値が算出される。

２以上の直交変換が用いられる場合、２以上の量子化マトリクスが符号化されて圧縮ビデオストリームに入れられる。ピクチャ内の各マクロブロックは、直交変換１つと、その直交変換に対応付けられた量子化マトリクスしか用いることはできない。第１セットの量子化マトリクスは第１直交変換と連動して用いられる。直交変換は、例えば８×８や４×４直交変換である。第１直交変換は、例えば８×８変換である。

モジュール１０９では、第１セットの量子化マトリクスが符号化されて圧縮ストリームに入れられる。マトリクスの値は符号化されて、対象ピクチャを含むビデオシーケンスのヘッダ又は対象ピクチャのヘッダに入れることができる。モジュール１１０では、第２セットの量子化マトリクスが符号化されて圧縮ビットストリームに入れられる。第２セットの量子化マトリクスは、第２直交変換と対応付けられている。第２直交変換は、例えば４×４変換である。ダウンロードされたマトリクスの代わりに第２セットの量子化マトリクスが予め定められている場合、モジュール１１０は任意である。

最後にモジュール１１２において、量子化パラメータオフセット値に基づき、適応的デブロッキングフィルタ強度という手法を用いて、対象ピクチャのマクロブロックが符号化される。

図２は、第１セットの量子化マトリクスをスケーリングのための乗算係数を算出する処理を示す。まずモジュール２００において、第１量子化パラメータ値が設定される。この量子化パラメータは量子化パラメータオフセット値以上で、かつ最大量子化パラメータ値以下でなくてはならない。最大量子化パラメータ値は、例えば５１である。

モジュール２０２において、第１量子化パラメータ値から所定の量子化パラメータオフセット値を引くことにより、第２量子化パラメータ値を算出する。モジュール２０４において、第１量子化パラメータに基づく第１スケーリングファクタが決定される。そしてモジュール２０６において、第２量子化パラメータに基づく第２スケーリングファクタが決定される。２次元ブロック内の位置が異なれば、このスケーリングファクタも異なる場合がある。モジュール２０４及び２０６において、スケーリングファクタは、ブロック内の同一周波数位置から決定しなくてはならない。スケーリングファクタは、量子化処理の入力値に乗ずることにより、その処理の出力値となるような数値に相当する。スケーリングファクタは、１未満の数値でもよい。

最後にモジュール２０８において、第２スケーリングファクタを第１スケーリングファクタで除算することにより乗算係数が算出される。

図３は、本発明により第１セットの量子化マトリクスを修正する処理を示す。モジュール３００において、所定の量子化パラメータオフセット値が決定される。モジュール３０２で、所定の量子化マトリクス値のセットが決定される。次にモジュール３０４において、所定の量子化パラメータオフセット値に基づき乗算係数が算出される。乗算係数を算出する処理が図２に示される。最後にモジュール３０６において、各所定の量子化マトリクス値に算出された乗算係数を乗ずることにより、第１セットの量子化マトリクス値が算出される。

図４は、本発明による実施の形態１のマクロブロック符号化処理を示す。モジュール４００において、符号化対象マクロブロックの量子化パラメータが決定される。次にモジュール４０２において、マクロブロックを解析して、より弱いデブロッキングフィルタが必要かどうかが決定される。その解析には、マクロブロックが所望の空間的細部を含むかどうかの検出を含む。

モジュール４０４において、そのマクロブロックに対してより弱いデブロッキングフィルタを使用することが選択された場合、モジュール４０６において、対象マクロブロックの符号化に用いられる直交変換として、第１直交変換が選択される。次にモジュール４０８において、所定の量子化パラメータオフセット値の分だけ、対象マクロブロックの量子化パラメータ値が小さくされる。次にモジュール４１０において、第１直交変換と対応付けられた第１セットの量子化マトリクスが選択される。

モジュール４０４において、そのマクロブロックに対してより弱いデブロッキングフィルタを使用しないことが選択された場合、モジュール４１２において、対象マクロブロックの符号化に用いられる直交変換として、第２直交変換が選択される。次にモジュール４１４において、第２直交変換と対応付けられた第２セットの量子化マトリクスが選択される。

モジュール４１６において、最終的な量子化パラメータ値が符号化されて圧縮ストリームのマクロブロックヘッダに入れられる。モジュール４１８において、量子化パラメータ、選択された量子化マトリクス及び選択された直交変換を用いて、マクロブロックが符号化されて圧縮ストリームに入れられる。次にモジュール４２０において、同じ量子化パラメータ、直交変換及び量子化マトリクスを用いてマクロブロックが再構成される。最後にモジュール４２２において、再構成されたマクロブロックのブロックエッジに対し、量子化パラメータを用いてフィルタがかけられる。

図５は、本発明による実施の形態２のマクロブロック符号化処理を示す。モジュール６００において、対象マクロブロックの量子化パラメータが決定される。次にモジュール６０２において、対象マクロブロックの直交変換サイズが決定される。直交変換サイズを決定する方法として、例えばそのマクロブロックの空間的特性を検出することによって決定する。

モジュール６０４において、そのマクロブロックに対して第１直交変換サイズを用いると決定された場合、モジュール６０６において、対象マクロブロックの符号化に用いられる直交変換として、第１直交変換が選択される。次にモジュール６０８において、所定の量子化パラメータオフセット値の分だけ、対象マクロブロックの量子化パラメータ値が小さくされる。次にモジュール６１０において、第１直交変換と対応付けられた第１セットの量子化マトリクスが選択される。

モジュール６０４において、そのマクロブロックに対して第２直交変換サイズを用いると決定された場合、モジュール６１２において、対象マクロブロックの符号化に用いられる直交変換として、第２直交変換が選択される。次にモジュール６１４において、第２直交変換と対応付けられた第２セットの量子化マトリクスが選択される。

モジュール６１６において、最終的な量子化パラメータ値が符号化されて圧縮ストリームのマクロブロックヘッダに入れられる。モジュール６１８において、量子化パラメータ、選択された量子化マトリクス及び選択された直交変換を用いて、マクロブロックが符号化されて圧縮ストリームに入れられる。次にモジュール６２０において、同じ量子化パラメータ、直交変換及び量子化マトリクスを用いてマクロブロックが再構成される。最後にモジュール６２２において、再構成されたマクロブロックのブロックエッジに対し、量子化パラメータを用いてフィルタがかけられる。

図６は、本発明の装置例を示す。この装置は、画像解析部５００、直交選択部５０２、量子化パラメータ決定部５０６、量子化マトリクス選択部５０４、画像符号化部５０８、画像復号化部５１２、デブロッキングフィルタ部５１４、ピクチャメモリ５１６、及びエントロピー符号化部５１０とを備える。

画像解析部５００は、入力として、元のサンプルＤ２のマクロブロックを得、信号Ｄ３を直交変換選択部５０２に出力する。信号Ｄ３は、そのマクロブロックにはより弱いデブロッキングフィルタが必要かどうかを示す。直交変換部５０２は信号Ｄ３を受け付け、信号Ｄ３に基づいて直交変換を選択する。また、直交変換部５０２は、変換選択Ｄ４を、量子化パラメータ決定部５０６、量子化マトリクス選択部５０４、及び画像符号化部５０８に出力する。量子化マトリクス選択部５０４は、選択された直交変換と対応付けられた量子化マトリクスのセットを選択する。また量子化マトリクス選択部５０４は、選択した量子化マトリクスＤ５を画像符号化部５０８に出力する。

量子化パラメータ決定部５０６は、量子化パラメータ値Ｄ１と変換選択信号Ｄ４を得、新たな量子化パラメータＤ６を画像符号化部５０８とデブロッキングフィルタ部５１４に出力する。画像符号化部５０８は、選択された直交変換Ｄ４と、選択された量子化マトリクスＤ５と量子化パラメータ値Ｄ６とを用いて、ピクチャメモリ部Ｄ１０に格納された再構成サンプルに基づき元のサンプルのマクロブロックを符号化し、量子化された係数Ｄ７を、画像復号化部５１２とエントロピー符号化部５１０に出力する。

エントロピー符号化部５１０は量子化された係数Ｄ７を得、それらを符号化して圧縮ピクチャＶｏｕｔに入れる。画像復号化部は、ピクチャメモリ部５１６から量子化された係数Ｄ７と再構成サンプルとを取得し、マクロブロックのサンプルを再構成して、デブロッキングフィルタ部５１４に出力する。デブロッキングフィルタ部は、再構成されたサンプルＤ９と量子化パラメータＤ６とを取得し、そのマクロブロックのブロックエッジにフィルタをかけ、フィルタをかけたサンプルＤ１０をピクチャメモリ部５１６に格納する。

本発明に係るピクチャ符号化処理を示すフローチャートである。 本発明に係る量子化マトリクス値スケーリング用乗算係数算出処理を示すフローチャートである。 本発明に係る量子化マトリクス値修正処理を示すフローチャートである。 本発明の実施の形態１に係るマクロブロック符号化処理を示すフローチャートである。 本発明の実施の形態２に係るマクロブロック符号化処理を示すフローチャートである。 本発明の装置例を示すブロック図である。

Claims (20)

1. 量子化マトリクスを用いて適応的デブロッキングフィルタリングをおこなう方法であって、
   ダウンロード可能な量子化マトリクスの使用を示すフラグを符号化して圧縮ビデオストリームに入れるステップ（１００）と、
   ２以上の直交変換の使用を示すフラグを符号化して前記圧縮ビデオストリームに入れるステップ（１０２）と、
   ピクチャ内の再構成されたブロックエッジに対してデブロッキングフィルタを有効にする複数のフラグを符号化して前記圧縮ビデオストリームに入れるステップ（１０４）と、
   量子化パラメータオフセット値を決定するステップ（１０６）と、
   前記量子化パラメータオフセット値に基づき、複数の量子化マトリクス値からなる第１のセットを決定するステップ（１０８）と、
   前記第１セットの量子化マトリクス値を符号化して前記圧縮ビデオストリームに入れるステップ（１０９）と、
   複数の量子化マトリクス値からなる第２のセットを符号化して前記圧縮ビデオストリームに入れるステップ（１１０）と、
   前記量子化パラメータオフセット値に基づき決定された量子化パラメータ値を用いて、複数のマクロブロックを符号化するステップ（１１２）と
   を備えることを特徴とする方法。
2. 前記第１セットの量子化マトリクス値決定プロセスは、
   前記所定の量子化パラメータオフセット値を決定するステップ（３００）と、
   所定の量子化マトリクス値のセットを決定するステップ（３０２）と、
   前記所定の量子化パラメータオフセット値に基づき、乗算係数を算出するステップ（３０４）と、
   前記所定の量子化マトリクス値それぞれに前記算出された乗算係数を乗じて、前記第１セットの量子化マトリクス値を得るステップ（３０６）と
   を備えることを特徴とする請求項１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
3. 前記乗算係数算出プロセスは、
   第１量子化パラメータを設定するステップ（２００）と、
   前記第１量子化パラメータから前記量子化パラメータオフセット値を引いて第２量子化パラメータ値を得るステップ（２０２）と、
   前記第１量子化パラメータに基づき第１スケーリングファクタを算出するステップ（２０４）と、
   前記第２量子化パラメータに基づき第２スケーリングファクタを算出するステップ（２０６）と、
   前記第２スケーリングファクタを前記第１スケーリングファクタで割って前記乗算係数を得るステップ（２０８）と
   を備えることを特徴とする請求項１及び２に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
4. 前記量子化パラメータオフセット値に基づき決定された量子化パラメータを用いてマクロブロックを符号化するプロセスは、
   前記マクロブロックに用いる量子化パラメータを決定するステップ（４００）と、
   前記マクロブロックを解析し、前記マクロブロックがより弱いデブロッキングフィルタを必要とするか否かを決定するステップ（４０２）と、
   前記マクロブロックがより弱いフィルタを必要とする場合、第１直交変換を選択するステップ（４０４）と、
   前記マクロブロックがより弱いフィルタを必要とする場合、前記所定の量子化パラメータオフセット値の分だけ前記量子化パラメータ値を小さくするステップ（４０８）と、
   前記マクロブロックがより弱いフィルタを必要とする場合、前記第１直交変換に対応付けられた前記第１セットの量子化マトリクスを選択するステップ（４１０）と、
   前記マクロブロックがより弱いフィルタを必要としない場合、第２直交変換を選択するステップ（４１２）と、
   前記マクロブロックがより弱いフィルタを必要としない場合、前記第２直交変換に対応付けられた前記第２セットの量子化マトリクスを選択するステップ（４１４）と、
   前記量子化パラメータを符号化して前記圧縮ビデオストリームのマクロブロックヘッダに入れるステップ（４１６）と、
   前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを符号化して前記圧縮ビデオストリームに入れるステップ（４１８）と、
   前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを再構成するステップ（４２０）と、
   前記量子化パラメータを用いて前記マクロブロックのブロックエッジをフィルタリングするステップと
   を備えることを特徴とする請求項１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
5. 前記量子化パラメータオフセット値に基づき決定された量子化パラメータを用いてマクロブロックを符号化するプロセスは、
   前記マクロブロックに用いる量子化パラメータを決定するステップ（６００）と、
   前記マクロブロックの直交変換サイズを決定するステップ（６０２）と、
   前記マクロブロックに第１直交変換を用いると決定された場合、第１直交変換を選択するステップ（６０６）と、
   前記第１直交変換が選択された場合、前記所定の量子化パラメータオフセット値の分だけ前記量子化パラメータ値を小さくするステップ（６０８）と、
   前記第１直交変換が選択された場合、前記第１直交変換に対応付けられた前記第１セットの量子化マトリクスを選択するステップ（６１０）と、
   前記マクロブロックに第２直交変換を用いると決定された場合、第２直交変換を選択するステップ（６１２）と、
   前記第２直交変換が選択された場合、前記第２直交変換に対応付けられた前記第２セットの量子化マトリクスを選択するステップ（６１４）と、
   前記量子化パラメータを符号化して前記圧縮ビデオストリームのマクロブロックヘッダに入れるステップ（６１６）と、
   前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを符号化して前記圧縮ビデオストリームに入れるステップ（６１８）と、
   前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを再構成するステップ（６２０）と、
   前記量子化パラメータを用いて前記マクロブロックのブロックエッジをフィルタリングするステップと
   を備えることを特徴とする請求項１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
6. 前記直交変換は、８×８変換及び４×４変換を含む
   ことを特徴とする請求項１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
7. 前記第１直交変換は、８×８変換である
   ことを特徴とする請求項１、４及び５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
8. 前記第２直交変換は、４×４変換である
   ことを特徴とする請求項１、４及び５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
9. 前記第１セットの量子化マトリクスは、前記第１直交変換が選択された場合にのみ選択可能である
   ことを特徴とする請求項１、４及び５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
10. 前記第２セットの量子化マトリクスは、前記第２直交変換が選択された場合にのみ選択可能である
    ことを特徴とする請求項１、４及び５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング方法。
11. 量子化マトリクスを用いて適応的デブロッキングフィルタリングをおこなうための装置であって、
    ダウンロード可能な量子化マトリクスの使用を示すフラグを符号化して圧縮ビデオストリームに入れる手段（１００）と、
    ２以上の直交変換の使用を示すフラグを符号化して前記圧縮ビデオストリームに入れる手段（１０２）と、
    ピクチャ内の再構成されたブロックエッジに対してデブロッキングフィルタを有効にする複数のフラグを符号化して前記圧縮ビデオストリームに入れる手段（１０４）と、
    量子化パラメータオフセット値を決定する手段（１０６）と、
    前記量子化パラメータオフセット値に基づき、複数の量子化マトリクス値からなる第１のセットを決定する手段（１０８）と、
    前記第１セットの量子化マトリクス値を符号化して前記圧縮ビデオストリームに入れる手段（１０９）と、
    複数の量子化マトリクス値からなる第２のセットを符号化して前記圧縮ビデオストリームに入れる手段（１１０）と、
    前記量子化パラメータオフセット値に基づき決定された量子化パラメータ値を用いて、複数のマクロブロックを符号化する手段（１１２）と
    を備えることを特徴とする装置。
12. 前記第１セットの量子化マトリクス値決定手段は、
    前記所定の量子化パラメータオフセット値を決定する手段（３００）と、
    所定の量子化マトリクス値のセットを決定する手段（３０２）と、
    前記所定の量子化パラメータオフセット値に基づき、乗算係数を算出する手段（３０４）と、
    前記所定の量子化マトリクス値それぞれに前記算出された乗算係数を乗じて、前記第１セットの量子化マトリクス値を得る手段（３０６）と
    を備えることを特徴とする請求項１１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
13. 前記乗算係数算出手段は、
    第１量子化パラメータを設定する手段（２００）と、
    前記第１量子化パラメータから前記量子化パラメータオフセット値を引いて第２量子化パラメータ値を得る手段（２０２）と、
    前記第１量子化パラメータに基づき第１スケーリングファクタを算出する手段（２０４）と、
    前記第２量子化パラメータに基づき第２スケーリングファクタを算出する手段（２０６）と、
    前記第２スケーリングファクタを前記第１スケーリングファクタで割って前記乗算係数を得る手段（２０８）と
    を備えることを特徴とする請求項１１及び１２に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
14. 前記量子化パラメータオフセット値に基づき決定された量子化パラメータを用いてマクロブロックを符号化する手段は、
    前記マクロブロックに用いる量子化パラメータを決定する手段（４００）と、
    前記マクロブロックを解析し、前記マクロブロックがより弱いデブロッキングフィルタを必要とするか否かを決定する手段（４０２）と、
    前記マクロブロックがより弱いフィルタを必要とする場合、第１直交変換を選択する手段（４０４）と、
    前記マクロブロックがより弱いフィルタを必要とする場合、前記所定の量子化パラメータオフセット値の分だけ前記量子化パラメータ値を小さくする手段（４０８）と、
    前記マクロブロックがより弱いフィルタを必要とする場合、前記第１直交変換に対応付けられた前記第１セットの量子化マトリクスを選択する手段（４１０）と、
    前記マクロブロックがより弱いフィルタを必要としない場合、第２直交変換を選択する手段（４１２）と、
    前記マクロブロックがより弱いフィルタを必要としない場合、前記第２直交変換に対応付けられた前記第２セットの量子化マトリクスを選択する手段（４１４）と、
    前記量子化パラメータを符号化して前記圧縮ビデオストリームのマクロブロックヘッダに入れる手段（４１６）と、
    前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを符号化して前記圧縮ビデオストリームに入れる手段（４１８）と、
    前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを再構成する手段（４２０）と、
    前記量子化パラメータを用いて前記マクロブロックのブロックエッジをフィルタリングする手段と
    を備えることを特徴とする請求項１１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
15. 前記量子化パラメータオフセット値に基づき決定された量子化パラメータを用いてマクロブロックを符号化する手段は、
    前記マクロブロックに用いる量子化パラメータを決定する手段（６００）と、
    前記マクロブロックの直交変換サイズを決定する手段（６０２）と、
    前記マクロブロックに第１直交変換を用いると決定された場合、第１直交変換を選択する手段（６０６）と、
    前記第１直交変換が選択された場合、前記所定の量子化パラメータオフセット値の分だけ前記量子化パラメータ値を小さくする手段（６０８）と、
    前記第１直交変換が選択された場合、前記第１直交変換に対応付けられた前記第１セットの量子化マトリクスを選択する手段（６１０）と、
    前記マクロブロックに第２直交変換を用いると決定された場合、第２直交変換を選択する手段（６１２）と、
    前記第２直交変換が選択された場合、前記第２直交変換に対応付けられた前記第２セットの量子化マトリクスを選択する手段（６１４）と、
    前記量子化パラメータを符号化して前記圧縮ビデオストリームのマクロブロックヘッダに入れる手段（６１６）と、
    前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを符号化して前記圧縮ビデオストリームに入れる手段（６１８）と、
    前記量子化パラメータ、前記選択された直交変換、及び前記選択された量子化マトリクスを用いて前記マクロブロックを再構成する手段（６２０）と、
    前記量子化パラメータを用いて前記マクロブロックのブロックエッジをフィルタリングする手段と
    を備えることを特徴とする請求項１１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
16. 前記直交変換は、８×８変換及び４×４変換を含む
    ことを特徴とする請求項１１に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
17. 前記第１直交変換は、８×８変換である
    ことを特徴とする請求項１１、１４及び１５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
18. 前記第２直交変換は、４×４変換である
    ことを特徴とする請求項１１、１４及び１５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
19. 前記第１セットの量子化マトリクスは、前記第１直交変換が選択された場合にのみ選択可能である
    ことを特徴とする請求項１１、１４及び１５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。
20. 前記第２セットの量子化マトリクスは、前記第２直交変換が選択された場合にのみ選択可能である
    ことを特徴とする請求項１１、１４及び１５に記載の量子化マトリクスを用いた適応的デブロッキングフィルタリング装置。

Images