JP2007507183A - 8×8変換及び量子化 - Google Patents

8×8変換及び量子化 Download PDF

Info

Publication number
JP2007507183A
JP2007507183A JP2006528250A JP2006528250A JP2007507183A JP 2007507183 A JP2007507183 A JP 2007507183A JP 2006528250 A JP2006528250 A JP 2006528250A JP 2006528250 A JP2006528250 A JP 2006528250A JP 2007507183 A JP2007507183 A JP 2007507183A
Authority
JP
Japan
Prior art keywords
block
quantization
data
inverse
right shift
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2006528250A
Other languages
English (en)
Inventor
ズォウ、ミンファ
Original Assignee
テキサス インスツルメンツ インコーポレイテッド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by テキサス インスツルメンツ インコーポレイテッド filed Critical テキサス インスツルメンツ インコーポレイテッド
Publication of JP2007507183A publication Critical patent/JP2007507183A/ja
Abandoned legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/14Fourier, Walsh or analogous domain transformations, e.g. Laplace, Hilbert, Karhunen-Loeve, transforms
    • G06F17/147Discrete orthonormal transforms, e.g. discrete cosine transform, discrete sine transform, and variations therefrom, e.g. modified discrete cosine transform, integer transforms approximating the discrete cosine transform
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Discrete Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Algebra (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Processing (AREA)

Abstract

低複雑度のビデオ圧縮は、8×8のブロックを有し、8×8の整数行列を用いた変換とすべての量子化ステップに対して一定の右シフトおよび検索テーブル・スカラによる量子化とを含む。量子化ステップに依存する検索テーブル・スカラおよび右シフトを含む逆量子化と、8×8の整数行列を使用する逆変換もまた含まれる。

Description

(関連出願へのクロスリファレンス)
本出願は、2003年9月24日付けの仮出願第60/505,575号に基づき優先権を主張する。次の同時譲渡された係属特許出願、2003年11月25日付の仮出願第60/524,831号は、関連主題を開示する。
(発明の背景)
本発明は、デジタル式画像及び映像の信号処理に関連し、更に詳細には、ブロック変換および/又は量子化に加えて逆量子化および/又は逆変換に関連する。
デジタル式映像の通信および記録に関しては、各種の応用が存在し、それに対応して国際標準が開発されたし、開発されつつある。低ビット・レートの通信、例えば、テレビ電話や会議に加えて、巨大映像ファイル、例えば映画の圧縮は、各種のビデオ圧縮標準:H.261、H.263、MPEG−1、MPEG−2、AVS等々を生み出すことにつながった。これらの圧縮法は、離散コサイン変換(DCT)又はアナログ式変換に加えて変換係数の量子化を利用することによってエンコードのために必要なビット数を減らしている。
DCTベースの圧縮法は、1枚の画像を各々が4つの8×8の輝度ブロックと2つの8×8のクロミナンス・ブロックとを含む複数のマクロ・ブロックに分解するとしているが、これ以外のブロック・サイズや他の変換を使用することもできる。図2は、DCTベースのビデオ・エンコーディングの機能的ブロックを示す。ビット・レートを下げるために、8×8DCTを使用して8×8のブロック(輝度およびクロミナンス)を周波数ドメインに変換する。次に、DCT係数の8×8ブロックは、量子化され、1次元シーケンスにスキャンされ、そして可変長コーディング(VLC)を用いることによって符号化される。動き補償(MC)を含む予測コーディングに対しては、フィードバック・ループのために逆量子化およびIDCTが必要である。MCを除けば図2のすべての機能ブロックは、8×8のブロック・ベースで動作する。図2のレート制御ユニットは、DCT係数量子化ユニットを制御するためのバッファ使用率や目標のビット・レートに従って許容範囲内で量子化ステップ(qp)を生成する。実際、量子化ステップが大きいことは、先細りおよび/又はより小さい量子化係数を意味し、それは、より少ないおよび/又はより短いコード・ワードを意味し、従ってより低いビット・レートとファイルを意味する。
2種類の符号化マクロ・ブロックが存在する。INTRA符号化マクロ・ブロックは、先行する参照フレームとは独立して符号化される。INTER符号化マクロ・ブロックでは、先行する参照フレームからの動き補償された予測ブロックが、まず、最初に(現在のマクロ・ブロックの)各ブロックについて生成され、次に、予測エラー・ブロック(すなわち、現在のブロックと予測ブロックとの間の差分ブロック)がエンコードされる。
INTRA符号化マクロ・ブロックに関しては、INTRA符号化された8×8DCTブロックの最初の(0,0)係数は、DC係数と呼ばれ、ブロック中の63個のDCT係数の残りがAC係数である。他方、INTER符号化マクロ・ブロックに関しては、INTER符号化された8×8DCTブロックの64個のDCT係数すべてがAC係数として扱われる。DC係数は、固定された量子化ステップの値で量子化されるが、AC係数は、画像のエンコーディングでそれまでに使用されたビットを、使用されるものとして割当てられたビット数と比較するビット・レート制御に従って調節される量子化ステップを有する。更に、量子化行列(例えば、MPEG−4のように)は、DCT係数中で可変な量子化ステップを使えるようにする。
特に、8×8の二次元DCTは、次のように定義される。
Figure 2007507183
ここで、f(x,y)は、入力の8×8標本ブロックで、F(u,v)は、出力の変換された8×8ブロックであり、ここで、u,v,x,y=0,1,...,7である。また、
Figure 2007507183
この変換は、倍精度で実行され、最終的な変換係数は、整数値に丸められる。
次に、変換係数の量子化を次のように定義する。
Figure 2007507183
ここで、QPは、量子化ファクタで、QP=2qp/6のように量子化ステップから倍精度で計算される。この量子化ステップは、qp=0,1,...,51の範囲にある。量子化された係数は、整数値に丸められる。
次に、逆量子化は、次のようになり、
Figure 2007507183
倍精度値で整数値に丸められる。また、逆変換(再構築された標本ブロック)は、
Figure 2007507183
であり、これも倍精度値で整数値に丸められる。
32ビットAVSは、次のような整数変換を使用して倍精度法を簡略化する。まず、次のように8×8整数変換行列T8×8を定義する。
Figure 2007507183
ここで、f8×8およびF8×8をそれぞれ、入力の8×8標本ブロックおよび出力の8×8変換係数ブロックとする。そうすると、フォワード8×8整数変換は、次のように定義される。
Figure 2007507183
ここで、”x”は、8×8の行列乗算を示し、8×8行列T 8×8は、8×8行列T8×8の転置行列である。
変換された係数の量子化は、次のように進む。まず、F8×8={Fij:i,j=1,2,...,7}を8×8DCT係数ブロックとし、QF8×8={QFij:i,j=1,2,...,7}を量子化されたDCT係数ブロックとすると、整数量子化は、次のように定義される。
Figure 2007507183
ここで、αは、0.3〜0.5の範囲の値を有し(そのため、0.5から1ではなくて0.75〜0.85から1に切り上がるのみ)、qp=0,1,2,...,51は、量子化ステップであり、表AVS_Q_tabsは、本質的に6つのスケーリング行列(各々が整数除算qp/6の余りに対応する)で、次のように定義される。
Figure 2007507183

Figure 2007507183
もちろん、切捨ても修正することができて、まずFijの絶対値を取り、次にAVS_Q_tabs[qp%6]の対応する要素を乗じ、次に切捨てを行い、最後にFijの符号を付けることによって負数の切捨てを行うことができる。更に、切捨てのパラメータαは、ブロックの種類ごとに変えることができる。qpを6だけ増加させることは、AVS_Q_tabs[qp%6][i*8+j]を不変とし、右シフトによってQFijを因子2だけ減少させることに注意されたい。
8×8の量子化されたDCT係数ブロック、QF8×8={QFij:i,j=1,2,...,7}の逆量子化を計算し、逆量子化されたDCT係数ブロック、F’8×8={F’ij:i,j=1,2,...,7}を次式によって求める。
Figure 2007507183
ここで、qp=0,1,2,...,51は、量子化ステップであり、qp/6は、整数の除算(余りなし)であり、表AVS_IQ_tabsは、次のように定義される。
Figure 2007507183

Figure 2007507183
最後に、逆変換を計算する:f’8×8およびF’8×8をそれぞれ、出力の再構築された8×8標本ブロックおよび入力の逆量子化された8×8のDCT係数ブロックとする。そうすると、8×8の整数逆変換は、次のように定義される。
Figure 2007507183
ここで、
Figure 2007507183

は、行列を丸める右方向へのnシフトを意味する。すなわち、各行列要素に対して2n−1を加え、次に右方向にnだけシフトする(すなわち、2で除算し、余りを破棄する)。
次の表は、32ビットAVS法のデータ精度およびビット・シフトを要約したものである。ここで使用された合計のテーブル・サイズは、8×8(変換行列)+64×24(量子化テーブル)+64×12(逆量子化テーブル)+8×8(逆変換テーブル)=2432バイトである。
Figure 2007507183
“入力データ精度”の列の各エントリは、2つの数値を有するが、最初のものは、入力データの精度(例えば、動き補償から9ビットに増やした8ビットRGB又は輝度ピクセル・データ)で、二番目の数は、8×8変換行列(4ビットの振幅に1ビットの符号を加えたもの)又はAVS_Q_tabsエントリの精度(17ビットの正の整数)又はAVS_IQ_tabsエントリ(11ビットの正整数)のいずれかである。
しかし、32ビットのAVS法であっても計算上の複雑度は、高い。
(発明の概要)
本発明は、複雑度の低い変換と逆変換および/又は量子化と逆量子化を提供する。逆量子化では、適応的右シフトと小さい検索テーブルを使用する。
好適な実施の形態の方法は、8×8DCT型変換と量子化および逆操作の32ビット精度に迫る16ビット演算を許容し、動き補償付きでビデオ符号化を行う際に有用である。
(好適な実施の形態の説明)
1.概説
好適な実施の形態の複雑度の低い方法は、8×8ブロックの変換/逆変換と量子化/逆量子化の両方を提供する。量子化は、1つの範囲の量子化ステップを有し、逆量子化は、その量子化ステップに適応したシフトを使用する。量子化/逆量子化は、複雑度の低い16ビット算術および小さいテーブル・サイズで高い性能を実現する。本方法は、DCT変換および量子化が幅広く変化できるDCT係数の量子化で以って(動き補償された)ピクセルの8×8ブロックに作用するビデオ圧縮に応用できる。図2に示されたように、ビットストリーム・バッファからの使用率フィードバックが量子化ファクタを決定し、それは、典型的には、1から200−500の範囲で変化する。
好適な実施の形態のシステムは、デジタル信号プロセッサ(DSP)、汎用のプログラマブル・プロセッサ又はDSPとRISCプロセッサを同一チップ上に搭載してRISCプロセッサが制御を行うような用途特定型の回路オン・チップ又はシステム・オン・チップ(SoC)によって好適な実施の形態の方法を実行する。特に、ビデオ・クリップ機能を有するデジタル・スチル・カメラ(DSC)やビデオ機能を有するセルラ電話は、好適な実施の形態の方法を含むことができる。プログラムは、好適な実施の形態の方法の信号処理を実行するためのDSPやプログラマブル・プロセッサ用のオンボードROM又は外部フラッシュEEPROMに記憶することができる。アナログ・デジタル変換器およびデジタル・アナログ変換器は、実世界との結合を提供し、モジュレータ及びデモジュレータ(それに加えて、エア・インタフェースのためのアンテナ)は、送信波形への結合を提供する。
2.第1の好適な実施の形態
変換および量子化の複雑度を下げて、デコーダ側でIDCT不整合を避けるために、第1の好適な実施の形態は、16ビット・ベースの整数変換/逆変換と、逆量子化における適応的シフト操作を備えた量子化/逆量子化の両方を提供する。
(a)フォワード変換
次のように整数の8×8変換行列を定義する。
Figure 2007507183
ここで、f8×8およびF8×8をそれぞれ、入力の8×8標本ブロックおよび出力の8×8DCT係数ブロックとする。フォワードの8×8整数変換は、次のように定義される。
Figure 2007507183
ここでも“x”は、8×8の行列乗算を意味し、T 8×8は、T8×8の転置行列であり、
Figure 2007507183

は、“n”ビット(この場合n=8および16)右にシフトして丸める行列操作を意味し、次のように定義される。m8×8={mij:i,j=1,2,...,7}を、行列M8×8={Mij:i,j=1,2,...,7}に対して
Figure 2007507183

の操作を施したあとの結果の行列とすると、行列の右シフトによる丸め操作
Figure 2007507183

は、i,j=1,2,...,7について、mij=(Mij+2n−1)>>n(i,j=1,2,...,7)と定義される。もちろん、丸め操作は、正の方向にも負の方向にも可能で、Mijの絶対値を取り、2n−1を加え、シフトし、そしてMijの符号を付ければよい。
フォワード整数変換(f8×8からF8×8)は、まず水平方向の変換(8ビットの右方向へのシフトによる丸め操作)を行い、続いて垂直方向の変換(16ビットの右方向へのシフトによる行列丸め操作)を行う。これとは対照的に、32ビットAVS法では、丸めもシフトもせずに両方の行列乗算を行う。
(b)量子化
8×8のDCT係数ブロックF8×8を16ビットで量子化して8×8の量子化されたDCT係数ブロックQF8×8を得る好適な実施の形態は、次のように定義される。
Figure 2007507183
ここで、αは、0.3〜0.5の範囲の値を取り、qp=0,1,2,...,51は、量子化ステップであり、またQTABテーブルは、次のように定義される。
Figure 2007507183
注意すべきことは、この量子化は、qp/6の各々の余りに対して8×8のスケーリング行列を有する32ビットAVSとは対照的にスカラ乗算であるということである。更に、qpに関して周期性を有するAVS_IQ_tabs[qp%6][j*8+j]とは対照的に、好適な実施の形態QTAB[qp]は、qpに関して周期性を持たない。実際、それは、qpが6だけ増加したときに、ほぼ2だけ減少する。もちろん、QTAB[qp]は、AVS_IQ_tabs[qp%6][k]よりもずっと小さいテーブルである。
(c)逆量子化
8×8の量子化されたDCT係数ブロック、QF8×8={QFij:i,j=1,2,...,7}を16ビットで逆量子化して逆量子化されたDCT係数ブロック、F’8×8={F’ ij:i,j=1,2,...,7}を得る好適な実施の形態は、適応的シフト操作を利用して次のように定義される。
Figure 2007507183
ここでも、qp=0,1,2,...,51は、量子化ステップであり、IQTABおよびSHIFTテーブルは、次のように定義される。
Figure 2007507183
注意すべきことは、IQTAB[qp]は、16ビットの正の整数(符号ビットなし)であって、最上位ビット(MSB)は、すべてのqpについて1に等しく、またSHIFT[qp]は、7から15の範囲にあるということである。更に、32ビットAVS逆量子化の左シフトとは対照的に好適な実施の形態の逆量子化シフトは、右シフトであり、好適な実施の形態の項+2SHIFT[qp]−1のような切捨てを含む。
好適な実施の形態は、16ビット算術の制約下で最大の忠実度を保つために、qpに適応するこの右シフトを使用する。
もちろん、IQTABテーブルは、異なるqpの値の範囲に適応するように調節できる。これまでの記述では、qpが6だけ増加/減少するたびに、量子化においてほぼ2だけ変化することなる。
(d)逆変換
f’ 8×8およびF’ 8×8をそれぞれ、出力の再構築された8×8標本ブロックおよび入力の逆量子化された8×8DCT係数ブロックとする。8×8整数逆変換は、次のように定義される。
Figure 2007507183
逆整数変換は、まず水平方向の逆変換を実行し(8ビット右方向へのシフトによる行列丸め操作によって)、続いて垂直方向の逆変換を行う(16ビット右方向へのシフトによる行列丸め操作によって)。
次の表は、16ビットの好適な実施の形態の方法で用いられるデータ精度およびビット・シフトを要約したものである。ここで用いられる合計のテーブル・サイズは、8×8×2(変換)+52×2(量子化)+52×3(逆量子化)+8×8×2(逆変換)=516バイトである。
Figure 2007507183
ここでも”入力データ精度”の列の各エントリは、2つの数字を含んでいる。最初のものは、入力データの精度(動き補償から9ビットに増やされた8ビットRGBピクセル・データ)であり、二番目の数字は、8×8の変換行列(11ビットの絶対値に符号1ビットを加えたもの)の精度か、あるいは、QTAB又はIQTABのエントリ(16ビットの正整数)のいずれかである。スカラのIQTABおよび右シフトSHIFTの両方に関する検索テーブルを用いた逆量子化は、16ビット算術に対して良好な性能と低い複雑度とを提供する。
4.実験結果
好適な実施の形態の16ビット・ベースの変換および量子化と、倍精度法およびAVS32ビット・ベースの方法の両者とを性能比較した。
図3は、倍精度と16ビット・ベースの変換および量子化の性能比較で用いたブロック図を示す。性能を比較するために、同じ8×8の残余ブロックに対してこれら2つの方法を適用した。変換、量子化、逆量子化および逆変換のあとで、再構築されたブロックと元の残余ブロックとの間でPSNR値を2つの方法(図3のPSNRD(QP)およびPSNR16(QP))について別々に計算した。倍精度に基づく変換および量子化の方法を背景で説明したが、16ビット・ベースの好適な実施の形態の方法は、これまで述べた式を使用する。残余ブロックは、[−255,255]の範囲にあるランダムなデータである。各々のqpについて、6000個のランダムな8×8ブロックが使用される。結果を次の表に示す。
Figure 2007507183

Figure 2007507183
この表は、好適な実施の形態の16ビットの変換および量子化の方法が倍精度の方法とほとんど同じ性能を有することを示しているが、唯一、qp=0(QP=1は、ロスレス・コーディングに対応する)について0.46dBのロスが生じている。
更に、16ビット・ベースとAVSの32ビット・ベースの変換および量子化の性能比較も行われた。図3に示したものと同じ比較方法(すなわち、図3の倍精度の方法を、背景で説明した式によって表される32ビットAVS法で置き換えただけ)を採用した。唯一の差異は、AVSが量子化スケールとして次を使用しているということである。
Figure 2007507183
公正な比較を確保するために、好適な実施の形態の16ビットの方法をAVS QPに合わせるようにした。結果を次の表に示す。
Figure 2007507183

Figure 2007507183
この表は、好適な16ビットの方法が典型的な動作ビット・レート(qp=16〜28)の領域でPSNR値に関して32ビット・ベースのAVS変換および量子化よりも優れていることを示している。この段階で、32ビットAVSリファレンス・ソフトウエアの欠如のため、これら2つの間のレート歪の比較は、明らかでない。好適な実施の形態の方法がAVSのそれと比べて同等の符号化効率を有することが期待される。事実は、好適な実施の形態の16ビットの方法が符号化効率の点で倍精度の方法とほとんど同じであるということ、および32ビットAVS変換および量子化もまた背景で説明した倍精度の8×8DCTおよび量子化の方法から得られるということである。
要するに、機能強化されたビデオ・コーディングのための好適な実施の形態の16ビット・ベースの8×8変換および量子化の方法は、AVS標準で使用される倍精度の方法および32ビット・ベースの変換および量子化と互角の符号化品質を有しているが、必要とされるテーブル・サイズは、ずっと小さく(516バイト対2432バイト)、また計算の複雑度も低い。それは、32ビット・メモリへのアクセスおよび乗算の使用を全く含まなくてよい。
3.修正
好適な実施の形態の方法は、16ビットの整数8×8変換と逆変換および/又は小さいテーブルでの量子化と適応的右シフトによる逆量子化の1又は複数の特徴を保ちながら、各種のやり方で修正できる。すなわち、変換/逆変換および量子化/逆量子化は、独立に使用できる。
例えば、量子化ステップqpから量子化ファクタQPへのスケーリングは、別のnに対してテーブルQTABおよびIQTAB/SHIFT中の対応する変化と一緒に、qp=logQP/6からqp=logQP/nへと変更することができる。対数−線形以外のスケーリングを使用してもよい。変換/逆変換行列も変更することができるし、量子化/逆量子化テーブル中のエントリも変更でき、また処理される8×8ブロックのタイプに適応させることさえ可能で、切捨ても適応的なものとすることができる。
フロー図である。 フロー図である。 DCT変換および量子化による動き補償付きビデオ圧縮を示す図である。 方法の比較を示す図である。

Claims (9)

  1. 動き補償されたエンコーディング方法であって、
    (a)動き予測ピクセル・ブロックを入力ピクセル・ブロックから差し引いて8×8ブロックのデータを得る工程と、
    (b)前記8×8ブロックのデータを整数変換によって8×8ブロックの変換されたデータに変換する工程と、
    (c)前記8×8ブロックの変換されたデータをスカラ乗算および右シフトによって量子化して8×8ブロックの量子化されたデータを得る工程であって、前記スカラ乗算は、量子化ステップに依存する前記量子化工程と、
    (d)前記8×8ブロックの量子化されたデータをエンコードする工程と、
    (e)前記8×8ブロックの量子化されたデータに第2のスカラ乗算および第2の右シフトによって逆量子化を行い、8×8ブロックの逆量子化されたデータを得る工程であって、前記第2のスカラ乗算および第2の右シフトが両方とも前記量子化ステップに依存する前記逆量子化工程と、
    (f)前記8×8ブロックの逆量子化されたデータを逆変換して8×8ブロックの再構築されたデータを得る工程と、
    (g)前記8×8ブロックの動き予測されたピクセルと前記8×8ブロックの再構築されたデータを加算して、8×8ブロックの再構築されたピクセルを形成する工程と、
    (h)前記8×8ブロックの再構築されたピクセルを記憶する工程であって、それによって前記再構築されたピクセルが後続のフレームに関する動き予測に使用できる前記記憶工程と、
    を含む前記方法。
  2. 請求項1記載の方法であって、
    (a)前記スカラ乗算および右シフトは、切捨てを含んでおり、
    (b)前記第2のスカラ乗算および第2の右シフトは、切捨てを含んでいる、
    前記方法。
  3. 8×8のブロックを逆量子化する方法であって、
    (a)入力の8×8ブロックの量子化された整数データを提供する工程であって、前記量子化されたデータは、量子化ステップに依存するスカラ乗算および右シフトによって得られる前記工程と、
    (b)前記量子化ステップを使用して、整数の逆量子化スカラ乗算および適応右シフトの両方を検索する工程と、
    (c)前記逆量子化スカラ乗算および前記適応右シフトを用いて前記ブロックを逆量子化する工程と、
    を含む前記方法。
  4. 請求項3記載の方法であって、
    (a)前記逆量子化のスカラ乗算は、最上位ビット(MSB)が1に等しい16ビットの正整数(符号ビットなし)を使用する、
    前記方法。
  5. 請求項3記載の方法であって、
    (a)前記逆量子化のスカラ乗算および適応右シフトは、切捨てを含む、
    前記方法。
  6. 請求項3記載の方法であって、
    (a)請求項3の工程(a)の前記データは、12ビット・データであり、
    (b)前記量子化ステップは、0から51の範囲にあり、
    (c)前記適応的右シフトは、7から15ビットの範囲にある、
    前記方法。
  7. 逆量子化器であって、
    (a)(i)量子化された8×8ブロックの整数データおよび(ii)16ビットの逆量子化スカラ・テーブルのエントリのための入力を有する乗算器であって、前記量子化されたデータは、量子化ステップに依存するスカラ乗算および右シフトおよび切り捨てから得られ、また前記逆量子化スカラ・テーブルは、前記量子化ステップによって索引される前記乗算器と、
    (b)(i)前記乗算器の出力および(ii)適応右シフト・テーブルのエントリのための入力を有する適応的右シフタであって、前記適応右シフト・テーブルは、前記量子化ステップによって索引される前記右シフタと、を含み、
    (c)前記適応右シフタの出力は、8×8の逆量子化されたデータ・ブロックである、
    前記逆量子化器。
  8. 請求項7記載の逆量子化器であって、
    (a)前記乗算器の前記出力は、切捨て提供部を含んでいる、
    前記逆量子化器。
  9. 請求項8記載の逆量子化器であって、
    (a)前記乗算器、切捨て提供部および適応右シフタは、プログラマブル・プロセッサのプログラムとして実現される、
    前記逆量子化器。
JP2006528250A 2003-09-24 2004-09-24 8×8変換及び量子化 Abandoned JP2007507183A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US50557503P 2003-09-24 2003-09-24
PCT/US2004/031480 WO2005032117A2 (en) 2003-09-24 2004-09-24 8x8 transform and quantization

Publications (1)

Publication Number Publication Date
JP2007507183A true JP2007507183A (ja) 2007-03-22

Family

ID=34393037

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006528250A Abandoned JP2007507183A (ja) 2003-09-24 2004-09-24 8×8変換及び量子化

Country Status (4)

Country Link
JP (1) JP2007507183A (ja)
KR (1) KR20060135613A (ja)
CN (1) CN1856997A (ja)
WO (1) WO2005032117A2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011504000A (ja) * 2007-11-12 2011-01-27 タンドベルク・テレコム・エイ・エス ビデオ符号化および復号化の方法
CN102625091A (zh) * 2011-01-27 2012-08-01 联合信源数字音视频技术(北京)有限公司 一种基于avs的帧间预测方法
WO2015141116A1 (ja) * 2014-03-19 2015-09-24 日本電気株式会社 映像符号化装置、映像符号化方法および映像符号化プログラム

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BRPI0713321B1 (pt) * 2006-06-26 2018-12-04 Qualcomm Inc aproximações eficientes para ponto fixo de transformadas de cosseno discretas diretas e inversas
US8699810B2 (en) 2006-06-26 2014-04-15 Qualcomm Incorporated Efficient fixed-point approximations of forward and inverse discrete cosine transforms
US8385424B2 (en) 2006-06-26 2013-02-26 Qualcomm Incorporated Reduction of errors during computation of inverse discrete cosine transform
US8300698B2 (en) 2006-10-23 2012-10-30 Qualcomm Incorporated Signalling of maximum dynamic range of inverse discrete cosine transform
JP2014523673A (ja) * 2011-06-18 2014-09-11 サムスン エレクトロニクス カンパニー リミテッド 映像の変換方法及びその装置、逆変換方法及びその装置
CN104683800B (zh) * 2015-02-11 2017-12-15 广州柯维新数码科技有限公司 基于avs的并行量化和反量化方法
CN110944179B (zh) * 2018-11-18 2022-01-25 北京达佳互联信息技术有限公司 一种视频数据解码方法及装置
CN109324778B (zh) * 2018-12-04 2020-03-27 深圳市华星光电半导体显示技术有限公司 补偿表压缩方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5506844A (en) * 1994-05-20 1996-04-09 Compression Labs, Inc. Method for configuring a statistical multiplexer to dynamically allocate communication channel bandwidth
US7113646B2 (en) * 2001-06-29 2006-09-26 Equator Technologies, Inc. Decoding of predicted AC coefficient without division

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011504000A (ja) * 2007-11-12 2011-01-27 タンドベルク・テレコム・エイ・エス ビデオ符号化および復号化の方法
CN102625091A (zh) * 2011-01-27 2012-08-01 联合信源数字音视频技术(北京)有限公司 一种基于avs的帧间预测方法
WO2015141116A1 (ja) * 2014-03-19 2015-09-24 日本電気株式会社 映像符号化装置、映像符号化方法および映像符号化プログラム

Also Published As

Publication number Publication date
KR20060135613A (ko) 2006-12-29
CN1856997A (zh) 2006-11-01
WO2005032117A2 (en) 2005-04-07
WO2005032117A3 (en) 2005-06-02

Similar Documents

Publication Publication Date Title
US11356665B2 (en) Method for determining color difference component quantization parameter and device using the method
US20210195208A1 (en) Low-complexity two-dimensional (2d) separable transform design with transpose buffer management
US7778327B2 (en) H.264 quantization
KR100912415B1 (ko) 변환 및 연속되는 양자화의 구현
TWI516095B (zh) 利用轉換操作之影音編碼及解碼方法
EP2663933A2 (en) 32-point transform for media data coding
US20050281332A1 (en) Transform coefficient decoding
CN1455599A (zh) 图像和视频编码的2-d变换
KR101320611B1 (ko) 양자화 파라미터가 확장된 N bit 영상 데이터부호화/복호화 방법 및 장치
US20130235938A1 (en) Rate-distortion optimized transform and quantization system
JPH10107644A (ja) 量子化装置および方法、並びに、符号化装置および方法
US7778813B2 (en) Video coding quantization
JP2007507183A (ja) 8×8変換及び量子化
JPH06189290A (ja) 1d/2d dctを用いた映像信号符号化装置
TWI407794B (zh) 檔案壓縮方法及檔案壓縮系統
US8069201B2 (en) 8×8 transform and quantization
KR20040069445A (ko) 낮은 메모리 대역폭을 갖는 동영상 압축 장치와 그 방법
WO2015045301A1 (ja) 映像符号化装置、映像符号化方法および映像符号化プログラム
JP2710135B2 (ja) フレーム間/フレーム内適応符号化方式
Ezhilarasan et al. A hybrid transformation technique for advanced video coding
JP2005109544A (ja) 画像処理装置
JPH10224227A (ja) 直交変換符号化用適応量子化方式
JPH0654197A (ja) 画像圧縮装置
JPH05130418A (ja) 画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070629

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20090113