JPH10107644A - 量子化装置および方法、並びに、符号化装置および方法 - Google Patents
量子化装置および方法、並びに、符号化装置および方法Info
- Publication number
- JPH10107644A JPH10107644A JP25427396A JP25427396A JPH10107644A JP H10107644 A JPH10107644 A JP H10107644A JP 25427396 A JP25427396 A JP 25427396A JP 25427396 A JP25427396 A JP 25427396A JP H10107644 A JPH10107644 A JP H10107644A
- Authority
- JP
- Japan
- Prior art keywords
- value
- quantization scale
- data
- quantization
- intermediate data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
- H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Of Band Width Or Redundancy In Fax (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
(57)【要約】
【課題】 デコーダにおいて逆量子化されたデータと、
エンコーダのＤＣＴ係数との誤差を小さくする。 【解決手段】 ＤＣＴ回路１は、画像信号を圧縮し、そ
の画像信号に対応するＤＣＴ係数を量子化部２に出力す
る。量子化部２の量子化回路１１は、ＤＣＴ係数を第１
の量子化スケールを利用して変換した中間データの所定
の範囲の発生確率分布から、所定の範囲における中間デ
ータの平均値を演算し、その平均値と第１の量子化スケ
ールから、第２の量子化スケールを演算する。量子化回
路１１は、第２の量子化スケールを利用して、ＤＣＴ係
数を別の中間データに変換し、代表値化回路１２は、所
定の範囲の中間データを、第２の量子化スケールで逆量
子化されたときの値が上述の平均値になる値に変換し、
逆量子化されたときの値が基準値になる値と、第２の量
子化スケールを可変長符号化器３に出力する。
エンコーダのＤＣＴ係数との誤差を小さくする。 【解決手段】 ＤＣＴ回路１は、画像信号を圧縮し、そ
の画像信号に対応するＤＣＴ係数を量子化部２に出力す
る。量子化部２の量子化回路１１は、ＤＣＴ係数を第１
の量子化スケールを利用して変換した中間データの所定
の範囲の発生確率分布から、所定の範囲における中間デ
ータの平均値を演算し、その平均値と第１の量子化スケ
ールから、第２の量子化スケールを演算する。量子化回
路１１は、第２の量子化スケールを利用して、ＤＣＴ係
数を別の中間データに変換し、代表値化回路１２は、所
定の範囲の中間データを、第２の量子化スケールで逆量
子化されたときの値が上述の平均値になる値に変換し、
逆量子化されたときの値が基準値になる値と、第２の量
子化スケールを可変長符号化器３に出力する。
Description
【０００１】
【発明の属する技術分野】本発明は、量子化装置および
方法、並びに、符号化装置および方法に関し、特に、入
力データを第１の量子化スケールを利用して変換した中
間データの所定の範囲の発生確率分布から算出される、
所定の範囲に対応する基準値と第１の量子化スケールか
ら第２の量子化スケールを算出し、入力データを中間デ
ータに変換し、所定の範囲の中間データを、第２の量子
化スケールで逆量子化されたときの値が基準値になる値
に変換して、量子化による誤差を低減する量子化装置お
よび方法、並びに、符号化装置および方法に関する。
方法、並びに、符号化装置および方法に関し、特に、入
力データを第１の量子化スケールを利用して変換した中
間データの所定の範囲の発生確率分布から算出される、
所定の範囲に対応する基準値と第１の量子化スケールか
ら第２の量子化スケールを算出し、入力データを中間デ
ータに変換し、所定の範囲の中間データを、第２の量子
化スケールで逆量子化されたときの値が基準値になる値
に変換して、量子化による誤差を低減する量子化装置お
よび方法、並びに、符号化装置および方法に関する。
【０００２】
【従来の技術】現在、画像圧縮の方式として、ＭＰＥＧ
（Moving Picture coding Experts Group）方式（ＭＰ
ＥＧ１、ＭＰＥＧ２など）が広く利用されている。ＭＰ
ＥＧ１およびＭＰＥＧ２は、国際標準化機構（ＩＳＯ：
International Organization for Standardization）に
より規定されており、その詳細は、ＩＳＯ／ＩＥＣ１１
１７２−２およびＩＳＯ／ＩＥＣ１３８１８−２に記載
されている。
（Moving Picture coding Experts Group）方式（ＭＰ
ＥＧ１、ＭＰＥＧ２など）が広く利用されている。ＭＰ
ＥＧ１およびＭＰＥＧ２は、国際標準化機構（ＩＳＯ：
International Organization for Standardization）に
より規定されており、その詳細は、ＩＳＯ／ＩＥＣ１１
１７２−２およびＩＳＯ／ＩＥＣ１３８１８−２に記載
されている。
【０００３】ＭＰＥＧ１およびＭＰＥＧ２を利用したエ
ンコーダにおいては、画像データは、離散コサイン変換
（ＤＣＴ）により圧縮された後、量子化される。そし
て、量子化されたデータは可変長符号化され、可変長符
号としてエンコーダより出力される。
ンコーダにおいては、画像データは、離散コサイン変換
（ＤＣＴ）により圧縮された後、量子化される。そし
て、量子化されたデータは可変長符号化され、可変長符
号としてエンコーダより出力される。
【０００４】そして、そのエンコーダに対応するデコー
ダは、最初に、ＭＰＥＧ方式の符号を、可変長復号した
後、逆量子化する。そして、デコーダは、生成された逆
量子化データに対して、逆離散コサイン変換（ＩＤＣ
Ｔ）を行い、元の画像データを得る。
ダは、最初に、ＭＰＥＧ方式の符号を、可変長復号した
後、逆量子化する。そして、デコーダは、生成された逆
量子化データに対して、逆離散コサイン変換（ＩＤＣ
Ｔ）を行い、元の画像データを得る。
【０００５】次に、このエンコーダとデコーダにおける
処理の詳細について説明する。
処理の詳細について説明する。
【０００６】最初に、エンコーダにおいては、１フレー
ム分の画像データは、ＮＹ個の、８×８画素の輝度信号
ブロックと、ＮＣ個の、８×８画素の色差信号ブロック
（合計（ＮＹ＋ＮＣ）個の８×８画素のブロック）で構
成される複数のマクロブロックに分割される。
ム分の画像データは、ＮＹ個の、８×８画素の輝度信号
ブロックと、ＮＣ個の、８×８画素の色差信号ブロック
（合計（ＮＹ＋ＮＣ）個の８×８画素のブロック）で構
成される複数のマクロブロックに分割される。
【０００７】さらに、このマクロブロックは、ＮＹ個
の、８×８画素の輝度信号ブロックと、ＮＣ個の、８×
８画素の色差信号ブロック、即ち、合計（ＮＹ＋ＮＣ）
個の８×８画素のブロックに分割される。
の、８×８画素の輝度信号ブロックと、ＮＣ個の、８×
８画素の色差信号ブロック、即ち、合計（ＮＹ＋ＮＣ）
個の８×８画素のブロックに分割される。
【０００８】次に、各ブロックは、離散コサイン変換に
より、８×８個の周波数データに変換される。この６４
個の周波数データは、ＤＣＴ係数と呼ばれ、ラインスキ
ャン順に０から６３までの番号を割り当てられている。
即ち、第ｕ（ｕ＝１，・・・，７）番目の行の、第ｖ
（ｖ＝１，・・・，７）番目の列のＤＣＴ係数が、第
（８×ｕ＋ｖ）番目のＤＣＴ係数となる。
より、８×８個の周波数データに変換される。この６４
個の周波数データは、ＤＣＴ係数と呼ばれ、ラインスキ
ャン順に０から６３までの番号を割り当てられている。
即ち、第ｕ（ｕ＝１，・・・，７）番目の行の、第ｖ
（ｖ＝１，・・・，７）番目の列のＤＣＴ係数が、第
（８×ｕ＋ｖ）番目のＤＣＴ係数となる。
【０００９】そして、このＤＣＴ係数に対して量子化が
行われる。最初に、第ｉ（ｉ＝０，・・・，６３）番目
のＤＣＴ係数に対応する重み係数Ｗ［ｉ］と、後段の可
変長符号の出力量を調整するための量子化スケールＱを
利用して、第ｉ番目の量子化データが、第ｉ番目のＤＣ
Ｔ係数から算出される。
行われる。最初に、第ｉ（ｉ＝０，・・・，６３）番目
のＤＣＴ係数に対応する重み係数Ｗ［ｉ］と、後段の可
変長符号の出力量を調整するための量子化スケールＱを
利用して、第ｉ番目の量子化データが、第ｉ番目のＤＣ
Ｔ係数から算出される。
【００１０】即ち、Ｗ［ｉ］とＱの積を１６で除した値
で、ＤＣＴ係数を除した値（ＤＣＴ係数／（Ｗ［ｉ］×
Ｑ／１６））が、量子化データとなる。ＤＣＴ係数は整
数であるが、量子化データは、実数となる。
で、ＤＣＴ係数を除した値（ＤＣＴ係数／（Ｗ［ｉ］×
Ｑ／１６））が、量子化データとなる。ＤＣＴ係数は整
数であるが、量子化データは、実数となる。
【００１１】なお、量子化スケールＱは、所定の制御回
路などにより、現在の符号量に対応して算出される。符
号量が多い場合、Ｑは大きい値に設定され、符号量が少
ない場合、Ｑは小さい値に設定される。このようにし
て、生成される符号量が、適正な量に調整され、所定の
転送レートで可変長符号がエンコーダより出力される。
また、量子化スケールＱは、マクロブロック毎に設定さ
れる（８×８画素のブロック毎には設定されない）の
で、１つのマクロブロックを処理している間は、量子化
スケールＱの値は一定である。
路などにより、現在の符号量に対応して算出される。符
号量が多い場合、Ｑは大きい値に設定され、符号量が少
ない場合、Ｑは小さい値に設定される。このようにし
て、生成される符号量が、適正な量に調整され、所定の
転送レートで可変長符号がエンコーダより出力される。
また、量子化スケールＱは、マクロブロック毎に設定さ
れる（８×８画素のブロック毎には設定されない）の
で、１つのマクロブロックを処理している間は、量子化
スケールＱの値は一定である。
【００１２】次に、実数である量子化データは、その値
に対応する代表値化データに変換される。そして、この
代表値化データに対応するＳｉｇｎｅｄＬｅｖｅｌ（後
述）が、量子化スケールＱなどとともに可変長符号化さ
れ、エンコーダから出力される。
に対応する代表値化データに変換される。そして、この
代表値化データに対応するＳｉｇｎｅｄＬｅｖｅｌ（後
述）が、量子化スケールＱなどとともに可変長符号化さ
れ、エンコーダから出力される。
【００１３】なお、一般的に「量子化」とは、本文でい
うところの「量子化」、「代表値化データへの変換」、
および、「対応するＳｉｇｎｅｄＬｅｖｅｌの出力」を
すべてを含んでいる。しかしながら、これらの処理は、
本発明に、特に関係するので、上記のように分けること
により説明をわかりやすくしている。以下、このように
分けて説明する。
うところの「量子化」、「代表値化データへの変換」、
および、「対応するＳｉｇｎｅｄＬｅｖｅｌの出力」を
すべてを含んでいる。しかしながら、これらの処理は、
本発明に、特に関係するので、上記のように分けること
により説明をわかりやすくしている。以下、このように
分けて説明する。
【００１４】以上のようにして生成された可変長符号を
デコードするデコーダは、最初に、上述のエンコーダな
どにより出力された可変長符号を復号した後、逆量子化
する。
デコードするデコーダは、最初に、上述のエンコーダな
どにより出力された可変長符号を復号した後、逆量子化
する。
【００１５】即ち、デコーダは、復号したＳｉｇｎｅｄ
Ｌｅｖｅｌを代表値化データに一旦変換し、その代表値
化データに、上述のＷ［ｉ］×Ｑ／１６を乗じて、逆量
子化データを生成する。そして、デコーダは、この逆量
子化データを逆離散コサイン変換して、元のデータを生
成する。逆量子化においては、デコーダに予め記憶され
ている重み係数Ｗ［ｉ］（エンコーダが有する重み係数
Ｗ［ｉ］と同一のもの）が利用されるとともに、デコー
ダに供給された符号に含まれている量子化スケールが利
用される。即ち、デコーダは、エンコーダが設定した量
子化スケールを、供給された符号から抽出し、逆量子化
に利用する。
Ｌｅｖｅｌを代表値化データに一旦変換し、その代表値
化データに、上述のＷ［ｉ］×Ｑ／１６を乗じて、逆量
子化データを生成する。そして、デコーダは、この逆量
子化データを逆離散コサイン変換して、元のデータを生
成する。逆量子化においては、デコーダに予め記憶され
ている重み係数Ｗ［ｉ］（エンコーダが有する重み係数
Ｗ［ｉ］と同一のもの）が利用されるとともに、デコー
ダに供給された符号に含まれている量子化スケールが利
用される。即ち、デコーダは、エンコーダが設定した量
子化スケールを、供給された符号から抽出し、逆量子化
に利用する。
【００１６】次に、量子化データを、代表値化データに
変換するときの処理について説明する。この処理は、イ
ントラマクロブロック（フレーム内符号化されたもの）
に対して行う場合と、ノンイントラマクロブロック（フ
レーム間符号化されたもの）に対して行う場合で異なる
ので、それぞれの場合について説明する。
変換するときの処理について説明する。この処理は、イ
ントラマクロブロック（フレーム内符号化されたもの）
に対して行う場合と、ノンイントラマクロブロック（フ
レーム間符号化されたもの）に対して行う場合で異なる
ので、それぞれの場合について説明する。
【００１７】イントラマクロブロックに対する量子化デ
ータを代表値化データに変換する場合、図１１に示すよ
うに、整数ｔに対して規定される（ｔ−０．５）乃至
（ｔ＋０．５）の範囲に属する第ｉ番目の量子化データ
は、値がｔである代表値化データに変換される。なお、
イントラマクロブロックにおける第０番目のＤＣＴ係数
であるＤＣ係数は、他のＤＣＴ係数（第１番目乃至第６
３番目のＤＣＴ係数）とは異なる手順で量子化されるの
で、これ以降においては、第１番目乃至第６３番目のＤ
ＣＴ係数だけを取り扱うものとする。
ータを代表値化データに変換する場合、図１１に示すよ
うに、整数ｔに対して規定される（ｔ−０．５）乃至
（ｔ＋０．５）の範囲に属する第ｉ番目の量子化データ
は、値がｔである代表値化データに変換される。なお、
イントラマクロブロックにおける第０番目のＤＣＴ係数
であるＤＣ係数は、他のＤＣＴ係数（第１番目乃至第６
３番目のＤＣＴ係数）とは異なる手順で量子化されるの
で、これ以降においては、第１番目乃至第６３番目のＤ
ＣＴ係数だけを取り扱うものとする。
【００１８】ノンイントラマクロブロックに対する量子
化データを代表値化データに変換する場合、図１２に示
すように、−１乃至＋１の範囲に属する第ｉ番目の量子
化データは、値が０である代表値化データに変換され、
正の整数ｔに対して０．５を加算した値（あるいは、負
の整数ｔに対して０．５を減算した値）ｔｔに対して規
定される（ｔｔ−０．５）乃至（ｔｔ＋０．５）の範囲
に属する第ｉ番目の量子化データは、値がｔｔである代
表値化データに変換される。
化データを代表値化データに変換する場合、図１２に示
すように、−１乃至＋１の範囲に属する第ｉ番目の量子
化データは、値が０である代表値化データに変換され、
正の整数ｔに対して０．５を加算した値（あるいは、負
の整数ｔに対して０．５を減算した値）ｔｔに対して規
定される（ｔｔ−０．５）乃至（ｔｔ＋０．５）の範囲
に属する第ｉ番目の量子化データは、値がｔｔである代
表値化データに変換される。
【００１９】なお、ＭＰＥＧ１およびＭＰＥＧ２におい
て、上述の整数ｔは、ＳｉｇｎｅｄＬｅｖｅｌと呼ばれ
る。可変長符号化の処理においては、このＳｉｇｎｅｄ
Ｌｅｖｅｌが符号化される。
て、上述の整数ｔは、ＳｉｇｎｅｄＬｅｖｅｌと呼ばれ
る。可変長符号化の処理においては、このＳｉｇｎｅｄ
Ｌｅｖｅｌが符号化される。
【００２０】従って、図１３に示すように、イントラマ
クロブロックの場合、エンコーダにおいて、（ｔ−０．
５）×Ｗ［ｉ］×Ｑ／１６乃至（ｔ＋０．５）×Ｗ
［ｉ］×Ｑ／１６の範囲にあるＤＣＴ係数は、値がｔで
ある代表値化データに変換され、その代表値化データに
対応する、値がｔであるＳｉｇｎｅｄＬｅｖｅｌが符号
化される。そして、デコーダにおいて、そのＳｉｇｎｅ
ｄＬｅｖｅｌは、値がｔ×Ｗ［ｉ］×Ｑ／１６である逆
量子化データに変換される。
クロブロックの場合、エンコーダにおいて、（ｔ−０．
５）×Ｗ［ｉ］×Ｑ／１６乃至（ｔ＋０．５）×Ｗ
［ｉ］×Ｑ／１６の範囲にあるＤＣＴ係数は、値がｔで
ある代表値化データに変換され、その代表値化データに
対応する、値がｔであるＳｉｇｎｅｄＬｅｖｅｌが符号
化される。そして、デコーダにおいて、そのＳｉｇｎｅ
ｄＬｅｖｅｌは、値がｔ×Ｗ［ｉ］×Ｑ／１６である逆
量子化データに変換される。
【００２１】例えば、ＤＣＴ係数の値が０．６×Ｗ
［ｉ］×Ｑ／１６（図中のｇ）である場合、量子化デー
タの値は、０．６（図中のＦ（ｇ））となり、代表値化
データおよびＳｉｇｎｅｄＬｅｖｅｌの値は、１とな
る。そして、そのＳｉｇｎｅｄＬｅｖｅｌが、デコーダ
に供給され、値が１×Ｗ［ｉ］×Ｑ／１６である逆量子
化データに変換される。このときのＤＣＴ係数と逆量子
化データの２乗誤差Ｉ（ｅｇ）2は、（０．４×Ｗ
［ｉ］×Ｑ／１６）2（＝｛（１．０−０．６）×Ｗ
［ｉ］×Ｑ／１６｝2）となる。
［ｉ］×Ｑ／１６（図中のｇ）である場合、量子化デー
タの値は、０．６（図中のＦ（ｇ））となり、代表値化
データおよびＳｉｇｎｅｄＬｅｖｅｌの値は、１とな
る。そして、そのＳｉｇｎｅｄＬｅｖｅｌが、デコーダ
に供給され、値が１×Ｗ［ｉ］×Ｑ／１６である逆量子
化データに変換される。このときのＤＣＴ係数と逆量子
化データの２乗誤差Ｉ（ｅｇ）2は、（０．４×Ｗ
［ｉ］×Ｑ／１６）2（＝｛（１．０−０．６）×Ｗ
［ｉ］×Ｑ／１６｝2）となる。
【００２２】また、例えば、ＤＣＴ係数の値が２．２×
Ｗ［ｉ］×Ｑ／１６（図中のｈ）である場合、量子化デ
ータの値は、２．２（図中のＦ（ｈ））となり、代表値
化データおよびＳｉｇｎｅｄＬｅｖｅｌの値は、２とな
る。そして、そのＳｉｇｎｅｄＬｅｖｅｌが、デコーダ
に供給され、値が２×Ｗ［ｉ］×Ｑ／１６である逆量子
化データに変換される。このときのＤＣＴ係数と逆量子
化データの２乗誤差Ｉ（ｅｈ）2は、（０．２×Ｗ
［ｉ］×Ｑ／１６）2（＝｛（２．０−２．２）×Ｗ
［ｉ］×Ｑ／１６｝2）となる。
Ｗ［ｉ］×Ｑ／１６（図中のｈ）である場合、量子化デ
ータの値は、２．２（図中のＦ（ｈ））となり、代表値
化データおよびＳｉｇｎｅｄＬｅｖｅｌの値は、２とな
る。そして、そのＳｉｇｎｅｄＬｅｖｅｌが、デコーダ
に供給され、値が２×Ｗ［ｉ］×Ｑ／１６である逆量子
化データに変換される。このときのＤＣＴ係数と逆量子
化データの２乗誤差Ｉ（ｅｈ）2は、（０．２×Ｗ
［ｉ］×Ｑ／１６）2（＝｛（２．０−２．２）×Ｗ
［ｉ］×Ｑ／１６｝2）となる。
【００２３】一方、図１４に示すように、ノンイントラ
マクロブロックの場合、エンコーダにおいて、−１．０
×Ｗ［ｉ］×Ｑ／１６乃至＋１．０×Ｗ［ｉ］×Ｑ／１
６の範囲にあるＤＣＴ係数は、値が０である代表値化デ
ータに変換され、デコーダにおいて、値が０×Ｗ［ｉ］
×Ｑ／１６（＝０）である逆量子化データに変換され
る。
マクロブロックの場合、エンコーダにおいて、−１．０
×Ｗ［ｉ］×Ｑ／１６乃至＋１．０×Ｗ［ｉ］×Ｑ／１
６の範囲にあるＤＣＴ係数は、値が０である代表値化デ
ータに変換され、デコーダにおいて、値が０×Ｗ［ｉ］
×Ｑ／１６（＝０）である逆量子化データに変換され
る。
【００２４】そして、値が（ｔｔ−０．５）×Ｗ［ｉ］
×Ｑ／１６乃至（ｔｔ＋０．５）×Ｗ［ｉ］×Ｑ／１６
の範囲にあるＤＣＴ係数は、値がｔｔである代表値化デ
ータに変換され、その代表値化データに対応する、値が
ｔ（ｔｔ＞０のとき、ｔ＝ｔｔ−０．５、ｔｔ＜０のと
き、ｔ＝ｔｔ＋０．５）であるＳｉｇｎｅｄＬｅｖｅｌ
が符号化される。そして、デコーダにおいて、そのＳｉ
ｇｎｅｄＬｅｖｅｌは、代表値化データｔｔに変換され
た後、値がｔｔ×Ｗ［ｉ］×Ｑ／１６である逆量子化デ
ータに変換される。
×Ｑ／１６乃至（ｔｔ＋０．５）×Ｗ［ｉ］×Ｑ／１６
の範囲にあるＤＣＴ係数は、値がｔｔである代表値化デ
ータに変換され、その代表値化データに対応する、値が
ｔ（ｔｔ＞０のとき、ｔ＝ｔｔ−０．５、ｔｔ＜０のと
き、ｔ＝ｔｔ＋０．５）であるＳｉｇｎｅｄＬｅｖｅｌ
が符号化される。そして、デコーダにおいて、そのＳｉ
ｇｎｅｄＬｅｖｅｌは、代表値化データｔｔに変換され
た後、値がｔｔ×Ｗ［ｉ］×Ｑ／１６である逆量子化デ
ータに変換される。
【００２５】例えば、ＤＣＴ係数の値が１．１×Ｗ
［ｉ］×Ｑ／１６（図中のｊ）である場合、量子化デー
タの値は、１．１（図中のＦ（ｊ））となり、代表値化
データの値は、１．５となる（ＳｉｇｎｅｄＬｅｖｅｌ
の値は１となる）。そして、そのＳｉｇｎｅｄＬｅｖｅ
ｌがデコーダに供給され、ＳｉｇｎｅｄＬｅｖｅｌに
０．５だけ加算された値が、値が１．５×Ｗ［ｉ］×Ｑ
／１６である逆量子化データに変換される。このときの
ＤＣＴ係数と逆量子化データの２乗誤差Ｉ（ｅｊ）
2は、（０．４×Ｗ［ｉ］×Ｑ／１６）2（＝｛（１．５
−１．１）×Ｗ［ｉ］×Ｑ／１６｝2）となる。
［ｉ］×Ｑ／１６（図中のｊ）である場合、量子化デー
タの値は、１．１（図中のＦ（ｊ））となり、代表値化
データの値は、１．５となる（ＳｉｇｎｅｄＬｅｖｅｌ
の値は１となる）。そして、そのＳｉｇｎｅｄＬｅｖｅ
ｌがデコーダに供給され、ＳｉｇｎｅｄＬｅｖｅｌに
０．５だけ加算された値が、値が１．５×Ｗ［ｉ］×Ｑ
／１６である逆量子化データに変換される。このときの
ＤＣＴ係数と逆量子化データの２乗誤差Ｉ（ｅｊ）
2は、（０．４×Ｗ［ｉ］×Ｑ／１６）2（＝｛（１．５
−１．１）×Ｗ［ｉ］×Ｑ／１６｝2）となる。
【００２６】例えば、ＤＣＴ係数の値が２．７×Ｗ
［ｉ］×Ｑ／１６（図中のｋ）である場合、量子化デー
タの値は、２．７（図中のＦ（ｋ））となり、代表値化
データの値は、２．５となる（ＳｉｇｎｅｄＬｅｖｅｌ
の値は２となる）。そして、そのＳｉｇｎｅｄＬｅｖｅ
ｌがデコーダに供給され、ＳｉｇｎｅｄＬｅｖｅｌに
０．５だけ加算された値が、値が２．５×Ｗ［ｉ］×Ｑ
／１６である逆量子化データに変換される。このときの
ＤＣＴ係数と逆量子化データの２乗誤差Ｉ（ｅｋ）
2は、（０．２×Ｗ［ｉ］×Ｑ／１６）2（＝｛（２．５
−２．７）×Ｗ［ｉ］×Ｑ／１６｝2）となる。
［ｉ］×Ｑ／１６（図中のｋ）である場合、量子化デー
タの値は、２．７（図中のＦ（ｋ））となり、代表値化
データの値は、２．５となる（ＳｉｇｎｅｄＬｅｖｅｌ
の値は２となる）。そして、そのＳｉｇｎｅｄＬｅｖｅ
ｌがデコーダに供給され、ＳｉｇｎｅｄＬｅｖｅｌに
０．５だけ加算された値が、値が２．５×Ｗ［ｉ］×Ｑ
／１６である逆量子化データに変換される。このときの
ＤＣＴ係数と逆量子化データの２乗誤差Ｉ（ｅｋ）
2は、（０．２×Ｗ［ｉ］×Ｑ／１６）2（＝｛（２．５
−２．７）×Ｗ［ｉ］×Ｑ／１６｝2）となる。
【００２７】
【発明が解決しようとする課題】しかしながら、イント
ラマクロブロックに対する処理において、量子化データ
の発生確率分布（即ち、入力データの発生確率分布）
は、例えば、図１５に示すように、０．５乃至１．５の
範囲において一定ではない（値が０に近いものの発生確
率が高い）ので、０．５乃至１．５の範囲にある量子化
データを、値が１である代表値化データに変換した場
合、０．５乃至１．５の範囲にある量子化データと、代
表値化データとの平均２乗誤差が最小とはならない。
ラマクロブロックに対する処理において、量子化データ
の発生確率分布（即ち、入力データの発生確率分布）
は、例えば、図１５に示すように、０．５乃至１．５の
範囲において一定ではない（値が０に近いものの発生確
率が高い）ので、０．５乃至１．５の範囲にある量子化
データを、値が１である代表値化データに変換した場
合、０．５乃至１．５の範囲にある量子化データと、代
表値化データとの平均２乗誤差が最小とはならない。
【００２８】ノンイントラマクロブロックに対する処理
においても、同様に、量子化データの発生確率分布（即
ち、入力データの発生確率分布）が一定でないことに起
因して、所定の範囲においては、量子化データと、代表
値化データとの平均２乗誤差が最小とはならない。
においても、同様に、量子化データの発生確率分布（即
ち、入力データの発生確率分布）が一定でないことに起
因して、所定の範囲においては、量子化データと、代表
値化データとの平均２乗誤差が最小とはならない。
【００２９】従って、上述の方法においては、量子化デ
ータと、代表値化データとの平均２乗誤差が大きいので
（即ち、エンコーダにおけるＤＣＴ係数と、デコーダに
おける逆量子化データとの誤差が大きいので）、デコー
ダにより変換された元の画像データのＳ／Ｎ比が悪化す
るという問題を有している。
ータと、代表値化データとの平均２乗誤差が大きいので
（即ち、エンコーダにおけるＤＣＴ係数と、デコーダに
おける逆量子化データとの誤差が大きいので）、デコー
ダにより変換された元の画像データのＳ／Ｎ比が悪化す
るという問題を有している。
【００３０】本発明は、このような状況に鑑みてなされ
たもので、入力データを量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、所定
の範囲に対応する基準値を演算するとともに、基準値と
量子化スケールから算出される第２の量子化スケールを
利用して、入力データを中間データに変換し、さらに、
所定の範囲の中間データを、第２の量子化スケールで逆
量子化されたときの値がその基準値になる値に変換し、
その値と、第２の量子化スケールを出力するようにし
て、デコーダにおいて逆量子化されたデータと、エンコ
ーダのＤＣＴ係数との誤差を小さくするものである。
たもので、入力データを量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、所定
の範囲に対応する基準値を演算するとともに、基準値と
量子化スケールから算出される第２の量子化スケールを
利用して、入力データを中間データに変換し、さらに、
所定の範囲の中間データを、第２の量子化スケールで逆
量子化されたときの値がその基準値になる値に変換し、
その値と、第２の量子化スケールを出力するようにし
て、デコーダにおいて逆量子化されたデータと、エンコ
ーダのＤＣＴ係数との誤差を小さくするものである。
【００３１】
【課題を解決するための手段】請求項１に記載の量子化
装置は、入力データを第１の量子化スケールを利用して
変換した中間データの所定の範囲の発生確率分布から、
所定の範囲に対応する基準値を演算する第１の演算手段
と、基準値と第１の量子化スケールから、第２の量子化
スケールを演算する第２の演算手段と、第２の量子化ス
ケールを利用して、入力データを中間データに変換する
第１の変換手段と、所定の範囲の中間データを、第２の
量子化スケールで逆量子化されたときの値が基準値にな
る値に変換する第２の変換手段と、逆量子化されたとき
の値が基準値になる値と、第２の量子化スケールを出力
する出力手段とを備えることを特徴とする。
装置は、入力データを第１の量子化スケールを利用して
変換した中間データの所定の範囲の発生確率分布から、
所定の範囲に対応する基準値を演算する第１の演算手段
と、基準値と第１の量子化スケールから、第２の量子化
スケールを演算する第２の演算手段と、第２の量子化ス
ケールを利用して、入力データを中間データに変換する
第１の変換手段と、所定の範囲の中間データを、第２の
量子化スケールで逆量子化されたときの値が基準値にな
る値に変換する第２の変換手段と、逆量子化されたとき
の値が基準値になる値と、第２の量子化スケールを出力
する出力手段とを備えることを特徴とする。
【００３２】請求項４に記載の量子化方法は、入力デー
タを第１の量子化スケールを利用して変換した中間デー
タの所定の範囲の発生確率分布から、所定の範囲に対応
する基準値を演算するステップと、基準値と第１の量子
化スケールから、第２の量子化スケールを演算するステ
ップと、第２の量子化スケールを利用して、入力データ
を中間データに変換するステップと、所定の範囲の中間
データを、第２の量子化スケールで逆量子化されたとき
の値が基準値になる値に変換するステップと、逆量子化
されたときの値が基準値になる値と、第２の量子化スケ
ールを出力するステップとを備えることを特徴とする。
タを第１の量子化スケールを利用して変換した中間デー
タの所定の範囲の発生確率分布から、所定の範囲に対応
する基準値を演算するステップと、基準値と第１の量子
化スケールから、第２の量子化スケールを演算するステ
ップと、第２の量子化スケールを利用して、入力データ
を中間データに変換するステップと、所定の範囲の中間
データを、第２の量子化スケールで逆量子化されたとき
の値が基準値になる値に変換するステップと、逆量子化
されたときの値が基準値になる値と、第２の量子化スケ
ールを出力するステップとを備えることを特徴とする。
【００３３】請求項５に記載の符号化装置は、量子化部
に、入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、所定
の範囲に対応する基準値を演算する第１の演算手段と、
基準値と第１の量子化スケールから、第２の量子化スケ
ールを演算する第２の演算手段と、第２の量子化スケー
ルを利用して、入力データを中間データに変換する第１
の変換手段と、所定の範囲の中間データを、第２の量子
化スケールで逆量子化されたときの値が基準値になる値
に変換する第２の変換手段と、逆量子化されたときの値
が基準値になる値と、第２の量子化スケールを出力する
出力手段とを備えることを特徴とする。
に、入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、所定
の範囲に対応する基準値を演算する第１の演算手段と、
基準値と第１の量子化スケールから、第２の量子化スケ
ールを演算する第２の演算手段と、第２の量子化スケー
ルを利用して、入力データを中間データに変換する第１
の変換手段と、所定の範囲の中間データを、第２の量子
化スケールで逆量子化されたときの値が基準値になる値
に変換する第２の変換手段と、逆量子化されたときの値
が基準値になる値と、第２の量子化スケールを出力する
出力手段とを備えることを特徴とする。
【００３４】請求項８に記載の符号化方法は、入力デー
タを第１の量子化スケールを利用して変換した中間デー
タの所定の範囲の発生確率分布から、所定の範囲に対応
する基準値を演算するステップと、基準値と第１の量子
化スケールから、第２の量子化スケールを演算するステ
ップと、第２の量子化スケールを利用して、入力データ
を中間データに変換するステップと、所定の範囲の中間
データを、第２の量子化スケールで逆量子化されたとき
の値が基準値になる値に変換するステップと、逆量子化
されたときの値が基準値になる値と、第２の量子化スケ
ールを出力するステップとを備えることを特徴とする。
タを第１の量子化スケールを利用して変換した中間デー
タの所定の範囲の発生確率分布から、所定の範囲に対応
する基準値を演算するステップと、基準値と第１の量子
化スケールから、第２の量子化スケールを演算するステ
ップと、第２の量子化スケールを利用して、入力データ
を中間データに変換するステップと、所定の範囲の中間
データを、第２の量子化スケールで逆量子化されたとき
の値が基準値になる値に変換するステップと、逆量子化
されたときの値が基準値になる値と、第２の量子化スケ
ールを出力するステップとを備えることを特徴とする。
【００３５】請求項１に記載の量子化装置においては、
第１の演算手段は、入力データを第１の量子化スケール
を利用して変換した中間データの所定の範囲の発生確率
分布から、所定の範囲に対応する基準値を演算し、第２
の演算手段は、基準値と第１の量子化スケールから、第
２の量子化スケールを演算し、第１の変換手段は、第２
の量子化スケールを利用して、入力データを中間データ
に変換し、第２の変換手段は、所定の範囲の中間データ
を、第２の量子化スケールで逆量子化されたときの値が
基準値になる値に変換し、出力手段は、逆量子化された
ときの値が基準値になる値と、第２の量子化スケールを
出力する。
第１の演算手段は、入力データを第１の量子化スケール
を利用して変換した中間データの所定の範囲の発生確率
分布から、所定の範囲に対応する基準値を演算し、第２
の演算手段は、基準値と第１の量子化スケールから、第
２の量子化スケールを演算し、第１の変換手段は、第２
の量子化スケールを利用して、入力データを中間データ
に変換し、第２の変換手段は、所定の範囲の中間データ
を、第２の量子化スケールで逆量子化されたときの値が
基準値になる値に変換し、出力手段は、逆量子化された
ときの値が基準値になる値と、第２の量子化スケールを
出力する。
【００３６】請求項４に記載の量子化方法においては、
入力データを第１の量子化スケールを利用して変換した
中間データの所定の範囲の発生確率分布から、所定の範
囲に対応する基準値を演算し、基準値と第１の量子化ス
ケールから、第２の量子化スケールを演算し、第２の量
子化スケールを利用して、入力データを中間データに変
換し、所定の範囲の中間データを、第２の量子化スケー
ルで逆量子化されたときの値が基準値になる値に変換
し、逆量子化されたときの値が基準値になる値と、第２
の量子化スケールを出力する。
入力データを第１の量子化スケールを利用して変換した
中間データの所定の範囲の発生確率分布から、所定の範
囲に対応する基準値を演算し、基準値と第１の量子化ス
ケールから、第２の量子化スケールを演算し、第２の量
子化スケールを利用して、入力データを中間データに変
換し、所定の範囲の中間データを、第２の量子化スケー
ルで逆量子化されたときの値が基準値になる値に変換
し、逆量子化されたときの値が基準値になる値と、第２
の量子化スケールを出力する。
【００３７】請求項５に記載の符号化装置においては、
量子化部の第１の演算手段は、入力データを第１の量子
化スケールを利用して変換した中間データの所定の範囲
の発生確率分布から、所定の範囲に対応する基準値を演
算し、量子化部の第２の演算手段は、基準値と第１の量
子化スケールから、第２の量子化スケールを演算し、量
子化部の第１の変換手段は、第２の量子化スケールを利
用して、入力データを中間データに変換し、量子化部の
第２の変換手段は、所定の範囲の中間データを、第２の
量子化スケールで逆量子化されたときの値が基準値にな
る値に変換し、量子化部の出力手段は、逆量子化された
ときの値が基準値になる値と、第２の量子化スケールを
出力する。
量子化部の第１の演算手段は、入力データを第１の量子
化スケールを利用して変換した中間データの所定の範囲
の発生確率分布から、所定の範囲に対応する基準値を演
算し、量子化部の第２の演算手段は、基準値と第１の量
子化スケールから、第２の量子化スケールを演算し、量
子化部の第１の変換手段は、第２の量子化スケールを利
用して、入力データを中間データに変換し、量子化部の
第２の変換手段は、所定の範囲の中間データを、第２の
量子化スケールで逆量子化されたときの値が基準値にな
る値に変換し、量子化部の出力手段は、逆量子化された
ときの値が基準値になる値と、第２の量子化スケールを
出力する。
【００３８】請求項８に記載の符号化方法においては、
入力データを第１の量子化スケールを利用して変換した
中間データの所定の範囲の発生確率分布から、所定の範
囲に対応する基準値を演算し、基準値と第１の量子化ス
ケールから、第２の量子化スケールを演算し、第２の量
子化スケールを利用して、入力データを中間データに変
換し、所定の範囲の中間データを、第２の量子化スケー
ルで逆量子化されたときの値が基準値になる値に変換
し、逆量子化されたときの値が基準値になる値と、第２
の量子化スケールを出力する。
入力データを第１の量子化スケールを利用して変換した
中間データの所定の範囲の発生確率分布から、所定の範
囲に対応する基準値を演算し、基準値と第１の量子化ス
ケールから、第２の量子化スケールを演算し、第２の量
子化スケールを利用して、入力データを中間データに変
換し、所定の範囲の中間データを、第２の量子化スケー
ルで逆量子化されたときの値が基準値になる値に変換
し、逆量子化されたときの値が基準値になる値と、第２
の量子化スケールを出力する。
【００３９】
【発明の実施の形態】図１は、本発明の符号化装置の一
実施の形態の構成を示している。ＤＣＴ回路１（データ
圧縮部）は、入力された画像データを離散コサイン変換
して、離散コサイン変換により生成されたＤＣＴ係数を
量子化部２の量子化回路１１（第１の演算手段、第２の
演算手段、第１の変換手段）に出力するようになされて
いる。
実施の形態の構成を示している。ＤＣＴ回路１（データ
圧縮部）は、入力された画像データを離散コサイン変換
して、離散コサイン変換により生成されたＤＣＴ係数を
量子化部２の量子化回路１１（第１の演算手段、第２の
演算手段、第１の変換手段）に出力するようになされて
いる。
【００４０】量子化部２の量子化回路１１は、内蔵する
テーブルに記憶されている各ＤＣＴ係数に対応する重み
係数Ｗ［ｉ］と、制御回路５より供給された量子化スケ
ールＱ（第１の量子化スケール）または後述する量子化
スケールＮｅｗＱ（第２の量子化スケール）との積を１
６で除算した値で、ＤＣＴ係数を除算して、その計算結
果を、量子化データ（中間データ）として代表値化回路
１２（第２の変換手段、出力手段）に出力するようにな
されている。
テーブルに記憶されている各ＤＣＴ係数に対応する重み
係数Ｗ［ｉ］と、制御回路５より供給された量子化スケ
ールＱ（第１の量子化スケール）または後述する量子化
スケールＮｅｗＱ（第２の量子化スケール）との積を１
６で除算した値で、ＤＣＴ係数を除算して、その計算結
果を、量子化データ（中間データ）として代表値化回路
１２（第２の変換手段、出力手段）に出力するようにな
されている。
【００４１】また、量子化回路１１は、現在処理してい
るマクロブロックがイントラマクロブロックである場
合、１マクロブロックにおける量子化データ（量子化ス
ケールＱに対応して算出されたもの）の値の分布から、
値が０．５乃至１．５の範囲にある量子化データの平均
値α（基準値）を計算し、さらに、その平均値αと、制
御回路５より供給された量子化スケールＱとの積（α×
Ｑ）を計算し、予め設定されている３１個の量子化スケ
ールの値のうち、その積に最も近いものを、デコーダに
おいて利用される量子化スケールＮｅｗＱとして、代表
値化回路１２および可変長符号化器３に出力するように
なされている。
るマクロブロックがイントラマクロブロックである場
合、１マクロブロックにおける量子化データ（量子化ス
ケールＱに対応して算出されたもの）の値の分布から、
値が０．５乃至１．５の範囲にある量子化データの平均
値α（基準値）を計算し、さらに、その平均値αと、制
御回路５より供給された量子化スケールＱとの積（α×
Ｑ）を計算し、予め設定されている３１個の量子化スケ
ールの値のうち、その積に最も近いものを、デコーダに
おいて利用される量子化スケールＮｅｗＱとして、代表
値化回路１２および可変長符号化器３に出力するように
なされている。
【００４２】さらに、量子化回路１１は、ノンイントラ
マクロブロックの場合、１マクロブロックにおける量子
化データの値の分布から、値が１．０乃至７／３の範囲
にある量子化データの平均値ε（基準値）を計算し、さ
らに、その平均値に２／３を乗じた値と、制御回路５よ
り供給された量子化スケールＱとの積（ε×２／３×
Ｑ）を計算し、予め設定されている３１個の量子化スケ
ールの値のうち、その積に最も近いものを、デコーダに
おいて利用される量子化スケールＮｅｗＱとして、代表
値化回路１２および可変長符号化器３に出力するように
なされている。
マクロブロックの場合、１マクロブロックにおける量子
化データの値の分布から、値が１．０乃至７／３の範囲
にある量子化データの平均値ε（基準値）を計算し、さ
らに、その平均値に２／３を乗じた値と、制御回路５よ
り供給された量子化スケールＱとの積（ε×２／３×
Ｑ）を計算し、予め設定されている３１個の量子化スケ
ールの値のうち、その積に最も近いものを、デコーダに
おいて利用される量子化スケールＮｅｗＱとして、代表
値化回路１２および可変長符号化器３に出力するように
なされている。
【００４３】量子化部２の代表値化回路１２は、量子化
回路１１より供給された量子化スケールＮｅｗＱと、制
御回路５より供給された量子化スケールＱを利用して、
量子化データを、代表値化データに変換するようになさ
れている。
回路１１より供給された量子化スケールＮｅｗＱと、制
御回路５より供給された量子化スケールＱを利用して、
量子化データを、代表値化データに変換するようになさ
れている。
【００４４】可変長符号化器３（符号化部）は、量子化
部２より供給された代表値化データに対応するＳｉｇｎ
ｅｄＬｅｖｅｌ、量子化スケールＮｅｗＱなどを可変長
符号化し、生成された可変長符号を送信バッファ４に出
力するようになされている。
部２より供給された代表値化データに対応するＳｉｇｎ
ｅｄＬｅｖｅｌ、量子化スケールＮｅｗＱなどを可変長
符号化し、生成された可変長符号を送信バッファ４に出
力するようになされている。
【００４５】送信バッファ４は、供給された可変長符号
を一時的に記憶し、その符号を所定の転送レートで順次
出力するようになされている。
を一時的に記憶し、その符号を所定の転送レートで順次
出力するようになされている。
【００４６】制御回路５（演算部）は、各回路を制御す
るとともに、送信バッファ４に記憶されている符号の量
を監視し、その量に対応する量子化スケールＱを算出
し、量子化部２に出力することにより、可変長符号の生
成量を調節するようになされている。
るとともに、送信バッファ４に記憶されている符号の量
を監視し、その量に対応する量子化スケールＱを算出
し、量子化部２に出力することにより、可変長符号の生
成量を調節するようになされている。
【００４７】次に、図２のフローチャートを参照して、
図１の符号化装置の動作について説明する。
図１の符号化装置の動作について説明する。
【００４８】最初に、ステップＳ１において、ＤＣＴ回
路１は、入力された画像データを例えば８×８画素のブ
ロック毎に離散コサイン変換し、ＤＣＴ係数を量子化部
２の量子化回路１１に出力する。
路１は、入力された画像データを例えば８×８画素のブ
ロック毎に離散コサイン変換し、ＤＣＴ係数を量子化部
２の量子化回路１１に出力する。
【００４９】次に、ステップＳ２において、量子化部２
の量子化回路１１は、内蔵するテーブルに記憶されてい
る各ＤＣＴ係数に対応する重み係数Ｗ［ｉ］と、制御回
路５より供給された量子化スケールＱを利用して、１マ
クロブロック分のＤＣＴ係数から、１マクロブロック分
の量子化データを生成する。
の量子化回路１１は、内蔵するテーブルに記憶されてい
る各ＤＣＴ係数に対応する重み係数Ｗ［ｉ］と、制御回
路５より供給された量子化スケールＱを利用して、１マ
クロブロック分のＤＣＴ係数から、１マクロブロック分
の量子化データを生成する。
【００５０】例えば、４個（ＮＹ＝４）の、８×８画素
の輝度信号ブロックと、２個（ＮＣ＝２）の、８×８画
素の色差信号ブロックの、合計６（＝ＮＹ＋ＮＣ）個の
８×８画素のブロックで構成されるマクロブロックがＤ
ＣＴ回路１によって処理され、３８４（＝６×８×８）
個のＤＣＴ係数が供給された場合、そのマクロブロック
がイントラマクロブロックであるとき、量子化回路１１
は、各ブロックのＤＣ成分（第０番目のＤＣＴ係数）を
除く、３７８個のＤＣＴ係数を、重み係数Ｗ［ｉ］（ｉ
＝１，・・・，６３）と量子化スケールＱとの積を１６
で除した値で、それぞれ除算して、３７８個の量子化デ
ータを生成する。
の輝度信号ブロックと、２個（ＮＣ＝２）の、８×８画
素の色差信号ブロックの、合計６（＝ＮＹ＋ＮＣ）個の
８×８画素のブロックで構成されるマクロブロックがＤ
ＣＴ回路１によって処理され、３８４（＝６×８×８）
個のＤＣＴ係数が供給された場合、そのマクロブロック
がイントラマクロブロックであるとき、量子化回路１１
は、各ブロックのＤＣ成分（第０番目のＤＣＴ係数）を
除く、３７８個のＤＣＴ係数を、重み係数Ｗ［ｉ］（ｉ
＝１，・・・，６３）と量子化スケールＱとの積を１６
で除した値で、それぞれ除算して、３７８個の量子化デ
ータを生成する。
【００５１】同様に、ノンイントラマクロブロックであ
るとき、量子化回路１１は、３８４個のＤＣＴ係数を、
重み係数Ｗ［ｉ］（ｉ＝１，・・・，６３）と量子化ス
ケールＱとの積を１６で除した値で、それぞれ除算し
て、３８４個の量子化データを生成する。ちなみに、マ
クロブロック内には、６個のブロックが存在するので、
第ｉ番目のＤＣＴ係数は、６個ある。
るとき、量子化回路１１は、３８４個のＤＣＴ係数を、
重み係数Ｗ［ｉ］（ｉ＝１，・・・，６３）と量子化ス
ケールＱとの積を１６で除した値で、それぞれ除算し
て、３８４個の量子化データを生成する。ちなみに、マ
クロブロック内には、６個のブロックが存在するので、
第ｉ番目のＤＣＴ係数は、６個ある。
【００５２】ステップＳ３において、量子化回路１１
は、現在処理しているマクロブロックがイントラマクロ
ブロックであるか否かを判断し、現在処理しているマク
ロブロックがイントラマクロブロックであると判断した
場合、ステップＳ４に進む。
は、現在処理しているマクロブロックがイントラマクロ
ブロックであるか否かを判断し、現在処理しているマク
ロブロックがイントラマクロブロックであると判断した
場合、ステップＳ４に進む。
【００５３】量子化回路１１は、ステップＳ４におい
て、１マクロブロック分の量子化データの値の分布か
ら、値が０．５乃至１．５の範囲にある量子化データの
平均値αを計算し、さらに、ステップＳ５において、そ
の平均値と、制御回路５より供給された量子化スケール
Ｑとの積を計算し、予め設定されている３１個の量子化
スケールの値のうち、その積に最も近いものを、デコー
ダ側で利用される量子化スケールＮｅｗＱとする。
て、１マクロブロック分の量子化データの値の分布か
ら、値が０．５乃至１．５の範囲にある量子化データの
平均値αを計算し、さらに、ステップＳ５において、そ
の平均値と、制御回路５より供給された量子化スケール
Ｑとの積を計算し、予め設定されている３１個の量子化
スケールの値のうち、その積に最も近いものを、デコー
ダ側で利用される量子化スケールＮｅｗＱとする。
【００５４】そして、ステップＳ６において、量子化回
路１１は、平均値αの値が０．８以下であるか否かを判
断し、平均値αの値が０．８以下であると判断した場
合、ステップＳ７において、制御回路５が送信バッファ
４の符号量に対応して設定した量子化スケールＱと、量
子化スケールＮｅｗＱとの違いをあまり大きくしないよ
うにするために、平均値αを０．８に設定する。さら
に、予め設定されている３１個の量子化スケールの値の
うち、０．８×Ｑに最も近いものをデコーダ側で利用さ
れる量子化スケールＮｅｗＱとする。即ち、この場合、
ＮｅｗＱは、再設定される。
路１１は、平均値αの値が０．８以下であるか否かを判
断し、平均値αの値が０．８以下であると判断した場
合、ステップＳ７において、制御回路５が送信バッファ
４の符号量に対応して設定した量子化スケールＱと、量
子化スケールＮｅｗＱとの違いをあまり大きくしないよ
うにするために、平均値αを０．８に設定する。さら
に、予め設定されている３１個の量子化スケールの値の
うち、０．８×Ｑに最も近いものをデコーダ側で利用さ
れる量子化スケールＮｅｗＱとする。即ち、この場合、
ＮｅｗＱは、再設定される。
【００５５】一方、ステップＳ６において、平均値αの
値が０．８より大きいと判断した場合、ステップＳ７
は、スキップされる。
値が０．８より大きいと判断した場合、ステップＳ７
は、スキップされる。
【００５６】なお、上述の平均値αは、以下に示すよう
にして算出される。
にして算出される。
【００５７】イントラマクロブロックの場合、１マクロ
ブロックにおける量子化データの値は、図３に示すよう
に、０付近に集中しており、ほとんどの量子化データの
値は、−１．５乃至１．５の範囲にある。
ブロックにおける量子化データの値は、図３に示すよう
に、０付近に集中しており、ほとんどの量子化データの
値は、−１．５乃至１．５の範囲にある。
【００５８】このとき、量子化データと代表値化データ
との差を小さくするために、値が０乃至１．５の範囲に
ある量子化データのうち、値が０乃至βの範囲にある量
子化データは、値が０である代表値化データに変換さ
れ、値がβ乃至１．５の範囲にある量子化データは、値
がその範囲の平均値αである代表値化データに変換され
ることが好ましい。同様に、値が０乃至−１．５の範囲
にある量子化データのうち、値が０乃至−βの範囲にあ
る量子化データは、値が０である代表値化データに変換
され、値が−β乃至−１．５の範囲にある量子化データ
は、値が−αである代表値化データに変換されることが
好ましい。
との差を小さくするために、値が０乃至１．５の範囲に
ある量子化データのうち、値が０乃至βの範囲にある量
子化データは、値が０である代表値化データに変換さ
れ、値がβ乃至１．５の範囲にある量子化データは、値
がその範囲の平均値αである代表値化データに変換され
ることが好ましい。同様に、値が０乃至−１．５の範囲
にある量子化データのうち、値が０乃至−βの範囲にあ
る量子化データは、値が０である代表値化データに変換
され、値が−β乃至−１．５の範囲にある量子化データ
は、値が−αである代表値化データに変換されることが
好ましい。
【００５９】しかしながら、イントラマクロブロックの
場合の代表値化データは、整数に限定されているので、
エンコーダ側では、代表値化データとして所定の整数を
出力しておき、デコーダ側に供給される量子化スケール
の値をこの平均値に対応して算出し、デコーダ側におい
て、その量子化スケールに対応して生成される逆量子化
データの値が、その平均値になるようにしている。
場合の代表値化データは、整数に限定されているので、
エンコーダ側では、代表値化データとして所定の整数を
出力しておき、デコーダ側に供給される量子化スケール
の値をこの平均値に対応して算出し、デコーダ側におい
て、その量子化スケールに対応して生成される逆量子化
データの値が、その平均値になるようにしている。
【００６０】次に、このβと、β乃至１．５の範囲の量
子化データの平均値αを、０乃至１．５の範囲におい
て、０またはαと、量子化データとの平均２乗誤差が最
小になるように選択する。この平均２乗誤差Ｅ2は、次
式で表される。ただし、ここでは、説明をわかりやすく
するため、値が正の量子化データだけを、取り扱うこと
にする。
子化データの平均値αを、０乃至１．５の範囲におい
て、０またはαと、量子化データとの平均２乗誤差が最
小になるように選択する。この平均２乗誤差Ｅ2は、次
式で表される。ただし、ここでは、説明をわかりやすく
するため、値が正の量子化データだけを、取り扱うこと
にする。
【数１】
【００６１】ここで、ｘは、量子化データの値を表し、
Ｐi（ｘ）は、第ｉ番目の量子化データの値がｘである
確率を表している。
Ｐi（ｘ）は、第ｉ番目の量子化データの値がｘである
確率を表している。
【００６２】α≒１、かつ、β≒０．５と予想されるの
で、図４に示すように、βを０．５に固定して、平均２
乗誤差Ｅ2を最小にするαの値を算出する。このときの
平均２乗誤差Ｅ2は、次式で表される。なお、β＝０．
５としたのは、計算を簡単にするためである。
で、図４に示すように、βを０．５に固定して、平均２
乗誤差Ｅ2を最小にするαの値を算出する。このときの
平均２乗誤差Ｅ2は、次式で表される。なお、β＝０．
５としたのは、計算を簡単にするためである。
【数２】
【００６３】そして、この平均２乗誤差Ｅ2を最小にす
るαは、次式で算出される。
るαは、次式で算出される。
【数３】
【００６４】量子化回路１１は、上式の積分を総和に変
形し、値が負の量子化データを含めた場合の次式に従っ
て、この平均値αを計算する。
形し、値が負の量子化データを含めた場合の次式に従っ
て、この平均値αを計算する。
【数４】
【００６５】ここで、ｘjiは、第ｊ（ｊ＝１，・・・，
Ｎ）番目のブロックの第ｉ番目の量子化データの値を表
し、Ｎは、マクロブロックを構成するブロックの数（Ｎ
Ｙ＋ＮＣ）を表している。
Ｎ）番目のブロックの第ｉ番目の量子化データの値を表
し、Ｎは、マクロブロックを構成するブロックの数（Ｎ
Ｙ＋ＮＣ）を表している。
【００６６】なお、集合 ｛ｋ｜０．５≦｜ｘki｜≦１．５，１≦ｋ＜Ｎ｝ は、マクロブロックにおける各ブロックの第ｉ番目の量
子化データのうち、その絶対値が０．５乃至１．５の範
囲にある第ｉ番目の量子化データを有するブロックの番
号の集合を表している。
子化データのうち、その絶対値が０．５乃至１．５の範
囲にある第ｉ番目の量子化データを有するブロックの番
号の集合を表している。
【００６７】以上のようにして、量子化回路１１は、平
均値αを算出する。
均値αを算出する。
【００６８】次に、ステップＳ８において、量子化回路
１１は、量子化スケールＮｅｗＱを利用して、量子化デ
ータを計算し直す。
１１は、量子化スケールＮｅｗＱを利用して、量子化デ
ータを計算し直す。
【００６９】ステップＳ９において、量子化部２の代表
値化回路１２は、量子化回路１１より供給された量子化
スケールＮｅｗＱと、制御回路５より供給された量子化
スケールＱより、次式に従って計算された定数λを利用
して、量子化データを、代表値化データに変換する。 λ＝｛１．５×Ｗ［ｉ］×Ｑ／１６−１．５×Ｗ［ｉ］
×ＮｅｗＱ／１６｝／２
値化回路１２は、量子化回路１１より供給された量子化
スケールＮｅｗＱと、制御回路５より供給された量子化
スケールＱより、次式に従って計算された定数λを利用
して、量子化データを、代表値化データに変換する。 λ＝｛１．５×Ｗ［ｉ］×Ｑ／１６−１．５×Ｗ［ｉ］
×ＮｅｗＱ／１６｝／２
【００７０】イントラマクロブロックの場合、量子化ス
ケールＱに対応して算出された量子化データの値が−
１．５以上かつ１．５以下である範囲においては、その
量子化データの値の発生確率が、量子化データの値に応
じて大きく変化するので、上述のように、量子化回路１
１は、この範囲における量子化データの平均値が、デコ
ーダ側における逆量子化データの値に対応するように、
新たな量子化スケールＮｅｗＱ（デコーダ側で利用され
る量子化スケール）を設定している。
ケールＱに対応して算出された量子化データの値が−
１．５以上かつ１．５以下である範囲においては、その
量子化データの値の発生確率が、量子化データの値に応
じて大きく変化するので、上述のように、量子化回路１
１は、この範囲における量子化データの平均値が、デコ
ーダ側における逆量子化データの値に対応するように、
新たな量子化スケールＮｅｗＱ（デコーダ側で利用され
る量子化スケール）を設定している。
【００７１】一方、量子化データの絶対値が充分大きい
場合においては、量子化データの値の発生確率が殆ど一
定であるので、新たな量子化スケールＮｅｗＱで規定さ
れる範囲毎に、その範囲に含まれる量子化データを、そ
の範囲の中心の値を有する代表値化データに変換して、
エンコーダ側のＤＣＴ係数と、デコーダ側で量子化スケ
ールＮｅｗＱを利用して逆量子化されたデータとの平均
２乗誤差を小さくする必要がある。
場合においては、量子化データの値の発生確率が殆ど一
定であるので、新たな量子化スケールＮｅｗＱで規定さ
れる範囲毎に、その範囲に含まれる量子化データを、そ
の範囲の中心の値を有する代表値化データに変換して、
エンコーダ側のＤＣＴ係数と、デコーダ側で量子化スケ
ールＮｅｗＱを利用して逆量子化されたデータとの平均
２乗誤差を小さくする必要がある。
【００７２】即ち、イントラマクロブロックの場合、量
子化スケールＮｅｗＱに対応して算出された量子化デー
タの値ｇは、絶対値が充分大きい整数ｙに対応する（ｙ
−０．５）乃至（ｙ＋０．５）の範囲にある場合、値が
ｙである代表値化データに変換される。
子化スケールＮｅｗＱに対応して算出された量子化デー
タの値ｇは、絶対値が充分大きい整数ｙに対応する（ｙ
−０．５）乃至（ｙ＋０．５）の範囲にある場合、値が
ｙである代表値化データに変換される。
【００７３】従って、代表値化回路１２は、量子化スケ
ールＱに対応して算出された量子化データの値が−１．
５以上かつ１．５以下である範囲と、量子化データの絶
対値が充分大きい領域の間においては、代表値化データ
に対応する量子化データの範囲を、新たな量子化スケー
ルＮｅｗＱで規定される範囲に徐々に移行していくよう
に設定する。
ールＱに対応して算出された量子化データの値が−１．
５以上かつ１．５以下である範囲と、量子化データの絶
対値が充分大きい領域の間においては、代表値化データ
に対応する量子化データの範囲を、新たな量子化スケー
ルＮｅｗＱで規定される範囲に徐々に移行していくよう
に設定する。
【００７４】即ち、代表値化回路１２は、イントラマク
ロブロックの場合、図５に示すように、量子化データ
（量子化スケールＮｅｗＱに対応して算出されたもの）
の値が−０．５×Ｑ／ＮｅｗＱ乃至０．５×Ｑ／Ｎｅｗ
Ｑの範囲（量子化スケールがＱである場合の範囲−０．
５乃至０．５に対応する範囲）にある場合、代表値化デ
ータの値を０とし、量子化データの値が０．５×Ｑ／Ｎ
ｅｗＱ乃至１．５＋λ／（Ｗ［ｉ］×ＮｅｗＱ／１６）
の範囲にある場合、代表値化データの値を１とし、量子
化データの値が（ｊ−０．５）＋λ／（Ｗ［ｉ］×Ｎｅ
ｗＱ／１６）×２-( j-2)乃至（ｊ＋０．５）＋λ／（Ｗ
［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の範囲にある場合
（即ち、ＤＣＴ係数の値が、（ｊ−０．５）×Ｗ［ｉ］
×ＮｅｗＱ／１６＋λ×２-(j-2)乃至（ｊ＋０．５）×
Ｗ［ｉ］×ＮｅｗＱ／１６＋λ×２-( j-1)の範囲にある
場合）（ｊ≧２）、代表値化データの値をｊとする。
ロブロックの場合、図５に示すように、量子化データ
（量子化スケールＮｅｗＱに対応して算出されたもの）
の値が−０．５×Ｑ／ＮｅｗＱ乃至０．５×Ｑ／Ｎｅｗ
Ｑの範囲（量子化スケールがＱである場合の範囲−０．
５乃至０．５に対応する範囲）にある場合、代表値化デ
ータの値を０とし、量子化データの値が０．５×Ｑ／Ｎ
ｅｗＱ乃至１．５＋λ／（Ｗ［ｉ］×ＮｅｗＱ／１６）
の範囲にある場合、代表値化データの値を１とし、量子
化データの値が（ｊ−０．５）＋λ／（Ｗ［ｉ］×Ｎｅ
ｗＱ／１６）×２-( j-2)乃至（ｊ＋０．５）＋λ／（Ｗ
［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の範囲にある場合
（即ち、ＤＣＴ係数の値が、（ｊ−０．５）×Ｗ［ｉ］
×ＮｅｗＱ／１６＋λ×２-(j-2)乃至（ｊ＋０．５）×
Ｗ［ｉ］×ＮｅｗＱ／１６＋λ×２-( j-1)の範囲にある
場合）（ｊ≧２）、代表値化データの値をｊとする。
【００７５】同様に、イントラマクロブロックの場合、
代表値化回路１２は、量子化データの値が−０．５×Ｑ
／ＮｅｗＱ乃至−１．５−λ／（Ｗ［ｉ］×ＮｅｗＱ／
１６）の範囲にある場合、代表値化データの値を−１と
し、量子化データの値が−（ｊ−０．５）−λ／（Ｗ
［ｉ］×ＮｅｗＱ／１６）×２-(j-2)乃至−（ｊ＋０．
５）−λ／（Ｗ［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の
範囲にある場合（ｊ≧２）、代表値化データの値を−ｊ
とする。
代表値化回路１２は、量子化データの値が−０．５×Ｑ
／ＮｅｗＱ乃至−１．５−λ／（Ｗ［ｉ］×ＮｅｗＱ／
１６）の範囲にある場合、代表値化データの値を−１と
し、量子化データの値が−（ｊ−０．５）−λ／（Ｗ
［ｉ］×ＮｅｗＱ／１６）×２-(j-2)乃至−（ｊ＋０．
５）−λ／（Ｗ［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の
範囲にある場合（ｊ≧２）、代表値化データの値を−ｊ
とする。
【００７６】このようにすることにより、量子化データ
と、代表値化データの平均２乗誤差を全体的に小さくす
ることができる。
と、代表値化データの平均２乗誤差を全体的に小さくす
ることができる。
【００７７】一方、ステップＳ３において、量子化回路
１１が、現在処理しているマクロブロックがイントラマ
クロブロックではない（即ち、現在処理しているマクロ
ブロックがノンイントラマクロブロックである）と判断
した場合、ステップＳ１０に進む。
１１が、現在処理しているマクロブロックがイントラマ
クロブロックではない（即ち、現在処理しているマクロ
ブロックがノンイントラマクロブロックである）と判断
した場合、ステップＳ１０に進む。
【００７８】量子化回路１１は、ステップＳ１０におい
て、１マクロブロックにおける量子化データの値の分布
から、値が１．０乃至７／３の範囲にある量子化データ
の平均値εを計算し、さらに、ステップＳ１１におい
て、その平均値に２／３を乗じた値と、制御回路５より
供給された量子化スケールＱとの積（ε×２／３×Ｑ）
を計算し、予め設定されている３１個の量子化スケール
の値のうち、その積に最も近いものを、デコーダにおい
て利用される量子化スケールＮｅｗＱとする。
て、１マクロブロックにおける量子化データの値の分布
から、値が１．０乃至７／３の範囲にある量子化データ
の平均値εを計算し、さらに、ステップＳ１１におい
て、その平均値に２／３を乗じた値と、制御回路５より
供給された量子化スケールＱとの積（ε×２／３×Ｑ）
を計算し、予め設定されている３１個の量子化スケール
の値のうち、その積に最も近いものを、デコーダにおい
て利用される量子化スケールＮｅｗＱとする。
【００７９】そして、ステップＳ１２において、量子化
回路１１は、平均値εの値が１．４以下であるか否かを
判断し、平均値εの値が１．４以下であると判断した場
合、ステップＳ１３において、制御回路５が送信バッフ
ァ４の符号量に対応して設定した量子化スケールＱと、
量子化スケールＮｅｗＱとの違いをあまり大きくしない
ようにするために、平均値εを１．４に設定する。さら
に、予め設定されている３１個の量子化スケールの値の
うち、１．４×２／３×Ｑに最も近いものを、デコーダ
側において利用される量子化スケールＮｅｗＱとする。
即ち、この場合、ＮｅｗＱは、再設定される。
回路１１は、平均値εの値が１．４以下であるか否かを
判断し、平均値εの値が１．４以下であると判断した場
合、ステップＳ１３において、制御回路５が送信バッフ
ァ４の符号量に対応して設定した量子化スケールＱと、
量子化スケールＮｅｗＱとの違いをあまり大きくしない
ようにするために、平均値εを１．４に設定する。さら
に、予め設定されている３１個の量子化スケールの値の
うち、１．４×２／３×Ｑに最も近いものを、デコーダ
側において利用される量子化スケールＮｅｗＱとする。
即ち、この場合、ＮｅｗＱは、再設定される。
【００８０】一方、ステップＳ１２において、平均値ε
の値が１．４より大きいと判断した場合、ステップＳ１
３は、スキップされる。
の値が１．４より大きいと判断した場合、ステップＳ１
３は、スキップされる。
【００８１】上述の平均値εは、以下に示すようにして
算出される。
算出される。
【００８２】ノンイントラマクロブロックの場合、１マ
クロブロックにおける量子化データの値は、図６に示す
ように、０付近に集中しており、ほとんどの量子化デー
タの値は、−２．０乃至２．０の範囲にある。
クロブロックにおける量子化データの値は、図６に示す
ように、０付近に集中しており、ほとんどの量子化デー
タの値は、−２．０乃至２．０の範囲にある。
【００８３】このとき、量子化データと代表値化データ
との差を小さくするために、値が０乃至２．０の範囲に
ある量子化データのうち、値が０乃至δの範囲にある量
子化データは、値が０である代表値化データに変換さ
れ、値がδ乃至２．０の範囲にある量子化データは、値
が、その範囲における量子化データの平均値γである代
表値化データに変換されることが好ましい。同様に、値
が０乃至−２．０の範囲にある量子化データのうち、値
が０乃至−δの範囲にある量子化データは、値が０であ
る代表値化データに変換され、値が−δ乃至−２．０の
範囲にある量子化データは、値が−γである代表値化デ
ータに変換されることが好ましい。
との差を小さくするために、値が０乃至２．０の範囲に
ある量子化データのうち、値が０乃至δの範囲にある量
子化データは、値が０である代表値化データに変換さ
れ、値がδ乃至２．０の範囲にある量子化データは、値
が、その範囲における量子化データの平均値γである代
表値化データに変換されることが好ましい。同様に、値
が０乃至−２．０の範囲にある量子化データのうち、値
が０乃至−δの範囲にある量子化データは、値が０であ
る代表値化データに変換され、値が−δ乃至−２．０の
範囲にある量子化データは、値が−γである代表値化デ
ータに変換されることが好ましい。
【００８４】しかしながら、ノンイントラマクロブロッ
クの場合の代表値化データは、（整数＋０．５）である
値に限定されているので、エンコーダ側では、代表値化
データとして所定の整数に対応する値（所定の整数＋
０．５）を出力しておき、デコーダ側に供給される量子
化スケールの値をこの平均値に対応して算出し、デコー
ダ側において、その量子化スケールに対応して生成され
る逆量子化データの値が、その平均値になるようにして
いる。
クの場合の代表値化データは、（整数＋０．５）である
値に限定されているので、エンコーダ側では、代表値化
データとして所定の整数に対応する値（所定の整数＋
０．５）を出力しておき、デコーダ側に供給される量子
化スケールの値をこの平均値に対応して算出し、デコー
ダ側において、その量子化スケールに対応して生成され
る逆量子化データの値が、その平均値になるようにして
いる。
【００８５】そして、このδと、δ乃至２．０の範囲の
量子化データの平均値γを、０乃至２．０の範囲におい
て、０またはγと、量子化データとの平均２乗誤差が最
小になるように選択する。この平均２乗誤差Ｅ2は、次
式で表される。ただし、ここでは、説明をわかりやすく
するため、値が正の量子化データだけを、取り扱うこと
にする。
量子化データの平均値γを、０乃至２．０の範囲におい
て、０またはγと、量子化データとの平均２乗誤差が最
小になるように選択する。この平均２乗誤差Ｅ2は、次
式で表される。ただし、ここでは、説明をわかりやすく
するため、値が正の量子化データだけを、取り扱うこと
にする。
【数５】
【００８６】ここで、ｘは、量子化データの値を表し、
Ｐi（ｘ）は、第ｉ番目の量子化データの値がｘである
確率を表している。
Ｐi（ｘ）は、第ｉ番目の量子化データの値がｘである
確率を表している。
【００８７】γ≒４／３、かつ、δ≒２／３と予想され
るので、図７に示すように、δを２／３に固定すればよ
いが、δを２／３に設定した場合、値が０乃至２／３の
量子化データだけが、値が０である代表値化データに変
換される。制御回路５は、値が０乃至１の範囲にある量
子化データが、値が０である代表値化データに変換され
ることを前提にして可変長符号化器３によって生成され
る符号量を予測し、量子化スケールＱを算出しているの
で、値が０である代表値化データの数が大きく異なる
と、予測した符号量と、大幅に異なる符号量が可変符号
化器３によって生成される可能性がある。
るので、図７に示すように、δを２／３に固定すればよ
いが、δを２／３に設定した場合、値が０乃至２／３の
量子化データだけが、値が０である代表値化データに変
換される。制御回路５は、値が０乃至１の範囲にある量
子化データが、値が０である代表値化データに変換され
ることを前提にして可変長符号化器３によって生成され
る符号量を予測し、量子化スケールＱを算出しているの
で、値が０である代表値化データの数が大きく異なる
と、予測した符号量と、大幅に異なる符号量が可変符号
化器３によって生成される可能性がある。
【００８８】そこで、図８に示すように、平均値を算出
する範囲を、１／３だけシフトして、１乃至７／３とす
る。そして、この範囲において、平均２乗誤差Ｅ2を最
小にする値ε（即ち、平均値）を算出する。このときの
平均２乗誤差Ｅ2は、次式で表される。
する範囲を、１／３だけシフトして、１乃至７／３とす
る。そして、この範囲において、平均２乗誤差Ｅ2を最
小にする値ε（即ち、平均値）を算出する。このときの
平均２乗誤差Ｅ2は、次式で表される。
【数６】
【００８９】そして、この平均２乗誤差Ｅ2を最小にす
るεは、次式で算出される。
るεは、次式で算出される。
【数７】
【００９０】量子化回路１１は、上式の積分を総和に変
形し、値が負の量子化データを含めた場合の次式に従っ
て、この平均値εを計算する。
形し、値が負の量子化データを含めた場合の次式に従っ
て、この平均値εを計算する。
【数８】
【００９１】ここで、ｘjiは、第ｊ（ｊ＝１，・・・，
Ｎ）番目のブロックの第ｉ番目の量子化データの値を表
し、Ｎは、マクロブロックを構成するブロックの数（Ｎ
Ｙ＋ＮＣ）を表している。
Ｎ）番目のブロックの第ｉ番目の量子化データの値を表
し、Ｎは、マクロブロックを構成するブロックの数（Ｎ
Ｙ＋ＮＣ）を表している。
【００９２】なお、集合 ｛ｋ｜１．０≦｜ｘki｜≦７／３，１≦ｋ＜Ｎ｝ は、マクロブロックにおける各ブロックの第ｉ番目の量
子化データのうち、その絶対値が１．０乃至７／３の範
囲にある第ｉ番目の量子化データを有するブロックの番
号の集合を表している。
子化データのうち、その絶対値が１．０乃至７／３の範
囲にある第ｉ番目の量子化データを有するブロックの番
号の集合を表している。
【００９３】次に、ステップＳ１４において、量子化回
路１１は、量子化スケールＮｅｗＱを利用して、量子化
データを計算し直す。
路１１は、量子化スケールＮｅｗＱを利用して、量子化
データを計算し直す。
【００９４】そして、ステップＳ１５において、量子化
部２の代表値化回路１２は、量子化回路１１より供給さ
れた量子化スケールＮｅｗＱと、制御回路５より供給さ
れた量子化スケールＱより、次式に従って計算された定
数πを利用して、量子化データを、代表値化データに変
換する。 π＝｛７／３×Ｗ［ｉ］×Ｑ／１６−２．０×Ｗ［ｉ］
×ＮｅｗＱ／１６｝／２
部２の代表値化回路１２は、量子化回路１１より供給さ
れた量子化スケールＮｅｗＱと、制御回路５より供給さ
れた量子化スケールＱより、次式に従って計算された定
数πを利用して、量子化データを、代表値化データに変
換する。 π＝｛７／３×Ｗ［ｉ］×Ｑ／１６−２．０×Ｗ［ｉ］
×ＮｅｗＱ／１６｝／２
【００９５】ノンイントラマクロブロックの場合、量子
化スケールＱに対応して算出された量子化データの値
が、−２．０以上かつ２．０以下である範囲において
は、その量子化データの値の発生確率が、量子化データ
の値に応じて大きく変化するので、上述のように、量子
化回路１１は、この範囲における量子化データの平均値
が、デコーダ側における逆量子化データの値に対応する
ように、新たな量子化スケールＮｅｗＱ（デコーダ側で
利用される量子化スケール）を設定している。
化スケールＱに対応して算出された量子化データの値
が、−２．０以上かつ２．０以下である範囲において
は、その量子化データの値の発生確率が、量子化データ
の値に応じて大きく変化するので、上述のように、量子
化回路１１は、この範囲における量子化データの平均値
が、デコーダ側における逆量子化データの値に対応する
ように、新たな量子化スケールＮｅｗＱ（デコーダ側で
利用される量子化スケール）を設定している。
【００９６】一方、量子化データの絶対値が充分大きい
場合においては、量子化データの値の発生確率が殆ど一
定であるので、新たな量子化スケールＮｅｗＱで規定さ
れる範囲毎に、その範囲に含まれる量子化データを、そ
の範囲の中心の値を有する代表値化データに変換して、
エンコーダ側のＤＣＴ係数と、デコーダ側で量子化スケ
ールＮｅｗＱを利用して逆量子化されたデータとの平均
２乗誤差を小さくする必要がある。
場合においては、量子化データの値の発生確率が殆ど一
定であるので、新たな量子化スケールＮｅｗＱで規定さ
れる範囲毎に、その範囲に含まれる量子化データを、そ
の範囲の中心の値を有する代表値化データに変換して、
エンコーダ側のＤＣＴ係数と、デコーダ側で量子化スケ
ールＮｅｗＱを利用して逆量子化されたデータとの平均
２乗誤差を小さくする必要がある。
【００９７】即ち、ノンイントラマクロブロックの場
合、量子化スケールＮｅｗＱに対応して算出された量子
化データの値ｇは、絶対値が充分大きい整数ｙに対応す
るｙ乃至（ｙ＋１）の範囲にある場合、値がｙ＋０．５
である代表値化データに変換される。
合、量子化スケールＮｅｗＱに対応して算出された量子
化データの値ｇは、絶対値が充分大きい整数ｙに対応す
るｙ乃至（ｙ＋１）の範囲にある場合、値がｙ＋０．５
である代表値化データに変換される。
【００９８】従って、代表値化回路１２は、量子化スケ
ールＱに対応して算出された量子化データの値が、−
２．０以上かつ２．０以下である範囲と、量子化データ
の絶対値が充分大きい領域の間においては、代表値化デ
ータに対応する量子化データの範囲を、新たな量子化ス
ケールＮｅｗＱで規定される範囲に徐々に移行していく
ように設定する。
ールＱに対応して算出された量子化データの値が、−
２．０以上かつ２．０以下である範囲と、量子化データ
の絶対値が充分大きい領域の間においては、代表値化デ
ータに対応する量子化データの範囲を、新たな量子化ス
ケールＮｅｗＱで規定される範囲に徐々に移行していく
ように設定する。
【００９９】即ち、ノンイントラマクロブロックの場
合、代表値化回路１２は、図９に示すように、量子化デ
ータの値が−１．０×Ｑ／ＮｅｗＱ乃至１．０×Ｑ／Ｎ
ｅｗＱの範囲（量子化スケールがＱである場合の範囲−
１．０乃至１．０に対応する範囲）にある場合、代表値
化データの値を０とし、量子化データの値が１．０×Ｑ
／ＮｅｗＱ乃至２．０＋π／（Ｗ［ｉ］×ＮｅｗＱ／１
６）の範囲にある場合、代表値化データの値を１．５と
し、量子化データの値がｊ＋π／（Ｗ［ｉ］×ＮｅｗＱ
／１６）×２-(j-2)乃至（ｊ＋１）＋π／（Ｗ［ｉ］×
ＮｅｗＱ／１６）×２-(j-1)の範囲にある場合（即ち、
ＤＣＴ係数の値が、ｊ×Ｗ［ｉ］×ＮｅｗＱ／１６＋π
×２-(j-2)乃至（ｊ＋１）×Ｗ［ｉ］×ＮｅｗＱ／１６
＋π×２-( j-1)の範囲にある場合）（ｊ≧２）、代表値
化データの値を（ｊ＋０．５）とする。
合、代表値化回路１２は、図９に示すように、量子化デ
ータの値が−１．０×Ｑ／ＮｅｗＱ乃至１．０×Ｑ／Ｎ
ｅｗＱの範囲（量子化スケールがＱである場合の範囲−
１．０乃至１．０に対応する範囲）にある場合、代表値
化データの値を０とし、量子化データの値が１．０×Ｑ
／ＮｅｗＱ乃至２．０＋π／（Ｗ［ｉ］×ＮｅｗＱ／１
６）の範囲にある場合、代表値化データの値を１．５と
し、量子化データの値がｊ＋π／（Ｗ［ｉ］×ＮｅｗＱ
／１６）×２-(j-2)乃至（ｊ＋１）＋π／（Ｗ［ｉ］×
ＮｅｗＱ／１６）×２-(j-1)の範囲にある場合（即ち、
ＤＣＴ係数の値が、ｊ×Ｗ［ｉ］×ＮｅｗＱ／１６＋π
×２-(j-2)乃至（ｊ＋１）×Ｗ［ｉ］×ＮｅｗＱ／１６
＋π×２-( j-1)の範囲にある場合）（ｊ≧２）、代表値
化データの値を（ｊ＋０．５）とする。
【０１００】同様に、ノンイントラマクロブロックの場
合、代表値化回路１２は、量子化データの値が−１．０
×Ｑ／ＮｅｗＱ乃至−２．０−π／（Ｗ［ｉ］×Ｎｅｗ
Ｑ／１６）の範囲にある場合、代表値化データの値を−
１．５とし、量子化データの値が−ｊ−π／（Ｗ［ｉ］
×ＮｅｗＱ／１６）×２-(j-2)乃至−（ｊ＋１）−π／
（Ｗ［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の範囲にある
場合（ｊ≧２）、代表値化データの値を−（ｊ＋０．
５）とする。
合、代表値化回路１２は、量子化データの値が−１．０
×Ｑ／ＮｅｗＱ乃至−２．０−π／（Ｗ［ｉ］×Ｎｅｗ
Ｑ／１６）の範囲にある場合、代表値化データの値を−
１．５とし、量子化データの値が−ｊ−π／（Ｗ［ｉ］
×ＮｅｗＱ／１６）×２-(j-2)乃至−（ｊ＋１）−π／
（Ｗ［ｉ］×ＮｅｗＱ／１６）×２-(j-1)の範囲にある
場合（ｊ≧２）、代表値化データの値を−（ｊ＋０．
５）とする。
【０１０１】このようにすることにより、量子化データ
と、代表値化データの平均２乗誤差を全体的に小さくす
ることができる。
と、代表値化データの平均２乗誤差を全体的に小さくす
ることができる。
【０１０２】以上のようにして、量子化データから代表
値化データを算出した後、ステップＳ１６に進む。
値化データを算出した後、ステップＳ１６に進む。
【０１０３】ステップＳ１６においては、可変長符号化
器３は、量子化部２より供給された代表値化データに対
応するＳｉｇｎｅｄＬｅｖｅｌ、量子化スケールＮｅｗ
Ｑなどを可変長符号化し、生成された符号を送信バッフ
ァ４に出力する。そして、送信バッファ４は、供給され
た符号を一時的に記憶し、その符号を所定の転送レート
で出力する。また、このとき、制御回路５は、送信バッ
ファ４に記憶されている符号の量を監視し、その量に対
応する量子化スケールＱを算出し、量子化部２に出力す
る。
器３は、量子化部２より供給された代表値化データに対
応するＳｉｇｎｅｄＬｅｖｅｌ、量子化スケールＮｅｗ
Ｑなどを可変長符号化し、生成された符号を送信バッフ
ァ４に出力する。そして、送信バッファ４は、供給され
た符号を一時的に記憶し、その符号を所定の転送レート
で出力する。また、このとき、制御回路５は、送信バッ
ファ４に記憶されている符号の量を監視し、その量に対
応する量子化スケールＱを算出し、量子化部２に出力す
る。
【０１０４】量子化スケールＮｅｗＱを、符号としてデ
コーダ側に供給することにより、例えば、イントラマク
ロブロックの場合において、ＳｉｇｎｅｄＬｅｖｅｌが
１であるとき、逆量子化データは、１×Ｗ［ｉ］×Ｎｅ
ｗＱ／１６（＝α×Ｗ［ｉ］×Ｑ／１６）となり、ＤＣ
Ｔ係数が、上述の範囲の平均値として、デコードされる
ので、ＤＣＴ係数と逆量子化データとの平均２乗誤差が
小さくなる。
コーダ側に供給することにより、例えば、イントラマク
ロブロックの場合において、ＳｉｇｎｅｄＬｅｖｅｌが
１であるとき、逆量子化データは、１×Ｗ［ｉ］×Ｎｅ
ｗＱ／１６（＝α×Ｗ［ｉ］×Ｑ／１６）となり、ＤＣ
Ｔ係数が、上述の範囲の平均値として、デコードされる
ので、ＤＣＴ係数と逆量子化データとの平均２乗誤差が
小さくなる。
【０１０５】以上のようにして、図１の符号化装置にお
いては、量子化部２により、量子化データの発生確率分
布を考慮して選択された代表値化データに対応するＳｉ
ｇｎｅｄＬｅｖｅｌが、符号化された後、新たな量子化
スケールＮｅｗＱとともに出力される。なお、このよう
にして生成された符号は、ＭＰＥＧ１またはＭＰＥＧ２
の規格に準拠したデコーダで元のデータに復号すること
ができる。
いては、量子化部２により、量子化データの発生確率分
布を考慮して選択された代表値化データに対応するＳｉ
ｇｎｅｄＬｅｖｅｌが、符号化された後、新たな量子化
スケールＮｅｗＱとともに出力される。なお、このよう
にして生成された符号は、ＭＰＥＧ１またはＭＰＥＧ２
の規格に準拠したデコーダで元のデータに復号すること
ができる。
【０１０６】また、上述のように量子化スケールＮｅｗ
Ｑに対応して量子化を行った場合においても、量子化ス
ケールＱに対応して量子化を行う場合と同様に、例えば
イントラマクロブロックの場合、値が、−０．５×Ｗ
［ｉ］×Ｑ／１６乃至＋０．５×Ｗ［ｉ］×Ｑ／１６の
範囲にあるＤＣＴ係数は、値が０である代表値化データ
に変換される。複数のマクロブロックにおいて、値が０
である代表値化データに変換されるＤＣＴ係数の数が同
一であれば、それらのマクロブロックのデータにそれぞ
れ対応する可変長符号の総出力ビット数はほとんど変わ
らないので、制御回路５による可変長符号のレートコン
トロールに影響を与えることはない。
Ｑに対応して量子化を行った場合においても、量子化ス
ケールＱに対応して量子化を行う場合と同様に、例えば
イントラマクロブロックの場合、値が、−０．５×Ｗ
［ｉ］×Ｑ／１６乃至＋０．５×Ｗ［ｉ］×Ｑ／１６の
範囲にあるＤＣＴ係数は、値が０である代表値化データ
に変換される。複数のマクロブロックにおいて、値が０
である代表値化データに変換されるＤＣＴ係数の数が同
一であれば、それらのマクロブロックのデータにそれぞ
れ対応する可変長符号の総出力ビット数はほとんど変わ
らないので、制御回路５による可変長符号のレートコン
トロールに影響を与えることはない。
【０１０７】図１０は、符号化装置の他の実施の形態の
構成を示している。この符号化装置は、メモリ２２に記
憶されているプログラムに従って動作し、図１の符号化
装置の処理をソフトウェア的に行うようになされてい
る。
構成を示している。この符号化装置は、メモリ２２に記
憶されているプログラムに従って動作し、図１の符号化
装置の処理をソフトウェア的に行うようになされてい
る。
【０１０８】演算器２１は、制御回路２５によって制御
され、各種演算を行うようになされている。
され、各種演算を行うようになされている。
【０１０９】メモリ２２は、上述の符号化装置と同様な
処理を行うためのプログラムを記憶するとともに、演算
器２１の演算結果や演算途中のデータを記憶するように
なされている。
処理を行うためのプログラムを記憶するとともに、演算
器２１の演算結果や演算途中のデータを記憶するように
なされている。
【０１１０】また、メモリ２２は、図１の符号化装置の
送信バッファ４と同様に、送信バッファとしても利用さ
れる。
送信バッファ４と同様に、送信バッファとしても利用さ
れる。
【０１１１】インタフェース２３は、画像データが入力
されると、その画像データを演算器２１またはメモリ２
２に、バスを介して出力するようになされている。
されると、その画像データを演算器２１またはメモリ２
２に、バスを介して出力するようになされている。
【０１１２】インタフェース２４は、生成された符号を
所定の回路（図示せず）に出力するようになされてい
る。
所定の回路（図示せず）に出力するようになされてい
る。
【０１１３】次に、この符号化装置の動作について説明
する。
する。
【０１１４】最初に、インタフェース２３は、所定の画
像データを受け取り、その画像データを、メモリ２２に
記憶させる。
像データを受け取り、その画像データを、メモリ２２に
記憶させる。
【０１１５】次に、演算器２１は、その画像データを離
散コサイン変換して、ＤＣＴ係数を算出し、そのＤＣＴ
係数を、制御回路２５により供給された量子化スケール
Ｑを利用して上述の量子化データを算出する。
散コサイン変換して、ＤＣＴ係数を算出し、そのＤＣＴ
係数を、制御回路２５により供給された量子化スケール
Ｑを利用して上述の量子化データを算出する。
【０１１６】そして、演算器２１は、１マクロブロック
分の量子化データから、そのマクロブロックの種類に応
じて上述の平均値αまたは平均値εを算出し、その平均
値αまたは平均値εと、量子化スケールＱから、デコー
ダ側において利用される量子化スケールＮｅｗＱを算出
する。
分の量子化データから、そのマクロブロックの種類に応
じて上述の平均値αまたは平均値εを算出し、その平均
値αまたは平均値εと、量子化スケールＱから、デコー
ダ側において利用される量子化スケールＮｅｗＱを算出
する。
【０１１７】さらに、演算器２１は、その量子化スケー
ルＮｅｗＱを利用して、ＤＣＴ係数から量子化データを
算出し直す。
ルＮｅｗＱを利用して、ＤＣＴ係数から量子化データを
算出し直す。
【０１１８】このようにして、量子化スケールＮｅｗＱ
を利用して算出された量子化データは、上述の代表値化
データに変換される。そして、その代表値化データに対
応するＳｉｇｎｅｄＬｅｖｅｌが、量子化スケールＮｅ
ｗＱとともに、演算器２１によって、可変長符号化され
る。
を利用して算出された量子化データは、上述の代表値化
データに変換される。そして、その代表値化データに対
応するＳｉｇｎｅｄＬｅｖｅｌが、量子化スケールＮｅ
ｗＱとともに、演算器２１によって、可変長符号化され
る。
【０１１９】このようにして、生成された可変長符号
は、送信バッファとしてのメモリ２２に一旦記憶され、
所定の転送レートで、インタフェース２４を介して出力
される。
は、送信バッファとしてのメモリ２２に一旦記憶され、
所定の転送レートで、インタフェース２４を介して出力
される。
【０１２０】なお、制御回路２５は、メモリ２２に記憶
されている可変長符号の量を監視し、その量に対応する
量子化スケールＱを演算器２１に出力する。
されている可変長符号の量を監視し、その量に対応する
量子化スケールＱを演算器２１に出力する。
【０１２１】以上のようにして、図１０の符号化装置
は、ソフトウェア的に動作し、図１の符号化装置と同様
な処理を行う。
は、ソフトウェア的に動作し、図１の符号化装置と同様
な処理を行う。
【０１２２】
【発明の効果】以上のごとく、請求項１に記載の量子化
装置および請求項４に記載の量子化方法によれば、入力
データを第１の量子化スケールを利用して変換した中間
データの所定の範囲の発生確率分布から、所定の範囲に
対応する基準値を演算するとともに、基準値と第１の量
子化スケールから算出される第２の量子化スケールを利
用して、入力データを中間データに変換し、さらに、所
定の範囲の中間データを、第２の量子化スケールで逆量
子化されたときの値が基準値になる値に変換し、逆量子
化されたときの値が基準値になる値と、第２の量子化ス
ケールを出力するので、デコーダにおいて逆量子化され
たデータと、エンコーダのＤＣＴ係数との平均２乗誤差
を小さくすることができる。
装置および請求項４に記載の量子化方法によれば、入力
データを第１の量子化スケールを利用して変換した中間
データの所定の範囲の発生確率分布から、所定の範囲に
対応する基準値を演算するとともに、基準値と第１の量
子化スケールから算出される第２の量子化スケールを利
用して、入力データを中間データに変換し、さらに、所
定の範囲の中間データを、第２の量子化スケールで逆量
子化されたときの値が基準値になる値に変換し、逆量子
化されたときの値が基準値になる値と、第２の量子化ス
ケールを出力するので、デコーダにおいて逆量子化され
たデータと、エンコーダのＤＣＴ係数との平均２乗誤差
を小さくすることができる。
【０１２３】請求項５に記載の符号化装置および請求項
８に記載の符号化方法によれば、データ圧縮部が生成し
た入力データを第１の量子化スケールを利用して変換し
た中間データの所定の範囲の発生確率分布から、所定の
範囲に対応する基準値を演算するとともに、基準値と第
１の量子化スケールから算出される第２の量子化スケー
ルを利用して、入力データを中間データに変換し、さら
に、所定の範囲の中間データを、第２の量子化スケール
で逆量子化されたときの値が基準値になる値に変換し、
逆量子化されたときの値が基準値になる値と、第２の量
子化スケールを符号化して出力するので、デコーダにお
いて逆量子化されたデータと、エンコーダのＤＣＴ係数
との平均２乗誤差を小さくすることができる。また、生
成された符号は、ＭＰＥＧ方式の規格に準拠したデコー
ダで復号することが可能である。
８に記載の符号化方法によれば、データ圧縮部が生成し
た入力データを第１の量子化スケールを利用して変換し
た中間データの所定の範囲の発生確率分布から、所定の
範囲に対応する基準値を演算するとともに、基準値と第
１の量子化スケールから算出される第２の量子化スケー
ルを利用して、入力データを中間データに変換し、さら
に、所定の範囲の中間データを、第２の量子化スケール
で逆量子化されたときの値が基準値になる値に変換し、
逆量子化されたときの値が基準値になる値と、第２の量
子化スケールを符号化して出力するので、デコーダにお
いて逆量子化されたデータと、エンコーダのＤＣＴ係数
との平均２乗誤差を小さくすることができる。また、生
成された符号は、ＭＰＥＧ方式の規格に準拠したデコー
ダで復号することが可能である。
【図１】本発明の符号化装置の一実施の形態の構成を示
すブロック図である。
すブロック図である。
【図２】図１の符号化装置の動作を説明するフローチャ
ートである。
ートである。
【図３】イントラマクロブロックの場合における量子化
データの発生確率分布の一例を示す図である。
データの発生確率分布の一例を示す図である。
【図４】イントラマクロブロックの場合における、平均
値αを算出する量子化データの値の範囲の一例を示す図
である。
値αを算出する量子化データの値の範囲の一例を示す図
である。
【図５】イントラマクロブロックの場合における、ＤＣ
Ｔ係数の値および量子化データの値と、代表値化データ
およびＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例を示
す図である。
Ｔ係数の値および量子化データの値と、代表値化データ
およびＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例を示
す図である。
【図６】ノンイントラマクロブロックの場合における量
子化データの発生確率分布の一例を示す図である。
子化データの発生確率分布の一例を示す図である。
【図７】ノンイントラマクロブロックの場合における、
平均値γを算出する量子化データの値の範囲の一例を示
す図である。
平均値γを算出する量子化データの値の範囲の一例を示
す図である。
【図８】ノンイントラマクロブロックの場合における、
平均値εを実際に算出する量子化データの値の範囲の一
例を示す図である。
平均値εを実際に算出する量子化データの値の範囲の一
例を示す図である。
【図９】ノンイントラマクロブロックの場合における、
ＤＣＴ係数の値および量子化データの値と、代表値化デ
ータおよびＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例
を示す図である。
ＤＣＴ係数の値および量子化データの値と、代表値化デ
ータおよびＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例
を示す図である。
【図１０】本発明の符号化装置の他の実施の形態の構成
を示すブロック図である。
を示すブロック図である。
【図１１】イントラマクロブロックの場合の、従来の量
子化におけるＤＣＴ係数と、代表値化データおよびＳｉ
ｇｎｅｄＬｅｖｅｌとの対応関係の一例を示す図であ
る。
子化におけるＤＣＴ係数と、代表値化データおよびＳｉ
ｇｎｅｄＬｅｖｅｌとの対応関係の一例を示す図であ
る。
【図１２】ノンイントラマクロブロックの場合の、従来
の量子化におけるＤＣＴ係数と、代表値化データおよび
ＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例を示す図で
ある。
の量子化におけるＤＣＴ係数と、代表値化データおよび
ＳｉｇｎｅｄＬｅｖｅｌとの対応関係の一例を示す図で
ある。
【図１３】イントラマクロブロックのデータの符号化お
よび復号化の処理における、ＤＣＴ係数、量子化デー
タ、代表値化データ、および、逆量子化データの対応関
係の一例を示す図である。
よび復号化の処理における、ＤＣＴ係数、量子化デー
タ、代表値化データ、および、逆量子化データの対応関
係の一例を示す図である。
【図１４】ノンイントラマクロブロックのデータの符号
化および復号化の処理における、ＤＣＴ係数、量子化デ
ータ、代表値化データ、および、逆量子化データの対応
関係の一例を示す図である。
化および復号化の処理における、ＤＣＴ係数、量子化デ
ータ、代表値化データ、および、逆量子化データの対応
関係の一例を示す図である。
【図１５】ノンイントラマクロブロックの場合における
量子化データの発生確分布の一例を示す図である。
量子化データの発生確分布の一例を示す図である。
１ ＤＣＴ回路， ２ 量子化部， ３ 可変長符号化
器， ４ 送信バッファ， ５ 制御回路， １１ 量
子化回路， １２ 代表値化回路， ２１ 演算器，
２２ メモリ， ２３，２４ インタフェース， ２５
制御回路
器， ４ 送信バッファ， ５ 制御回路， １１ 量
子化回路， １２ 代表値化回路， ２１ 演算器，
２２ メモリ， ２３，２４ インタフェース， ２５
制御回路
Claims (8)
- 【請求項１】 所定の量子化スケールに対応して入力デ
ータを量子化する量子化装置において、 前記入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、前記
所定の範囲に対応する基準値を演算する第１の演算手段
と、 前記基準値と前記第１の量子化スケールから、第２の量
子化スケールを演算する第２の演算手段と、 前記第２の量子化スケールを利用して、前記入力データ
を前記中間データに変換する第１の変換手段と、 前記所定の範囲の中間データを、前記第２の量子化スケ
ールで逆量子化されたときの値が前記基準値になる値に
変換する第２の変換手段と、 前記逆量子化されたときの値が前記基準値になる値と、
前記第２の量子化スケールを出力する出力手段とを備え
ることを特徴とする量子化装置。 - 【請求項２】 前記基準値は、前記所定の範囲内の値を
有する中間データの平均値であることを特徴とする請求
項１に記載の量子化装置。 - 【請求項３】 前記中間データは、前記入力データを、
その入力データに対応する重み係数と、前記第１の量子
化スケールおよび前記第２の量子化スケールのいずれか
一方との積で除算した値に比例するデータであることを
特徴とする請求項１に記載の量子化装置。 - 【請求項４】 所定の量子化スケールに対応して入力デ
ータを量子化する量子化方法において、 前記入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、前記
所定の範囲に対応する基準値を演算するステップと、 前記基準値と前記第１の量子化スケールから、第２の量
子化スケールを演算するステップと、 前記第２の量子化スケールを利用して、前記入力データ
を前記中間データに変換するステップと、 前記所定の範囲の中間データを、前記第２の量子化スケ
ールで逆量子化されたときの値が前記基準値になる値に
変換するステップと、 前記逆量子化されたときの値が前記基準値になる値と、
前記第２の量子化スケールを出力するステップとを備え
ることを特徴とする量子化方法。 - 【請求項５】 画像信号を圧縮し、その画像信号に対応
する画像データを出力するデータ圧縮部と、 所定の量子化スケールで画像データを量子化する量子化
部と、 量子化された画像データを符号化する符号化部と、 前記符号化部より出力される符号の量に対応して、前記
量子化スケールを演算する演算部とを備える符号化装置
において、 前記量子化部は、 前記入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、前記
所定の範囲に対応する基準値を演算する第１の演算手段
と、 前記基準値と前記第１の量子化スケールから、第２の量
子化スケールを演算する第２の演算手段と、 前記第２の量子化スケールを利用して、前記入力データ
を前記中間データに変換する第１の変換手段と、 前記所定の範囲の中間データを、前記第２の量子化スケ
ールで逆量子化されたときの値が前記基準値になる値に
変換する第２の変換手段と、 前記逆量子化されたときの値が前記基準値になる値と、
前記第２の量子化スケールを出力する出力手段とを備え
ることを特徴とする符号化装置。 - 【請求項６】 前記基準値は、前記所定の範囲内の値を
有する中間データの平均値であることを特徴とする請求
項５に記載の符号化装置。 - 【請求項７】 前記中間データは、前記入力データを、
その入力データに対応する重み係数と、前記第１の量子
化スケールおよび前記第２の量子化スケールのいずれか
一方との積で除算した値に比例するデータであることを
特徴とする請求項５に記載の符号化装置。 - 【請求項８】 画像信号を圧縮し、その画像信号に対応
する画像データを出力し、 所定の量子化スケールで画像データを量子化し、 量子化された画像データを符号化し、 前記符号の量に対応して、前記量子化スケールを演算す
る符号化方法において、 前記入力データを第１の量子化スケールを利用して変換
した中間データの所定の範囲の発生確率分布から、前記
所定の範囲に対応する基準値を演算するステップと、 前記基準値と前記第１の量子化スケールから、第２の量
子化スケールを演算するステップと、 前記第２の量子化スケールを利用して、前記入力データ
を前記中間データに変換するステップと、 前記所定の範囲の中間データを、前記第２の量子化スケ
ールで逆量子化されたときの値が前記基準値になる値に
変換するステップと、 前記逆量子化されたときの値が前記基準値になる値と、
前記第２の量子化スケールを出力するステップとを備え
ることを特徴とする符号化方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP25427396A JPH10107644A (ja) | 1996-09-26 | 1996-09-26 | 量子化装置および方法、並びに、符号化装置および方法 |
| US08/935,927 US20020044602A1 (en) | 1996-09-26 | 1997-09-23 | Dual quantization method and apparatus for minimum error |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP25427396A JPH10107644A (ja) | 1996-09-26 | 1996-09-26 | 量子化装置および方法、並びに、符号化装置および方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH10107644A true JPH10107644A (ja) | 1998-04-24 |
Family
ID=17262688
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP25427396A Withdrawn JPH10107644A (ja) | 1996-09-26 | 1996-09-26 | 量子化装置および方法、並びに、符号化装置および方法 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US20020044602A1 (ja) |
| JP (1) | JPH10107644A (ja) |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6882685B2 (en) * | 2001-09-18 | 2005-04-19 | Microsoft Corporation | Block transform and quantization for image and video coding |
| KR100490395B1 (ko) * | 2001-10-29 | 2005-05-17 | 삼성전자주식회사 | 움직임 벡터 추정 방법 및 이에 적합한 장치 |
| KR101051903B1 (ko) * | 2002-11-15 | 2011-07-26 | 퀄컴 인코포레이티드 | 다중 디스크립션 인코딩용 장치 및 방법 |
| EP1942462B1 (en) * | 2002-11-15 | 2009-04-15 | Qualcomm Incorporated | Apparatus and method for multiple description encoding |
| US7995849B2 (en) * | 2003-03-17 | 2011-08-09 | Qualcomm, Incorporated | Method and apparatus for improving video quality of low bit-rate video |
| US7602851B2 (en) * | 2003-07-18 | 2009-10-13 | Microsoft Corporation | Intelligent differential quantization of video coding |
| US7738554B2 (en) | 2003-07-18 | 2010-06-15 | Microsoft Corporation | DC coefficient signaling at small quantization step sizes |
| US10554985B2 (en) | 2003-07-18 | 2020-02-04 | Microsoft Technology Licensing, Llc | DC coefficient signaling at small quantization step sizes |
| US7580584B2 (en) * | 2003-07-18 | 2009-08-25 | Microsoft Corporation | Adaptive multiple quantization |
| US8218624B2 (en) * | 2003-07-18 | 2012-07-10 | Microsoft Corporation | Fractional quantization step sizes for high bit rates |
| US7801383B2 (en) | 2004-05-15 | 2010-09-21 | Microsoft Corporation | Embedded scalar quantizers with arbitrary dead-zone ratios |
| US8422546B2 (en) | 2005-05-25 | 2013-04-16 | Microsoft Corporation | Adaptive video encoding using a perceptual model |
| US7995649B2 (en) | 2006-04-07 | 2011-08-09 | Microsoft Corporation | Quantization adjustment based on texture level |
| US7974340B2 (en) * | 2006-04-07 | 2011-07-05 | Microsoft Corporation | Adaptive B-picture quantization control |
| US8059721B2 (en) | 2006-04-07 | 2011-11-15 | Microsoft Corporation | Estimating sample-domain distortion in the transform domain with rounding compensation |
| US8503536B2 (en) * | 2006-04-07 | 2013-08-06 | Microsoft Corporation | Quantization adjustments for DC shift artifacts |
| US8130828B2 (en) | 2006-04-07 | 2012-03-06 | Microsoft Corporation | Adjusting quantization to preserve non-zero AC coefficients |
| US8711925B2 (en) | 2006-05-05 | 2014-04-29 | Microsoft Corporation | Flexible quantization |
| US8238424B2 (en) | 2007-02-09 | 2012-08-07 | Microsoft Corporation | Complexity-based adaptive preprocessing for multiple-pass video compression |
| US8942289B2 (en) * | 2007-02-21 | 2015-01-27 | Microsoft Corporation | Computational complexity and precision control in transform-based digital media codec |
| US8498335B2 (en) * | 2007-03-26 | 2013-07-30 | Microsoft Corporation | Adaptive deadzone size adjustment in quantization |
| US8243797B2 (en) | 2007-03-30 | 2012-08-14 | Microsoft Corporation | Regions of interest for quality adjustments |
| US8442337B2 (en) * | 2007-04-18 | 2013-05-14 | Microsoft Corporation | Encoding adjustments for animation content |
| US8331438B2 (en) | 2007-06-05 | 2012-12-11 | Microsoft Corporation | Adaptive selection of picture-level quantization parameters for predicted video pictures |
| US8189933B2 (en) * | 2008-03-31 | 2012-05-29 | Microsoft Corporation | Classifying and controlling encoding quality for textured, dark smooth and smooth video content |
| US8897359B2 (en) * | 2008-06-03 | 2014-11-25 | Microsoft Corporation | Adaptive quantization for enhancement layer video coding |
| US20120230395A1 (en) * | 2011-03-11 | 2012-09-13 | Louis Joseph Kerofsky | Video decoder with reduced dynamic range transform with quantization matricies |
-
1996
- 1996-09-26 JP JP25427396A patent/JPH10107644A/ja not_active Withdrawn
-
1997
- 1997-09-23 US US08/935,927 patent/US20020044602A1/en not_active Abandoned
Also Published As
| Publication number | Publication date |
|---|---|
| US20020044602A1 (en) | 2002-04-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH10107644A (ja) | 量子化装置および方法、並びに、符号化装置および方法 | |
| US7010035B2 (en) | Quantization matrix for still and moving picture coding | |
| US7206448B2 (en) | System and method for using pattern vectors for video and image coding and decoding | |
| US7295609B2 (en) | Method and apparatus for coding image information, method and apparatus for decoding image information, method and apparatus for coding and decoding image information, and system of coding and transmitting image information | |
| US6208688B1 (en) | Method of selecting a requantization step size and controlling a bit-rate | |
| US20070189626A1 (en) | Video encoding/decoding method and apparatus | |
| JPH0595536A (ja) | 高能率符号化信号処理装置 | |
| US7095448B2 (en) | Image processing circuit and method for modifying a pixel value | |
| KR100676645B1 (ko) | 드리프트-프리 트랜스코더 및 관련 방법 | |
| JP3234807B2 (ja) | デコード方法 | |
| US20010053182A1 (en) | Picture encoding format converting apparatus | |
| JP2824222B2 (ja) | 映像データ補償方法及び補償装置 | |
| JP2003520512A (ja) | 伝送符号化方法及び伝送符号化装置 | |
| US6151361A (en) | System and method for reducing multipass signal degradation | |
| JP4348899B2 (ja) | 画像情報復号方法 | |
| JPH0595542A (ja) | 動画像符号化復号化装置 | |
| JP3234830B2 (ja) | デコード方法 | |
| EP1649696A1 (en) | Encoding method and device | |
| JP3427659B2 (ja) | 直交変換符号化用適応量子化方式 | |
| JP2001054138A (ja) | カラー画像の符号化装置及び方法、カラー画像の復号化装置及び方法 | |
| JPH05344489A (ja) | 符号化装置 | |
| JPH1188191A (ja) | 符号化方法、復号化方法、符号化装置及び復号化装置 | |
| JPH0799577A (ja) | 画像圧縮装置 | |
| JPH11330983A (ja) | 直交変換符号化用適応量子化装置及び量子化方法 | |
| JPH04341063A (ja) | 画像符号化装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20031202 |