JP2001518247A

JP2001518247A - 改良された量子化処理を用いたデジタル信号圧縮符号化方法

Info

Publication number: JP2001518247A
Application number: JP53742098A
Authority: JP
Inventors: ハートウィッグワーナ，オリヴァー; ドミニクウェルス，ニコラス; ジェームスニー，マイケル
Original assignee: ブリティッシュブロードキャスティングコーポレーション; スネルアンドウィルコックスリミテッド
Priority date: 1997-02-25
Filing date: 1998-02-25
Publication date: 2001-10-09
Also published as: EP0963657A1; AU727884B2; EP0963657B1; DE69809713D1; DE69809713T2; US6668088B1; CA2280819A1; WO1998038800A1; AU6303198A

Abstract

(57)【要約】ＭＰＥＧ２などのデジタル信号の圧縮符号化において、変換係数は、パラメータλにより制御される各区間の低い方の境界を用いて量子化される。ＭＰＥＧ２基準符号化器において、たとえば、λ＝０．７５である。量子化された係数は可変長符号化されるので、関連する代表レベルに関して各区間の境界を動的に変化させるようにλを制御することにより、品質の改善とビットレートの低減が達成される。パラメータλは、係数振幅、周波数、量子化ステップサイズとともに変化し得る。変換符号化処理において、λは最初の符号化処理におけるパラメータにともなっても変化する。

Description

【発明の詳細な説明】改良された量子化処理を用いたデジタル信号圧縮符号化方法本発明は、映像、音声、その他のデジタル信号の圧縮に関する。圧縮符号化は、一般に、多数の別々の技術を含んでいる。通常、これらには、ＭＰＥＧ−２のブロックベース離散コサイン変換（ＤＣＴ）などの変換と、オプションとしての予測ステップと、量子化ステップと、可変長符号化とが含まれる。本発明は、特に、ここでいう量子化に関する。量子化ステップでは、ある範囲の原振幅を同一の代表レベルにマッピングする。したがって、量子化プロセスは非可逆性である。ＭＰＥＧ−２では、（ＭＰＥＧ−１、ＪＰＥＧ、ＣＣＩＴＴ／ＩＴＵ−ＴＲｅｃ．Ｈ．２６１、ＩＴＵ−ＴＲｅｃ．Ｈ．２６３などの他の圧縮標準と共通して）代表レベルを定義しているが、原振幅を一組の代表レベルにマッピングする方法は未定義のままに残している。一般に、量子化器は、連続性の、あるいはすでに量子化プロセスを受けた入力値に対して、その入力値の直上および直下の量子化レベルから通常選択される符号を割り当てる。入力値に最も近い量子化レベルを選択すれば、このような量子化における誤差は概して最小化されることになる。圧縮システムにおいては、各量子化レベルを符号化する際の効率を考慮することがさらに必要である。可変長符号化において、もっとも頻繁に用いられる量子化レベルには最短の符号が割り当てられる。通常、ゼロレベルは最短の符号をもつ。したがって、低い方のレベル（特にゼロレベル）ではなく、最も近いとの理由で、高い方の量子化レベルを割り当てるという決定法は、符号化効率を低下させることになる。ＭＰＥＧ２において、圧縮された信号の全体のビットレートは、より高いビットレートに向かう傾向に応じて量子化レベルの分離を増加させることにより、所定の限界より下に維持される。どれが最も近いかに基づいて量子化レベルを割り当てる決定を繰り返すことは、符号化の非効率を招き、より粗な量子化プロセスを導く。この点において、量子化器の挙動は、入力値に算術的に結合されたパラメータ λを介して特徴づけることができ、λのひとつの値（通常λ＝１）は最も近い量子化レベルの選択、すなわち「丸め」を表わす。対照的に、λの別の値（通常λ ＝０）は、２つの最も近い量子化レベルのうちの低い方の自動選択、すなわち、「頭切り［truncation］」を表す。ＭＰＥＧ２基準符号化器［reference coder ］において、λの標準値をλ＝０．７５に設定することにより、丸めの属性である誤差の公称減少［nominal reduction in error］と、頭切りに結びつくビツトレート効率化とを妥協させる試みがなされている。ここではＭＰＥＧ２符号化に特に注意を向けてきたが、次のような、デジタル信号のその他の圧縮符号化方法にも同様な考察があてはまる。すなわち、変換プロセスを実行して値を生成するステップと、この値の振幅範囲を一組の隣接する区間に分割することによりこれらの値を量子化するステップとを含み、各区間を可変長符号化される一組の代表レベルの各々にマッピングし、各区間の境界をパラメータλにより制御する方法である。変換プロセスは、ＭＰＥＧ２のＤＣＴなどのブロックベースの変換やサブバンド符号化を含む多様な形態をとり得る。本発明の一態様の目的は、所定のビットレートにおいてより高い品質を達成することを、あるいは、所定の品質に対してビットレートを低減することを可能とした、上記方法の改良を提供することである。そこで、本発明は、一態様において、関連する代表レベルに対して各区間の境界を動的に変化させるようにλを制御することを特徴としている。好適には、各値はλに算術的に結び付けられる。好ましくは、λは、上記値によりあらわされる量の関数であり、変換がＤＣＴである場合には、水平および垂直周波数の関数であり、量子化ステップサイズの関数であるか、もしくは、上記値の振幅の関数である。本発明の特別な形態において、符号化されるデジタル信号は前の符号化復号化プロセスを受けており、λは上記前の符号化復号化プロセスにおけるパラメータの関数として制御される。さらなる態様において、本発明は、各周波数指数ｆ_kをあらわす一組の変換係数ｘ_kに対して動作する（ｑ，λ）量子化器であって、これらの値Ｘ_kおよびｆ_k に基づいてλを動的に制御するようにした量子化器に存する。好ましくは、λは、費用関数Ｄ＋μＨを最小化するように動的に制御され、ここで、Ｄは、非圧縮領域における量子化により導入される歪の大きさであり、Ｈは、圧縮されたビットレートの大きさである。以下、本発明を添付図面を参照して説明する。図において、図１は、代表レベルと、決定レベルと、λの値の間の関係を示す図である。図２は、ＭＰＥＧ２基準符号化器における量子化プロセスを示すブロック図である。図３は、簡略化され改良された量子化プロセスを示すブロック図である。図４は、図３の要部を示すブロック図である。図５は、本発明の一態様による量子化プロセスを示すブロック図である。図６は、本発明のさらなる態様による量子化プロセスを示すブロック図である。具体的に挙げた圧縮標準において、原振幅ｘは離散コサイン変換（ＤＣＴ）から得られ、したがって、水平周波数指数ｆ_horおよび垂直周波数指数ｆ_verに関連している。この方法は、何が起きるかにおける例示として取り上げたものであり、本発明はこの点において限定されるものではない。一般に、量子化器は、周波数ｆ_horおよびｆ_verの原振幅ｘから振幅ｙ＝Ｑ（ｘ）へのマッピングを記述する。量子化器により実行されるマッピングは、図１に示すように、代表レベルの集合｛ｒ_l｝と、対応する決定レベル｛ｄ_l｝により完全に決定される。ｄ_l＜ｘ＜ｄ_(l+1)の範囲内のすべての原振幅は、同一の代表レベルｙ＝Ｑ（ｘ）＝ｒ_lにマッピングされる。図１からわかるように、連続する決定レベルは量子化ステップサイズｑにより関連づけられる。所定の代表レベルｒ_lについて、対応する決定レベルは次式により算出される。ｄ_l+1＝ｄ_l＋ｑ（１）ｄ_l＝ｒ_l−λ／２・ｑ（２）量子化器は、量子化ステップサイズｑおよび代表レベルの所定の集合｛ｒ_l｝に対するパラメータλにより完全に特定される。したがって、式（１）および（２）を満たす量子化器は、（ｑ，λ）量子化器と呼ぶことができる。現在提案されている量子化器は、Ｈ．２６１、Ｈ．２６３、ＭＰＥＧ−１およびＭＰＥＧ−２標準のための基準符号化器に記載されているように、すべて、λ の固定値を用いた特別な種類の（ｑ，λ）量子化器を用いている。たとえばＭＰＥＧ−２基準符号化器ではλ＝０．７５であり、イントラＤＣＴ係数の量子化のためのＭＰＥＧ−１基準符号化器ではλ＝１．０である。本発明の一態様によれば、λは一定ではなく、水平周波数指数ｆ_horと、垂直周波数指数ｆ_verと、量子化ステップサイズｑと、振幅ｘに依存する関数である。 λ＝λ（ｆ_hor，ｆ_ver，ｑ，Ｘ）（３）所定のビットレートにおける映像圧縮における画像品質を改善するため、あるいは、所定の画像品質における所要ビットレートを減少させるために、上記関数を有用に導き出す方法の例を以下に説明する。本発明は、第１世代振幅ｙ₁＝Ｑ₁（ｘ）を第２世代振幅ｙ₂＝Ｑ₂（ｙ₁）にマッピングして、原振幅ｘにアクセスすることなくビットレートを第１世代から第２世代にさらに低減させる際の変換符号化の場合にも及ぶ。この場合には、第１世代量子化器Ｑ₁および第２世代量子化器Ｑ₂は、それぞれ、（ｑ₁，λ₁）型量子化器および（ｑ₂，λ₂）型量子化器として記述される。第２世代のλ₂値は下記の関数として記述される。 λ₂＝λ₂（ｆ_hor，ｆ_ver，ｑ₁，λ₁，ｑ₂，λ_2,ref，ｙ₁）（４）式（４）にあらわれるパラメータλ_2,refは、（ｑ₂，λ_2,ref）型基準量子化器において用いられる。この基準量子化器は、第１世代をバイパスし、原振幅ｘを第２世代基準振幅ｙ_2,ref＝Ｑ_2,ref（Ｘ）に直接マッピングする。式（４）の関数関係を、誤差（ｙ₂−ｙ_2,ref）あるいは誤差（ｙ₂−ｘ）を最小化するために用いることができる。第１の場合には、得られる第２世代量子化器を、最大事後［maximum a-posterior]（ＭＡＰ）量子化器と呼ぶこともある。第２の場合には、得られる第２世代量子化器を、平均二乗誤差［mcan squar ed error（ＭＳＥ）量子化器と呼ぶこともある。第２世代（ｑ₂，λ₂，ＭＡＰ）型および（ｑ₂，λ_2,MSE）型量子化器の例を以下に示す。理論的背景のさらに詳細な説明としては、「ＭＰＥＧ−２イントラフレームの変換符号化」と題する論文−ＯｌｉｖｅｒＷｅｒｎｅｒ−ＩＥＥＥＴｒａｎｓａｃｔｉｏｎｓｏｎＩｍａｇｅＰｒｏｃｅｓｓｉｎｇ１９９８を参照する。これは、簡略化のために以下単に「論文」と呼ぶ。この論文の写しは本発明の優先権主張の基礎となるイギリス特許出願第９７０３８３１号に添付されている。本発明は、ＭＰＥＧ２映像符号化における「イントラ」ＤＣＴ係数の量子化に具体的に言及しているが、非イントラ係数や他の映像圧縮法や映像以外の信号の圧縮にも適用できる。ＭＰＥＧ２において、テストモデル５（ＴＭ５）として知られるものにより、先行技術が与えられている。正のイントラ係数に対するＴＭ５の量子化法を図２に示す。説明の簡略化のために、上記の図は図３に置き換えられる。この図は、ｑの小さな値を除き実質的に同一の量子化器を示している。ここで、これは、論文に記載されているように偏差を補正する。この量子化器において、入力係数は、まず、係数周波数に依存するが画像全体にわたって固定された値である量子化器重み付けマトリクス値Ｗにより、つぎに、ひとつのマクロブロックから次のマクロブロックへと変化し得るがすべての係数周波数に対して同一の値である量子化スケール値ｑにより、除算される。加算器の前では、等価逆量子化器再構築レベルは、単に、整数０，１，２，．．．である。次にこの値に固定数λ／２を加算し、その結果を頭切りする。λは、ゼロの値のとき量子化器（加算器に入力される値の）に単なる頭切りをさせることを意味し、一方、１の値は丸め処理をさせることを意味する。ＴＭ５において、λ の値は０．７５に固定されている。以下、図４に示す「コア」量子化器の動作に注目する。フレーム内符号化のためのＭＰＥＧ−２互換量子化器のクラスにおいて、非負の原ＤＣＴ係数ｘ（あるいは重み付けマトリクス値Ｗによる除算のあとの同じ係数）は、つぎのように代表レベルにマッピングされる。負の値は反転させる。ｙ＝−Ｑ（｜ｘ｜）（６）式（１）における量子化ステップサイズｑの振幅範囲を標準化する。ｑは、各ＭＰＥＧ−２ビットストリームにおいて付随情報として伝送しなければならない。このことは式（１）におけるパラメータλにはあてはまらない。このパラメータはビットストリームからｄｃｔ係数を再構築するためには必要ではなく、したがって伝送されない。しかしながら、λ値は、代表レベルの所定の集合に対する原ｄｃｔ係数Ｘのマッピングを制御する。ｒ_l＝ｌ・ｑ（７）式（１）にしたがって、（正の）ｘ軸が決定レベルにより区分される。各ｘ∈［ｄ_l，ｄ_l+1）は代表レベルｙ＝ｒ_lにマッピングされる。特別の場合として、区間［０，ｄ₁）はｙ＝０にマッピングされる。パラメータλは、各量子化ステップサイズｑについて調整することができ、これにより歪レートを最適化した量子化が得られる。二乗平均誤差Ｄ＝Ｅ［（ｘ−ｙ）²］（９）は、係数ｙに課せられるビットレート制約のもとで最小化される。分析を簡単にするため、ＭＰＥＧ−２符号語テーブルの代わりに係数ｙの一次ソースエントロピーＨ＝Σ_l−Ｐ_l・ｌｏｇ₂Ｐ_l （１０）をとり、ビットレートを計算する。論文において、ＭＰＥＧ−２符号語テーブルから得られるビット数の確実な推定値を引き出すためにエントロピーＨを用いることができることが検証されている。式（１０）において、Ｐ_lは係数ｙ＝ｒ_lの出現の確率をあらわす。上記の制約された最小化問題は、ラグランジェの乗数法を用いてラグランジェの乗数μを導入することにより解くことができる。すると、量子化パラメータλ を計算するための基礎式が得られる。ここで、式（１１）から得られるλの解はμの値に依存する。μの値はビットレート制約Ｈ≦Ｈ₀ （１２）により決定される。ここで、Ｈ₀は係数ｙを符号化するための最大許容ビットレートをあらわす。概して、ラグランジェ乗数の振幅範囲は、０＜μ＜∞である。Ｈ₀→∞の特別の場合には、μ→０が得られる。反対にＨ₀→０については、一般に、μ→∞が得られる。ラプラスの確率密度関数（ｐｄｆ）は、原ｄｃｔ係数の振幅の統計的分布を記述するための適切なモデルである。さて、このモデルを式（１１）を分析的に評価するために用いる。すると、λについて得られる値を式（５）に挿入することにより歪レートを最適化した量子化器特性が得られる。式（５）および（６）における正および負の振幅についての対称的な量子化特性により、絶対原振幅｜ｘ｜の分布を説明するためにｐｄｆｐを導入する。係数ｙ＝０の出現の確率Ｐ₀は次式のとおりである。同様に、係数｜ｙ｜についての確率Ｐ_lは次式であらわされる。式（１３）および（１４）を用いて、式（１０）のエントロピーＨの偏導関数は、直接計算ののち次のように書きあらわされる。式（９）からまず次式が導かれる。さらに式（１６）から次式が導かれる。式（１７）から次のことがわかる。このように、λが０から１に増加すると、得られる歪Ｄは、λ＝１について最小値に到達するまで単調に減少していく。後者は二乗平均誤差の無制約最小化に対する解であるが、しかしながら、得られるエントロピーＨは、一般に、式（１２）のビットレート制約を満足しない。がわかる。すなわち、つぎのような単調な挙動がみられる。λを０から１に増加させると、得られる歪Ｄは単調に減少し、同時に、得られるエントロピーＨは単調に減少する。直ちに、このような単調な挙動から反復的アルゴリズムを導くことができる。パラメータλははじめλ＝１に設定され、得られるエントロピーＨが計算される。Ｈが目標ビットレートＨ₀よりも大きいならば、λの値は、式（１２）のビットレート制約が満たされるまで、さらなる反復ステップにおいて低減される。この反復手順が、Ｉフレームの変換符号化について提案された簡略化歪レート法の基礎をなすものであるが、引き続き、λについての分析的解を求めよう。式（１５）および（１７）はラプラスモデルについて評価することができる。式（１９）のモデルｐｄｆを式（１５）および（１７）に挿入すると、基礎式（１１）がλについての分析的解を導くことがわかる。ここでｚ＝ｅ^- ^α・qであり、‘ｚ'−エントロピーはｈ（ｚ）＝−ｚ・ｌｏｇ₂ｚ−（１−ｚ）・ｌｏｇ₂（１−ｚ）（２１）である。式（２０）は、その右辺の確率Ｐ₀が式（１３）によればλに依存するため、単にλについての陰解を提供するにすぎない。一般に、Ｐ₀の値は、式（５）および（６）の量子化特性を適用し、事象ｙ＝０の相対頻度を計数することにより、既知のλについてのみ決定することができる。しかしながら、式（２０）はλ についての固定少数点数式であり、これは、右辺を次の関数により記述するならばより明らかになろう。その結果、古典的固定小数点形式λ＝ｇ（λ）が得られる。このように、ステファン・バナッシュの固定小数点定理から、λについての解は、 λ_j+1＝ｇ（λ_j）（２３）を用いた反復手順により，（ｊ＋１）番目の反復ステップにおいて見つけることができることになる。（２３）の反復は、関数ｇが「自己縮小性」、すなわち、１より小さいリップシッツ定数をもつリップシッツ連続性であるならば、任意の初期値λ₀についての解に向かって収束する。微分学についての平均値定理の応用として、偏導関数の絶対値が１より小さいならば、ｇがつねに「自己縮小性」であることを証明するのは難しいことではない。このことは収束条件を与える。さて、歪レート最適化量子化方法を、上記で得られた結果に基づいて導き出そう。一例として、ＭＰＥＧ−２イントラフレームのＡＣ係数を量子化するための技術を概説する。この技術をＭＰＥＧ−２インターフレーム、すなわちＰフレームとＢフレーム、のｄｃｔ係数を量子化するために修正することは単純なことである。最初に、８×８ｄｃｔブロックの６３個のＡＣ係数は同一の分布を共有するものではないことを考慮に入れねばならない。すなわち、パラメータα_iをもつ式（１９）による個々のラプラスモデルｐｄｆを各ＡＣ周波数指数ｉに割り当てる。その結果、パラメータλ_iをもつ式（５）および（６）による個々の量子化特性が得られる。さらに、量子化ステップサイズｑ_iは、視覚重み［visual weight］ｗ_iと周波数非依存ｑｓｃａｌｅパラメータに依存する。所定のステップサイズｑ_iについて、量子化により、同じ周波数指数ｉのＡＣ係数についての歪Ｄ_i（λ_i）とビットレートＨ_i（λ_i）が得られる。ｄｃｔは直交変換であり、歪は二乗平均誤差により計測されるため、空間（サンプル／ピクセル）領域において得られる歪Ｄは、次式のとおり書きあらわすことができる。ここでｃは、正の正規化定数である。あるいは、異なる空間周波数における人間視覚応答における変動を補償するために、重み係数領域において歪を計測することもできる。同様に、全体のビットレートＨは次の通り得られる。歪レート最適化量子化のために、６３個のパラメータλ_iを、費用関数Ｄ＋μ・Ｈ（２８）が最小化されるように調節しなければならない。非負ラグランジェ乗数μは、ビットレート定数により決定される。あるいは、歪を、対数領域において次式のように表現する場合にはＤ'＝２０ＬＯＧ₁₀ＤｄＢ（２８ａ）最小化すべき費用関数はＢ＝Ｄ＋μ'Ｈ（２８ｂ）となる。ここで、μ'は歪をビットレートにリンクさせる先験的定数である。ホワイトノイズの符号化に基づく理論上の独立変数は、係数あたりビットあたり６ｄＢの法則を与える。実用において、実際の符号化結果の観察は、異なるビットレートにおいてビットあたりｋｄＢの法則を与える。ここでｋは全体のビットレートに応じて約５〜約８の値をとる。実用において、直観的な「６ｄＢ」法則は観察によく対応している。さらに、ｑｓｃａｌｅパラメータは、式（２５）のビットレート制約に合致するように変更することができる。原理的には、視覚重みｗ_iはさらなる自由度を提供するが、単純化のために、ＭＰＥＧ−２基準復号化器におけるような固定重みづけマトリクスを想定する。これにより、「Ｃ」言語様形式において記述することができる歪レート最適化量子化技術がつぎのとおり得られる。ステップ１〜ステップ３を実行するためのいくつかのオプションがある。１．ステップ１を実行するためのオプションパラメータλ₁，λ₂，．．．，λ₆₃はａ）第３章の式（２０）〜（２３）を適用することにより分析的に、あるいは、ｂ）Ｄ＋μ・Ｈの動的プログラミングにより反復的に決定することができる。ここで、次の項目において説明するオプションのいずれかをＤおよびＨを計算するために用いることができる。２．ステップ２を実行するためのオプションＨ＝ΣＨ_i（λ_i）は次のいずれかにより計算することができる。（ａ）ラプラスモデルｐｄｆを適用することにより。これによりが得られ、ここでｈ（Ｐ_0,i）およびｈ（Ｚ_i）は、それぞれＰ_0i（式（１３））およびＺ_i＝ｅ−^αi・^qｉについて式（２１）において定められるエントロピーである。ここで、式（３２）におけるＰ_0,iは、各ｄｃｔ周波数指数ｉについてゼロ振幅ｙ＝Ｑ_i（ｘ）＝０の相対周波数を計数することにより決定することができる。興味深いことに、式（３２）は、得られるビットレートＨに対する量子化パラメータλ_iの効果が、ゼロ振幅確率Ｐ_0,iを制御することにのみあることを示すものである。ｂ）原ｄｃｔ係数のヒストグラムから。これにより式（１０）と（１３）と（１４）を用いて次式が得られる。ｃ）ＭＰＥＧ−２符号語テーブルを適用することにより。３．ステップ３を実行するためのオプションＤ＝ｃ・ΣＤ_i（λ_i）の計算はａ）式（１９）のラプラスモデルｐｄｆを適用し式（１６）を評価することにより、あるいは、ｂ）原ｄｃｔ係数ｘのヒストグラムから直接、Ｄ＝Ｅ［（ｘ−ｙ）²］を計算することにより、行なうことができる。ステップ１〜ステップ３についてどのオプションを選択するかによって、提案された方法は、ラプラスモデルｐｄｆを選択するならば単一パス符号化法に、ＭＰＥＧ−２符号語テーブルを選択するならばマルチパス法になる。さらに、本方法は、フレームベースや、マクロブロックベースや８×８ブロックベースで適用することができ、これらのオプションは適宜選択される。後者は、目標ビットレートＨ₀をマクロブロックベースで局所的にあるいはフレームベースで全体的に設定するようないかなるレート制御法に対しても特に重要である。さらに、提案された方法は、レート歪の観点において最適なオプションであるのなら、自動的に高周波数ｄｃｔ係数をスキップする。このことは、最終量子化パラメータλ_i,optが、低周波数指数ｉについて１に近い値をもち、高周波数指数について小さい値たとえばゼロをもつ場合に示される。以上、ＭＰＥＧ−２互換符号化のための歪レート最適化量子化方法を、実施のためのいくつかのオプションとともに説明した。本発明は、直ちに、独立型（第１世代）符号化に適用することができる。特に、得られる結果は、複雑なレート制御法を設計する助けとなる。式（５）および（６）の量子化特性は、非負の振幅ｘに対して次式のとおり一般化することができる。れる。ｙ＝−Ｑ（｜ｘ｜）（３５）一般化は、式（３４）における振幅依存値λ（ｘ），ｑ（ｘ），ｒ（ｘ）により反映される。代表レベルの所定の集合．．．＜ｒ_l-1＜ｒ_l＜ｒ_l+1＜．．．および所定の振幅ｘについて，次式を満足するような連続する代表レベルの対が選択される。局所的代表レベルの値は、したがって、ｒ（ｘ）＝ｒ_l-1 （３７）に設定される。局所的量子化ステップサイズの値は、次式から得られる。ｑ（ｘ）＝ｑ_l＝ｒ_l−ｒ_l-1 （３８）上述したレート歪概念の直接的拡張は、局所的ラムダパラメータについて、式（２０）と非常に類似して、次式を与える。式（１３）（１４）と同様に、式（３９）における確率は、ラムダパラメータに依存する。およびしたがって、式（３９）は、λパラメータλ₁，．．．，λ_Lを決定するための非線形式の系をあらわす。一般に、この系は数値的にのみ解くことができる。しかしながら、式（３９）は、項ｌｏｇ₂（Ｐ_l-1／Ｐ_l）を最適符号語長の差分として解釈するならば簡略化することができる。最適符号語長はＩ_l＝−ｌｏｇ₂Ｐ_l Ｉ_l-1＝−ｌｏｇ₂Ｐ_l-1 （４３）であり、代表レベルｒ_l，ｒ_l-1に結びつけられている。以下、上記の実用的実施形態を説明する。パラメータであれ実際のものであれ、量子化されていない係数の確率分布がわかると、費用関数Ｂを最小化する量子化器決定レベルの集合を選択することが可能となる。これは、エントロピーＨおよび歪Ｄが、所定の確率分布に対する決定レベルの関数であるからである。この最小化は、オフラインで実施することができ、決定レベルの計算集合が確率分布の集合のおのおのに対して格納される。一般に、各決定レベルに対応するλの最適値は異なる係数振幅に対して異なることがわかるだろう。実用において、振幅にともなうλの最適値の最大変動は、もっとも内側の量子化器レベル（再構築レベルが０であるもの）とその他すべてのレベルとの間に認められる。このことは、場合によっては、各係数指数および確率分布パラメータの各値（適切に量子化された）に対して、λの２つの値、すなわち、最も内側の量子化器レベルについてのものおよびその他すべてに対するものとを計算すればじゅうぶんであることを意味する。上記説明にともなう実用的なアプローチを図５に示す。ＤＣＴ係数は線形量子化器５２にとりこまれ、ヒストグラム構築ユニット５４への入力を与える。すなわち、ヒストグラムは、入力ＤＣＴ係数の線形量子化形に基づく。この線形量子化器５２のレベル間隔は重要ではなく、おそらくｑの平均値と略同一であればよい。必要とされるヒストグラム関数の程度は、ｐｄｆのパラメータ表現の複雑度に依存する。ラプラスあるいはガウス分布の場合には、係数の平均や分散を計算すればよく、一方、論文で用いられている「ゼロ除外」ラプラス法においては、平均値とゼロ値の比率を計算すればよい。このヒストグラムは、画像区間かそれ以上にわたって構築され、ブロック５６において、ｐｄｆパラメータの推定値の基礎として用いられ、ブロック５８におけるλの計算に対する入力のひとつを提供する。 λの計算のもうひとつの入力は、量子化すべき係数がどの範囲の値に入るかを決定する、事実上粗量子化器である比較器６０の集合からのものである。上述したもっとも起こり得る場合において、この値をもっとも内側の非ゼロ再構築レベルと比較すればよい。λを計算するために必要な最後の入力は量子化器スケールである。一般に、λについての分析的式を得ることはできない。代わりに、ｐｄｆパラメータと、比較器出力と、量子化器スケール値のさまざまな組み合わせについて、一組の値を数値的に計算することができ、そ結果がルックアップテーブルに格納される。このテーブルは、非常に大きいものである必要はない（たとえば１０００個未満の値を含む）。これは、最適値が非常にシャープではないからである。計算されたλの値はつぎに２で除算され、ブロック６４における最終的な頭切り処理に先だって、加算器６２において係数に加算される。式（４３）による現在確率に依存する可変符号語長を用いる代わりに、可変符号語長Ｃ₀，．．．，Ｃ_Lの固定テーブルを用いてプロセスを簡略化することができる。Ｃ₀，．．．，Ｃ_Lの値は、トレーニング信号とビットレートの集合に対して、単一の可変長符号、すなわち、ハフマン符号を設計することにより前もって決定することができる。原理的には、これらは、ＭＰＥＧ−２可変長符号テーブルから直接得ることもできる。唯一複雑なことは、ＭＰＥＧ２可変長符号化が、非ゼロ係数により終端される連続するゼロ係数の組み合わせに基づくことである。この問題に対するひとつの解法は、ＭＰＥＧ２のＶＬＣテーブルから「等価符号語長」を推定することである。このことは、ＤＣＴ係数の確率分布が互いに独立していると仮定すればまったく簡単に行なうことができる。別の可能性は、現在のＤＣＴブロック内の最近の過去の量子化履歴を考慮して、全符号化コストに対する２つの可能な量子化レベルのおのおのについて起こりそうな効果を推定することである。つぎに、式（３９）は次式に変わる。結果として得られる歪レート最適化量子化アルゴリズムは、先に詳述したものと実質的に同一である。但し、ラムダパラメータは、水平および垂直周波数指数の各対について式（３９）または式（４４）から計算される。以下、λ（ｘ）を計算する簡略化された方法について説明する。ここで、各係数について局所的歪のみが考慮される。ここで、ＭＰＥＧ２における所定の画像に対して用いられる可変長符号（ＶＬＣ）テーブルは固定され既知であるという事実を利用する。このことは、ビットレートと歪とのトレードオフの計算を簡略化するとともにより正確にする。特に、このような計算は係数ベースで行なうことができる。これは、ある係数を量子化するためのオプションのビットレートに対する効果が直ちにわかるからである。同じことが量子化歪に対する効果についても成り立つ（証明はややむずかしいが）。上の段落に含まれる推定を受け入れるならば、費用関数Ｂへの局所的寄与を最小化するための決定レベルの値を非常に簡単に計算することができる。これは、実際には、より低い再構築レベル（より高いレベルではなく）への量子化により得られるビット数の減少が、量子化歪における対応する増加によりちょうど相殺されるレベルである。考慮される２つの再構築レベルが指数ｉおよびｉ＋１を有し、対応する符号語が長さＬ_iおよびＬ_i+1を有し、量子化器スケールがｑであるならば：（ｉ）ビット数の減少はＬ_i+1−Ｌ_iである。（ｉｉ）歪の局所的増加は２０ｌｏｇ₁₀ｑ（１−λ／２）−２０ｌｏｇ₁₀ｑλ／２である。歪をビットレートにリンクさせる法則を用いてこれらを組み合わせると、次式が得られる。６（Ｌ_i+1−Ｌ_i）＝２０ｌｏｇ₁₀（２／λ−１）（４５）あるいは、より簡単にＬ_i+1−Ｌ_i＝ｌｏｇ₂（２／λ−１）（４６）となり、次式が導かれる。 λ＝２／（１＋２（^Li+1-Li)）（４７）このすっきりした結果は、λの値が、ここでは、高い量子化器再構築レベルと低いレベル間のビット数の差にのみ依存することを示している。 λのレベルがもはや係数確率分布および量子化器スケールの両方から独立しているという事実は、図６に示す、より簡略化された以下の実施形態を導く。ここで、ＤＣＴ係数は、側鎖の頭切り処理ブロック７０に送られてから、符号化費用ルックアップテーブル７２においてアドレスとして用いられる。ラムダ／２の値は、ブロック７４により加算器７６に与えられ、その出力が頭切り処理ブロック７８において頭切り処理される。符号化器における量子化を改善するために本発明を用いる非常に多くのやり方を説明してきたが、当業者にはさらに他の方法が明らかであろう。本発明は変換符号化および切り換えにも適用可能であることはもちろんである。以下、２段量子化器の問題について検討しよう。この問題はいわゆる最大事後（ＭＡＰ）量子化器および平均二乗誤差（ＭＳＥ）量子化器の理論を記述した論文において詳細に検討されている。さらなる例示として、以下に、８×８離散コサイン変換（ｄｃｔ）から得られるＭＰＥＧ２［ＭＰＥＧ２］イントラＡＣ係数の変換符号化のためのＭＡＰおよびＭＳＥ量子化器の実施形態について説明する。これらの式により定められる第１世代量子化器ｙ₁＝Ｑ₁（ｘ）のクラスは、量子化ステップサイズｑ₁およびパラメータλ₁によりスパンされる。このような量子化器は（ｑ₁，λ₁）型量子化器と呼ばれる。変換符号化器において、第１世代係数ｙ₁は、第２世代係数ｙ₂＝Ｑ₂（ｙ₁）にマッピングされ、ビットレートをさらに低減させる。第１世代の、たとえばＭＰＥＧ２基準符号化器ＴＭ５における（ｑ₁，λ₁）型量子化器という仮定のもとで、論文に記載された結果から、ＭＡＰ量子化器Ｑ_2,mapおよびＭＳＥ量子化器Ｑ₂ _,mse が、それぞれ（ｑ₂，λ_2,map）型および（ｑ₂，λ_2,mse）型量子化器として実施できる。ＭＡＰ量子化器およびＭＳＥ量子化器の両方について、第２世代ステップサイズｑ₂が第２世代パラメータｗ₂およびｑｓｃａｌｅ₂から計算される。しかしながら、λ_2,mapおよびλ_2,mseを計算するための異なる式がある。論文の結果を用いて、λ_2,mapは次式のように計算することができる。そしてλ_2,mseは次式のとおり計算される。パラメータλ_2,refは、ビットレートと得られる信号雑音比を調節するため子化器とくらべて、ＭＡＰ量子化器についてのさらなる自由度を与える。λ_2,re _f ＝０．９の値が特に好ましい。パラメータμ_mapおよびμ_mseが第１世代量子化ステップサイズｑ₁およびｚ値から計算される。ｔ係数ｙ₁からあるいは原ｄｃｔ係数ｘから、論文に記載されているように、計算することができる。後者の場合にはｚ値は追加の付随情報、たとえばユーザデータとして、第１世代ビットストリームとともに伝送され、したがって、変換符号化器におけるｚのさらなる計算は不要となる。あるいは、デフォルトｚ値を用いてもよい。個々のｚ値は、水平および垂直周波数指数の各対に対して割り当てられる。これにより、８×８ｄｃｔのＡＣ係数に対する６３個の異なるｚ値が得られる。周波数依存ｚ値の結果として、パラメータλ_2,mapおよびλ_2,mse はやはり周波数依存であり、それぞれ６３個の（ｑ₂，λ_2,map）型量子化器および６３個の（ｑ₂，λ_2,mse）型量子化器が生じる。さらに、ルミナンスおよびクロミナンス成分に対する異なるパラメータ集合がある。ルミナンスおよびクロミナンス成分に対するデフォルトｚ値は表１および表２にそれぞれ示されている。表１ルミナンスに対して正規化されたｚ値、たとえば２５６ｘｚ（デフォルト）表２クロミナンスに対して正規化されたｚ値、たとえば２５６ｘｚ（デフォルト）以降の符号化および復号化プロセスに利用可能にするための好ましい技術の説明や、従来の符号化復号化プロセスに関する情報については、ＥＰ−Ａ−０７６５５７６、ＥＰ−Ａ−０８０７３５６およびＷＯ−Ａ−９８０３０１７を参照されたい。ＭＰＥＧ−２イントラフレームの変換符号化１．はじめに変換符号化は、すでに圧縮された画像信号のビットレートをさらに低減させるための重要な技術である。独立型ソース符号化器と対称的に、変換符号化器は、原ソース信号と比較したときに量子化ノイズをすでに含む圧縮済みの信号に対してのみアクセスをもつ。すなわち、変換符号化のビットストリーム出力は、変換符号器の前の第１段におけるいわゆる第１世代符号化器とのカスケード符号化の結果である。第１図参照。ｓ＝ソース信号、ｅｎｃ．−１＝第１世代符号化器、ｔｒａｎｓｃ．＝変換符号化器、ｂ₁，ｂ₂＝第１、第２世代ビットストリーム第１図：第１世代符号化と引き続く変換符号化の結果としてのカスケード符号化変換符号化器の入力を定める第１世代ビットストリームｂ₁と、出力をあらわす第２世代ビットストリームｂ₂は、ともに、ＭＰＥＧ−２［ＭＰＥＧ−２］適合であると、全体にわたって仮定する。したがって、ｂ₁およびｂ₂は、ＭＰＥＧ −２復号化器に通過させることができる。ＭＰＥＧ−２において、動き補償予測（ｍｃｐ）は、ハイブリッド符号化アルゴリズム［ＴＭ５−９３］において、離散コサイン変換（ｄｃｔ）と組み合わせられる。一般に、ｍｃｐとｄｃｔ符号化の両方の要素は、効率的な変換符号化のために利用することができる。インターフレームすなわちＰフレームおよびＢフレームと比較して、ｍｃｐはイントラフレーム（Ｉフレーム）においてスイッチオフされる。したがって、ｄｃｔ符号化のみを、Ｉフレームを変換符号化するために利用することができる。この論文においては、ＩフレームのＭＰＥＧ−２互換変換符号化に専念する。ＭＰＥＧ− ２のＩフレーム復号化器の一般化されたブロック図は第２図に示されている。ｖｌｄ＝可変長復号化器、ｉｄｃｔ＝逆離散コサイン変換ｂ₁（２）＝第１（２）世代ビットストリームｙ₁（２）＝第１（２）世代の復号化されたｄｃｔ係数ｓ₁（２）＝第１（２）世代の再構築された画像信号第２図：一般化されたＭＰＥＧ−２のＩフレーム復号化器対応する第１世代の符号化器および変換符号化器をそれぞれ第３図および第４図に示す。ｄｃｔ＝離散コサイン変換、Ｑ₁＝第１世代量子化器、ｖｌｅ＝可変長符号化器ｓ＝原ソース信号、ｘ＝原ｄｃｔ係数、ｙ₁＝第１世代のｄｃｔ係数、ｂ₁＝第１世代のビットストリーム第３図：一般化されたＭＰＥＧ−２互換第１世代Ｉフレーム符号化器ｖｌｄ＝可変長復号化器、Ｑ₂＝第２世代量子化器、ｖｌｅ＝可変長符号化器ｂ₁＝第１世代ビットストリーム、ｙ₁＝第１世代のｄｃｔ係数ｂ₂＝第２世代ビットストリーム、ｙ₂＝第２世代のｄｃｔ係数第４図：一般化されたＭＰＥＧ−２互換Ｉフレーム変換符号化器第４図からわかるように、ビットレートをさらに低減させるための変換符号化器要素は、第２世代量子化器Ｑ₂である。したがって、変換符号化の根本的な問題点は、Ｑ₂の設計である。著者の知るところでは、過去、わずかに数点の刊行物のみがこの問題にとりくんでいる。［ＢＴ−９４］および［Ｓａｒｎｏｆｆ−９６］には、Ｑ₂において、第３図の第１世代符号化器におけるＱ₁に用いられるものと実質的に同じ量子化器特性を実現することが示唆されている。この場合には、Ｑ₁とＱ₂は同じ形、たとえば均一な量子化器特性を持ち、その粗さレベルにおいてのみ異なる。すなわち、Ｑ₂ の代表レベルはＱ₁の代表レベルと比較してより広い間隔をおいている。Ｑ₂を特定するための別のアプローチが［Ｃｏｌｕｍｂｉａ−９５］に記載されている。第１世代のＤＣＴ係数ｙ₁のおのおのがチェックされ、それを保持するかスキップするかの決定がなされる。すなわち、ｙ₂＝Ｑ₂（ｙ₁）であり、ここで、Ｑ₂ （ｙ₁）＝ｙ₁あるいはＱ₂（ｙ₁）＝０が成り立つ。保持するかスキップするかの決定は、フレームベースでの反復最適化手順において決定される。［Ｃｏｌｕｍｂｉａ−９５］において与えられている実験結果は、かなりの程度、高周波ｄｃｔ係数がスキップされ、低周波ｄｃｔ係数が保持されることを示している。したがって、この種の量子化結果は、ｄｃｔベースの低域通過フィルタリングをもたらし、これは、一般に、可視ブロックアーティファクトを導入するというリスクを負う。このアプローチは、第１および第２世代間の小さいビットレート変化についての変換符号化に対して考えることもできるが、ｄｃｔ係数のスキッピングが一般に良好に機能するかどうかは疑問に思われる。残念なことに、［Ｃｏｌｕｍｂｉａ−９５］における実験結果は、４および３Ｍｂｉｔｓ／ｓのあいだの変換符号化についてのみ与えられ、たとえば９および３Ｍｂｉｔ／ｓの間についてではない。［Ｓａｒｎｏｆｆ−９６］において、著者はその実験結果において、ｄｃｔ係数のスキッピングは、４および３Ｍｂｉｔ／ｓのあいだの変換符号化についてさえも、Ｑ₁とＱ₂が同じ形をもちその粗さレベルにおいてのみ異なる上記の再量子化とくらべて劣ることを示している。しかしながら、［Ｓａｒｎｏｆｆ−９６］および［Ｃｏｌｕｍｂｉａ−９５］においては、ｄｃｔ係数のスキッピングのための異なるアルゴリズムが用いられていた。本論文は、変換符号化問題の理論的な分析を提供する。第２世代量子化器Q2の正式説明は、特別な事例として［ＢＴ−９４］［Ｃｏｌｕｍｂｉｔ−９５］［Ｓａｒｎｏｆｆ−９６］の上述した示唆を含んでいる。分析の結果から、二乗平均誤差（ｍｓｅ）費用関数およびいわゆる最大事後（ｍａｐ）費用関数の両方について最適量子化特性Ｑ₂を理論的に導き出す。これら２つの費用関数の間の差違を、どんな場合に各費用関数がより適しているかを指摘しながら説明する。変換符号化器において最適ｍｓｅおよびｍａｐ量子化器特性を効率的に適用するためには、原ｄｃｔ係数ｘの統計をモデル化することが必要である。第３図参照。本論文は、パラメータモデルを提案する。このモデルは、まず、現実の画像データを用いて実証され、その後、ｍｓｅおよびｍａｐ量子化器特性を評価するための実験に用いられる。参考として、これらの結果はＭＰＥＧ−２テストモデルＴＭ５［ＴＭ５−９３］の量子化器特性の性能と比較される。論文の残りの部分はつぎのとおり構成される。第２章において、ＭＰＥＧ−２互換量子化器の正式説明が導入される。第１世代符号化器の量子化器Ｑ₁に適した２つの例が論じられ比較される。第３章では、変換符号化器に用いられる第２世代量子化器Ｑ₂に焦点を合わせる。Ｑ₂を設計する問題が、基準量子化器Ｑ_2,re _f との比較を行なうことにより分析される。基準量子化器は、第１世代段階をバイパスし、原信号を第２世代の所望のビットレートに直接的に圧縮する独立型符号化器において用いられる。第４章において、Ｑ₂を設計する２つの方法が提案され、説明され、比較される。第１の方法はｍｓｅ費用関数を最小化し、第２の方法はｍａｐ関連コストを最小化する。第５章において、原ｄｃｔ係数の統計を説明するためのパラメータモデルが導入され、現実の画像データを用いて検証される。このパラメータモデルに基づき、ｍｓｅおよびｍａｐ費用関数の両方についての分析的評価が第６章において実施される。実験結果は第７章において論じられる。最後に、将来の研究のための結論と示唆を第８章に述べる。２．第１世代符号化器におけるＭＰＥＧ−２互換量子化ＭＰＥＧ−２のＩフレームは、原信号ｓの８×８サンプルのブロックに分割される。第３図に示すように、各ブロックに対してｄｃｔが行なわれ、６４個のｄｃｔ係数ｘⁱが得られる。ＤＣ係数ｘ₀は別に量子化され符号化される。ＤＣ量０２４のＡＣ係数ｘ_i，ｉ＝１，２，．．．，６３に専念する。一般性を失うことなく、周波数指数ｉを以下の議論について固定することができる。そこで、明確さのために、周波数指数ｉは省略する。原ｄｃｔ係数ｘは第１世代量子化器Ｑ１に送られる。ＭＰＥＧ−２標準［ＭＰＥＧ−２］は、その標準部［normative part］において、代表レベルｙ₁＝Ｑ₁（ｘ）の集合を定めている。第２図を参照して、ＭＰＥＧ−２復号化器において、代表レベルｙ₁は次式のとおり再構築される。ｙ₁＝ｌ₁・ｑ₁ （１）ここで量子化ステップサイズはつぎのように表される。ることができ、第１世代ビットストリームｂ₁における（８×８）ブロックデータとして伝送される。ｂ₁は追加の付随情報として、量子化ステップサイズｑ₁を計算するのに必要なｗ₁およびｑｓｃａｌｅ₁の値を含む。ｗ₁の値は各フレームについて設定することができ、周波数指数に依存し、そこで、人間の視覚の周波数依存特性を考慮している。ｑｓｃａｌｅ₁の値は周波数指数に依存せず、各フレーム内でマクロブロックベースで変化させることができる。マクロブロックは、おのおの８×８サンプルの、４つのルミナンスブロックと２つの共有サイトクロミナンスブロックからなる。ＭＰＥＧ−２互換量子化器は、（１）および（２）の再構築則にしたがう。さらに、ｙ₁は、整数に丸めなければならないが、これは、表記の簡略化のため、我々の説明においては省略する。所定のステップサイズｑ₁に対して、一義的なＭＰＥＧ−２互換量子化器ｙ₁＝Ｑ₁（ｘ）は存在しない。これは、原サンプルｘの集合を代表レベルの所定の集合にどのようにマッピングするかの自由度が残っているからである。一例として、量子化器特性は、非負の値ｘについて次のとおり定めることができる。の量子化器特性はｘの負の値について反転することができる。ｙ₁＝−Ｑ₁（｜ｘ｜）（４）式（３）のパラメータλ₁は、正のｘ軸がどのようにして半開［half-open］の区間［ｄ_1l，ｄ_1(l+1)）に区分されるかを決定する。各区間は、１＝０に対しである２つの連続する決定レベルｄ_1lにより定義される。（３）によれば、各ｘ∈［ｄ_1l，ｄ_1(l+1)）は同じ代表レベルｒ_1l上にマッピングされる。ｒ_1l＝ｌ・ｑ₁ （６）第５図参照。第５図：式（３）における量子化器の決定および代表レベル λ₁の値は、量子化器性能を計測するために用いられる費用関数に合わせることができる。ここで、２種類の性能が考慮される。（ｉ）ｍｓｅ性能二乗平均誤差（ｍｓｅ）は、量子化器性能を計測するためのよく知られた費用関数である。この場合、λ₁の値は、期待値Ｅ［（ｘ−ｙ₁）²］（７）を最小化することにより決定される。（７）を最小化するために、各原ｄｃｔ係数ｘは、最も近い代表レベルｙ₁＝ｒ_1lにマッピングされる。このように、微分計算を用いることなく、つぎのように結論することができる。すなわち、（７）を最小化する対応する決定レベルｄ_1l は、代表レベルｒ_1lの所定の集合に対する算術平均値により定義される。式（８）における結果は、［Ｌｌｏｙｄ−５７］および［Ｍａｘ−６０］に記載されている有名なロイド−マックス量子化器設計規則の前半とみなすことができる。その後半では、各代表レベルｒ_1lが、対応するｂｉｎ［ｄ_1l，ｄ_1(l+1)］の局部的セントロイドに一致することが必要とされている。しかしながら、後者は、一般に、式（６）の信号非依存代表レベルについては達成することができない。これは、局部的セントロイドは原ｄｃｔ係数ｘの確率分布に依存ししたがって信号依存性であるからである。式（６）および（８）を用いて、式（５）からｍｓｅ費用関数に対しての解がλ₁＝１であることが導かれる。（ｉｉ）レート歪性能レート歪の観点においては、第１世代ビットストリームｂ₁に対して所定のビットレート制約を受ける式（７）のｍｓｅ項を最小化することがより適切である。この場合には、第１世代ｄｃｔ係数ｙ₁を符号化するのに必要なビットレートは、設定値Ｈを越えてはならない。Ｈ₁（λ₁）が、式（５）による決定レベルｄ_1l の調節のための結果的なビットレートを表すとしよう。すると、ラグランジェ乗数の方法［Ｈｅｕｓｅｒ−８２］から、λ₁の最適値は、拡張費用関数Ｅ［（ｘ−ｙ₁）²］＋μ・Ｈ₁（λ₁）（９）を最小化することにより見出だされる。式（９）におけるラグランジェ乗数μは制約により決定される。２つの極端な場合がある。Ｈ→∞について、ラグランジェ乗数はゼロに近づく、すなわち、μ→０、そして式（９）は式（７）に一致する。すなわち、結果的なビットレートには何の注意も払われず、ｍｓｅのみが最小化される。Ｈ→０についてはｄｃｔ係数ｙ₁は一切符号化できない。その結果、決定レベルｄ_1lは、ｌ＝１についてすでに無限大にちかづき、すなわちｄ₁₁→∞となり、すべての原係数ｘがゼロに量子化される。ｄ₁₁→∞となる後者の場合が、特別のブロックまた選択された範囲の周波数指数、たとえば、すべての高周波ｄｃｔ係数にのみ適用されるならば、式（９）および（１０）はｄｃｔ係数のスキッピングをもたらす。式（３）および（４）において特定される量子化器のｍｓｅおよびレート歪性能を評価するために、ＣＣＩＲ６０１テスト信号「ｍｏｂｉｌｅ」の最初の２５フレームを符号化した。λ₁の２つの値を用いた。すなわち、ａ）λ₁＝１およびｂ）λ₁＝０．７５である。ＭＰＥＧ−２テストモデルＴＭ５［ＴＭ５−９３］において提案された重みづけマトリクスは、周波数依存量子化について用いられた。第６図は、ｑｓｃａｌｅ₁の関数としての、結果的なピーク信号対雑音比｛ＰＳＮＲ｝を示す。ｑｓｃａｌｅ₁の意味については式（２）を参照。第６図：テスト信号「ｍｏｂｉｌｅ」に対する式（３）および（４）の量子化器のＰＳＮＲ／ｍｓｅ性能理論的結果によれば、最大のＰＳＮＲ値がλ₁＝１について達成される。ＰＳＮＲ値は、値がλ₁＝０．７５に変化すると約０．４ｄＢだけ降下する。しかしながら、λ₁＝０．７５は、第７図において明らかにされるように小さいビットレートおよび中間のビットレートに対するレート歪性能の点ではよりよい選択である。たとえばＰＳＮＲ＝３０ｄＢの所定の歪について、結果的なビット量は、 λ₁＝１の場合には約４５００００ビット／フレームであり、λ₁＝０．７５の場合には約４１００００ビット／フレームである。これは、後者の場合において約９％のビット節約をもたらす。逆に、４５００００ビット／フレームの所定のビット量に対して、ＰＳＮＲ値は、λ₁＝１からλ₁＝０．７５への変化に際して、３０ｄＢから３０．５ｄＢに約０．５ｄＢだけ増加する。上述したように、ビットレートが無限大であれば、やはりλ₁＝１のレート歪性能が最善である。したがって、ビットレートが増加する際には、第７図のレート歪曲線の間に交点が予測できる。これは第８図に示されている。３８ｄＢより大きいＰＳＮＲ値に対応する約１メガビット／フレームより大きいビットレートについては、結果はλ₁ ＝１の方が有利である。しかしながら、λ₁＝０．７５の結果との差違はかなり小さい。第７図式（３）および（４）の量子化器のための小さいビットレート及び中間ビットレートの場合のレート歪性能、テスト信号「ｍｏｂｉｌｅ」第８図式（３）および（４）の量子化器のための高ビットレートの場合のレート歪性能、テスト信号「ｍｏｂｉｌｅ」 λ₁＝０．７５の値は、ＭＰＥＧ−２テストモデルＴＭ５の量子化器のために「意図された」値である。整数丸め操作を含む式（３）および（４）の簡略化された計算により、ＴＭ５において用いられるλ₁の値は、ｑｓｃａｌｅ₁の値に依存する。さらなる詳細については［ＴＭ５−９３］におけるＴＭ５の説明を参照されたい。λ₁とＴＭ５のｑｓｃａｌｅ₁との関数的関係は第９図に示されている。第９図ＭＰＥＧ−２テストモデルＴＭ５、λ₁とｑｓｃａｌｅ₁との関数的関係ｑｓｃａｌｅ₁＝２について得られるラムダ値はλ₁＝１であり、これは、良好である。なぜなら、小さいｑｓｃａｌｅ₁値は高いビットレートに対応するからであり、そこでλ₁＝１は最善の選択である。ｑｓｃａｌｅ₁が増加すると、λ₁ の値は「意図された」値０．７５に近付く。ｑｓｃａｌｅ₁が４の倍数である場合、たとえば、ｑｓｃａｌｅ₁＝４，８，１２，１６，．．．であるならば、この値は、正確に一致する、すなわちλ₁＝０．７５となる。もちろん、実験結果は、λ₁＝０．７５が式（９）および（１０）のレート歪の観点における最適値であるという証拠を与えるものではない。λ₁の調整、あるいはより普遍的には、第１世代量子化器のレート歪性能を改善するために代表レベルの所定の集合について決定レベルを調整することは、別の問題であり、この論文の範囲を越えている。以下の章では、第２世代量子化器に集中し、決定レベルの調整における自由度を、効率的な変換符号化のためにどのよう用い得るかを調べる。３．変換符号化器におけるＭＰＥＧ−２互換量子化−変換符号化問題原ｄｃｔ係数ｘに対するアクセスを有する第１世代量子化器Ｑ₁と対照的に、変換符号化器に用いられる第２世代量子化器Ｑ₂は第１世代ｄｃｔ係数ｙ₁に対してのみアクセスを有する。すなわち、Ｑ₂は、第１世代ｄｃｔ係数を第２世代にマッピングする。ｙ₂＝Ｑ₂（ｙ₁）（１１）第１世代量子化器についてのｙ₁＝Ｑ₁（ｘ）（１２）を用いて、原ｄｃｔ係数と第２世代との関係はｙ₂＝Ｑ₂（Ｑ₁（ｘ））（１３）となる。理想的には、式（１３）におけるカスケード量子化の結果は、原ｄｃｔ係数へのアクセスを有する基準量子化器Ｑ_2,refの出力と同一でなければならない。ｙ_2,ref＝Ｑ_2,ref（ｘ）（１４）基準量子化器は、第１世代段階をバイパスし、原信号を第２世代の所望のビットレートに直接圧縮する独立型符号化器において用いられる。ｙ₂＝ｙ_2,refについて、変換符号化による追加の損失はない。そこで、どんな場合についてｙ₂＝ｙ_2,refが達成できるかについての調査を用いて、変換符号化問題の分析をはじめよう。一例として、第１０図は、第１世代のおよび変換符号化の基準の量子化器特性を示す。この例において、２つの変換符号化の基本的事例が生じる。事例１：第１の事例において、ｘ軸上の半開区間［ｄ_1l，ｄ_1(l+1)）を考える。各ｘ∈［ｄ_1l，ｄ_1(l+1)）が、代表レベルｙ₁＝Ｑ₁（Ｘ）＝ｒ_1l上に、第１世代量子化器によりマッピングされる。その結果、この代表レベルが変換符号化器特性ｙ₂＝Ｑ₂（ｙ₁＝ｒ_1l）によりどの第２世代の値ｙ₂にマッピングされるかに関係なく、結果として得られる式（１３）の特性は、常に、区間［ｄ_1l，ｄ_1(l+ ₁₎ ）全体にわたって一定である。しかしながら、式（１４）の基準量子化器は、区間［ｄ_1l，ｄ_1(l+1)）に対して代表レベルを変更する。各ｘ∈［ｄ_1l，ｄ_L,re _f ）は、代表レベルｙ_2,ref＝Ｑ_2,ref（Ｘ）＝ｒ_2(L-1)上にマッピングされ、各Ｘ∈［ｄ_L,ref，ｄ_1(l+1)）はｒ_2L上にマッピングされる。変換符号化器のついてのジレンマは、区間［ｄ_1l，ｄ_1(l+1)）全体をｒ_2(L-1)上またはｒ_2L上にマッピングするしかないことである。明らかに、最終選択がどのようになされるかに関係なく、ｙ₂＝ｙ_2,refはすべてのｘ∈［ｄ_1l，ｄ_1(l+1)）について達成可能ではない。事例２：第２の事例において、ｘ軸上の区間［ｄ_1(l+1)，ｄ_1(l+2)）を考える。この事例において、基準量子化器は、区間［ｄ_1(l+1)，ｄ_1(l+2)）全体を代表レベルｒ_2L上にマッピングする。したがって、変換符号化器がマッピングｒ_2L＝ｙ₂＝Ｑ₂（ｙ₁＝ｒ_1(l+1)）（１５）を用いるのであれば、ｙ₂＝ｙ_2,refは、すべてのｘ∈［ｄ_1(l+1)，ｄ_1(l+2)）について達成可能である。第１０図第１世代および変換符号化のための基準の量子化器特性事例１は、ｘ軸全体に対してｙ₂＝ｙ_2,refを満足するためには避けねばならない。これは、基準量子化器の決定レベルの集合｛ｄ_L，_ref｝が、第１世代量子化器の決定レベル集合の｛ｄ_1l｝の部分集合を形成する場合に達成される。｛ｄ_L,ref｝⊆｛ｄ_1l｝（１６）式（５）における決定レベルのパラメータ的説明のために、条件（１６）は、それぞれ第１および第２世代の量子化ステップサイズｑ₁およびｑ₂を含む等価条件に変換することができる。式（１７）はつぎのとおり読み取られる。それぞれ第１世代と基準量子化器の所定のパラメータλ₁およびλ_2,refについて、（１７）の中間項が、同時にステップサイズの比ｑ₂／ｑ₁に等しくなければならない別の正の整数ｋになるような正の整数ｎ₀が存在するならば、ｙ₂＝ｙ_2,refはｘ軸全体について達成可能である。一例として、λ₁＝λ_2,ref＝１である第１世代および基準量子化器のためのｍｓｅ費用関数の場合には、式（１７）はｑ₂／ｑ₁＝（２・ｎ₀＋１）＝ｋとなる。これは、比ｑ₂／ｑ₁が奇数値の整数たとえば３，５，７，．．．に等しくなければならないことを意味する。一般に、任意のｑ₁およびｑ₂に対して、条件（１７）を満たすことはできない。そしてその結果、変換符号化による追加の損失が生じる。この損失は事例１により説明することができる。第１０図から、ｙ₂およびｙ_2,refの間の不整合は、決定レベルｄ_L,refが区間［ｄ_1l，ｄ_1(l+1)）の中央に一致する場合に特別大きい。λ₁＝λ_2,ref＝１の上記例について、これは、偶数比ｑ₂／ｑ₁＝２，４，６，．．．により示される。しかしながら、事例１は、式（１７）が満たされないのであれば、全体を通じて生じることはない。第１世代量子化器の決定区間は、２つのクラス、すなわち、事例１に属するものたとえば第１０図の［ｄ_1l，ｄ_1(l+1)）と、事例２に属するものたとえば第１０図の［ｄ_1(l+1)，ｄ_1(l+2)）に区分される。一般に、得られる２つのクラスは、割り当てられた区間を同数もってはいない。事例１に属する区間の割合は、ｑ₁およびｑ₂ならびにλ₁およびλ_2,refに依存する。第１０図と比較して、事例１区間の割合は、比ｑ₂／ｑ₁が無限大に向かうにつれて漸近的にゼロに向かって減少していく。実際、ｑ₂／ｑ₁＝∞はｎ₀，ｋ→∞についての式（１７）の特別な場合とみなすことができる。したがって事例２の区間は全体にわたって保証される。ｑ₁＞０についてこれはｑ₂＝∞をもたらし、このことは、変換符号化器ならびに基準量子化器におけるｄｃｔ係数のスキッピングとして解釈することができる。しかしながら、ｄｃｔ係数のスキッピングは、複雑な基準量子化器が良好なレート歪性能を達成するためのデフォルトではない場合もある。たとえば式（３）および（４）により定義される基準量子化器である。したがって、事例１の区間における変換符号化による追加の損失を最小化する技術が要求される。この問題は次の章で検討する。４．変換符号化器において用いられる第２世代量子化器Ｑ₂の設計前章の結果から、式（１５）のマッピングを事例２の区間について変換符号化器に適用しなければならない。したがって、この章は事例１の区間に集中する。事例１の説明に戻って、変換符号化器は、第１０図の区間［ｄ_1l，ｄ_1(l+1)）に対する２値決定をとらねばならない。区間［ｄ_1l，ｄ_1(l+1)）は変換符号化器において第１世代レベルｙ₁＝Ｑ₁（ｘ）＝ｒ_1lにより表現されるため、決定は、ｙ₁ ＝ｙ_1lを第２世代代表レベルｙ₂＝ｒ_2(L-1)あるいはｙ₂＝ｙ_2Lにマッピングすることである。この決定は、費用関数の最小化にもとづいてなされた。ここで２つの費用関数について考察する。４．１ＭＳＥ費用関数第３章の式（７）と同様に、二乗平均誤差（ｍｓｅ）費用関数を用いることができ、その結果、期待値Ｅ［（ｘ−ｙ₂）²］（１８）が得られる。このように、この費用関数の目的は、原ｄｃｔ係数ｘと、変換器特性ｙ₂＝Ｑ２（ｙ₁）から導かれる第２世代係数ｙ₂の間のｍｓｅを最小化することである。式（１８）のｍｓｅ費用関数について、対応する基準量子化器Ｑ_2,refは、パラメータλ_2,ref＝１および第２世代ステップサイズｑ₂を用いて式（３）および（４）により定義される。そこで、第１０図の決定レベルｄ_L,refは式（８）により代表レベルと関連づけられる。すなわち、変換符号化器は第１世代係数ｙ₁に対するアクセスを有しているため、この情報は、式（１８）の項を最小化するために用いることができる。したがって、ｍｓｅ費用関数は、ｙ₁に依存する条件付き期待値を導入することにより拡張される。Ｅ［（ｘ−ｙ₂）²］＝Ｅ［Ｅ［（ｘ−ｙ₂）²｜ｙ₁］］（２０）式（２０）を用いて、結果として得られる２値決定則は、第１０図の事例１区間［ｄ_1l，ｄ_1(l+1)）について下記のとおり書きあらわすことができる。Ｅ［（ｘ−ｒ_2(L-1)）²｜ｙ₁］＜Ｅ［（ｘ−ｒ_2L）²｜ｙ₁］Ｅ［（ｘ−ｒ_2(L-1)）²｜ｙ₁］＞Ｅ［（ｘ−ｒ_2L）²｜ｙ₁］ならば式（２１）の条件付き期待値は、原ｄｃｔ係数ｘの確率密度関数（ｐｄｆ）ｐ（ｘ）に依存する。ｐｄｆは、ひとつの値ｘが区間［ｄ_1l，ｄ_1(l+1)）に入る確率Ｐ_1lを決定し、第１世代レベルｙ₁＝Ｑ₁（Ｘ）＝ｒ_1lにマッピングされる。局部的セントロイドの定義および式（１９）の決定レベルを用いて、式（２１）の決定則は、直接的計算ののち、つぎのとおり再記述することができる。ｃ_1l＜ｄ_L,ref ｃ_1l＞ｄ_L,ref ならば式（２４）におけるｃ_1l＝ｄ_L,refの場合には、ｒ_2(L-1)およびｒ_2Lの間で任意決定をなすことができる。しかしながら、この場合には、決定は低いレベルすなわちｒ_2(L-1)の方が有利である。これは、一般に、より低い振幅レベルがより短いＭＰＥＧ−２符号語に対応するからである。４．１．１ｍｓｅ費用関数の実施形態変換符号化器において（２４）を実施するにはいくつかの方法がある。ここで、量子化特性ｙ₂＝Ｑ₂（ｙ₁）としてのｍｓｅ費用関数の直接的実施を概説する。第１世代係数ｙ₁＝ｒ_1lが与えられると、変換符号化器は、ｘ軸上の対応する区間［ｄ_1l，ｄ_1(l+1)）を計算することができる。たとえば式（３）および（４）の第１世代量子化器について次式が得られる。そしてｄ_1(l+1)＝ｄ_1l＋ｑ₁ （２６）ちなみに、式（２５）および（２６）において要求される第１世代量子化器ステップサイズｑ₁は、ＭＰＥＧ−２ビットストリームのどれかにおける付随情報として伝送しなければならない。しカルながら、パラメータλ₁はＭＰＥＧ−２においては指定できないので、たとえば、第１世代ビットストリームにおけるユーザデータとして、付加的に信号を送らねばならない。ユーザデータの定義については［ＭＰＥＧ−２］を参照されたい。区間［ｄ_1l，ｄ_1(l+1)）を計算し終わると、対応する第２世代代表レベルを、やはり第１０図参照の基準量子化器Ｑ_2,refを用い、ｍｓｅ費用関数に対してλ₂ _,ref ＝１を用いて、決定することができる。および式（２７）および（２８）を用いて、対応する決定レベルｄ_L,refが式（１９）から計算できる。ｐｄｆｐ（ｘ）は、式（２２）および（２３）により局部的セントロイドｃ_1l を計算するのに必要である。追加の付随情報の量を節約するため、変換符号化器は、いくつかのパラメータのみを含む、ｐ（ｘ）についてのモデル記述を利用することができる。原ｄｃｔ係数ｘの統計を説明するのに適したパラメータモデルを次の第５章において詳述し検証する。さて、式（２４）の決定則を適用するための、すべてのパラメータすなわちｒ_2(L-1) ，ｒ_2L，ｄ_L,refおよびｃ_1lが利用可能となった。量子化器特性の観点において（２４）のよりコンパクトな形態は、つぎのように記述される。式（２９）は、局部的セントロイドｃ_1lの関数として第２世代係数ｙ₂を定める。しかしながら、我々はむしろ変換符号化器の量子化特性ｙ₂＝Ｑ₂（ｙ₁）に興味をもっているため、局部的セントロイドは第１世代係数ｙ₁に関連づけねばならない。式（２５）におけるように、局部的セントロイドｃ_1lは、セントロイドを決定レベルｄ_1lに関連付けるパラメータμ_1lにより特定することができる。明らかに、μ_1l＝１について、局部的セントロイドは長さｑ₁の決定区間［ｄ₁ _l ，ｄ_1(l+1)）の中心に一致する。式（２５）および（３０）から次式が導かれる。（３１）を（２９）に挿入した後、を定義することにより、所望の結果を得る。このように、式（３３）の変換符号化器の量子化器特性は、式（３）の第１世代のものと実質的に同一である。しかしながら、（３２）からわかるように、パラメータλ₂は一般に定数ではなく、変動するｙ₁とともに変化し得るμ_1lの実際の値に依存する。すなわち、第１世代パラメータλ₁とは対照的に、第２世代パラメータλ₂は、一般に、変換符号化器の量子化器の実際の入力値ｙ₁に依存する。にもかかわらず、ｐｄｆｐ（ｘ）に依存する特別な場合において、パラメータλ₂は、定数となり得る。たとえば均一なｐｄｆすなわちｐ（ｘ）＝定数に対して、式（２２）、（２３）、（３０）から、全体を通じてμ_1l＝１であり、式（３２）の結果として、λ₂もまた定数となる。一定のパラメータλ₂をもつ別の特別な場合は、式（３２）においてμ_1l＝λ₁が成立するならば生じる。この場合には、各第１世代係数ｙ₁は対応する局部的セントロイドｃ_1lに一致する。式（３１）参照。これにより第２世代に対してλ₂＝１となる。４．２ｍｓｅからｍａｐ費用関数へ式（３３）に加えて、ｍｓｅ決定則の別の直観的解釈がある。したがって、式（３０）によるパラメータμ_1lで局部的セントロイドｃ_1lを置換することにより式（２４）を再記述しなければならない。再配列の後、次式が得られる。ならば第１０図を用いて、式（３４）の項（ｄ_L,ref−ｄ_1l）／ｑ₁は、長さｑ₁の区間［ｄ_1l，ｄ_1(l+1)）について均一なｐｄｆｐ（ｘ）＝ｃｏｎｓｔの場合に第１世代係数ｙ₁＝ｒ_1lが与えられたとき、原ｄｃｔ係数ｘが区間［ｄ_1l，ｄ_L,ref ）に入る事後確率Ｐ_uniとして解釈することができる。すなわち、これは興味深い結果である。一般にｐｄｆｐ（ｘ）は不均一であるが、式（３４）はＰ_uniを計算してこの値をしきい値μ_1l／２と比較することを示唆している。一般に、事後確率Ｐ_mapはつぎのとおりｐｄｆに依存する。ここで、分母Ｐ_1lは式（２２）におけると同様に定義される。相補的事後確率は次式によって与えられる。ｐ（ｘ）＝ｃｏｎｓｔである特別な場合について、式（３６）の事後確率Ｐ_ma _p は式（３５）のＰ_uniと同一になる。また、局部的セントロイドに関連付けられるパラメータは、全体を通じてμ_1l＝１となる。そこで、この特別な場合について、式（３４）の決定則は式（３６）および（３７）を用いて次のとおり再記述することができる。ならば一般に非均一ｐｄｆすなわちｐ（ｘ）≠ｃｏｎｓｔについて、式（３８）の決定則は式（３４）のｍｓｅ決定則とは一致しない。（３８）の決定は、Ｐ_mapあるて、式（３８）はｍａｐ決定則と呼ばれる。式（３４）のｍｓｅ決定則と式（３８）のｍａｐ決定則とのもうひとつの重要な相違は、基準量子化器Ｑ_2,refがｍｓｅの場合には固定されているがｍａｐの場合には任意で有り得ることである。ここで、Ｑ_2,refは式（３６）および（３７）における第２世代決定レベルｄ_L,refを決定し、したがって、事後確率にたいして重要な影響をもつ。一例として、ｍａｐ決定則は、パラメータλ_2,refによりスパンされる、式（３）および（４）の基準量子化器Ｑ_2,ref＝１のクラスに適用することができる。λ_2,ref＝１の特別な場合において、ｍｓｅ費用関数の基準量子化器が得られる。しかしながら、すでに述べたように、ｍａｐ決定則は、さらに、ｐｄｆが一定であれば、ｍｓｅ決定則とのみ一致する。ｍａｐ決定則について基準量子化器を選択する自由度は、Ｑ_2,ref特性を特定することにより利用することができ、これは複雑なレート歪性能をもたらす。このように、ｍａｐ決定則は、ｍｓｅのみならず結果のビット量を考慮にいれることができ、これは、レート歪の観点においてｍｓｅ決定則と比較してより適切である。式（３４）のｍｓｅ決定則が式（１８）の費用関数を最小化するため、こんどはどんな費用関数が式（３８）のｍａｐ決定則により最小化されるかについて考えることができる。ｍａｐ決定則が次式の費用関数Ｅ［（ｙ_2,ref−ｙ₂）²］（３９）を最小化することを検証するのは難しいことではない。ここで、ｙ₂およびｙ_2,r _ef はそれぞれ式（１３）および（１４）に定義されている。興味深いことに、やはり最後にくるものは二乗平均誤差である。しかしながら、式（３９）のｍｓｅは、レート歪の観点で、式（１８）のｍｓｅよりもより適切である。この章の最後に、注目すべきは、ｍｓｅとｍａｐの費用関数の両方ともにＢａｙｅｓｉａｎ費用関数「Ｍｅｌｓａ−Ｃｏｈｎ］のグループに属することである。５．ｄｃｔ係数の統計を記述するためのパラメータモデルｍｓｅおよびｍａｐ費用関数の両方を適用するには、変換符号化器は、原ｄｃｔ係数ｘのｐｄｆｐ（ｘ）を知る必要がある。基本的に、２つの可能なアプローチがある。第１の場合には、ｐ（ｘ）は、第１世代ビットストリームとともに、追加の付随情報として伝送される。第２には、追加の付随情報は一切伝送されず、ｐ（ｘ）は第１世代ｄｃｔ係数ｙ₁から推定される。第１の場合には追加の付随情報の量を制限する数個のパラメータのみを含むパラメータモデルが必要とされる。さらに第２の場合にも、数個のパラメータのみをもつパラメータモデルが必要である。これは、再構築された係数ｙ₁は十分な振幅範囲をカバーしないことがあり及び／またはそれらの数が、多数のパラメータについて確実な推定値を達成するのに十分ではないことがあるからである。この問題は、「文脈希釈［ context dilution］」として知られている［Ｒｉｓｓａｎｅｎｅｔａｌ−９６］。以下のステップにおいて、両方の場合に適した共通パラメータモデルが導き出される。第１のステップにおいて、ｐ（ｘ）を、ラプラス様ｐｄｆとして、次式のようにモデル化することを提案する。これは、ひとつの正のパラメータαにより記述することができる。先験的に、８ ×８ブロックのＡＣ係数が同じ分布を共有すると想定することはできない。したがって、個々のα値が各ＡＣ周波数指数に対して特定され、全部で６３個のパラメータが得られる。ｄｃｔ係数の離散的性質により、代表レベルｙ₁＝ｒ_1l＝ｌ・ｑ₁に遭遇する確率Ｐ_1lは式（２２）により与えられる。ｑ₁＝１の特別な場合について、Ｐ_1lは原ｄｃｔ係数ｘの確率とみなすことができる。（４０）のパラメータモデルが原ｄｃｔ係数ｘに対して適切であるかどうかをチェックするために、ＣＣＩＲ６０１テスト信号「ｍｏｂｉｌｅ」の連続する１０個のフレームについてのヒストグラムが計算される。式（４０）における正及び負の振幅についての対称性推定により、絶対振幅レベル｜ｘ｜＝ｌの相対周波数ｎ_l／Ｎが計測される。ここる。結果は６３個のＡＣ周波数すべてについて同様であり、選択された水平および垂直周波数指数の３つの例を第１１図に示す。各曲線は｜ｘ｜＝ｌ＝１においてその最大値をもち、ｌの増加にともなって急速に低下する。｜ｘ｜＝ｌ＝１における最大値は、より高い周波数についてより大きく鋭く突出し、このことは、周波数が増加すると偏差が減少することを示す。同様な結果が他のテスト信号について得られた。質的に、第１１図に示す種類の曲線は、パラメータαを適宜調節することにより式（４０）を用いて生成することができる。最善のパラメータ適合を得るために、第１世代量子化器により非ゼロ代表レベルｙ₁≠０上にマッピングされるｘ値についてのみｐｄｆｐ（ｘ）を変換符号化器が知る必要があるという事実を利用することができる。これは、第１世代係数ｙ₁＝０はつねに第２世代係数ｙ₂＝０上にマッピングされるからである。しｄ₁₁は最小の正の第１世代決定レベルである。第１１図異なる水平および垂直周波数指数についての原ｄｃｔ係数の絶対振幅レベルのヒストグラム、テスト信号「ｍｏｂｉｌｅ」式（５）のパラメータ記述について、ｄ₁₁＝（１−λ₁／２）・ｑ₁を得る。第１世代量子化ステップサイズｑ₁に非依存となるためには、ｄ₁₁の値は、ｄ₁₁＝（１−λ₁／２）・ｑ_minに設定することができ、ここでｑ_minは、式（２）を満たす可能な限り最小のステップサイズである。したがって、ｐｄｆは次式のようにモデル化される。式（４１）におけるパラメータβは、｜ｘ｜＞ｄ₁₁の範囲についてのみ計算した場合に、積分∫ｐ（ｘ）ｄｘが１より小さいことを考慮したものである。βの値は、次の条件に合わせるために用いることができる。式（４２）の右側は、第１世代量子化器によりｙ₁＝０に共通にマッピングされる絶対値｜ｘ｜＝ｌの計測相対周波数ｎ_l／Ｎにより決定される。後者は、決定レベルｄ₁₁に依存する指数ｌ₀により式（４２）において示されている。すなわち、（４２）の右側にあらわれる合計を計算するかわりに、事象ｙ₁＝０の相対周波数ｆ₀を計測することもできる。重要なこととして、ｍｓｅおよびｍａｐ費用関数の両方に式（４１）のパラメータモデルを適用するには、βは必要でないことに注目する。式（２２）および（２３）を用いた局部的セントロイドの計算中に、βの値は、式（２３）の最上部と最下行にあらわれるために相殺される。相殺は、式（３６）および（３７）の事後確率の計算中に、ｍａｐ費用関数についても発生する。そこで、αの値だけが変換符号化器において必要である。その結果として、式（４１）は、式（４０）よりも、第１１図に示す曲線に対するより良好な適合を提供し、その結果、付随情報を増加させることなくパラメータαのより正確な推定値が得られる。確率Ｐ_1lは、式（２２）に式（４１）のパラメータモデルを挿入することにより、式（５）の決定レベルのパラメータ記述について評価することができる。条件（４２）をも考慮した直接的な計算の後、次式が得られる。式（４３）は、第１世代係数ｙ₁＝ｒ_1l＝ｌ・ｑ₁が観察される確率を示すことに注意しよう。第１世代量子化器パラメータλ₁は式（４３）において必要ではなくステップサイズｑ₁だけでよいことに注目することが重要である。パラメータモデル（４１）の対称性推定により、（４３）の結果としてＰ_1l＝Ｐ_1(-l)を得る。ｌ＝０について、確率はＰ₁₀＝ｆ₀に設定される。（４３）における最大指数すなわちＬは、ＡＣ係数についての可能な最大値Ｌ＝１０２４に設定することができる。あるいは、より正確に、変換符号化器において実際に遭遇する最大値に、設定してもよい。式（４３）は第１世代係数ｙ₁からパラメータαを推定するための基礎を構成するものの、原係数ｘからαを推定するための対応する数式を必要とする。すでに述べたとおり、原ｄｃｔ係数は、ステップサイズｑ₁＝１の特別な場合として生ずる。すなわちｘ＝ｙ₁＝ｒ_1l＝ｌ・１である。条件（４２）と組み合わせるとき、式（４３）は次のとおり修正しなければならない。先の場合におけるように、式（４４）により定義されない｜Ｉ｜＜ｌ₀の範囲の指数についての確率は、原ｄｃｔ係数ｘの対応する相対周波数の値に設定することができる。まず、式（４３）によりパラメータαを推定することに集中する。理想的には、式（４３）のモデル確率Ｐ_llは、変換符号化器において計測できる第１世代係数ｙ₁＝ｒ_1l＝ｌ・ｑ₁の相対周波数ｆ₁と一致しなければならない。しかしながら、モデル内にはただひとつの自由パラメータ、すなわちα、のみがある。したがって、Ｐ_1l＝ｆ_lは、一般に、各指数ｌについて達成可能ではない。符号化独立変数は、αを調整するためのガイドラインとして用いることができる。（４３）のパラメータモデルを第１世代係数ｙ₁を符号化するのに用いたとしたら、最小平均符号語長ｃｗｌは、次式のとおり得られるはずである。ｃｗｌは、式（４５）において対数を２を底としてとるならば、「係数あたりビット」単位で与えられる。（４５）の右側は、全体に、Ｐ_1l＝ｆ_lが成立する場合にのみ到達可能なｃｗｌの下限である（一次）ソースエントロピーをあらわす。目標は、いまや、結果として得られるｃｗｌが最小化されソースエントロピーｅｎｔにできるかぎり近くなるような確率Ｐ_1lのパラメータαを調整することである。さらに、興味深いこととしてｃｗｌが次式のように書きあらわされることに注目する。ここで、Ｐ（ｙ₁₁，ｙ₁₂，．．．，ｙ_1N）は、ある操作順序ｙ₁₁，ｙ₁₂，．．．，ｙ_1Nに配列されたすべての第１世代係数ｙ₁についてパラメータモデル（４３）から得られる結合確率をあらわす。（４６）の結果として、αを調節することによるｃｗｌの最小化は、観察された係数ｙ₁₁，ｙ₁₂，．．．，ｙ_1NについてのＰ（ｙ₁₁，ｙ₁₂，．．．，ｙ_1N）の最大化に一致する。このように、パラメータ αは最大尤度（ＭＬ）推定により決定されることがわかる。 αについてのML推定値は、（∂／∂α）ｃｗｌ＝０を用いて計算することができる。この計算を簡略化するため、式（４３）における最大指数Ｌが無限大に向かうときに生じるＰ_1lのパラメータモデルを挿入することにより、式（４６）を評価する。これは、実際には、Ｌが非常に大きい、たとえばＬ＝１０２４であるという事実により正当化される。Ｌ→∞について、微分および再配列ののちに次式が得られる。式（４７）において、αの値は、間接的にｚ＝ｅ−（α・ｑ₁）により与えらの測定された平均値をあらわす。式（４７）から、αに対するＭＬ推定値を得る。代係数から測定して（４９）のＭＬ推定値を決定すればよい。パラメータαが第１世代係数ｙ₁からではなく、原ｄｃｔ係数ｘから推定される場合には、対応する結果が得られる。この場合には、ＭＬ推定値を導き出すために式（４３）の代わりに式（４４）が用いられる。により与えられる。さきに触れたように、式（５１）におけるｎ₁／Ｎは、絶対値｜ｘ｜＝ｌの相対周波数をあらわす。やはり第１１図参照。式（５０）および（５１）のＭＬ推定は、ｑ₁＝ｌ₀＝１の特別な場合における式（４８）および（４９）のＭＬ推定と一致する。一般に、パラメータαについて異なる推定値が得られる。原ｄｃｔ係数によりより多くの情報が提供されるため、（５０）および（５１）を用いたＭＬ推定はより正確である。しかしながら、そのときには、パラメータαは、追加の付随情報として信号伝送しなければならない。この場合には、αよりもｚ＝ｅ^- ^αを信号伝送することがより好都合である。これは、ｚ値は正規化された ractional binary number］に丸めることができるからである。（５０）および（５１）と対照的に、（４８）および（４９）を用いたＭＬ推定は、変換符号化器に送らなければならない追加の付随情報を必要としない。一例として、パラメータαを、式（５０）および（５１）を用いることにより原ｄｃｔ係数ｘから第１１図の各曲線について推定した。ｌ₀の値を決定するために、決定レベルｄ₁₁はにしたがって設定され、その結果が得られた。る。得られたｚ＝ｅ^- ^αのＭＬ推定値は、ｑｓｃａｌｅ_min＝２以上のすべてのｑｓｃａｌｅ値に対して用いることができる。式（５３）によれば、ｌ₀の値は、ＡＣ係数の水平および垂直周波数指数とともに変化する視覚重みｗ₁にのみ依存する。ＭＰＥＧ−２テストモデルＴＭ５の重みづけマトリクスが用いられた。さらに、推定されたｚ値は、８ビット長の２進分数に丸められた。第１２ａ〜１２ｃ図は、第１１図の測定されたヒストグラムと比較した、式（４４）の得られたモデル確率を示す。ここで第１２ａ〜１２ｃ図において、絶対振幅レベルに対すれている。第１２ａ図：式（４４）によるモデル確率（実線）と原ｄｃｔ係数の絶対振幅レベルについてのヒストグラム（破線）、テスト信号「ｍｏｂｉｌｅ」第１２ｂ図：式（４４）によるモデル確率（実線）と原ｄｃｔ係数の絶対振幅レベルについてのヒストグラム（破線）、テスト信号「ｍｏｂｉｌｅ」第１２ｃ図：式（４４）によるモデル確率（実線）と原ｄｃｔ係数の絶対振幅レベルについてのヒストグラム（破線）、テスト信号「ｍｏｂｉｌｅ」６．パラメータモデルについてのｍｓｅおよびｍａｐ費用関数の評価本章においては、式（４１）のｐｄｆｐ（ｘ）のパラメータモデルについて、ｍｓｅおよびｍａｐ費用関数の両方を評価する。モデルパラメータαは、前章において説明したように推定することができる。ｍｓｅおよびｍａｐ費用関数の比較を容易にするために、式（３４）および（３８）の得られる決定則をそれぞれ考察する。最初に、式（３４）のｍｓｅ決定則を評価する。ｐｄｆｐ（ｘ）は、式（３０）による局部的セントロイドｃ_1lに関するパラメータμ_1lを決定する。局部的セントロイドｃ_1lは、式（２２）および（２３）に式（４１）のパラメータモデルを挿入することにより、式（２５）および式（２５）および（２６）の決１を考えることができ、結果は、対応する負の指数−ｌについて反転することができる。計算により次式が得られる。式（３０）から、ｃ_1l＝ｄ_1l＋μ_1l／２・ｑ₁が得られ、式（５４）との比較により、式（５５）から、局部的セントロイドパラメータμ_1lは、実際の第１世代係数ｙ₁＝ｒ_1l＝ｌ・ｑ₁により変換符号化器において選択される指数１に依存するのではなく、推定パラメータαおよび第１世代ビットストリームから復号化されるステップサイズｑ₁にのみ依存することが導かれる。そこで、式（４１）のパラメータモデルにより定義されるラプラス様ｐｄｆは、４．１．１章の最終段落ですでに考察した特別な場合からはなれた、一定のパラメータμ_1lを生じる別の場合である。したがって、式（４１）のパラメータモデルは、やはり、変換符号化器におけるｍｓｅ決定則を実施するための複雑度を低減させる。第２に、パラメータモデルを、式（３８）のｍａｐ決定則について評価する。式（２５）（２６）の決定レベルならびに式（４１）のモデルｐｄｆについて式（３６）および（３７）の事後確率を計算した後、式（３８）のｍａｐ決定則は、式（３４）のｍｓｅ決定則と同様の形に書き直すことができる。ならば式（５６）におけるｍａｐ閾値は次式で与えられる。ここで、ｌｎ（ａ）は、独立変数ａの自然対数、すなわち、底ｅに対する対数である。このように、ｍａｐ決定則は、式（４１）のパラメータモデルについてのｍｓｅ決定則と実質的に同様に実現することができることがわかる。主な相違は、ｍｓｅ閾値が式（５５）により、ｍａｐ閾値が式（５７）により定義されること、ならびに、決定レベルｄ_L,refがｍｓｅの場合には固定されているが、４．２章ですでに説明したようにｍａｐの場合には基準量子化器Ｑ_2,refに依存して変化することである。同じ推定パラメータαをｍｓｅおよびｍａｐ費用関数の両方に用いることができる。したがって、変換符号化器は、追加の付随情報をさらに増加させることなく、局部的にたとえば８×８ブロックベースで、ｍｓｅおよびｍａｐ費用関数を切り換えるオプションを有する。７．実験結果先の各章において導き出された理論的結果を検証するために、第３図および第４図の変換符号化セットアップを、ＣＣＩＲ−６０１［ＣＣＩＲ−６０１］フォーマットのテスト信号「ｍｏｂｉｌｅ」の１０個の連続するフレームについてシミュレートした。ＭＰＥＧ−２テストモデルＴＭ５［ＴＭ５−９３］は、ＭＰＥＧ−２独立型符号化器のための広く認知された基準であるため、第１世代量子化器Ｑ₁を、実験全体を通じてＴＭ５量子化器特性に固定した。変換符号化器の量子化器特性Ｑ₂を、第１の実験においてＴＭ５に固定した。一例として、対応するｑｓｃａｌｅ値をｑｓｃａｌｅ₂＝３２に固定した。この値は、ＰおよびＢフレームを含む３Ｍｂｉｔ／ｓシミュレーションについて用いられるＩフレーム調整に概ね対応する。ＭＰＥＧ−２の線形ｑｓｃａｌｅテーブルにしたがって、第１世代符号化器において用いられるＴＭ５量子化器のｑｓｃａｌｅ値を、ｑｓｃａｌｅ₁＝２，４，６，８，．．．，３２の範囲において変化させた。このように、変換符号化は、異なる第１世代ビットレートと第２世代のための固定目標ビットレートについてシミュレートされた。第２世代ビットストリームｂ₂から再構築された画像信号ｓ₂について結果として得られたＰＳＮＲ値は、第１３ａ図において、ｑｓｃａｌｅ₁の関数として示されている。参考として、実線は、第１世代をバイパスしｑｓｃａｌｅ値３２を用いて原信号を直接符号化する独立型ＴＭ５符号化器の結果として得られたＰＳＮＲ値を示す。信号対雑音比のピーク値は、ＰＳＮＲ＝１０・ｌｏｇ₁₀［２５５²／ｍｓｅ］として、原信号と第２世代信号のあいだの平均二乗誤差に関連づけられている。さらに、第１３ｂ図は、ＭＰＥＧ−２イントラｖｌｃテーブルを用いて第２世代ＡＣ係数を符号化するために必要なビット量を示している。第１３ａ図：固定されたｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＰＳＮＲ、ＴＭ５、テスト信号「ｍｏｂｉｌｅ」第１３ｂ図：固定されたｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＡＣビット量、ＴＭ５、テスト信号「ｍｏｂｉｌｅ」基準値と比べた場合、ＰＳＮＲ値は、１６〜２０の範囲におけるｑｓｃａｌｅ₁ の中間値について、１ｄＢを越えるほど、急激に低下する。同時に、結果的なビット量はかなり変動する。この場合には、結果として得られる比ｑｓｃａｌｅ₂ ／ｑｓｃａｌｅ₁＝ｑ₂／ｑ₁は２前後である。これは、３章における式（１７）の考察において説明したように、変換符号化については好ましくない。一例として、ｑｓｃａｌｅ₁＝２０について、ＰＳＮＲ値は基準ラインよりも約１．５ｄＢ低く、一方、結果として得られるビット量は、基準値および変換符号化信号についてほぼ（３％以内）同一である。第１３ａ、１３ｂ図参照。ｑｓｃａｌｅ₁ が２２に増加すると、ＰＳＮＲ値が復帰し基準ラインのわずか０．１ｄＢ下になる。しかしながら、このときビット量は基準ラインを約２９％も上まわって急激に超過する。連続するｑｓｃａｌｅ₁値のあいだのこのようなかなりの変動は、変換符号化器に用いられるいかなるレート制御法に対しても最も好ましくない影響をもち、その結果第２世代の画像品質が悪くなる。ＰＳＮＲ値は、ｑｓｃａｌｅ₁値がｑｓｃａｌｅ₂に近づくと回復するが、得られるビット量はかなり大きい。ｑｓｃａｌｅ₁＝ｑｓｃａｌｅ₂＝３２について、トランスペアレンシーが達成される。すなわち、第１および第２世代ビットストリームが等しくなる。ＴＭ５量子化器は、２〜８の範囲における小さなｑｓｃａｌｅ値について最善の結果を提供する。明らかに、第１世代ｄｃｔ係数は、ｑｓｃａｌｅ₁が小さいとき、より少ない量子化ノイズを含み、その結果、第２世代および基準信号の間の相違も小さくなる。同様の結果が他のテスト信号についても得られた。［ＯＷ−ＢＢＣ−１］ＴＭ５量子化器特性に加え、変換符号化器は、ｍｓｅとｍａｐ費用関数のいずれかを用いるというオプションを有している。いずれを選択するかの決定は、レート歪性能に基づいて行なうことができる。得られるＰＳＮＲ／ｍｓｅ値は、ｐｄｆｐ（ｘ）についての式（４１）のパラメータモデルを用いることにより変換符号化器において推定し比較することができるが、各８×８ブロックのＭＰＥＧ−２互換２次元（ランレングス、振幅）事象を形成し、イントラｖｌｃテーブルから各符号語長を探すことにより、得られるビット量を各費用関数について計算しなければならないとしたらかなり複雑になるだろう。式（４５）におけるように、変換符号化器が一次ソースエントロピーを計算することはそれほど複雑ではない。これは、その場合には、第２世代係数についてのヒストグラム計数のみが必要だからである。第１４ａ図は、６３個のＡＣ係数すべてについて合計したソースエントロピーとの比較において、８×８ブロックについて縮小した第１３ｂ図のＭＰＥＧ−２イントラｖｌｃについてのビット量を示す。第１４ａ図に示す２つの曲線は実質的に同じ形状を有することがわかる。このことは、各ｑｓｃａｌｅ₁値についてそれらの比を計算すれば確認される。第１４ｂ図参照。この比はほぼ一定、すなわち０．８４である。このように、ビットレートの点でのｍｓｅおよびｍａｐ費用関数とＴＭ５性能の比較は、やはり、ＭＰＥＧ−２イントラｖｌｃを用いることよりもソースエントロピーベースで実施することができる。第１４ｂ図に示すもうひとつの興味深い結果は、ＭＰＥＧ２次元（ランレングス、振幅）モデルのかわりにＡＣエントロピーソースモデルを用いることにより、約１６％ものビットレートを節約できることである。しかしながら、この結果はＭＰＥＧ−２互換ビットストリームについて利用することはできない。第１４ａ図：第２世代ＡＣ係数のビット量：ＭＰＥＧ−２イントラＶＬＣ対一次ソースエントロピー、テスト信号「ｍｏｂｉｌｅ」第１４ｂ図：ビット量比：ＭＰＥＧ−２イントラＶＬＣ（実線）に対する一次ソースエントロピー、比＝０．８４（破線）、テスト信号「ｍｏｂｉｌｅ」第１５ａ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＰＳＮＲ；ｍｓｅ（上側の線）、ｍａｐ／λ_2,ref＝０．９０（真中の線）、ＴＭ５（破線）、テスト信号「ｍｏｂｉｌｅ」第１５ｂ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＡＣエントロピー；ｍｓｅ（上側の線）、ｍａｐ／λ_2,ref＝０．９０（真中の線）、ＴＭ５（破線）、テスト信号「ｍｏｂｉｌｅ」次の実験において、ｍｓｅおよびｍａｐ費用関数をシミュレートした。ｍａｐ費用関数の基準量子化器Ｑ_2,refは、式（３）および（４）に従うものである。一例として、決定レベルパラメータをλ_2,ref＝０．９０に設定した。原ｄｃｔ係数に関して、第１２ａ〜１２ｃ図参照の５章に挙げた例に説明したように、各ＡＣ周波数指数についてｐｄｆパラメータαを推定した。その結果、６３×８＝５０４ビットの追加の付随情報が得られた。ここで、これらのα値は、式（５２）および（５３）により推定されるので、実際のｑｓｃａｌｅ₁値には依存しない。したがって、５０４ビットの追加の付随情報は、すべての第１世代ビットストリームについて同一である。実際のｑｓｃａｌｅ₁値をｑＳＣａｌｅ_min＝２のかわりに式（５２）に挿入すれば、αのより正確な推定が可能である。しかしながら、追加の付随情報は、その場合には、第１世代符号化プロセスに依存することになる。ＴＭＳ量子化器、ｍｓｅあるいはｍａｐ費用関数のいずれかを変換符号化器において用いた場合の比較を第１５ａ図および第１５ｂ図に示す。ｍｓｅ費用関数は、最大のＰＳＮＲ値を達成する。第１５ａ図参照。たとえば、ｑｓｃａｌｅ₁ ＝２０の場合において、ＰＳＮＲ値は、ＴＭ５量子化器についての約２５．６ｄＢからｍｓｅ費用関数についての２６．７ｄＢまで約１．１ｄＢだけ増加させることができる。しかしながら、ＡＣ係数のエントロピーがかなり増加するので、ｍｓｅ費用関数は高いものにつく。第１５ｂ図参照。ｍｓｅ費用関数は、したがって、全体を通じて利用可能なのではない。しかしながら、ｍｓｅ費用関数を、重要な画像内容を備えたブロックを変換符号化するために局部的に用いることができる。さらなるオプションとして、ｍｓｅ費用関数を、低い周波数指数をもつＡＣ係数にのみ適用することができる。これは、人間の視覚系は一般に、低周波数に付加される量子化ノイズに対して、より敏感であるからである。ｍａｐ費用関数は、レート歪みの観点において、ｍｓｅ費用関数にくらべて、より好適である。ｑｓｃａｌｅ₁＝２０の臨界的な場合について、ＴＭ５と比較して、ＡＣエントロピーは約４．７％小さく、同時に、ＰＳＮＲ値は約０．４ｄＢ大きい。第１５ａ図および第１５ｂ図は、ｍａｐ費用関数についてのほんの一例を示すにすぎない。ｍａｐ費用関数はパラメータλ_2,refにより支配されるため、レート歪特性の集合は、λ_2,refを変化させることにより生成することができ、ＰＳＮＲならびに対応するビットレートの点において、ＴＭ５量子化器性能とｍｓｅ費用関数とのあいだのスムーズな移行が可能となる。第１６ａ図および第１６ｂ図におけるλ_2,refの異なる値についての結果は、単調な挙動を示す。すなわち、λ_2,refが増加すると、ＰＳＮＲ値とＡＣエントロピーもまた増加する。第１６ａ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＰＳＮＲ；異なる値のλ_2,refについてのｍａｐ費用関数、テスト信号「ｍｏｂｉｌｅ」 λ_2,ref＝０．９５（上側の線），０．９０，０．８５，０．８０，０．７５（下側の線）第１６ｂ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＡＣエントロピー；異なる値のλ_2,refについてのｍａｐ費用関数、テスト信号「ｍｏｂｉｌｅ」 λ_2,ref＝０．９５（上側の線），０．９０，０．８５，０．８０，０．７５（下側の線）最後の実験において、原ｄｃｔ係数からではなく第１世代係数からのｐｄｆパラメータαを推定することの影響を調べる。αが第１世代係数から推定されるのであれば、追加の付随情報は不要である。２つの方法の比較は第１７ａ図および第１７ｂ図に、ｍｓｅ費用関数について示されている。第１７ａ図のＰＳＮＲ／ｍｓｅ性能は、追加の付随情報があってもなくてもほとんど同一であるが、第１７ｂ図からは、付随情報がないと、得られるビット量は時としてかなり高くなることがわかる。すなわち、それほど驚くことではないが、これらの結果は追加の付随情報を伝送する方をよしとしている。この結論は、ｍａｐ費用関数については、第１８ａ図および第１８ｂ図におけるλ_2,ref＝０．９０の例について示したように、必ずしも真実ではない。ｍｓｅ費用関数と同様に、ＡＣエントロピーは、付随情報が伝送されない場合には（第１８ｂ図）、いくつかのｑｓｃａｌｅ₁値についてはかなり高くなる。しかしながら、得られるＰＳＮＲ値も、追加の付随情報の場合についての対応するＰＳＮＲ値を越える。このように、追加の付随情報が変換符号化器に伝送されなくても良好な性能を達成することができる。第１７ａ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＰＳＮＲ；付随情報のある場合とない場合のｍｓｅ費用関数、テスト信号「ｍｏｂｉｌｅ」第１７ｂ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＡＣエントロピー；付随情報のある場合とない場合のｍｓｅ費用関数、テスト信号「ｍｏｂｉｌｅ」第１８ａ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＰＳＮＲ；付随情報のある場合とない場合のｍａｐ費用関数、λ_2,ref ＝０．９０、テスト信号「ｍｏｂｉｌｅ」第１８ｂ図：固定ｑｓｃａｌｅ₂＝３２についてのｑｓｃａｌｅ₁の関数としての第２世代信号のＡＣエントロピー；付随情報のある場合とない場合のｍａｐ費用関数、λ_2,ref＝０．９０、テスト信号「ｍｏｂｉｌｅ」８．結論と将来の研究本論文は、ＭＰＥＧ−２イントラフレームの変換符号化を論じている。変換符号化問題の理論的な分析が、変換符号化器の量子化器特性の設計に重きをおいて実行される。独立型符号化器の基準量子化器との比較により、特別な条件のもとで、変換符号化により、等価的な全量子化器特性のみをもたらすことが示される。このことは、第１および第２世代量子化ステップサイズの比により示される。いくつかの比についてのみ、原ｄｃｔ係数の第２世代係数へのマッピングは、基準量子化器と変換符号化から得られる全量子化特性について同じである。一般に、任意の比について、独立型基準量子化器特性は、変換符号化の間には達成できない。したがって、平均二乗誤差（ｍｓｅ）あるいはレート歪性能を考えたとき、変換符号化による損失がある。この損失を最小限に押さえるため、ＭＰＥＧ− ２互換量子化器についての決定レベルの選択における自由度を利用することができる。変換符号化器における決定レベルの調節のための２つの方法が提案され、説明され、比較される。まず、ｍｓｅ費用関数の最小化を、決定レベルを調節するためのガイドラインとしてとりあげる。ｍｓｅ費用関数の目的は、原係数と第２世代係数の間の最小のｍｓｅ値を与えることである。得られるｍｓｅ決定則は、第１世代量子化特性と実質的に同じやり方で、変換符号化器において実施することができる。しかしながら、ｍｓｅ費用関数は、第２世代係数を符号化するために必要なビットレートに注意を全く払わないので、高いものにつく。したがって、さらに、最大事後（ｍａｐ）費用関数を導入する。ｍａｐ費用関数は、レート歪の観点において、ｍｓｅ費用関数よりも好適である。独立型基準量子化器はｍｓｅ費用関数に対して固定されているが、ｍａｐ費用関数は、独立型基準量子化器を選択する付加的な自由度を有している。このように、基準量子化器を変更することにより、レート歪特性の集合を、ｍａｐ費用関数を用いて生成できる。興味深いことに、ｍａｐ費用関数はやはり平均二乗誤差（ｍｓｅ）により与えられる。しかしながら、ｍｓｅ費用関数と対照的に、独立型基準量子化器の出力と第２世代係数の間のｍｓｅは最小化される。変換符号化器においてｍｓｅおよびｍａｐ費用関数の両方を用いるために、原ｄｃｔ係数の統計的分布が必要である。ラプラス確率密度関数（ｐｄｆ）に基づくパラメータモデルが提案される。各周波数成分についてのひとつのパラメータにより、実際の信号統計への適合が可能とする。このパラメータは、変換符号化器において第１世代係数からあるいは原ｄｃｔ係数から推定することができる。一般に、後者の方がより正確な推定が得られる。しかしながら、この場合には、パラメータを追加の付随情報として、第１世代ビットストリームとともに伝送しなければならない。両方の場合において、最大尤度推定則が導き出される。パラメータモデルは、現実の画像データを用いて検証される。実験結果により、モデルｐｄｆが、ｄｃｔ係数の分布を説明するのに適していることが確認される。ｍｓｅおよびｍａｐ費用関数は、パラメータモデルについて評価される。提案されたモデルｐｄｆは実施を簡単にすること、ならびに、その場合に、得られるｍｓｅおよびｍａｐ決定則が非常に簡単な形式で記述できることが示される。実験結果は、ｍｓｅおよびｍａｐ費用関数の有効性を確認する。参考として、ＭＰＥＧ−２基準符号化器ＴＭ５［ＴＭ５−９３］の量子化器特性を、変換符号化器においても用いた。その結果は、第２および第１世代量子化ステップサイズの比が２前後の場合について、第２世代係数のＰＳＮＲ値とビットレートにおいて、大きな変動を示す。ＰＳＮＲ値は約１．５ｄＢ低下し、ビットレートは一定に保たれる。あるいは、逆に、ＰＳＮＲ値が一定に保たれ、ビットレートは約３０％増加する。このことは、変換符号化器に用いられるレート制御器にとっての問題を引き起こす。ｍｓｅ費用関数は、最大ＰＳＮＲ値を達成し、ＴＭ５と比べて１．１ｄＢの利得をもたらす。しかしながら、ｍｓｅ費用関数は、最大ビットレートをも導き、したがって、重要な画像内容をもつブロックに対してのみ部分的に適用される。さらなるオプションとして、ｍｓｅ費用関数は、低い周波数指数をもつＡＣ係数に対してのみ適用することができる。これは、人間の視覚系は、一般に、低周波数に付加される量子化ノイズに、より敏感であるからである。実験結果は、ＴＭ５とくらべて、ｍａｐ費用関数が、臨界的な場合において、より低いビットレート（４．７％）と同時により高いＰＳＮＲ値（０．４ｄＢ）を導き、よりすぐれたレート歪性能をもたらすことを示している。ｍａｐ費用関数の基準量子化器を変更することにより、レート歪特性の集合が生成され、ｍｓｅ費用関数とＴＭ５のレート歪性能のスムーズな移行を可能とする。実験において、基準量子化器のクラスは、ひとつのパラメータによりスパンされる。その結果は、基準量子化器パラメータの増加はより大きなＰＳＮＲ値ならびにより大きなビットレートを導くという単調な挙動を示す。実験結果は、ｍｓｅ費用関数について、原ｄｃｔ係数からのｐｄｆモデルパラメータの推定は、第１世代係数からのモデルパラメータの推定よりも、より良好なレート歪性能を導くことを確認する。これは、ｍａｐ費用関数については、一例において明らかなように、かならずしも該当しない。このように、第１世代ビットストリームとともに追加の付随情報を伝送しない場合にも、良好な変換器特性が達成される。さらに、第２世代係数の一次ソースエントロピーを用いて、ＭＰＥＧ−２イントラｖｌｃ符号語テーブルから得られるビットレートの推定値を導き出すことができることが示される。これにより、変換器が、最善のレート歪性能に基づいてＴＭ５、ｍｓｅあるいはｍａｐ費用関数のどれかに決めなければならない場合、ビットレートの計算が簡略化されるはずである。得られるＰＳＮＲ値は、ラプラスモデルｐｄｆに基づいて変換符号化器において比較される。このことは、レート歪性能の単調な挙動によりｍａｐ費用関数について簡略化することができる。たとえば、フレームあるいはブロックベースで目標ビットレートを設定したあとで、基準符号化器のパラメータを、一次ソースエントロピーが目標ビットレートを越えるまで増加させればよい。上述のレート歪考察に基づく「実施しやすい」アルゴリズムの探求は、将来の研究の、約束されたゴールである。さらに、提示された結果は、動き補償予測を含むＭＰＥＧ−２インターフレームすなわちＰおよびＢフレームの変換符号化に適合させることができる。しかしながら、符号化器と復号化器の予測器の間のドリフト［ＯＷ−９４］［ＯＷ−９６］の問題をさらに考慮する必要がある。

【手続補正書】特許法第１８４条の８第１項【提出日】平成１１年４月１６日（１９９９．４．１６）【補正内容】請求の範囲（補正）１．前の符号化処理を受けたデジタル信号の圧縮符号化により変換符号化を行なう方法であって、両方の圧縮符号化処理は、変換プロセスを実行して値を生成するステップと、各値の振幅範囲を一組の隣接区間に分割することにより上記値を量子化するステップとを含み、各区間が、可変長符号化される一組の代表レべルの各々にマッピングされ、各区間の境界がパラメータλにより制御される方法において、変換符号化において、λは、上記前の符号化処理におけるパラメータの関数として、関連する代表レベルに関して各区間の境界を動的に変化させるように制御されることを特徴とする方法。２．各値は算術的にλに結びつけられることを特徴とする請求項１の方法。３．λは、上記値によりあらわされる量の関数であることを特徴とする請求項１または２の方法。４．上記変換はＤＣＴであり、λは水平および垂直周波数の関数であることを特徴とする請求項３の方法。５．λは量子化ステップサイズの関数であることを特徴とする上記請求項のいずれかの方法。６．λは上記値の振幅の関数であることを特徴とする上記請求項のいずれかの方法。７．量子化ステップサイズｑ＝ｑ₂とλ＝λ₂の値を有し、量子化すべき上記値は、先に、量子化ステップサイズｑ＝ｑ₁およびλ＝λ₁の値を用いて量子化されたものであり、λはｑ₁およびλ₁の関数であることを特徴とする上記請求項のいずれかの方法。８．λはλ_refの関数であり、λ_refは、量子化ステップサイズｑ＝ｑ₁を用いた量子化に先だって、上記値に対して量子化ステップサイズｑ＝ｑ₂を用いて請求項１の方法が動作する際に選択されたはずのλの値であることを特徴とする請求項７の方法。９．上記量子化ステップサイズｑは、ゼロ量子化レベルに対するもの以外で、入力値に非依存であることを特徴とする上記請求項のいずれかの方法。１０．各周波数指標ｆ_kをあらわす変換係数ｘ_kの集合に対して動作し、λはｘ_k およびｆ_kの値に応じて動的に制御される（ｑ，λ）量子化器からなる、デジタル信号のための圧縮符号化器。１１．上記パラメータｆ_kは周波数指数であることを特徴とする請求項１０の量子化器。１２．Ｄを、非圧縮領域における量子化により導入される歪、Ｈを、圧縮されたビットレートの大きさ、μを、上記ビットレート制約により決定される定数とするとき、λが費用関数Ｄ＋μＨを最小化するように動的に制御されることを特徴とする請求項１０あるいは１１の量子化器。１３．μが反復処理において計算されることを特徴とする請求項１２の符号化器。１４．第１の（ｑ₁，λ₁）型量子化器において量子化された圧縮信号に対して動作する第２の（ｑ₂，λ₂）型量子化器における第２世代λ₂値が、関数 λ₂＝λ₂（ｆ_hor，ｆ_ver，ｑ₁，λ₁，ｑ₂，λ_2,ref，ｙ₁）として制御されることを特徴とする、圧縮デジタル信号のビットレートを変更するための圧縮変換符号化器。１５．上記パラメータλ_2,refが、第１世代符号化をバイパスし、原振幅を第２世代基準振幅に直接的にマッピングする概念的基準（ｑ₂，λ_2,ref）型量子化器をあらわすことを特徴とする請求項１４の圧縮変換符号化器。１６．上記パラメータλ_2,refは経験的に選択されることを特徴とする請求項１４の圧縮変換符号化器。１７．上記パラメータλ_2,refは各周波数について固定されていることを特徴とする請求項１６の圧縮変換符号化器。

───────────────────────────────────────────────────── フロントページの続き (81)指定国ＥＰ(ＡＴ，ＢＥ，ＣＨ，ＤＥ，ＤＫ，ＥＳ，ＦＩ，ＦＲ，ＧＢ，ＧＲ，ＩＥ，ＩＴ，ＬＵ，ＭＣ，ＮＬ，ＰＴ，ＳＥ)，ＡＵ，ＣＡ，ＪＰ，ＵＳ (72)発明者ワーナ，オリヴァーハートウィッグイギリス国，サリーシーアール２７イーエイ，サウスクロイドン，バードハーストロード 14 シー，フラット１ (72)発明者ウェルス，ニコラスドミニクイギリス国，イーストサセックスビーエヌ２２エイビー，ブライトン，ウェリングトンロード 17 (72)発明者ニー，マイケルジェームスイギリス国，ハムプシャージーユー32 ２イーイー，ピーターズフィールド，ウッドバリーアヴェニュー６

Claims

【特許請求の範囲】１．変換プロセスを実行して値を生成するステップと、各値の振幅範囲を一組の隣接区間に分割することにより上記値を量子化するステップとを含み、各区間が、可変長符号化される一組の代表レベルの各々にマッピングされ、各区間の境界がパラメータλにより制御される、デジタル信号を圧縮符号化する方法において、λは、関連する代表レベルに関して各区間の境界を動的に変化させるように制御されることを特徴とする方法。２．各値は算術的にλに結びつけられることを特徴とする請求項１の方法。３．λは、上記値によりあらわされる量の関数であることを特徴とする請求項１または２の方法。４．上記変換はＤＣＴであり、λは水平および垂直周波数の関数であることを特徴とする請求項３の方法。５．λは量子化ステップサイズの関数であることを特徴とする上記請求項のいずれかの方法。６．λは上記値の振幅の関数であることを特徴とする上記請求項のいずれかの方法。７．符号化される上記デジタル信号は、前の符号化復号化プロセスを受けたものであり、λは、上記前の符号化複合化プロセスにおけるパラメータの関数として制御されることを特徴とする上記請求項のいずれかの方法。８．量子化ステップサイズｑ＝ｑ₂とλ＝λ₂の値を有し、量子化すべき上記値は、先に、量子化ステップサイズｑ＝ｑ₁およびλ＝λ₁の値を用いて量子化されたものであり、λはｑ₁およびλ₁の関数であることを特徴とする請求項７の方法。９．λはλ_refの関数であり、λ_refは、量子化ステップサイズｑ＝ｑ₁を用いた量子化に先だって、上記値に対して量子化ステップサイズｑ＝ｑ₂を用いて請求項１の方法が動作する際に選択されたはずのλの値であることを特徴とする請求項７または８の方法。１０．上記量子化ステップサイズｑは、ゼロ量子化レベルに対するもの以外で、入力値に非依存であることを特徴とする上記請求項のいずれかの方法。１１．各周波数指標ｆ_kをあらわす変換係数ｘ_kの集合に対して動作し、λはｘ_k およびｆ_kの値に応じて動的に制御される（ｑ，λ）量子化器。１２．上記パラメータｆ_kは周波数指数であることを特徴とする請求項１１の量子化器。１３．Ｄを、非圧縮領域における量子化により導入される歪、Ｈを、圧縮されたビットレートの大きさ、μを、上記ビットレート制約により決定される定数とするとき、λが費用関数Ｄ＋μＨを最小化するように動的に制御されることを特徴とする請求項１１あるいは１２の量子化器。１４．第１の（ｑ₁，λ₁）型量子化器において量子化された圧縮信号に対して動作する第２の（ｑ₂，λ₂）型量子化器における第２世代λ₂値が、関数 λ₂＝λ₂（ｆ_hor，ｆ_ver，ｑ₁，λ₁，ｑ₂，λ_2,ref，ｙ₁）として制御されることを特徴とする圧縮変換符号化器。１５．上記パラメータλ_2,refが、第１世代符号化をバイパスし、原振幅を第２世代基準振幅に直接的にマッピングする概念的基準（ｑ₂，λ_2,ref）型量子化器をあらわすことを特徴とする請求項１４の圧縮変換符号化器。１６．上記パラメータλ_2,refは経験的に選択されることを特徴とする請求項１４の圧縮変換符号化器。１７．上記パラメータλ_2,refは各周波数について固定されていることを特徴とする請求項１６の圧縮変換符号化器。