JP6368287B2 - 適応量子化方法、適応量子化装置及び適応量子化プログラム - Google Patents

Description

本発明は、適応量子化方法、適応量子化装置及び適応量子化プログラムに関する。

近年、画像の高品質化に伴い、広ダイナミックレンジ映像への期待が高まっている。これを受けて、広ダイナミックレンジを有する画像信号に対する高いビット深度を用いた表現が検討されている。これに伴い、取得する信号のビット深度を従来の８ビットから１０ビット以上へと拡張した高ビット深度信号を取得可能なデバイスが登場してきている。

一方、画像信号の高ビット深度化により、画像の符号量が増大するため効率的な符号化手法が必要である。高ビット深度信号の符号化手法として、図６に示すような手法が提案されている。図６は、従来手法を用いた符号化装置の構成を示すブロック図である。図６に示す符号化装置においては、画像信号（Ｎｂｉｔ信号）を入力とし、ビット深度変換処理部１によってビット深度変換処理を行うことで低ビット深度信号に変換し、符号化処理部２、復号処理部３によって符号化・復号処理を行う。さらに、その復号画像に対し、逆ビット深度変換処理部４によって逆ビット深度変換処理を行い、高ビット深度画像を生成する。最後に、この高ビット深度画像と入力信号との差分信号を符号化器５によって符号化する。出力は、差分信号の符号化ストリームと、低ビット深度信号の符号化ストリーム（Ｎ−Δｂｉｔ符号化ストリーム）となる。このように従来手法は、ビット深度のスケーラブル符号化に対応した手法である。

図７は、図６に示す符号化装置を変形した構成を示すブロック図である。図７に示すような差分を出力しない方法もある。これは、画像信号（Ｎｂｉｔ信号）を入力とし、ビット深度変換処理部１によりビット深度変換処理を行うことで復号信号に変換する。そして、符号化処理部２、復号処理部３によって符号化・復号処理を行う。その後、低ビット深度画像に対し、逆ビット深度変換処理部４によって逆ビット深度変換処理を行い、高ビット深度画像を出力する。

図６に示す手法における符号化効率はビット深度変換処理に大きく依存する。同手法においては、入力信号と逆ビット深度変換処理後の信号の差分値の二乗和（以下、ビット深度変換誤差という）を抑えることで、出力信号の符号量を抑えることができる。ビット深度変換処理において、いくつかのＴｏｎｅ Ｍａｐｐｉｎｇを用いた手法（例えば、非特許文献１参照）が提案されている。符号化効率向上のためには、ビット深度変換誤差を最小化するようにビット深度変換を設計する必要がある。

画素値の振幅方向の疎性に着目すると、画像によっては、与えられたビット深度によって表現可能な値を全て含まない場合がある。例えば、１０ビット信号の場合、０から１０２３までの１０２４種類の値を表現できる。振幅方向の疎性とは、画素値として画像内に含まれる値の種類が１０２４通り未満となる性質を指す。つまり、そうした画像では、画素値の頻度をヒストグラムとして表現した場合、頻度が零値になる画素値が存在する。なお、前述のビット深度変化処理は、ヒストグラムに対する一種の量子化処理とみなせる。

E. Reinhard, M. Stark, P. Shirley, and J. Ferwerda, "Photographic Tone Reproduction for Digital Images", In SIGGRAPH 2002 Conference Proceeding, ACM SIGGRAPH, Addison Wesley, pp. 267-277, August 2002

前述したように、頻度が零値になる画素値は、ビット深度変換誤差に影響を与えない。しかし、従来手法では、上述の画素値の疎性に基づいた設計がなされておらず、計算量の低減に改善の余地を残しているという問題がある。

本発明は、このような事情に鑑みてなされたもので、ビット深度変換誤差の最適性を保持しつつ、演算量を低減することができる適応量子化方法、適応量子化装置及び適応量子化プログラムを提供することを目的とする。

本発明の一態様は、入力信号のヒストグラムに対して、与えられたヒストグラムの区間の数を示すレベル数で前記ヒストグラムを近似する量子化処理を行う適応量子化装置が行う適応量子化方法であって、前記区間の境界を示すクラス境界の候補を有意要素に制限する制限ステップと、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するメモリ格納ステップと、次のクラスでの前記クラス境界を選択する際、非有意要素を前記近似誤差の累積値計算から除外し、前記メモリに格納した最小値を読み出す最小値読み出しステップと、前記最小値を現時点での前記クラス境界の選択における前記近似誤差の累積値計算に用いることで、前記クラス境界の全要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択ステップとを有する適応量子化方法である。

本発明の一態様は、前記適応量子化方法であって、前記非有意要素を前記クラス境界の候補から除外して前記有意要素をクラス境界の候補とする際に、前記クラス境界となり得ない前記有意要素を候補から除外するための前記クラス境界となり得る前記有意要素の上限及び下限を設ける上下限設定ステップと、前記上限及び前記下限の範囲に含まれる前記有意要素を前記クラス境界の候補とする。

本発明の一態様は、前記適応量子化方法であって、各クラスの境界が前記有意要素となる場合の近似誤差のみを参照テーブルに格納するテーブル格納ステップと、前記参照テーブルを参照して前記近似誤差の累積値の算出に用いる各クラス内の近似誤差を取得する。

本発明の一態様は、入力信号のヒストグラムに対して、与えられたヒストグラムの区間の数を示すレベル数で前記ヒストグラムを近似する量子化処理を行う適応量子化装置であって、前記区間の境界を示すクラス境界の候補を有意要素に制限する制限手段と、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するメモリ格納手段と、次のクラスでの前記クラス境界を選択する際、非有意要素を前記近似誤差の累積値計算から除外し、前記メモリに格納した最小値を読み出す最小値読み出し手段と、前記最小値を現時点での前記クラス境界の選択における前記近似誤差の累積値計算に用いることで、前記クラス境界の全要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択手段とを備える適応量子化装置である。

本発明の一態様は、コンピュータに、前記適応量子化方法を実行させるための適応量子化プログラムである。

本発明によれば、ビット深度変換誤差の最適性を保持しつつ、演算量を低減することができるという効果が得られる。

本発明の一実施形態による適応量子化処理の動作を示すフローチャートである。 演算量低減型適応量子化処理の動作を示すフローチャートである。 図２に示すステップＳ２０５について詳細な処理動作を示すフローチャートである。 適応量子化装置の構成を示すブロック図である。 演算量低減型適応量子化装置の構成を示すブロック図である。 従来手法を用いた符号化装置の構成を示すブロック図である。 図６に示す符号化装置を変形した構成を示すブロック図である。

以下、図面を参照して、本発明の一実施形態による適応量子化方法及び適応量子化装置を説明する。まず、適応量子化装置の基本動作原理について説明する。画素値ｋの頻度をｈ［ｋ］（ｋ＝０，・・・，Ｋ−１）として格納する。例えば、８ビットの輝度信号場合、ｋの取り得る範囲は０から２５５の値となる。このＫレベルの信号をＭレベル（Ｍ＜Ｋ）に量子化する場合を考える。以下、Ｋを入力レベル数、Ｍを量子化レベル数と呼ぶ。

求めるべきパラメータは、次式を満たすＭ個のパラメータである。

ここで、Ｌ_ｍは、ヒストグラムにおける第ｍ区間の上端であり、次式で定義されるものとする。

ここで、Δ_ｍはヒストグラムの第ｍ区間の区間幅を表す。また、量子化後の各階調が、少なくとも１つ以上、量子化前の階調を含む必要があることから、Ｌ_ｍ（０≦ｍ≦Ｍ−２）はｍ≦Ｌ_ｍ≦Ｋ−（Ｍ−ｍ）の範囲に制限される。ここで、Ｌ_Ｍ−１はＬ_Ｍ−１＝Ｋ−１に固定されているので、Ｌ_ｍについては、ｍ＝Ｍ−１を省略し、ｍ≦Ｍ−２を考えればよい。

ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）は次式で求まる値であり、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］を代表値ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）で近似した場合の近似誤差である。

さらに、＾ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）（＾は続く文字の上に付く、以下同様）は、次式で求まる実数値ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）を四捨五入して整数化した値である。

ｃ（Ｌ_ｍ−１（Δ_ｍ−１），Ｌ_ｍ）は、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］における重心位置を表す。以下、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］を第ｍ量子化クラスと呼ぶ。

Ｍ個のパラメータ（Δ_１，・・・，Δ_Ｍ）の取り得る組み合わせは、Ｍとともに指数関数的に増加するため、この中から最適な組み合わせ（Δ^＊ _１，・・・，Δ^＊ _Ｍ）を総当りで探索するのは、計算量的に困難である。

そこで、本実施形態では、第ｍ量子化クラスの量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が同クラスの上端Ｌ_ｍと同クラスの区間幅Δ_ｍに依存することに着目し、以下のように最適解を算出する。さらに、その際、ヒストグラムの非有意要素に基づく演算量削減を行う。

次に、基本解法について説明する。まず、ヒストグラムの区間［０，Ｌ_ｍ］をｍ＋１分割した際の近似誤差和Σ^ｍ _ｉ＝０ｅ（Ｌ_ｉ−（Δ_ｉ−１），Ｌ_ｉ）の最小値をＳ_ｍ（Ｌ_ｍ）として定義する。つまり、最適なΔ_ｍ，・・・，Δ_０を用いた場合のΣ^ｍ _ｉ＝０ｅ（Ｌ_ｉ−（Δ_ｉ−１），Ｌ_ｉ）に対する最小値である。ここで、ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が第ｍ量子化クラスの上端Ｌｍと同クラスの区間幅Δｍに依存することに着目すると、Ｓ_ｍ（Ｌ_ｍ）はＳ_ｍ−１（Ｌ_ｍ−Δ_ｍ）を用いて、次式のように表わせる。

なお、ｍ＝０，・・・，Ｍ−１である。また、Ｌ_ｍ＝ｍ，・・・，Ｋ−（Ｍ−ｍ）である。

Δ_ｍの範囲は、次のようになる。Ｌ_ｍ−１＝Ｌ_ｍ−Δ_ｍであることから、Ｌ_ｍ−Δ_ｍの範囲は、ｍ−１≦Ｌ_ｍ−Δ_ｍ≦Ｋ−（Ｍ−ｍ＋１）となる。このため、Δ_ｍの範囲は、与えられたＬ_ｍを用いて次式のよう表せる。

さらに、Δ_ｍ≧１であることを考慮すると、次式を得る。

ここで、算出したＳ_ｍ（Ｌ_ｍ）を格納しておき、Ｓ_ｍ＋１（Ｌ_ｍ＋１）の計算で用いるものとする。さらに、式（５）の右辺を最小化するΔ_ｍの値をΔ_ｍ ^（Ｌｍ）として、各Ｌ_ｍ（＝ｍ，・・・，Ｋ−Ｍ＋ｍ）に対して、＾Ｌ_ｍ−１［Ｌ_ｍ］＝Ｌｍ−Δ_ｍ ^（Ｌｍ）を格納しておくものとする。

式（１）の最小化問題は、次式のように表せる。

上式を最小化するΔ_Ｍ−１をΔ^＊ _Ｍ−１とおく（次式の通り）。

このΔ^＊ _Ｍ−１を用いて、第Ｍ−２クラスの上端の最適値はＬ^＊ _Ｍ−２＝Ｌ_Ｍ−１−Δ^＊ _Ｍ−１＝Ｋ−１−Δ^＊ _Ｍ−１と求まる。第Ｍ−３クラスの上端の最適値は、Ｌ^＊ _Ｍ−２に対する最適解として、＾Ｌ_Ｍ−３［Ｌ^＊ _Ｍ−２］として格納されているので、該当する値を参照し、Ｌ^＊ _Ｍ−３＝＾Ｌ_Ｍ−３［Ｌ^＊ _Ｍ−２］とする。この結果、第Ｍ−２クラスの区間幅は、Δ^＊ _Ｍ−２＝Ｌ^＊ _Ｍ−２−Ｌ^＊ _Ｍ−３と求まる。以下、同様の参照処理をＬ^＊ _Ｍ−４＝＾Ｌ_Ｍ−４［Ｌ^＊ _Ｍ−３］，・・・，Ｌ^＊ _０＝＾Ｌ_０［Ｌ^＊ _１］として繰り返し、得られた各クラスの上端値を用いて、Δ^＊ _Ｍ−３＝Ｌ^＊ _Ｍ−３−Ｌ^＊ _Ｍ−４，・・・，Δ^＊ _０＝Ｌ^＊ _０−Ｌ^＊ _−１として求める。なお、Ｌ^＊ _−１＝−１である。

次に、視覚感度特性を考慮した重み付き歪み量の最小化について説明する。視覚系は、低輝度の画素値の変化に比べて、高輝度の画素値の変化に鈍感である。そこで、こうした視覚特性を考慮して量子化を行う場合は、以下のように行う。まず、画素値ｋ（ｋ＝０，・・・，Ｋ−１）に対する重み係数として、ｗ［ｋ］を設定する。この重み係数は、外部から与えられるものとする。例えば、高輝度（大きなｋ）の重みを低輝度（小さなｋ）の重みより小さな値に設定すれば、上記の輝度差に対する視覚特性を量子化処理に組み込むことが可能になる。この重み係数を用いて、画素値ｋに対する頻度ｈ［ｋ］を~ｈ［ｋ］＝ｗ［ｋ］ｈ［ｋ］（~は続く文字の上に付く、以下同様）として補正し、この補正後のヒストグラム~ｈ［ｋ］に対して、前述の量子化処理を実施する。

次に、ヒストグラムの非有意要素に基づく演算量削減について説明する。ヒストグラムの非有意要素（頻度値が零値となる要素）に着目した演算量削減手法を導入する。なお、以下では、ヒストグラムｈ［ｋ］（ｋ＝０，・・・，Ｋ−１）の要素を指定するインデックスｋを当該ヒストグラムの要素インデックスと呼び、ヒストグラムｈ［ｋ］の有意要素（~Ｋ個）を指定するインデックス~ｋ（~ｋ＝０，・・・，~Ｋ−１）を当該ヒストグラムの有意要素インデックスと呼ぶ。

画素値Ｌ_ｍ＋１における頻度値ｈ［Ｌ_ｍ＋１］が零値である場合、即ち、ｈ［Ｌ_ｍ＋１］＝０の場合、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１，Ｌ_ｍ＋１］に対する近似誤差は、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］に対する近似誤差と等しい。ｈ［Ｌ_ｍ＋１］＝０であることから、量子化の対象となる区間にｈ［Ｌ_ｍ＋１］を加えたとしても、量子化による近似には影響を与えないためである。従って、ｈ［Ｌ_ｍ＋１］＝０の場合、前述の式（５）に基づくＳ（Ｌ_ｍ＋１）の算出は省略することが可能となる。

ヒストグラムの非有意要素に着目した適応処理の準備として、以下の参照テーブルを用意する。Ｚ［ｋ］（ｋ＝０，・・・，Ｋ−１）は、ヒストグラムの区間［０，ｋ］に含まれる非有意要素の個数を格納する。Ｆ［~ｋ］は、第~ｋ番目の非有意要素に対応する要素インデックスを格納する。Ψ_ｕ［ｍ］（ｍ＝０，・・・，Ｍ−１）は第ｍビンの上端となりうる有意要素インデックスの最大値を格納する。

Ψ_ｌ［ｍ］（ｍ＝０，・・・，Ｍ−１）は第ｍビンの上端となりうる有意要素インデックスの最小値を格納する。ここで、Ψ_ｕ［ｍ］、Ψ_ｌ［ｍ］（ｍ＝０，・・・，Ｍ−１）は各々、次のように設定される。

次に、最適解の求解について説明する。非有意要素に対する不要な演算を省略し、演算量を低減するために、有意要素インデックスを用いた最適解の求解アルゴリズムを以下に示す。以下では、Ｆ［~Ｌ_ｍ］＝Ｌ_ｍ，Ｆ［~Δ_ｍ］＝Δ_ｍとする。

ヒストグラムの区間［０，Ｆ［~Ｌ_ｍ］］をｍ＋１分割した場合を考え、近似誤差ｅ（Ｆ［~Ｌ_ｉ−（~Δ_ｉ−１）］，Ｆ［~Ｌ_ｉ］）を~ｅ（~Ｌ_ｉ−（~Δ_ｉ−１），~Ｌ_ｉ）と定義し、近似誤差和Σ^ｍ _ｉ＝０~ｅ（~Ｌ_ｉ−（~Δ_ｉ−１），~Ｌ_ｉ）の最小値を~Ｓ_ｍ（~Ｌ_ｍ）として定義する。つまり、最適な~Δ_ｍ，・・・，~Δ_０を用いた場合のΣ^ｍ _ｉ＝０~ｅ（~Ｌ_ｉ−（~Δ_ｉ−１），~Ｌ_ｉ）に対する最小値である。なお、~Ｓ_ｍ（~Ｌ_ｍ）はＳ_ｍ（Ｆ［~Ｌ_ｍ］）と等しい。ここで、~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）が第ｍ量子化クラスの上端の有意要素インデックス~Ｌ_ｍと同クラスの区間幅内の有意要素数~Δ_ｍに依存することに着目すると、~Ｓ_ｍ（~Ｌ_ｍ）は~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）を用いて、次式のように表わせる。

なお、ｍ＝０，・・・，Ｍ−１である。また、~Ｌ_ｍ＝Ψ_ｌ［ｍ］，・・・，Ψ_ｕ［ｍ］である。

~Δ_ｍの範囲は、次のようになる。~Ｌ_ｍ−１＝~Ｌ_ｍ−~Δ_ｍであることから、~Ｌ_ｍ−~Δ_ｍの範囲は、Ψ_ｌ［ｍ−１］≦~Ｌ_ｍ−~Δ_ｍ≦Ψ_ｕ［ｍ−１］となる。このため、~Δ_ｍの範囲は、与えられた~Ｌ_ｍを用いて次式のよう表せる。

さらに、~Δ_ｍ≧１であることを考慮すると、次式を得る。

ここで、算出した~Ｓ_ｍ（~Ｌ_ｍ）を格納しておき、~Ｓ_ｍ＋１（~Ｌ_ｍ＋１）の計算で用いるものとする。さらに、式（１２）の右辺を最小化する~Δ_ｍを~Δ_ｍ ^{（~Ｌｍ）} とし、第ｍビンの上端を~Ｌ_ｍとした場合の最適な第ｍ−１ビンの上端として、~Ｌ_ｍ−１［~Ｌｍ］＝~Ｌ_ｍ−~Δ_ｍ ^{（~Ｌｍ）}を各~Ｌ_ｍ（＝Ψ_ｌ［ｍ］，・・，Ψ_ｕ［ｍ］）に対して格納しておくものとする。

式（１）の最小化問題は、次式のように表せる。

ここで、~Ｋ＝Ｋ−Ｚ［Ｋ−１］である。上式を最小化する~Δ_Ｍ−１を~Δ^＊ _Ｍ−１
とおく（次式の通り）。

~Ｌ_Ｍ−１の取り得る値は、Ｋ−Ｚ［Ｋ−１］−１のみであることから、~Ｌ_Ｍ−１＝Ｋ−Ｚ［Ｋ−１］−１となる。~Ｌ_Ｍ−１及び~Δ^＊ _Ｍ−１を用いて、第Ｍ−２クラスの上端の有意要素インデックスの最適値は~Ｌ^＊ _Ｍ−２＝＝Ｌ_Ｍ−１−~Δ^＊ _Ｍ−１＝Ｋ−Ｚ［Ｋ−１］−１−~Δ^＊ _Ｍ−１と求まる。第Ｍ−３クラスの上端の有意要素インデックスの最適値は、~Ｌ^＊ _Ｍ−２に対する最適解として、＾Ｌ_Ｍ−３［~Ｌ^＊ _Ｍ−２］として格納されているので、該当する値を参照し、~Ｌ^＊ _Ｍ−３＝＾Ｌ_Ｍ−３［~Ｌ^＊ _Ｍ−２］とする。この結果、第Ｍ−２クラスの区間幅内の有意要素数は、~Δ^＊ _Ｍ−２＝~Ｌ^＊ _Ｍ−２−~Ｌ^＊ _Ｍ−３と求まる。

以下、同様の参照処理を~Ｌ^＊ _Ｍ−４＝＾Ｌ_Ｍ−４［~Ｌ^＊ _Ｍ−３］，・・・，~Ｌ^＊ _０＝＾Ｌ_０［~Ｌ^＊ _１］として繰り返し、得られた各クラスの上端の有意要素インデックスを用いて、~Δ^＊ _Ｍ−３＝~Ｌ^＊ _Ｍ−３−~Ｌ^＊ _Ｍ−４，・・・，~Δ^＊ _０＝~Ｌ^＊ _０−~Ｌ^＊ _−１として求める。なお、~Ｌ^＊ _−１＝−１である。各クラスの上端の有意要素インデックス~Ｌ_Ｍ−１，~Ｌ^＊ _Ｍ−２，・・・，~Ｌ^＊ _０から、Ｆ［~Ｌ_Ｍ−１］，Ｆ［~Ｌ_Ｍ−１］，Ｆ［~Ｌ^＊ _Ｍ−２］，・・・，Ｆ［~Ｌ^＊ _０］により、各クラスの上端が求まる。

次に、量子化誤差のルックアップテーブルへの格納について説明する。Ｌ_ｍとΔ_ｍの組み合わせによっては、異なる量子化クラス（ｍの値が異なるという意味）において、量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が必要となる。その度に、量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）を算出するのは、計算コストの観点から得策ではない。計算結果を格納し、必要に応じて格納結果を呼び出すことで、演算量を低減できる。

そこで、ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）として取りうる値をルックアップテーブル（Ｍ×Ｋ要素）に格納する。格納処理は、以下のようになる。
１．ｆｏｒ ~ｉ_ｓ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−２
２． ｆｏｒ ~ｉ_ｅ＝~ｉ_ｓ＋１，・・・，ｍｉｎ（~ｉ_ｓ＋Ｋ−Ｚ［Ｋ−１］−Ｍ−１，Ｋ−Ｚ［Ｋ−１］−１）
３． Ｅ［~ｉ_ｓ，~ｉ_ｅ］←ｅ（Ｆ［~ｉ_ｓ］，Ｆ［~ｉ_ｅ］）
ここで、←は値の代入を表す。

上述のルックアップテーブル（（Ｋ−Ｚ［Ｋ−１］−１）×（Ｋ−Ｚ［Ｋ−１］）要素）Ｅ［~ｉ_ｓ，~ｉ_ｅ］へ格納する量子化誤差ｅ（Ｆ［~ｉ_ｓ］，Ｆ［~ｉ_ｅ］）の計算過程にも重複した計算が存在するため、そうした重複部分を省略することで、演算量の低減を図る。

まず、以下の値を定義する。

これらを用いて、重心位置ｃ（~ｉ_ｓ，Ｌ_ｍ）、量子化誤差ｅ（~ｉ_ｓ，Ｌ_ｍ）を再定義すると、次のようになる。

これより、ｃ（~ｉ_ｓ，~ｉ_ｅ）及びｅ（~ｉ_ｓ，~ｉ_ｅ）が以下の漸化関係を持つことが分かる。

上記の関係に基づきｅ（~ｉ_ｓ，~ｉ_ｅ）を算出し、算出結果をルックアップテーブル（（Ｋ−Ｚ［Ｋ−１］−１）×（Ｋ−Ｚ［Ｋ−１］）要素）に格納する。

次に、図１を参照して、前述した基本原理に基づく適応量子化処理の動作を説明する。図１は、適応量子化処理の動作を示すフローチャートである。この適応量子化処理は、コンピュータ装置が行う処理である。まず、入力信号を読み込み、入力信号値のヒストグラムを生成する（ステップＳ１０１）。

次に、ヒストグラムの要素インデックスをｋ、ヒストグラムの有意要素インデックスを~ｋとし、このｋと~ｋの対応関係を格納した参照テーブルとして、Ｆ［~ｋ］を生成する（ステップＳ１０２）。具体的な生成方法は、以下の通りである。
１．~ｋ←０
２．ｆｏｒ ｋ＝０，・・・，Ｋ−１
３． ｉｆ ｈ［ｋ］≠０
４． Ｆ［~ｋ］←ｋ
５． ~ｋ←~ｋ＋１
４．、５．の処理は、３．の判定式が真の時に実行する。

次に、ヒストグラムの区間［０，ｋ］に含まれる非有意要素の個数を格納した参照テーブルとして、Ｚ［ｋ］を生成する（ステップＳ１０３）。具体的な生成方法は、以下の通りである。
１．ｊ←０
２．ｆｏｒ ｋ＝０，・・・，Ｋ−１
３． ｉｆ ｈ［ｋ］＝０
４． ｊ←ｊ＋１
５． Ｚ［ｋ］←ｊ

次に、非有意係数をスキップすることに伴うＬ_ｍの最大値を格納した参照テーブルとして、Ψ_ｕ［ｍ］（ｍ＝０，・・・，Ｍ−１）を生成する。具体的には、ヒストグラムの第ｋ要素までに含まれる非有意要素の個数Ｚ［ｋ］を用いて、次式により設定する（ステップＳ１０４）。
Ψｕ［ｍ］＝ ｍ−Ｍ＋Ｋ−Ｚ［ｍ−Ｍ＋Ｋ］（ｍ＝０，・・・，Ｍ−１）

また、非有意係数をスキップすることに伴うＬ_ｍの最小値を格納した参照テーブルとして、Ψ_ｌ［ｍ］（ｍ＝０，・・・，Ｍ−１）を生成する。具体的には、次式により設定する。

次に、ステップＳ１０７までの処理をｊ＝１，・・・，Ｋ−Ｍ−１−Ｚ［Ｋ−Ｍ−１］として繰り返す（ステップＳ１０５）。そして、ヒストグラムの区間［０、Ｆ［ｊ］］を代表値（式（４）により求まる重心）で近似した場合の近似誤差~ｅ［０，ｊ］を求め、同近似誤差をＳ_０（ｊ）に格納する（ステップＳ１０６）。

次に、ステップＳ１１８までの処理をｍ＝１，・・・，Ｍ−１として繰り返す（ステップＳ１０８）。そして、ステップＳ１１７までの処理を~Ｌ_ｍ＝Ψ_ｌ［ｍ］，・・・，Ψ_ｕ［ｍ］として繰り返す（ステップＳ１０９）。さらに、ステップＳ１１４までの処理を~Δ_ｍ＝１，・・・，~Ｌ_ｍ−Ψ_ｌ（ｍ−１）として繰り返す（ステップＳ１１０）。

次に、ヒストグラムの区間［Ｆ［~Ｌ_ｍ−（~Δ_ｍ−１）］，Ｆ［~Ｌ_ｍ］］の代表値を式（４）により求める（ステップＳ１１１）。続いて、ヒストグラムの区間［Ｆ［~Ｌ_ｍ−（~Δ_ｍ−１）］，Ｆ［~Ｌ_ｍ］］を代表値（ステップＳ１１１で求めた値）で近似した場合の近似誤差を式（３）より求める（ステップＳ１１２）。同近似誤差を~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）とする。

次に、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）の値を計算する（ステップＳ１１３）。続いて、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））の中での最小値を~Ｓ_ｍ（~Ｌ_ｍ）に格納する（ステップＳ１１５）。

次に、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））を最小化する~Δ_ｍを用いて、~Ｌ_ｍ−~Δ_ｍを＾Ｌ_ｍ−１（~Ｌ_ｍ）に格納する（ステップＳ１１６）。＾Ｌ_ｍ−１（~Ｌ_ｍ）を最適パス追跡用参照テーブルと呼ぶ。

次に、Ｌ^＊ _Ｍ−１にＫ−１を代入する。また、~Ｌ^＊ _Ｍ−１にＫ−Ｚ［Ｋ−１］−１を代入する（ステップＳ１１９）。

次に、ステップＳ１２２までの処理をｍ＝Ｍ−１、・・・，１として繰り返す（ステップＳ１２０）。そして、＾Ｌ_ｍ−１（~Ｌ^＊ _ｍ）を読み込み、~Ｌ^＊ _ｍ−１に代入する。また、Ｆ［~Ｌ^＊ _ｍ−１］を読み込み、Ｌ^＊ _ｍ−１に代入する（ステップＳ１２１）。

次に、図２を参照して、演算量低減型適応量子化処理の動作を説明する。図２は、演算量低減型適応量子化処理の動作を示すフローチャートである。図２に示す処理動作は、コンピュータ装置において、近似誤差を参照テーブルに格納し、適宜、同参照テーブルから近似誤差を読み込む形に拡張した適応量子化処理の動作である。

ステップＳ２０１−Ｓ２０４の処理動作は、図１に示すステップＳ１０１−Ｓ１０４と同じであるため、ここでは説明を省略する。

次に、ヒストグラムの各区間を代表値で近似した際の近似誤差を格納した参照テーブルを生成する（ステップＳ２０５）。なお、ステップＳ２０５の処理については、後で詳述する。

ステップＳ２０６−Ｓ２１２の処理動作は、図１に示すステップＳ１０５−Ｓ１１１と同じであるため、ここでは説明を省略する。

次に、ヒストグラムの区間［Ｆ［~Ｌ_ｍ−（~Δ_ｍ−１）］，Ｆ［~Ｌ_ｍ］］を代表値で近似した場合の近似誤差を参照テーブルＥ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）から読み込む（ステップＳ２１３）。

次に、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋Ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）の値を計算する（ステップＳ２１４）。

次に、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋Ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））の中での最小値を~Ｓ_ｍ（~Ｌ_ｍ）に格納する（ステップＳ２１６）。
次に、~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋Ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））を最小化する~Δ_ｍを用いて、~Ｌ_ｍ−~Δ_ｍを＾Ｌ_ｍ−１（~Ｌ_ｍ）に格納する（ステップＳ２１７）。

ステップＳ２２０−Ｓ２２３は、図１に示すステップＳ１１９−Ｓ１２２と同じであるため、ここでは説明を省略する。

次に、図３を参照して、図２に示すステップＳ２０５について詳細な処理動作を説明する。図３は、図２に示すステップＳ２０５について詳細な処理動作を示すフローチャートである。

まず、入力信号のヒストグラムを読み込む（ステップＳ３０１）。そして、参照テーブルＺ［ｋ］（ｋ＝０，・・・，Ｋ−１）、Ｆ［~ｋ］（~ｋ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−１）を読み込む（ステップＳ３０２）。

次に、ステップＳ３０５までの処理を~ｋ＝１，・・・，Ｋ−Ｚ［Ｋ−１］−１として繰り返す（ステップＳ３０３）。そして、ｑ_１［０，~ｋ］，ｑ_２［０，~ｋ］，ｑ_３［０，~ｋ］に０を格納する（ステップＳ３０４）。

次に、ステップＳ３１６までの処理を~ｉ_ｓ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−２として繰り返す（ステップＳ３０６）。そして、~ｉ_ｓ＋Ｋ−Ｚ［Ｋ−１］−Ｍ−１とＫ−Ｚ［Ｋ−１］−１を比較して、小さい方の値を変数Ｕに格納する（ステップＳ３０７）。

次に、ステップＳ３１５までの処理を~ｉ＝~ｉ＋１，・・・，Ｕとして繰り返す（ステップＳ３０８）。そして、参照テーブルＦ［~ｉ_ｅ］を読み込み、ｉ_ｅにＦ［~ｉ_ｅ］を代入する。また、参照テーブルＦ［~ｉ_ｓ］を読み込み、ｉ_ｓにＦ［~ｉ_ｓ］を代入する（ステップＳ３０９）。

次に、ｑ_１［ｉ_ｓ，ｉ_ｅ−１］、ｈ［ｉ_ｅ］を読み込み、ｑ_１［ｉ_ｓ，ｉ_ｅ−１］＋ｈ［ｉ_ｅ］を算出し、算出結果をｑ_１［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１０）。続いて、ｑ_２［ｉ_ｓ，ｉ_ｅ−１］，ｈ［ｉ_ｅ］，ｉ_ｅを読み込み、ｑ_２［ｉ_ｓ，ｉ_ｅ−１］＋ｉ_ｅｈ［ｉ_ｅ］を算出し、算出結果をｑ_２［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１１）。

次に、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］、ｈ［ｉ_ｅ］、ｉ_ｅを読み込み、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］＋ｉ^２ _ｅｈ［ｉ_ｅ］を算出し、算出結果をｑ_３［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１２）。続いて、ｑ_２［ｉ_ｓ，ｉ_ｅ−１］、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］を読み込み、ｑ_２［ｉ_ｓ，ｉ_ｅ］／ｑ_１［ｉ_ｓ，ｉ_ｅ］を算出し、算出結果をｃ［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１３）。

次に、ｑ_１［ｉ_ｓ，ｉ_ｅ−１］，ｑ_２［ｉ_ｓ，ｉ_ｅ−１］，ｑ_３［ｉ_ｓ，ｉ_ｅ−１］，ｃ［ｉ_ｓ，ｉｅ］を読み込み、ｑ_３［ｉ_ｓ，ｉ_ｅ］−２ｃ［ｉ_ｓ，ｉ_ｅ］ｑ_２［ｉ_ｓ，ｉ_ｅ］＋ｃ［ｉ_ｓ，ｉ_ｅ］^２ｑ_１［ｉ_ｓ，ｉ_ｅ］を算出し、算出結果をＥ［~ｉ_ｓ，~ｉ_ｅ］に格納する（ステップＳ３１４）。

次に、図４を参照して、適応量子化装置の構成について説明する。図４は、適応量子化装置の構成を示すブロック図である。ヒストグラム生成部４００は、入力信号を入力として読み込み、入力信号のヒストグラムを生成し、入力信号のヒストグラム及び入力信号のレベル数Ｋをヒストグラム・入力信号素数記憶部４０１に格納する。量子化クラス数記憶部４０２は、量子化クラス数Ｍを格納する。

要素インデックス参照テーブル生成部４０３は、ヒストグラムの要素インデックスをｋ、ヒストグラムの有意要素インデックスを~ｋとし、このｋと~ｋの対応関係を格納した参照テーブルとして、Ｆ［~ｋ］を生成する。そして、この参照テーブルを要素インデックス記憶部４０４に格納する。具体的な参照テーブルの生成方法は、図１に示すステップＳ１０２の通りである。

非有意要素数参照テーブル生成部４０５は、ヒストグラムの区間［０，ｋ］に含まれる非有意要素の個数を格納した参照テーブルとして、Ｚ［ｋ］を生成する。そして、この参照テーブルを非有意要素数記憶部４０６に格納する。具体的な参照テーブルの生成方法は、図１に示すステップＳ１０３の通りである。

量子化クラス上界値参照テーブル生成部４０７は、第ｍクラスの有意要素インデックスの最大値を格納した参照テーブルとして、Ψ_ｕ［ｍ］（ｍ＝０，・・・，Ｍ−１）を生成する。そして、この参照テーブルを量子化クラス上界値記憶部４０８に格納する。具体的な参照テーブルの生成方法は、図１に示すステップＳ１０４の通りである。

量子化クラス下界値参照テーブル生成部４０９は、第ｍクラスの有意要素インデックスの最小値を格納した参照テーブルとして、Ψ_ｌ［ｍ］（ｍ＝０，・・・，Ｍ−１）を生成する。そして、この参照テーブルを量子化クラス下界値記憶部４１０に格納する。具体的な参照テーブルの生成方法は、図１に示すステップＳ１０４の通りである。

近似誤差算出部４１１は、入力信号のヒストグラム、入力信号のレベル数、量子化クラス数、要素インデックスの参照テーブル、非有意要素数の参照テーブル、量子化クラスの上界値の参照テーブル、量子化クラスの下界値の参照テーブルを入力として、ヒストグラムを量子化クラス数で指定されたクラス数に分割した場合の近似誤差の最小値を算出し、この最小値を近似誤差最小値記憶部４１２に格納する。また、各量子化クラスにおいて近似誤差の累積値を最小化するクラスの上端を表す有意要素インデックスを、最適パス追跡用参照テーブルとして、量子化クラス上端最適値記憶部４１３に格納する。具体的な処理は、図１に示すステップＳ１０５〜Ｓ１１８の通りである。

量子化クラス上端最適値追跡部４１４は、入力信号のレベル数、量子化クラス数、要素インデックス参照テーブル、有意要素数参照テーブル、最適パス追跡用参照テーブルを入力として、近似誤差の最小値を実現する際のクラスの上端を表す要素インデックスを算出する。具体的な処理は、図１に示すステップＳ１１９〜Ｓ１２２の通りである。

次に、図５を参照して、近似誤差を参照テーブルに格納し、適宜、同参照テーブルから近似誤差を読み込む形に拡張した演算量低減型適応量子化装置の構成を説明する。図５は、演算量低減型適応量子化装置の構成を示すブロック図である。図５において、図４に示す装置と同一の部分には同一の符号を付し、その説明を省略する。図５に示す装置が図４に示す装置と異なる点は、近似誤差最小値算出部５１１、量子化クラス上端最適値追跡部５１４、近似誤差算出部５１５、近似誤差記憶部５１６が設けられている点である。

近似誤差最小値算出部５１１は、入力信号のヒストグラム、入力信号のレベル数、量子化クラス数、要素インデックスの参照テーブル、非有意要素数の参照テーブル、量子化クラスの上界値の参照テーブル、量子化クラスの下界値の参照テーブル近似誤差の参照テーブルを入力として、ヒストグラムを量子化クラス数で指定されたクラス数に分割した場合の近似誤差の最小値を算出し、この最小値を近似誤差最小値記憶部４１２に格納する。また、各量子化クラスにおいて近似誤差の累積値を最小化するクラスの上端を表す有意要素インデックスを、最適パス追跡用参照テーブルとして、量子化クラス上端最適値記憶部４１３に格納する。具体的な処理は、図２に示すステップＳ２０６〜Ｓ２１９の通りである。

量子化クラス上端最適値追跡部５１４は、入力信号のレベル数、量子化クラス数、要素インデックス参照テーブル、有意要素数参照テーブル、最適パス追跡用参照テーブルを入力として、近似誤差の最小値を実現する際のクラスの上端を表す要素インデックスを算出する。具体的な処理は、図２に示すステップＳ２２０〜Ｓ２２３の通りである。

近似誤差算出部５１５は、入力信号のヒストグラム、入力信号のレベル数、量子化クラス数、要素インデックスの参照テーブル、非有意要素数の参照テーブルを入力として、近似誤差を算出し、近似誤差の参照テーブルとして、算出して近似誤差を近似誤差記憶部５１６に格納する。具体的な処理は、図３に示す通りである。

次に、適応量子化処理の基本処理について説明する。非有意係数に対する不要な処理を削除した適応量子化処理は以下のようになる。

１．入力信号のヒストグラム（クラス数Ｋ）を生成する。
２．量子化後のクラス数Ｍを読み込む。
３．参照テーブルＺ［ｋ］（ｋ＝０，・・・，Ｋ−１）、Ψ_ｌ［ｍ］，Ψ_ｕ［ｍ］（ｍ＝０，・・・，Ｍ−１），Ｆ［~ｋ］（~ｋ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−１）を生成する。
４．ｆｏｒ ｊ＝０，・・・，Ｋ−Ｍ−１−Ｚ［Ｋ−Ｍ−１］
５． ヒストグラムの区間［０，Ｆ［ｊ］］を代表値（式（４）により求まる重心）で近似した場合の近似誤差を求め、同近似誤差をＳ_０（ｊ）に格納する。

６．ｆｏｒ ｍ＝１，・・・，Ｍ−１
７． ｆｏｒ ~Ｌ_ｍ＝Ψ_ｌ［ｍ］，・・・，Ψ_ｕ［ｍ］
８． ｆｏｒ ~Δ_ｍ＝１，・・・，~Ｌ_ｍ−Ψ_ｌ（ｍ−１）
９． ヒストグラムの区間［Ｆ［~Ｌ_ｍ−（~Δ_ｍ−１）］，Ｆ［~Ｌ_ｍ］］を代表値で近似した場合の近似誤差を求める。代表値は式（４）により求め、同近似誤差は式（３）より求める。同近似誤差を~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）とする。
１０． ~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）の値を計算する。
１１． ~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））の中での最小値を~Ｓ_ｍ（~Ｌ_ｍ）に格納する。
１２． ~Ｓ_ｍ−１（~Ｌ_ｍ−~Δ_ｍ）＋~ｅ（~Ｌ_ｍ−（~Δ_ｍ−１），~Ｌ_ｍ）（~Δ_ｍ＝１，・・・，~Ｌ_ｍ−（ｍ−１））を最小化する~Δ_ｍを用いて、~Ｌ_ｍ−~Δ_ｍを＾Ｌ_ｍ−１（~Ｌ_ｍ）に格納する。

１３．Ｌ^＊ _Ｍ−１←Ｋ−１
１４．~Ｌ^＊ _Ｍ−１←Ｋ−Ｚ［Ｋ−１］−１
１５．ｆｏｒ ｍ＝Ｍ−１，・・・，１
１６． ＾Ｌ_ｍ−１（~Ｌ^＊ _ｍ）を読み込み、~Ｌ^＊ _ｍ−１←＾Ｌ_ｍ−１（~Ｌ^＊ _ｍ）とする。
１７． Ｌ^＊ _ｍ−１←Ｆ［~Ｌ^＊ _ｍ−１］

次に、演算量低減処理を伴う適応量子化処理の動作を説明する。前述のルックアップテーブルを参照する方式の場合は、以下のようになる。

１．入力信号のヒストグラム（クラス数Ｋ）を生成する。
２．量子化後のクラス数Ｍを読み込む。
３．参照テーブルＺ［ｋ］（ｋ＝０，・・・，Ｋ−１），Ψ_ｌ［ｍ］，Ψ_ｕ［ｍ］（ｍ＝０，・・・，Ｍ−１），Ｆ［~ｋ］（~ｋ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−１）を生成する。
４．後述する「近似誤差参照テーブル生成処理」に基づき、近似誤差を格納した参照テーブルＥ［~ｉ_ｓ，~ｉ_ｅ］を生成する。
５．ｆｏｒ ｊ＝０，・・・，Ｋ−Ｍ−１−Ｚ［Ｋ−Ｍ−１］
６． Ｓ_０（ｊ）←Ｅ［０，ｊ］
７．適応量子化処理の基本処理の６．以降の処理を実施する。

次に、近似誤差参照テーブル生成処理について説明する。
１．ｆｏｒ ~ｋ＝０，・・・，Ｋ−Ｚ［Ｋ−１］−１
２．ｑ_１［０，~ｋ］←０
３．ｑ_２［０，~ｋ］←０
４．ｑ_３［０，~ｋ］←０
５．ｆｏｒ ~ｉ_ｓ＝０，・・・，Ｋ．Ｚ［Ｋ−１］−２
６． ｆｏｒ ~ｉ_ｅ＝ｉ_ｓ＋１，・・・，ｍｉｎ（ｉ_ｓ＋Ｋ．Ｚ［Ｋ−１］−Ｍ−１，Ｋ−Ｚ［Ｋ−１］−１）
７． ｉ_ｅ＝Ｆ［~ｉ_ｅ］
８． ｉ_ｓ＝Ｆ［~ｉ_ｓ］
９． ｑ_１［ｉ_ｓ，ｉ_ｅ］←ｑ_１［ｉ_ｓ，ｉ_ｅ−１］＋ｈ［ｉ_ｅ］
１０． ｑ_２［ｉ_ｓ，ｉ_ｅ］←ｑ_２［ｉ_ｓ，ｉ_ｅ−１］＋ｉ_ｅｈ［ｉ_ｅ］
１１． ｑ_３［ｉ_ｓ，ｉ_ｅ］←ｑ_３［ｉ_ｓ，ｉ_ｅ−１］＋ｉ^２ _ｅｈ［ｉ_ｅ］
１２． ｃ［ｉ_ｓ，ｉ_ｅ］←ｑ_２［ｉ_ｓ，ｉ_ｅ］／ｑ_１［ｉ_ｓ，ｉ_ｅ］
１３． Ｅ［~ｉ_ｓ，~ｉ_ｅ］←ｑ_３［ｉ_ｓ，ｉ_ｅ］−２ｃ［ｉ_ｓ，ｉ_ｅ］ｑ_２［ｉ_ｓ，ｉ_ｅ］＋ｃ［ｉ_ｓ，ｉ_ｅ］^２ｑ_１［ｉ_ｓ，ｉ_ｅ］

以上説明したように、画像信号符号化の際のビット深度変換技術のうち、画素値の出現頻度を示すヒストグラムの量子化としてビット深度を変換する（画素値の出現範囲を０〜Ｋ−１から０〜Ｍ−１に減少させることにより（Ｋ：入力レベル数＞Ｍ：量子化レベル数）、ビット深度を低くする）ようにした。このように、出現頻度がゼロとなる画素値を考慮してヒストグラムの区間分割を決定することにより、ビット深度変換に伴う誤差の最適性を維持しつつもビット深度変換に伴う演算量を低減することができる。そのため、階調変換に伴う変換誤差の最小化を維持しつつ、階調変換を実現するための演算量を低減することが可能となる。

前述した実施形態における適応量子化装置の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、ＰＬＤ（Programmable Logic Device）やＦＰＧＡ（Field Programmable Gate Array）等のハードウェアを用いて実現されるものであってもよい。

以上、図面を参照して本発明の実施の形態を説明してきたが、上記実施の形態は本発明の例示に過ぎず、本発明が上記実施の形態に限定されるものではないことは明らかである。したがって、本発明の技術思想及び範囲を逸脱しない範囲で構成要素の追加、省略、置換、その他の変更を行ってもよい。

ビット深度変換誤差の最適性を保持しつつ、演算量を低減することが不可欠な用途に適用できる。

４００・・・ヒストグラム生成部、４０１・・・ヒストグラム・入力信号要素数記憶部、４０２・・・量子化クラス数記憶部、４０３・・・要素インデックス参照テーブル生成部、４０４・・・要素インデックス記憶部、４０５・・・非有意要素数参照テーブル生成部、４０６・・・非有意要素数記憶部、４０７・・・量子化クラス上界値参照テーブル生成部、４０８・・・量子化クラス上界値記憶部、４０９・・・量子化クラス下界値参照テーブル生成部、４１０・・・量子化クラス下界値記憶部、４１１・・・近似誤差算出部、４１２・・・近似誤差最小値記憶部、４１３・・・量子化クラス上端最適値記憶部、４１４・・・量子化クラス上端最適値追跡部、５１１・・・近似誤差最小値算出部、５１４・・・量子化クラス上端最適値追跡部、５１５・・・近似誤差算出部、５１６・・・近似誤差記憶部

Claims (5)

1. 入力信号のヒストグラムに対して、与えられたヒストグラムの区間の数を示すレベル数で前記ヒストグラムを近似する量子化処理を行う適応量子化装置が行う適応量子化方法であって、
   前記区間の境界を示すクラス境界の候補を有意要素に制限する制限ステップと、
   前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するメモリ格納ステップと、
   次のクラスでの前記クラス境界を選択する際、非有意要素を前記近似誤差の累積値計算から除外し、前記メモリに格納した最小値を読み出す最小値読み出しステップと、
   前記最小値を現時点での前記クラス境界の選択における前記近似誤差の累積値計算に用いることで、前記クラス境界の全要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択ステップと
   を有する適応量子化方法。
2. 前記非有意要素を前記クラス境界の候補から除外して前記有意要素をクラス境界の候補とする際に、前記クラス境界となり得ない前記有意要素を候補から除外するための前記クラス境界となり得る前記有意要素の上限及び下限を設ける上下限設定ステップと、
   前記上限及び前記下限の範囲に含まれる前記有意要素を前記クラス境界の候補とする請求項１に記載の適応量子化方法。
3. 各クラスの境界が前記有意要素となる場合の近似誤差のみを参照テーブルに格納するテーブル格納ステップと、
   前記参照テーブルを参照して前記近似誤差の累積値の算出に用いる各クラス内の近似誤差を取得する請求項１または２に記載の適応量子化方法。
4. 入力信号のヒストグラムに対して、与えられたヒストグラムの区間の数を示すレベル数で前記ヒストグラムを近似する量子化処理を行う適応量子化装置であって、
   前記区間の境界を示すクラス境界の候補を有意要素に制限する制限手段と、
   前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するメモリ格納手段と、
   次のクラスでの前記クラス境界を選択する際、非有意要素を前記近似誤差の累積値計算から除外し、前記メモリに格納した最小値を読み出す最小値読み出し手段と、
   前記最小値を現時点での前記クラス境界の選択における前記近似誤差の累積値計算に用いることで、前記クラス境界の全要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択手段と
   を備える適応量子化装置。
5. コンピュータに、請求項１から３のいずれか１項に記載の適応量子化方法を実行させるための適応量子化プログラム。

Images