JP6538572B2

JP6538572B2 - 量子化方法、量子化装置及び量子化プログラム

Info

Publication number: JP6538572B2
Application number: JP2016002850A
Authority: JP
Inventors: 幸浩坂東; 誠之高村; 清水　淳; 淳清水
Original assignee: Nippon Telegraph and Telephone Corp
Current assignee: Nippon Telegraph and Telephone Corp
Priority date: 2016-01-08
Filing date: 2016-01-08
Publication date: 2019-07-03
Anticipated expiration: 2036-01-08
Also published as: JP2017123614A

Description

本発明は、量子化方法、量子化装置及び量子化プログラムに関する。

近年、画像の高品質化に伴い、広ダイナミックレンジ映像への期待が高まっている。広ダイナミックレンジを有する画像信号に対する高いビット深度を用いた表現が検討されている。従来の８ビットから１０ビット以上に拡張した高ビット深度信号を取得可能なデバイスが登場している。

画像の符号量は、画像信号の高ビット深度化に応じて増大する。このため、効率的な符号化方法が求められている。図１８は、従来の高ビット深度信号の第１の符号化方法を示す図である。従来の高ビット深度信号の第１の符号化方法では、符号化装置は、高ビット深度信号の画像信号にビット深度変換処理を施すことで、画像信号を低ビット深度信号に変換して符号化及び復号処理を行う。さらに、符号化装置は、復号画像に対して逆ビット深度変換処理を行い、高ビット深度画像を生成する。最後に、符号化装置は、高ビット深度画像と入力信号との差分信号を符号化する。符号化装置の出力は、差分信号の符号化ストリームと、低ビット深度信号の符号化ストリームとである。このように、従来の高ビット深度信号の第１の符号化方法は、ビット深度のスケーラブル符号化に対応した方法である。

図１９は、従来の高ビット深度信号の第２の符号化方法を示す図である。図１９では、符号化装置は、差分信号の符号化ストリームを出力しない。符号化装置は、取得した画像信号にビット深度変換処理を施すことで、画像信号を復号信号に変換して符号化及び復号処理を行う。その後、符号化装置は、低ビット深度画像の復号信号に逆ビット深度変換処理を施し、高ビット深度画像の復号信号を出力する。

図１８に示す従来の高ビット深度信号の第１の符号化方法における符号化効率は、ビット深度変換処理に大きく依存する。従来の高ビット深度信号の第１の符号化方法においては、入力信号と逆ビット深度変換処理後の復号信号との差分値の二乗和（以下、「ビット深度変換誤差」という。）を抑えることで、符号化器の出力信号の符号量を抑えることができる。ビット深度変換処理において、いくつかのトーンマッピング（Tone Mapping）を用いた方法が非特許文献１に開示されている。符号化効率を向上させるためには、ビット深度変換誤差を最小化するようにビット深度変換が設計される必要がある。

E. Reinhard, M. Stark, P. Shirley, and J. Ferwerda, "Photographic Tone Reproduction for Digital Images", In SIGGRAPH 2002 Conference Proceeding, ACM SIGGRAPH, Addison Wesley, pp. 267-277, August 2002.

画素値の振幅方向の疎性に着目すると、画像によっては、与えられたビット深度によって表現可能な値を全て含まない場合がある。例えば、１０ビット信号の場合、０から１０２３までの１０２４種類の値を表現できる。振幅方向の疎性とは、画素値として画像内に含まれる値の種類が１０２４通り未満となる性質を指す。つまり、そうした画像では、画素値の頻度をヒストグラムとして表現した場合、頻度が零値になる画素値が存在する。なお、前述のビット深度変化処理は、ヒストグラムに対する一種の量子化処理とみなせる。

頻度が零値になる画素値は、ビット深度変換誤差に影響を与えない。しかしながら、従来の量子化方法は、信号の階調変換を行う際に発生する変換誤差を最小化する場合、量子化に要する演算量を低減することができないという問題がある。

上記事情に鑑み、本発明は、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能となる量子化方法、量子化装置及び量子化プログラムを提供することを目的としている。

本発明の一態様は、第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するステップと、前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するステップと、を含む量子化方法である。

本発明の一態様は、第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の下限に対して、前記選択可能範囲の下限を上端とする各区間内における非有意要素の連続数の最大値を加算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の下限に最も近い前記有意要素の位置とを比較し、相対的に大きな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな下限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するステップと、前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するステップと、を含む量子化方法である。

本発明の一態様は、第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置であって、前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納する近似誤差最小値決定部と、前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択する上端追跡部と、を備える量子化装置である。

本発明の一態様は、第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置のコンピュータに、前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納する手順と、前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択する手順と、を実行させるための量子化プログラムである。

本発明により、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能となる。

実施形態における、参照テーブルρ_ｕ［ｍ］を生成する処理の例を示す図である。実施形態における、参照テーブルρ_ｌ［ｍ］を生成する処理の例を示す図である。実施形態における、ルックアップテーブルに格納する処理の例を示す図である。実施形態における、適応量子化処理の例を示すフローチャートである。実施形態における、要素インデックスと有意要素インデックスとの対応関係を格納した参照テーブルを生成する処理の例を示す図である。実施形態における、非有意要素の個数を格納した参照テーブルを生成する処理の例を示す図である。実施形態における、演算量低減型適応量子化処理の例を示すフローチャートである。実施形態における、近似誤差参照テーブルを生成する処理（ステップＳ２０５）の例を示すフローチャートである。実施形態における、ステップＳ１０４−２及びステップＳ２０４−２での上界用の参照テーブルを生成する処理の例を示すフローチャートである。実施形態における、ステップＳ１０４−２及びステップＳ２０４−２での下界用の参照テーブルを生成する処理の例を示すフローチャートである。実施形態における、ステップＳ４０１での参照テーブルを生成する処理の例を示すフローチャートである。実施形態における、ステップＳ５０１での参照テーブルを生成する処理の例を示すフローチャートである。実施形態における、量子化装置の構成の第１例を示す図である。実施形態における、量子化装置の構成の第２例を示す図である。実施形態における、適応量子化処理の基本処理の例を示す図である。実施形態における、適応量子化処理の演算量低減処理の例を示す図である。実施形態における、近似誤差参照テーブルを生成する処理の例を示す図である。従来の高ビット深度信号の第１の符号化方法を示す図である。従来の高ビット深度信号の第２の符号化方法を示す図である。

本発明の実施形態について、図面を参照して詳細に説明する。
以下、図又は式において変数等の上に付された記号（＾：ハット、〜：チルダ）は、変数の前に記載する。例えば、「＾」が上に付されたｃは、「＾ｃ」と表記する。以下、図又は式において変数又は記号の下付きの記号等と上付きの記号等とでは、下付きの記号等を先に記載する。例えば、下付き「１」と上付き「＊」とが付された変数Δは、「Δ_１ ^＊」と表記する。例えば、下付き「ｉ＝０」と上付き「ｍ」とが付された記号Σは、「Σ_ｉ＝０ ^ｍ」と表記する。

以下、Ｋは、入力信号のレベル数（以下、「入力レベル数」という。）を示す。Ｍ（Ｍ＜Ｋ）は、量子化された入力信号に基づく出力信号のレベル数（以下、「量子化レベル数」という。）を示す。画素値ｋのヒストグラム（頻度）をｈ［ｋ］（ｋ＝０，…，Ｋ−１）と表記する。

[量子化器の設計]
画像信号（輝度信号）が８ビットである場合、画素値ｋの取り得る範囲は、０から「入力レベル数−１」までの整数、すなわち、０から２５５の値となる。入力レベル数Ｋの画像信号を量子化レベル数の画像信号に量子化する場合を考える。求めるべきパラメータは、式（１）を満たすＭ個のパラメータである。

ここで、Ｌ_ｍは、ヒストグラムにおける第ｍ区間の上端であり、式（２）によって表される。

ここで、Δ_ｍは、ヒストグラムの第ｍ区間の区間幅を表す。また、量子化後の各階調が、少なくとも１個以上、量子化前の階調を含む必要があることから、Ｌ_ｍ（０≦ｍ≦Ｍ−２）は、ｍ≦Ｌ_ｍ≦Ｋ−（Ｍ−ｍ）の範囲に制限される。Ｌ_Ｍ−１はＬ_Ｍ−１＝Ｋ−１に固定されているので、Ｌ_ｍについては、ｍ＝Ｍ−１を省略し、ｍ≦Ｍ−２を考えれば良い。

ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）は次式で求まる値であり、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］を代表値ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）で近似した場合の近似誤差である。

さらに、＾ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）は、式（４）で求まる実数値ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）を四捨五入して整数化した値である。

ｃ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）は、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］における重心位置を表す。以下、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］を第ｍ量子化クラスと呼ぶ。Ｍ個のパラメータ（Δ_１，…，Δ_ｍ）の取り得る組み合わせは、Ｍとともに指数関数的に増加するため、この中から最適な組み合わせ(Δ_１，…，Δｍ)を総当りで探索するのは、計算量的に困難である。

そこで、第ｍ量子化クラスの量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が同クラスの上端Ｌ_ｍと同クラスの区間幅Δｍに依存することに着目し、以下のように最適解を算出する。さらに、その際、ヒストグラムの非有意要素に基づく演算量削減を行う。

[基本解法]
まず、ヒストグラムの区間［０，Ｌ_ｍ］をｍ＋１分割した際の近似誤差和Σ_ｉ＝０ ^ｍｅ（Ｌ_ｉ−（Δ_ｉ−１），Ｌ_ｉ）の最小値をＳ_ｍ（Ｌ_ｍ）として定義する。つまり、最適なΔ_ｍ，…，Δ_０を用いた場合のΣ_ｉ＝０ ^ｍｅ（Ｌ_ｉ−（Δ_ｉ−１），Ｌ_ｉ）に対する最小値である。ここで、ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が第ｍ量子化クラスの上端Lmと同クラスの区間幅Δ_ｍに依存することに着目すると、Ｓ_ｍ（Ｌ_ｍ）はＳ_ｍ−１（Ｌ_ｍ−Δ_ｍ）を用いて、式（５）のように表わされる。

なお、ｍ＝１，…，Ｍ−１である。また、Ｌ_ｍ＝ｍ，…，Ｋ−（Ｍ−ｍ）である。
Δ_ｍの範囲は、次のようになる。Ｌ_ｍ−１＝Ｌ_ｍ−Δ_ｍであることから、Ｌ_ｍ−Δ_ｍの範囲は、ｍ−１≦Ｌ_ｍ−Δ_ｍ≦Ｋ−（Ｍ−ｍ＋１）となる。このため、Δ_ｍの範囲は、与えられたＬ_ｍを用いて式（６）のように表わされる。

さらに、Δ_ｍ≧１であることを考慮すると、式（７）を得る。

ここで、算出したＳ_ｍ（Ｌ_ｍ）を格納しておき、Ｓ_ｍ＋１（Ｌ_ｍ＋１）の計算で用いるものとする。さらに、式（５）の右辺を最小化するΔ_ｍの値をΔ_ｍ ^（Ｌｍ）として、各Ｌｍ（＝ｍ，…，Ｋ−Ｍ＋ｍ）に対して＾Ｌ_ｍ−１［Ｌ_ｍ］＝Ｌ_ｍ−Δ_ｍ ^（Ｌｍ）を格納する。式（１）の最小化問題は、式（８）のように表される。

式（８）を最小化するΔ_Ｍ−１をΔ_Ｍ−１ ^＊と表記する。Δ_Ｍ−１ ^＊は、式（９）によって表される。

Δ_Ｍ−１ ^＊を用いて、第Ｍ−２クラスの上端の最適値はＬ_Ｍ−２＝Ｌ_Ｍ−１−Δ_Ｍ−１ ^＊＝Ｋ−１−Δ_Ｍ−１ ^＊と求まる。第Ｍ−３クラスの上端の最適値は、Ｌ_Ｍ−２に対する最適解として、＾Ｌ_Ｍ−３［Ｌ_Ｍ−２］として格納されているので、該当する値を参照し、Ｌ_Ｍ−３＝＾Ｌ_Ｍ−３［Ｌ_Ｍ−２］とする。この結果、第Ｍ−２クラスの区間幅は、Δ_Ｍ−２ ^＊＝Ｌ_Ｍ−２ ^＊−Ｌ_Ｍ−３ ^＊と求まる。以下、同様の参照処理をＬ_Ｍ−４ ^＊＝＾Ｌ_Ｍ−４［Ｌ_Ｍ−３ ^＊］,…,Ｌ_０ ^＊＝＾Ｌ_０［Ｌ_１ ^＊］として繰り返し、得られた各クラスの上端値を用いて、Δ_Ｍ−３ ^＊＝Ｌ_Ｍ−３ ^＊−Ｌ_Ｍ−４ ^＊,…,Δ_０ ^＊＝Ｌ_０ ^＊−Ｌ_−１ ^＊として求める。なお、Ｌ_−１ ^＊＝−１である。

[ヒストグラムの非有意要素に基づく演算量削減]
ヒストグラムの非有意要素（頻度値が零値となる要素）に着目し、演算量を削減する方法を導入する。以下、ヒストグラムｈ［ｋ］（ｋ＝０，…，Ｋ−１）について、要素を指定するインデックスｋを「要素インデックス」という。以下、ヒストグラムｈ［ｋ］について、有意要素(〜Ｋ個)を指定するインデックス〜ｋ(〜ｋ＝０，…，〜Ｋ−１)を「有意要素インデックス」という。

画素値Ｌ_ｍ＋１における頻度値ｈ［Ｌ_ｍ＋１］が零値である場合、即ち、ｈ［Ｌ_ｍ＋１］＝０の場合、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ＋１］に対する近似誤差は、ヒストグラムの区間［Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ］に対する近似誤差と等しい。ｈ［Ｌ_ｍ＋１］＝０であることから、量子化の対象となる区間にｈ［Ｌ_ｍ＋１］を加えたとしても、量子化による近似には影響を与えないためである。従って、ｈ［Ｌ_ｍ＋１］＝０の場合、式（５）に基づくＳ（Ｌ_ｍ＋１）の算出は省略することが可能となる。

ヒストグラムの非有意要素に着目した適応処理の準備として、以下の参照テーブルを用意する。Ｚ［ｋ］（ｋ＝０，…，Ｋ−１）は、ヒストグラムの区間［０，ｋ］に含まれる非有意要素の個数を格納する。Ｆ［〜Ｋ］は、第〜Ｋ番目の有意要素（非有意要素ではなく有意要素）に対応する要素インデックスを格納する。一方、Ｆ^−１［ｋ］は、第k番目の要素に対応する有意要素インデックスを格納する。なお、第ｋ要素が非有意要素の場合、Ｆ^−１［Ｋ］には“ｄｏｎ’ｔｃａｒｅ”を表す値を代入する。

Ψ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）は第ｍビンの上端となりうる有意要素インデックスの最大値を格納する。Ψ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）は第ｍビンの上端となりうる有意要素インデックスの最小値を格納する。ここで、Ψ_ｕ［ｍ］,Ψ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）は各々、次のように設定される。以下は参照テーブルＺ［］を用いた場合のΨ_ｕ［ｍ］,Ψ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）の計算方法である。

以下は参照テーブルＦ^−１［］を用いた場合のΨ_ｕ［ｍ］,Ψ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）の計算方法である。

ここで、〜Ｋ−１は有意要素インデックスの最大値を表している。Ｋ−１−Ｚ［Ｋ−１］は〜Ｋ−１と表される。ψ_ｕ［ｍ−Ｍ＋Ｋ］は、ヒストグラムの区間［ｍ,ｍ−Ｍ＋Ｋ］における有意要素の要素インデックスの最大値であり、ψ_ｌ［ｍ］は、ヒストグラムの区間［ｍ,ｍ−Ｍ＋Ｋ］における有意要素の要素インデックスの最小値である。つまり、ψ_ｕ［ｍ−Ｍ＋Ｋ］は、第ｍビンの上端として取りうる有意要素の中で、選択可能範囲の上限に最も近い有意要素であり、ψ_ｌ［ｍ］は、第ｍビンの上端として取りうる有意要素の中で、選択可能範囲の下限に最も近い有意要素である。

図１は、参照テーブルρ_ｕ［ｍ］を生成する処理の例を示す図である。図２は、参照テーブルρ_ｌ［ｍ］を生成する処理の例を示す図である。式（１０）から式（１３）までは、一定の条件を満たす場合、ψ_ｕ［ｍ−Ｍ＋Ｋ］およびψ_ｌ［ｍ］の指す有意要素が最適解の候補とはなりえず、最適解の探索候補から除外可能であることを示している。その条件とは、ψ_ｕ［ｍ−Ｍ＋Ｋ］の場合は、ρ_ｕ［ｍ］で定まるインデックス値ｍ−Ｍ＋Ｋ−ρ_ｕ［ｍ］が、ψ_ｕ［ｍ−Ｍ＋Ｋ］が表す要素インデックスよりも小さな値をとることであり、ψ_ｌ［ｍ］の場合は、ρ_ｌ［ｍ］で定まるインデックス値ｍ＋ρ_ｌ［ｍ］が、ψ_ｌ［ｍ］が表す要素インデックスよりも大きな値をとることである。ここで、ρ_ｕ［ｍ］は、ヒストグラムの区間［ｍ−Ｍ＋Ｋ,Ｋ−１］における非有意要素のみからなる部分区間の区間幅の最大値を表し、ρ_ｌ［ｍ］はヒストグラムの区間［０,ｍ］における非有意要素のみからなる部分区間の区間幅の最大値を表す。つまり、ρ_ｕ［ｍ］およびρ_ｌ［ｍ］は、指定された各区間内における非有意要素の連続数の最大値を表している。各々、図１及び図２に示すように定まる。

[最適解の求解]
非有意要素に対する不要な演算を省略し、演算量を低減するために、有意要素インデックスを用いた最適解の求解アルゴリズムを以下に示す。

〜Ｌ_ｍ番目の有意要素を上端とするヒストグラムの区間［０，Ｆ［〜Ｌ_ｍ］］をｍ＋１分割した場合を考える。同区間の分割により得られる部分区間［Ｆ［〜Ｌ_ｉ−（〜Δ_ｉ−１）］，Ｆ［〜Ｌ_ｉ］］(ここで、ｉ＝０，…，ｍ)を第ｉビンとする。第ｉビンに対して、重心で近似した場合の量子化誤差ｅ（Ｆ［〜Ｌ_ｉ−（〜Δ_ｉ−１）］，Ｆ［〜Ｌ_ｉ］）を算出する。ここで、〜Ｌ_ｉは第iビンの上端にあたる有意要素インデックスであり、〜Δ_ｉは第ｉビン内の有意要素数である。さらに、量子化誤差和Σ_ｉ＝０ ^ｍｅ［〜Ｌ_ｉ−（〜Δ_ｉ−１），〜Ｌ_ｉ］の最小値を格納する参照テーブルを〜Ｓ_ｍ［〜Ｌ_ｍ］として定義する。つまり、最適な〜Δ_ｍ，…，〜Δ_０を用いた場合のσ_ｉ＝０ ^ｍｅ［〜Ｌ_ｉ−（〜Δ_ｉ−１），〜Ｌ_ｉ］に対する最小値である。なお、〜Ｓ_ｍ［〜Ｌ_ｍ］はＳ_ｍ［Ｆ［〜Ｌ_ｍ］］と等しい。

ここで、〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）が第ｍ量子化クラスの上端の有意要素インデックス〜Ｌ_ｍと同クラスの区間幅内の有意要素数〜Δ_ｍに依存することに着目すると、〜Ｓ_ｍ（〜Ｌ_ｍ）は〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）を用いて、式（１４）のように表される。

なお、ｍ＝０，…，Ｍ−１である。また、〜Ｌ_ｍ＝Ψ_ｌ［ｍ］，…，Ψ_ｕ［ｍ］である。〜Δ_ｍの範囲は、次のようになる。〜Ｌ_ｍ−１＝〜Ｌ_ｍ−〜Δ_ｍであることから、〜Ｌ_ｍ−〜Δ_ｍの範囲は、Ψ_ｌ［ｍ−１］≦〜Ｌ_ｍ−〜Δ_ｍ≦Ψ_ｕ［ｍ−１］となる。このため、〜Δ_ｍの範囲は、与えられた〜Ｌ_ｍを用いて式（１５）のよう表される。

さらに、〜Δ_ｍ≧１であることを考慮すると、式（１６）を得る。

ここで、算出した〜Ｓ_ｍ（〜Ｌ_ｍ）を格納しておき、〜Ｓ_ｍ＋１（〜Ｌ_ｍ＋１）の計算で用いるものとする。さらに、式（１４）の右辺を最小値化する〜Δ_ｍを〜Δ_ｍ ^{（〜Ｌｍ）}とし、第ｍビンの上端を〜Ｌ_ｍとした場合の最適な第ｍ−１ビンの上端として、＾Ｌ_ｍ−１［〜Ｌ_ｍ］＝〜Ｌ_ｍ−〜Δ_ｍ ^{（〜Ｌｍ）}を各〜Ｌ_ｍ（＝Ψ_ｌ［ｍ］，…，Ψ_ｕ［ｍ］）に対して格納しておくものとする。式（１）の最小化問題は、式（１７）のように表される。

ここで、〜Ｋ＝Ｋ−Ｚ［Ｋ−１］である。式（１７）を最小化する〜Δ_Ｍ−１を〜Δ_Ｍ−１ ^＊とおく。Δ_Ｍ−１ ^＊は、式（１８）によって表される。

〜Ｌ_Ｍ−１の取り得る値はＫ−Ｚ［Ｋ−１］−１のみであることから、〜Ｌ_Ｍ−１＝Ｋ−Ｚ［Ｋ−１］−１となる。〜Ｌ_Ｍ−１及び〜Δ_Ｍ−１ ^＊を用いて、第Ｍ−２クラスの上端の有意要素インデックスの最適値は〜Ｌ_Ｍ−２ ^＊＝〜Ｌ_Ｍ−１−〜Δ_Ｍ−１ ^＊＝Ｋ−Ｚ［Ｋ−１］−１−〜Δ_Ｍ−１ ^＊と求まる。第Ｍ−３クラスの上端の有意要素インデックスの最適値は、〜Ｌ_Ｍ−２ ^＊に対する最適解として、＾Ｌ_Ｍ−３［〜Ｌ_Ｍ−２ ^＊］として格納されているので、該当する値を参照し、〜Ｌ_Ｍ−３ ^＊＝＾Ｌ_Ｍ−３［〜Ｌ_Ｍ−２ ^＊］とする。この結果、第Ｍ−２クラスの区間幅内の有意要素数は、〜Δ_Ｍ−２ ^＊＝〜Ｌ_Ｍ−２−〜Ｌ_Ｍ−３と求まる。以下、同様の参照処理を〜Ｌ_Ｍ−４ ^＊＝＾Ｌ_Ｍ−４［〜Ｌ_Ｍ−３ ^＊］,…,〜Ｌ_０ ^＊＝＾Ｌ_０［〜Ｌ_１ ^＊］として繰り返し、得られた各クラスの上端の有意要素インデックスを用いて、〜Δ_Ｍ−３ ^＊＝〜Ｌ_Ｍ−３ ^＊−〜Ｌ_Ｍ−４ ^＊,…,〜Δ_０ ^＊＝〜Ｌ_０ ^＊−〜Ｌ_−１ ^＊として求める。なお、〜Ｌ_−１ ^＊＝−１である。

各クラスの上端の有意要素インデックス〜Ｌ_Ｍ−１,〜Ｌ_Ｍ−２ ^＊,…,〜Ｌ_０ ^＊から、Ｆ［〜Ｌ_Ｍ−１］,Ｆ［〜Ｌ_Ｍ−２ ^＊］,…,Ｆ［〜Ｌ_０ ^＊］により、各クラスの上端が求まる。

[量子化誤差のルックアップテーブルへの格納]
Ｌ_ｍとΔ_ｍの組み合わせによっては、異なる量子化クラス(ｍの値が異なるという意味)において、量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）が必要となる。その度に、量子化誤差ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）を算出するのは、計算コストの観点から得策ではない。計算結果を格納し、必要に応じて格納結果を呼び出すことで、演算量を低減できる。そこで、ｅ（Ｌ_ｍ−（Δ_ｍ−１），Ｌ_ｍ）として取りうる値をルックアップテーブル(Ｍ×Ｋ要素)に格納する。

図３は、ルックアップテーブルに格納する処理（格納処理）の例を示す図である。上述のルックアップテーブル（（Ｋ−Ｚ［Ｋ−１］−１）×（Ｋ−Ｚ［Ｋ−１］）要素）Ｅ［〜ｉ_ｓ，〜ｉ_ｅ］へ格納する量子化誤差ｅ（Ｆ［〜ｉ_ｓ］，Ｆ［〜ｉ_ｅ］）の計算過程にも重複した計算が存在するため、そうした重複部分を省略することで、演算量の低減を図る。まず、以下の値を定義する。

これより、ｃ（〜ｉ_ｓ，〜ｉ_ｅ）およびｅ（〜ｉ_ｓ，〜ｉ_ｅ）が以下の漸化関係を持つことが分かる。

漸化関係に基づきｅ（〜ｉ_ｓ，〜ｉ_ｅ）を算出し、算出結果をルックアップテーブル（（Ｋ−Ｚ［Ｋ−１］−１）×（Ｋ−Ｚ［Ｋ−１］）要素）に格納する。

[フローチャート：適応量子化処理]
適応量子化処理の実施形態について図面を参照して説明する。
図４は、適応量子化処理の例を示すフローチャートである。入力信号を読み込み、入力信号値のヒストグラムを生成する（ステップＳ１０１）。ヒストグラムの要素インデックスをｋ、ヒストグラムの有意要素インデックスを〜ｋとし、このｋと〜ｋの対応関係を格納した参照テーブルとして、Ｆ［〜ｋ］を生成する（ステップＳ１０２）。

図５は、要素インデックスと有意要素インデックスとの対応関係を格納した参照テーブルを生成する処理の例を示す図である。Ｆ［〜ｋ］の具体的な生成方法は、図５に示す通りである。ヒストグラムの区間［０，ｋ］に含まれる非有意要素の個数を格納した参照テーブルとして、Ｚ［ｋ］を生成する（ステップＳ１０３）。

図６は、非有意要素の個数を格納した参照テーブルを生成する処理の例を示す図である。Ｚ［ｋ］の具体的な生成方法は、図６に示す通りである。

図４に示すように、ヒストグラムを入力として読み込み、ｍ＝０，…，Ｍ−１に対して、ヒストグラムの区間［ｍ，ｍ−Ｍ＋Ｋ］における有意要素の要素インデックスの最大値および最小値を各々、参照テーブルΨ_ｕ［ｍ−Ｍ＋Ｋ］および参照テーブルΨ_ｌ［ｍ］に格納する（ステップＳ１０４−１）。非有意係数をスキップすることに伴うＬｍの最大値を格納した参照テーブルとして、Ψ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）を生成する。具体的には、式（２６）及び式（２７）により設定する（ステップＳ１０４−２）。

ステップＳ１０７までの処理をｊ＝１，…，Ｋ−Ｍ−１−Ｚ［Ｋ−Ｍ−１］として繰り返す（ステップＳ１０５）。
ヒストグラムの区間［０,Ｆ［ｊ］］を代表値（式（４）により求まる重心）で近似した場合の近似誤差〜ｅ［０，ｊ］を求め、同近似誤差をＳ_０（ｊ）に格納する（ステップＳ１０６）。
ステップＳ１１８までの処理をｍ＝１，…，Ｍ−１として繰り返す（ステップＳ１０８）。

ステップＳ１１７までの処理を〜Ｌ_ｍ＝Ψ_ｌ［ｍ］，…，Ψ_ｕ［ｍ］として繰り返す（ステップＳ１０９）。
ステップＳ１１４までの以下の処理を〜Δ_ｍ＝１，…，〜Ｌ_ｍ−Ψ_ｌ（ｍ−１）として繰り返す（ステップＳ１１０）。
ヒトグラムの区間［Ｆ［〜Ｌ_ｍ−（〜Δ_ｍ−１）］，Ｆ［〜Ｌ_ｍ］］の代表値を式（４）により求める（ステップＳ１１１）。

ヒストグラムの区間［Ｆ［〜Ｌ_ｍ−（〜Δ_ｍ−１）］，Ｆ［〜Ｌ_ｍ］］を代表値（ステップＳ１１１で求めた値）で近似した場合の近似誤差を式（３）より求める。同近似誤差を〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）とする（ステップＳ１１２）。
〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）の値を計算する（ステップＳ１１３）。

〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））の中での最小値を〜Ｓ_ｍ（〜Ｌ_ｍ）に格納する（ステップＳ１１５）。
〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））を最小化する〜Δｍを用いて、〜Ｌ_ｍ−〜Δ_ｍを＾Ｌ_ｍ−１（〜Ｌ_ｍ）に格納する。以下、＾Ｌ_ｍ−１（〜Ｌ_ｍ）を「最適パス追跡用参照テーブル」という（ステップＳ１１６）。

Ｌ_Ｍ−１ ^＊にＫ−１を代入する。〜Ｌ_Ｍ−１ ^＊にＫ−Ｚ［ｋ−１］−１を代入する（ステップＳ１１９）。
ステップＳ１２２までの処理をｍ＝Ｍ−１，…，１として繰り返す（ステップＳ１２０）。
＾Ｌ_ｍ−１（〜Ｌ_ｍ ^＊）を読み込み、〜Ｌ_ｍ−１ ^＊に代入する。Ｆ［〜Ｌ_ｍ−１ ^＊］を読み込み、Ｌ_ｍ−１ ^＊に代入する（ステップＳ１２１）。

[フローチャート：演算量低減型適応量子化処理]
近似誤差を参照テーブルに格納し、適宜、同参照テーブルから近似誤差を読み込む形に拡張した適応量子化処理の実施形態について図面を参照して説明する。

図７は、演算量低減型適応量子化処理の例を示すフローチャートである。
ステップＳ２０１〜ステップＳ２０４−２は、ステップＳ１０１〜ステップＳ１０４と同じである。
ヒストグラムの各区間を代表値で近似した際の近似誤差を格納した参照テーブルを生成する（ステップＳ２０５）。
ステップＳ２０６〜ステップＳ２１２は、ステップＳ１０５〜ステップＳ１１１と同じである。

ヒストグラムの区間［Ｆ［〜Ｌ_ｍ−（〜Δ_ｍ−１）］，Ｆ［〜Ｌ_ｍ］］を代表値で近似した場合の近似誤差を参照テーブルＥ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）から読み込む（ステップＳ２１３）。
〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋Ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）の値を計算する（ステップＳ２１４）。

〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋Ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））の中での最小値を〜Ｓｍ（〜Ｌｍ）に格納する（ステップＳ２１６）。
〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋Ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））を最小化する〜Δ_ｍを用いて、〜Ｌ_ｍ−〜Δ_ｍを＾Ｌ_ｍ−１（〜Ｌ_ｍ）に格納する（ステップＳ２１７）。
ステップＳ２２０〜ステップＳ２２３は、ステップＳ１１９〜ステップＳ１２２と同じである。

図８は、近似誤差参照テーブルを生成する処理（ステップＳ２０５）の例を示すフローチャートである。入力信号のヒストグラムを読み込む（ステップＳ３０１）。
参照テーブルＺ［ｋ］（ｋ＝０，…，ｋ−１）,Ｆ［〜ｋ］（〜ｋ＝０，…，Ｋ−Ｚ［Ｋ−１］−１）を読み込む（ステップＳ３０２）。
ステップＳ３０５までの処理を〜ｋ＝１，…，Ｋ−Ｚ［Ｋ−１］−１として繰り返す（ステップＳ３０３）。
ｑ_１［０，〜ｋ］,ｑ_２［０，〜ｋ］,ｑ_３［０，〜ｋ］に０を格納する（ステップＳ３０４）。
ステップＳ３１６までの処理を〜ｉ_ｓ＝０，…，Ｋ−Ｚ［Ｋ−１］−２として繰り返す（ステップＳ３０６）。
〜ｉ_ｓ＋Ｋ−Ｚ［Ｋ−１］−Ｍ−１とＫ−Ｚ［Ｋ−１］−１を比較して、小さい方の値を変数Ｕに格納する（ステップＳ３０７）。

ステップＳ３１５までの処理を〜ｉ_ｅ＝〜ｉ_ｓ＋１，…，Ｕとして繰り返す（ステップＳ３０８）。
参照テーブルＦ［〜ｉ_ｅ］を読み込み、ｉ_ｅにＦ［〜ｉ_ｅ］を代入する。参照テーブルＦ［〜ｉ_ｓ］を読み込み、ｉｓにＦ［〜ｉ_ｓ］を代入する（ステップＳ３０９）。
ｑ_１［ｉ_ｓ，ｉ_ｅ−１］、ｈ［ｉ_ｅ］を読み込み、ｑ_１［ｉ_ｓ，ｉ_ｅ−１］＋ｈ［ｉ_ｅ］を算出し、算出結果をｑ_１［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１０）。

ｑ_２［ｉ_ｓ，ｉ_ｅ−１］、ｈ［ｉ_ｅ］、ｉ_ｅを読み込み、ｑ_２［ｉ_ｓ，ｉ_ｅ−１］＋ｉｅｈ［ｉｅ］を算出し、算出結果をｑ_２［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１１）。
ｑ_３［ｉ_ｓ，ｉ_ｅ−１］、ｈ［ｉ_ｅ］、ｉ_ｅを読み込み、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］＋ｉ_ｅ ^２ｈ［ｉ_ｅ］を算出し、算出結果をｑ_３［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１２）。

ｑ_２［ｉ_ｓ，ｉ_ｅ−１］、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］を読み込み、ｑ_２［ｉ_ｓ，ｉ_ｅ］ｑ_１［ｉ_ｓ，ｉ_ｅ］を算出し、算出結果をｃ［ｉ_ｓ，ｉ_ｅ］に格納する（ステップＳ３１３）。
ｑ_１［ｉ_ｓ，ｉ_ｅ−１］、ｑ_２［ｉ_ｓ，ｉ_ｅ−１］、ｑ_３［ｉ_ｓ，ｉ_ｅ−１］、ｃ［ｉ_ｓ，ｉ_ｅ］を読み込み、ｑ_３［ｉ_ｓ，ｉ_ｅ］−２ｃ［ｉ_ｓ，ｉ_ｅ］ｑ_２［ｉ_ｓ，ｉ_ｅ］＋ｃ［ｉ_ｓ，ｉ_ｅ］^２ｑ_１［ｉ_ｓ，ｉ_ｅ］を算出し、算出結果をＥ［〜ｉ_ｓ，〜ｉ_ｅ］に格納する（ステップＳ３１４）。

[参照テーブル生成処理の流れ]
図９は、ステップＳ１０４−２及びステップＳ２０４−２での上界用の参照テーブルを生成する処理の例を示すフローチャートである。
ヒストグラムを入力として読み込み、ヒストグラムの区間［ｍ−Ｍ＋Ｋ，Ｋ−１］における非有意要素のみからなる部分区間の区間幅の最大値を求め、参照テーブルρ_ｕ［ｍ］、ρ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１に格納する（ステップＳ４０１）。具体的な処理の流れは、図１１に示される。
ｍ＝０，…，Ｍ−１に対して、ステップＳ４０３〜ステップＳ４０８の処理を繰り返す（ステップＳ４０２）。
ヒストグラムを入力として読み込み、ヒストグラムの区間［ｍ，ｍ−Ｍ＋Ｋ］における有意要素の要素インデックスの最大値を参照テーブルΨ_ｕ［ｍ−Ｍ＋Ｋ］から読み込む。同参照テーブルは、図２のステップＳ１０４−１及び図７のステップＳ２０４−１で出力されたものである（ステップＳ４０３）。
ヒストグラムの区間［ｍ−Ｍ＋Ｋ,Ｋ−１］における非有意要素のみからなる部分区間の区間幅の最大値として、ステップＳ４０１で出力した参照テーブルψ_ｕ［ｍ］の値を読み出す（ステップＳ４０４）。
選択可能範囲の上限にあたる要素インデックスｍ−Ｍ＋Ｋから、ステップＳ４０４で読み込んだ区間幅ρ_ｕ［ｍ］を減算した値として、ｍ−Ｍ＋Ｋ−ρ_ｕ［ｍ］の値を求める（ステップＳ４０５）。
ステップＳ４０３及びステップＳ４０５で求めた値を入力として読み込み、小さい方の値をｍｉｎ（ψ_ｕ［ｍ−Ｍ＋Ｋ］，ｍ−Ｍ＋Ｋ−ρ_ｕ［ｍ］）として求め、この値を選択可能範囲の新たな上限にあたる要素インデックスとする（ステップＳ４０６）。
ステップＳ４０６で求めた要素インデックスを入力として読み込み、同要素インデックスに対する有意要素インデックスを求める（ステップＳ４０７）。参照テーブルに格納する上記有意要素インデックスの算出に際しては、式（１０）又は式（１２）に従う。
有意要素インデックスを格納したテーブルΨ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）を出力する（ステップＳ４０９）。

図１０は、ステップＳ１０４−２及びステップＳ２０４−２での下界用の参照テーブルを生成する処理の例を示すフローチャートである。ヒストグラムを読み込み、ヒストグラムの区間［０，ｍ］における非有意要素のみからなる部分区間の区間幅の最大値を求め、参照テーブルρ_ｌ［ｍ］、ρ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１に格納する（ステップＳ５０１）。具体的な処理の流れは、図１２に示される。ｍ＝０，…，Ｍ−２に対して、ステップＳ５０３〜ステップＳ５０８の処理を繰り返す（ステップＳ５０２）。

ヒストグラムを読み込み、ヒストグラムの区間［ｍ，ｍ−Ｍ＋Ｋ］における有意要素の要素インデックスの最小値を参照テーブルΨ _ｌ［ｍ］から読み込む（ステップＳ５０３）。同参照テーブルは、図４のステップＳ１０４−１及び図７のステップＳ２０４−１で出力されたものである。

ヒストグラムの区間［０，ｍ］における非有意要素のみからなる部分区間の区間幅の最大値として、ステップＳ５０１で出力した参照テーブルρ_ｌ［ｍ］の値を読み出す（ステップＳ５０４）。選択可能範囲の下限にあたる要素インデックスｍから、ステップＳ５０４で読み込んだ区間幅ρ_ｌ［ｍ］を加算した値として、ｍ＋ρ_ｌ［ｍ］の値を求める（ステップＳ５０５）。

ステップＳ５０３及びステップＳ５０５で求めた値を読み込み、大きい方の値をｍａｘ（ψ_ｌ［ｍ］，ｍ＋ρ_ｌ［ｍ］）として求め、この値を選択可能範囲の新たな下限にあたる要素インデックスとする（ステップＳ５０６）。ステップＳ５０６で求めた要素インデックスを読み込み、同要素インデックスに対する有意要素インデックスを求める（ステップＳ５０７）。参照テーブルに格納する上記有意要素インデックスの算出に際しては、式（１０）又は式（１２）に従う。

有意要素インデックスの最大値〜Ｋ−１をΨ_ｌ［Ｍ−１］の値として、参照テーブルΨ_ｌ［Ｍ−１］に格納する（ステップＳ５０９）。有意要素インデックスを格納したテーブルΨ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）を出力する（ステップＳ５１０）。

図１１は、ステップＳ４０１での参照テーブルを生成する処理の例を示すフローチャートである。ヒストグラムの要素ｈ［Ｋ−１］を読み込み（ステップＳ６０１）、同要素値が零値でなければ、ステップＳ６０２に進み、それ以外の場合は、ステップＳ６０４に進む。変数ｃを０に設定する（ステップＳ６０２）。参照テーブルの要素ρ_ｕ［Ｍ−１］を０に設定する（ステップＳ６０３）。変数ｃを１に設定する（ステップＳ６０４）。参照テーブルの要素ρ_ｕ［Ｍ−１］を１に設定する（ステップＳ６０５）。

ｍ＝Ｍ−２，…，０として、ステップＳ６０７からステップＳ６１３の処理を繰り返す（ステップＳ６０６）。ヒストグラムの要素ｈ［ｍ−Ｍ＋Ｋ］を読み込み（ステップＳ６０７）、同要素値が零値でなければ、ステップＳ６０８に進み、それ以外の場合は、ステップＳ６０９に進む。変数ｃを０に設定する（ステップＳ６０８）。変数ｃの値をインクリメントする（ステップＳ６０９）。

変数ｃの値が参照テーブルの第ｍ＋１要素ρ_ｕ［ｍ＋１］よりも大きいか否かを判定する（ステップＳ６１０）。変数ｃの値が参照テーブルの第ｍ＋１要素ρ_ｕ［ｍ＋１］よりも大きい場合、ステップＳ６１１に進み、それ以外の場合は、ステップＳ６１２に進む。参照テーブルの第ｍ要素ρ_ｕ［ｍ］に変数cの値を設定する（ステップＳ６１１）。参照テーブルの第ｍ要素ρ_ｕ［ｍ］に参照テーブルの第ｍ＋１要素ρ_ｕ［ｍ＋１］の値を設定する（ステップＳ６１２）。参照テーブルρ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）を出力する（ステップＳ６１３）。

図１２は、ステップＳ５０１での参照テーブルを生成する処理の例を示すフローチャートである。ヒストグラムの要素ｈ［０］を読み込み、同要素値が零値でなければ、ステップＳ７０２に進み、それ以外の場合は、ステップＳ７０４に進む（ステップＳ７０１）。変数ｃを０に設定する（ステップＳ７０２）。参照テーブルの要素ρ_ｌ［０］を０に設定する（ステップＳ７０３）。変数ｃを１に設定する（ステップＳ７０４）。参照テーブルの要素ρ_ｌ［０］を１に設定する（ステップＳ７０５）。ｍ＝１，…，Ｍ−１として、ステップＳ７０７〜ステップＳ７１３の処理を繰り返す（ステップＳ７０６）。

ヒストグラムの要素ｈ［ｍ］を読み込み（ステップＳ７０７）、同要素値が零値でなければ、ステップＳ７０８に進み、それ以外の場合は、ステップＳ７０９に進む。変数ｃを０に設定する（ステップＳ７０８）。変数ｃの値をインクリメントする（ステップＳ７０９）。変数ｃの値が参照テーブルの第ｍ−１要素ρ_ｌ［ｍ−１］よりも大きいか否かを判定する（ステップＳ７１０）。

変数ｃの値が参照テーブルの第ｍ−１要素ρ_ｌ［ｍ−１］よりも大きい場合、ステップＳ７１１に進み、それ以外の場合は、ステップＳ７１２に進む。参照テーブルの第ｍ要素ρ_ｌ［ｍ］に変数ｃの値を設定する（ステップＳ７１１）。参照テーブルの第ｍ要素ρ_ｌ［ｍ］に参照テーブルの第ｍ−１要素ρ_ｌ［ｍ−１］の値を設定する（ステップＳ７１２）。参照テーブルρ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）を出力する（ステップＳ７１３）。

[適応量子化装置]
図１３は、量子化装置１ａ（適応量子化装置）の構成の例を示す図である。量子化装置１ａは、パーソナルコンピュータ、タブレット端末、スマートフォン端末、サーバ装置等の情報処理装置である。量子化装置１ａは、第１のレベル数（階調数）で範囲を表現する値を表す入力信号のヒストグラムを、第２のレベル数で範囲を表現する値を表す出力信号のヒストグラムで近似する量子化処理（適応量子化）を実行する。

量子化装置１ａは、ヒストグラム生成部１０と、第１要素数記憶部１１と、クラス数記憶部１２と、インデックス参照テーブル生成部１３と、インデックス記憶部１４と、要素数参照テーブル生成部１５と、第２要素数記憶部１６と、上界値参照テーブル生成部１７と、上界値記憶部１８と、下界値参照テーブル生成部１９と、下界値記憶部２０と、近似誤差最小値決定部２１と、近似誤差最小値記憶部２２と、上端記憶部２３と、上端追跡部２４とを備える。

ヒストグラム生成部１０と、インデックス参照テーブル生成部１３と、要素数参照テーブル生成部１５と、上界値参照テーブル生成部１７と、下界値参照テーブル生成部１９と、近似誤差最小値決定部２１と、上端追跡部２４との一部または全部は、例えば、ＣＰＵ（Central Processing Unit）等のプロセッサが、記憶部に記憶されたプログラムを実行することにより機能するソフトウェア機能部である。また、これらの機能部のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）等のハードウェア機能部であってもよい。

第１要素数記憶部１１と、クラス数記憶部１２と、インデックス記憶部１４と、第２要素数記憶部１６と、上界値記憶部１８と、下界値記憶部２０と、近似誤差最小値記憶部２２と、上端記憶部２３との一部または全部は、例えば、磁気ハードディスク装置や半導体記憶装置等の不揮発性の記憶媒体（非一時的な記録媒体）を有する記憶装置を用いて構成される。各記憶部は、例えば、ＲＡＭ（Random Access Memory）やレジスタなどの揮発性の記憶媒体を有していてもよい。

ヒストグラム生成部１０は、入力信号を読み込む。ヒストグラム生成部１０は、入力信号のヒストグラムを生成する。ヒストグラム生成部１０は、入力信号のヒストグラムと入力信号のレベル数Ｋとを、第１要素数記憶部１１に記憶させる。
第１要素数記憶部１１（ヒストグラム・入力信号要素数記憶部）は、入力信号のヒストグラムと入力信号のレベル数Ｋとを記憶（格納）する。
クラス数記憶部１２は、量子化クラス数Ｍを記憶する。

インデックス参照テーブル生成部１３は、ヒストグラムの要素インデックスをｋ、ヒストグラムの有意要素インデックスを〜ｋとし、ヒストグラムの要素インデックスｋとヒストグラムの有意要素インデックス〜ｋとの対応関係を格納した参照テーブルとして、Ｆ［〜ｋ］を生成する。インデックス参照テーブル生成部１３は、ｋと〜ｋの対応関係を格納した参照テーブルを、インデックス記憶部１４に格納する。参照テーブルＦ［〜ｋ］の具体的な生成方法は、図４のステップＳ１０２に示す通りである。
インデックス記憶部１４は、ヒストグラムの要素インデックスｋとヒストグラムの有意要素インデックス〜ｋとの対応関係を格納した参照テーブルを記憶する。

要素数参照テーブル生成部１５は、ヒストグラムの区間［０，Ｋ］に含まれる非有意要素の個数を格納した参照テーブルとして、Ｚ［ｋ］を生成する。参照テーブルを第２要素数記憶部１６に格納する。参照テーブルＺ［ｋ］の具体的な生成方法は、図４のステップＳ１０３に示す通りである。
第２要素数記憶部１６（非有意要素数記憶部）は、参照テーブルＺ［ｋ］を記憶する。

上界値参照テーブル生成部１７は、第ｍクラスの有意要素インデックスの最大値を格納した参照テーブルとして、Ψ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）を生成する。上界値参照テーブル生成部１７は、参照テーブルΨ_ｕ［ｍ］を上界値記憶部１８に格納する。参照テーブルΨ_ｕ［ｍ］の具体的な生成方法は、図４のステップＳ１０４に示す通りである。
上界値記憶部１８は、参照テーブルΨ_ｕ［ｍ］を記憶する。

下界値参照テーブル生成部１９は、第ｍクラスの有意要素インデックスの最小値を格納した参照テーブルとして、Ψ_ｌ［ｍ］（ｍ＝０，…，Ｍ−１）を生成する。下界値参照テーブル生成部１９は、参照テーブルΨ_ｌ［ｍ］を下界値記憶部２０に格納する。参照テーブルΨ_ｌ［ｍ］の具体的な生成方法は、図４のステップＳ１０４に示す通りである。
下界値記憶部２０は、参照テーブルΨ_ｌ［ｍ］を記憶する。

近似誤差最小値決定部２１は、入力信号のヒストグラムと、入力信号のレベル数と、量子化クラス数と、要素インデックスの参照テーブルと、非有意要素数の参照テーブルと、量子化クラスの上界値の参照テーブルと、量子化クラスの下界値の参照テーブルとを取得する。

近似誤差最小値決定部２１は、ヒストグラムを量子化クラス数で指定されたクラス数に分割した場合の近似誤差の最小値を算出する。近似誤差最小値決定部２１は、ヒストグラムを量子化クラス数で指定されたクラス数に分割した場合の近似誤差の最小値を、近似誤差最小値記憶部２２に格納する。近似誤差最小値決定部２１は、各量子化クラスにおいて近似誤差の累積値を最小化するクラスの上端を表す有意要素インデックスを、最適パス追跡用参照テーブルとして、上端記憶部２３に格納する。具体的な処理は、図４に示すステップＳ１０５からステップＳ１１８までに示す通りである。近似誤差最小値記憶部２２は、ヒストグラムを量子化クラス数で指定されたクラス数に分割した場合の近似誤差の最小値を記憶する。上端記憶部２３は、最適パス追跡用参照テーブルを記憶する。

上端追跡部２４は、入力信号のレベル数と、量子化クラス数と、要素インデックス参照テーブルと、有意要素数参照テーブルと、最適パス追跡用参照テーブルとを取得する。上端追跡部２４は、近似誤差の最小値を実現する際のクラスの上端を表す要素インデックスを算出する。具体的な処理は、図４に示すステップＳ１１９からステップ１２２までに示す通りである。

[演算量低減型適応量子化装置]
近似誤差を参照テーブルに格納し、近似誤差を格納した参照テーブルから近似誤差を適宜に読み込む形に拡張した演算量低減型適応量子化装置の構成を説明する。

図１４は、量子化装置１ｂ（演算量低減型適応量子化装置）の構成の例を示す図である。量子化装置１ｂは、パーソナルコンピュータ、タブレット端末、スマートフォン端末、サーバ装置等の情報処理装置である。量子化装置１ｂは、第１のレベル数（階調数）で範囲を表現する値を表す入力信号のヒストグラムを、第２のレベル数で範囲を表現する値を表す出力信号のヒストグラムで近似する量子化処理（適応量子化）を実行する。

量子化装置１ｂは、ヒストグラム生成部１０と、第１要素数記憶部１１と、クラス数記憶部１２と、インデックス参照テーブル生成部１３と、インデックス記憶部１４と、要素数参照テーブル生成部１５と、第２要素数記憶部１６と、上界値参照テーブル生成部１７と、上界値記憶部１８と、下界値参照テーブル生成部１９と、下界値記憶部２０と、近似誤差最小値決定部２１と、近似誤差最小値記憶部２２と、上端記憶部２３と、上端追跡部２４と、近似誤差決定部２５と、近似誤差記憶部２６とを備える。

ヒストグラム生成部１０と、インデックス参照テーブル生成部１３と、要素数参照テーブル生成部１５と、上界値参照テーブル生成部１７と、下界値参照テーブル生成部１９と、近似誤差最小値決定部２１と、上端追跡部２４と、近似誤差決定部２５との一部または全部は、例えば、ＣＰＵ等のプロセッサが、記憶部に記憶されたプログラムを実行することにより機能するソフトウェア機能部である。また、これらの機能部のうち一部または全部は、ＬＳＩやＡＳＩＣ等のハードウェア機能部であってもよい。

第１要素数記憶部１１と、クラス数記憶部１２と、インデックス記憶部１４と、第２要素数記憶部１６と、上界値記憶部１８と、下界値記憶部２０と、近似誤差最小値記憶部２２と、上端記憶部２３と、近似誤差記憶部２６との一部または全部は、例えば、磁気ハードディスク装置や半導体記憶装置等の不揮発性の記憶媒体（非一時的な記録媒体）を有する記憶装置を用いて構成される。各記憶部は、例えば、ＲＡＭやレジスタなどの揮発性の記憶媒体を有していてもよい。

近似誤差最小値決定部２１は、入力信号のヒストグラムと、入力信号のレベル数と、量子化クラス数と、要素インデックスの参照テーブルと、非有意要素数の参照テーブルと、量子化クラスの上界値の参照テーブルと、量子化クラスの下界値の参照テーブル近似誤差の参照テーブルとを取得する。

近似誤差最小値決定部２１は、入力信号のヒストグラムと、入力信号のレベル数と、量子化クラス数と、要素インデックスの参照テーブルと、非有意要素数の参照テーブルと、量子化クラスの上界値の参照テーブルと、量子化クラスの下界値の参照テーブル近似誤差の参照テーブルとに基づいて、量子化クラス数で指定されたクラス数にヒストグラムを分割した場合の近似誤差の最小値を算出する。近似誤差最小値決定部２１は、近似誤差の最小値を近似誤差最小値記憶部２２に格納する。近似誤差最小値決定部２１は、各量子化クラスにおいて近似誤差の累積値を最小化するクラスの上端を表す有意要素インデックスを、最適パス追跡用参照テーブルとして、上端記憶部２３に格納する。具体的な処理は、図７のステップＳ２０６からステップＳ２１９までに示す通りである。
近似誤差最小値記憶部２２は、近似誤差の最小値を記憶する。
上端記憶部２３は、最適パス追跡用参照テーブルを記憶する。

上端追跡部２４は、入力信号のレベル数と、量子化クラス数と、要素インデックス参照テーブルと、有意要素数参照テーブルと、最適パス追跡用参照テーブルとを取得する。上端追跡部２４は、入力信号のレベル数と、量子化クラス数と、要素インデックス参照テーブルと、有意要素数参照テーブルと、最適パス追跡用参照テーブルとに基づいて、近似誤差の最小値を実現する際のクラスの上端を表す要素インデックスを算出する。具体的な処理は、図７のステップＳ２２０からステップＳ２２３までに示す通りである。

近似誤差決定部２５は、入力信号のヒストグラムと、入力信号のレベル数と、量子化クラス数と、要素インデックスの参照テーブルと、非有意要素数の参照テーブルとを取得する。近似誤差決定部２５は、入力信号のヒストグラムと、入力信号のレベル数と、量子化クラス数と、要素インデックスの参照テーブルと、非有意要素数の参照テーブルとに基づいて、近似誤差を算出する。近似誤差決定部２５は、算出した近似誤差を、近似誤差の参照テーブルとして近似誤差記憶部２６に格納する。具体的な処理は、図８に示す通りである。
近似誤差記憶部２６は、近似誤差の参照テーブルを記憶する。

図１５は、適応量子化処理の基本処理の例を示す図である。非有意係数に対する不要な処理を削除した適応量子化処理の基本処理の流れを説明する。なお、処理の繰り返し（ｆｏｒ文）の条件は、図１５に示す通りである。

ヒストグラム生成部１０は、入力信号のヒストグラム(クラス数Ｋ) を生成する。クラス数記憶部１２は、量子化後のクラス数Ｍを読み込む。参照テーブルＺ［ｋ］（ｋ＝０，…，Ｋ−１）,Ψ_ｌ［ｍ］,Ψ_ｕ［ｍ］（ｍ＝０，…，Ｍ−１）,Ｆ［〜ｋ］（〜ｋ＝０，…，Ｋ−Ｚ［Ｋ−１］−１）を生成する。

ヒストグラムの区間［０,Ｆ［ｊ］］を代表値（式（４）により求まる重心）で近似した場合の近似誤差を求め、近似した場合の近似誤差をＳ_０（ｊ）に格納する。以下、近似した場合の近似誤差をＳ_０（ｊ）に格納する処理を「第１格納処理」という。

ヒストグラムの区間［Ｆ［〜Ｌ_ｍ−（〜Δ_ｍ−１）］，Ｆ［〜Ｌ_ｍ］］を代表値で近似した場合の近似誤差を求める。代表値は式（４）により求め、同近似誤差は式（３）より求める。同近似誤差を〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）とする。〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）の値を計算する。〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））の中での最小値を〜Ｓ_ｍ（〜Ｌ_ｍ）に格納する。〜Ｓ_ｍ−１（〜Ｌ_ｍ−〜Δ_ｍ）＋〜ｅ（〜Ｌ_ｍ−（〜Δ_ｍ−１），〜Ｌ_ｍ）（〜Δ_ｍ＝１，…，〜Ｌ_ｍ−（ｍ−１））を最小化する〜Δ_ｍを用いて、〜Ｌ_ｍ−〜Δ_ｍを＾Ｌ_ｍ−１（〜Ｌ_ｍ）に格納する。

Ｋ−１をＬ_Ｍ−１ ^＊に格納する。Ｋ−Ｚ［Ｋ−１］−１を〜Ｌ_Ｍ−１ ^＊に格納する。＾Ｌ_ｍ−１（〜Ｌ_ｍ ^＊）を読み込む。＾Ｌ_ｍ−１（〜Ｌ_ｍ ^＊）を〜Ｌ_ｍ−１ ^＊に格納する。Ｆ［〜Ｌ_ｍ−１ ^＊］をＬ_ｍ−１ ^＊に格納する。

図１６は、適応量子化処理の演算量低減処理の例を示す図である。前述のルックアップテーブルを参照する方式の場合における、演算量低減処理を実行する適応量子化処理の例を説明する。なお、処理の繰り返し（ｆｏｒ文）の条件は、図１６に示す通りである。

図１７に示す処理（近似誤差参照テーブル生成処理の流れ）に基づき、近似誤差を格納した参照テーブルＥ［〜ｉ_ｓ，〜ｉ_ｅ］を生成する。Ｅ［０，ｊ］をＳ_０（ｊ）に格納する。図１５に示す処理（適応量子化処理の基本処理の流れ）における、第１格納処理よりも後の処理を実行する。

図１７は、近似誤差参照テーブルを生成する処理の例を示す図である。なお、処理の繰り返し（ｆｏｒ文）の条件は、図１７に示す通りである。

ｑ_１［０，〜ｋ］に０を格納する。ｑ_２［０，〜ｋ］に０を格納する。ｑ_３［０，〜ｋ］に０を格納する。ｉ_ｅにＦ［〜ｉ_ｅ］を代入する。ｉ_ｓにＦ［〜ｉ_ｓ］を代入する。
ｑ_１［ｉ_ｓ，ｉ_ｅ］にｑ_１［ｉ_ｓ，ｉ_ｅ−１］＋ｈ［ｉ_ｅ］を格納する。ｑ_２［ｉ_ｓ，ｉ_ｅ］にｑ_２［ｉ_ｓ，ｉ_ｅ−１］＋ｉ_ｅｈ［ｉ_ｅ］を格納する。ｑ_３［ｉ_ｓ，ｉ_ｅ］にｑ_３［ｉ_ｓ，ｉ_ｅ−１］＋ｉ_ｅ ^２ｈ［ｉ_ｅ］を格納する。ｃ［ｉ_ｓ，ｉ_ｅ］にｑ_２［ｉ_ｓ，ｉ_ｅ］／ｑ_１［ｉ_ｓ，ｉ_ｅ］を格納する。Ｅ［〜ｉ_ｓ，〜ｉ_ｅ］にｑ_３［ｉ_ｓ，ｉ_ｅ］−２ｃ［ｉ_ｓ，ｉ_ｅ］ｑ_２［ｉ_ｓ，ｉ_ｅ]＋ｃ［ｉ_ｓ，ｉ_ｅ］^２ｑ_１［ｉ_ｓ，ｉ_ｅ］を格納する。

以上のように、量子化方法は、第１のレベル数（入力信号レベル数）で表現される範囲を取り得る値を表す入力信号のヒストグラムを、第１のレベル数よりも少ない第２のレベル数（量子化レベル数）で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、格納するステップと、選択するステップとを含む。近似誤差最小値決定部２１は、入力信号のヒストグラムの要素の集合であるクラスを定め、クラスの境界であるクラス境界の候補を有意要素に制限し、クラス境界となり得る有意要素に上限及び下限を定め、上限から下限までの範囲に含まれる有意要素をクラス境界の候補と定め、クラス境界の選択可能範囲の上限に対して、選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する有意要素の位置と、クラスの上限として取りうる有意要素のうち選択可能範囲の上限に最も近い有意要素の位置とを比較し、相対的に大きな値を示す有意要素をクラス境界の選択可能範囲の新たな上限と定め、クラス境界までの近似誤差の累積値を最小化する量子化値と近似誤差の累積値の最小値とをメモリに格納する。上端追跡部２４は、クラス境界を選択する際、非有意要素を近似誤差の累積値の計算から除外し、格納した最小値をメモリから取得し、クラス境界の選択における近似誤差の計算に最小値を用いることで、クラス境界の全ての要素に対して近似誤差の総和を最小化するクラス境界を選択する。

これによって、量子化方法は、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能となる。すなわち、量子化方法は、画素値の疎性を考慮することで、ビット深度変換誤差の最適性を保持しつつ、演算量を低減することが可能となる。

量子化方法は、第１のレベル数（入力信号レベル数）で表現される範囲を取り得る値を表す入力信号のヒストグラムを、第１のレベル数よりも少ない第２のレベル数（量子化レベル数）で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、格納するステップと、選択するステップとを含む。近似誤差最小値決定部２１は、入力信号のヒストグラムの要素の集合であるクラスを定め、クラスの境界であるクラス境界の候補を有意要素に制限し、クラス境界となり得る有意要素に上限及び下限を定め、上限から下限までの範囲に含まれる有意要素をクラス境界の候補と定め、クラス境界の選択可能範囲の下限に対して、選択可能範囲の下限を上端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する有意要素の位置と、クラスの上限として取りうる有意要素のうち選択可能範囲の上限に最も近い有意要素の位置とを比較し、相対的に小さな値を示す有意要素をクラス境界の選択可能範囲の新たな下限と定め、クラス境界までの近似誤差の累積値を最小化する量子化値と近似誤差の累積値の最小値とをメモリに格納する。上端追跡部２４は、クラス境界を選択する際、非有意要素を近似誤差の累積値の計算から除外し、格納した最小値をメモリから取得し、クラス境界の選択における近似誤差の計算に最小値を用いることで、クラス境界の全ての要素に対して近似誤差の総和を最小化するクラス境界を選択する。

上述した実施形態における量子化装置の少なくとも一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、ＯＳや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ＲＯＭ、ＣＤ−ＲＯＭ等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、ＦＰＧＡ（Field Programmable Gate Array）等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。

１ａ…量子化装置、１ｂ…量子化装置、１０…ヒストグラム生成部、１１…第１要素数記憶部、１２…クラス数記憶部、１３…インデックス参照テーブル生成部、１４…インデックス記憶部、１５…要素数参照テーブル生成部、１６…第２要素数記憶部、１７…上界値参照テーブル生成部、１８…上界値記憶部、１９…下界値参照テーブル生成部、２０…下界値記憶部、２１…近似誤差最小値決定部、２２…近似誤差最小値記憶部、２３…上端記憶部、２４…上端追跡部、２５…近似誤差決定部、２６…近似誤差記憶部

Claims

第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、
前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するステップと、
前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するステップと、
を含む量子化方法。
第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、
前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の下限に対して、前記選択可能範囲の下限を上端とする各区間内における非有意要素の連続数の最大値を加算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の下限に最も近い前記有意要素の位置とを比較し、相対的に大きな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな下限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納するステップと、
前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するステップと、
を含む量子化方法。
第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置であって、
前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納する近似誤差最小値決定部と、
前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択する上端追跡部と、
を備える量子化装置。
第１のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第１のレベル数よりも少ない第２のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置のコンピュータに、
前記入力信号のヒストグラムの要素の集合であるクラスを定め、前記クラスの境界であるクラス境界の候補を有意要素に制限し、前記クラス境界となり得る前記有意要素に上限及び下限を定め、前記上限から前記下限までの範囲に含まれる前記有意要素を前記クラス境界の候補と定め、前記クラス境界の選択可能範囲の上限に対して、前記選択可能範囲の上限を下端とする各区間内における非有意要素の連続数の最大値を減算した値に対応する前記有意要素の位置と、前記クラスの上限として取りうる前記有意要素のうち前記選択可能範囲の上限に最も近い前記有意要素の位置とを比較し、相対的に小さな値を示す前記有意要素を前記クラス境界の選択可能範囲の新たな上限と定め、前記クラス境界までの近似誤差の累積値を最小化する量子化値と前記近似誤差の累積値の最小値とをメモリに格納する手順と、
前記クラス境界を選択する際、前記非有意要素を前記近似誤差の累積値の計算から除外し、格納した前記最小値を前記メモリから取得し、前記クラス境界の選択における前記近似誤差の計算に前記最小値を用いることで、前記クラス境界の全ての要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択する手順と、
を実行させるための量子化プログラム。