JPH0645946A - ベクトル量子化コードブック作成及び探索装置 - Google Patents

ベクトル量子化コードブック作成及び探索装置

Info

Publication number
JPH0645946A
JPH0645946A JP19994092A JP19994092A JPH0645946A JP H0645946 A JPH0645946 A JP H0645946A JP 19994092 A JP19994092 A JP 19994092A JP 19994092 A JP19994092 A JP 19994092A JP H0645946 A JPH0645946 A JP H0645946A
Authority
JP
Japan
Prior art keywords
codebook
limit value
vector
lower limit
distortion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP19994092A
Other languages
English (en)
Other versions
JP3093879B2 (ja
Inventor
Keiichi Nakano
恵一 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP04199940A priority Critical patent/JP3093879B2/ja
Publication of JPH0645946A publication Critical patent/JPH0645946A/ja
Application granted granted Critical
Publication of JP3093879B2 publication Critical patent/JP3093879B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

(57)【要約】 【目的】この発明は、ベクトル量子化コードブック作成
及び探索に於いて、必要となる誤差増加量計算と歪み計
算を、誤差増加量及び歪みの部分和と下限値を構成する
要素値とを合わせて評価して打ち切るようにしたことを
特徴とする。 【構成】コードブック作成部1は、コードブック作成用
ソート部11と、誤差増加量計算部13と、コードブッ
ク作成用下限値計算部14と、コードブック作成用比較
部16と、クラスタ重心計算部17を有している。最適
ベクトル探索部2は、コードブック探索用ソート部21
と、歪み計算部22と、コードブック探索用下限値計算
部23と、コードブック探索用比較部25を有してい
る。そして、必要となる誤差増加量計算と歪み計算を誤
差増加量計算部13及び歪み計算部22で行い、コード
ブック作成用及び探索用比較部16及び25にて、誤差
増加量及び歪みの部分和と下限値を構成する要素値とを
合わせて評価して打ち切る。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】この発明は、デジタル情報処理分
野に利用されると共に作成されたコードブックを探索す
るベクトル量子化コードブック作成及び探索装置に関す
るものである。
【0002】
【従来の技術】従来より、ベクトル量子化は能率の良い
データ圧縮法として、音声や画像の量子化に利用されて
いる。このベクトル量子化は、入力ベクトルX=(x
1,x2,…,xm)に対してコードブック{Y1,Y
2,…,Yn}の中からXとの歪みが最も小さい出力ベ
クトルYk=(yk1,yk2,…,ykm)を探索
し、XをYkに写像することと考えられる。
【0003】そして、このベクトル量子化に用いるコー
ドブックは、現在、Lloyd のアルゴリズムの拡張である
LBG[Y.Linde, A.Buzo, and R.Gray:“An Algorithm
forVector Quantizer Design”, IEEE Trans. COM, Vo
l.28, No.1, pp562-574. (1980)]法等がよく使われて
いる。これらは、最初に初期コードブック(クラスタ)
を与え、学習ベクトルのデータ列に対する歪みが極小と
なるように、その時点のクラスタの中心を、そのクラス
タに属するベクトル群の重心で繰返し更新していくこと
で、最適なクラスを求めるアルゴリズムである。
【0004】ところがこのアルゴリズムによれば、与え
られる初期クラスタによっては、ローカルミニマム(lo
cal minimum )状態に落ちる可能性があり、生成される
コードブックの性能は、与えられる初期クラスタにかな
り依存することが知られている。また、適切な初期クラ
スタを与える一般的な手法は知られていない。
【0005】これに対し、ローカルミニマム状態に落ち
る危険がないアルゴリズムとして、PNN(Pairwise N
earest Neighbor Clustering)法[W.H.Equitz, “A Ne
w Vector Quantization Clustering Algorithm”, IEEE
Trans. ASSP, Vol.37, No.10, pp.1568-1575.(1989)]
が知られている。これは、最初に全ての学習ベクトルが
それと同数の別々のクラスタに所属するものとし、所望
の個数の最適クラスタが得られるまで、併合による誤差
の増加が最小という意味で最も近接する2つのクラスタ
を、順に併合していく手法である。
【0006】このアルゴリズムは、ローカルミニマム状
態に落ちることがないという優れた特徴を有している。
しかしながら、最も近接する2つのクラスタを見つける
ために、全てのクラスタのセットに対して、併合による
誤差の増加量を求めるO(N3 )の計算が必要となり、
学習ベクトルが多くなった場合に実用的でない。これに
対しては、k-d tree[J.H.Friedman, J.L.Bentley, and
R.A.Finkel,“An Algorithm for Finding Best Matche
s in Logarithmic Expected Time”,ACM Trans. on Mat
h., Vol.3, pp209-226.(1977)]を用いて入力ベクトル
空間を予め分割し、少数のクラスタに限定して併合する
クラスタを探すFastPNN法が提案されている。こ
のFast PNN法は、高速にクラスタを作ることが
できるが、クラスタ空間のすべては探索しないので、P
NN法に比べて、その精度で劣ってしまうものであっ
た。
【0007】これに対し、本出願人は特願平4−107
554号に於いて、PNN法に現れる誤差の増加量の計
算を削減するため、誤差増加量の上限値と下限値を求め
るようにし、その一致により誤差増加量計算を打切るこ
とを可能とする手法を提案した。
【0008】一方、上述した手段等により作成されたベ
クトル量子化コードブックを探索するという、この種の
ベクトル量子化コードブック探索装置については、従来
その高速化を目的とした様々な手法が提案されている。
【0009】すなわち、探索するベクトルの数を減らす
ために構造的なコードブックを用いる木探索法(A.Buz
o, A.H.Gray, Jr.R.M.Gray, and J.D.Markel : "Speech
coding based upon vector quantization", IEEE Tran
s. Acoust., Speech & Signal Process., ASSP-28, 10,
pp.562-574, Oct., 1980)、歪み計算回数を低減させ
る方法として、コードブック間距離(今井、桑田、横
堀、臼井:“画像信号における高速ベクトル量子化の一
方式”、信学論Vol. J69-B, No.12, 1986,pp.1702-171
0)(特開平1−218279号公報)や、ベクトル内
平均値(中出、相澤、原島:”ベクトル量子化の直交変
換領域高速探索方式、信学論、pp.1102-1110, Vol J69-
B, No.10, 1986)を用いて探索を打ち切る方法等であ
る。
【0010】しかしながら、これらベクトル量子化方式
のうち、本探索法では歪みを最小にするという意味で、
必ずしも最適なベクトルを得ることができないという欠
点を有している。また、歪み計算回数を低減させる方法
でも、全てのコードブックベクトルに対して少なくとも
1度は、なんらかの処理を施す必要がある。すなわち、
これら従来の探索法では、最適なベクトルの探索を十分
に高速化できないという欠点を有していた。
【0011】これに対し、本出願人は特願平2−280
988号に於いて、歪み計算を削減するため歪み量の上
限値と下限値を求めるようにし、その一致により歪み計
算を打ち切ることを可能とする手法を提案した。
【0012】
【発明が解決しようとする課題】すなわち、本出願人が
特願平4−107554号に於いて提案したベクトル量
子化コードブック作成装置に関する高速化手法は、LB
G法やPNN法、Fast PNN法の欠点を克服した
点において優れているが、更に高速化を図るため、より
多くの誤差増加量の計算を除去したいという要求があ
る。
【0013】また、本出願人が特願平2−280988
号に於いて提案したベクトル量子化コードブック探索装
置に関する高速化手法によれば、従来の手法の欠点を克
服し、高速の探索が可能となるという点で優れている
が、これについても、更に高速化を図るため、より多く
の歪み計算を除去したいという要求が依然ある。
【0014】この発明は上記課題に鑑みてなされたもの
で、ベクトル量子化コードブック作成に於ける誤差増加
量計算とベクトル量子化コードブック探索に於ける歪み
計算を更に効率よく打ち切ることで、PNN法によるも
のと同じコードブックを少ない計算時間で且つ高速に作
成することが可能になると共に、全ての入力ベクトルに
対する最適なコードブックベクトルを高速に探索するこ
とが可能なベクトル量子化コードブック作成及び探索装
置を提供することを目的とする。
【0015】
【課題を解決するための手段】すなわちこの発明は、初
期コードブックを構成するベクトル間の距離を次元毎に
ソートすると共にクラスタの併合により重心ベクトルが
生成される毎に上記ベクトル間の距離をソートして整列
状態を維持する第1のソート手段と、上記クラスタの併
合に伴う誤差増加量を計算し、その最小値が得られる毎
に上限値として更新する誤差増加量計算手段と、上記第
1のソート手段によるソート結果に基いて上記誤差増加
量の下限値を求める第1の下限値計算手段と、上記上限
値と上記下限値を用いて比較を行い最適のクラスタペア
の併合及び誤差増加量計算の打ち切りを決定する第1の
比較手段と、併合するクラスタペアの重心を計算しコー
ドブックに登録すると共に併合前のクラスタの重心を削
除するクラスタ重心計算手段とを有するベクトル量子化
コードブック作成部と、上記コードブックを構成するベ
クトルの要素を次元毎にソートする第2のソート手段
と、上記入力ベクトルと上記コードブックベクトルとの
次元毎の歪みの和を計算しその最小値が得られる毎に上
限値として更新する歪み計算手段と、上記第2のソート
手段によるソート結果に基いて歪みの下限値を求める第
2の下限値計算手段と、上記上限値と上記下限値を用い
て比較を行い最適コードブックベクトル探索の終了及び
歪み計算の打ち切りを決定する第2の比較手段とを有す
るベクトル量子化コードブック探索部とを具備すること
を特徴とする。
【0016】
【作用】この発明にあっては、ベクトル量子化コードブ
ック作成に於いて、各クラスタの重心ベクトルを次元毎
に分類し、併合による誤差の増加量を計算する対象とな
るベクトルの要素と最も近い要素が属する重心ベクトル
を有するクラスタから、順に誤差増加量の計算をする。
また、併合するのに最適なペアではないと分かったクラ
スタ以外の各クラスタの重心ベクトルと、誤差増加量計
算の対象ベクトルとから、その次元毎に最小誤差増加量
を計算し、その和を誤差増加量の下限値(その値よりも
誤差増加量が小さくなることはないという値)とする。
その一方で、誤差増加量計算が終わったクラスタの重心
ベクトルが与える最小の誤差増加量を、誤差増加量の上
限値(探索が済んだ範囲での最小の誤差増加量)とす
る。そして、この誤差増加量の下限値と上限値が一致し
た時点で、そのクラスタペアを併合するようにする。更
に、誤差増加量計算の対象となるコードブックベクトル
について、誤差増加量計算が終了した次元に対するその
計算された誤差増加量成分と、誤差増加量計算が終了し
ていない次元に対する誤差増加量の下限値を構成する誤
差増加量成分とを加算し、その加算された値が上限値以
上になれば、そのコードブックベクトルについての誤差
増加量計算を打ち切るようにする。上記誤差増加量計算
の対象となるコードブックベクトルを選択する順序の決
定と下限値の計算には、同一の分類結果を利用する。
【0017】また、ベクトル量子化コードブック探索に
ついては、コードブックベクトルと入力ベクトルの次元
毎に、探索が終わっていないコードブックベクトルが与
える最小歪みを計算し、その和を歪みの下限値(その値
よりも歪みが小さくなることはないという値)とする。
その一方で、探索が終わったコードブックベクトルが与
える最小の歪みを歪みの上限値(探索が済んだ範囲での
最小の歪み量)とする。そして、この歪みの下限値と上
限値が一致した時点で探索を終了する。更に、歪み計算
の対象となるコードブックベクトルについて、歪み計算
が終了した次元に対するその計算された歪み成分と、歪
み計算が終了していない次元に対する歪みの下限値を構
成する歪み成分とを加算し、その加算された値が上限値
以上になれば、そのコードブックベクトルについての歪
み計算を打ち切る。上記歪み計算の対象となるコードブ
ックベクトルを選択する順序の決定と下限値の計算に
は、同一の分類結果を利用する。
【0018】これにより誤差増加量計算を効率よく打ち
切ることで、PNN法によるものと同じコードブック
を、少ない計算時間で高速に作成することが可能とな
る。また歪み計算を効率よく打ち切ることで、全ての入
力ベクトルに対する最適なコードブックベクトルを高速
に探索することが可能となる。
【0019】
【実施例】以下、図面を参照してこの発明の実施例を説
明する。尚、以下に述べる実施例では、コードブック作
成装置の誤差増加量計算に関する歪みとして2乗歪み
を、コードブック探索装置に関する歪みとして差分絶対
値歪みを例に用いているが、それぞれ他の歪みにも同様
に適用できる。
【0020】図1は、この発明の第1の実施例に係るベ
クトル量子化コードブック作成及び探索装置の構成を示
すブロック図である。本装置は大きく分けると、コード
ブック作成部1と、最適ベクトル探索部2とから構成さ
れる。
【0021】コードブック作成部1は、コードブック作
成用ソート部11と、探索順序決定部12と、クラスタ
を併合することによる誤差の増加量を計算する誤差増加
量計算部13と、コードブック作成用下限値計算部14
と、コードブック作成用メモリ15と、コードブック作
成用比較部16と、クラスタ重心計算部17とから構成
される。
【0022】上記コードブック作成用ソート部11は、
初期コードブックを初期状態とするコードブック31を
構成するベクトル間の距離を、次元毎にソートしてコー
ドブック作成用ソート表32を作成する。また、クラス
タが併合されて新しい重心ベクトルが生成される毎に、
コードブック作成用ソート表32を更新するものであ
る。
【0023】探索順序決定部12は、コードブック作成
用ソート表32を用いて、併合の対象となる可能性の高
いクラスタペアから誤差増加量計算を始めるように探索
順序を決定する。また、上記コードブック作成用下限値
計算部14は、コードブック作成用ソート表32を用い
て誤差の増加量の下限値を求めるものである。
【0024】コードブック作成用メモリ15は、部分歪
み量、下限値、及び最小の誤差増加量を上限値として記
憶するものである。そして、コードブック作成用比較部
16は、この上限値と歪みの部分和、及び上限値と下限
値を用いて、上限値計算の打ち切り、及び最適クラスタ
ペアの併合を決定する。
【0025】更に、クラスタ重心計算部17は、併合す
るクラスタペアの重心を計算し、その結果を新たなコー
ドブックとしてコードブック31に登録する。それと共
に、併合前のクラスタの重心を削除するものである。
【0026】一方、最適ベクトル探索部2は、コードブ
ック探索用ソート部21と、歪み計算部22と、コード
ブック探索用下限値計算部23と、コードブック探索用
メモリ24と、コードブック探索用比較部25により構
成されている。
【0027】上記コードブック探索用ソート部21は、
コードブック作成部1で作成されたコードブック31を
ソートして、コードブック探索用ソート表33を作成す
るためのものである。また、歪み計算部22は、入力ベ
クトルXが入力されると、コードブックベクトルとの次
元毎の歪みの和を計算するものである。
【0028】コードブック探索用下限値計算部23は、
コードブック探索用ソート表33を用いて、歪みの下限
値を求めるものである。そして、コードブック探索用メ
モリ24は、部分歪み量、下限値、及び最小歪み量を上
限値として記憶する。コードブック探索用比較部25
は、この上限値と歪みの部分和、及び上限値と下限値を
用いて、歪み計算の打ち切り、及び探索の終了を決定す
る。次に、このベクトル量子化コードブック作成及び探
索装置の動作を説明する。尚、以下の説明では、コード
ブックベクトルの数をN、ベクトルの次元(要素)数を
Mとし、インデックスiで示されるコードブックベクト
ルをYiで表す。
【0029】先ず、前処理として、コードブック作成用
ソート部11では、初期コードブックで構成されている
コードブック31から、次元毎に要素間の歪みの大小関
係でソートされたコードブック作成用ソート表32が生
成される。
【0030】次に、探索順序決定部12に於いて、併合
の対象となる可能性の高いクラスタペアから誤差増加量
計算を始めるように探索順序が決定される。ここでは、
ソート表32が用いられて、各次元で最小の歪みが与え
られるクラスタペアが、順に計算の候補とされる。ただ
し、この他にも、ソート表の全ての次元を通して次候補
となるクラスタペアを調べ、最も多くの次元で候補とな
っているクラスタペアから選択されるようにする等、探
索順序が決定される指標は計算の手間と効果を基に変更
が可能である。
【0031】次いで、クラスタペアの歪みを基にそのペ
アが併合されることによる誤差の増加量が計算される。
ここで、例えば2乗歪みが用いられた場合、クラスタが
併合されることで増加される誤差は、以下のように併合
されるクラスタそれぞれに所属するベクトル数で重み付
けされた平均2乗距離に等しくなる。
【0032】Ci:i番目のクラスタ、ni:Ciに属
するベクトル数、xi:Ciに属するベクトルの重心、
Si:Ciに属する数1で表されるベクトルと、Xiの
平均2乗距離、これに対し添字ijでCiとCjを併合し
てできるクラスタを表すと、数2、数3及び数4の関係
式のようになる。
【0033】
【数1】
【0034】
【数2】
【0035】
【数3】
【0036】
【数4】
【0037】尚、これらの式の導出は、近藤、板倉著
“極低ビットレート符号化に用いるセグメント量子化へ
のPNN法の検討”、信学技報SP91−71(DSP
91−64)に参照される。次に、上記数4の関係式に
基く計算の手順を、図2のフローチャートを参照して説
明する。
【0038】先ず、所望のクラスタまで併合されたか否
かが判定され(ステップS1)、探索順序決定部12に
よって選択されたクラスタペアCiとCjに関するデー
タが、コードブック31から誤差増加量計算部13へ読
み込まれる(ステップS2)。次いで、最初に読み込ま
れたクラスタペアについて、誤差増加量計算部13で上
記数4の関係式に従って、併合による誤差の増加量が計
算される(ステップS3)。そして、これが上限値(H
LV)としてコードブック作成用比較部16に送出され
る。
【0039】一方、コードブック作成用下限値計算部1
4では、コードブック作成用ソート表32の最小値の組
み合せで誤差の増加量の下限値(LLV)が計算され
(ステップS4)、コードブック作成用比較部16に送
出される。このコードブック作成用比較部16では、上
記上限値と下限値がコードブック作成用メモリ15に書
き込まれると共に、比較される(ステップS5)。
【0040】この比較に於いて、両者が一致する場合
は、そのクラスタペアが併合されて(ステップS6)、
新しいクラスタが生成される。そして、クラスタ重心計
算部17にて、併合されるクラスタペアの重心が計算さ
れ、新たなコードブックとしてコードブック31に登録
されると共に、併合前の2つのクラスタの重心が削除さ
れる。更に、コードブック作成用ソート部11で、コー
ドブック作成用ソート表32が更新される。
【0041】上記ステップS5に於いて、上限値と下限
値が一致しない場合は、探索順序決定部12で次のクラ
スタペアが選択される(ステップS7)。次いで、誤差
増加量計算部13で、上記数4の関係式に従って併合に
よる誤差の増加量の部分和(Y)が計算される(ステッ
プS8)。
【0042】一方、Yとの比較の対象として、Yに未だ
加算されていない次元についての下限値を構成する成分
の和を上限値から減じた値Zが求められる(ステップS
9)。そして、これらYとZとの比較による計算の打ち
切りが実施される。すなわち、YとZとが比較されて
(ステップS10)、YがZと同じか大きくなった場
合、例え加算していない次元が全て下限値を構成する要
素から成っていたとしても、そのクラスタペアの併合に
よる誤差の増加が最小ではないことが分かる。したがっ
て、コードブック作成用比較部16では、このクラスタ
ペアがソート表の下限値計算の対象から除外される(ス
テップS11)。その後、ステップS4のコードブック
作成用下限値計算部14でのLLVの計算に戻される。
【0043】一方、上記ステップS10に於いて、Y<
Zの場合は、インデックスkがインクリメントされた後
(ステップS12)、k>Mであるか否かが判定される
(ステップS13)。ここで、kがMと同じか若しくは
小さい場合は、Yの値が再び計算された後(ステップS
14)、ステップS9に戻る。
【0044】そして、数4の関係式を計算し終えて、そ
の値YがHLVよりも小さくなった場合、Yが新たなH
LVとされる(ステップS15)。そこで、それまでH
LVが与えられていたクラスタペアは、その併合による
誤差の増加が最小ではないことが分かる。したがって、
コードブック作成用比較部16に於いて、このクラスタ
ペアがソート表の下限値計算の対象から除外される(ス
テップS16)。その後、コードブック作成用下限値計
算部14でステップS4のLLVの計算に戻される。以
上のステップに従って、所望のクラスタ数になるまで併
合が続けられる。以上の結果、作成されたコードブック
31が、最適ベクトル探索部2での探索に使用される。
次に、符号化部である最適ベクトル探索部2の動作につ
いて、図3のフローチャートを参照して説明する。
【0045】先ず、前処理として、コードブック31が
コードブック探索用ソート部21にて次元毎に要素間の
歪みの大小関係でソートされ、コードブック探索用ソー
ト表33が生成される。図4(a)及び(b)は、上述
したコードブック31及びコードブック作成用ソート表
32の形式の一例としての模式図である。
【0046】図4(a)は、次元数とコードブックベク
トル数によって区分されたコードブックベクトルの成分
値と基底値番号と次元数によって構成される。そして、
図4(b)は、上記コードブックベクトルに対応する基
底値番号と次元数によって分類されて配置された基底値
とベクトル数によって構成される。
【0047】こうして、以下に述べるように、最適なコ
ードブックベクトルが探索される。初めに、入力ベクト
ルXが歪み計算部22に入力される。この歪み計算部2
2では、コードブック31よりインデックス1に対応す
るコードブックベクトルY1が取り出される。そして、
入力ベクトルXとの歪みが計算される。これにより、全
次元の歪みの和HLV及びこのインデックスmin(こ
こでは1)が、コードブック探索用メモリ24に記憶さ
れる(ステップS21)。
【0048】一方、コードブック探索用下限値計算部2
3では、コードブック探索用ソート表33を用いて、入
力ベクトルXとコードブックベクトルの基底値との差の
絶対値Ds(k)、Db(k)が、数5、数6の関係式
のように計算される。
【0049】
【数5】
【0050】
【数6】
【0051】ここで、図5に示されるように、コードブ
ックベクトルの第k次成分を基底値に分類したとき、小
さいほうから数えてt番目に当たる基底値をVk(t)
で表し、入力ベクトルXに最も接近した基底値(最近接
基底値)を示すポインタが、p、qで示されている。ま
た、入力ベクトルXとコードブックベクトルの基底値と
の差をDs(k)、Db(k)とし、その差Ds(k)
はXよりも小さい側の差を表している。そして、下限値
LLVが数7の関係式により計算され、コードブック探
索用メモリ24に記憶される(ステップS22)。
【0052】
【数7】
【0053】続いて、コードブック探索用比較部25で
は、コードブック探索用メモリ24に記憶されている上
限値HLVと下限値LLVが比較される(ステップS2
3)。このとき、HLVとLLVが一致すれば、HLV
は最小歪みであるから、インデックスminが出力され
て(ステップS24)、終了する。一方、HLVとLL
Vが一致しなければ、次のコードブックベクトルとの比
較が行われるために、インデックスiがインクリメント
される(ステップS25)。
【0054】歪み計算部22では、このインデックスi
でコードブック31からコードブックベクトルYiが取
り出され、入力ベクトルXとの歪みが計算される(ステ
ップS26)。ここでは、数8の関係式に表されるよう
に、低次成分から順に第j次成分までの歪みの部分和S
jが求められて、コードブック探索用比較部25に送ら
れる。
【0055】
【数8】
【0056】一方Sjとの比較の対象として、Sjに未
だ加算されていない次元についての下限値を構成する成
分の和を上限値から減じた値Zが求められる(ステップ
S27)。コードブック探索用比較部25では、部分和
SjとZとが比較される(ステップS28)。そして、
Sj≧Zの関係式が満たされた時点で、例え加算されて
いない次元が全て下限値を構成する要素から成っていた
としても、そのコードブックベクトルとの歪みが最小で
はないことが分かる。したがって、それ以上の歪み計算
は打ち切られる。
【0057】歪み計算が打ち切られる場合には、次のコ
ードブックベクトルに対応するインデックスi+1が歪
み計算部22に送られ、次のコードブックベクトルに対
象が移る。また、インデックスiが示すベクトルは最小
歪みを与えないことが分かったので、このベクトルに対
応する基底値に属するベクトル数が1ずつ減らされる
(ステップS29)。
【0058】一方、歪み計算が打ち切られない場合に
は、ベクトルの次数jがM以上であるかが判定され(ス
テップS30)、j≧Mでなければjがインクリメント
されて歪み計算部22に送られる(ステップS31)。
ベクトルの次数jがMに等しくなっても、歪みの部分和
Sj(=SM)がそれまでの最小歪みHLVよりも小さ
ければ、これが新たな最小歪みHLVとしてコードブッ
ク探索用メモリ24に記憶される。この場合、インデッ
クスminが示すベクトルは最小歪みを与えないことが
分かるので、このベクトルに対応する基底値に属するベ
クトル数が1ずつ減らされる(ステップS32)。
【0059】そして、このときのインデックスiが新た
なインデックスminとしてコードブック探索用メモリ
24に記憶される。こうして、最小歪みを与えないこと
が分かったコードブックベクトルに対応する基底値に属
するベクトル数が1ずつ減らされたことに伴い、属する
ベクトル数が0になった最近接基底値があるか否かが判
定される(ステップS34)。
【0060】このステップS34にて、最近接基底値が
存在する場合には、該当する最近接基底値ポインタpあ
るいはqが、属するベクトルが存在する基底値までずら
される(ステップS35)。その後、ステップS22に
戻って、コードブック探索用下限値計算部23に於いて
下限値が計算し直される。
【0061】一方、上記ステップS34に於いて、最近
接基底値に属するベクトルの数が1つも0にならなかっ
た場合は、ステップS23に移行して、下限値はそのま
まで処理が続けられる。以上の手順が、上限値と下限値
が一致するまで行われる。
【0062】上述したベクトル量子化コードブック作成
の処理手順に従えば、PNN法によってローカルミニマ
ム状態に落ちる心配なく得られるものと同じコードブッ
クを得ることができるにもかかわらず、PNN法のよう
に全てのベクトルの組み合せに対する併合による誤差の
増加量の計算を必要としない。すなわち、誤差増加量計
算の途中で、下限値を構成する要素値を含めて上限値と
の比較を行うことにより、誤差増加量計算を途中で打ち
切ることが可能である。
【0063】また、上限値を下限値と比較することによ
って、誤差増加量計算の対象となるクラスタペアを削減
することができる。これにより、PNN法によってロー
カルミニマム状態に落ちる心配なく得られるものと同じ
コードブックを求めるための計算回数を非常に少なくす
ることができる。
【0064】そして、上述したベクトル量子化コードブ
ック探索の処理手順に従えば、コードブックベクトルを
全探索することにより得られる最適解と同じ解を得るこ
とができるにもかかわらず、探索を途中で打ち切ること
ができる。また、各ベクトル量子化コードブックベクト
ルに関する歪み計算についても、下限値を構成する要素
値を含めて上限値との比較を行うことで、歪み計算を途
中で打ち切ることが可能である。これにより、入力ベク
トルに対する最適なコードブックベクトルを少ない計算
回数で効率よく求めることができる。
【0065】更に、同実施例では、説明を簡略化するた
めにコードブック作成部1と、最適ベクトル探索部2と
を分けた構成としたが、これに限られるものではない。
すなわち、コードブック作成用ソート部11とコードブ
ック探索用ソート部21、誤差増加量計算部13と歪み
計算部22、コードブック作成用下限値計算部14とコ
ードブック探索用下限値計算部23、コードブック作成
用メモリ15とコードブック探索用メモリ24、そして
コードブック作成用比較部16とコードブック探索用比
較部25は、それぞれほぼ同じ処理を行うので、これら
をそれぞれ共通化することで装置を小型化することもで
きる。あるいは、コードブック作成部1と最適ベクトル
探索部2とを完全に独立した装置とすることで、それぞ
れの装置の小型化を図ることも可能である。
【0066】更に、上述した実施例では、説明を簡略化
するために誤差増加量計算や歪み計算はベクトルの次元
の順に計算するようにしているが、これらに限られるも
のではない。すなわち、下限値を構成する要素のうち、
要素値が小さいものが存在している次元から先に部分和
の計算に取り入れるようにすることも可能である。これ
によれば、更に早い時期に上限値を越える可能性が高ま
るという効果がある。
【0067】
【発明の効果】コードブックベクトルの作成及び探索処
理に於いて、必要となる誤差増加量計算と歪み計算を、
誤差増加量及び歪みの部分和と下限値を構成する要素値
とを合わせて評価して打ち切るようにした。これによ
り、誤差増加量及び歪みの部分和と上限値を単純に比較
するよりも早い時点で計算の打ち切りを決定することが
できるようになった。すなわち、非常に少ない計算量
で、コードブックベクトルを作成することと最適なコー
ドブックベクトルを効率よく高速に求めることが可能に
なった。
【図面の簡単な説明】
【図1】この発明の第1の実施例に係るベクトル量子化
コードブック作成及び探索装置の構成を示すブロック図
である。
【図2】図1のコードブック作成部1の動作を説明する
フローチャートである。
【図3】図1の最適ベクトル探索部2の動作を説明する
フローチャートである。
【図4】コードブック31及びコードブック作成用ソー
ト表32の形式の一例としての模式図である。
【図5】入力ベクトルXとコードブックベクトルの基底
値との関係を示した図である。
【符号の説明】
1…コードブック作成部、2…最適ベクトル探索部、1
1…コードブック作成用ソート部、12…探索順序決定
部、13…誤差増加量計算部、14…コードブック作成
用下限値計算部、15…コードブック作成用メモリ、1
6…コードブック作成用比較部、17…クラスタ重心計
算部、21…コードブック探索用ソート部、22…歪み
計算部、23…コードブック探索用下限値計算部、24
…コードブック探索用メモリ、25…コードブック探索
用比較部、31…コードブック、32…コードブック作
成用ソート表、33…コードブック探索用ソート表。

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 初期コードブックを構成するベクトル間
    の距離を次元毎にソートすると共にクラスタの併合によ
    り重心ベクトルが生成される毎に上記ベクトル間の距離
    をソートして整列状態を維持する第1のソート手段と、
    上記クラスタの併合に伴う誤差増加量を計算し、その最
    小値が得られる毎に上限値として更新する誤差増加量計
    算手段と、上記第1のソート手段によるソート結果に基
    いて上記誤差増加量の下限値を求める第1の下限値計算
    手段と、上記上限値と上記下限値を用いて比較を行い最
    適のクラスタペアの併合及び誤差増加量計算の打ち切り
    を決定する第1の比較手段と、併合するクラスタペアの
    重心を計算しコードブックに登録すると共に併合前のク
    ラスタの重心を削除するクラスタ重心計算手段とを有す
    るベクトル量子化コードブック作成部と、 上記コードブックを構成するベクトルの要素を次元毎に
    ソートする第2のソート手段と、上記入力ベクトルと上
    記コードブックベクトルとの次元毎の歪みの和を計算し
    その最小値が得られる毎に上限値として更新する歪み計
    算手段と、上記第2のソート手段によるソート結果に基
    いて歪みの下限値を求める第2の下限値計算手段と、上
    記上限値と上記下限値を用いて比較を行い最適コードブ
    ックベクトル探索の終了及び歪み計算の打ち切りを決定
    する第2の比較手段とを有するベクトル量子化コードブ
    ック探索部とを具備することを特徴とするベクトル量子
    化コードブック作成及び探索装置。
JP04199940A 1992-07-27 1992-07-27 ベクトル量子化コードブック作成及び探索装置 Expired - Fee Related JP3093879B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP04199940A JP3093879B2 (ja) 1992-07-27 1992-07-27 ベクトル量子化コードブック作成及び探索装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP04199940A JP3093879B2 (ja) 1992-07-27 1992-07-27 ベクトル量子化コードブック作成及び探索装置

Publications (2)

Publication Number Publication Date
JPH0645946A true JPH0645946A (ja) 1994-02-18
JP3093879B2 JP3093879B2 (ja) 2000-10-03

Family

ID=16416131

Family Applications (1)

Application Number Title Priority Date Filing Date
JP04199940A Expired - Fee Related JP3093879B2 (ja) 1992-07-27 1992-07-27 ベクトル量子化コードブック作成及び探索装置

Country Status (1)

Country Link
JP (1) JP3093879B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232296A (ja) * 2001-02-06 2002-08-16 Sony Corp ベクトル量子化のコードブック生成方法及びコードブック生成装置
JP2002232295A (ja) * 2001-02-05 2002-08-16 Sony Corp ベクトル量子化方法及びベクトル量子化装置
JP2008507718A (ja) * 2004-07-23 2008-03-13 テレコム・イタリア・エッセ・ピー・アー ベクトルコードブック生成方法、データ圧縮方法及び装置、並びに分散型音声認識システム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232295A (ja) * 2001-02-05 2002-08-16 Sony Corp ベクトル量子化方法及びベクトル量子化装置
JP4631178B2 (ja) * 2001-02-05 2011-02-16 ソニー株式会社 ベクトル量子化方法及びベクトル量子化装置
JP2002232296A (ja) * 2001-02-06 2002-08-16 Sony Corp ベクトル量子化のコードブック生成方法及びコードブック生成装置
JP4590747B2 (ja) * 2001-02-06 2010-12-01 ソニー株式会社 ベクトル量子化のコードブック生成方法及びコードブック生成装置
JP2008507718A (ja) * 2004-07-23 2008-03-13 テレコム・イタリア・エッセ・ピー・アー ベクトルコードブック生成方法、データ圧縮方法及び装置、並びに分散型音声認識システム
JP4703648B2 (ja) * 2004-07-23 2011-06-15 テレコム・イタリア・エッセ・ピー・アー ベクトルコードブック生成方法、データ圧縮方法及び装置、並びに分散型音声認識システム

Also Published As

Publication number Publication date
JP3093879B2 (ja) 2000-10-03

Similar Documents

Publication Publication Date Title
Chang et al. A fast LBG codebook training algorithm for vector quantization
US8542869B2 (en) Projection based hashing that balances robustness and sensitivity of media fingerprints
US7895201B2 (en) Information processing apparatus, methods, and program for searching sets for an element
CN110458175B (zh) 一种基于词汇树检索的无人机影像匹配对选择方法及系统
CN114841257A (zh) 一种基于自监督对比约束下的小样本目标检测方法
CN111178514A (zh) 神经网络的量化方法及系统
KR101958939B1 (ko) 벡터 양자화의 혼합에 기초한 부호화 방법 및 이를 이용한 최근접 이웃 검색(nns) 방법
CN110442977A (zh) 基于建筑施工工序网络推荐的移动端bim模型智能缓存方法
CN108763295A (zh) 一种基于深度学习的视频近似拷贝检索算法
CN113837940A (zh) 基于密集残差网络的图像超分辨率重建方法及系统
CN109919901B (zh) 一种基于集成学习与随机森林的图像质量评价方法
CN106919658B (zh) 一种基于gpu加速的大规模图像词汇树检索方法及系统
KR20020017219A (ko) 대용량 데이터베이스에서의 고속에 의한 다해상도의 최적탐색방법
JP3093879B2 (ja) ベクトル量子化コードブック作成及び探索装置
CN109670057B (zh) 一种渐进式的端到端深度特征量化系统及方法
CN108536772B (zh) 一种基于多特征融合和扩散过程重排序的图像检索方法
JP3093868B2 (ja) ベクトル量子化コードブック作成装置
CN116383437A (zh) 一种基于卷积神经网络的跨模态素材推荐方法
CN116204647A (zh) 一种目标比对学习模型的建立、文本聚类方法及装置
CN115457269A (zh) 一种基于改进DenseNAS的语义分割方法
JP3015446B2 (ja) ベクトル量子化方法およびベクトル量子化装置
CN113836897A (zh) 一种多源异构数据字典对齐的方法
JP3046871B2 (ja) ベクトル量子化方法及びベクトル量子化装置
CN111860627A (zh) 一种特征对比方法、系统、设备以及介质
JP2013073333A (ja) 画像マッチング装置及び画像マッチングプログラム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20000704

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080728

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees