JPH0832033B2

JPH0832033B2 - 学習型多段ベクトル量子化方法と装置

Info

Publication number: JPH0832033B2
Application number: JP63059065A
Authority: JP
Inventors: 泰男片山
Original assignee: GURAFUITSUKUSU KOMYUNIKEESHON TEKUNOROJIIZU KK
Current assignee: GURAFUITSUKUSU KOMYUNIKEESHON TEKUNOROJIIZU KK
Priority date: 1988-03-12
Filing date: 1988-03-12
Publication date: 1996-03-27
Anticipated expiration: 2011-03-27
Also published as: JPH01232829A

Description

【発明の詳細な説明】［産業上の利用分野］本発明は画像情報等の圧縮に用いられる高能率有歪情
報圧縮符号化に係り、とくに情報源の統計的性質を学習
適応する学習量子化に好適な学習型多段ベクトル量子化
方法と装置に関する。

［従来の技術］まずベクトル量子化の原理について説明する。

ベクトル量子化は１次元または多次元の系列をいくつ
かまとめて多次元数として量子化することによる情報圧
縮技術である。

この次元数は、情報源が１次元の音声や２次元の画像
ということではなく、値を複数個まとめて形成される次
元である。すなわち、ｎ次元をｍ個まとめればｎ×ｍ次
元となる。まとめ方には多くの方法がある。たとえば画
像の小領域の２×２の画素から輝度サンプルをまとめて
１×４の４次元数、４×４の領域のR,G,Bサンプルをま
とめると３×16の48次元数となる。まとめられた多次元
数を入力ベクトルと言い、Ｋ次元のベクトルをｘとする
と、ｘ＝（ｘ1,ｘ2,ｘ3,…，ｘＫ）（１）入力ベクトルｘをＫ次元空間の中で歪（距離）尺度ま
たは類似度尺度である所定の尺度を用いて番号の付いた
有限個の代表点ベクトルに変換するのが、ベクトル量子
化である。代表点の総数をＮとしｉ（１≦ｉ≦Ｎ）番目
の代表点ベクトルをy _iとし、所定の尺度を、ｄ（ｘ，y _i）とし、ベクトル量子化の変換をＱ（）と
すると、Ｑ（ｘ）＝y _i （２）ｄ（ｘ，y _i）≦ｄ（ｘ，y _j）ｉ≠ｊ上記代表点ベクトルy _jはコード・ワードと言い、対応
するインデックスｉはコード・インデックスという。

さらに一般化すれば、多次元空間をＮ個に分割し、各
部分空間をP_iとし、各部分空間にはそれぞれ代表点ベク
トルy _iをもつと解釈すれば、Ｑ（ｘ）＝y _i ifｘ∈P_i （３）この変換Ｑは符号化Ｃと複号化Ｄの縦続接続とみなす
ことができる。符号化Ｃは多次元数から代表点インデッ
クスｉ（番号）に変換することであり、複号化はインデ
ックスｉから代表点ベクトルy _iに変換することである。
これを式で表わすとつぎのようになる。

Ｃ（ｘ）＝ｉＤ（ｉ）＝y _i （４）入力ベクトルｘと代表点ベクトルy _iの差のベクトルは
ベクトル量子化誤差ベクトルｄである。ｄ＝ｘ−y _i （５）距離（歪）尺度d_i（ｘ，ｙ）は２個のベクトルのスカ
ラー関数であり、たとえば以下のようなものがある。

ここで、ｎは整数、ｒは実数を意味する。

ベクトル量子化においては、その効率が代表点ベクト
ルy _iの設定に大きく依存する。代表点ベクトルy _iの設定
方法は、通称L.B.G.アルゴリズムと呼ばれる方法が存在
する。ワイ・リンド（Y.Linde），エー・ブゾ（A.Bus
o）およびアール・エム・グレイ（R.M.Gray）の論文
“ベクトル量子化設計用アルゴリズム”アイ・イー・イ
ー・イートランザクションオンコミュニケーショ
ンズ,Vol.Com-28,No1,1980年１月（“An Algorithm for
Vector Quantizer Design"IEEE Transaction on Commu
nications,Vol.Com-28,NO.1,January 1980）に説明され
ている。

代表点数Ｎが大きくなると、最近傍の代表点の探索を
全探索でなく木探索法で行う例も多い。木探索ベクトル
量子化は、量子化演算量がＯ（Ｎ）からＯ（log₂N）に
減少する。メモリ量は中間節点の仮の出力ベクトルを用
意する必要があり、２倍弱になる。また、選択された代
表点は最近傍でない場合があり、性能が劣化することが
ある。

以上ベクトル量子化の原理的な説明をおこなった。ベ
クトル量子化の符号化の多くの方式は、斉藤隆弘および
原島博の論文（“ベクトル量子化とその画像符号化への
応用”信学技報IE87−48,47-54頁）に説明されている。

つぎに多段ベクトル量子化の原理を説明する。多段ベ
クトル量子化は複数のベクトル量子化を縦続的に接続し
て多段的に量子化を行う量子化手法である。すなわち前
段ベクトル量子化の残差（量子化誤差）ベクトルを次段
においてベクトル量子化して行く。このような多段構成
は量子化演算量のみならずコード・ブック・メモリ量も
削減することができる。

ｒ段の各ベクトル量子化が、レベル数（代表点数）N
1,N2,…,Nrとすると、量子化演算量とメモリ量は、とも
にＯ（N1×N2×，…，×Nr）からＯ（N1×N2＋，…，＋
Nr）に減少する。

多段ベクトル量子化における段数が２段である場合に
ついての説明ををするために、第１表を示す（３段以上
の場合も同様である）。

第１表前段後段入力ベクトルｘｘ−ｙ１コード・インデックスｉｊ量子化出力ベクトルｙ１ｙ２多段ベクトル量子化全体の量子化出力はｙ１＋ｙ２で
あり、全体のコード・インデックスは（i,j）になる。

このような従来の多段ベクトル量子化装置の構成は、
第５図に示されている。

送信側には、前段および後段の符号化ベクトル量子化
器10Bおよび60Bがあり、入力ベクトル41（ｘ）が符号化
ベクトル量子化器10Bに印加されると、入力ベクトル41
（ｘ）に対応する代表点を選択し、符号化ベクトル量子
化器10Bに含まれたコード・ブック記憶部から、その代
表点のコード・ワードである量子化出力ベクトル42B
（ｙ１）を出力する。これと同時に、この選択された代
表点の多段構成のコード・インデックス45B（ｉ）を伝
送手段により受信側へ出力している。

この量子化出力ベクトル42B（ｙ１）と入力ベクトル4
1（ｘ）との差である量子化誤差ベクトル43B（ｘ−ｙ
１）が後段の符号化ベクトル量子化器60Bの入力ベクト
ルとして印加されている。

量子化誤差ベクトル43B（ｘ−ｙ１）を印加された後
段の符号化ベクトル量子化器60Bにおいても、前段の符
号化ベクトル量子化器10Bにおける動作と同様にして、
量子化誤差ベクトル43B（ｘ−ｙ１）に対応する代表点
を選択し、符号化ベクトル量子化器60Bに含まれたコー
ド・ブック記憶部から、その代表点のコード・ワードで
ある量子化出力ベクトル72B（ｙ２）を出力し、これと
同時に、この選択された代表点に対応するコード・イン
デックス75B（ｊ）を伝送手段により受信側へ出力して
いる。

受信側には前段および後段の復号化ベクトル量子化器
110Bおよび160Bがあり、伝送手段で送られてきた２つの
コード・インデックス45B（ｉ）および75B（ｊ）を受け
て、それぞれの内部に含まれたコード・ブック記憶部か
らそれぞれのコード・インデックス45B（ｉ）および75B
（ｊ）に対応する量子化出力142B（ｙ１）および172B
（ｙ１）を出力し、加算して総合量子化出力ベクトル16
9B（ｙ１＋ｙ２）を得ている。

［発明が解決しようとする課題］ベクトル量子化は次元の数を増大すれば理論的にはレ
ート歪限界にまで近づくことのできる符号化方式と言わ
れている。ところが同一ビット・レートの仮定のもとに
単純に次元数を増大すると量子化演算量とメモリ量は指
数的に増大する。これが第１の問題点である。

これは第５図に示した多段ベクトル量子化で解決でき
たかにみえるが、段数を多く各段のレベル数を小さく設
定した場合、前段の代表ベクトルの個々のボロノイ領域
の統計的構造を次段が無視して一括して扱うため性能は
劣化する。これを回避するため以下の２種類の対策方法
が従来からとられている。

（１）前段のインデックスによって異なる変換を誤差ベ
クトルに掛けることで、ボロノイ領域内の統計的性質を
均一化する。

（２）段数を極力少なく保ち、前段のレベル数を大きく
保つ。

しかしながら（１）の対策には変換種類の限界があ
り、（２）の対策は多段ベクトル量子化の利点を減少さ
せるため、その効果に限界がある。

また第２の問題点として、ベクトル量子化全体に関す
るコード・ブックの汎用性に対する問題点がある。コー
ド・ブック作成の際に使用したトレーニング集合は有限
で、一般に、符号化復号化に使用する入力ベクトル集合
より狭いものが使われることが多い。この第２の問題点
に対する対策としては、入力ベクトルの統計的偏りを仮
定し変換することで、一定の統計的性質に合致するよう
に変換して、その後にベクトル量子化を行うもので、平
均値分離ベクトル量子化，ゲイン−シェイプ（Gain−sh
ape）ベクトル量子化およびディスクリート・コサイン
変換ベクトル量子化等の直交変換ベクトル量子化がこれ
にあたる。この対策は有用であるが、その限界も存在
し、入力ベクトルの統計的性質の経時的な変動への対応
を基本的に持たないために、統計的性質が大きく異なる
入力が与えられたような場合には、量子化の性能が劣化
するという解決されるべき課題があった。

［課題を解決するための手段］このような課題を解決する方法として入力ベクトルの
統計的性質をコード・ブックに取り込んでいく方式が望
まれる。本発明においては、コード・ブックに入力ベク
トルの統計的性質を直接に順次取り込み、学習適応を可
能にし、入力ベクトルの統計的性質の非定常性にコード
・ブックが追随するようにすることにある。

これは、たとえば量子化出力y _iを入力ベクトルｘにあ
る比率で近ずけることができれば達成される。

テウボ・コホーネン（Teubo.Kohonen）による論文
（“Self-Organization and Associative Memory",Spri
nger-Verlag,1984）で述べられているような学習機構、
すなわちコホーネンのニューロン層の場合、入力ベクト
ルは絶対値が１に正規化され、代表点の各次元の成分
は、入力ベクトルに内積される重みの各次元成分となっ
ている。

しかも重みの絶対値も１に正規化されている。そのた
め極小距離代表点を求めることは極大内積の重みベクト
ルをもつニューロンを求めることにおき替えうる。その
ようなホコーネン学習は、入力ベクトルの最近傍の重み
についてのみ、重みを入力ベクトルに近づけるという、
重みの更新を行う。

このような機能を実現するために、多くの量子化出力ベクトルであるコード・ワードと各
コード・ワードに対応するコード・インデックスを内容
とするコード・ブックと、類似度尺度をも含むことのある距離尺度により入力ベ
クトルがコード・ブック中のどのコード・ワードに最も
接近（類似）しているかを識別してコード・ワードを選
択し、これに対応するコード・インデックスを出力する
最小距離識別部とを有する複数個の多段接続されたベクトル量子化器を
具備し、前段のベクトル量子化器の量子化誤差ベクトル
を次段のベクトル量子化器の入力ベクトルとする多段ベ
クトル量子化装置において、前段のベクトル量子化器から出力される選択されたコ
ード・ワードに対して、次段のベクトル量子化器から出
力されるコード・ワードを用いて学習適応作用を有する
学習部を設けた。

さらに、入力ベクトルの印加に対して、前段のベクト
ル量子化誤差ベクトルが所定値を越えた場合には、この
入力ベクトルをそのまま受信側へも伝送し、これを送信
側および受信側の前段コード・ブック中に格納するよう
にした。

［作用］このような手段を講ずることによつて、従来の多段ベ
クトル量子化装置と異なり、本発明においては、最終段
を除く各段のベクトル量子化器の各コード・ブックにお
いて、符号化（送信側）または復号化（受信側）の処理
ごとに１つのコード・ワードを学習適応により順次更新
するようにした。すなわち、多段ベクトル量子化装置に
おいては、後段の高い精度によるベクトル量子化の量子
化コード・ワードが前段のベクトル量子化に使用される
から、ベクトル量子化の段数が多くなると、最終段以外
の段のベクトル量子化において得た学習結果が、最終段
以外の量子化コード・ブックに反映されるために、学習
は自動的、かつ適応的に行われ、事前の学習も必要とせ
ず、その段数が大きいほど、その学習効果も大きいもの
となる。

また入力ベクトルに対して、送信側の前段における誤
差ベクトルが所定値を越えた場合には、この入力ベクト
ルが受信側へも伝送され送信側および受信側のコード・
ブックのコード・ワードを更新し、あるいは追加するこ
とにより学習機能を得るようにした。

このように動作する結果、学習後のコード・ワード
は、多次元空間内の近傍に落ちた入力ベクトルの時間的
平均値を表わすように移動されて、コード・ブック全体
では、入力ベクトルの統計的分布を反映したコード・ワ
ード配置をもつようになり、また、統計的性質の経時的
変化への適応性により、大きなS/N（信号対雑音）比の
向上が得られる。

［実施例］本発明による学習型多段ベクトル量子化装置の一実施
例を示す回路構成を第１図に示す。

符号化側である送信側には、前段および後段の符号化
ベクトル量子化器10および60と、学習制御部80があり、
入力ベクトル41（ｘ）が符号化ベクトル量子化器10に印
加されると、入力ベクトル41（ｘ）に対応する代表点を
選択し、前段の符号化ベクトル量子化器10に含まれたコ
ード・ブック記憶部から、その代表点のコード・ワード
である量子化出力ベクトル42（ｙ１）を出力する。これ
と同時に、この選択された代表点のコード・インデック
ス45（ｉ）を伝送線により受信側へ出力している。

この量子化出力ベクトル42（ｙ１）と、入力ベクトル
41（ｘ）との差である量子化誤差ベクトル43（ｘ−ｙ
１）が、後段の符号化ベクトル量子化器60の入力ベクト
ルとして印加されている。

量子化誤差ベクトル43（ｘ−ｙ１）を印加された後段
の符号化ベクトル量子化器60においても、前段の符号化
ベクトル量子化器10における動作と同様にして、量子化
誤差ベクトル43（ｘ−ｙ１）に対応する代表点を選択
し、符号化ベクトル量子化器60に含まれたコード・ブッ
ク記憶部から、その代表点のコード・ワードである量子
化出力ベクトル72（ｙ２）を出力し、これと同時に、こ
の選択された代表点のコード・インデックス75（ｊ）を
伝送手段により受信側へ出力している。

ここで前段の符号化ベクトル量子化器10の出力である
量子化出力ベクトル42と、それに対応する後段の符号化
ベクトル量子化器60の出力である量子化出力ベクトル72
とは、ともに学習制御部80に印加される。ここで量子化
出力ベクトル42は、量子化出力ベクトル72によって学習
効果を受けて、学習後量子化出力ベクトル85が出力さ
れ、これによって、前段の符号化ベクトル量子化器10の
コード・ブックのコード・ワードは更新され、更新され
たコード・ワードによって、次回の量子化動作が行われ
る。

受信側には、前段および後段の復号化ベクトル量子化
器110および160と学習制御部180があり、伝送線で送ら
れてきた２つの多段構成のコード・インデックス45
（ｉ）および75（ｊ）を受けて、それぞれの内部に含ま
れたコード・ブック記憶部から、それぞれのコード・イ
ンデックス45（ｉ）および75（ｊ）に対応する量子化出
力142（ｙ１）および172（（ｙ２）を出力し、加算して
総合量子化出力ベクトル181（ｙ１＋ｙ２）を得てい
る。

ここで、前段の復号化ベクトル量子化器110の出力で
ある量子化出力ベクトル142と、それに対応する後段の
復号化ベクトル量子化器160の出力である量子化出力ベ
クトル172とは、ともに学習制御部180に印加される。こ
こで量子化出力ベクトル142は、量子化出力ベクトル172
によって学習効果を受けて、学習後量子化出力ベクトル
185を出力し、これによって、前段の復号化ベクトル量
子化器110のコード・ブックのコード・ワードは更新さ
れ、更新されたコード・ワードによって、次回のベクト
ル量子化動作が行われる。

このようにして、量子化出力ベクトル142は量子化出
力ベクトル42を、量子化出力ベクトル172は量子化出力
ベクトル72をを忠実に再現している。このことは送信側
と受信側において常に等しい学習後量子化ベクトル85お
よび185によりコード・ブックが更新され、両者のコー
ド・ブックの内容は常に等しいものに保たれることを意
味している。

その結果、S/N（信号対雑音）比の良好な総合量子化
出力ベクトル181（ｙ１＋ｙ２）が得られる。この学習
過程をさらに詳細に説明する。

学習制御部80および180の機能は同じであるから、学
習制御部80の場合について説明する。

テウボ・コホーネン（Teubo.Kohonen）による論文
（“Self-Organization and Associative Memory",Spri
nger-Verlag,1984）で述べられているような学習機構す
なわちコホーネンのニューロン層の場合、入力ベクトル
は絶対値が１に正規化され、代表点の各次元の成分は、
入力ベクトルに内積される重みの各次元成分となってい
る。

しかも重みの絶対値も１に正規化されている。そのた
め極小距離代表点を求めることは極大内積の重みベクト
ルをもつニューロンを求めることにおき替えうる。

ｉ番目のニューロンの重みベクトルをW_iとすると、コ
ホーネン学習は最近傍の重みｉについてのみ、次式によ
る重みの更新を行う。W _i ^new ＝（１−ａ）W _i ^old＋ａｘ（６）（０＜ａ≦１） newは更新後、oldは更新前を意味する。その他の重みは
変化を受けないので次式のようになる。W _i ^new ＝W _i ^old （７）本発明では、これを一般の（正規化されていない）ベ
クトル量子化に拡張して極（最）小距離代表ベクトルに
ついてのみ、次式による代表点移動を行う。y _i ^new ＝（１−Ｋ）y _i ^old＋ｋｘ（８）（０＜ｋ≦１）その他の代表点は、変化を受けないので次式のようにな
る。

y _i ^new＝y _i ^old （９）一般のベクトル量子化の場合には、移動による重みの
正規化の問題（（６）式により重みの絶対値が１ではな
くなること）は避けられ、かつ距離計算をチェビチェフ
距離d₁（ｘ，ｙ）で行う高速処理が可能となることの利
点がある。

また逆伝播型のニューラル・ネットと同じく、エラー
・パワー（誤差ベクトルの絶対値の２乗）のすべての代
表点の成分による偏微分に比例して、それらを修正する
という最急降下法による解も、上式（８）および（９）
を導くことができることを以下に示す。

エラー・パワーＥを前段の量子化誤差ベクトル43のパ
ワーとし、Ｅ＝（ｘ−y _i）²/2 （10） y _kiの変化量を、 −kE∂／∂y _ki＝ｋ（x_k−y_ki）（11）とすると、選択された代表点（入力ベクトル41のｘとは
極（最）小距離）のみが０以外の値をもち、上記の
（８）および（９）式が導かれる。ここでｋは０＜ｋ≦
１なるスカラー定数である。

ところが、明らかに入力ベクトル41のｘは送信側では
知ることができても、受信側では不明である。

そこで多段ベクトル量子化の構成を設定し、前段の量
子化出力ベクトル42のy _iを次段の量子化出力ベクトル72
で学習させる構成を採用した。

以下、第１表の表記法にしたがい説明を進める。

この構成の場合に入力ベクトル41のｘの近似として、
ｙ１＋ｙ２が用いられることになる。ｙ１＝（１−ｋ）ｙ１＋ｋ（ｙ１＋ｙ２）＝ｙ１＋ｋｙ２（12）この方式により、多段ベクトル量子化における学習機
能が実現される。

第２図には、送信側の前段の符号化ベクトル量子化器
10および学習制御部80の一実施例の、より詳細な回路構
成が示されている。この実施例においては、全探索方式
のベクトル量子化を行っており、符号化ベクトル量子化
器60の量子化出力ベクトル72（ｙ２）に、０＜ｋ≦１な
るスカラー定数ｋを乗じて、前段の符号化ベクトル量子
化器10の量子化出力ベクトル42（ｙ１）に加算して、学
習後量子化出力ベクトル85としている。

第２図において、11はインデックス・カウンタであ
り、図示されてはいないクロック発生器からのクロック
を受けてコード・インデックス55を発生する。このコー
ド・インデックス55はコード・ブック記憶部12に印加さ
れ、コード・インデックス55をアドレスとしてデータで
あるコード・ワードを、このコード・ブック記憶部12に
読み書きしている。コード・ブック記憶部12の出力であ
るコード・ワード52はコード・ワード・ラッチ13によっ
てラッチされ、その出力は量子化出力ベクトル42（ｙ
１）として出力される。

インデックス・カウンタ11の出力であるコード・イン
デックス55はコード・インデックス・ラッチ14にも印加
されて、ラッチされ、そこからコード・インデックス45
（ｉ）として出力される。

距離尺度検出部15には、量子化出力ベクトル42となる
べきコード・ワード52（y _i）と入力ベクトル41（ｘ）と
が印加され、印加された両者の距離（歪）尺度が算出さ
れ、スカラー量である距離尺度53が出力される。

この距離尺度53は、最小値ラッチ16に保持されている
最小距離である最小値54と比較部17において比較され、
その結果、距離尺度53の値が小さいときには、コード・
ワード・ラッチ13,コード・インデックス・ラッチ14お
よび最小値ラッチ16の３つのラッチに保持されている値
は更新されて、新しい値が保持される。このように、距
離尺度検出部15、最小値ラッチ16および比較部17は、コ
ード・ブック記憶部12中のコード・ワードから入力ベク
トル41に最も近い値を識別する最小距離識別手段として
作用している。

学習制御部80には、スカラー乗算器81とベクトル加算
器82とがあり、スカラー乗算器81には、後段の量子化出
力ベクトル72（ｙ２）が印加され、ここで０＜ｋ≦１な
るスカラー定数ｋを乗算されて乗算出力ベクトル91（ｋ
ｙ２）が出力され、これと量子化出力ベクトル42（ｙ
１）とがベクトル加算器82で加算されて、学習後量子化
出力ベクトル85（ｙ１＋ｋｙ２）が得られ、コード・ブ
ック記憶部12に加えられる。

学習後量子化ベクトル85を受けたコード・ブック記憶
部12は、全コード・ワードの探索終了時にインデックス
・カウンタ11が出力するキャリー信号51により、学習後
量子化出力ベクトル85（ｙ１＋ｋｙ２）を、コード・イ
ンデックス・ラッチ14が出力するコード・インデックス
45の指示するアドレスに書き込む。このようにして符号
化動作が行われるごとに学習動作が行われる。

後段の符号化ベクトル量子化器60の内部構成は、第５
図の後段の符号化ベクトル量子化器60Bと同じであり、
第２図に示した前段の符号化ベクトル量子化器10と異な
る点は、最終段であるために学習機能を要しないことか
ら、コード・ブック記憶部12に、学習後量子化出力ベク
トル85が印加されていない点であり、その他の構成要素
は同じものを使用することができる。

第３図には、受信側の前段の復号化ベクトル量子化器
110および学習制御部180の一実施例の、より詳細な回路
構成が示されている。復号化ベクトル量子化器160の量
子化出力ベクトル172（ｙ２）に０＜ｋ≦１なるスカラ
ー定数ｋを乗じて前段の復号化ベクトル量子化器110の
量子化出力ベクトル142（ｙ１）に加算して、学習後量
子化出力ベクトル185としている。

第３図において、114はコード・インデックス・ラッ
チであり、伝送手段を介して送信側から送られてくるコ
ード・インデックス45を受けてラッチし、コード・イン
デックス151を出力する。このコード・インデックス151
はコード・ブック記憶部112に印加され、コード・イン
デックス151をアドレスとして、データであるコード・
ワードをこのコード・ブック記憶部112に読み書きする
ことができる。コード・ブック記憶部112の出力である
コード・ワード152は、コード・ワード・ラッチ113によ
ってラッチされ、その出力は量子化出力ベクトル142と
して出力される。

学習制御部180には、スカラー乗算器181とベクトル加
算器182とがあり、後段の量子化出力ベクトル172（ｙ
２）が印加され、ここで０＜ｋ≦１なるスカラー定数ｋ
を乗算されて乗算出力ベクトル191（ｋｙ２）が出力さ
れ、これと量子化出力ベクトル142（ｙ１）とがベクト
ル加算器182で加算されて、学習後量子化出力ベクトル1
85（ｙ１＋ｋｙ２）が得られ、コード・ブック記憶部11
2に加えられる。

学習後量子化ベクトル185を受けたコード・ブック記
憶部112は、学習後量子化出力ベクトル185（ｙ１＋ｋｙ
２）の値を、コード・ワード・ラッチ113の動作タイミ
ングよりも遅れたタイミングで、コード・インデックス
・ラッチ114が指示するコード・インデックス151の指示
するアドレスに書き込む。このようにして復号化動作が
行われるごとに学習動作が行われる。

後段の復号化ベクトル量子化器160の内部構成は、第
５図の後段の復号化ベクトル量子化器160Bと同じであ
り、第３図に示した前段の復号化ベクトル量子化器110
と異なる点は、最終段であるために学習機能を要しない
ことから、コード・ブック記憶部112に、学習後量子化
出力ベクトル185が印加されていない点であり、その他
の構成要素には同じものを使用することができる。

第４図は、Ｍ段の符号化ベクトル量子化器の装置の動
作の流れを示すフローチャートであり、第１図ないし第
３図に示した本発明の実施例の動作においてはＭ＝２で
ある。

動作を開始すると、量子化誤差ベクトル43の値ｄを入
力ベクトル41の値ｘに設定する（S201,第４図）。

そこで第１段目（段数変数ｎ＝１）のベクトル量子化
器における処理の準備をする。（S202）そこで第ｎ段目（ｎ＝１）のベクトル量子化器（10,1
10）において、コード・インデックス（51,151）に指示
されたコード・ブック記憶部（12,112）におけるアドレ
スから、コード・ワード（52,152）を読み出し、ベクト
ル量子化処理を行い、コード・インデックスin（45）と
量子化出力ベクトルｙｎ（42,142）を求め（S203）、量
子化誤差ベクトル（43）ｄ＝ｄ−ｙｎ（ここで、段数変
数ｎ＝１のときはｄ＝ｘ−ｙ１）が得られ、次段の入力
ベクトルとして使われる（S204）。

このベクトル量子化処理が、段数変数ｎ＝１段目のも
のではない場合には（S205NO）、学習制御部（80,180）
からの学習後量子化出力ベクトル（85,185）ｙ（n-1）
を、ｙ（n-1）＋ｋｙｎにして、コード・ブック記憶部1
2,112の書き替えを行い、学習して、次の作業に適応す
る（S206）。

ステップS205で段数変数ｎ＝１であった場合（S205YE
S）、またはステップS206の学習を終了した場合には、
処理すべきベクトル量子化器の段数である段数変数ｎを
ｎ＋１にインクリメントし、（S207）、ｎが総段数Ｍに
達していないときにはステップS203にもどって処理を続
け（S208NO）、段数変数ｎがＭに達したときには作業は
終了する（S208YES）。このようにしてＭ段のベクトル
量子化器の装置の動作は行われる。

第２図の距離尺度検出部15において、入力ベクトル41
（ｘ）のコード・ワード52からの距離を検出する場合
に、所定値を越えてしまうことが発生し得る。このよう
な現象は、コード・ブック記憶部12にすでに格納されて
いるコード・ワード52の示すベクトル値に対して、入力
ベクトル41の値ｘが著しく離れている場合に発生する。
そして、量子化誤差ベクトル43の値も著しく大きなもの
になる。

このような現象が予想される場合には、探索終了時に
距離尺度検出部15において、所定値を越えた入力ベクト
ル41（ｘ）とコード・ワード52の距離を検出したとき
に、この入力ベクトル41の値（ｘ）をコード・ブック記
憶部12に格納すると同時に、この入力ベクトル41の値ｘ
をそのまま受信側にも送り、復号化ベクトル量子化器11
0のコード・ブック記憶部112にも格納することによっ
て、以後の符号化復号化の動作は大きな学習効果を受け
ることが可能となる。

この所定値を越えた入力ベクトル41の値ｘをコード・
ブック記憶部12および112に新たなコード・ワードとし
て格納する場合には、すでに格納されているコード・ワ
ードに追加してもよいし、あるいは使用頻度の最も少な
いコード・ワードを消去し、新たなコード・ワードに置
き替えてもよいことは以上の説明から明らかであろう。

［発明の効果］以上の説明から明らかなように本発明によれば、多段
ベクトル量子化の最終段を除く各段のベクトル量子化器
のコード・ブックを符号化または復号化の処理ごとに１
つのコード・ワードずつ更新を受けることができ、コー
ド・ワードは多次元空間内の近傍に落ちた入力ベクトル
の時間的平均に移動されて、コード・ブック総体では、
入力ベクトルの統計的分布を反映したコード・ワード配
置をもつことが可能になった。この効果は、コード・ブ
ック製作に使用したトレーニング集合と統計的にかなり
性質の異なる入力ベクトル集合が与えられたときに、顕
著なS/N比の向上をもたらす。また、統計的性質が経時
的に変動することに対しても対応することができる。第
１図〜第３図に示した構成で数dBのS/N比向上がもたら
されることを確認した。したがって本発明の効果は極め
て大きい。

【図面の簡単な説明】

第１図は本発明の一実施例を示す回路構成図、第２図は第１図に示した要部の構成要素である送信側の
前段の符号化ベクトル量子化器10および学習制御部80の
一実施例を示す回路構成図、第３図は第１図に示した要部の構成要素である受信側の
前段の復号化ベクトル量子化器110および学習制御部180
の一実施例を示す回路構成図、第４図は第１図ないし第３図に示した実施例の動作の流
れを示すためのフローチャート、第５図は従来の多段ベクトル量子化装置の回路構成図で
ある。 10,10B…符号化ベクトル量子化器（前段） 11…インデックス・カウンタ 12…コード・ブック 13…コード・ワード・ラッチ 14…コード・インデックス・ラッチ 15…距離尺度検出部 16…最小値ラッチ 17…比較部 41…入力ベクトル 42,42B…量子化出力ベクトル 43,43B…量子化誤差ベクトル 45,45B…コード・インデックス 51…キャリー信号 52…コード・ワード 53…距離尺度ベクトル 54…最小値ベクトル 55…コード・インデックス 60,60B…符号化ベクトル量子化器（次段） 72,72B…量子化出力ベクトル 75,75B…コード・インデックス 80…学習制御部 81…スカラー乗算器 82…ベクトル加算器 85…学習後量子化出力ベクトル 91…乗算出力ベクトル 110,110B…復号化ベクトル量子化器（前段） 112…コード・ブック記憶部 113…コード・ワード・ラッチ 114…コード・インデックス・ラッチ 151…コード・インデックス 152…コード・ワード 160,160B…復号化ベクトル量子化器（次段） 169,169B…総合量子化出力ベクトル 172…量子化出力ベクトル 180…学習制御部 181…スカラー乗算器 182…ベクトル加算器 191…乗算出力ベクトル

Claims

【特許請求の範囲】

【請求項１】量子化出力ベクトルとなるべき複数のコー
ド・ワードと、前記コード・ワードに対応するコード・
インデックスとをコード・ブック（12,112）に格納し、入力ベクトルが前記コード・ブック中のどのコード・ワ
ードにより近いかを所定の尺度により識別して、選択さ
れたコード・ワードとそれに対応するコード・インデッ
クスを出力する複数のベクトル量子化手段を有し、前段
のベクトル量子化手段（10,110）の量子化誤差ベクトル
を後段のベクトル量子化手段（60,160）の入力ベクトル
とすることのある多段ベクトル量子化方法において、前記前段のベクトル量子化手段において前記選択された
コード・ワードに対して、前記後段の出力ベクトルであ
るコード・ワードを用いて学習適応を行うようにした学習型多段ベクトル量子化方法。
【請求項２】前記後段のベクトル量子化手段の出力ベク
トルであるコード・ワード（72,172）に１以内の正のス
カラー定数を乗じて前記前段のベクトル量子化手段にお
いて選択されたコード・ワードに加算して学習適応を行
うようにした請求項１記載の学習型多段ベクトル量子化
方法。
【請求項３】前記前段のベクトル量子化手段の量子化誤
差ベクトルの絶対値が所定の値を越えない場合に、前記
後段のベクトル量子化手段の出力ベクトルであるコード
・ワードに１以内の正のスカラー定数を乗じて、前記前
段のベクトル量子化手段において前記選択されたコード
・ワードに加算する学習適応を行い、前記前段のベクトル量子化手段の量子化誤差ベクトルの
絶対値が所定の値を越えてしまうような入力ベクトルを
受けた場合には、前記入力ベクトルの符号化を行う送信
側から復号化を行う受信側へ伝送し、送信側および受信
側における前段のベクトル量子化手段（10,110）の有す
るコード・ブック（12,112）に前記入力ベクトルを格納
するようにした請求項１記載の学習型多段ベクトル量子
化方法。
【請求項４】量子化出力ベクトルとなるべき複数のコー
ド・ワードと、前記コード・ワードに対応するコード・
インデックスとを格納するコード・ブック（12,112）
と、入力ベクトルが前記コード・ブック中のどのコード
・ワードにより近いかを所定の尺度により識別して選択
する最小尺度検出手段（15,16,17）と、前記選択されたコード・ワードを出力するための出力手
段（13,113）とを含む複数のベクトル量子化手段を含
み、符号化において前段のベクトル量子化手段（10,11
0）の量子化誤差ベクトルを後段のベクトル量子化手段
（60,160）の入力ベクトルとすることのある多段接続さ
れた多段ベクトル量子化装置において、前記前段のベクトル量子化手段において前記選択された
コード・ワードに対して、前記後段のベクトル量子化手
段の出力ベクトルであるコード・ワードを用いて学習適
応を行わせて前記コード・ブックに対して学習後量子化
出力ベクトルを出力するための学習制御手段（80,180）を具備した学習型多段ベクトル量子化装置。
【請求項５】前記学習制御手段が、前記後段のベクトル量子化手段の出力ベクトルであるコ
ード・ワード（72,172）に１以内の正のスカラー定数を
乗じて前記前段のベクトル量子化手段において選択され
たコード・ワードに加算して前記学習後量子化出力ベク
トルを出力するものである請求項４記載の学習型多段ベ
クトル量子化装置。
【請求項６】前記学習制御手段が、前記後段のベクトル量子化手段の出力ベクトルであるコ
ード・ワードに１以内の正のスカラー定数を乗じて乗算
出力（91,191）を得るためのスカラー乗算手段（81,18
1）と、前記前段のベクトル量子化手段において選択されたコー
ド・ワードと前記乗算出力とを加算して前記学習後量子
化出力ベクトルを出力するためのベクトル加算手段（8
2,182）とを含むものである請求項５記載の学習型多段ベクトル量
子化装置。
【請求項７】前記学習制御手段が、送信側の前段のベクトル量子化手段における量子化誤差
ベクトルの絶対値が所定の値を越えてしまうような入力
ベクトルを受けた場合に、前記入力ベクトルを、前記入
力ベクトルの符号化を行う送信側から復号化を行う受信
側へ伝送し、送信側および受信側における前段のベクト
ル量子化手段（10,110）の有するコード・ブック（12,1
12）に前記入力ベクトルを格納し、かつ前記学習適応を
行うものである請求項４記載の学習型多段ベクトル量子
化装置。